培訓(xùn)內(nèi)容:
課程收益:
隨著互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展,我們已經(jīng)切實地迎來了一個大數(shù)據(jù)相關(guān)內(nèi)容導(dǎo)讀“大數(shù)據(jù)”互聯(lián)網(wǎng)金融與大數(shù)據(jù)實踐上海2016-4-8(1天)
互聯(lián)網(wǎng)金融與大數(shù)據(jù)實踐課程,旨在幫助學(xué)員了解了其他行業(yè)的新游戲規(guī)則,開眼界,新視角,對互聯(lián)網(wǎng)金融有了新的認識!大數(shù)據(jù)時代的績效管理—精細化人力資源蘇州2016-4-10(2天)
精細化人力資源課程通過業(yè)務(wù)數(shù)據(jù)和人力資源實戰(zhàn)流程分析,提高人力資源策略的制定和執(zhí)行跟蹤的能力,達到以業(yè)務(wù)數(shù)據(jù)分析和跟蹤為依據(jù)的績效指標(biāo)設(shè)定和管理,使人力資源績效管理真正成為戰(zhàn)略和策略工具。
互聯(lián)網(wǎng)+時代培訓(xùn)體系建立及工具……
課程大綱:
第一講、Spark大數(shù)據(jù)實時處理技術(shù)
1)大數(shù)據(jù)處理技術(shù)
2)Spark實時處理技術(shù)
3)Spark生態(tài)系統(tǒng)BDAS
4)Spark架構(gòu)分析
第二講、Spark安裝配置及監(jiān)控
1)Ubuntu環(huán)境的準(zhǔn)備
2)Hadoop2.X和Scala
3)搭建Spark開發(fā)環(huán)境
4)Idea編譯和運行
5)Spark監(jiān)控管理
第三講、Scala編程語言使用概述
1)Scala編程語言
2)基本數(shù)據(jù)類型
3)操作基本數(shù)據(jù)類型
4)類和對象
5)組合和繼承
第四講、Spark分布式計算框架
1)Spark計算模型
2)彈性分布式數(shù)據(jù)集RDD
3)Spark的數(shù)據(jù)存儲
4)Transformation算子分類及功能
5)Actions算子分類及功能
第五講、Spark內(nèi)部工作機制詳解
1)Spark底層實現(xiàn)原理
2)Spark應(yīng)用執(zhí)行機制
3)Spark調(diào)度與任務(wù)分配模塊
4)FIFO和FAIR調(diào)度算法
第六講、Spark數(shù)據(jù)讀取與存儲
1)Spark的I/O機制
2)Spark中的數(shù)據(jù)壓縮
3)Spark的數(shù)據(jù)讀取與存儲
4)Spark數(shù)據(jù)讀寫流程
第七講、Spark通信模塊和容錯機制
1)Spark通信模塊
2)通信框架AKKA
3)容錯機制和Lineage依賴
4)檢查點機制進行容錯
5)Shuffle過程
第八講、SQLOnSpark
1)BDAS數(shù)據(jù)分析軟件棧
2)SQLOnSpark
3)SparkSQL工具使用
4)Shark工具使用
5)HiveonSpark工具
6)Spark操作HBase中的數(shù)據(jù)
第九講、Spark流數(shù)據(jù)處理工具Streaming
1)流數(shù)據(jù)處理工具Streaming
2)SparkStreaming架構(gòu)
3)SparkStreaming原理
4)SparkStreaming實例
第十講、Spark中的大數(shù)據(jù)挖掘工具MLlib
1)大數(shù)據(jù)挖掘工具MLlib
2)MLlib的數(shù)據(jù)存儲
3)MLlib中的聚類和分類
4)MLlib算法應(yīng)用實例
5)利用MLlib進行推薦
第十一講、Spark大規(guī)模圖處理工具GraphX
1)大規(guī)模圖處理工具GraphX
2)GraphX的運行架構(gòu)
3)GraphX操作使用
4)GraphX使用實例
第十二講、Spark與其他大數(shù)據(jù)技術(shù)的融合與應(yīng)用
1)與Hadoop/Yarn集群應(yīng)用的協(xié)作
2)與Docker等其它云工具配合
3)Spark在Yahoo!的應(yīng)用
4)Spark在電商中的應(yīng)用
培訓(xùn)師介紹:
由業(yè)界知名云計算專家親自授課:
楊老師主要研究網(wǎng)絡(luò)信息分析以及云計算相關(guān)技術(shù),長期從事數(shù)據(jù)倉庫、數(shù)據(jù)挖掘以及大數(shù)據(jù)分析技術(shù)研究,主持和參與了多個國家和省部級基金項目,具有豐富的工程實踐及軟件研發(fā)經(jīng)驗。
課程對象
1,系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級程序員、資深開發(fā)人員。
2,牽涉到大數(shù)據(jù)處理的數(shù)據(jù)中心運行、規(guī)劃、設(shè)計負責(zé)人。
3,政府機關(guān),金融保險、移動和互聯(lián)網(wǎng)等大數(shù)據(jù)來源單位的負責(zé)人。
4,高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項目負責(zé)人。
學(xué)員基礎(chǔ)1,對IT系統(tǒng)設(shè)計有一定的理論與實踐經(jīng)驗。
2,數(shù)據(jù)倉庫與數(shù)據(jù)挖掘處理有一定的基礎(chǔ)知識。