課程描述INTRODUCTION
大(da)數據(ju)實戰(zhan)培訓班
日程安排SCHEDULE
課程大綱(gang)Syllabus
大數據實戰培訓班
【課程簡介】
大(da)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)建模(mo)(mo)與(yu)分析(xi)挖掘(jue)(jue)技術已經(jing)逐步(bu)地應(ying)(ying)用到新(xin)興互(hu)聯(lian)網(wang)企業(ye)(如(ru)電子商務(wu)網(wang)站、搜(sou)索引擎、社交網(wang)站、互(hu)聯(lian)網(wang)廣告服務(wu)提供(gong)(gong)商等)、銀行(xing)金融證券企業(ye)、電信運營等行(xing)業(ye),給(gei)這些行(xing)業(ye)帶(dai)來(lai)了(le)一(yi)定(ding)的(de)(de)(de)(de)(de)(de)(de)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)價值(zhi)增值(zhi)作用。本(ben)(ben)次課程(cheng)面向有一(yi)定(ding)的(de)(de)(de)(de)(de)(de)(de)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)分析(xi)挖掘(jue)(jue)算(suan)法(fa)(fa)基(ji)(ji)礎(chu)的(de)(de)(de)(de)(de)(de)(de)工程(cheng)師,帶(dai)大(da)家實(shi)踐大(da)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)分析(xi)挖掘(jue)(jue)平臺的(de)(de)(de)(de)(de)(de)(de)項目(mu)訓練,系(xi)(xi)統(tong)地講(jiang)(jiang)解數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)準備、數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)建模(mo)(mo)、挖掘(jue)(jue)模(mo)(mo)型建立、大(da)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)分析(xi)與(yu)挖掘(jue)(jue)算(suan)法(fa)(fa)應(ying)(ying)用在業(ye)務(wu)模(mo)(mo)型中(zhong),結合主(zhu)流的(de)(de)(de)(de)(de)(de)(de)Hadoop與(yu)Spark大(da)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)分析(xi)平臺架構,實(shi)現項目(mu)訓練。結合業(ye)界使用最廣泛的(de)(de)(de)(de)(de)(de)(de)主(zhu)流大(da)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)平臺技術,重點(dian)剖析(xi)基(ji)(ji)于大(da)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)分析(xi)算(suan)法(fa)(fa)與(yu)BI技術應(ying)(ying)用,包括分類算(suan)法(fa)(fa)、聚類算(suan)法(fa)(fa)、預測分析(xi)算(suan)法(fa)(fa)、推(tui)(tui)薦分析(xi)模(mo)(mo)型等在業(ye)務(wu)中(zhong)的(de)(de)(de)(de)(de)(de)(de)實(shi)踐應(ying)(ying)用,并根據(ju)(ju)(ju)(ju)(ju)講(jiang)(jiang)師給(gei)定(ding)的(de)(de)(de)(de)(de)(de)(de)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)集(ji),實(shi)現兩個基(ji)(ji)本(ben)(ben)的(de)(de)(de)(de)(de)(de)(de)日(ri)志數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)分析(xi)挖掘(jue)(jue)系(xi)(xi)統(tong),以及電商(或內容)推(tui)(tui)薦系(xi)(xi)統(tong)引擎。本(ben)(ben)課程(cheng)基(ji)(ji)本(ben)(ben)的(de)(de)(de)(de)(de)(de)(de)實(shi)踐環境是(shi)Linux集(ji)群(qun),JDK1.8, Hadoop 2.7.*,Spark 2.1.*。學(xue)員(yuan)(yuan)需要準備的(de)(de)(de)(de)(de)(de)(de)電腦(nao)最好(hao)是(shi)i5及以上CPU,4GB及以上內存,硬(ying)盤空間預留50GB(可用移動硬(ying)盤),基(ji)(ji)本(ben)(ben)的(de)(de)(de)(de)(de)(de)(de)大(da)數(shu)(shu)據(ju)(ju)(ju)(ju)(ju)分析(xi)平臺所依(yi)(yi)賴(lai)的(de)(de)(de)(de)(de)(de)(de)軟(ruan)件(jian)包和依(yi)(yi)賴(lai)庫(ku)等,講(jiang)(jiang)師已經(jing)提前(qian)部署在虛擬(ni)機(ji)鏡像(xiang)(xiang)(VMware鏡像(xiang)(xiang)),學(xue)員(yuan)(yuan)根據(ju)(ju)(ju)(ju)(ju)講(jiang)(jiang)師的(de)(de)(de)(de)(de)(de)(de)操(cao)作任(ren)務(wu)進行(xing)實(shi)踐。本(ben)(ben)課程(cheng)采用技術原理與(yu)項目(mu)實(shi)戰相結合的(de)(de)(de)(de)(de)(de)(de)方式進行(xing)教(jiao)學(xue),在講(jiang)(jiang)授原理的(de)(de)(de)(de)(de)(de)(de)過程(cheng)中(zhong),穿插實(shi)際的(de)(de)(de)(de)(de)(de)(de)系(xi)(xi)統(tong)操(cao)作,本(ben)(ben)課程(cheng)講(jiang)(jiang)師也精心準備的(de)(de)(de)(de)(de)(de)(de)實(shi)際的(de)(de)(de)(de)(de)(de)(de)應(ying)(ying)用案例供(gong)(gong)學(xue)員(yuan)(yuan)動手訓練。
【培訓目標】
1.讓學員掌握常見的機器學習算法,深入講解業界成熟的大數據分析挖掘與BI平臺的實踐應用,并以客戶分析系統、日志分析和電商推薦系統為案例,串聯常用的數據挖掘技術進行應用教學。
2.本課程讓學員充分掌握大數據平臺技術架構、大數據分析的基本理論、機器學習的常用算法、國內外主流的大數據分析與BI商業智能分析解決方案、以及大數據分析在搜索引擎、廣告服務推薦、電商數據分析、金融客戶分析方面的應用案例。
3.本課(ke)程強調(diao)主流(liu)的(de)(de)(de)(de)大數(shu)(shu)據(ju)(ju)分(fen)析(xi)(xi)(xi)挖掘算法技術(shu)的(de)(de)(de)(de)應(ying)(ying)用(yong)(yong)和(he)(he)分(fen)析(xi)(xi)(xi)平臺的(de)(de)(de)(de)實(shi)施,讓(rang)學員掌握主流(liu)的(de)(de)(de)(de)基于(yu)大數(shu)(shu)據(ju)(ju)Hadoop和(he)(he)Spark、R的(de)(de)(de)(de)大數(shu)(shu)據(ju)(ju)分(fen)析(xi)(xi)(xi)平臺架構和(he)(he)實(shi)際(ji)應(ying)(ying)用(yong)(yong),并用(yong)(yong)結合實(shi)際(ji)的(de)(de)(de)(de)生產(chan)系(xi)統案例(li)進行教(jiao)學,掌握基于(yu)Hadoop大數(shu)(shu)據(ju)(ju)平臺的(de)(de)(de)(de)數(shu)(shu)據(ju)(ju)挖掘和(he)(he)數(shu)(shu)據(ju)(ju)倉庫分(fen)布(bu)式系(xi)統平臺應(ying)(ying)用(yong)(yong),以及商業和(he)(he)開源的(de)(de)(de)(de)數(shu)(shu)據(ju)(ju)分(fen)析(xi)(xi)(xi)產(chan)品加上Hadoop平臺形成大數(shu)(shu)據(ju)(ju)分(fen)析(xi)(xi)(xi)平臺的(de)(de)(de)(de)應(ying)(ying)用(yong)(yong)剖(pou)析(xi)(xi)(xi)。
【培訓人群】
1.大數據分析應用開發工程師
2.大數據分析項目的規劃咨詢管理人員
3.大數據分析項目的IT項目高管人員
4.大數據分析與挖掘處理算法應用工程師
5.大數據分析集群運維工程師
6.大數據分(fen)析(xi)項目的售前和售后(hou)技術支(zhi)持服務人(ren)員
【詳細大綱與培訓內容】
兩個完整的項目任務和實踐案例(重點)
1.日志分析建模與日志挖掘項目實踐
a)Hadoop,Spark,并結合ELK技術構建日志分析系統和日志數據倉庫
b)互聯網微博日志分析系統項目
2.推薦系統項目實踐
a)電影數據分析與個性化推薦關聯分析項目
b)電商購物籃分析項目
Hadoop,Spark,可結合Oryx分布式集群在個性化推薦和精準營銷項目。
項目的階段性步驟貫穿到三天的培訓過程中,第三天完成整個項目的原型
培訓內容安排如下:
時間
內容提要
授課詳細內容
實踐訓練
第一天
業界主流的數據倉庫工具和大數據分析挖掘工具
■業界主流的基于Hadoop和Spark的大數據分析挖掘項目解決方案
■業界數據倉庫與數據分析挖掘平臺軟件工具
■Hadoop數據倉庫工具Hive
■Spark實時數據倉庫工具SparkSQL
■Hadoop數據分析挖掘工具Mahout
■Spark機器學習與數據分析挖掘工具MLlib
■大數據分析挖掘項目的實施步驟
配置數據倉庫工具Hadoop Hive和SparkSQL
部署數據分析挖掘工具Hadoop Mahout和Spark MLlib
大數據分析挖掘項目的數據集成操作訓練
■日志數據解析和導入導出到數據倉庫的操作訓練
■從原始搜索數據集中抽取、集成數據,整理后形成規范的數據倉庫
■數據分析挖掘模塊從大型的集中式數據倉庫中訪問數據,一個數據倉庫面向一個主題,構建兩個數據倉庫
■同一個數據倉庫中的事實表數據,可以給多個不同類型的分析挖掘任務調用
■去除噪聲
項目數據集加載ETL到Hadoop Hive數據倉庫并建立多維模型
基于Hadoop的大型數據倉庫管理平臺—HIVE數據倉庫集群的多維分析建模應用實踐
■基于Hadoop的大型分布式數據倉庫在行業中的數據倉庫應用案例
■Hive數據倉庫集群的平臺體系結構、核心技術剖析
■Hive Server的工作原理、機制與應用
■Hive數據倉庫集群的安裝部署與配置優化
■Hive應用開發技巧
■Hive SQL剖析與應用實踐
■Hive數據倉庫表與表分區、表操作、數據導入導出、客戶端操作技巧
■Hive數據倉庫報表設計
■將原始的日志數據集,經過整理后,加載至Hadoop + Hive數據倉庫集群中,用于共享訪問
利用HIVE構建大型數據倉庫項目的操作訓練實踐
Spark大數據分析挖掘平臺實踐操作訓練
■Spark大數據分析挖掘平臺的部署配置
■Spark數據分析庫MLlib的開發部署
■Spark數據分析(xi)挖掘示例操(cao)作,從(cong)Hive表中讀取數據并在分布(bu)式內(nei)存中運(yun)行
第二天
聚類分析建模與挖掘算法的實現原理和技術應用
■聚類分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:Canopy聚類(canopy clustering)
■K均值算法(K-means clustering)
■模糊K均值(Fuzzy K-means clustering)
■EM聚類,即期望*化聚類(Expectation Maximization)
■以上算法在Spark MLib中的實現原理和實際場景中的應用案例。
■Spark聚類分析算法程序示例
基于Spark MLlib的聚類分析算法,實現日志數據集中的用戶聚類
分類分析建模與挖掘算法的實現原理和技術應用
■分類分析建模與算法原理及其在Spark MLlib中的實現與應用, 包括:Spark決策樹算法實現
■邏輯回歸算法(logistics regression)
■貝葉斯算法(Bayesian與Cbeyes)
■支持向量機(Support vector machine)
■以上算法在Spark MLlib中的實現原理和實際場景中的應用案例。
■Spark客戶資料分析與給用戶貼標簽的程序示例
■Spark實現給商品貼標簽的程序示例
■Spark實現用戶行為的自動標簽和深度技術
基于Spark MLlib的分類分析算法模型與應用操作
關聯分析建模與挖掘算法的實現原理和技術應用
■預測、推薦分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:Spark頻繁模式挖掘算法(parallel FP Growth Algorithm)應用
■Spark關聯規則挖掘(Apriori)算法及其應用
■以上算法在Spark MLib中的實現原理和實際場景中的應用案例。
■Spark關聯分析程序示例
基于Spark MLlib的關聯分析操作
第三天
推薦分析挖掘模型與算法技術應用
■推薦算法原理及其在Spark MLlib中的實現與應用,包括:Spark協同過濾算法程序示例
■Item-based協同過濾與推薦
■User-based協同過濾與推薦
■交叉銷售推薦模型及其實現
推薦分析實現步驟與操作(重點)
回歸分析模型與預測算法
■利用線性回歸(多元回歸)實現訪問量預測
■利用非線性回歸預測成交量和訪問量的關系
■基于R+Spark實現回歸分析模型及其應用操作
■Spark回歸程序實現異常點檢測的程序示例
回歸分析預測操作例子
圖關系建模與分析挖掘及其鏈接分析和社交分析操作
■利用Spark GraphX實現網頁鏈接分析,計算網頁重要性排名
■實現信息傳播的社交關系傳遞分析,互聯網用戶的行為關系分析任務的操作訓練
圖數據的分析挖掘操作,實現微博數據集的社交網絡建模與關系分析
神經網絡與深度學習算法模型及其應用實踐
■神經網絡算法Neural Network的實現方法和挖掘模型應用
■基于人工神經網絡的深度學習的訓練過程,傳統神經網絡的訓練方法
■Deep Learning的訓練方法
■深度學習的常用模型和方法CNN(Convolutional Neural Network)卷積神經網絡
■RNN(Recurrent Neural Network)循環神經網絡模型
■Restricted Boltzmann Machine(RBM)限制波爾茲曼機
■基于Spark的深度學習算法模型庫的應用程序示例
基于Spark或TensorFlow神經網絡深度學習庫實現文本與圖片數據挖掘
項目實踐
■日志分析系統與日志挖掘項目實踐Hadoop,Spark,ELK技術構建日志數據倉庫
■互聯網微博日志分析系統項目
■推薦系統項目實踐。電影數據分析與個性化推薦關聯分析項目
項目數據集和詳細的實驗指導手冊由講師提供
培訓總結
■項目方案的課堂討論,討論實際業務中的分析需求,剖析各個環節的難點、痛點、瓶頸,啟發出解決之道;完成講師布置的項目案例,鞏固學過的大數據分析挖掘處理平臺技術知識以及應用技能
討論交流
【講師介紹】
周老師,男,中國科學院通信與信息系統專業博士。北京郵電大學移動互聯網與信息化實驗室特聘研究員、對外經貿大學信息學院特聘兼職教師、中國移動集團高級培訓講師,長期從事大數據、4G、移動互聯網安全、管理及大數據*營銷等研究方向。國內*信息系統架構師,金牌講師,技術顧問,移動開發專家。擁有豐富的通信信息系統設計、開發經驗及培訓行業經驗,先后為全國超過15家省移動公司,超過30家地市移動公司有過項目開發合作及授課,擔任多個大型通信項目的總師。
鐘老師,男,博士畢業(ye)于中國(guo)(guo)科學院,獲工(gong)學博士學位(計算(suan)機系(xi)統結構方(fang)向),曾(ceng)在國(guo)(guo)內某高校和某大型通信企業(ye)工(gong)作(zuo)(zuo)(zuo)過,目前在中國(guo)(guo)科學院某研(yan)究所工(gong)作(zuo)(zuo)(zuo),高級(ji)工(gong)程師,副研(yan)究員(yuan),課題組長,團(tuan)隊成員(yuan)二十余人。大數(shu)據、云(yun)計算(suan)系(xi)列課程建設與教(jiao)學專家,新技(ji)術課程開發組長。近八年(nian)來帶領團(tuan)隊主要(yao)從事大數(shu)據管理與高性能分(fen)析處理(Hadoop、Spark、Storm)、大數(shu)據倉庫(HIVE)和實時數(shu)據倉庫(SparkSQL、Shark),大數(shu)據建模(mo)挖(wa)掘與機器學習(xi)(Mahout、MLib、Oryx、Pentaho BI、SAS、SPSS、R等)、MPP并行數(shu)據倉庫(Greenplum etc)、NoSQL與NewSQL分(fen)布(bu)式數(shu)據庫(Hbase、MongoDB、Cassandra etc)、(移動)電子商務平臺(tai)、大數(shu)據搜索平臺(tai)(ElasticSearch、Solr、Lucene等)、云(yun)計算(suan)與虛擬化(hua)(OpenStack,VMware,XenServer,CloudStack,KVM,Docker,SaaS服務)、云(yun)存儲(chu)系(xi)統、Swift對象存儲(chu)系(xi)統、網(wang)絡(luo)GIS地圖服務器、互聯網(wang)+在線教(jiao)育云(yun)平臺(tai)方(fang)面的項目研(yan)發與管理工(gong)作(zuo)(zuo)(zuo)。
大數據實戰培訓班
轉載://citymember.cn/gkk_detail/35600.html
已開課時間Have start time
大數據課程內訓
- 《精細運營——京東/天貓平 武建偉
- 《流量神器,銷量升級:如何 武建(jian)偉
- 《大數據精益化營銷思維與運 喻國慶
- 《銀行--網絡消費行為與網 武(wu)建(jian)偉(wei)
- 數據創造價值——大數據分析 張曉如(ru)
- 建材門店--微信獲客與運營 武建偉
- 能源電力企業數字化轉型探索 李開東
- 大數據項目解決方案及應用 胡國慶
- 大數據提升:用戶體驗提升與 武建偉
- 企業區塊鏈技術的應用場景與 李璐(lu)
- 《大數據分析與客戶開發》 喻國慶
- 數據驅動價值 ——基于Ex 張曉如