課程(cheng)描述INTRODUCTION
大數據分析與可視化技術應用公開課
日(ri)程安排SCHEDULE
課程大綱Syllabus
大數據分析與可視化技術應用公開課
培訓重點
1.數據分析實戰
2.數據挖掘理論及核心技術
3.大數據算法原理及案例實現
4.Python應用實戰
培訓特色
1.理論與實踐相結合、案例分析與行業應用穿插進行;
2.專家精彩內容解析、學員專題討論、分組研究;
3.通過全面知識理解、專題技(ji)能和實踐結(jie)合的授課方式。
日程安排
第一天
數據分析實戰
第一講 零基礎學Python 講解Python背景、國內發展狀況、基礎語法、數據結構及繪圖操作等內容。特別針對向量計算這塊,著重介紹Python在這方面的優勢及用法。
第二講 數據分析方法論 講解統計分析基礎,包括統計學基本概念,假設檢驗,置信區間等基礎,并結合數據案例說明其使用場景和運用方法。介紹數據分析流程和常見分析思路,并結合案例進行講解。
第三講 數據處理技法 從數據接入、數據統計、數據轉換等幾個方面進行講解。數據接入包含接入MySQL、Oracle、Hadoop等常見數據庫操作;數據統計包含Pandas包的具體用法和講解;數據轉換包含對數據集的關聯、合并、重塑等操作。此外,針對海量數據的情況下,介紹在Spark平臺上的數據處理技術,并結合真實環境進行操作講解。
數據挖掘理論及核心技術
第四講 認識數據挖掘 講解數據挖掘基本概念,細致講解業務理解、數據理解、數據準備、建立模型、模型評估、模型部署各環節的工作內容及相關技術;結合業界經典場景,講解數據挖掘的實施流程和方法體系。
第五(wu)講(jiang)(jiang) 數據挖(wa)掘核(he)心技術 細致講(jiang)(jiang)解(jie)抽樣(yang)、分區、樣(yang)本(ben)平(ping)衡、特(te)征(zheng)選(xuan)(xuan)擇、訓練模(mo)型(xing)、評估模(mo)型(xing)等數據挖(wa)掘核(he)心技術原理,并結合(he)(he)案例(li)講(jiang)(jiang)解(jie)其具體實現(xian)和用法(fa)。尤其針對樣(yang)本(ben)平(ping)衡,重點講(jiang)(jiang)解(jie)人工(gong)合(he)(he)成、代價敏感(gan)等算法(fa);針對特(te)征(zheng)選(xuan)(xuan)擇,重點講(jiang)(jiang)解(jie)特(te)征(zheng)選(xuan)(xuan)擇的核(he)心思(si)路,并結合(he)(he)Python進行案例(li)演示。
第二天
大數據算法原理及案例實現(1)
第六講 特征降維算法及Python實現 降維是大數據分析非常重要的算法 ,它可以在降低極少信息量的情況下,極大地縮小數據規模。主要講解主成分、LDA以及t-SNE原理,并結合案例進行Python實現。特別地,針對海量數據情況下的應用場景,講解實現思路和Python案例。
第七講 決策樹算法及Python實現 決策樹是非常經典的算法 ,一般常見于小數據的挖掘。由于決策樹具有極強的可解釋性,針對海量數據仍然是非常重要的實用價值。主要講解ID3、C4.5、C5.0以及CART決策樹算法的實現原理,并結合案例進行Python實現。
第八講 基于乳腺(xian)癌數據進(jin)(jin)(jin)行降(jiang)維(wei)分析并建立(li)分類(lei)模型(xing) 實戰部分:基于乳腺(xian)癌數據進(jin)(jin)(jin)行降(jiang)維(wei)處理,并嘗試(shi)建立(li)分類(lei)評估模型(xing)。旨在(zai)通過(guo)該(gai)模型(xing),并潛在(zai)的乳腺(xian)癌患者進(jin)(jin)(jin)行識別。
大數據算法原理及案例實現(2)
第九講 因果推理算法及Python實現 大數據分析技術可以幫助我們去發現、解決一些業務問題,然而如何去判斷我們的改進是否生效,是否在業務指標上呈現過一定的因果邏輯,則是一個重要問題和分析方向。本節主要介紹因果推理算法,包括貝葉斯推理、狀態空間模型以及CausalImpact工具等內容,并結合案例進行Python實現。
第十講 深度學習算法及Python實現 對于大數據的建模任務,我們可以基于深度學習來實現,不僅能夠針對海量數據進行建模,其效果也非常不錯。本節主要講解深度學習的發展歷程,DBN、DNN等經典深度學習算法,深度學習優化算法以及一些技巧。同時,介紹Keras庫的使用方法,并結合案例進行Python實現。
第十一(yi)講 Lending Club信(xin)貸(dai)違約分(fen)析(xi)案(an)例 實戰(zhan)部(bu)分(fen):基于(yu)Lending Club信(xin)貸(dai)違約數(shu)據,嘗試(shi)從多個(ge)不同(tong)(tong)的維度進行數(shu)據分(fen)析(xi),旨在發現一(yi)些有(you)價值的信(xin)息,同(tong)(tong)時基于(yu)該數(shu)據,經過一(yi)定的處理(li),建立信(xin)貸(dai)違約識別(bie)模(mo)型,旨在對信(xin)貸(dai)業務(wu)辦理(li)提供(gong)模(mo)型支持(chi),降低違約風(feng)險。
第三天
Python應用實戰(一)
第十二講 Python自然語言處理原理及案例
目前文檔數據已經成為很多企業重要的資產,通過對文檔數據進行解析、建模、分析、挖掘、可視化,我們能夠發現不一樣的洞察。本節主要講解自然語言處理基本概念和技法,包含分詞、關鍵字提取、文摘提取、文本分類、主題模型、word2vec等內容。介紹在深度學習的加持下,與傳統做法的區別,并使用Python進行案例講解。
第十三講 數據分析圖表及Python案例
數據(ju)(ju)可(ke)(ke)(ke)視化是大數據(ju)(ju)分(fen)(fen)析(xi)的(de)(de)重(zhong)要(yao)手(shou)段,通過(guo)合理地使(shi)用(yong)圖表(biao),不(bu)(bu)僅可(ke)(ke)(ke)以(yi)簡潔地表(biao)達數據(ju)(ju)的(de)(de)含義,高效地發現問題,還可(ke)(ke)(ke)以(yi)為報告(gao)的(de)(de)編寫(xie)以(yi)及(ji)數據(ju)(ju)分(fen)(fen)析(xi)web應(ying)用(yong)增色不(bu)(bu)少。本節主要(yao)講解(jie)常用(yong)的(de)(de)數據(ju)(ju)分(fen)(fen)析(xi)圖表(biao)及(ji)其使(shi)用(yong)場(chang)景(jing)(jing),介紹數據(ju)(ju)可(ke)(ke)(ke)視化的(de)(de)方法論(lun),避免生搬硬套的(de)(de)使(shi)用(yong)圖表(biao),針對不(bu)(bu)同的(de)(de)業務(wu)場(chang)景(jing)(jing)和需求,合理選擇可(ke)(ke)(ke)視化方法。介紹的(de)(de)工具不(bu)(bu)限于(yu)matplotlib、pycha、pyecharts、ggplot、Bokeh、HoloViews、mpld3、plotly、pygal等常用(yong)可(ke)(ke)(ke)視化庫。
Python應用實戰(二)
第十四講 使用Notebook編寫數據分析報告 數據分析報告在大數據分析過程中具有重要價值,它體現了大數據分析的目的、過程和結果,以及對發現問題的解讀、改進方案等等,本節主要講解使用Notebook編寫數據分析報告的具體方法,以及編寫數據分析報告的方法論,并結合案例講解其用法。
第十五講(jiang)(jiang) Dash可視(shi)化開發實(shi)(shi)戰 Dash是一款不錯的(de)框架,可以基于(yu)Dash快速開發一個輕量(liang)級(ji)(ji)的(de)數(shu)據(ju)分(fen)析(xi)(xi)(xi)web應(ying)用(yong)。在網頁中嵌(qian)入圖表(biao)、數(shu)據(ju)以及分(fen)析(xi)(xi)(xi)的(de)算法(fa),非常(chang)適合打造企(qi)業(ye)內部(bu)的(de)敏(min)捷數(shu)據(ju)分(fen)析(xi)(xi)(xi)工具集。本節主要介紹Dash的(de)UI、Server、Reactivity、控件等內容,同時講(jiang)(jiang)解(jie)一個用(yong)Dash實(shi)(shi)現數(shu)據(ju)分(fen)析(xi)(xi)(xi)功能(neng)(兼(jian)圖表(biao))的(de)實(shi)(shi)際案例,搭建服務(wu)器(qi),在企(qi)業(ye)內部(bu)實(shi)(shi)現輕量(liang)級(ji)(ji)數(shu)據(ju)分(fen)析(xi)(xi)(xi)應(ying)用(yong)。
第四天學習考核與業內經驗交流
授課專家
游老師 計算機碩士,大數據分析、挖掘、可視化專家,高級培訓講師,曾服務于華為技術有限公司等多家企業,專注于機器學習、數據挖掘、大數據、知識圖譜等領域的研究、設計與實現,在互聯網、電信、電力、軍工等行業具有豐富的工程實踐經驗,對空間分析、欺詐檢測、廣告反作弊、推薦系統、客戶畫像、客戶營銷建模、知識抽取、智能問答、可視化分析、預測分析、系統架構、大數據端到端解決方案等方面具有深刻理解,多次作為Python語言會議重要嘉賓出席會議并發表主題演講,著有《R語言預測實戰》等多本書籍。
王老師 某集團上市公司數據分析部負責人,主要利用Python語言進行大數據的挖掘和可視化工作。從事數據挖掘建模工作已有10年,曾經從事過咨詢、電商、金融、電購、電力、游戲等行業,了解不同領域的數據特點。有豐富的利用R語言進行數據挖掘實戰經驗,部分研究成果曾獲得國家專利。
俞老師 計算機博士,目前主要研究方向包括電子推薦、智能決策和大數據分析等。主持國家自然科學基金2項、中國博士后科研基金、上海市浦江人才、IBM Shared University Research以及多項企業合作課題等項目。已在《管理科學學報》、《系統工程學報》、Knowledge and Information Systems ,Information Processing & Management,Information Systems Frontiers等國內外刊物和學術會議發表論文90多篇,其中被SCI、EI收錄40多篇。出版著作和教材《智能化的流程管理》、《客戶智能》、《商務智能(第四版)》、《商務智能數據分析的管理視角(第三版)》、《數據挖掘實用案例集》等多部。
劉老師 10多年的(de)IT領域相(xiang)關技(ji)術研究(jiu)和(he)(he)(he)項目開發工(gong)作(zuo)(zuo),在長期軟(ruan)件(jian)(jian)(jian)領域工(gong)作(zuo)(zuo)過(guo)程(cheng)(cheng)(cheng)中(zhong),對軟(ruan)件(jian)(jian)(jian)企業(ye)運(yun)作(zuo)(zuo)模(mo)式有(you)深入研究(jiu),熟悉(xi)軟(ruan)件(jian)(jian)(jian)質量保障標準(zhun)ISO9003和(he)(he)(he)軟(ruan)件(jian)(jian)(jian)過(guo)程(cheng)(cheng)(cheng)改進模(mo)型CMM/CMMI,在具(ju)體(ti)項目實施過(guo)程(cheng)(cheng)(cheng)中(zhong)總結經驗,有(you)深刻認識。通曉(xiao)多種軟(ruan)件(jian)(jian)(jian)設(she)計和(he)(he)(he)開發工(gong)具(ju)。對軟(ruan)件(jian)(jian)(jian)開發整(zheng)個流程(cheng)(cheng)(cheng)非常熟悉(xi),能(neng)根據(ju)(ju)項目特點定制具(ju)體(ti)軟(ruan)件(jian)(jian)(jian)過(guo)程(cheng)(cheng)(cheng),并進行項目管(guan)(guan)理(li)和(he)(he)(he)監控,有(you)很強的(de)軟(ruan)件(jian)(jian)(jian)項目組織(zhi)管(guan)(guan)理(li)能(neng)力。對C/C++ 、HTML 5、python、Hadoop、java、java EE、android、IOS、大數據(ju)(ju)、云計算有(you)比較深入的(de)理(li)解和(he)(he)(he)應用,具(ju)有(you)較強的(de)移動互聯網應用需求(qiu)分析和(he)(he)(he)系統設(she)計能(neng)力,熟悉(xi)Android框架、IOS框架等技(ji)術,了解各種設(she)計模(mo)式,能(neng)在具(ju)體(ti)項目中(zhong)靈活運(yun)用。
大數據分析與可視化技術應用公開課
轉載://citymember.cn/gkk_detail/230254.html
已開(kai)課時(shi)間Have start time
大數據課程內訓
- 《精細運營——京東/天貓平 武建偉
- 《大數據精益化營銷思維與運 喻(yu)國(guo)慶(qing)
- 《銀行--網絡消費行為與網 武建偉
- 大數據項目解決方案及應用 胡國慶
- 企業區塊鏈技術的應用場景與 李璐
- 建材門店--微信獲客與運營 武建偉
- 大數據提升:用戶體驗提升與 武建偉
- 能源電力企業數字化轉型探索 李開(kai)東(dong)
- 《流量神器,銷量升級:如何 武建偉(wei)
- 《大數據分析與客戶開發》 喻國慶
- 數據驅動價值 ——基于Ex 張曉如(ru)
- 數據創造價值——大數據分析 張曉如