課程描述INTRODUCTION
云計算技術課程培訓
日程安排SCHEDULE
課程大綱Syllabus
云計算技術課程培訓
課程大綱:
一、云計算背景
1、什么是大數據?
運營商的數據滿足4V特征:與互聯網的對比
大數據對傳統架構帶來的沖擊
各行業對大數據技術的共性需求,催生新技術
運營商對大數據技術的需求
2、云計算主流技術總覽
二、云計算主流技術
1、HADOOP技術
主流技術1:Hadoop發展簡史
主流技術1:Hadoop技術
主流技術1:Hadoop技術演進
主流技術1:Hadoop技術 - HDFS文件管理
主流技術1:Hadoop技術 - MapReduce
主流技術1:Hadoop的生態圈
主流技術1:Hadoop產品
主流技術1:Hadoop的應用場景
主流(liu)技術1:Hadoop在福建移動的(de)落地實施
2、SPARK技術
主流技術2:Spark發展歷程
主流技術2:Spark技術
主流技術2:Spark適用場景
主(zhu)流技(ji)術2:Spark四川移(yi)動(dong)應用案例
3、MPP技術
主流技術3:MPP數據庫引出
主流技術3:MPP數據庫
主流技術3:MPP數據庫:橫向擴展
主流技術3:MPP數據庫:并行執行
主流(liu)技術3:MPP數(shu)據庫適用場景
4、流計算技術
主流技術4:流處理技術引出
主流技術4:流處理技術
主流技術4:流處理技術產品與應用場景
主流技術4:流處理技術應用場景
主流技(ji)術(shu)4:流處理技(ji)術(shu)山(shan)西移動案例
5、*SQL技術
主流技術5:NoSQL技術引出
主流技術5:NoSQL技術
主流技術5:NoSQL典型產品與應用場景
主流技術(shu)5:NoSQL技術(shu)-浙江移動Hbase案例
6、內存數據庫技術
主流技術6:內存數據庫引出
主流技術6:內存數據庫
主流技術6:內存數據庫典型產品與應用場景
主流技術6:內(nei)存(cun)數據庫技術-福建移動案(an)例
7、數據采集技術
主流技術7:數據采集技術
主流技術7:數據采集主流技術-Flume、Kafka
主流技術7: Flume+Kafka應用場景與(yu)案(an)例
8、云計算技術如何落地?
如何選擇合適的云計算技術
云計(ji)算(suan)技術在某運營商各省的落地(di)情(qing)況(kuang)匯(hui)總
三、Hadoop的關鍵技術-M/R原理
1、M/R原理
MRAppMaster原理及架構
Yarn的產生
什么是Yarn
Yarn的架構
2、資源分配
資源表示模型
資源分配模型
本地優化
延遲調度
調度器比較
容量調度器的特點
容量調度器的任務選擇
容量調度器的優缺點
隊列資源限制
用戶限制
任務限制
3、MR編程接口
4、MR編程實(shi)例
四、HADOOP關鍵技術-HDFS介紹
1、HDFS介紹
HDFS設計假設、目標
HDFS系統架構
HDFS 架構關鍵設計要點
NameNode/DataNode主從模式
HDFS主從模式:數據讀取流程
HDFS主從模式:數據寫入流程
數據副本機制
元數據持久化
健壯機制
HDFS 架構其他關鍵設計要點說明
HDFS HA架構
HDFS HA架構要點
HDFS 架構全景圖
2、HDFS 架構全景圖-(ZooKeeper)
HDFS參數配置介紹
HDFS服務配置參數類型說明
HDFS服務關鍵配置說明
NameNode關鍵配置說明
DataNode關鍵(jian)配(pei)置說明(ming)
3、HDFS應用開發的幾個概念
開發環境準備--HDFS應用開發之Java API篇
典型代碼流程--HDFS應用開發之Java API篇
初始化Filesystem--HDFS應用開發之Java API篇
目錄操作--HDFS應用開發之Java API篇
文件讀取--HDFS應用開發之Java API篇
文件寫入/追加--HDFS應用開發之Java API篇
SHELL編程流程--HDFS應用開發之SHELL篇
Shell接口--HDFS應用開發之(zhi)SHELL篇
五、HADOOP關鍵技術-HIVE介紹
1、HIVE概述
什么是Hive
2、Hive的架構
.metastore
.Driver
.Compiler
3、Map/Reduce任務
.Optimizer – 優化器,分為邏輯優化器和物理優化器,分別對
HiveQL
Execution Engine
ThriftServer
Clients
4、Hive與傳統數據庫的比較
Hive的優點
5、HIVE應用場景
應用案例
任務執行流程
六、HADOOP關鍵技術-Hbase
1、Hbase原理
數據分類與存儲
KeyValue存儲
KeyValue型數據庫數據分區方式-一致性Hash分區
KeyValue型數據(ju)庫數據(ju)分(fen)區(qu)方式(shi)-按(an)Key值(zhi)連(lian)續(xu)范圍分(fen)區(qu)
2、關于Hbase
Region
Region與RegionServer
Region分類
Master
ZooKeeper
HDFS
3、Hbase數據模型
Create Table
KeyValue
HFile
4、Hbase寫流程
涉及的關鍵角色
客戶端發起寫數據請求
定位Region
數據分組
往RegionServer發送寫數據請求
Region寫數據流程
Hbase LSM Tree
Flush
多HFile的影響
Compaction
Split
5、Hbase讀流程
Get Or Scan
OpenScanner
Next
Filter
BloomFilter
6、Hbase高級設計
RowKey設計
列族與列設計
Secondary Index-Why Secondary Index?
Secondary Index
Replication
Backup/Restore
BulkLoad
CTbase
7、Hbase的接口
Hbase Shell
插入一行數據 — Put
讀取一行數據 — Get
讀取多行數據 — Scan
其它常用Shell API
七、云計算技術平臺落地
1、數據分析領域關鍵技術與業務場景的映射
大數據技術混搭的必要性
大數據技術混搭架構
大數據平臺混搭架構
大數據(ju)平臺混搭架構思(si)考
2、互聯網大數據平臺混搭案例 – 百度大數據架構
互聯網大數據平臺混搭方案-阿里大數據服務平臺
互聯(lian)網大數據平臺(tai)混(hun)搭案(an)例 - ebay
3、業界大數據平臺混搭解決方案-華為FusionInsight
業界大數據平臺混搭產品方案-亞信大數據平臺
業(ye)界大數據(ju)平臺混搭解(jie)決方案(an)-Teradata UDA
4、某電信運營商大數據平臺建設-HDM混搭模式
某電信運營商大數據平臺建設-混搭關鍵點
移動混搭建設特點-元數據管理
移動混搭建設特點-數據一致性管控
移動混搭建設特點-數據質量管理
移動混搭(da)建設特點-數據質量管理(li)
5、省公司混搭案例:
省公司混搭案例-SD移動經分混搭案例
省公司混搭案例-ZJ移動大數據平臺混搭案例
省(sheng)公司混(hun)搭案(an)例-FJ移動大數據平臺混(hun)搭案(an)例
6、對外服務模式
對外服務-PaaS、SaaS、DaaS
對外服務-SaaS
對外服務-PaaS
對外服務-DaaS
數據對外服務的統一管控
1)對外服務關鍵點-多租戶管理
2)對外服務關鍵點-透明網關
3)對外服務關鍵點-安全管理
對外服務關鍵點-數據安全管理
對外服務關鍵點-數據安全管理方法
對外服務關鍵點-平臺安全管理
對外服務關鍵點-平臺安全管理框架
4)對外服(fu)務關鍵點-服(fu)務計量
7、對外服務案例
某電信運營商具備大數據典型特點
某電信運營商大數據平臺應具備的技術支撐能力
某電信運營商大數據平臺建設策略
某電信運營商大數據平臺混搭架構總結
大數據平臺建設與運營人力資源投入分析
大數據平(ping)臺運(yun)營團隊建設
八、總結及展望
云計算技術課程培訓
轉載://citymember.cn/gkk_detail/54006.html
已(yi)開課時間Have start time
- 段方
大數據課程內訓
- 大數據提升:用戶體驗提升與 武建(jian)偉
- 數據驅動價值 ——基于Ex 張曉如
- 《精細運營——京東/天貓平 武(wu)建偉
- 《流量神器,銷量升級:如何 武建偉
- 大數據項目解決方案及應用 胡(hu)國慶
- 《大數據精益化營銷思維與運 喻(yu)國慶
- 企業區塊鏈技術的應用場景與 李璐
- 數據創造價值——大數據分析 張曉(xiao)如
- 《大數據分析與客戶開發》 喻國慶
- 《銀行--網絡消費行為與網 武(wu)建偉
- 建材門店--微信獲客與運營 武(wu)建偉
- 能源電力企業數字化轉型探索 李開(kai)東(dong)