大資料技術學習路線，有信心能學好的朋友，就開始吧

標籤：spark   樣本   rac   check   基礎   ade   地理位置   隱式轉換   編譯   

如果你看完有信心能堅持學習的話，那就當下開始行動吧！

一、大資料技術基礎

1、linux操作基礎

• linux系統簡介與安裝
• linux常用命令–檔案操作
• linux常用命令–使用者管理與許可權
• linux常用命令–系統管理
• linux常用命令–免密登陸配置與網路管理
• linux上常用軟體安裝
• linux本地yum源配置及yum軟體安裝
• linux防火牆配置
• linux進階文本處理命令cut、sed、awk
• linux定時任務crontab

2、shell編程

• shell編程–基本文法
• shell編程–流程式控制制
• shell編程–函數
• shell編程–綜合案例–自動化部署指令碼
  大資料學習群142973723

3、記憶體資料庫redis

• redis和nosql簡介
• redis用戶端串連
• redis的string類型資料結構操作及應用-對象緩衝
• redis的list類型資料結構操作及應用案例-任務調度隊列
• redis的hash及set資料結構操作及應用案例-購物車
• redis的sortedset資料結構操作及應用案例-熱門排行榜

4、布式協調服務zookeeper

• zookeeper簡介及應用情境
• zookeeper叢集安裝部署
• zookeeper的資料節點與命令列操作
• zookeeper的java用戶端基本操作及事件監聽
• zookeeper核心機制及資料節點
• zookeeper應用案例–分布式共用資源鎖
• zookeeper應用案例–伺服器上下線動態感知
• zookeeper的資料一致性原理及leader選舉機制

5、java進階特性增強

• Java多線程基本知識
• Java同步關鍵詞詳解
• java並發包線程池及在開源軟體中的應用
• Java並發包訊息隊裡及在開源軟體中的應用
• Java JMS技術
• Java動態代理反射

6、輕量級RPC架構開發

• RPC原理學習
• Nio原理學習
• Netty常用API學習
• 輕量級RPC架構需求分析及原理分析
• 輕量級RPC架構開發

二、離線計算系統

1、hadoop快速入門

• hadoop背景介紹
• 分布式系統概述
• 離線資料分析流程介紹
• 叢集搭建
• 叢集使用初步

2、HDFS增強

• HDFS的概念和特性
• HDFS的shell(命令列用戶端)操作
• HDFS的工作機制
• NAMENODE的工作機制
• java的api操作
• 案例1：開發shell採集指令碼

3、MAPREDUCE詳解

• 自訂hadoop的RPC架構
• Mapreduce編程規範及樣本編寫
• Mapreduce程式運行模式及debug方法
• mapreduce程式運行模式的內在機理
• mapreduce運算架構的主體工作流程
• 自訂對象的序列化方法
• MapReduce編程案例

4、MAPREDUCE增強

• Mapreduce排序
• 自訂partitioner
• Mapreduce的combiner
• mapreduce工作機制詳解

5、MAPREDUCE實戰

• maptask並行度機制-檔案切片
• maptask並行度設定
• 倒排索引
• 共同好友

6、federation介紹和hive使用

• Hadoop的HA機制
• HA叢集的安裝部署
• 叢集營運測試之Datanode動態上下線
• 叢集營運測試之Namenode狀態切換管理
• 叢集營運測試之資料區塊的balance
• HA下HDFS-API變化
• hive簡介
• hive架構
• hive安裝部署
• hvie初使用

7、hive增強和flume介紹

• HQL-DDL基本文法
• HQL-DML基本文法
• HIVE的join
• HIVE 參數配置
• HIVE 自訂函數和Transform
• HIVE 執行HQL的執行個體分析
• HIVE最佳實務注意點
• HIVE最佳化策略
• HIVE實戰案例
• Flume介紹
• Flume的安裝部署
• 案例：採集目錄到HDFS
• 案例：採集檔案到HDFS

三、流式計算

1、Storm從入門到精通

• Storm是什麼
• Storm架構分析
• Storm架構分析
• Storm編程模型、Tuple源碼、並發度分析
• Storm WordCount案例及常用Api分析
• Storm叢集部署實戰
• Storm+Kafka+Redis業務指標計算
• Storm源碼下載編譯
• Strom叢集啟動及源碼分析
• Storm任務提交及源碼分析
• Storm資料發送流程分析
• Storm通訊機制分析
• Storm訊息容錯機制及源碼分析
• Storm多stream項目分析
• 編寫自己的流式任務執行架構

2、Storm上下遊及架構整合

• 訊息佇列是什麼
• Kakfa核心組件
• Kafka叢集部署實戰及常用命令
• Kafka設定檔梳理
• Kakfa JavaApi學習
• Kafka檔案儲存體機制分析
• Redis基礎及單機環境部署
• Redis資料結構及典型案例
• Flume快速入門
• Flume+Kafka+Storm+Redis整合

四、記憶體計算體系Spark

1、scala編程

• scala編程介紹
• scala相關軟體安裝
• scala基礎文法
• scala方法和函數
• scala函數式編程特點
• scala數組和集合
• scala編程練習（單機版WordCount）
• scala物件導向
• scala模式比對
• actor編程介紹
• option和偏函數
• 實戰：actor的並發WordCount
• 柯裡化
• 隱式轉換

2、AKKA與RPC

• Akka並發編程架構
• 實戰：RPC編程實戰

3、Spark快速入門

• spark介紹
• spark環境搭建
• RDD簡介
• RDD的轉換和動作
• 實戰：RDD綜合練習
• RDD進階運算元
• 自訂Partitioner
• 實戰：網站訪問次數
• 廣播變數
• 實戰：根據IP計算歸屬地
• 自訂排序
• 利用JDBC RDD實現資料匯入匯出
• WorldCount執行流程詳解

4、RDD詳解

• RDD依賴關係
• RDD緩衝機制
• RDD的Checkpoint檢查點機制
• Spark任務執行過程分析
• RDD的Stage劃分

5、Spark-Sql應用

• Spark-SQL
• Spark結合Hive
• DataFrame
• 實戰：Spark-SQL和DataFrame案例

6、SparkStreaming應用實戰

• Spark-Streaming簡介
• Spark-Streaming編程
• 實戰：StageFulWordCount
• Flume結合Spark Streaming
• Kafka結合Spark Streaming
• 視窗函數
• ELK技術棧介紹
• Elasticsearch安裝和使用
• Storm架構分析
• Storm編程模型、Tuple源碼、並發度分析
• Storm WordCount案例及常用Api分析

7、Spark核心源碼解析

• Spark源碼編譯
• Spark遠程debug
• Spark任務提交行流程源碼分析
• Spark通訊流程源碼分析
• SparkContext建立過程源碼分析
• DriverActor和ClientActor通訊過程源碼分析
• Worker啟動Executor過程源碼分析
• Executor向DriverActor註冊過程源碼分析
• Executor向Driver註冊過程源碼分析
• DAGScheduler和TaskScheduler源碼分析
• Shuffle過程源碼分析
• Task執行過程源碼分析

五、機器學習演算法

1、python及numpy庫

• 機器學習簡介
• 機器學習與python
• python語言–快速入門
• python語言–資料類型詳解
• python語言–流程式控制制語句
• python語言–函數使用
• python語言–模組和包
• phthon語言–物件導向
• python機器學習演算法庫–numpy
• 機器學習必備數學知識–機率論

2、常用演算法實現

• knn分類演算法–演算法原理
• knn分類演算法–代碼實現
• knn分類演算法–手寫字識別案例
• lineage迴歸分類演算法–演算法原理
• lineage迴歸分類演算法–演算法實現及demo
• 樸素貝葉斯分類演算法–演算法原理
• 樸素貝葉斯分類演算法–演算法實現
• 樸素貝葉斯分類演算法–垃圾郵件識別應用案例
• kmeans聚類演算法–演算法原理
• kmeans聚類演算法–演算法實現
• kmeans聚類演算法–地理位置聚類應用
• 決策樹分類演算法–演算法原理
• 決策樹分類演算法–演算法實現

在不久的將來，多智時代一定會徹底走入我們的生活，有興趣入行未來前沿產業的朋友，讓我們一起攜手，引領人工智慧的未來。大資料學習群142973723

大資料技術學習路線，有信心能學好的朋友，就開始吧