1、Java編程

Java編程是大數(shù)據(jù)開發(fā)的基礎(chǔ)，大數(shù)據(jù)中很多技術(shù)都是使用Java編寫的，如Hadoop、Spark、mapreduce等，因此，想要學(xué)好大數(shù)據(jù)，Java編程是必備技能！

（推薦學(xué)習(xí)：java入門程序）

2、Linux運維

企業(yè)大數(shù)據(jù)開發(fā)往往是在Linux操作系統(tǒng)下完成的，因此，想從事大數(shù)據(jù)相關(guān)工作，需要掌握Linux系統(tǒng)操作方法和相關(guān)命令。

3、Hadoop

Hadoop是一個能夠?qū)Υ罅繑?shù)據(jù)進行分布式處理的軟件框架，HDFS和MapReduce是其核心設(shè)計，HDFS為海量的數(shù)據(jù)提供了存儲，MapReduce為海量的數(shù)據(jù)提供了計算，是大數(shù)據(jù)開發(fā)必不可少的框架技能。

4、Zookeeper

ZooKeeper是一個分布式的，開放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，是Google的Chubby一個開源的實現(xiàn)，是Hadoop和Hbase的重要組件。它是一個為分布式應(yīng)用提供一致性服務(wù)的軟件，提供的功能包括：配置維護、域名服務(wù)、分布式同步、組服務(wù)等。

5、Hive

hive是基于Hadoop的一個數(shù)據(jù)倉庫工具，可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表，并提供簡單的sql查詢功能，可以將sql語句轉(zhuǎn)換為MapReduce任務(wù)進行運行，十分適合數(shù)據(jù)倉庫的統(tǒng)計分析。

6、Hbase

這是Hadoop生態(tài)體系中的NOSQL數(shù)據(jù)庫，他的數(shù)據(jù)是按照key和value的形式存儲的并且key是唯一的，所以它能用來做數(shù)據(jù)的排重，它與MYSQL相比能存儲的數(shù)據(jù)量大很多

7、Kafka

Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng)，它可以處理消費者規(guī)模的網(wǎng)站中的所有動作流數(shù)據(jù)，通過Hadoop的并行加載機制來統(tǒng)一線上和離線的消息處理，通過集群來提供實時的消息。

8、Spark

Spark 是專為大規(guī)模數(shù)據(jù)處理而設(shè)計的快速通用的計算引擎，擁有Hadoop MapReduce所具有的優(yōu)點，但不同于MapReduce的是Job中間輸出結(jié)果可以保存在內(nèi)存中，從而不再需要讀寫HDFS，因此Spark能更好地適用于數(shù)據(jù)挖掘與機器學(xué)習(xí)等需要迭代的MapReduce的算法。