1、Java編程

Java編程是大數(shù)據(jù)開(kāi)發(fā)的基礎(chǔ)，大數(shù)據(jù)中很多技術(shù)都是使用Java編寫(xiě)的，如Hadoop、Spark、mapreduce等，因此，想要學(xué)好大數(shù)據(jù)，Java編程是必備技能！

（推薦學(xué)習(xí)：java入門(mén)程序）

2、Linux運(yùn)維

企業(yè)大數(shù)據(jù)開(kāi)發(fā)往往是在Linux操作系統(tǒng)下完成的，因此，想從事大數(shù)據(jù)相關(guān)工作，需要掌握Linux系統(tǒng)操作方法和相關(guān)命令。

3、Hadoop

Hadoop是一個(gè)能夠?qū)Υ罅繑?shù)據(jù)進(jìn)行分布式處理的軟件框架，HDFS和MapReduce是其核心設(shè)計(jì)，HDFS為海量的數(shù)據(jù)提供了存儲(chǔ)，MapReduce為海量的數(shù)據(jù)提供了計(jì)算，是大數(shù)據(jù)開(kāi)發(fā)必不可少的框架技能。

4、Zookeeper

ZooKeeper是一個(gè)分布式的，開(kāi)放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，是Google的Chubby一個(gè)開(kāi)源的實(shí)現(xiàn)，是Hadoop和Hbase的重要組件。它是一個(gè)為分布式應(yīng)用提供一致性服務(wù)的軟件，提供的功能包括：配置維護(hù)、域名服務(wù)、分布式同步、組服務(wù)等。

5、Hive

hive是基于Hadoop的一個(gè)數(shù)據(jù)倉(cāng)庫(kù)工具，可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫(kù)表，并提供簡(jiǎn)單的sql查詢(xún)功能，可以將sql語(yǔ)句轉(zhuǎn)換為MapReduce任務(wù)進(jìn)行運(yùn)行，十分適合數(shù)據(jù)倉(cāng)庫(kù)的統(tǒng)計(jì)分析。

6、Hbase

這是Hadoop生態(tài)體系中的NOSQL數(shù)據(jù)庫(kù)，他的數(shù)據(jù)是按照key和value的形式存儲(chǔ)的并且key是唯一的，所以它能用來(lái)做數(shù)據(jù)的排重，它與MYSQL相比能存儲(chǔ)的數(shù)據(jù)量大很多

7、Kafka

Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng)，它可以處理消費(fèi)者規(guī)模的網(wǎng)站中的所有動(dòng)作流數(shù)據(jù)，通過(guò)Hadoop的并行加載機(jī)制來(lái)統(tǒng)一線上和離線的消息處理，通過(guò)集群來(lái)提供實(shí)時(shí)的消息。

8、Spark

Spark 是專(zhuān)為大規(guī)模數(shù)據(jù)處理而設(shè)計(jì)的快速通用的計(jì)算引擎，擁有Hadoop MapReduce所具有的優(yōu)點(diǎn)，但不同于MapReduce的是Job中間輸出結(jié)果可以保存在內(nèi)存中，從而不再需要讀寫(xiě)HDFS，因此Spark能更好地適用于數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)等需要迭代的MapReduce的算法。