初探大數(shù)據(jù)-開發(fā)環(huán)境介紹-實戰(zhàn)一

使用環(huán)境:

1、centos(6.4)

2、hadoop版本對比及選擇

????生產(chǎn)較多的CDH版本(CDH5.7.0)

??? 下載地址:課程整套CDH相關(guān)的軟件下載地址:http://archive.cloudera.com/cdh5/cdh/5/

????cdh-5.7.0?? 生產(chǎn)或者測試環(huán)境選擇對應(yīng)CDH版本時,一定要采用尾號是一樣的版本

為什么很多公司選擇Hadoop作為大數(shù)據(jù)平臺的解決方案?

1)源碼開源

2)社區(qū)活躍、參與者很多? Spark

3)涉及到分布式存儲和計算的方方面面:

Flume進(jìn)行數(shù)據(jù)采集

Spark/MR/Hive等進(jìn)行數(shù)據(jù)處理

HDFS/HBase進(jìn)行數(shù)據(jù)存儲

????????4) 已得到企業(yè)界的驗證

3、開發(fā)工具對比及選

??? ????IDEA(主要選選)

??????? Eclipse

4、環(huán)境使用方式

????完整版:鏈接: 鏈接:https://pan.baidu.com/s/1bqXFPIv? 密碼:s9xz

??? 下載下來解壓,導(dǎo)入到vmfusion 啟動

5、hadoop啟動-驗證

????/home/hadoop/app/hadoop-2.6.0-cdh5.7.0/sbin

1)啟動hdfs

hadoop? fs -ls

??? 2)啟動yarn

????????./start-yarn.sh

??????? 驗證

6、hive啟動

????/home/hadoop/app/hive-1.1.0-cdh5.7.0/bin

??? ./hive

7、spark啟動

????/home/hadoop/app/spark-2.1.0-bin-2.6.0-cdh5.7.0/bin

./spark-shell --master local[2] --jars ~/software/mysql-connector-java-5.1.27-bin.jar

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容