apache beam 簡介和安裝

1.Apache beam 是google和其合作伙伴開源的新的流式大數(shù)據(jù)分析模式,目前支持如下的引擎:


beam支持的相關引擎

2.執(zhí)行過程

beam的執(zhí)行過程

1.選擇自己喜歡的編程語言編寫程序提交

2.該編程語言必須對應相應beam的sdk

3.轉換成beam可以識別的格式以便于執(zhí)行

4.在分布式環(huán)境中支持beam的數(shù)據(jù)處理管道

5.在beam的管道中處理所有的應用

6.創(chuàng)建一個高階的數(shù)據(jù)處理管道

ps:目前beam提供的sdk有java 和 python。

3.安裝

直接在github或者本地git下來beam工程,然后進行mvn打包,如下圖:


mvn下載word-count程序

運行word-count程序得到輸出結果:

不同引擎選擇不同的執(zhí)行命令

得到輸出結果


輸出結果
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內容

友情鏈接更多精彩內容