Kubeflow Pipeline 初體驗(yàn)

因?yàn)楣ぷ鞯年P(guān)系, 開始接觸 Kubeflow. "實(shí)踐出真知", 快速入門的最快的方式就是搭建環(huán)境,再跑個(gè)例子, 好在社區(qū)這塊的資料很多. 從?Kubeflow Pipeline 入手, 一次可以接觸所有組件.

直接選擇?Kubeflow Pipeline 中的例子?cab_classification. 在 experiments 界面, 可以獲得流水行運(yùn)行的結(jié)果:

pipeline 運(yùn)行圖

幾點(diǎn)感受:

1. Pipeline 基于 Argo實(shí)現(xiàn), 可以快速構(gòu)建 DAG(Directed Acyclic Graph) 和 Step-based 流水線, 可以滿足絕大多數(shù)需求.

2. 文檔里發(fā)布 Kubeflow 前端的的方式采用 kube proxy port-forward 的方式, 使用 Istio Ingress + Gateway + VirtualService 可以更加靈活.

3. 報(bào)錯(cuò), 嚴(yán)格的說是沒有報(bào)錯(cuò), 比如初始化用戶命名空間是有格式校驗(yàn)的, 但是頁面不會報(bào)錯(cuò), 要查看組件日志才能發(fā)現(xiàn). 考慮到大多數(shù)?Kubeflow 的用戶是算法科學(xué)家的話, 這個(gè)體驗(yàn)確實(shí)很差.

4. 提供的例子重度依賴Google環(huán)境, 比如流水線構(gòu)建物輸入輸出, 比如: 數(shù)據(jù), Model, Tensorboard 依賴的 event data 都依賴 Google的對象存儲服務(wù). 雖然可以使用S3或者M(jìn)inio做替換, 但是還有一些其他依賴問題, 比如這個(gè)例子會使用?Apache Beam?預(yù)處理和模型分析, 但是?Apache Beam?并不支持 S3.?S3 errors in Pipeline examples for reading training data and artifact storage. 類似的問題還有個(gè)別組件的前端僅支持?minio, s3, gc, http, https, 要知道本地部署的環(huán)境多是 localpath 或者 NFS.?

感覺離真正的產(chǎn)線部署還有很遠(yuǎn)的距離.

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 前面都是在介紹如何安裝Kubeflow和pipelines,今天補(bǔ)一下Kubeflow的pipelines的知識,...
    zoux閱讀 37,320評論 7 9
  • 1.Beam前世今生 分布式數(shù)據(jù)處理發(fā)展迅猛—> 新分布式數(shù)據(jù)處理技術(shù)越來越多 —>Hadoop MapReduc...
    康康6840閱讀 1,422評論 1 4
  • 自那一個(gè)午后就特別的害怕夜晚。靜靜的,靜靜的可以聽見自己的心跳,自己的呼吸,以及那在血管里默默流動的液體。每到這個(gè)...
    梅語清言閱讀 213評論 0 1
  • 長久以來,覺得“老”這個(gè)字離自己太遙遠(yuǎn)了,甚至是避諱的。 兒時(shí)的記憶中,每每碰上這樣的事情,母親總會告誡我走遠(yuǎn)...
    兔咩咩_57f5閱讀 208評論 0 3
  • 最近我參加了一個(gè)網(wǎng)絡(luò)課程,還沒開課的時(shí)候,我覺得到時(shí)候肯定沒時(shí)間,但是課開了,我發(fā)現(xiàn)時(shí)間還挺充足的,但是我總是東搞...
    知更鳥Robin閱讀 202評論 0 0

友情鏈接更多精彩內(nèi)容