數(shù)媒在線課堂:并發(fā)性能的指數(shù)級(jí)挑戰(zhàn)

傳統(tǒng)數(shù)據(jù)分析場(chǎng)景中,大型企業(yè)同時(shí)進(jìn)行復(fù)雜分析的用戶數(shù)量通常有限,可能是幾十到幾百的量級(jí)。但在 Agent 時(shí)代,情況發(fā)生根本變化。每個(gè)業(yè)務(wù)流程都可能部署多個(gè)專業(yè)化 Agent,這些 Agent 并行工作,處理大量并發(fā)請(qǐng)求。

我們以電商平臺(tái)場(chǎng)景為例:客服 Agent 處理客戶咨詢,推薦 Agent 生成個(gè)性化推薦,庫(kù)存 Agent 監(jiān)控庫(kù)存狀態(tài),價(jià)格 Agent 動(dòng)態(tài)調(diào)整價(jià)格策略,營(yíng)銷(xiāo) Agent 優(yōu)化廣告投放,風(fēng)控 Agent 實(shí)時(shí)檢測(cè)異常交易。每個(gè) Agent 都持續(xù)查詢數(shù)據(jù)庫(kù),查詢頻率和復(fù)雜度遠(yuǎn)超傳統(tǒng)應(yīng)用。中等規(guī)模企業(yè)可能需要同時(shí)支持?jǐn)?shù)百上千個(gè) Agent 并發(fā)訪問(wèn),每個(gè) Agent 每秒發(fā)起數(shù)次甚至十幾次查詢,數(shù)據(jù)庫(kù)需要處理數(shù)千甚至上萬(wàn)次并發(fā)查詢。超大集團(tuán)的 Agent 數(shù)量和查詢并發(fā)量將指數(shù)級(jí)增長(zhǎng)。

Apache Doris 的 MPP 分布式架構(gòu)在這種場(chǎng)景下展現(xiàn)獨(dú)特優(yōu)勢(shì)。與傳統(tǒng)主從架構(gòu)不同,Apache Doris 采用無(wú)主節(jié)點(diǎn)分布式設(shè)計(jì),每個(gè) BE 節(jié)點(diǎn)都可獨(dú)立處理查詢請(qǐng)求,避免單點(diǎn)瓶頸。面對(duì) Agent 高并發(fā)訪問(wèn)時(shí),Apache Doris 可通過(guò)增加 BE 節(jié)點(diǎn)線性擴(kuò)展查詢處理能力。Doris 的向量化執(zhí)行引擎充分利用現(xiàn)代 CPU 的 SIMD 指令集,處理 Agent 生成的大量聚合查詢和過(guò)濾操作時(shí),性能提升可達(dá) 5-10 倍。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容