設(shè)計目標(biāo): 支持無狀態(tài)函數(shù)重試 支持帶返回數(shù)據(jù)的函數(shù)重試 支持指數(shù)退避 + 抖動 支持收集每次重試的error, 并返回 用戶自定義配置Config, 默認重試次數(shù)3次, 間...
設(shè)計目標(biāo): 支持無狀態(tài)函數(shù)重試 支持帶返回數(shù)據(jù)的函數(shù)重試 支持指數(shù)退避 + 抖動 支持收集每次重試的error, 并返回 用戶自定義配置Config, 默認重試次數(shù)3次, 間...
設(shè)計目標(biāo): 用 DAG(有向無環(huán)圖) 描述任務(wù)依賴 goroutine + channel 并發(fā)調(diào)度 YAML / JSON / DSL 等流程定義方式 插件化持久層(內(nèi)存 ...
在Eino 中indexer 組件中, 會使用redis的pipeline功能, 批量將文檔的內(nèi)容(content), 向量對應(yīng)的bytes(content_vactor)及...
Redis 允許您在哈希[https://redis.ac.cn/docs/latest/develop/data-types/hashes/]或JSON[https://r...
創(chuàng)建index, 并新增測試數(shù)據(jù): 通過FTSearch檢索 測試用例返回結(jié)果: 如上圖FTSearch檢索的數(shù)據(jù)內(nèi)容會存在Docs數(shù)組的Fields字段內(nèi), 它把整條 JS...
什么是MCP? MCP允許您構(gòu)建服務(wù)器,以安全、標(biāo)準化的方式向 LLM 應(yīng)用程序公開數(shù)據(jù)和功能。您可以將其視為一個 Web API,但專為 LLM 交互而設(shè)計。MCP 服務(wù)器...
接口定義: Info方法: 返回工具的信息, 如Name, Desc及ParamsOneOf , 其中ParamsOneOf 字段是用于描述工具參數(shù)的結(jié)構(gòu)體字段,它定義了工具...
在Eino 的duckduckgo 搜索工具組件中有個線程安全、可設(shè)置過期時間的 Cache 實現(xiàn),具有以下特點: 內(nèi)置 map sync.RWMutex 讀寫鎖 后臺 go...
indexer負責(zé)把向量化后的文檔塞進向量數(shù)據(jù)庫, 如Redis, VikingDB 等, indexer 只負責(zé)寫, 查詢由 Retriever 負責(zé)。 接口定義 官方R...
Eino 中的Embedding 組件負責(zé)將上游DocumentTransformer處理好的Document文件進行向量化, 并由下游的Indexer存儲到向量數(shù)據(jù)庫中。 ...
Eino 中的PDFParser實現(xiàn)在擴展包eino-ext項目中, 目前處于alpha 階段, 并不能較好的支持所有的PDF使用場景, 用戶在處理PDF文檔時可以基于第三方...
Eino 的 Loader 組件 是數(shù)據(jù)管道的起點,把各種來源(本地文件、URL、S3對象存儲…)的原始內(nèi)容,統(tǒng)一變成 []*schema.Document 列表,供下游 T...
Eino 的 DocumentTransformer 是一個文本預(yù)處理組件:把任意來源的原始文檔拆成語義完整、長度合適的小片段,并附帶豐富的元數(shù)據(jù),為后續(xù)的 Embeddin...
cozedifyLangChainEino 主流的大模型應(yīng)用開發(fā)框架都是使用什么語言開發(fā)的? 目前較為主流的框架如 LangChain,LlamaIndex, Dify 等,...
deepseek 中模型配置參數(shù): TopP&Temperature在 DeepSeek 模型配置中,Top-p(又常寫作 top_p 或 “核采樣 / nucleus sa...
Pipe 的reader 和 writer 封裝的為同一個Steam, Steam基于channel 進行數(shù)據(jù)的recv和send, 并通過一個獨立的channel 來控制...
在Eino 中的callpacks包為組件的擴展提供回調(diào)(callback)的機制, 它允許用戶在組件執(zhí)行的不同階段注入回調(diào)處理器(handlers), 比如開始, 結(jié)束或者...
背景 最近實驗室有個需求, 即將 多個攝像頭采集到時視頻流推送給VLM大模型,由VLM大模型對攝像頭采集到的環(huán)境和用戶狀態(tài)信息進展實時感知和分析, 并將分析結(jié)果來和預(yù)設(shè)的標(biāo)簽...