1. 開源
1.1 AI 應(yīng)用
Dify
Dify: Production-ready platform for agentic workflow development.
開源的 LLM(大語言模型)應(yīng)用開發(fā)平臺(tái),旨在幫助開發(fā)者快速構(gòu)建、部署和管理基于大語言模型的 AI 應(yīng)用。
https://github.com/langgenius/dify
1.2 AI 編程
OpenCode
OpenCode: The open source AI coding agent.
開源的 AI 編程智能體(AI Coding Agent),它旨在通過終端(TUI)或桌面應(yīng)用,為開發(fā)者提供深度的自動(dòng)化編程輔助。
https://github.com/anomalyco/opencode
Vibe Coding
Vibe Coding 指南: 一個(gè)通過與 AI 結(jié)對(duì)編程,將想法變?yōu)楝F(xiàn)實(shí)的終極工作站
https://github.com/2025Emma/vibe-coding-cn
Vue Skills
Vue Skills(來自 Anthony Fu,Vue 核心成員):
https://github.com/antfu/skills
1.3 AI 推理
nndeploy
nndeploy: 一款簡(jiǎn)單易用和高性能的AI部署框架?;诳梢暬ぷ髁骱投喽送评?,可讓 AI 算法在上述平臺(tái)和硬件更高效、更高性能的落地。
側(cè)重端側(cè)部署,包含:桌面端(Windows、macOS)、移動(dòng)端(Android、iOS)、邊緣計(jì)算設(shè)備(NVIDIA Jetson、Ascend310B、RK 等)以及單機(jī)服務(wù)器(RTX 系列、T4、Ascend310P 等)。
https://github.com/nndeploy/nndeploy
VideoPipe
VideoPipe: 跨平臺(tái)的視頻結(jié)構(gòu)化(視頻分析)框架。適用于視頻結(jié)構(gòu)化、圖片搜索、人臉識(shí)別、交通/安防領(lǐng)域的行為分析(如交通事件檢測(cè))等場(chǎng)景。
模型推理: 默認(rèn)采用OpenCV::DNN實(shí)現(xiàn)。如果要適配其他硬件平臺(tái),比如瑞芯微的RKNN、華為的CANN等,需要參考其廠家提供的推理Demo代碼,將其封裝成VideoPipe中的一個(gè)推理Node即可。
側(cè)重視頻分析,包含拉流、推流等,適合快速集成與落地。
https://github.com/sherlockchou86/VideoPipe
MediaPipe
MediaPipe: cross-platform, customizable ML solutions for live and streaming media.
側(cè)重端側(cè)模型解決方案與部署。支持視覺、文本、音頻和LLM任務(wù),且每種任務(wù)都包含一個(gè)或多個(gè)模型,可部署 Android, iOS, Web 等。
https://github.com/google-ai-edge/mediapipe
NVIDIA Triton
NVIDIA Triton Inference Server provides an optimized cloud and edge inferencing solution.
NVIDIA Triton 是一個(gè)高性能的推理服務(wù)器,通過深度優(yōu)化硬件利用率和并發(fā)處理能力,為云端和邊緣提供超低延遲、高吞吐的模型推理服務(wù)。
它通過 Ensemble Models(模型集成)功能來實(shí)現(xiàn)多模型工作流,這是一種“服務(wù)器內(nèi)部、緊密耦合”的流水線編排。支持 KServe 協(xié)議。
側(cè)重極致性能和硬件優(yōu)化,尤其適合生產(chǎn)級(jí)高吞吐、低延遲場(chǎng)景。
https://github.com/triton-inference-server/server
KServe
KServe is a standardized distributed generative and predictive AI inference platform for scalable, multi-framework deployment on Kubernetes.
KServe 是一個(gè)專為Kubernetes設(shè)計(jì)的標(biāo)準(zhǔn)化模型部署平臺(tái),支持在云原生環(huán)境中大規(guī)模、多框架地部署AI模型。
側(cè)重標(biāo)準(zhǔn)化和多框架,是云原生的編排標(biāo)準(zhǔn)。
https://github.com/kserve/kserve
BentoML
BentoML is the easiest way to serve AI apps and models - Build Model Inference APIs, Job queues, LLM apps, Multi-model pipelines, and more!
BentoML 是一個(gè)靈活的AI應(yīng)用服務(wù)框架,致力于簡(jiǎn)化從模型到生產(chǎn)級(jí)API服務(wù)的打包和部署過程。
側(cè)重易用性和應(yīng)用構(gòu)建,適合打包完整AI云端服務(wù)。
https://github.com/bentoml/BentoML
1.4 知識(shí)庫
PandaWiki
PandaWiki 是一款 AI 大模型驅(qū)動(dòng)的開源知識(shí)庫搭建系統(tǒng)。
旨在幫助你快速構(gòu)建智能化的產(chǎn)品文檔、技術(shù)文檔、FAQ、博客系統(tǒng),借助大模型的力量為你提供 AI 創(chuàng)作、AI 問答、AI 搜索等能力。
https://github.com/chaitin/PandaWiki
2 好物
2.1 助手
NotebookLM
NotebookLM: 以您信賴的信息為基礎(chǔ),搭載最新的 Gemini 模型,是您的研究和思考好幫手。
ima
ima: 會(huì)思考的知識(shí)庫,開啟搜讀寫新體驗(yàn)(支持混元+DeepSeek雙模型)。
Claude Code
Claude Code: Work with Claude directly in your codebase. Build, debug, and ship from your terminal, IDE, Slack, or the web. Describe what you need, and Claude handles the rest.
Claude Code 是一個(gè) AI 編程助手,能夠直接在你的代碼環(huán)境中工作,通過終端、IDE 或網(wǎng)頁幫你構(gòu)建、調(diào)試和交付項(xiàng)目。