Ollama 安裝、運行大模型(CPU 實操版)

1. 操作步驟

1.1 安裝

# 通過 homebrew 安裝
brew install ollama

1.2 驗證(可跳過)

# 輸出命令使用提示則安裝成功
ollama --help

1.3 啟動服務端

# 啟動 ollama 服務(默認在 11434 端口,模型文件在 ~/.ollama)
ollama serve

1.4 跑通第一個模型

# 新開一個終端窗口,執(zhí)行如下命令(將下載并運行 Qwen2 的 0.5B 的 Chat 模型)
ollama run qwen2.5:0.5b-instruct

2. 參考資料

2.1 Ollama

GitHub

https://github.com/ollama/ollama

3. 資源

3.1 Ollama

library(模型工廠)

https://ollama.com/library

?著作權歸作者所有,轉載或內容合作請聯系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內容

友情鏈接更多精彩內容