硬件:英偉達(dá)5880 兩張
系統(tǒng):22.04.1-Ubuntu
本地部署全流程
- 下載ollama,通過(guò)ollama將DeepSeek 模型下載到本地運(yùn)行
配置環(huán)境變量 OLLAMA_HOST - 0.0.00:11434
OLLAMA_MODELS 配置的是模型下載的位置

查看配置.png
配置好參數(shù),查找自己想下載的模型即可
ollama run deepseek-r1:7b
硬件:英偉達(dá)5880 兩張
系統(tǒng):22.04.1-Ubuntu
本地部署全流程
配置好參數(shù),查找自己想下載的模型即可
ollama run deepseek-r1:7b