Docker部署DeepSeek

拉取鏡像

docker pull ollama/ollama

GPU方式運行Ollama

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

拉取模型

docker exec -it ollama ollama pull deepseek-r1:7b

運行

docker exec -it ollama ollama run deepseek-r1:7b

拉取openWebUI鏡像并運行

docker run -d --privileged -p 3000:8080
--add-host=host.docker.internal:host-gateway
-v /data/openwebui:/app/backend/data
-e TRANSFORMERS_CACHE=/app/backend/data/huggingface/cache
-e HF_DATASETS_CACHE=/app/backend/data/huggingface/datasets
-e HF_ENDPOINT=https://hf-mirror.com
--name open-webui --restart always
ghcr.io/open-webui/open-webui:main

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點，簡書系信息發(fā)布平臺，僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容