deepseek-r1本地化部署(Linux)

1、前言

需要用到ollama、open-webui、docker等

2、安裝ollama

前往官網(wǎng)查看Linux版本的安裝命令

curl -fsSL https://ollama.com/install.sh | sh

!!!在執(zhí)行過程中可能會由于github訪問問題導(dǎo)致失敗
可以使用加速方案解決，替換腳本里面的部分鏈接

具體參考
解決Linux下安裝Ollama失敗的問題

安裝完成后
訪問ollmam官方搜索deepseek r1

image.png

選擇對應(yīng)的版本，復(fù)制執(zhí)行命令

ollama run deepseek-r1:8b

這邊會下載模型，耐心等待吧

3、安裝open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

執(zhí)行成功后打開

http://localhost:3000/auth

首次要創(chuàng)建賬號，然后就可以提問了


image.png

注1:docker安裝方式參見Linux CentOS 7 安裝docker,windows和mac直接官網(wǎng)下載安裝包

最后編輯于 ：
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡書系信息發(fā)布平臺，僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容