喂飯教程:10分鐘部署一個(gè)DeepSeek,支持網(wǎng)頁調(diào)用!

這篇文章前幾天寫過,


不過有朋友問是否可以安裝個(gè)webui,通過網(wǎng)頁來使用。

我就寫一下,前面部分一樣,如果有遺漏可以看看上一篇文章。


1.注冊(cè)騰訊云(如果沒有就注冊(cè),有就跳過)

傳送門:https://curl.qcloud.com/tA0CERrX

2.開通免費(fèi)GPU

傳送門:https://ide.cloud.tencent.com/dashboard/gpu-workspace

3.進(jìn)入之后,新建-AI模板-ollama,官方現(xiàn)在有deepseek的模板,但是沒有UI界面,還需要自己安裝,所以安裝ollama挺好。

4.等待大約2-3分鐘,點(diǎn)擊圖標(biāo)進(jìn)入

apt install sudo
ollama list
ollama rm llama3
ollama run deepseek-r1:8b

5.復(fù)制粘貼以上命令

等待大約5分鐘下載模型

6.這個(gè)時(shí)間可以去cloudflare去注冊(cè)個(gè)賬號(hào),順便做一下域名綁定(你要有個(gè)域名先,沒有就先搞個(gè))

https://dash.cloudflare.com/

你需要先將域名設(shè)置好,這塊我就不多說了,如果不知道如何設(shè)置DNS可以給我留言。

不用做解析,就先添加到cf即可。


7.左側(cè)菜單-Zero Trust-網(wǎng)絡(luò)-Tunnes



先復(fù)制命令,一會(huì)粘貼到終端

這里的下一步需要滑塊往下滑(有人找不到)

需要注意的是:

6339是ollama調(diào)用的端口(API)

6889是chatbot的端口(webui)

可以根據(jù)自己的需要來設(shè)置,比如上一篇文章我就用的6889來做API調(diào)用。

返回看看模型是否已經(jīng)下載完成,看我上圖中出現(xiàn)success就是OK了

然后,下面已經(jīng)出現(xiàn)了對(duì)話,這時(shí)候需要退出對(duì)話。

/bye

8.然后把你剛才復(fù)制的cf代碼粘貼到終端


出現(xiàn)這個(gè)提示就是OK了

是不是很簡(jiǎn)單。

現(xiàn)在你已經(jīng)可以訪問你剛才設(shè)置的域名了。

如果不能訪問去CF看看,你的域名是不是綠色的。

PS:

關(guān)機(jī)后cf服務(wù)停止無法通過域名訪問

解決方案:在終端執(zhí)行以下代碼

cloudflared service uninstall
cloudflared service install 隧道ID(這段是你CF那串代碼中的)


好了,點(diǎn)贊吧,兄弟們!

如果還有問題可以留言。


這里求一波關(guān)注,個(gè)人開發(fā)的軟件,總下載量早就過了10W+,主要集中于辦公、運(yùn)營(yíng)、推廣、獲客、外貿(mào)等領(lǐng)域,很實(shí)用的小工具,這樣的免費(fèi)工具,以后還會(huì)繼續(xù)分享。


總結(jié)一下:
1.這個(gè)免費(fèi)額度是10000分鐘/月,一天大約5小時(shí)。
2.需手動(dòng)關(guān)機(jī),每天2點(diǎn)自動(dòng)關(guān)機(jī)
3.官方技術(shù)說會(huì)在小程序中加入管理功能(什么加不確定)
4.CF會(huì)有延遲,只能說夠用
5.模型我裝過14B,可以跑起來,但是會(huì)卡。我現(xiàn)在用的是8B。
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容