這篇文章前幾天寫過,
不過有朋友問是否可以安裝個(gè)webui,通過網(wǎng)頁來使用。
我就寫一下,前面部分一樣,如果有遺漏可以看看上一篇文章。
1.注冊(cè)騰訊云(如果沒有就注冊(cè),有就跳過)
傳送門:https://curl.qcloud.com/tA0CERrX
2.開通免費(fèi)GPU
傳送門:https://ide.cloud.tencent.com/dashboard/gpu-workspace

3.進(jìn)入之后,新建-AI模板-ollama,官方現(xiàn)在有deepseek的模板,但是沒有UI界面,還需要自己安裝,所以安裝ollama挺好。



4.等待大約2-3分鐘,點(diǎn)擊圖標(biāo)進(jìn)入


5.復(fù)制粘貼以上命令
等待大約5分鐘下載模型


6.這個(gè)時(shí)間可以去cloudflare去注冊(cè)個(gè)賬號(hào),順便做一下域名綁定(你要有個(gè)域名先,沒有就先搞個(gè))

你需要先將域名設(shè)置好,這塊我就不多說了,如果不知道如何設(shè)置DNS可以給我留言。
不用做解析,就先添加到cf即可。
7.左側(cè)菜單-Zero Trust-網(wǎng)絡(luò)-Tunnes






先復(fù)制命令,一會(huì)粘貼到終端

這里的下一步需要滑塊往下滑(有人找不到)

需要注意的是:
6339是ollama調(diào)用的端口(API)
6889是chatbot的端口(webui)
可以根據(jù)自己的需要來設(shè)置,比如上一篇文章我就用的6889來做API調(diào)用。

返回看看模型是否已經(jīng)下載完成,看我上圖中出現(xiàn)success就是OK了
然后,下面已經(jīng)出現(xiàn)了對(duì)話,這時(shí)候需要退出對(duì)話。
/bye8.然后把你剛才復(fù)制的cf代碼粘貼到終端

出現(xiàn)這個(gè)提示就是OK了
是不是很簡(jiǎn)單。
現(xiàn)在你已經(jīng)可以訪問你剛才設(shè)置的域名了。
如果不能訪問去CF看看,你的域名是不是綠色的。
PS:
關(guān)機(jī)后cf服務(wù)停止無法通過域名訪問
解決方案:在終端執(zhí)行以下代碼
cloudflared service uninstall
cloudflared service install 隧道ID(這段是你CF那串代碼中的)


好了,點(diǎn)贊吧,兄弟們!
如果還有問題可以留言。

這里求一波關(guān)注,個(gè)人開發(fā)的軟件,總下載量早就過了10W+,主要集中于辦公、運(yùn)營(yíng)、推廣、獲客、外貿(mào)等領(lǐng)域,很實(shí)用的小工具,這樣的免費(fèi)工具,以后還會(huì)繼續(xù)分享。