DeepSeek 實戰(zhàn),1分鐘學(xué)會本地部署

DeepSeek 身上的標(biāo)簽有很多,其中最具代表性的標(biāo)簽有以下兩個:

低成本(不挑硬件、開源)
高性能(推理能力極強、回答準(zhǔn)確)

一、為什么要部署本地DeepSeek?
相信大家在使用 DeepSeek 時都會遇到這樣的問題:

這是由于 DeepSeek 大火之后訪問量比較大,再加上漂亮國大規(guī)模、持續(xù)的惡意攻擊,導(dǎo)致 DeepSeek 的服務(wù)器很不穩(wěn)定。所以,這個此時在本地部署一個 DeepSeek 大模型就非常有必要了。
再者說,有些數(shù)據(jù)比較敏感,咱也不想隨便傳到網(wǎng)上去,畢竟安全第一嘛。這時候,本地大模型的優(yōu)勢就凸顯出來了。它就在你自己的電腦上運行,完全不用擔(dān)心網(wǎng)絡(luò)問題,而且數(shù)據(jù)都在本地,隱私更有保障。而且,本地大模型可以根據(jù)你的需求進行定制,想怎么用就怎么用,靈活性超強!
二、怎么部署本地大模型?
在本地部署 DeepSeek 只需要以下三步:

安裝 Ollama。
部署 DeepSeek。
使用 DeepSeek:這里我們使用 ChatBox 客戶端操作 DeepSeek(此步驟非必須)。

Ollama、DeepSeek 和 ChatBox 之間的關(guān)系如下:

Ollama 是“大管家”,負(fù)責(zé)把 DeepSeek 安裝到你的電腦上。
DeepSeek 是“超級大腦”,住在 Ollama 搭建好的環(huán)境里,幫你做各種事情。
ChatBox 是“聊天工具”,讓你更方便地和 DeepSeek 交流。

安裝Ollama
Ollama 是一個開源的大型語言模型服務(wù)工具。它的主要作用是幫助用戶快速在本地運行大模型,簡化了在 Docker 容器內(nèi)部署和管理大語言模型(LLM)的過程。
PS:Ollama 就是大模型屆的“Docker”。
Ollama 優(yōu)點如下:

易于使用:即使是沒有經(jīng)驗的用戶也能輕松上手,無需開發(fā)即可直接與模型進行交互。
輕量級:代碼簡潔,運行時占用資源少,能夠在本地高效運行,不需要大量的計算資源。
可擴展:支持多種模型架構(gòu),并易于添加新模型或更新現(xiàn)有模型,還支持熱加載模型文件,無需重新啟動即可切換不同的模型,具有較高的靈活性。
預(yù)構(gòu)建模型庫:包含一系列預(yù)先訓(xùn)練好的大型語言模型,可用于各種任務(wù),如文本生成、翻譯、問答等,方便在本地運行大型語言模型。

Ollama 官網(wǎng):ollama.com/
下載并安裝Ollama
下載地址:ollama.com/

用戶根據(jù)自己的操作系統(tǒng)選擇對應(yīng)的安裝包,然后安裝 Ollama 軟件即可。
安裝完成之后,你的電腦上就會有這樣一個 Ollama 應(yīng)用:

點擊應(yīng)用就會運行 Ollama,此時在你電腦狀態(tài)欄就可以看到 Ollama 的小圖標(biāo),測試 Ollama 有沒有安裝成功,使用命令窗口輸入“ollama -v”指令,能夠正常響應(yīng)并顯示 Ollama 版本號就說明安裝成功了,如下圖所示:

部署DeepSeek
Ollama 支持大模型列表:ollama.com/library

例如,安裝并運行 DeepSeek:ollama run deepseek-r1:1.5b

使用DeepSeek
這里我們使用 ChatBox 調(diào)用 DeepSeek 進行交互,ChatBox 就是一個前端工具,用于方便的對接各種大模型(其中包括 DeepSeek),并且它支持跨平臺,更直觀易用。
ChatBox 官網(wǎng)地址:chatboxai.app/zh

安裝完 Chatbox 之后就是配置 DeepSeek 到 Chatbox 了

三、擴展知識:本地DeepSeek集成Idea
安裝CodeGPT插件

配置Ollama
Ollama API 默認(rèn)調(diào)用端口號:11434

四、優(yōu)缺點分析
本地大模型的優(yōu)缺點分析說完部署,我們來分析一下本地大模型的優(yōu)缺點,好讓大家心里有個數(shù)。
優(yōu)點

隱私性高:數(shù)據(jù)都在本地,不用擔(dān)心泄露問題,對于一些敏感數(shù)據(jù)處理來說,這是最大的優(yōu)勢。
穩(wěn)定性強:不受網(wǎng)絡(luò)影響,只要電腦不壞,模型就能穩(wěn)定運行,不用擔(dān)心中途卡頓或者斷線。
可定制性強:可以根據(jù)自己的需求進行調(diào)整和優(yōu)化,想讓它做什么功能就做什么功能,靈活性很高。

缺點

硬件要求高:大模型對電腦的性能要求不低,如果電腦配置不夠,可能會運行很卡,甚至跑不起來。
部署復(fù)雜:對于小白來說,一開始可能會覺得有點復(fù)雜,需要安裝各種東西,還得配置參數(shù),不過只要按照教程來,其實也沒那么難。
維護成本高:如果模型出了問題,可能需要自己去排查和解決,不像在線工具,有問題直接找客服就行。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容