最近,DeepSeek爆火,先進的算法、卓越的能力,表現(xiàn)出眾,其憑一己之力推動國內Ai大模型跨越式發(fā)展。作為一款現(xiàn)象級的Ai產品,用戶量暴增,最近服務器又被攻擊,使用DeepSeek,經常出現(xiàn)服務器繁忙,將DeepSeek部署在本地電腦就方便很多。
將DeepSeek部署在本地電腦,只需三步即可完成。
一、下載安裝 Ollama
部署DeepSeek要用到 Ollama,它支持多種大模型。
Ollama官網:ollama.com
下載安裝Ollama,macOS、Linux 和 Windows都可以下載安裝,老宅這里選用Windows系統(tǒng)。
二、下載 DeepSeek-R1
1、進入Ollama官網,找到Models。
2、進入就可以看到deepseek-r1模型,如果沒有,在搜索欄搜索即可。
3、選擇對應的模型來下載,1.5b、7b、8b、14b、32b、70b或671b,這里有很多版本可選,模型越大,要求電腦內存、顯卡等的配置越高。老宅這臺機子是4060的顯卡,選擇8b的模型。
4、找到Windows【開始菜單】,鼠標右鍵點擊【終端管理員】。
5、復制下邊8b的代碼。
6、粘貼到PowerShell(管理員)運行框,然后回車。(這里會默認安裝在C盤,注意C盤空間)
出現(xiàn)下載等待窗口,等待下載完成。
7、下載完成后稍微等待,看到success,即部署完成。
8、部署完成,send a message,輸入內容即可開始對話。
三、Chatbox前端搭建
通過第二步的操作,已經部署好DeepSeek,但每次使用都要在終端管理員里操作,相當繁瑣。這里可以借助Chatbox,實現(xiàn)網頁或客戶端操作。
1、下載安裝Chatbox
Chatbox官網:chatboxai.app/zh
進入官網下載安裝Chatbox客戶端。
2、點擊設置,選擇Ollama API
3、選擇安裝好的deepseek r1模型,保存即可
4、部署完成,就可以正常使用了。
通過以上三步,DeepSeek就部署在本地電腦上了,有些不方便公開的數據,比如實驗數據,可以通過部署大模型到本地的方式進行處理,不用擔心數據泄露。
DeepSeek 登頂蘋果中國地區(qū)和美國地區(qū)應用商店下載排行榜,在美區(qū)下載榜上超越了 ChatGPT。其推理能力的強大就不多說了,留給大家自行探索。