兄弟們,太炸裂了,不知道你們最近是不是被DeepSeek發(fā)布的R1模型刷屏了。
據(jù)說(shuō)DeepSeek R1模型用更低的訓(xùn)練成本,全方位逼近甚至超越OpenAI的o1模型,并且其APP也登上了中國(guó)和美國(guó)蘋果應(yīng)用商店免費(fèi)榜的第一名。
相比于CloseAI,DeepSeek開(kāi)源了其模型權(quán)重,使得普通人也可以在家用電腦上進(jìn)行部署。
今天,手把手教大家在本地部署DeepSeek R1,并將其集成到Dify中,實(shí)打?qū)嵦嵘愕墓ぷ餍剩?/strong>
在本節(jié)中,主要介紹如何在本地通過(guò)ollama部署DeepSeek R1。后面的章節(jié)將介紹如何將其集成到Dify中。
進(jìn)入到ollama官網(wǎng),選擇對(duì)應(yīng)的操作系統(tǒng),下載ollama應(yīng)用程序并安裝:
安裝成功之后,在命令行輸入ollama
,如果出現(xiàn)下面的提示,則說(shuō)明安裝成功。
在ollama官網(wǎng)的頂部,點(diǎn)擊「Models」,然后選擇第一個(gè)「DeepSeek R1」:
在模型界面,根據(jù)自己的顯存大小選擇對(duì)應(yīng)的版本:
比如,我的電腦是MacOS 32G,這里我選擇了14b的模型,點(diǎn)擊14b,然后在右側(cè)會(huì)出現(xiàn)下載命令:
命令執(zhí)行完成之后,就可以通過(guò)命令行和大模型進(jìn)行對(duì)話了:
當(dāng)然,只是通過(guò)命令和大模型進(jìn)行對(duì)話還是不太方便了點(diǎn),那么接下來(lái),介紹一下如何將其集成到Dify中,通過(guò)可視化的方式進(jìn)行調(diào)用。
聯(lián)系客服