打開瀏覽器→下載 Ollama→輸入 1 條命令→搞定！這不是魔法，而是本地部署大語言模型的全新方式。Ollama 簡化了大型語言模型的運行，讓每個人都能在本地輕松體驗 AI 的強大。
但是，僅僅運行一個大語言模型還不夠。如何讓它真正理解你的數(shù)據(jù)，回答你的問題？這時，AnythingLLM 就派上用場了。
它能將你的文檔、筆記、網(wǎng)頁等各種數(shù)據(jù)源連接到本地 Ollama 運行的 DeepSeek 模型，構(gòu)建一個真正屬于你的、個性化的知識庫問答系統(tǒng)。告別在海量信息中苦苦搜索，讓 AI 成為你高效的知識助手！
關(guān)于引入 AnythingLLM 的理由，可以考慮以下幾點：
1、數(shù)據(jù)連接： AnythingLLM 可以連接各種數(shù)據(jù)源，例如本地文件、網(wǎng)站鏈接等。
2、多模型選擇：AnythingLLM支持各種主流模型的API接入方式，DeepSeek、OpenAI、Gemini等等。
3、易用性： 它通常提供友好的用戶界面，方便用戶進行配置和管理。
1 Ollama 本地化部署DeepSeek R1
Ollama 是一個用于本地運行大語言模型（LLMs）的開源工具，提供簡單的界面和優(yōu)化的推理引擎，使用戶能夠在個人設備上高效地加載、管理和運行 AI 模型，而無需依賴云端。
官網(wǎng)地址：https://ollama.com/
官網(wǎng)下載對應版本，然后根據(jù)自己本地配置運行命令。
其中，deepseek-r1:1.5b 換成適配你本地的模型。
運行命令：ollama run deepseek-r1:1.5b
介紹幾個Ollama常用的命令：
1、列出本地可用的模型列表：ollama list
2、啟動模型：ollama run model_name
3、查看模型信息：ollama show model_name
4、刪除指定模型：ollama rm model_name
2 部署AnythingLLM
2.1 下載安裝
打開官網(wǎng)地址：https://anythingllm.com/desktop，根據(jù)自己的系統(tǒng)選擇下載的版本。
默認路徑安裝，或者修改默認安裝路徑都可以。
安裝完成界面：
點擊完成自動跳轉(zhuǎn)到AnythingLLM界面。
選擇Ollama，AnythingLLM會自動檢測本地部署的模型，所以前提確保Ollama本地部署的模型正常運行。
模型配置
1、LLM Selection（大語言模型選擇）：
這里選擇了名為 Ollama 的模型。
說明用戶的模型和聊天記錄僅在運行 Ollama 模型的機器上可訪問，這意味著數(shù)據(jù)不會在其他地方被存儲或訪問，從而增強了數(shù)據(jù)的安全性和隱私性。
2、Embedding Preference（嵌入偏好）：
使用了名為 AnythingLLM Embedder 的嵌入工具。
說明用戶的文檔文本是在 AnythingLLM 的實例上私密嵌入的，這意味著文本數(shù)據(jù)的處理和轉(zhuǎn)換是在本地進行的，不會泄露給第三方。
3、Vector Database（向量數(shù)據(jù)庫）：
使用了 LanceDB 作為向量數(shù)據(jù)庫。
說明用戶的向量和文檔文本都是存儲在這個 AnythingLLM 實例上的，這再次強調(diào)了數(shù)據(jù)的私密性和安全性。
收集用戶對 AnythingLLM 服務的反饋，可選的調(diào)查問卷，可直接跳過。
創(chuàng)建工作區(qū)，填寫工作區(qū)名稱。
可以在聊天窗口與之對話了。
2.2 搭建本地知識庫
在左側(cè)工作區(qū)找到上傳按鈕。
我上傳了一個表格文件。
選中上傳的文本，點擊移動到工作區(qū)。
點擊Save and Embed。對文檔進行切分和詞向量化。
完成后，點擊圖釘按鈕，將這篇文檔設置為當前對話的背景文檔。
測試效果：
我上傳的知識庫是虛擬了5本書及價格。隨便選中其中一本問下價格。
可以考到模型思考的過程及最終答案，還是非常準確的。
2.3 DeepSeek R1 API 接入LLM
也許有的小伙伴會說，我本地硬件條件有限，就想使用DeepSeek官網(wǎng)服務怎么辦？
不要著急，AnythingLLM支持直接調(diào)用DeepSeek官方提供的API接口。
在工作區(qū)右側(cè)點擊設置，選擇聊天設置，可以更改LLM模型。
選擇DeepSeek，輸入API Key，選擇DeepSeek R1模型。
輸入DeepSeek API Key，選擇DeepSeek R1模型就可以了。
點擊最后更新工作區(qū)后就可以享受官方提供的大模型服務了。
知識庫部署和2.2章節(jié)一致，只是調(diào)用的模型變?yōu)楣俜紸PI接口。
看到這里，你是否發(fā)現(xiàn)AI私有化部署并沒有想象中復雜？其實技術(shù)平權(quán)化的浪潮早已到來，重要的是勇敢邁出第一步。
畢竟，當技術(shù)門檻不復存在，唯一限制我們的，就只剩下想象力。
記住，每個科技達人都是從點擊『安裝』按鈕開始的！
希望本文能幫助你邁出第一步，探索本地 AI 的無限可能。如果你在部署過程中遇到任何問題，歡迎在評論區(qū)留言交流！
##DeepSeek相關(guān)文章##
1、公司數(shù)據(jù)不泄露，DeepSeek R1本地化部署+web端訪問+個人知識庫搭建與使用，喂飯級實操教程，老舊筆記本竟跑出企業(yè)級AI
2、更強大的DeepSeek本地知識庫部署來了，Dify+DeepSeek實現(xiàn)智能體工作流，喂飯級教程，強烈建議收藏
3、DeepSeek 必看指南！全流程實操帶你高效上手，你離AI高手，只差這篇文章！
4、只需三步把DeepSeek R1接入Vscode，Cursor的國產(chǎn)平替終于來了，性能對標OpenAI o1
5、DeepSeek R1大顯神通！2分鐘完成網(wǎng)頁版掃雷游戲
7、曹雪芹看了沉默！DeepSeek黑科技：用紅樓夢詩讖解碼甄嬛傳，刀刀見血
8、國產(chǎn)之光，DeepSeek榮登中美App Store榜首，超越ChatGPT
9、太簡單了，3分鐘搞定騰訊云一鍵部署DeepSeek R1 教程，小白也能用
