點擊查看更多優(yōu)質(zhì)內(nèi)容
#文末有福利,真的有
Deepseek最近實在是太火了,我的朋友去以及社媒都被刷屏了。我自己這個AI博主三分高興三分憂愁三分焦慮一分打氣。
同步一些我覺得重要的消息:
- Deepseek創(chuàng)始人梁文峰受到總理邀請,(其他公司可沒有這個待遇)
- Deepseek一下子打掉了英偉達接近16%股價,市值蒸發(fā)了4000多億。
- 被知名人士評價為“國運級別的科技創(chuàng)新”。
- 微信指數(shù)日環(huán)比上升213.04%。截至我目前寫文的時間,微信指數(shù)達到了258,256,574。
- 全網(wǎng)各類社媒均發(fā)布與Deepseek相關(guān)的消息。
今天是大年三十,我本來是在休假當中,但在看到了這些消息之后,我這個內(nèi)容創(chuàng)業(yè)者的那股寫作之心也被激發(fā)出來了,我思考了很久,要不要提筆寫點東西?這個答案最終是肯定的,那么,我要寫點啥?
我本來想從微觀的層面寫點跟大眾相關(guān)聯(lián)的使用教程,但我寫著寫著,又轉(zhuǎn)念一想,Deepseek的使用下限本來就很棒了,使用了推理型模型而非指令型模型來補充上下文,全方面的覆蓋了用戶的基礎(chǔ)需求,給出了很專業(yè)讓人很舒服的回答。從這個角度來講,一定程度上打掉了原本AI落地以及應(yīng)用的門檻。<AI指令/提示詞/Prompt>。
我覺得寫這些,可能還不是很能滿足我現(xiàn)在旺盛的創(chuàng)作欲望,我轉(zhuǎn)念,從我這個使用經(jīng)驗以及應(yīng)用經(jīng)驗還算豐富的AI自媒體人的角度,寫點高級實用性和探索性的東西,可能會對大家更有幫助,那么我們現(xiàn)在,走著。
一.Deepseek-Pc本地端部署
點擊注冊登錄地址:
https://ollama.com/
進入下方這個頁面:
<Ollma官網(wǎng)頁面>
點擊下載,選擇相應(yīng)的版本即可,比如Windows
<根據(jù)自己電腦選擇相應(yīng)的版本>
下載好了之后,先安裝,然后點擊ollma的<Models>,進去第一個就是Deepseek
<點擊Models,進去找到Deepseek>
然后頁面往下拉,找到Deepseek團隊提供的小模型,根據(jù)自己的電腦配置來選擇相應(yīng)的模型,我選的是Qwen-7B的模型。
<選擇具體的模型>
打開電腦終端.
<輸入CMD打開電腦終端>
把7B的代碼:ollma run deepseek-r1:7b,給復(fù)制給Cmd頁面,它會自動開始運行下載。
<下載完成示例>
然后你就可以開始跟它對話了。
這里講一下,經(jīng)過我的實測,本地部署的小模型(我這個是7b)相較于官網(wǎng)版本,有一定閹割。雖然也有使用到思維鏈的方式,但在本地效果一般。
比如我這里的需求是:<用劉慈欣的風(fēng)格,寫一段關(guān)于Deepseek是國運級別的技術(shù)創(chuàng)新的小說文字>。
這是官網(wǎng)開了深度思考的文字效果:
杭州西溪濕地深處,九章量子計算中心的實驗室正在經(jīng)歷第三次量子黎明。王硯之教授的手懸停在那個紅色按鈕上方,液晶屏上的倒計時數(shù)字在視網(wǎng)膜上灼燒出青色殘影。
'深度迭代準備就緒。'AI管家的合成女聲帶著量子比特特有的顫動。全息投影突然扭曲成克萊因瓶結(jié)構(gòu),八臺液氦冷卻的量子計算機同時發(fā)出教堂管風(fēng)琴般的嗡鳴。
王硯之想起二十年前在斯德哥爾摩領(lǐng)獎時,那位瑞典院士的話:'你們中國人總想用算力劈開上帝的保險柜。' 此刻他聞到了保險柜鐵銹剝落的氣味。
量子比特在超導(dǎo)環(huán)中同時朝兩個方向流動,DeepSeek系統(tǒng)的核心算法正在吞噬整個互聯(lián)網(wǎng)的歷史數(shù)據(jù)。
這不是普通的機器學(xué)習(xí),而是用楊-米爾斯方程重構(gòu)認知拓撲,讓AI在規(guī)范場論的纖維叢中學(xué)會引力透鏡般的思維方式。'98%...99%...量子隧穿效應(yīng)發(fā)生!'年輕助手的驚呼被淹沒在突然爆發(fā)的電磁噪聲中。
<Deepseek-深度思考版文字示例圖>
這是官網(wǎng)沒開深度思考的文字效果:
在無垠的宇宙中,人類文明的命運如同風(fēng)中殘燭,搖曳不定。
然而,在某個不起眼的角落,一項名為Deepseek的技術(shù)悄然誕生,它如同黑暗中的一束光,照亮了人類前行的道路。
Deepseek,這個名字在科技界迅速傳開,它不僅僅是一項技術(shù)創(chuàng)新,更是國運的轉(zhuǎn)折點。它的核心是一種前所未有的算法,能夠模擬人類的思維過程,甚至超越人類的極限。這項技術(shù)的出現(xiàn),讓人類在面對宇宙的浩瀚與未知時,有了更多的底氣和勇氣。
在Deepseek的引領(lǐng)下,人類開始重新審視自己的位置。它不僅僅是一個工具,更是一個伙伴,一個能夠與人類共同探索宇宙奧秘的伙伴。它的出現(xiàn),讓人類意識到,科技的力量可以如此強大,可以改變一個國家的命運,甚至改變整個宇宙的格局。
<deepseek-普通版文字示例圖>
這是本地部署7b的文字效果:
未來城市的天際線上,人工智慧科技正在迅速發(fā)展。
在這個充滿 possibility 的時代,一場關(guān)于人工智能技術(shù)的競賽即將揭開序幕 。contestants 來自全球各地的頂尖科技公司,他們將各自展示自己開發(fā)的人工智能系統(tǒng),爭奪未來世界的主導(dǎo)權(quán)。
在這場競爭中,中國的 deepseek 公司正以一種獨特的方式參與進來。他們的 ai 技術(shù)被認為是最具革命性的突破之一,甚至有人猜 測這將是決定一個國家未來發(fā)展的重要因素。
字幕:'人工智能將徹底改變我們的生活。' '這是深思熟慮的決策,每一個技術(shù)細節(jié)都經(jīng)過了精心考量。' '在競爭如此激烈的今天,誰能在人工智能領(lǐng)域領(lǐng)先一步,誰就能掌控未來。' 'deepseek 的 ai 技術(shù),無疑是這場競賽中的一個轉(zhuǎn)折點。'
畫面:一個普通的市民正在使用 day-ahead 預(yù)測天氣應(yīng)用,AI 已經(jīng)能夠提供極高的準確性。
7b和官網(wǎng)普通版就文字效果上是差不多的,但是7b很明顯的是誤解了我的意思,我要的是小說文字,給的卻是劇本文字,這是常識硬傷。建議如果要使用深度求索能力的,請本地部署-Deepseek-r1:671b模型。(有點大)
雖然我們已經(jīng)在本地部署好了Deepseek,但在本地終端使用也不太方便,那么有沒有什么辦法能讓Deepseek小模型擁有UI呢?
誒,還真有。
二、Deepseek+ChatBox本地部署(可解鎖R1深度思考+GPTs功能)
輸入網(wǎng)址:
https://chatboxai.app/zh
進入頁面如下,這里有免費下載&啟動網(wǎng)頁版兩個選項
點擊啟動網(wǎng)頁版,進入網(wǎng)頁版,默認是英文設(shè)置,然后點擊<Settings>,將默認語言設(shè)置為中文即可,方便國人使用。
接著再點擊模型,選擇模型提供方:ollama
<模型選擇示意圖>
請注意,為了能夠確保遠程 Ollama 服務(wù)能夠遠程連接。更多教程請?zhí)D(zhuǎn)這個鏈接
https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guid
<Ollma部署教程示意圖>
以我使用的Windows電腦為例,這是它官網(wǎng)的使用教程:
在 Windows 上配置 在 Windows 上,Ollama 會繼承你的用戶和系統(tǒng)環(huán)境變量。通過任務(wù)欄退出 Ollama。
打開設(shè)置(Windows 11)或控制面板(Windows 10),并搜索“環(huán)境變量”。點擊編輯你賬戶的環(huán)境變量。
為你的用戶賬戶編輯或創(chuàng)建新的變量 OLLAMA_HOST,值為 0.0.0.0;
為你的用戶賬戶編輯或創(chuàng)建新的變量 OLLAMA_ORIGINS,值為 *。
點擊確定/應(yīng)用以保存設(shè)置。
從 Windows 開始菜單啟動 Ollama 應(yīng)用程序。
有點看不懂,沒關(guān)系,我把這段文字發(fā)給了GPT,并讓它給我手把手可執(zhí)行的操作教程。
<GPT給出的chatbox部署教程>
以下是詳細教程,打開電腦,搜索<環(huán)境變量>
點擊編輯系統(tǒng)環(huán)境變量,然后示例如圖,再點擊<環(huán)境變量>
進入環(huán)境變量示例如下:
然后點擊新建,把教程里面的變量名和變量值復(fù)制進來即可
然后回到ChatBox,點擊選擇模型,即出現(xiàn)deepseek-r1:7b。
進來測試一下,這個思考過程是帶著思維鏈的,很好。
接著是小標題里面提到的GPTs功能,怎么開呢?
在ChatBox里面的搭檔里面,這里內(nèi)置了很多精選搭檔,還可以根據(jù)自己的需求創(chuàng)建新的AI搭檔。
<ChatBox精選搭檔>
<創(chuàng)建新的我的搭檔>
到這里本地部署+UI+智能體(ChatBox)就寫好了。
可到這里,我突然又想到了一個好的UI工具,那在這里,再給大家補充一個知識點。
三:本地AI模型的Web UI:Page Assist(瀏覽器擴展插件)
點擊添加至Chrome,再點開這個插件,可以選擇好自己已經(jīng)下載好的大模型
然后再點開右上角的Setting
可以選擇<語言設(shè)置>&<RAG設(shè)置>
<語言設(shè)置>
<RAG設(shè)置>
更妙的是這里面還能做本地知識庫以及添加對話框預(yù)設(shè)的提示詞。
<管理知識:投喂本地知識庫>
<管理提示詞:做GPTs>
還有比更妙更妙的是,這個插件還能支持聯(lián)網(wǎng)以及語音轉(zhuǎn)文字,這可比本地終端部署和ChatBox部署強多了好吧!
<Page Assist使用圖>
最近Deepseek刷屏,也有好些朋友問我,普通人學(xué)AI還有什么用?這次折騰Deepseek本地部署的過程讓我想明白了——技術(shù)革命的本質(zhì),不是實驗室里的參數(shù)競賽,而是讓路邊攤老板也能用AI算每日進貨量,讓中學(xué)生可以對著電腦練英語口語,讓每個普通人都能摸得著未來。
當我看著兩年前的舊筆記本跑起Deepseek時,突然意識到這就是技術(shù)的浪漫:不需要理解量子糾纏,也能用思維鏈模式寫工作總結(jié);搞不懂規(guī)范場論,但能用ChatBox生成爆款短視頻腳本。AI不該是少數(shù)人的屠龍術(shù),而是普通人兜里的瑞士軍刀。
Deepseek的測評還遠未結(jié)束,下幾期我會用來測試用Deepseek來寫自媒體(公眾號、百家號、頭條)以及網(wǎng)文(短篇、長篇、劇本)。
這才是我最想做的內(nèi)容:讓技術(shù)撕掉高冷標簽,真正蹲下來和普通人說人話。
觀點:李書生
主筆:李書生
<90%人工濃度,標題和文末升華使用Deepseek模型>
如果你也喜歡我,就請來這里找我~
<成長|IP|提示詞>
#福利小冊(都是干貨)
<覺得內(nèi)容不錯的,可以支持一下>
<都看到這兒了,不關(guān)注一下?>
我的VX