尤物美女视频在线观看,中国一区二区美女视频,xnxx美女视频

淘汰你的不是AI，而是會(huì)用AI的同事！

2024.06.06 湖北

隨著AI技術(shù)的發(fā)展，許多傳統(tǒng)崗位可能會(huì)被自動(dòng)化取代，但同時(shí)也創(chuàng)造了許多新的就業(yè)機(jī)會(huì)和崗位。在AI時(shí)代，技術(shù)本身并不是唯一的挑戰(zhàn)，真正的競(jìng)爭(zhēng)來(lái)自于那些能夠有效利用AI技術(shù)的人。也就是這句：“淘汰你的不是AI，而是會(huì)用AI的同事！”

當(dāng)你關(guān)注“軟硬件技術(shù)開(kāi)發(fā)”公眾號(hào)時(shí)，你可能對(duì)AI技術(shù)也非常感興趣，今天我們就和大家一起親手在自己的電腦側(cè)部署一個(gè)開(kāi)源大模型：llama3。部署完成后，向大模型問(wèn)問(wèn)題便不用聯(lián)網(wǎng)，不用向大服務(wù)商交token值了。

Llama3模型是由Meta開(kāi)發(fā)的，使用了優(yōu)化的transformer架構(gòu)，Llama3:8b具有80億個(gè)參數(shù)，Llama3:70b則有700億個(gè)參數(shù)。今天以Llama3:8b為例和大家一起進(jìn)行本地部署，開(kāi)始“卷起來(lái)”：

下載并安裝Ollama

訪問(wèn)Ollama的官方網(wǎng)站：https://ollama.com/download，然后根據(jù)您的操作系統(tǒng)選擇相應(yīng)的下載選項(xiàng)，這里以windows為例。

下載exe的安裝程序后，自行安裝完成后，有一個(gè)步驟是改變大語(yǔ)言模型存放的位置，將模型放置到空間足夠的盤(pán)上，以免占用過(guò)多的C盤(pán)空間。找到你“系統(tǒng)屬性”中的“環(huán)境變量”，添加“系統(tǒng)變量”：

變量名：OLLAMA_MODELS

變量值：你自己指定的存放模型的位置

下載并運(yùn)行開(kāi)源大模型llama3

進(jìn)入ollama，點(diǎn)擊“Models”，選擇你希望部署的模型，例如llama3，然后選擇模型規(guī)模，例如llama3:8b，最后點(diǎn)擊復(fù)制按鈕，直接復(fù)制語(yǔ)句到粘貼板：ollama run llama3

打開(kāi)windows終端，右鍵粘貼，回車運(yùn)行該語(yǔ)句，等待安裝成功。安裝成功后即部署成功了。此時(shí)，你可以在windows終端上和llama3模型進(jìn)行交互。

除了進(jìn)行問(wèn)答，你可以輸入“/?”查看可用的命令，例如用“/bye”退出和模型的互動(dòng)，回到windows終端，輸入其他命令。

回到終端后，你可以輸入：ollama -h 的命令查看ollama可用的命令：

對(duì)電腦的需求

恭喜你成功部署了一個(gè)本地的大模型，此時(shí)你若打開(kāi)任務(wù)管理器，查看內(nèi)存使用情況，不出意外的話肯定使用超過(guò)4GB了，因?yàn)槲覀儎偛渴鸬膌lama3:8b在運(yùn)行后會(huì)占用4.7GB。

若你部署的是llama3:70b（700億參數(shù)規(guī)模）則會(huì)占用40GB以上，那你至少需要64GB的內(nèi)存，或者你顯卡的顯存容量超過(guò)40GB。我做過(guò)測(cè)試：70b的模型相比于8b的模型，它的回答會(huì)慢很多，但也“聰明”不少。

至此，你可以用windows終端和本地大模型進(jìn)行“交流”了，但相信你還想有一個(gè)像其他GPT那樣的UI界面，方便你輸入文本和上傳文件，就像這樣：

本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊舉報(bào)。

打開(kāi)APP，閱讀全文并永久保存查看更多類似文章

Llama3本地部署及API接口本地調(diào)試，15分鐘搞定最新Meta AI開(kāi)源大模型本地Windows電腦部署

Ollama WebUI AnythingLLM，構(gòu)建安全可靠的個(gè)人/企業(yè)知識(shí)庫(kù)

？無(wú)顯卡+純本地跑Qwen1.5版模型！0基礎(chǔ)閉眼部署指南！適用絕大部分開(kāi)源模型！llama2+Mistral+Zephyr通殺！

非常可靠，手把手教你本地部署AI大模型-llama3:70b

用ollama的免費(fèi)API零代碼開(kāi)發(fā)第一個(gè)AI應(yīng)用

最強(qiáng)開(kāi)源編程大模型一夜易主：精通80 語(yǔ)言，僅22B

更多類似文章 >>

国产一级a片免费看高清,亚洲熟女中文字幕在线视频,黄三级高清在线播放,免费黄色视频在线看