国产一级a片免费看高清,亚洲熟女中文字幕在线视频,黄三级高清在线播放,免费黄色视频在线看

打開APP
userphoto
未登錄

開通VIP,暢享免費(fèi)電子書等14項(xiàng)超值服

開通VIP
突破公網(wǎng)限制!零門檻本地部署DeepSeek大模型指南

前言

DeepSeek的強(qiáng)大相信親身體驗(yàn)過的小伙伴都會(huì)直呼NB,但因?yàn)槭褂萌藬?shù)過多又或境外攻擊的原因,想要順暢使用卻很難,

在這里出一篇使用自己電腦部署DeepSeek的教程,個(gè)人電腦由于配置有限只能部署1.5b蒸餾版本作為演示,自己可根據(jù)電腦硬件配置部署想要的參數(shù)量,官方的為671b滿血版本。


安裝步驟

1. 安裝Ollama

curl https://ollama.ai/install.sh | sh

需要魔法

2. 啟動(dòng)Ollama服務(wù)

ollama serve

3. 拉取DeepSeek模型

 ollama pull deepseek-r1:1.5b

需要魔法 運(yùn)行模型需要的配置參考如下:

  • 「deepseek 1.5b」參數(shù)量:約10億分之-(通常理解為1,500 million或1.5億) 硬件要求:中等性能,適用于個(gè)人用戶。需要中型GPU如NVIDIA Quadr0 RTX 4000,內(nèi)存需求約16GB,運(yùn)行時(shí)間幾個(gè)小時(shí)到一天。
  • 「deepseek7b和8b」參數(shù)量:約70億和80億。 硬件要求:需稍高配置,如32GB內(nèi)存,NVIDIA A100或T4系列GPU,運(yùn)行時(shí)間較長(zhǎng)。
  • 「deepseek 14b」參數(shù)量:約140億。 硬件要求:更高性能,如64GB內(nèi)存和A40級(jí)顯卡,需更長(zhǎng)的計(jì)算時(shí)間。
  • 「deepseek 32b」參數(shù)量:約320億。 硬件要求:需更高配置,如80GB內(nèi)存、A100或H100 GPU,適合企業(yè)級(jí)使用
  • 「deepseek70b和671b」參數(shù)量:分別約700億和6,710億。 硬件要求:需超級(jí)計(jì)算機(jī)配置,包括大量顯存、高性能GPU和強(qiáng)大處理器,通常需分布式計(jì)算。「總結(jié): 參數(shù)越大,硬件需求越強(qiáng),尤其是GPU性能、內(nèi)存容量和計(jì)算時(shí)間。個(gè)人用戶適合較小的模型(如7b或8b),而更大的模型需要企業(yè)級(jí)資源?!?/span>

4. 配置Ollama遠(yuǎn)程訪問

vim /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment='OLLAMA_HOST=0.0.0.0:11434'
Environment='OLLAMA_ORIGINS=*'
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment='PATH=/usr/local/java/jdk1.8.0_421/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/local/go/bin:/bin:/usr/local/apache-maven-3.8.8/bin'

[Install]
WantedBy=default.target
  • 重啟ollama
systemctl daemon-reload
systemctl restart ollama

5. 啟動(dòng)DeepSeek模型

ollama run deepseek-r1:1.5b

6. 調(diào)用API測(cè)試

curl -X POST http://172.29.89.96:11434/api/generate -d '{
  'model': 'deepseek-r1:1.5b',
  'prompt': '請(qǐng)介紹一下你自己'
}'

  • 172.29.89.96為部署大模型所在服務(wù)器的IP地址,輸出以下結(jié)果即調(diào)用成功

7. 安裝圖形化大模型對(duì)話工具 Nextchat

vim docker-compose.yml
version: '3'
services:
  chatgpt-next-web:
    image: registry.cn-guangzhou.aliyuncs.com/hzbb/chatgpt-next-web:v2.15.8
    container_name: chatgpt-next-web
    ports:
      - '23000:3000'
    environment:
      - BASE_URL=http://172.29.89.96:11434  # 大模型服務(wù)器IP
      - CUSTOM_MODELS=-all,+deepseek-r1:1.5b
      - HIDE_USER_API_KEY=1
      - DISABLE_GPT4=1
      - CODE=hzbb
    restart: always
docker-compose up -d

需提前安裝Docker及Docker-compose,鏡像已緩存至阿里云節(jié)點(diǎn),境內(nèi)可以正常拉取

8. 訪問網(wǎng)頁(yè)

這里大模型和Nextchat都部署在一臺(tái)機(jī)上,訪問地址為:http://172.29.89.96:23000 ,首次使用需輸入密碼 hzbb

9. 使用測(cè)試

至此,DeepSeek大模型私有化部署完成!
本站僅提供存儲(chǔ)服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊舉報(bào)。
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
白嫖deepseek本地部署教程,轉(zhuǎn)發(fā)+收藏送deepseek使用技巧
飄了!本地跑72B大模型,無需GPU,速度快
3分鐘搞定DeepSeek本地化安裝部署,小白也能看懂!
利用Ollama部署DeepSeek本地模型:從入門到實(shí)踐
【Llama3:8b】手把手教你如何在本地部署 自己的 AI 大模型
簡(jiǎn)單8步教會(huì)你本地部署DeepSeek模型
更多類似文章 >>
生活服務(wù)
分享 收藏 導(dǎo)長(zhǎng)圖 關(guān)注 下載文章
綁定賬號(hào)成功
后續(xù)可登錄賬號(hào)暢享VIP特權(quán)!
如果VIP功能使用有故障,
可點(diǎn)擊這里聯(lián)系客服!

聯(lián)系客服