国产一级a片免费看高清,亚洲熟女中文字幕在线视频,黄三级高清在线播放,免费黄色视频在线看

打開APP
userphoto
未登錄

開通VIP,暢享免費電子書等14項超值服

開通VIP
ubuntu 安裝配置 ollama ,添加open

      • 下載安裝 [https://ollama.com/download](https://ollama.com/download)
        • 安裝方法 1 命令行下載安裝
        • 安裝方法 2 , 手動下載安裝
      • 配置模型下載路徑
      • 運行
        • 1 啟動 ollama 服務(wù)
        • 2 運行大模型
      • 其它
        • 關(guān)閉 ollama 服務(wù)
        • 配置文件,按需修改
        • 查看模型文件信息路徑
      • 添加open-webui
        • 方法1,docker 拉取現(xiàn)有的鏡像,創(chuàng)建容器運行
        • 方法2,open-webui源碼構(gòu)建docker鏡像

下載安裝 https://ollama.com/download

安裝方法 1 命令行下載安裝
curl -fsSL https://ollama.com/install.sh | sh
安裝方法 2 , 手動下載安裝

1 手動下載 https://ollama.com/install.sh 這個文件

2 注釋掉下載部分 curl xxxx 手動下載ollama-linux-{ARCH}

status 'Downloading ollama...'
#curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama 'https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}'

我電腦intel/amd cpu 所以 {ARCH} = amd64
瀏覽器下載 https://ollama.com/download/ollama-linux-amd64
放在 install.sh 同目錄下

3 注釋掉 #$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama
改為下面一行:

status 'Installing ollama to $BINDIR...'
$SUDO install -o0 -g0 -m755 -d $BINDIR
#$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama
$SUDO install -o0 -g0 -m755 ./ollama-linux-amd64  $BINDIR/ollama

4 運行 install.sh ,安裝

./install.sh 

需要sudo 權(quán)限, 安裝完畢

配置模型下載路徑

gedit .bashrc

然后添加一行 配置 OLLAMA_MODELS 環(huán)境變量自定義路徑

### ollama model dir 改為自己的路徑
export OLLAMA_MODELS=/path/ollama_cache

如果開始沒配置OLLAMA_MODELS ,默認路徑是

/usr/share/ollama/.ollama/models 

如果修改了OLLAMA_MODELS環(huán)境變量,把之前下載的 OLLAMA_MODELS 目錄變量下的兩個目錄

blobs  manifests

復(fù)制到新的OLLAMA_MODELS目錄變量下 ,即可

運行

1 啟動 ollama 服務(wù)
ollama serve
2 運行大模型

ollama run <模型名稱>
運行 千問 大模型

ollama run  qwen

模型下載到剛才的OLLAMA_MODELS 環(huán)境變量下

其它

關(guān)閉 ollama 服務(wù)
 service ollama stop
配置文件,按需修改
sudo gedit /etc/systemd/system/ollama.service
查看模型文件信息路徑

ollama show <模型> --modelfile

ollama show qwen --modelfile

添加open-webui

確保網(wǎng)絡(luò)代理關(guān)閉 ubuntu 系統(tǒng),設(shè)置,網(wǎng)絡(luò)代理,選擇->關(guān)閉

參考 官方文檔 https://docs.openwebui.com/getting-started/

以下容器 運行之后,需要等一會,再訪問 http://127.0.0.1:8080/
注冊 open-webui 賬號然后用賬號登錄,效果如下:

方法1,docker 拉取現(xiàn)有的鏡像,創(chuàng)建容器運行

OLLAMA_BASE_URL 指定 ollama 服務(wù)地址 ,可以是本地也可以是遠端

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
方法2,open-webui源碼構(gòu)建docker鏡像

下載open-webui 源碼
https://github.com/open-webui/open-webui

編譯運行open-webui 的 Docker 鏡像

./run-compose.sh --enable-gpu --build
本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點擊舉報
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
Unraid部署docker:常用下載工具以及通過手機遠程管理
本地運行大模型,復(fù)刻ChatGPT聊天界面
Docker學(xué)習(xí)筆記 — Docker安裝(Ubuntu 64bit)
centos7安裝docker
手把手教你搭建百度Apollo自動駕駛環(huán)境
ubuntu安裝Docker CE
更多類似文章 >>
生活服務(wù)
分享 收藏 導(dǎo)長圖 關(guān)注 下載文章
綁定賬號成功
后續(xù)可登錄賬號暢享VIP特權(quán)!
如果VIP功能使用有故障,
可點擊這里聯(lián)系客服!

聯(lián)系客服