Open WebUI及vLLM版本升級最佳實踐
更新時間 2025-05-13 11:01:50
最近更新時間: 2025-05-13 11:01:50
分享文章
在使用GPU云主機進行推理時,vLLM版本會影響計算性能與功能支持,Open WebUI版本關系著用戶交互體驗與功能兼容性。本文提供完整升級指南,進一步保證系統穩定性、界面功能完整及性能最優。
一、Open WebUI升級指南
1. 查看現有版本
docker exec -it open-webui bash -c "cat /app/package.json|grep version"
2.版本升級
(1)登錄云主機,下載最新容器鏡像
docker pull ghcr.nju.edu.cn/open-webui/open-webui:v0.6.5
(2)刪除舊鏡像
查看當前容器鏡像
刪除舊容器鏡像
docker image rm ghcr.nju.edu.cn/open-webui/open-webui:cuda
查看更新后的容器鏡像
3.修改啟動open-webui命令參數
vi /root/.start_webui.sh
修改后內容如圖
4.清理容器
docker ps -a
docker rm -f open-webui
二、vLLM升級指南
1. 查看現有版本
#如果環境是pip安裝的請執行
pip show vllm
# 如果是pip3安裝的請執行
# pip3 show vllm
2.版本升級
(1)指定版本號升級vLLM
# 例如要升級vllm到0.8.5
# 如果是pip安裝的執行:
pip install vllm==0.8.5
# 如果是pip3安裝的執行
# pip3 install vllm==0.8.5
(2)查看是否升級成功
# 如果是pip安裝的執行
pip show vllm
# 如果是pip3安裝的執行
# pip3 show vllm