注意GPU云主機鏡像(xiang)自帶的(de)ollama監(jian)(jian)聽(ting)127.0.0.1:11434、vllm 監(jian)(jian)聽(ting) 0.0.0.0:8000、open-webui 監(jian)(jian)聽(ting) 0.0.0.0:3000 端(duan)(duan)口(kou),云主機默(mo)認不對外開放任何端(duan)(duan)口(kou)訪問,請按需開放端(duan)(duan)口(kou)訪問規則,避免數據泄(xie)露。
開放云主機端口
云主機安全組需要放行 3000 端口,添加安全組規則幫助文檔。
注冊管理員賬號
Deepseek 云主機內置可視化界面,云主機啟動 5 分鐘后,可訪問 //{your_ip}:3000 (your_ip 這臺(tai)云主機的(de)eip) 體驗(yan)DeepSeek。
首次登錄頁面如下:
點擊開始使用,注冊管理員賬(zhang)號:
基本配置
Open WebUI有(you)強(qiang)大的設置(zhi)功能,可根據需要進行設置(zhi),點(dian)擊左下角進入(ru)設置(zhi)頁面(mian):
首先(xian)在通用設(she)置中,將語言設(she)置為(wei)簡體中文(wen)。
進入管理員設置。
如果您不(bu)想開放其他用戶(hu)注冊使用,則需要關閉 “允(yun)許用戶(hu)注冊” 功能。
如果(guo)你允許(xu)用(yong)戶(hu)(hu)注冊(ce),還可以(yi)設(she)置用(yong)戶(hu)(hu)注冊(ce)后(hou)(hou)的(de)行為,例如將新用(yong)戶(hu)(hu)注冊(ce)后(hou)(hou)的(de)默認用(yong)戶(hu)(hu)角色設(she)為“用(yong)戶(hu)(hu)”或“待激活(huo)”等,這(zhe)些用(yong)戶(hu)(hu)需要管理員手動(dong)激活(huo):
模型配置
單機(ji)(ji)(ji)版 Deepseek GPU 云主機(ji)(ji)(ji)在完成部(bu)署后,會自動匹配(pei)云主機(ji)(ji)(ji)本地(di)模型(xing),刷新進入首頁,可(ke)以(yi)看到(dao),模型(xing)下拉列表中(zhong),可(ke)以(yi)選(xuan)擇我們部(bu)署的(de)deepseek-r1 模型(xing):
您可(ke)以(yi)主動設置您的模(mo)(mo)型連(lian)接,以(yi)體驗任意第三方連(lian)接。以(yi)ollama和vllm提供的服務為(wei)例,進入“管理員面板” -> “設置” -> “外部鏈接”,如果使用(yong)的 vllm 則(ze)(ze)填入您的vllm地址和 --api-key,如果使用(yong)ollama 則(ze)(ze)填入您的ollama地址,點擊保存后即可(ke)使用(yong)模(mo)(mo)型。
設置模型可見性:
多用戶(hu)模(mo)式下,建議把模(mo)型(xing)設置(zhi)為public,如此才能讓模(mo)型(xing)被所有用戶(hu)看到。進入“管理員面板(ban)” -> “設置(zhi)” -> “模(mo)型(xing)”,并點擊編輯。
將模型可(ke)見(jian)性設(she)置為 public 并點擊保存(cun)。
最后,我們嘗試(shi)下問一個問題(ti)(ti),模型(xing)可以(yi)正常回答問題(ti)(ti):