使用場景
大模型API提供了接口以便用戶更好地進行DeepSeek管理和應用開發。用戶在開通天翼云DeepSeek云主機后,利用Open WebUI API即可實現對外提供API調用,同時也可以非常方便的實現外部大模型API接入使用。
本教程使用的GPU云主機規格如下所示,用于部署DeepSeek-r1:7b模型,配置僅供參考。
cpu 16核?
內存?64G
GPU:?NVIDIA?A10*1?(24GB)
如需體驗其它模型版本,請參考在天翼云使用Ollama運行 DeepSeek的最佳實踐-7b版-彈性云主機-最佳實踐-AIGC實踐 - 天翼云--自定義部署DeepSeek--步驟二:規格選型,選擇合適的云主機。
準備
參考在天翼云使用Ollama運行 DeepSeek的最佳實踐-7b版-彈性云主機-最佳實踐-AIGC實踐 - 天翼云--快速體驗DeepSeek,準備相關設備及模型資源。
認證
OpenWebUI 使用Bearer Token認證保證客戶端請求的合法性,其Token為APIKEY中JWT令牌(Json Web Token)。獲取API key方式如下:
1.登錄Open WebUI。
2.選擇設置->賬戶,選擇獲取或者新建API KEY。
API接口
1.列舉模型
URL:GET /api/models
描述:列出可用的模型列表,并提供相關模型的基本信息。
例子:
curl -H "Authorization: Bearer API_KEY" //公網IP:3000/api/models
2.對話補全
URL:POST /api/chat/completions
描述:根據輸入的上下文,來讓模型補全對話內容。
例子:
curl -L -X POST '//公網IP:3000/api/chat/completions' \
-H 'Content-Type:application/json' \
-H 'Accept:application/json' \
-H 'Authorization:BearerAPI_KEY' \
-d '{
"model":"deepseek-r1:7b",
"messages": [
{
"content":"用英語翻譯一下你好",
"role":"user"
}
],
"stream":false
}'
使用外部大模型
Open WebUI通過云主機方式部署完自己的DeepSeek后,可以直接嵌入使用外部大模型,嵌入后可以通過WEB、API進行模型使用。配置方式如下:
1.登錄Open WebUI。
2.選擇管理員面板->設置->外部連接。
3.選擇OpenAI API開啟,點擊管理OpenAI API連接,新增外部大模型連接,輸入外部模型的URL和API KEY。
- 點擊保存。
- 查看對話新增的大模型,其中DeepSeek-chat和DeepSeek-reasoner為DeepSeek官網新增模型。
使用天翼云息壤一體化智算服務平臺
準備工作
使用天翼云息壤提供的大模型不僅需要提供API KEY,還需要提供對應的模型ID。其獲取方式如下:
1.登錄天翼云官網,選擇息壤一體化智算服務平臺->一站式智算服務平臺->服務接入->創建服務組->DeepSeek-R1-昇騰版,點擊提交。
2.選擇測試服務,獲App key作為API KEY。選擇查看詳情->了解更多。
3.選擇API文檔,獲取模型ID和終端地址。
Open WebUI接入
1.登錄Open WebUI并選擇管理員面板->設置->外部連接。
2.選擇OpenAI API開啟,點擊管理OpenAI API連接,新增息壤大模型終端地址、API KEY和模型ID。終端地址需要增加V1版本。
3.點擊保存。
4.點擊模型,修改模型ID為易理解的模型。
5.查看對話新增的大模型,其中息壤-DeepSeek-R1-昇騰版為新增模型。
注意請妥善保管您的API KEY,不要在公共場合泄露。
返回DeepSeek專題導航。