ECI加載DeepSeek R1
更新時間 2025-02-25 16:47:57
最近更新時間: 2025-02-25 16:47:57
分享文章
本文為您介紹如何使用ECI加載DeepSeek R1。
DeepSeek R1介紹
DeepSeek-R1 是一款強化學習(RL)驅動的推理模型,解決了模型中的重復性和可讀性問題。在 RL 之前,DeepSeek-R1 引入了冷啟動數據,進一步優化了推理性能。它在數學、代碼和推理任務中與 OpenAI-o1 表現相當,并且通過精心設計的訓練方法,提升了整體效果。
使用限制
模型 推薦規格(云主機) 支持資源池 DeepSeek-R1:1.5b 內存:4GB起 所有ECI已上線資源池 DeepSeek-R1:7b 內存:16GB起 所有ECI已上線資源池 DeepSeek-R1:8b 內存:16GB起 所有ECI已上線資源池 DeepSeek-R1:14b 內存:32GB起 所有ECI已上線資源池 DeepSeek-R1:32b 內存:64GB起
起臨時存儲空間:100GB起
所有ECI已上線資源池 DeepSeek-R1:70b 內存:128GB起
臨時存儲空間:150GB起
所有ECI已上線資源池
ECI彈性容器實例接入DeepSeek R1最佳實踐
- 訂購彈性容器實例,以最小模型1.5b為例。
- 選擇開源容器鏡像(open-source/open-webui-deepseek-r1) 。
- 打開容器高級設置,自定義環境變量。
其中PORT代表Open WebUI服務暴露的端口,ENABLE_OPENAI_API代表是否啟用OpenAI的API,RAG_EMBEDDING_ENGINE代表RAG(Retrieval Augmented Generation:檢索增強生成)使用的嵌入式引擎。
說明國內環境建議按照示例配置。
- 點擊下一步,綁定彈性IP。支持自動創建或綁定已有EIP。
- 確認訂單,等待容器實例Running。
- 檢查端口連通性。
- 安全組放開指定端口(PORT環境變量)。
- 通過瀏覽器訪問Open WebUI,如 EIP:PORT,點擊Get started。
- 創建管理員帳號/密碼登入。
- 進入主界面。
- 模型驗證。