簡介

DeepSeek 是一款基于 Transformer 架構的大型語言模型，具備強大的自然語言理解和生成能力，能夠處理多種復雜的語言任務。自發布以來，DeepSeek 憑借其卓越的性能和廣泛的應用場景，迅速贏得了業界的關注和認可。

目前，智能邊緣云ECX已經適配DeepSeek-R1系列模型，包括1.5B、7B、8B、14B、32B及70B版本。

接下來將詳細介紹如何在ECX上快速部署DeepSeek系列模型并使用Ollama運行。

注意
為維護良好的網絡環境和公共秩序，禁止任何用戶或機構利用天翼云平臺從事違法活動、傳播不良信息或實施違反社會公序良俗的行為。若發生此類行為，天翼云將依法采取必要措施，停止相關服務功能，并依法追究責任。
模型由DeepSeek公司提供，結果僅供參考，天翼云不對模型及模型的任何結果負責。

適配模型及推薦配置

DeepSeek配置	推薦虛擬機配置	標準價格	鏡像
DeepSeek-R1-Distill-Qwen-1.5B	g6i.2xlarge.2，8核16G，A10*1	包月：3316元/月	Ubuntu-22.04-A10-DeepSeek-1.5b
DeepSeek-R1-Distill-Qwen-7B	g6i.4xlarge.2，16核32G，A10*1	包月：3932元/月	Ubuntu-22.04-A10-DeepSeek-7b
DeepSeek-R1-Distill-Llama-8B	g6i.4xlarge.2，16核32G，A10*1	包月：3932元/月	Ubuntu-22.04-A10-DeepSeek-8b
DeepSeek-R1-Distill-Qwen-14B	g6i2.8xlarge.2，32核64G，A10*2	包月：7864元/月	Ubuntu-22.04-A10-DeepSeek-14b
DeepSeek-R1-Distill-Qwen-32B	g6i4.16xlarge.2，64核128G，A10*4	包月：15728元/月	Ubuntu-22.04-A10-DeepSeek-32b
DeepSeek-R1-Distill-Llama-70B	g6i6.22xlarge.5，90核494G，A10*6	包月：28154元/月	Ubuntu-22.04-A10-DeepSeek-70b

其他配置價格可參考計費說明，最終活動及價格請以下單頁面為準。

快速部署DeepSeek系列模型并使用Ollama運行

創建VPC

登錄，菜單欄點擊【邊緣網絡>虛擬私有云>VPC和子網】，點擊按鈕【+創建虛擬私有云】。

根據您的目標用戶所在地域，就近選擇業務部署的地域，并按需修改VPC名稱、VPC網段、子網網段等，若無特殊需求，按照默認設置即可，勾選協議并點擊【立即創建】。

完成后即可在VPC和子網列表看到剛剛創建的VPC。

創建安全組

登錄，菜單欄點擊【邊緣網絡>訪問控制>安全組】，點擊按鈕【新建安全組】。

切換【入方向規則/出方向規則】，點擊【添加規則】按需設置應用的安全組策略，在本方案中，需確保設置“11434,18080”入方向規則，點擊【確定】保存安全組策略。

創建GPU虛擬機

登錄，菜單欄點擊【邊緣虛擬機>實例】，點擊按鈕【新建實例】。

就近選擇地域可用區，實例規格選擇“GPU型”，根據您要部署的DeepSeek版本，選擇合適的實例配置。

鏡像配置-操作系統選擇”鏡像市場“，鏡像服務類型選擇“大模型”，操作系統選擇“Ubuntu”，如下圖所示。

存儲配置，系統盤建議100GB以上。

網絡配置，公網IP選擇“新購買”。

安全組設置，選擇剛剛創建的安全組。

完成后提交訂單，完成支付后，返回控制臺即可看到剛剛創建的虛擬機。

如需更多虛機創建指引，可參考如何創建實例。

體驗模型

虛擬機創建完成后，新建網頁，輸入[//公網IP:18080]，如//110.80.146.173:18080，即可通過webUI進行模型交互。

若需啟用聯網搜索等功能，可點擊左側菜單，點擊【設置】自定義相關配置。

加載更多版本模型

若需加載其他版本DeepSeek模型，可登錄虛擬機，執行以下命令。

ollama pull deepseek-r1:14b

將deepseek-r1:14b換成想要的模型，可訪問//ollama.com/library/deepseek-r1查看全部支持的模型。

加載完成后，可在webUI頁面切換不同模型使用，如下圖所示。

調整deepseek參數

訪問webUI，進入設置頁面。

點擊“管理員設置”。

點擊“模型”，找到想要調整參數的模型，點擊進入具體配置頁面。

找到“高級參數”，點擊“顯示”。

按需調整各種參數，如上下文長度、最長token數等。

常見FAQ

1、存儲容量不夠怎么辦？

如果您在使用過程中發現磁盤空間不足，可參考擴容云硬盤進行磁盤擴容。

2、已購資源配置性能不能滿足我的使用怎么辦？

如果您在使用過程中，發現CPU、內存或GPU性能不能滿足您的需求，可參考升級實例進行虛擬機配置升級。

3、不同版本DeepSeek適用場景？

模型	適用場景	特點
1.5B	輕量級任務，如短文本生成、基礎問答、邊緣計算設備（如工業控制終端、智能家居中樞）。	資源消耗低，適合低配設備，響應速度快。
7B/8B	中等復雜度任務，如文案撰寫、表格處理、統計分析、個人開發者工作站。	性能與資源消耗平衡，適合對響應速度有一定要求且硬件資源有限的場景。
14B	復雜任務，如長文本生成、數據分析、企業級合同分析、報告生成。	適合對模型性能有一定要求但硬件條件有限的場景。
32B	高精度專業領域任務，如醫療咨詢、法律分析、多模態任務預處理。	適合硬件條件較好的場景，能夠處理高精度和復雜任務。
70B	高復雜度任務，如金融預測、大規模數據分析、科研機構的復雜計算。	性能最強，適合對準確性和復雜度要求極高的專業領域。

4、如何查看模型精度？

登錄虛擬機，依次執行以下命令，即可查看模型精度（quantization）。

ollama list
ollama show [modelname]