在天翼云GPU云主機上使用 Ollama 運行 DeepSeek R1 7B 模型(xing)(xing)是一個(ge)高效且(qie)便捷的(de)方(fang)式。Ollama 是一個(ge)專(zhuan)為本地(di)運行(xing)大語(yu)言模型(xing)(xing)（LLMs）而設計的(de)工具(ju)，支持多(duo)種模型(xing)(xing)格式，并(bing)提供(gong)了簡單(dan)易(yi)用的(de)命令行(xing)接口。以下是詳細的(de)步(bu)驟(zou)指南，幫(bang)助你(ni)在天翼云GPU云主機上成功運行(xing) DeepSeek R1 7B 模型(xing)(xing)。

準備工作

1. 天翼云GPU云主機
   確保你已經創建了一臺天翼云GPU云主機（推薦使用GPU型云主機規格，本文中使用了GPU計算加速性pi7規格pi7.4xlarge.4 規格），并在云鏡像市場中選擇預置了DeepSeek R1模型的DeepSeek-Ubuntu22.04鏡像，如下圖所示：

   

Ollama 支持多(duo)GPU 加速，但通常(chang)建議(yi)使用單個 strong-scaling GPU（即(ji)單卡）進行推(tui)理。

2. 檢查NVIDIA驅動和CUDA
   Ollama 依賴(lai)于(yu)GPU加速，因此需(xu)要(yao)啟用并配置 CUDA，GPU型(xing)云主(zhu)機通常會默(mo)認安(an)裝驅動及CUDA：

   # 查看 CUDA 版本
   nvcc --version
   # 檢查 GPU 是否可用
   nvidia-smi
   

與 DeepSeek R1 7B 交互

由于我們使用了預置了DeepSeek R1 7B模型的DeepSeek-Ubuntu22.04鏡像(xiang)，所以安(an)裝ollama和運(yun)行DeepSeek R1 7B模(mo)型(xing)(xing)的過(guo)程可(ke)(ke)以省略(lve)，預裝DeepSeek-R1大模(mo)型(xing)(xing)和模(mo)型(xing)(xing)運(yun)行環境，通(tong)過(guo)如(ru)下(xia)命令一鍵進入交互(hu)模(mo)式：ollama run deepseek-r1:7b 直(zhi)接就(jiu)可(ke)(ke)以在(zai)開(kai)通(tong)的GPU云主機內部玩(wan)轉DeepSeek R1模(mo)型(xing)(xing)，后(hou)面的安(an)裝和運(yun)行過(guo)程僅供(gong)參(can)考：

ollama run deepseek-r1:7b

確(que)(que)保(bao) Ollama 使用 GPU 進(jin)行推(tui)理。可(ke)以(yi)通過以(yi)下命令(ling)檢查(cha) GPU 是否被正確(que)(que)調用：

nvidia-smi

如果 GPU 未被使用，檢查 CUDA 和 Ollama 的配置。

可以看到ollama運行大概消耗GPU內存5366MiB。

安裝 Ollama

1. 下載 Ollama

   訪問 Ollama 的官方 GitHub 倉庫（//github.com/ollama/ollama），下載適用于(yu) Linux 的二進制文件：

   wget //github.com/ollama/ollama/releases/download/v0.1.0/ollama-linux-amd64
   chmod +x ollama-linux-amd64
   sudo mv ollama-linux-amd64 /usr/local/bin/ollama
   

2. 啟動 Ollama 服務
   運行以下(xia)命令(ling)啟動 Ollama 服務：

   ollama serve
   

下載并運行 DeepSeek R1 7B 模型

1. 下載 DeepSeek R1 7B 模型
   Ollama 支持多種模型(xing)格式。你可以(yi)通(tong)過以(yi)下步驟(zou)下載 DeepSeek R1 7B 模型(xing)：

   • 如果 DeepSeek R1 7B 已經支持 Ollama 格式，可以直接使用以下命令下載：

     ollama pull deepseek-r1-7b
     

   • 如果模型尚未支持 Ollama 格式，可以將模型轉換為 Ollama 支持的格式（如 GGML 或 GGUF），然后加載。

2. 運行模型
   下(xia)載(zai)完(wan)成后，使用(yong)以下(xia)命令運(yun)行 DeepSeek R1 7B 模型：

   ollama run deepseek-r1-7b
   

   此(ci)時，你可以(yi)通過命(ming)令(ling)行與模型(xing)交(jiao)互，輸入(ru)文(wen)本并獲取模型(xing)的(de)生成結(jie)果。

優化與部署

1. 微調模型（可選）
   如(ru)果需要(yao)針(zhen)對特定任(ren)務微調 DeepSeek R1 7B 模型，可以使(shi)用 Hugging Face 或 PyTorch 進行微調，然后將微調后的模型轉(zhuan)換為 Ollama 支持的格式(shi)。

2. 部署為服務
   你可以將 Ollama 部署為后臺服務(wu)，以便通過 API 調用模型：

   ollama serve &
   

   然后通過 HTTP 請求與模型(xing)交互：

   curl -X POST //localhost:11434/api/generate -d '{
     "model": "deepseek-r1-7b",
     "prompt": "Hi"
   }'
   

總結

通(tong)過 Ollama，你可以輕(qing)松在天翼云GPU云主機上運(yun)行 DeepSeek R1 7B 模型，并(bing)享(xiang)受(shou)高效的(de)推(tui)理體驗(yan)。無論是(shi)用(yong)于開發、測試還(huan)是(shi)生產(chan)部署，Ollama 都提供了一個簡單而強大的(de)工具(ju)鏈，還(huan)可以非常方便(bian)的(de)加(jia)載其他大模型，快(kuai)來嘗試吧！