概述
DeepSeek-R1
DeepSeek-R1 是幻方量化旗下 AI 公司深度求索(DeepSeek)研發的一款高性能推理模型。該模型使用強化學習技術進行后訓練,專注于提升在數學、代碼和自然語言推理等復雜任務上的表現。
DeepSeek-R1 在需要邏輯推理、思維鏈推理和實時決策的任務中表現出色,如解決高級數學問題、生成復雜代碼、解析復雜科學問題等。在類似 Codeforces 的挑戰場景中獲得了2029 Elo 評分;在復雜推理基準測試中,表現與 OpenAI 的 o1 模型相當。盡管總共有6710億的龐大參數,但每次前向傳遞時僅激活370億個參數,比大多數大模型更加高效的利用資源。
Dify
Dify 是一站式大模型應用開發平臺,降低開發門檻,集成數據管理、Prompt 工程等功能,支持多模型,可云端和本地部署,適用于智能客服、內容生成、智能助手等場景,顯著提升開發效率。
當前在科研助手的社區鏡像中,我們已經為您提前部署好了基于 Dify 搭建的DeepSeek-R1:7B模型,方便您即刻體驗,開箱即用。
前置說明
- 該文檔為在科研助手上使用 Dify 快速搭建 DeepSeek 知識庫的說明;
- 本產品中的模型由第三方主體提供,盡管云公司已盡最大努力進行識別和維護,但仍無法保證模型的可用性。請客戶按照該產品的服務協議使用該產品,做好甄別并對自行選擇的服務負責。
環境準備
本地文檔準備
在搭建知識庫過程中,如需要引用本地文檔,請提前在科研助手中通過【數據存儲】功能,將本地數據傳至開發機上。此處以數據集管理為例,演示如何創建及掛載。
步驟1:進入科研助手控制臺,點擊左上角,切換“科研版”;
步驟2:在【數據存儲】彈出的選項中,選擇【數據集管理】。在【數據集管理】頁面中切換至【個人數據集】,點擊左上角的【創建數據集】按鈕。
此處需注意,數據集選用的可用區和后續開發機的可用區應在同一個可用區,否則無法跨區掛載。此處選擇中衛4。其余請按照實際需求選擇。
步驟3:刷新頁面,可以在列表中看到創建的數據集bc-manual。
步驟4:在數據集右側單擊【查看】按鈕,進入文件管理頁面,點擊右上角【本地上傳】-【上傳文件】,選擇您所創建知識庫需要的文檔。
上傳完成后,進行下一步開發機準備。
開發機準備
步驟1:進入科研助手控制臺,點擊左上角,切換“科研版”;
步驟2:點擊當前科研版"概覽"頁,點擊快捷入口【找應用】,進入應用商城;
步驟3:在“應用商城”中,找到名為“Dify模型應用開發平臺”的鏡像,點擊【使用此鏡像】,進入開發機購買界面;
步驟4:在購買頁面中,【基礎信息】-【主機規格】一欄,用戶可以按照如下配置選擇:
| 配置 | 算力型號 | 可用區 |
|---|---|---|
| 最低配置 | GPU.gn3.m1 | 廈門4、揚州7 |
| 推薦配置 | GPU.gn4.2xl1 | 貴陽2 |
| 高端配置 | NVIDIA A100 40G | 中衛4 |
這里以可用區中衛4的NVIDIA-A100-40G為例,可以看到,【存儲配置】中已經掛載了在中衛4創建的數據集bc-manual,【鏡像框架】中框架版本已默認選好【社區鏡像】的“dify-deepseek-r1-cuda11.3”,其余【計費模式】、【可用區】等可按照實際需要選擇。
步驟5:點擊【確認訂單】,完成開發機創建并啟動。
啟動開發機并登錄VNC遠程桌面
步驟1:購買完成后,可以看見開發機狀態顯示為【啟動中】,等待新創建的開發機狀態進入到【運行中】,然后點擊右側操作欄【打開】;
步驟2:點擊【打開】跳轉到開發機,成功進入到VNC遠程桌面頁面中,如下圖所示,可看見在桌面中有 Dify 應用圖標;
步驟3:點擊啟動 Dify 圖標,將自動部署 Dify 服務,需等待1分鐘左右。啟動完成后將自動彈出 Dify 頁面。
在科研助手開發機中通過Dify使用DeepSeek模型搭建知識庫
對話DeepSeek
步驟1:鏡像中已經預置,直接點擊圖中 deepseek-r1 選項卡;
步驟2:進入到 deepseek-r1 聊天助手中,可以在頁面中設置提示詞、上下文、聊天等;
步驟3:可以嘗試與 DeepSeek 模型對話;
對話輸出結果如下:
搭建本地知識庫
用戶也可以嘗試通過預置提示詞、知識庫,生成獨立的 AI 應用。我們這里以使用ollama添加DeepSeek模型搭建本地知識庫為例。
步驟1:點擊上方【知識庫】,點擊【創建知識庫】,添加相關知識庫文檔;
步驟2:進入知識庫編輯頁面,上傳需要處理的文檔(支持 TXT、 MARKDOWN、 MDX、 PDF、 HTML、 XLSX、 XLS、 DOCX、 CSV、 MD、 HTM,每個文件不超過 15MB)。
此處選擇在創建開發機時掛載的數據集文件,目錄為/home/dataset-fs-0/tmp中。
步驟3:進入文本分段與清洗頁面,選擇默認配置,點擊【保存并處理】。完成配置后,系統會自動對上傳的文檔進行解釋和向量化處理;
步驟4:返回Dify聊天應用編排頁面,在上下文中添加我們剛才導入的知識庫。現在我們可以在測試頁面中輸入問題進行提問,系統將會基于本地知識庫返回答案。至此,我們已成功使用Dify+DeepSeek模型構建私有知識庫,Dify還具備工具、函數等強大能力,請用戶自行探索相關功能。