前言——私有知識庫作用簡介
大模型私有知識庫是結合大語言模型技術與企業或組織自有數據的一種知識管理和應用方案，旨在為特定用戶群體提供更精準、專業且安全的知識服務。
大模型私有知識庫是基于大語言模型構建的，專門服務于特定組織或個人的知識存儲和檢索系統。它整合組織內部的專業知識、業務數據、歷史文檔等，形成專屬知識集合，借助大模型的強大語言理解和生成能力，為用戶提供高效的知識查詢和問答服務。
本教程提供一種基于開源框架的私有知識庫搭建方案。如果需要構建企業級服務且對數據安全有需求，則需相關企業對該服務進行定制，以完成私有知識庫的搭建。
本文介紹的方法采用了開源框架自帶的數據庫服務，但該方法不保證相關數據在開源框架下的安全性。請務必在上傳前對敏感數據進行脫敏處理。
本教程使用的GPU云主機規格如下所示，用于部署 DeepSeek-r1:70b 模型，配置僅供參考。
cpu 32核?
內存?128G
GPU:?NVIDIA?A10*2?(48GB)
如需體驗其它模型版本，請參考在天翼云使用Ollama運行 DeepSeek的最佳實踐-7b版-彈性云主機-最佳實踐-AIGC實踐 - 天翼云--自定義部署DeepSeek--步驟二：規格選型，選擇合適的云主機。
優勢
知識準確性：讓模型訪問定制的信息，從而提高回答的準確性和可靠性。
可解釋性：檢索過程可以明確指出回答所依據的信息來源，增強了回答的可解釋性。
減少幻覺：降低了語言模型生成無事實依據內容（即 “幻覺”）的可能性。
一、環境準備
1.參考在天翼云使用Ollama運行 DeepSeek的最佳實踐-7b版-彈性云主機-最佳實踐-AIGC實踐 - 天翼云--快速體驗DeepSeek，準備相關設備及模型資源。
2.待模型啟動后，通過訪問//{公網ip地址}:3000進入 OpenWebUI 界面。按照界面提示完成賬號注冊，開啟私有知識庫搭建之旅。
二、私有數據準備
搭建私有知識庫需提前準備相應的數據材料。OpenWebUI 支持多種文本格式，包括但不限于：
● Markdown：輕量級標記語言格式，便于快速書寫和閱讀，能清晰呈現文本結構，常用于文檔撰寫、筆記記錄等場景。
● PDF：通用文檔格式，可保留文檔原始排版、字體、圖像等元素，廣泛應用于正式文檔、書籍、報告的分發與存儲。
● TXT：最基本的文本格式，僅包含文本內容，無復雜格式設置，適用于純文本信息的存儲和傳輸。
● HTML：超文本標記語言格式，用于創建網頁，包含文本內容和網頁元素標記信息，可被瀏覽器解析顯示。
● docx：是 Microsoft Word 的文檔格式，能包含豐富的文本格式、圖表、樣式等內容，OpenWebUI 可以借助相關的文檔解析庫來提取其中的文本信息，用于知識庫的構建和查詢。
對于結構簡單的純文本材料，可直接通過 OpenWebUI 進行解析。若需了解除純文本外其他文件格式的支持情況，請查閱 OpenWebUI 官方文檔。
三、私有知識庫搭建教程
1、登錄 OpenWebUI 后，點擊左上角 “工作空間”。
2、在“工作空間”中找到“知識庫”選項，點擊右側的“+”號新建知識庫。
3、在新建知識庫頁面，填寫知識庫名稱、描述，設置可見性等信息，完成后點擊“創建知識庫”。
4、新建知識庫成功后，再次點擊右側的“+”號，選擇要添加的知識文檔（可一次性添加多個）。添加成功后，點擊對應文檔查看加載的語料內容，驗證知識解析是否準確。
四、私有知識模型推理驗證
1、點擊左上角 “新對話”，選擇已部署的推理模型。
2、在輸入對話內容時，以 “#” 號開頭，可選擇對應知識庫或知識文檔作為推理參考。
3、若不想繼續使用某個知識庫，可按照特定操作流程將其移除，具體操作可參考相關圖示。
通過以上步驟，您即可完成一個簡單的私有知識庫搭建，趕緊動手嘗試吧！
五、推薦使用場景
1、智能客服訓練 AI 回答公司政策、產品 FAQ，減少人工客服負擔。
2、企業內部搜索讓員工直接向AI提問，無需翻遍公司Wiki或文檔庫。
3、智能助手幫助銷售整理客戶信息，協助HR處理面試反饋，助力研發自動生成技術文檔。
4、智能營銷策劃協助市場團隊分析市場趨勢和競爭對手數據，生成針對性的營銷活動方案，提升營銷效果。
5、財務智能分析工具幫助財務人員自動完成財務報表分析，預測財務風險，為企業決策提供數據支持。
6、生產流程優化系統利用AI實時監測生產設備運行狀況，預測設備故障，提前安排維護，減少生產中斷。
7、培訓內容生成助手，為培訓部門快速生成員工培訓課件、在線課程內容，滿足不同崗位的培訓需求。
8、供應鏈管理智能助手，根據銷售數據、庫存水平和供應商信息，輔助優化采購計劃。
返回DeepSeek專題導航。
