推薦使用場景
工具 推薦場景 不適用場景 AnythingLLM
企業文檔問答、私有知識庫管理、需嚴格權限控制的團隊協作
快速測試模型、輕量級個人聊天需求
Open?WebUI 個人或開發者快速體驗模型、多模型切換測試、多模態交互(如語音/圖像)
復雜文檔管理、企業級安全與協作需求
注意建議使用天翼云提供的 DeepSeek 鏡像創建云主機，減少安裝過程中可能遇到的問題。鏡像選擇請參考在天翼云使用Ollama運行DeepSeek的最佳實踐-7B等版本-彈性云主機-最佳實踐-AIGC實踐 - 天翼云。
操作步驟：
一、云主機端口配置更新
1.進入云主機詳情頁，選擇安全組選項，添加新的開放端口。
建議選擇新加 3001 端口。添加完成后，可在安全組規則列表中查看新添加的 3001 端口規則，確認其狀態為正常生效。
2.進入控制臺，遠程登陸即將安裝AnythingLLM的云主機。
二、AnythingLLM 服務部署（ docker 方式）
1.獲取 AnythingLLM docker image 文件。
由于國內無法訪問 docker hub 網站，您需要修改 docker 的服務配置文件，添加國內可訪問的源，以便能夠順利拉取 AnythingLLM docker image 文件。操作步驟如下：
- 向 docker 配置文件中添加國內可訪問的 docker 鏡像源
- 重啟 docker 服務
- 拉取 AnythingLLM docker image
# Docker 守護進程（ daemon ）的配置文件。添加國內可訪問鏡像源。
sudo vi /etc/docker/daemon.json
# 重啟 docker 服務
sudo systemctl restart docker
# 確認 docker 服務正常
sudo systemctl status docker
# 拉取 anythingllm 鏡像
docker pull mintplexlabs/anythingllm
daemon.json 文件添加的內容為：
{
"registry-mirrors": ["//hub.geekery.cn", "//hub.littlediary.cn", "//docker.rainbond.cc"]
}
daemon.json 文件如下，僅供參考：
2.啟動 AnythingLLM 服務。
- 首先查看下載的 AnythingLLM 容器鏡像的 tag
- 啟動 AnythingLLM 服務
- 查看 AnythingLLM 服務狀態
# 查看當前的容器鏡像列表
docker image list
# 啟動 AnythingLLM 服務，下述 PROT 參數需要與第一部分開放的端口相對應
docker run -d -e PORT=3001 -e OLLAMA_BASE_URL=//127.0.0.1:11434 -e ENABLE_SIGNUP=true -e ENABLE_OPENAI_API=False --add-host=host.docker.internal:host-gateway --net=host -v anythingLLM:/app/backend/data --name anythingLLM --restart always mintplexlabs/anythingllm:latest
# 查看 AnythingLLM 服務狀態
docker ps -a
三、AnythingLLM 前端頁面配置
1.公網訪問 AnythingLLM。
在瀏覽器輸入 (your_ip 這臺云主機的eip)，會出現如下頁面
2.選擇 Ollama 作為模型加載項。
3.用戶設置，按頁面提示操作，注冊賬號，跳過用戶調查。
4.創建工作區。
5.點擊工作區 test01 打開對話框，輸入聊天內容。
四、AnythingLLM 個性化探索
下面給出了一些個性化探索案例，您如果想要了解更多，請訪問 。
1.設置 AnythingLLM 默認語言格式為中文。參考下圖進行設置。
2. AnythingLLM 啟用聯網搜索服務。
啟用 AnythingLLM 的聯網搜索服務，需要您提供一個聯網搜索引擎 api key 來訪問Web資源，目前 AnythingLLM 支持的搜索引擎可以參考如下步驟查看。
a. 打開 AnythingLLM 的聯網搜索功能
- 首先點擊 AnythingLLM 的全局設置按鈕。
- 參考下圖，找到“代理技能”，選擇 agent skills 中的 Web Search，點擊步驟3，開啟對應功能。
b. 獲取 Google 搜索引擎的 ID 以及 API key
- 打開下圖中步驟3對應的網頁，按提示注冊或登錄賬號、命名搜索引擎、選擇搜索范圍（可輸入指定網頁或搜索全網），以及選擇是否啟用圖片搜索功能等操作。完成上述設置并通過人機驗證后，點擊創建，按提示獲取搜索引擎的 ID以及 API key。
- 創建成功后，得到如下圖示內容：
- 進入自定義頁面，獲取搜索引擎的 ID。
- 隨后下滑到頁面底部，點擊程序化訪問模塊中的“開始使用”按鈕。
- 跳轉到如下頁面，點擊獲取密鑰：
- 按照提示輸入api名稱，查看api使用協議并按照您的想法選擇是否接受：
- 按照提示操作后得到api調用的key。
c. 啟用 AnythingLLM 的聯網搜索功能
- 配置 Google Search Engine ：回到 AnythingLLM 聯網搜索的頁面，填入上述步驟獲取的 ID 和 API key，點擊右上角保存。
- 保存成功后得到如下提示：
- 在對話框以 @agent 啟用聯網功能：
3.AnythingLLM 使用 DeepSeek API
a.前往 注冊一個賬號，購買 API 使用資格。
b.參考下述操作步驟，選擇 Generic OpenAI 選項，填入 API 認證信息。或者選擇 DeepSeek 選項，填入 API 認證信息。
c.到您想要使用的工作區，點擊設置，更新當前聊天設置，以啟用 DeepSeeK API 服務。
d.需要點擊下圖按鈕來保存配置。
4.調整對話模型及提示詞
5.知識庫構建
a.上傳文件。
其中第3步需要第二部選擇上傳的文件后才會出現按鈕，點擊“Move to Workspace”，等待出現成功提示即可。
b.基于知識庫的對話。
首先選擇上傳了語料的工作區，隨后直接提問即可。
返回DeepSeek專題導航。
