用過DeepSeek的朋友都知道,官網的API總是在斷線,而本地部署的DeepSeek腦袋也不靈光。既然官網的服務器斷線我們無法干預,那么有沒有什么辦法讓本地部署的DeepSeek“學習”呢?
添加知識庫
第一步 | 安裝AnytingLLM
這里下載方式可以選擇官網安裝和網盤安裝
下載完成之后雙擊打開安裝包
沒有特殊情況這里不用選為所有用戶安裝,直接下一步就先
這里我們可以選擇安裝的位置,然后點擊安裝
安裝完成后雙擊運行
點擊“Get Start”
先在輸入框中輸入“Ollama”再選擇下面的Ollama
Ollama Moudle選擇你部署的deepseek版本,然后點擊右邊的箭頭下一步
這里不用管,點擊右邊的箭頭下一步
這里想填可以填,點擊右邊的箭頭下一步
這里創建工作區,因為第一個創建的工作區AnytingLLM會告訴你怎樣使用這個軟件,所以我取名Hello。然后點擊右邊的箭頭下一步
不用管機器人的對話,點擊創建新的工作區。
這里會讓你輸入工作區名稱,后面程序會用到,我輸入的是“DeepChat”,點擊“Save”
到此位置安裝就結束了
第二步|做個學習前的測試
我們可以在這個工作區中問它一些問題
比如這里問它“三國演義是誰寫的?因為沒有學習過這個知識,所以它答不上來。
第三步|添加知識庫
這里我們讓它學習一下三國演義相關的知識
點擊左側工作區欄中當前工作區右邊的向上箭頭
這里有兩個分支,對應兩種方法添加知識庫
分支一:使用文件添加
先找個隨便找個文件夾
創建一個文本文件(world、Markdown、pdf等都可以),把知識寫進去(我這里復制的百度百科三國演義簡介)
然后回到AnythingLLM
把文件拖到下方虛線框內
選中之后,點擊“Move to Workspace”
右側出現文件后點擊“Save and Embed”
這里有可能保存失敗。沒有關系,關閉AnythigLLM,打開命令行
輸入 "ollama pull nomic-embed-text"
等待下載完成,再打開AnythingLLM
點擊下方的扳手按鈕
選擇“人工智能提供商”中的“Embedder”
點擊“嵌入引擎提供商”
找到“Ollama”
保存更改后回到添加知識庫的界面,再次點擊“Save and Embed”
選擇知識庫文件后點擊右側的釘子按鈕
點擊“Okey, get it”
這樣知識庫就添加完了
分支二:使用網頁添加知識庫
在下方輸入知識庫的網址(我輸入的三國演義的百度百科)點擊“Fetch Website”
加載完成后選擇添加的網頁,點擊“Move to Workspace”
點擊右側的“Save and Embed”
如果出現錯誤,往上翻有解決方法
選擇知識庫文件后點擊右側的釘子按鈕
點擊“Okey, get it”
這樣網站的知識庫也部署完成了
第四步|知識庫測試
在當前工作區點擊“New Thread”創建一個新對話
再次問它“三國演義的作者是誰”就能夠依據知識庫進行回答
第四步|使用API
獲取密鑰
接下來就要申請一個API,并且使用Python來調用它
點擊下方扳手按鈕,進入設置
選擇工具下面的“API密鑰”
點擊“生成新的API密鑰”
點擊“Creat API key”
點擊“Copy API key”并復制到一個地方保存