用过DeepSeek的朋友都知道,官网的API总是在断线,而本地部署的DeepSeek脑袋也不灵光。既然官网的服务器断线我们无法干预,那么有没有什么办法让本地部署的DeepSeek“学习”呢?
添加知识库
第一步 | 安装AnytingLLM
这里下载方式可以选择官网安装和网盘安装
下载完成之后双击打开安装包
没有特殊情况这里不用选为所有用户安装,直接下一步就先
这里我们可以选择安装的位置,然后点击安装
安装完成后双击运行
点击“Get Start”
先在输入框中输入“Ollama”再选择下面的Ollama
Ollama Moudle选择你部署的deepseek版本,然后点击右边的箭头下一步
这里不用管,点击右边的箭头下一步
这里想填可以填,点击右边的箭头下一步
这里创建工作区,因为第一个创建的工作区AnytingLLM会告诉你怎样使用这个软件,所以我取名Hello。然后点击右边的箭头下一步
不用管机器人的对话,点击创建新的工作区。
这里会让你输入工作区名称,后面程序会用到,我输入的是“DeepChat”,点击“Save”
到此位置安装就结束了
第二步|做个学习前的测试
我们可以在这个工作区中问它一些问题
比如这里问它“三国演义是谁写的?因为没有学习过这个知识,所以它答不上来。
第三步|添加知识库
这里我们让它学习一下三国演义相关的知识
点击左侧工作区栏中当前工作区右边的向上箭头
这里有两个分支,对应两种方法添加知识库
分支一:使用文件添加
先找个随便找个文件夹
创建一个文本文件(world、Markdown、pdf等都可以),把知识写进去(我这里复制的百度百科三国演义简介)
然后回到AnythingLLM
把文件拖到下方虚线框内
选中之后,点击“Move to Workspace”
右侧出现文件后点击“Save and Embed”
这里有可能保存失败。没有关系,关闭AnythigLLM,打开命令行
输入 "ollama pull nomic-embed-text"
等待下载完成,再打开AnythingLLM
点击下方的扳手按钮
选择“人工智能提供商”中的“Embedder”
点击“嵌入引擎提供商”
找到“Ollama”
保存更改后回到添加知识库的界面,再次点击“Save and Embed”
选择知识库文件后点击右侧的钉子按钮
点击“Okey, get it”
这样知识库就添加完了
分支二:使用网页添加知识库
在下方输入知识库的网址(我输入的三国演义的百度百科)点击“Fetch Website”
加载完成后选择添加的网页,点击“Move to Workspace”
点击右侧的“Save and Embed”
如果出现错误,往上翻有解决方法
选择知识库文件后点击右侧的钉子按钮
点击“Okey, get it”
这样网站的知识库也部署完成了
第四步|知识库测试
在当前工作区点击“New Thread”创建一个新对话
再次问它“三国演义的作者是谁”就能够依据知识库进行回答
第四步|使用API
获取密钥
接下来就要申请一个API,并且使用Python来调用它
点击下方扳手按钮,进入设置
选择工具下面的“API密钥”
点击“生成新的API密钥”
点击“Creat API key”
点击“Copy API key”并复制到一个地方保存