一、工具下载
首先上一篇文章我们需要部署好ollama,还有我们需要的大模型,
然后我们需要部署两个东西,一个是使用ollama部署omic-embed-text嵌入式模型
这个使用ollama就可以
ollama pull nomic-embed-text
其次我们需要下载AnythingLLM,直接在官网下载安装即可
https://anythingllm.com/desktop
二、使用
安装好AnythingLLM之后,我们打开
然后在设置中可以设置中文模式
软件设置
我们需要到设置中设置ollama和指定模型
这里llm提供商就是ollama,下面大模型,根据你本地下载了哪些大模型,他会自己读取到。
然后我们要设置一下上传文件训练大模型的首选项
这里引擎还是ollama,但是下面的模型就是用到我们一开始下载的用于训练的模型了。
设置工作区模型
然后我们返回主页面,找到我们创建的工作区
点击设置,然后选择好箭头所指,然后下拉到最下面保存。
投喂数据
首先点击工作区旁边的上传
然后我们可以上传常规的文件,貌似一个文件超过五十mb就会上传失败,这个不清楚是不是我自己的问题。
上传好之后我们需要选择上传的文件,才会出现移动到工作区的选项,不然文件就仅仅是上传到本地库中
然后点击move to这个
最后点击Save
即可保存训练ai
评论区