一.DeepSeek本地部署
1.下载并安装:ollama
Download Ollama on macOSDownload Ollama for macOShttps://ollama.com/download 安装是否成功确认,管理员权限运行PowerShell: ollama -h
2.下载安装DeepSeek
管理员方式运行PowerShell,运行命令:
ollama run deepseek-r1:7b
其他版本可选:https://ollama.com/library/deepseek-r1
二.AnythingLLM安装及本地知识库搭建
1.访问 AnythingLLM官网 (https://anythingllm.com/) 点击下载 选择对应系统版本
进入安装界面,默认安装, 下一步即可
2.设置
A.点击设置按钮
B.建立自己的工作区
2.建立本地知识库
A.点击自己工作区的上传按钮,然后上传知识库文件,并把上传的文件移动到右边工作区
保存设置。
选中后,对话聊天时就可以使用本地知识库了。
3.对话使用
点击default,出现对话框
4.说明
此模式下可以局域网使用一个机器上的模型,但实测发现添加的本地知识库无法共享