文章目录
- 效果
- 概要
- 下载 ollama
- 终端下载模型
- 【可选】浏览器插件 UI
- Q: 内存占用高,显存占用不高,正常吗
效果
我的配置如下
E5 2666 V3
+ AMD 590Gme
可以说是慢的一批了,内存和显卡都太垃圾了,回去用我的新设备再试试
概要
- 安装 ollama
- 终端下载模型
- 【可选】下载UI
下载 ollama
打开 https://ollama.com ,选择对应的操作系统
终端下载模型
根据显卡的显存去选择多大的模型 https://ollama.com/library/deepseek-r1
安装好之后,在终端里就可以输入问题了,如果新开一个终端窗口的话,可以输入如下命令去召唤
ollama run deepseek-r1
【可选】浏览器插件 UI
插件市场有个这个插件 https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo?pli=1
下载完之后可以点击浏览器上面的插件按钮,跳转到如下页面
选择下载的模型
然后再 RAG
设置中选择文本嵌入模型