本文记录在 jetson orin nx 上使用 ollama 部署 deepseek 的过程
有用的网站及工具
- NVIDIA Jetson AI Lab
- Ollama官网
- Jtop 工具 ==> 用以查看jetson GPU/CPU/Memory 等占用情况的工具,安装过程如下:
sudo apt-get install python3-pip
sudo -H pip3 install -U jetson-stats
- Nvidia 官网的 Ollama 教程
- 安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh
点击 Deepseek-R1 进入 Deepseek 界面:https://ollama.com/library/deepseek-r1:1.5b
执行指令,会先下载模型库到本地