最近有个概念叫“AIPC” ,听起来很牛逼,其实就是让PC运行AI算法&软件,比如运行大语言模型。
我们并不需要特意去买台联想电脑,完全可以用现成的软件把你的电脑变成AIPC。
昨天分享了一个运行Llama3大语言模型的软件叫LMStudio。
有人在评论中反馈,有更好的开源软件叫Jan。
我看了一下果然不错,所以立马来给大家分享了。
这个软件的官网就有这样一句话“Rethink the Computer, Turn your computer into an AI machine”
翻译一下大概是,重新思考电脑的定位,把它转变成AI机器。
这句话很有意思啊。
这里的电脑肯定指的是个人电脑(PC,Person Computer)!
这个理念非常不错,我们就是要把所有AI塞进自己的电脑,而不依赖任何中心化的服务器。
也许死气沉沉的PC市场,是应该有一些变化了。
说回软件,我们来看看Jan有哪些特性,然后再说说具体的使用方法!
完全开源
lmstudio其实已经是一个不错的软件了,但是它属于闭源软件,而Jan是开源的,对于软件开发者来说,代码学习者来说,就会更友好了。
多平台支持
Jan 可以在任何硬件上运行,支持的平台有:
- Nvidia GPUs (fast)
- Apple M-series (fast)
- Apple In