01 尝鲜
中午,一边吃饭,一边尝试一下最新的AI:Groq,它使用了重新设计的LPU,据说比英伟达的GPU快了18倍。
运行了开源的Mixtral-8x7b模型,屏幕上的文字回复几乎是瞬间的,那种速度感,让人心跳加速。
接着,我尝试了来自欧洲的新贵——Mistral AI的Le Chat。
这个三天前刚刚发布的chat工具,对标OPEN AI的ChatGPT,已经迅速攀升至大模型排名的第二位,它的流畅和智能让我感到震惊,仿佛我的能力在这一刻被更新,能量在体内涌动。
我摩拳擦掌,跃跃欲试,就像突然拥有了超能力,一拳打出去,墙壁都似乎要裂开。
打开浏览器,和我一起尝试吧:
02 简介
Groq
https://groq.com
Groq是一家美国企业,专注于人工智能计算的Language Processing Unit(LPU)。
这种LPU旨在替代传统的GPU,如英伟达的A100和H100芯片。Groq的LPU在基准测试中展现出每秒500 Token的输出速度,相比顶级GPU