llama.cpp支持 近日llama.cpp添加了对grok-1模型的支持。 PR 6404 GGUF模型 并且在Hugging Face上有大佬放出了Grok-1的非官方GGUF量化模型。 目前可供下载的量化模型: Ollama支持 在ollama官网,有大佬也已经上传了Grok-1模型。 资源充足的各位可以选择适合自己的版本试一下: ollama run joefamous/grok-1:314b-q2_K