vLLM 是一个简单易用的 LLM 推理服务库。加州大学伯克利分校于 2024 年 7 月将 vLLM 作为孵化项目正式捐赠给 LF AI & Data Foundation 基金会。欢迎 vLLM 加入 LF AI & Data 大家庭!🎉 在主流的 AI 应用架构中,大语言模型࿰…
安装 Charles:
如果你还没有安装 Charles,可以从官方网站下载安装包并按照提示完成安装。 启动 Charles:
安装完成后,启动 Charles 应用程序。 设置 Charles 代理:
Charles 默认的代理端口是 8888。你可以通过以下步…