一、前言

    Gradio提供了直观的用户界面，当与Fastapi结合后，用户可以通过界面轻松地与模型进行交互，上传数据、获取推理结果等，使得交互性增强，提升了用户体验。

    在开源大语言模型遍地开花的时代，正确的使用Gradio和Fastapi，通过两者的集成，使得模型的部署和使用过程更加简化和规范化。

    第一篇开源模型应用落地-Gradio正确集成Fastapi-助力模型交互-入门篇（一）-CSDN博客，通过一个小Demo实现了Gradio和Fastapi的正确集成，本篇我们将把qwen1.5-7b-chat（很多老铁私信反馈7b的模型太大，无法运行起来，其实可以根据实际情况选择不同规格的模型，例如qwen1.5-1.8b-chat）集成进来，实现通过Gradio进行界面交互，通过Fastapi进行接口调用。

---

二、术语

2.1.Gradio

    是一个用于构建交互式界面的Python库。它使得在Python中创建快速原型、构建和共享机器学习模型变得更加容易。

    Gradio的主要功能是为机器学习模型提供一个即时的Web界面，