千帆起航：探索百度智能云千帆AppBuilder在AI原生应用开发中的革新之路

千帆起航：探索百度千帆AppBuilder在AI原生应用开发中的革新之路

1.揭开帷幕，大模型第二次战役

自从 ChatGPT 横空出世后，一石激起千层浪，人工智能也正在从感知理解走向生成创造，这是一个关键里程碑。生成式大模型完成了从0到1的飞跃，并且已成为未来发展趋势，推动AI迈向通用人工智能。过去半年，国内有超过 130 个大模型问世，从某种意义上说，大模型在第一阶段的较量，更多属于模型概念的普及、以及对标 ChatGPT 能力的追赶，而解决实际场景下的问题，大模型才能发挥真正的作用，这是大模型应用在中场竞争下关键性的角色所在。

作为新一代基础设施，大模型本身并不直接产生价值，智能时代的未来不会仅仅是大模型本身，而将是大模型生态体系。业内共识是，在大模型之上开发出来的 AI 原生应用，以重构的方式打破原有的产品范式，将大模型的能力释放至千行百业中，与实际场景面对面了解需求，聚焦 AI 能够具体做什么、带来哪些方面的提升，才是大模型第二次战役突围的关键。

作为AI开发者来说，就算我们能够随心所欲的使用这些大模型，但是缺少相应的Prompt工程，对应的基础组件（如向量数据库、对象存储等）和相应的训练文本数据处理工程（如长文总结、nl2sql等），想要完成一个AI原生应用还是需要相当漫长的开发过程。并不是我们跟着语言大模型聊一聊就可以把这个应用做出来。在开发AI原生应用的过程中，我们常面临一个关键问题：如何保证大模型输出的稳定性和可控性。即使我们精心编写了Prompt，输出的结果仍可能波动，难以复现。这不仅是关于编写合适Prompt的问题，更涉及到如何通过外部功能性动作与Prompt相结合，以达到更优的输出效果。

例如，当Prompt空间有限时，开发者需要运用策略对Prompt进行动态适配，挑选合适的信息输入，以便引导模型产生期望的输出。这些高级策略和技术操作对于构建高质量的AI原生应用至关重要，但它们的实现难度不容小觑。另一个关键的挑战是大模型的记忆管理。大多数大型模型依赖短期记忆，而在构建AI原生应用时，我们通常需要长期记忆能力。这意味着模型需要在较长时间内与用户或其他Agent交互，并记录下来关键信息。而这些信息需要被存储和在需要时调度出来，那么我们每一次对话提交的tokens都会附带上大量的成本且得到模型相应的时间都会更长，这也是为什么目前还没有真正爆发式的AI原生应用的原因。

2.框架与组件的融合：千帆AppBuilder的创新之道

10月17日，在百度世界大会上，百度智能云发布了AI原生应用开发工作台，重磅发布“千帆AI原生应用开发工作台”，加速企业AI原生应用落地；千帆AppBuilder将开发大模型应用的常见模式、工具、流程，沉淀成一个工作台，帮助开发者聚焦在自身业务，而无需为开发过程牵扯多余精力。具体来讲，千帆AI原生应用开发工作台主要由应用组件和应用框架两层服务构成。

在这里插入图片描述

举例来说，假定人们的饮食习惯从过去的西餐全面转向中餐，而仅有少数人懂得中餐的烹饪方式。这些“领导者”的厨房“工作台”凝聚了中餐的烹饪理念、经验技巧、菜系、菜品、食材等关键元素。花椒大料代表了“中餐特色组件”，鸡鸭鱼肉代表了“传统组件”；川鲁粤湘等菜系作为“框架”给定了菜肴的基本的组件搭配和开发思路；鱼香肉丝和麻婆豆腐预制菜则对应川菜框架下的“样板间”。有了这样一个资源高度集中“工作台”，人们就可大幅降低烹饪中式料理的门槛，分分钟做出可口佳肴。

具体来讲，千帆AppBuilder底层由百度智能云千帆大模型平台提供支持，核心包括应用组件、应用框架两层服务。同时，AppBuilder提供两种产品形态。第一，对于没有代码开发能力的用户，简单点选即可获取对话应用。第二，对于开发者、程序员可可使用代码编写较为复杂的应用，提供sdk、开发环境及调试工具。千帆AppBuilder的核心创新在于其独特的方式，将框架与组件融合，以提供一个全面而灵活的AI原生应用开发环境。它解决了开发者在利用大模型进行应用构建时面临的一系列挑战，特别是在应用原型的设计和开发流程的优化上。

在这里插入图片描述

创新框架：简化复杂的开发流程

千帆AppBuilder的核心创新之一在于其框架设计。这个框架不仅包含了传统的应用开发元素，如界面设计和逻辑构建，还整合了针对大模型特有的功能，例如高级数据处理和智能交互设计。这使得开发者能够在一个统一的环境中，无缝地将大模型的能力融入到他们的应用中。

在这里插入图片描述

组件生态：丰富多样的功能选择

除了强大的框架，千帆AppBuilder还提供了一个广泛的组件生态系统。这些组件涵盖了从文本处理到数据分析、从用户界面设计到后端服务的各个方面。开发者可以根据自己的需求选择合适的组件，快速构建出符合预期的应用。

在这里插入图片描述

双模态开发体验：代码态与低代码态

千帆AppBuilder独特的双模态设计，包括代码态和低代码态，为不同技能水平的开发者提供了便利。低代码态允许那些非专业的开发者通过可视化界面快速搭建应用：

而代码态则为有经验的开发者提供了更深层次的定制化和控制。

3.实战分享：利用千帆AppBuilder加速开发

在开发涉及复杂信息检索和生成的应用时，RAG成为了我不可或缺的工具。它通过结合检索和生成模型，使得应用能够在提供答案时参考大量的文档数据，从而大幅提升了回答的准确性和相关性。这一功能在构建如智能客服或知识问答系统时尤为重要。但是如果我们利用千帆AppBuilder来构建就相当容易了，下面我将一步步构建智能问答客服，首先进入百度智能云千帆-AppBuilder:

在这里插入图片描述

在应用中心中找到知识问答应用（RAG框架），点击在线使用就可以进入到控制台页面，十分简洁没有过多复杂参数调整过程，对AI应用构建者十分友好。我们可以通过应用配置设定名称，比如此时我想做一个智能考公选岗的QA机器人，在知识库检索上传自己的数据集：

在这里插入图片描述

也可以选择百度搜索辅助选择，可以体验文心4.0的强大模型解析能力：

在这里插入图片描述

设定完基础的配置之后我们就可以直接使用模型了：

在这里插入图片描述

除此之外千帆AppBuilder还提供了AgentBuilder应用，“Agent 应用” 在中文中可能意味着许多不同的事物，取决于上下文。一般而言，“Agent”这个词可以指代代理、代理人或代理软件。在计算机科学和软件工程领域，它通常指的是在网络环境中自动执行任务或某种程度上具有自主性的软件实体，也就是相当于能够独立思考的办公助手。而且使用千帆AppBuilder十分简单，甚至不需要根据对应业务构建是非复杂的代码，Agent应用自带Agent配置：

在这里插入图片描述