AI驱动的Java开发框架：Spring AI Alibaba实战部署教程

前言

随着生成式 AI 的快速发展，基于 AI 开发框架构建 AI 应用的诉求迅速增长，涌现出了包括 LangChain、LlamaIndex 等开发框架，但大部分框架只提供了 Python 语言的实现。但这些开发框架对于国内习惯了 Spring 开发范式的 Java 开发者而言，并非十分友好和丝滑。
因此，我们基于 Spring AI 发布并快速演进 Spring AI Alibaba，通过提供一种方便的 API 抽象，帮助 Java 开发者简化 AI 应用的开发。同时，提供了完整的开源配套，包括可观测、网关、消息队列、配置中心等。
——阿里云云原生微服务技术负责人，Spring AI Alibaba 发起人彦林

在这里插入图片描述
无意间看到关于彦林老师在刚刚结束的2024云栖大会上关于Spring AI Alibaba的汇报，由于我在校期间会经常使用LangChain框架基于Python语言搭建智能体应用，结合本人现在也从事Java研发工作，对这种基于Spring开发范式搭建AI应用的框架非常感兴趣，于是结合现有公开的资料，完成了基于Spring AI Alibaba的demo项目部署工作，记录一些踩的坑，欢迎感兴趣的同学一起研究学习。

声明：本文涉及的链接、图片、代码及相关资料均从公开渠道获取或为个人知识积累，请勿未经本人允许随意复制转载！

资源地址

  • Spring AI Alibaba官网
  • Spring AI Alibaba项目地址
  • 阿里云百炼平台

简介

帮助Java开发者快速构建AI原生智能体应用

Spring AI Alibaba是什么？

Spring Al Alibaba开源项目基于Spring Al构建，是阿里云通义系列模
型及服务在Java Al应用开发领域的最佳实践，提供高层次的AI API抽
象与云原生基础设施集成方案，帮助开发者快速构建AI应用。

Spring AI Alibaba提供哪些能力？

  • 专属Spring开发者的Al框架：基于Spring Al官方开源项目，原生支持Spring Boot体系，为你的Bean带来生成式Al能力。
  • Model，Prompt，RAG，Tools：兼具提示词模板、函数调用、格式化输出等低层次抽象与RAG、智能体、对话记忆等高层次抽象。
  • 阿里云大模型与云原生最佳实践：通义系列AI模型驱动，深度集成云原生API网关、模版管理、Serverless、可观测等云原生应用基础设施。

Spring AI Alibaba架构图

在这里插入图片描述

Spring AI Alibaba未来规划

  • Prompt Template管理
  • 事件驱动的AI应用程序
  • 更多Vector Database支持
  • 函数计算等部署模式
  • 可观测性建设
  • AI代理节点开发能力，如滤网、限流、多模型切换等
  • 开发者工具集

实战部署

一、下载项目

  • IDEA导入

在这里插入图片描述

  • 命令行导入
git clone --depth=1 https://github.com/alibaba/spring-ai-alibaba.git

二、添加依赖并注入

总的来说，使用 Spring AI Alibaba 开发应用与使用普通 Spring Boot 没有什么区别，只需要增加 spring-ai-alibaba-starter 依赖，将 ChatClient Bean 注入就可以实现与模型聊天了。

在项目中加入 spring-ai-alibaba-starter 依赖。

<dependency><groupId>com.alibaba.cloud.ai</groupId><artifactId>spring-ai-alibaba-starter</artifactId><version>1.0.0-M2</version>
</dependency>

为 Spring Bean 注入 ChatClient


@RestController
public class ChatController {private final ChatClient chatClient;public ChatController(ChatClient.Builder builder) {this.chatClient = builder.build();}@GetMapping("/chat")public String chat(String input) {return this.chatClient.prompt().user(input).call().content();}
}

三、运行项目

1、开通模型调用服务

阿里云百炼大模型服务平台
在这里插入图片描述

2、获取合法的 API-KEY

获取API-KEY

在这里插入图片描述

3、设置 AI_DASHSCOPE_API_KEY 环境变量

# 设置环境变量
export AI_DASHSCOPE_API_KEY="REPLACE-WITH-VALID-API-KEY"
# 查看环境变量
echo ${AI_DASHSCOPE_API_KEY}

4、启动示例项目应用

./mvnw compile exec:java -Dexec.mainClass="com.alibaba.cloud.ai.example.helloworld.HelloWorldExampleApplication"

四、注意事项

问题1：zsh：command not found: mvn？

# 配置 Maven
vim ~/.bash_profileexport MAVEN_HOME=/Library/Maven/apache-maven-3.9.7
export PATH=$MAVEN_HOME/bin:$PATHsource ~/.bash_profilemvn -version

在这里插入图片描述

问题2：zsh: no such file or directory: ./mvnw？

这个错误表明在当前目录下没有找到名为 mvnw 的文件。mvnw 是 Maven Wrapper 的缩写，它是一个脚本，用于确保使用项目定义的 Maven 版本来运行 Maven 构建，而不是系统上安装的任何其他版本。

# 生成 mvnw 文件和相关的脚本
mvn clean compile
mvn wrapper:wrapper

问题3：引入spring-cloud-alibaba-ai依赖找不到？

org.springframework.ai:spring-ai-core:jar:1.0.0-M2 was not found in http://mvnrepo.alibaba-inc.com/mvn/repository during a previous attempt.

在这里插入图片描述

注意：由于 spring-ai 相关依赖包还没有发布到中央仓库，如出现 spring-ai-core 等相关依赖解析问题，需要在项目的 pom.xml 依赖中加入如下仓库配置。

<repositories><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository><repository><id>spring-snapshots</id><name>Spring Snapshots</name><url>https://repo.spring.io/snapshot</url><releases><enabled>false</enabled></releases></repository>
</repositories>

如果maven配置了阿里云镜像，需要在maven配置文件中进行屏蔽配置：

# 修改maven配置文件
cd ~/.m2
vim settings.xml

<!--阿里云仓库-->
<!--修改：<mirrorOf>*</mirrorOf>-->
<mirror><id>aliyunmaven</id><mirrorOf>*,!spring-milestones</mirrorOf><name>阿里云公共仓库</name><url>https://maven.aliyun.com/repository/public</url>
</mirror>

问题4：JDK版本与项目Modules不一致？

com/alibaba/cloud/ai/example/helloworld/HelloWorldExampleApplication has been compiled by a more recent version of the Java Runtime (class file version 61.0), this version of the Java Runtime only recognizes class file versions up to 52.0

在这里插入图片描述

Project版本为JDK 1.8

# JVM配置
sudo vi ~/.bash_profileexport JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_291.jdk/Contents/Home
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$JAVA_HOME/bin:$PATHsource ~/.bash_profilejava -version

在这里插入图片描述
项目Modules为JDK 17
在这里插入图片描述
启动项目需要更换Project版本为JDK 17

  • JDK17下载
    在这里插入图片描述

  • IDEA更改
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

  • 命令更改

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk-17.0.12.jdk/Contents/Home

问题5：API-KEY无效？

org.springframework.ai.retry.NonTransientAiException: 401 - {“code”:“InvalidApiKey”,“message”:“Invalid API-key provided.”,“request_id”:“23e91a5e-9050-9cb5-a84a-f9ac931830ad”}

在这里插入图片描述

  • 检查AI_DASHSCOPE_API_KEY是否已配置
# 设置环境变量
export AI_DASHSCOPE_API_KEY="REPLACE-WITH-VALID-API-KEY"
# 查看环境变量
echo ${AI_DASHSCOPE_API_KEY}
  • 确保已开通模型调用服务，并处于主业务空间下具备API-Key权限。
    • 获取API-KEY
    • 将API-KEY配置到环境变量
    • 如何使用业务空间
    • 子业务空间的模型调用
      在这里插入图片描述

五、应用示例

在这里插入图片描述
访问本地启动链接，向通义模型提问并得到回答。

 http://localhost:8080/ai/chat?input=你是谁？

在这里插入图片描述

 http://localhost:8080/ai/chat?input=简单介绍一下阿里云？

在这里插入图片描述

参考资料

  • Spring AI Alibaba官网
  • Spring AI Alibaba项目地址
  • 阿里云百炼平台
  • Spring Cloud Alibaba专家答疑

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/bicheng/55129.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

敏感字段加密 - 华为OD统一考试(E卷)

敏感字段加密 - 华为OD统一考试(E卷)

2024华为OD机试（E卷+D卷+C卷）最新题库【超值优惠】Java/Python/C++合集 题目描述 【敏感字段加密】给定一个由多个命令字组成的命令字符串: 1、字符串长度小于等于127字节，只包含大小写字母，数字，下划线和偶数个双引号; 2、命令字之间以一个或多个下划线 进行分割; 3、可…
阅读更多...
【JavaSE系列】IO流

【JavaSE系列】IO流

目录 前言 一、IO流概述 二、IO流体系结构 三、File相关的流 1. FileInputStream 2. FileOutputStream 3. FileReader 4. FileWriter 四、缓冲流 五、转换流 1. InputStreamReader 2. OutputStreamWriter 六、数据流 七、对象流 八、打印流 九、标准输入输出流…
阅读更多...
Apache APISIX学习（2）：安装Grafana、prometheus

Apache APISIX学习（2）：安装Grafana、prometheus

一、Grafana安装 1、介绍 Grafana 是一个监控仪表系统&#xff0c;它是由 Grafana Labs 公司开源的的一个系统监测 (System Monitoring) 工具。它可以大大帮助你简化监控的复杂度&#xff0c;你只需要提供你需要监控的数据&#xff0c;它就可以帮你生成各种可视化仪表。同时它…
阅读更多...
Deep Learning for Video Anomaly Detection: A Review 深度学习视频异常检测综述阅读

Deep Learning for Video Anomaly Detection: A Review 深度学习视频异常检测综述阅读

Deep Learning for Video Anomaly Detection: A Review 深度学习视频异常检测综述阅读 AbstractI. INTRODUCTIONII. BACKGROUNDA. Notation and TaxonomyB. Datasets and Metrics III. SEMI-SUPERVISED VIDEO ANOMALY DETECTIONA. Model InputB. MethodologyC. Network Archite…
阅读更多...
基于Python实现的国庆节庆祝小程序

基于Python实现的国庆节庆祝小程序

祖国母亲即将迎来75周年华诞&#xff0c;在这个特殊的日子里&#xff0c;我们可以用编程的方式来表达对祖国的祝福。本文将使用Python编写一个简单的国庆节庆祝小程序&#xff0c;通过一些编程技巧和设计为国庆节增添一些程序员的特色。 ⭕️庆祝国庆 ⭐️ 程序设计思路&#x…
阅读更多...
828华为云征文｜部署个人知识管理系统 SiyuanNote

828华为云征文｜部署个人知识管理系统 SiyuanNote

828华为云征文&#xff5c;部署个人知识管理系统 SiyuanNote 一、Flexus云服务器X实例介绍二、Flexus云服务器X实例配置2.1 重置密码2.2 服务器连接2.3 安全组配置2.4 Docker 环境搭建 三、Flexus云服务器X实例部署 SiyuanNote3.1 SiyuanNote 介绍3.2 SiyuanNote 部署3.3 Siyua…
阅读更多...
大数据毕业设计选题推荐-重庆旅游景点数据分析系统-Python-Hive-Hadoop-Spark

大数据毕业设计选题推荐-重庆旅游景点数据分析系统-Python-Hive-Hadoop-Spark

✨作者主页&#xff1a;IT研究室✨ 个人简介&#xff1a;曾从事计算机专业培训教学&#xff0c;擅长Java、Python、微信小程序、Golang、安卓Android等项目实战。接项目定制开发、代码讲解、答辩教学、文档编写、降重等。 ☑文末获取源码☑ 精彩专栏推荐⬇⬇⬇ Java项目 Python…
阅读更多...
基于微信开发助手企鹅音乐微信小程序的设计与实现（源码+文档+讲解）

基于微信开发助手企鹅音乐微信小程序的设计与实现（源码+文档+讲解）

博主介绍&#xff1a; ✌我是阿龙&#xff0c;一名专注于Java技术领域的程序员&#xff0c;全网拥有10W粉丝。作为CSDN特邀作者、博客专家、新星计划导师&#xff0c;我在计算机毕业设计开发方面积累了丰富的经验。同时&#xff0c;我也是掘金、华为云、阿里云、InfoQ等平台…
阅读更多...
这条挣钱的路，离我好遥远啊

这条挣钱的路，离我好遥远啊

近日&#xff0c;笔者在发表的《乱篇弹&#xff08;54&#xff09;让子弹飞》一文中写道&#xff1a;“ 当然&#xff0c;笔者在《博客中国-狼头长啸的作家专栏》耕耘期间&#xff0c;也赚了一些用以补贴自己养老的‘ 散碎银两’。那么笔者是否可以依照知乎网的‘申请开通权限’…
阅读更多...
支付宝远程收款跳转码接口api之工作证跳转收款码

支付宝远程收款跳转码接口api之工作证跳转收款码

1、在制作工作证跳转收款之前需要在支付宝上开通工作证 2、然后获取支付宝账户信息、收款码等信息 3、将所需信息填入如下代码之中 const axios require(axios); const authCode 从客户端接收到的授权码;axios({method: post,url: https://openapi.alipay.com/alipay.syst…
阅读更多...
用通义灵码如何快速合理解决遗留代码问题？

用通义灵码如何快速合理解决遗留代码问题？

本文首先介绍了遗留代码的概念&#xff0c;并对遗留代码进行了分类。针对不同类型的遗留代码&#xff0c;提供了相应的处理策略。此外&#xff0c;本文重点介绍了通义灵码在维护遗留代码过程中能提供哪些支持。 什么是遗留代码 与过时技术相关的代码&#xff1a; 与不再受支持的…
阅读更多...
Python如何配置环境变量详解

Python如何配置环境变量详解

一、概述 前提&#xff1a;已安装 Python&#xff0c;如下图&#xff1a; 1.1 检查是否已配置成功&#xff08;选&#xff09; 1 2 3 4 5 1. 打开运行窗口 (1) 快捷键 : Win r&#xff0c;并输入 cmd (2) 直接输入: Python 2. 若有下列提示&#xff0c;即为 安装成功…
阅读更多...
星辰计划04-深入理解kafka的消息存储和索引设计

星辰计划04-深入理解kafka的消息存储和索引设计

消息存储 提到存储不得不说消息的读写&#xff0c;那么kafka他是如何读写数据的呢&#xff1f; 读取消息 1.通过debug(如何debug) 我们可以得到下面的调用栈&#xff0c;最终通过FileRecords来读取保存的数据 写入消息 1.通过debug(如何debug) 我们可以得到下面的调用栈&am…
阅读更多...
【HTTP 和 HTTPS详解】3

【HTTP 和 HTTPS详解】3

HTTP 状态代码 HTTP 状态代码是服务器发送给客户端的三位数字&#xff0c;用于指示客户端请求的结果。它们分为五类&#xff1a;信息性&#xff08;100-199&#xff09;、成功&#xff08;200-299&#xff09;、重定向&#xff08;300-399&#xff09;、客户端错误&#xff08…
阅读更多...
怎么不用付费直接编辑pdf？5款pdf在线编辑器免费推荐给你！

怎么不用付费直接编辑pdf？5款pdf在线编辑器免费推荐给你！

在我们日常工作中&#xff0c;可能会经常需要直接编辑修改pdf内容&#xff0c;例如&#xff0c;在将文档发送给其它人之前&#xff0c;您可能需要进行一些修改&#xff1b;或者当扫描的文本出现错误时&#xff0c;您也需要进行修正。此时&#xff0c;如果有一款在线编辑器&…
阅读更多...
【C++笔记】初始模版和STL简介

【C++笔记】初始模版和STL简介

【C笔记】初始模版和STL简介 &#x1f525;个人主页&#xff1a;大白的编程日记 &#x1f525;专栏&#xff1a;C笔记 文章目录 【C笔记】初始模版和STL简介前言一.初始模版1.1泛型编程1.2函数模版1.3类模板 二.STL简介2.1什么是STL2.2STL的版本2.3STL的六大组件2.4STL的重要…
阅读更多...
Vue项目之Element-UI(Breadcrumb)动态面包屑效果 el-breadcrumb

Vue项目之Element-UI(Breadcrumb)动态面包屑效果 el-breadcrumb

效果预览 需要导航的页面Vue.js 最笨的方法就是在每个需要面包屑的页面中固定写好 <template><div class="example-container"><el-breadcrumb separator="/"
阅读更多...
Tableau数据可视化入门

Tableau数据可视化入门

目录 一、实验名称 二、实验目的 三、实验原理 四、实验环境 五、实验步骤 1、Tableau界面引导 2、数据来源 3、数据预处理操作 4、制作中国各个地区的利润图表 4.1条形图 4.2气泡图 5、制作填充地球图 一、实验名称&#xff1a; 实验一&#xff1a;Tableau数据可视…
阅读更多...
RTE大会报名丨 重塑语音交互：音频技术和 Voice AI，RTE2024 技术专场第一弹！

RTE大会报名丨 重塑语音交互：音频技术和 Voice AI，RTE2024 技术专场第一弹！

Voice AI 实现 human-like 的最后一步是什么&#xff1f; AI 视频爆炸增长&#xff0c;新一代编解码技术将面临何种挑战&#xff1f; 当大模型进化到实时多模态&#xff0c;又将诞生什么样的新场景和玩法&#xff1f; 所有 AI Infra 都在探寻规格和性能的最佳平衡&#xff0…
阅读更多...
美畅物联丨GB/T 28181系列之TCP/UDP被动模式和TCP主动模式

美畅物联丨GB/T 28181系列之TCP/UDP被动模式和TCP主动模式

GB/T 28181《安全防范视频监控联网系统信息传输、交换、控制技术要求》作为我国安防领域的重要标准&#xff0c;为视频监控系统的建设提供了全面的技术指导和规范。该标准详细规定了视频监控系统的信息传输、交换和控制技术要求&#xff0c;在视频流传输方面&#xff0c;GB/T 2…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023