一、Spring Cloud Alibaba AI 介绍
Spring AI
是 Spring
官方社区项目,旨在简化 Java AI
应用程序开发,让 Java
开发者像使用 Spring
开发普通应用一样开发 AI
应用。而 Spring Cloud Alibaba AI
是阿里以 Spring AI
为基础,并在此基础上提供阿里云通义系列大模型全面适配,让用户在 5
分钟内开发基于通义大模型的 Java AI
应用。
Spring Cloud Alibaba AI
目前基于 Spring AI 0.8.1
版本 API
完成通义系列大模型的接入。通义接入是基于阿里云 灵积模型服务,灵积模型服务建立在“模型即服务”(Model-as-a-Service
,MaaS
)的理念基础之上,围绕 AI
各领域模型,通过标准化的API
提供包括模型推理、模型微调训练在内的多种模型服务。
在当前最新版本中,Spring Cloud Alibaba AI
主要完成了几种常见生成式模型的适配,包括对话、文生图、文生语音等,开发者可以使用 Spring Cloud Alibaba AI
开发基于通义的聊天、图片或语音生成 AI 应用,框架还提供 OutParser、Prompt Template、Stuff
等实用能力。
官方文档:https://sca.aliyun.com/docs/2023/user-guide/ai/overview/?spm=5176.29160081.0.0.1f467a3ctbrdEJ
二、Spring Cloud Alibaba AI 实践
2.1 环境构建
新建 SpringBoot
项目,SpringBoot
版本需要 3.x
以上,jdk
版本 17
及以上。
这里我使用的版本信息如下:
spring-boot: 3.2.4
spring-cloud: 2023.0.1
spring-cloud-alibaba: 2023.0.1.0
jdk: 17
pom
中增加相关依赖,整体 pom
内容如下:
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>com.example</groupId><artifactId>ai-demo1</artifactId><version>0.0.1-SNAPSHOT</version><name>ai-demo1</name><description>ai-demo1</description><properties><java.version>17</java.version><project.build.sourceEncoding>UTF-8</project.build.sourceEncoding><project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding><spring-boot.version>3.2.4</spring-boot.version><spring-cloud.version>2023.0.1</spring-cloud.version><spring-cloud-alibaba.version>2023.0.1.0</spring-cloud-alibaba.version></properties><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-test</artifactId><scope>test</scope></dependency><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-ai</artifactId></dependency></dependencies><dependencyManagement><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-dependencies</artifactId><version>${spring-boot.version}</version><type>pom</type><scope>import</scope></dependency><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-dependencies</artifactId><version>${spring-cloud.version}</version><type>pom</type><scope>import</scope></dependency><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-alibaba-dependencies</artifactId><version>${spring-cloud-alibaba.version}</version><type>pom</type><scope>import</scope></dependency></dependencies></dependencyManagement><repositories><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository><repository><id>spring-snapshots</id><name>Spring Snapshots</name><url>https://repo.spring.io/snapshot</url><releases><enabled>false</enabled></releases></repository></repositories><build><plugins><plugin><groupId>org.apache.maven.plugins</groupId><artifactId>maven-compiler-plugin</artifactId><version>3.8.1</version><configuration><source>17</source><target>17</target><encoding>UTF-8</encoding></configuration></plugin><plugin><groupId>org.springframework.boot</groupId><artifactId>spring-boot-maven-plugin</artifactId><version>${spring-boot.version}</version><configuration><mainClass>com.example.aidemo1.AiDemo1Application</mainClass></configuration><executions><execution><id>repackage</id><goals><goal>repackage</goal></goals></execution></executions></plugin></plugins></build></project>
2.2 申请 Api Key
申请 Api key
可以参考下面官方介绍:
https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=5176.29160081.0.0.1f467a3ctbrdEJ
可以将将申请的 key
放在环境变量 SPRING_CLOUD_AI_TONGYI_API_KEY
中:
export SPRING_CLOUD_AI_TONGYI_API_KEY=sk-a3dxxxx
或者配置在 application.yml
配置文件中:
spring:cloud:ai:tongyi:api-key: sk-a3dxxxx
2.3 文本交互对接
@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {@ResourceChatClient chatClient;@Testvoid chatTest() {String message = "你好,介绍一下你自己";Prompt prompt = new Prompt(new UserMessage(message));String content = chatClient.call(prompt).getResult().getOutput().getContent();log.info(content);}
}
2.4 文本交互-流式输出
@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {@ResourceStreamingChatClient streamingChatClient;@Testvoid chatStreamTest() {String message = "你好,介绍一下你自己";Prompt prompt = new Prompt(new UserMessage(message));streamingChatClient.stream(prompt).flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults())).map(content -> content.getOutput().getContent()).doOnNext(System.out::println).last().block();}
}
2.5 文本生成图片
@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {@ResourceImageClient imageClient;@Testvoid testToImageTest() {String message = "生成一幅夕阳下程序员看海的图片";ImagePrompt prompt = new ImagePrompt(message);String url = imageClient.call(prompt).getResult().getOutput().getUrl();log.info(url);}}
图片内容如下: