Spring Cloud Alibaba AI 介绍及使用

一、Spring Cloud Alibaba AI 介绍

Spring AI 是 Spring 官方社区项目，旨在简化 Java AI 应用程序开发，让 Java 开发者像使用 Spring 开发普通应用一样开发 AI 应用。而 Spring Cloud Alibaba AI 是阿里以 Spring AI 为基础，并在此基础上提供阿里云通义系列大模型全面适配，让用户在 5 分钟内开发基于通义大模型的 Java AI 应用。

Spring Cloud Alibaba AI 目前基于 Spring AI 0.8.1 版本 API 完成通义系列大模型的接入。通义接入是基于阿里云灵积模型服务，灵积模型服务建立在“模型即服务”（Model-as-a-Service，MaaS）的理念基础之上，围绕 AI 各领域模型，通过标准化的API提供包括模型推理、模型微调训练在内的多种模型服务。

在当前最新版本中，Spring Cloud Alibaba AI 主要完成了几种常见生成式模型的适配，包括对话、文生图、文生语音等，开发者可以使用 Spring Cloud Alibaba AI 开发基于通义的聊天、图片或语音生成 AI 应用，框架还提供 OutParser、Prompt Template、Stuff 等实用能力。

官方文档：https://sca.aliyun.com/docs/2023/user-guide/ai/overview/?spm=5176.29160081.0.0.1f467a3ctbrdEJ

二、Spring Cloud Alibaba AI 实践

2.1 环境构建

新建 SpringBoot 项目，SpringBoot 版本需要 3.x 以上，jdk 版本 17 及以上。

这里我使用的版本信息如下：

spring-boot: 3.2.4
spring-cloud: 2023.0.1
spring-cloud-alibaba: 2023.0.1.0
jdk: 17

pom 中增加相关依赖，整体 pom 内容如下：

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>com.example</groupId><artifactId>ai-demo1</artifactId><version>0.0.1-SNAPSHOT</version><name>ai-demo1</name><description>ai-demo1</description><properties><java.version>17</java.version><project.build.sourceEncoding>UTF-8</project.build.sourceEncoding><project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding><spring-boot.version>3.2.4</spring-boot.version><spring-cloud.version>2023.0.1</spring-cloud.version><spring-cloud-alibaba.version>2023.0.1.0</spring-cloud-alibaba.version></properties><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-test</artifactId><scope>test</scope></dependency><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-ai</artifactId></dependency></dependencies><dependencyManagement><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-dependencies</artifactId><version>${spring-boot.version}</version><type>pom</type><scope>import</scope></dependency><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-dependencies</artifactId><version>${spring-cloud.version}</version><type>pom</type><scope>import</scope></dependency><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-alibaba-dependencies</artifactId><version>${spring-cloud-alibaba.version}</version><type>pom</type><scope>import</scope></dependency></dependencies></dependencyManagement><repositories><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository><repository><id>spring-snapshots</id><name>Spring Snapshots</name><url>https://repo.spring.io/snapshot</url><releases><enabled>false</enabled></releases></repository></repositories><build><plugins><plugin><groupId>org.apache.maven.plugins</groupId><artifactId>maven-compiler-plugin</artifactId><version>3.8.1</version><configuration><source>17</source><target>17</target><encoding>UTF-8</encoding></configuration></plugin><plugin><groupId>org.springframework.boot</groupId><artifactId>spring-boot-maven-plugin</artifactId><version>${spring-boot.version}</version><configuration><mainClass>com.example.aidemo1.AiDemo1Application</mainClass></configuration><executions><execution><id>repackage</id><goals><goal>repackage</goal></goals></execution></executions></plugin></plugins></build></project>

2.2 申请 Api Key

申请 Api key 可以参考下面官方介绍：

https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=5176.29160081.0.0.1f467a3ctbrdEJ

可以将将申请的 key 放在环境变量 SPRING_CLOUD_AI_TONGYI_API_KEY 中：

export SPRING_CLOUD_AI_TONGYI_API_KEY=sk-a3dxxxx

或者配置在 application.yml 配置文件中：

spring:cloud:ai:tongyi:api-key: sk-a3dxxxx

2.3 文本交互对接

@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {@ResourceChatClient chatClient;@Testvoid chatTest() {String message = "你好，介绍一下你自己";Prompt prompt = new Prompt(new UserMessage(message));String content = chatClient.call(prompt).getResult().getOutput().getContent();log.info(content);}
}

在这里插入图片描述

2.4 文本交互-流式输出

@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {@ResourceStreamingChatClient streamingChatClient;@Testvoid chatStreamTest() {String message = "你好，介绍一下你自己";Prompt prompt = new Prompt(new UserMessage(message));streamingChatClient.stream(prompt).flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults())).map(content -> content.getOutput().getContent()).doOnNext(System.out::println).last().block();}
}

在这里插入图片描述

2.5 文本生成图片

@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {@ResourceImageClient imageClient;@Testvoid testToImageTest() {String message = "生成一幅夕阳下程序员看海的图片";ImagePrompt prompt = new ImagePrompt(message);String url = imageClient.call(prompt).getResult().getOutput().getUrl();log.info(url);}}