【Ai生态开发】Spring AI上架，打造专属业务大模型，AI开发再也不是难事！

大家好 这里是苏泽 后端是工作 ai是兴趣 

对于ai的产生我的立场是拥抱ai的  是希望拿他作为提升能力的工具  那么这一篇带大家来学习如何使用ai打造一个专属的业务大模型 

需求 就是说假设现在有一个 商城系统 里面有查询订单的api和获取商品购买方式的api   用户只需要输入 “帮我看看我前几天买过最便宜的衣服”  经过语言处理 ai就能够调用 查询订单的api并在里面自动的添加查询条件以及 排序条件  这是我们的目标  本文就是来讲解实现这样的目标

Spring AI介绍

Spring AI 是 AI 工程师的一个应用框架，它提供了一个友好的 API 和开发 AI 应用的抽象，旨在简化 AI 应用的开发工序。

提供对常见模型的接入能力，目前已经上架 https://start.spring.io/，提供大家测试访问。（请注意虽然已经上架 start.spring.io，但目前还是在 Spring 私服，未发布至 Maven 中央仓库）

基本知识讲解：

函数调用

函数调用（Function Calling）是OpenAI在2023年6月13日对外发布的新能力。根据OpenAI官方博客描述，函数调用能力可以让大模型输出一个请求调用函数的消息，其中包含所需调用的函数信息、以及调用函数时所携带的参数信息。这是一种将大模型（LLM）能力与外部工具/API连接起来的新方式。

比如用户输入:

What’s the weather like in Tokyo?

使用function calling，可实现函数执行get_current_weather(location: string)，从而获取函数输出，即得到对应地理位置的天气情况。这其中，location这个参数及其取值是借助大模型能力从用户输入中抽取出来的，同时，大模型判断得到调用的函数为get_current_weather。

开发人员可以使用大模型的function calling能力实现：

  • 在进行自然语言交流时，通过调用外部工具回答问题（类似于ChatGPT插件）；
  • 将自然语言转换为调用API调用，或数据库查询语句；
  • 从文本中抽取结构化数据
  • 其它

实现步骤

1. 添加依赖

 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-openai-spring-boot-starter</artifactId></dependency><!-- 配置 Spring 仓库 --><repositories><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository></repositories>

2. 配置 OpenAI 相关参数

spring:
  ai:
    openai:
      base-url: # 支持 openai-sb、openai-hk 等中转站点，如用官方则不填
      api-key: sk-xxxx
 

3.创建一个Spring Controller处理HTTP请求。

在Spring项目中创建一个Controller类，用于处理提取要素的HTTP请求和生成调用的API和变量集合。

import com.google.gson.Gson;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.ResponseEntity;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RestController;import java.util.HashMap;
import java.util.Map;@RestController
public class ElementExtractionController {@Autowiredprivate ElementExtractionService elementExtractionService;@PostMapping("/extract-elements")public ResponseEntity<Map<String, Object>> extractElements(@RequestBody String userInput) {Map<String, Object> result = elementExtractionService.extractElements(userInput);return ResponseEntity.ok(result);}
}

3.创建一个ElementExtractionService服务类来提取要素

创建一个服务类，用于封装提取要素的逻辑。在这个服务类中，可以使用自然语言处理技术来分析用户输入并提取需求和变量。可以使用现有的开源NLP库或API，如NLTK、SpaCy、Stanford CoreNLP、Google Cloud Natural Language API等
这里使用NLTK库来进行文本分析和实体识别，以提取用户输入中的需求和变量：

import org.springframework.stereotype.Service;
import edu.stanford.nlp.simple.Document;
import edu.stanford.nlp.simple.Sentence;import java.util.HashMap;
import java.util.List;
import java.util.Map;@Service
public class ElementExtractionService {public Map<String, Object> extractElements(String userInput) {// 使用NLTK库进行文本分析和实体识别Document doc = new Document(userInput);List<Sentence> sentences = doc.sentences();// 提取需求String requirement = extractRequirement(sentences);// 提取变量Map<String, String> variables = extractVariables(sentences);// 构建结果Map<String, Object> result = new HashMap<>();result.put("api", requirement);result.put("variables", variables);return result;}private String extractRequirement(List<Sentence> sentences) {// 在这里根据实际需求，从句子中提取需求// 可以使用关键词提取、模式匹配等方法// 这里示例直接返回第一句话作为需求if (!sentences.isEmpty()) {return sentences.get(0).text();}return "";}private Map<String, String> extractVariables(List<Sentence> sentences) {// 在这里根据实际需求，从句子中提取变量// 可以使用实体识别、关键词提取等方法// 这里示例直接从第一句话中提取名词作为变量Map<String, String> variables = new HashMap<>();if (!sentences.isEmpty()) {Sentence sentence = sentences.get(0);for (String word : sentence.words()) {if (isNoun(word)) {variables.put(word, "true");}}}return variables;}private boolean isNoun(String word) {// 在这里根据实际需求，判断一个词是否为名词// 可以使用词性标注、词典匹配等方法// 这里示例简单判断是否以大写字母开头，作为名词的判断条件return Character.isUpperCase(word.charAt(0));}
}

那么下一步 ：


4.封装一个API来操作open ai的Assistants API

创建一个Spring Service来操作OpenAI Assistants API。

创建一个服务类，用于封装操作OpenAI Assistants API的逻辑。

import com.google.gson.Gson;
import okhttp3.*;import org.springframework.stereotype.Service;import java.io.IOException;@Service
public class OpenAIAssistantsService {public String callOpenAIAssistantsAPI(String prompt) {OkHttpClient client = new OkHttpClient();MediaType mediaType = MediaType.parse("application/json");JsonObject requestBody = new JsonObject();requestBody.addProperty("prompt", prompt);requestBody.addProperty("max_tokens", 32);requestBody.addProperty("stop", null);RequestBody body = RequestBody.create(mediaType, requestBody.toString());Request request = new Request.Builder().url(OPENAI_API_URL).post(body).addHeader("Authorization", "Bearer " + OPENAI_API_KEY).build();try {Response response = client.newCall(request).execute();if (response.isSuccessful()) {String responseBody = response.body().string();JsonObject jsonObject = new Gson().fromJson(responseBody, JsonObject.class);return jsonObject.getAsJsonObject("choices").get(0).getAsJsonObject().get("text").getAsString();} else {System.out.println("OpenAI Assistants API调用失败: " + response.code() + " - " + response.message());}} catch (IOException e) {System.out.println("OpenAI Assistants API调用异常: " + e.getMessage());}return null;}
}

创建一个自定义函数签名。

创建一个函数，它将调用其他项目中的API，并返回结果。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;@Service
public class CustomFunctionService {@Autowiredprivate OtherAPIService otherAPIService;public String customFunction(String apiId, String inputParameters) {// 根据API的ID筛选需要调用的APIString apiEndpoint = getApiEndpoint(apiId);// 调用其他项目中的API，并进行处理String result = otherAPIService.callOtherAPI(apiEndpoint, inputParameters);// 对结果进行处理，并返回return "处理后的结果：" + result;}private String getApiEndpoint(String apiId) {//这里还会有很多具体业务的api就不一一列举了// 根据API的ID获取相应的API的URL或其他信息// 这里可以根据实际情况进行实现if (apiId.equals("api1")) {return "https://api.example.com/api1";} else if (apiId.equals("api2")) {return "https://api.example.com/api2";} else {throw new IllegalArgumentException("无效的API ID: " + apiId);}}
}

创建一个Spring Controller来调用自定义函数。

创建一个Controller类，它将调用自定义函数，并返回结果。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.ResponseEntity;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RestController;import java.util.HashMap;
import java.util.Map;@RestController
public class CustomFunctionController {@Autowiredprivate CustomFunctionService customFunctionService;@PostMapping("/call-custom-function")public ResponseEntity<String> callCustomFunction(@RequestBody String userInput) {String result = customFunctionService.customFunction(userInput);return ResponseEntity.ok(result);}
}

在上面提取要素的服务（ElementExtractionService）的基础上，我们可以再封装一个Assistants服务，它将接受用户的请求并调用提取要素的服务。然后，Assistants服务将提取的要素和变量（uid）作为输入传递给封装了OpenAI的服务（OpenAIAssistantsService），并根据要素选择适当的API进行调用，并返回对应的结果。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;import java.util.Map;@Service
public class AssistantsService {@Autowiredprivate ElementExtractionService elementExtractionService;@Autowiredprivate OpenAIAssistantsService openAIAssistantsService;public String processUserRequest(String userInput) {// 提取要素Map<String, Object> elements = elementExtractionService.extractElements(userInput);// 获取要素和变量String requirement = (String) elements.get("api");Map<String, String> variables = (Map<String, String>) elements.get("variables");String uid = (String) elements.get("uid");// 调用OpenAI Assistants服务String result = openAIAssistantsService.callOpenAIAssistantsAPI(requirement, variables, uid);return result;}
}

AssistantsService类接受用户的请求，并调用ElementExtractionService来提取要素。然后，它获取要素、变量和uid，并将它们作为参数传递给OpenAIAssistantsService的callOpenAIAssistantsAPI方法。该方法根据要素选择适当的API进行调用，并返回结果。

具体的业务实现“提取要素”的逻辑部分

请注意，为了实现这个过程，还需要修改ElementExtractionService中提取要素的逻辑，以确保这个服务能符合具体业务的逻辑  例如我提到的 “帮我看看我买过最便宜的衣服”

import org.springframework.stereotype.Service;
import edu.stanford.nlp.simple.Document;
import edu.stanford.nlp.simple.Sentence;import java.util.HashMap;
import java.util.List;
import java.util.Map;@Service
public class ElementExtractionService {public Map<String, Object> extractElements(String userInput) {// 使用NLTK库进行文本分析和实体识别Document doc = new Document(userInput);List<Sentence> sentences = doc.sentences();// 提取需求String requirement = extractRequirement(sentences);// 提取变量Map<String, String> variables = extractVariables(sentences);// 构建结果Map<String, Object> result = new HashMap<>();result.put("api", requirement);result.put("variables", variables);return result;}private String extractRequirement(List<Sentence> sentences) {// 在这里根据实际需求，从句子中提取需求// 可以使用关键词提取、模式匹配等方法// 这里示例直接返回第一句话作为需求if (!sentences.isEmpty()) {return sentences.get(0).text();}return "";}private Map<String, String> extractVariables(List<Sentence> sentences) {// 在这里根据实际需求，从句子中提取变量// 可以使用实体识别、关键词提取等方法// 这里示例从第一句话中提取名词作为变量，并根据特定模式进行匹配Map<String, String> variables = new HashMap<>();if (!sentences.isEmpty()) {Sentence sentence = sentences.get(0);List<String> words = sentence.words();for (int i = 0; i < words.size() - 1; i++) {String currentWord = words.get(i);String nextWord = words.get(i + 1);if (isNoun(currentWord) && nextWord.equals("的")) {variables.put(currentWord, "true");}}}return variables;}private boolean isNoun(String word) {// 在这里根据实际需求，判断一个词是否为名词// 可以使用词性标注、词典匹配等方法// 这里示例简单判断是否以大写字母开头，作为名词的判断条件return Character.isUpperCase(word.charAt(0));}
}

我将extractVariables方法进行了修改。现在它从第一句话中提取名词作为变量，并且根据特定模式进行匹配。特定模式是判断当前词是否为名词，以及下一个词是否为"的"。如果匹配成功，则将当前词作为变量存储。

这样我们就基本实现了一开始的那个目标：

假设现在有一个 商城系统 里面有查询订单的api和获取商品购买方式的api   用户只需要输入 “帮我看看我前几天买过最便宜的衣服”  经过语言处理 ai就能够调用 查询订单的api并在里面自动的添加查询条件以及 排序条件  这是我们的目标  本文就是来讲解实现这样的目标

更长远的目标：

希望能够开发出一款中间件（作为一个服务被注册到项目当中） 能够作为open ai 和具体项目的桥梁  即在开发配置当中我输入我的已有项目的服务的签名   那这个助手能够根据用户的自然语言输入 自动的去调用执行 项目中已有的各种服务 来做各种各样的复杂的数据库查询 等操作

本文所受启发 参考文献：

  1. Function calling and other API updates: https://openai.com/blog/function-calling-and-other-api-updates
  2. OpenAI assistants in LangChain: https://python.langchain.com/docs/modules/agents/agent_types/openai_assistants
  3. Multi-Input Tools in LangChain: https://python.langchain.com/docs/modules/agents/tools/multi_input_tool
  4. examples/Assistants_API_overview_python.ipynb: https://github.com/openai/opena...
  5. The Spring Boot Actuator is the one dependency you should include in every project (danvega.dev)
  6. Assistants API won't allow external web request - API - OpenAI Developer Forum

 

本文只是简单提供一个可行的思路做参考 真正做出可拓展性的ai开发插件道路还很长 先在这立个小flag吧  希望今年能够完成这个小目标  如果有一起开发这个项目的伙伴可以跟我来讨论哦

 

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/711751.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

C++二叉搜树的实现（递归和非递归）

C++二叉搜树的实现（递归和非递归）

目录 1.什么是二叉搜索树 2.二叉搜索树的查找 3.二叉搜索树插入 4.二叉搜索树的删除 1.删除的节点只有左子树或者右子树 2.删除节点左右子树都有的情况 5.代码 1.什么是二叉搜索树 左节点的值小于根节点 右节点大于根节点 左右子树也满足上面两个条件 例&#xff1a;…
阅读更多...
平台工程与安全

平台工程与安全

平台工程不是为了取代DevOps&#xff0c;而是DevOps的进一步演进和发展。本文介绍了DevOps和平台工程&#xff0c;以及对于安全的意义。原文: Platform Engineering and Security: A Very Short Introduction 中国云南大理的日落 我是一名 DevOps 工程师&#xff0c;个人还是希…
阅读更多...
c# 调用存储过程

c# 调用存储过程

1.调用返回OUT的存储过程 a.调用OUT字符串的存储过程&#xff1b; #region 连接数据库/// <summary>/// 连接数据库/// </summary>/// <param name"connStatus"></param>/// <param name"dbNode"></param>/// <ret…
阅读更多...
Android WebView访问网页+自动播放视频+自动全屏+切换横屏

Android WebView访问网页+自动播放视频+自动全屏+切换横屏

一、引言 近期&#xff0c;我发现电视家、火星直播等在线看电视直播的软件都已倒闭&#xff0c;而我奶奶也再无法通过这些平台看电视了。她已六十多岁&#xff0c;快七十岁啦。这些平台的倒下对我来说其实没有多大的影响&#xff0c;但是对于文化不多的她而言&#xff0c;生活中…
阅读更多...
Linux下的时间同步，以及ntp时间服务器配置流程

Linux下的时间同步，以及ntp时间服务器配置流程

Linux下的时间同步&#xff0c;以及ntp时间服务器配置流程 概论常见时间操作命令Linux下的系统时间配置Linux硬件的时间的设置系统时间和硬件时间的同步NTP服务器时间的同步NTP服务的安装NTP的时间同步定时任务里的时间同步配置文件同步时间 概论 但在Linux下&#xff0c;系统…
阅读更多...
SpringBoot中间件简介

SpringBoot中间件简介

Spring Boot是一个Java框架&#xff0c;它提供了一系列中间件来简化应用程序的开发和集成。以下是一些常见的Spring Boot中间件&#xff1a; Web中间件&#xff1a; Servlet容器&#xff08;内嵌Tomcat、Jetty或Undertow&#xff09; Spring MVC&#xff08;用于构建Web应用程…
阅读更多...
HBuilderX创建uniapp项目使用 tailwindcss

HBuilderX创建uniapp项目使用 tailwindcss

文章目录 一、创建package.json文件二、打开终端 yarn / npm 安装依赖三、创建 vue.config.js文件四、创建postcss.config.js文件五、创建tailwind.config.js文件六、App.vue文件的style中引入tailwindcss 一、创建package.json文件 {"devDependencies": {"aut…
阅读更多...
蓝桥杯算法 一.

蓝桥杯算法 一.

分析&#xff1a; 本题记录&#xff1a;m个数&#xff0c;异或运算和为0&#xff0c;则相加为偶数&#xff0c;后手获胜。 分析&#xff1a; 369*99<36500&#xff0c;369*100>36500。 注意&#xff1a;前缀和和后缀和问题
阅读更多...
知识（202402）

知识（202402）

1.Conditional Conditional来源于spring-context包下的一个注解。Conditional中文是条件的意思&#xff0c;Conditional注解它的作用是按照一定的条件进行判断&#xff0c;满足条件给容器注册bean。 可以控制一个配置类是否注入到容器中&#xff0c;比如控制xxl-job不自动注册…
阅读更多...
【wpf】关于绑定的一点明悟

【wpf】关于绑定的一点明悟

背景简介 软件功能为&#xff0c;读取一个文件夹下的所有子文件夹&#xff0c;每个文件夹对自动对应生成 一组 “按键四个勾选” 按键点击触发&#xff0c;可以发送与其对应文件夹中的一些内容。这个绑定的过程我在之前的文章有过详细的介绍&#xff0c;非常的简单。 这里回顾…
阅读更多...
3月1日做题总结（静态库与动态库）

3月1日做题总结（静态库与动态库）

前言 最近学到了静态库和动态库的相关知识&#xff0c;就顺便整理了一下相关题目。如果对静态库和动态库知识不熟悉的同学&#xff0c;推荐看这篇文章——《静态库与动态库》&#xff0c;讲的很详细。 第一题 关于静态库与动态库的区别&#xff0c;以下说法错误的是&#xff…
阅读更多...
mac jupyter使用现有的python环境

mac jupyter使用现有的python环境

mood&#xff1a;python 编程真的是在反复的与自己和解啊 本来超级的畏难情绪 读会儿书 计算机博士的书 感觉还是要坚强的。《研磨记》--一位博士生的回忆录 作者技术真的强啊 正文开始&#xff1a; 聚焦搜索&#xff0c;打开终端激活虚拟环境&#xff1a;conda activate pyt…
阅读更多...
力扣爆刷第83天之hot100五连刷1-5

力扣爆刷第83天之hot100五连刷1-5

力扣爆刷第83天之hot100五连刷1-5 文章目录 力扣爆刷第83天之hot100五连刷1-5一、1. 两数之和二、49. 字母异位词分组三、128. 最长连续序列四、283. 移动零五、11. 盛最多水的容器 一、1. 两数之和 题目链接&#xff1a;https://leetcode.cn/problems/two-sum/description/?…
阅读更多...
javascript中使用‘use strict’和不使用的区别

javascript中使用‘use strict’和不使用的区别

错误处理&#xff1a; 严格模式使得 JavaScript 对某些可能的问题抛出错误&#xff0c;而在非严格模式下&#xff0c;这些问题可能会被忽略。例如&#xff0c;未声明的变量&#xff08;即全局变量&#xff09;在非严格模式下会被隐式地创建为全局变量&#xff0c;而在严格模式…
阅读更多...
十一、 二进制位运算

十一、 二进制位运算

描述 Python有位运算&#xff0c;是直接将数字看成二进制&#xff0c;直接对二进制数字的每一位进行运算。现输入两个十进制整数x、y&#xff0c;请计算它们的位与、位或&#xff0c;输出按照十进制的形式。 输入描述&#xff1a; 一行输入两个整数x、y&#xff0c;以空格间…
阅读更多...
git：合并两个不同仓库的代码

git：合并两个不同仓库的代码

有两个代码仓库&#xff1a;代码仓库A、代码仓库B&#xff0c;其中一个仓库的代码是为了新项目拉取的新分支&#xff0c;所以分支的部分修改历史是相同的 现在要将代码仓库B 的代码合并到代码仓库A 实现思路&#xff1a;分支合并 实现步骤&#xff1a; # 1、clone代码仓库A…
阅读更多...
外汇天眼：ASIC 获得针对前 Blockchain Global 董事的临时出行限制令

外汇天眼：ASIC 获得针对前 Blockchain Global 董事的临时出行限制令

澳大利亚证券与投资委员会&#xff08;ASIC&#xff09;已经针对前Blockchain Global Limited&#xff08;清算中&#xff09;董事梁国&#xff08;又名Allan Guo&#xff09;获得了临时旅行限制令。这些命令在其他方面&#xff0c;阻止郭先生在2024年8月20日或进一步命令之前离…
阅读更多...
(done) 如何计算 Hessian Matrix 海森矩阵 海塞矩阵

(done) 如何计算 Hessian Matrix 海森矩阵 海塞矩阵

参考视频1&#xff1a;https://www.bilibili.com/video/BV1H64y1T7zQ/?spm_id_from333.337.search-card.all.click 参考视频2&#xff08;正定矩阵&#xff09;&#xff1a;https://www.bilibili.com/video/BV1Ag411M76G/?spm_id_from333.337.search-card.all.click&vd_…
阅读更多...
【JGit】 AddCommand 新增的文件不能添加到暂存区

【JGit】 AddCommand 新增的文件不能添加到暂存区

执行git.add().addFilepattern(".").setUpdate(true).call() 。新增的文件不能添加到暂存区&#xff0c;为什么&#xff1f; 在 JGit 中&#xff0c;setUpdate(true) 方法用于在调用 AddCommand 的 addFilepattern() 方法时&#xff0c;将已跟踪文件标记为需要更新。…
阅读更多...
C语言基础—习题及代码(一)

C语言基础—习题及代码(一)

1.读取一个65到122之间的整型数&#xff0c;然后以字符形式输出它&#xff0c;比如读取了97&#xff0c;输出字符a #include <stdio.h> int main(){int n;scanf("%d",&n);if(n>65 && n<122){printf("%c\n",n);} } 2.判断某个年份…
阅读更多...
最新文章

Copyright @ 2022~2023