附完整代码 + 项目案例,3 天吃透大模型应用开发核心技术
需要完整项目学习视频以及源码的私信博主,谢谢~大家一起加油呐!!
01.认识AI和大模型
小结
AI的发展过程
符号主义
机器学习
深度学习——自然语言处理(NLP)——大语言模型(LLM)
大模型底层原理
T:基于 Transformer 的神经网络
P:通过大量数据预训练,掌握自然语言规律
G:基于上文计算概率,声测会给你下一个token
02大模型应用开发-模型部署方案对比
模型部署
03大模型应用开发-模型部署-云服务
模型部署-云服务
阿里百炼
04大模型应用开发-模型部署-本地部署
企业肯定是在自己的服务器上去部署,在内网去使用
模型部署-本地部署
1. 安装 ollama
2.
3.
4.
05大模型应用开发-调用大模型
调用大模型
遵循 openai 的规范,实现了 openai 的那一套接口
调用本地部署的大模型、或者是云部署的大模型——发送HTTP请求
06大模型应用开发-什么是大模型应用开发?
传统程序和AI大模型之间的区别
大模型应用(Hybrid AI)
应用领域
07大模型应用开发-AI应用开发技术架构
AI应用开发技术架构
纯 Prompt 问答
Agent(智能体(会对复杂的任务进行拆解))+ Function Calling
RAG(Retrieval检索 Augmented增强 Generation生成)
Fine-tuning(模型微调)
针对特有业务场景对基础大模型做数据训练与微调,以满足特定场景的需求。
11SpringAI-介绍
两种技术框架的对比
目录
12SpringAI-对话机器人-快速入门
快速入门
引入依赖
配置模型
配置客户端
13SpringAI-对话机器人-会话日志
客户端进行配置
日志输出
14SpringAI-对话机器人-对接前端
这里就是构建一个前端页面,因为博主主要学习的是后端,所以这一块大家可以自己通过各种 AI 软件自行构建一个前端页面,只需要前后端对接好技术就好啦
我强烈推荐这里,可以学习一下使用AI软件去快速开发一个项目。
15SpringAi-对话机器人-会话记忆
大模型是不具备记忆能力的,要想让大模型记住之前聊天的内容,唯一的办法就是把之前聊天的内容与新的提示词一起发给大模型
实例演示——阿里百炼平台 文本调试大模型
定义会话存储方式
配置会话记忆
添加会话ID
16SpringAi-对话机器人-会话历史
接口总结
定义Repository,开发接口,实现类
开发VO类,以及Controller类