GPT 大模型应用开发概览

随着大模型的风靡,越来越多的企业希望使用大模型来提高自己的服务能力,即在自己的软件中集成大模型的能力,希望让大模型解决一些特定的问题。

大模型的应用开发,其本质上是提示词工程,如何组好提示词,直接决定了整个应用的最终能力。

说到提示词,首先就是常规的提示词技巧。需要认识到的是大模型是整个人类历史知识的集大成者,当然这里说的是通用大模型设计目标。

大模型整体分析

大模型掌握了几乎所有领域的知识,从另一个角度上来说,我们不能先入为主的认为,你现在需要解决A问题,它直接扮演的就是A问题的专家,所以你需要指定它现在扮演的角色。

其次,历史知识的集大成者,因为是历史知识,因此回答不了新出现的知识,比如上了一个新药,然后你去问这个新药的知识,那是得不到想要的结果的。

再次,模型的训练使用的是公开的数据,企业或个人的私有数据知识是不具备的,比如你想做一个企业软件的在线顾问,那么你的企业软件到底是什么,你的软件本身知识,它是无法回答的。

最后,随着大模型的使用,我们需要解决特定的任务,很多时候会希望模型在回答一些问题的时候,我们希望回复中加入业务入口,包括生成业务参数,比如订票等。

另外,涉及到企业数据安全的,就需要模型支持本地化部署,而不是给各大大模型公司无偿提供语料贡献,泄密企业机密。

大模型使用领域知识

让大模型打破历史知识的限制,现在有3个办法:

1、模型微调,也就是说拿新的知识进行模型的二次训练;

2、选择专有模型,从已有的市场上选择已经经过微调的模型;

3、使用提示词技术,将相关的知识检索出来(现在主流的做法是分词后放入向量数据库,使用时使用向量相似度检索相关知识),放在提示词中,主动给大模型提供知识。

大模型与应用集成

应用集成时,无法单纯使用模型输出的对话文字来进行应用的二次集成开发,此时有两个方法:

1、提示词中说明输出格式,应用使用特定格式来解析后进行二次处理,比如规定输出什么内容,格式是什么样的,类型是什么;

2、使用function call机制,让模型来选择后续调用的函数和生成函数参数,通过函数描述,让模型自动选择调用哪个函数。

相关难点

难点一:选择基础模型,需要根据业务情况,考虑模型规模、模型类型,当然微调还需要考虑计算投入;

难点二:数据准备,不管是微调模型还是检索方案,都需要准备语料,数据的预料准备、导入、检索都需要花费大量的精力;

难点三:效果评估,很难通过有效的方式一次性评估模型,达到业务预期,这个时候就需要长期的记录、跟踪,不断进行优化。

关于智能体

智能体目前的机制,其实就是定义标准的SOP,通过不同的角色定义,利用大模型分别进行内容输出,以拼凑出一个完整的系统化结果。

本作品的版权所有权归作者所有,受法律保护。未经作者书面许可,任何个人或组织均不得以任何形式使用、复制、修改、传播、展示或在未获得授权的情况下进行商业利用。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/856591.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【Python的随机数汇总】

​我们写python代码的时候,很少能用得上随机数,但是随机数有很多妙用。例如,在我们做测试数据集的时候,可以构建一个随机的dataframe; 或者在保存数据的时候,可以在每条数据前插入一列作为,不重…

ASP .Net Core创建一个httppost请求并添加证书

ASP .Net Core创建一个httppost请求并添加证书 创建.net Core程序,使用自签名证书,可以处理https的get和post请求。 创建证书 创建自签名证书的流程可以在这里查看: https://blog.csdn.net/GoodCooking/article/details/139815278创建完毕…

充电学习— 9、Typec Pd

GND:线缆接地 TX RX:数据流data传输,支持2.0 3.0 speed兼容 VBUS:线缆cable电源,bus power CC:电缆cable的连接、方向、角色检测和当前模式的配置通道; 有emark时, 一个成为VCONN&am…

Aidlux 1.4 部署homeassistant core 2024.6实录

1 Aidlux 安装 Index of /apk/ (aidlux.com) 基于debain 10.1,改不了内核参数用不了docker,用initd管理而不是systemd,阉割版系统很多安装依赖项要自己摸索补全。 # 1 由于您的系统使用的是 SysVinit 而不是 systemd,更改时区。…

易基因:MeRIP-seq等揭示RNA m6A去甲基化酶调控植物雄性不育的分子机制 | 科研速递

大家好,这里是专注表观组学十余年,领跑多组学科研服务的易基因。 水稻是全球重要的农作物,也是单子叶植物模型。在水稻中,N6-甲基腺苷(m6A)mRNA修饰对植物的发育和胁迫响应至关重要。OsFIP37作为m6A甲基化…

线程间通信(生产者和消费者案例)

一、传统的线程间通信的方式 使用 Object: synchronized:阻塞锁 wait():阻塞当前队列 notifyAll():唤醒所有阻塞队列 package ProduceAndConsumer;/** Auther:生产者消费者案例1* Date:2024/6/20* Description:qinhao* VERSON:1.8*/public…

聊聊其他之ShowDoc安装部署

聊聊其他之ShowDoc安装部署 Docker离线安装部署 由于很多公司服务器处于内网环境,跟外网阻断,所以需要通过离线的方式进行Docker镜像安装。 Linux环境准备 第一步:检查防火墙,是否关闭。 查看防火墙状态: [rootlo…

【第22章】Vue实战篇之文章分类

文章目录 前言一、文章分类列表查询1. 界面2. 脚本3. 展示 二、文章分类添加1. 界面2. 接口脚本3. 点击事件 三、文章分类编辑1. 界面2. 接口脚本3. 点击事件 四、文章分类删除1. 界面2. 接口脚本3. 点击事件 总结 前言 这里来学习文章分类相关界面和接口的调用(增删改查)。 一…

含铬废水有哪些危害?含铬废水怎么处理呢?

铬化物可以通过消化道、呼吸道、皮肤和粘膜侵人人体,主要积聚在肝、肾、内分泌系统和肺部。毒理作用是影响体内物质氧化、还原和水解过程,与核酸、核蛋白结合影响组织中的磷含量。铬化合物具有致癌作用。 铬化合物以蒸汽和粉尘的方式进入人体组织中&…

低版本火狐浏览器报错:class is a reserved identifier

低版本火狐浏览器报错:class is a reserved identifier 原因:react-dnd,dnd-core 等node包的相关依赖有过更新,使得在低版本火狐浏览器中不支持 class 解决方法:在使用webpack打包构建时,编译排除node_modu…

javaweb中ServletContext的使用

一.ServletContext 它一个为整个 web 应用程序提供视图的接口,允许 servlet 之间共享信息。这是一个在 web 应用程序范围内被共享的对象,任何在这个应用中的 servlet 都可以访问它,常用于不同servlet之间的数据共享。 二.作用与功能 …

每日复盘-202406020

今日关注: 20240620 六日涨幅最大: ------1--------300462--------- 华铭智能 五日涨幅最大: ------1--------300462--------- 华铭智能 四日涨幅最大: ------1--------300462--------- 华铭智能 三日涨幅最大: ------1--------300462--------- 华铭智能 二日涨幅最…

基于DE2-115平台的VGA显示实验

一.任务需求 深入了解VGA协议,理解不同显示模式下的VGA控制时序参数(行频、场频、水平/垂直同步时钟周期、显示后沿/前沿等概念和计算方式);通过Verilog编程,在至少2种显示模式下(64048060Hz,102476875Hz&…

惠海H4120 降压IC 40V 36V 30V降压5V3A 9V3A 12V3A 动态响应优异,低纹波

H4120是一款功能优良的异步降压型DC-DC转换器。它的主要特性和优势如下: 产品特性: 内置40V耐压MOS:内置的高耐压MOS使得H4120能够处理更多种的输入电压范围,增强了其适用性和可靠性。 宽输入范围:输入电压可在5V至…

基于SpringBoot+Vue电影推荐系统设计和实现(源码+LW+调试文档+讲解等)

💗博主介绍:✌全网粉丝1W,CSDN作者、博客专家、全栈领域优质创作者,博客之星、平台优质作者、专注于Java、小程序技术领域和毕业项目实战✌💗 🌟文末获取源码数据库🌟 感兴趣的可以先收藏起来,还…

MySQL 保姆级教程(八):创建计算字段

第 10 章 创建计算字段 10.1 计算字段 直接从数据库中检索出转换、计算或格式化过的数据 10.2 拼接字段 拼接: 将值联结到一起构成单个值 ​ 输入: SELECT CONCAT(database_name, date:,last_update) FROM innodb_index_stats ORDER BY database_name; 输出: ------------…

dns域名使用配置

域名解析配置到dns服务器10.243.xx.105上 1.systemctl status dhcpd 2.vim /etc/named.conf zone "aws.com." { type master; file "aws.com"; }; 3./var/named/chos.com $TTL 300 IN SOA 10.243.xx.105. nobody.…

安装Xshell和Xftp后,打开程序下无法使用,要继续使用此程序,您必须应用最新的更新或使用新版本。

之前我遇到这种情况的时候,修改了nslicense.dll,结果这次重新下载结果把修改代码给忘了(因为我也不会这个),于是我用了最直接的办法去官网找最新版本下载:xshell/xftp官网 后面直接点下载,然后开…

C语言结构体给结构体赋值

C语言可以把一个结构体变量直接赋给另一个结构体变量,各成员的值会自己赋过去; struct Person {char name[20];int age;int high; }; ...... void CTest1View::OnDraw(CDC* pDC) {CTest1Doc* pDoc GetDocument();ASSERT_VALID(pDoc);// TODO: add draw…

Linux系统:线程概念 线程控制

Linux系统:线程概念 & 线程控制 线程概念轻量级进程 LWP页表 线程控制POSIX 线程库 - ptherad线程创建pthread_createpthread_self 线程退出pthread_exitpthread_cancelpthread_joinpthread_detach 线程架构线程与地址空间线程与pthread动态库 线程的优缺点 线程…