为什么要学习大模型应用开发?

0 prompt engineer

就是prompt工程师它的底层透视。

1 学习大模型的重要性

底层逻辑

人工智能大潮已来,不加入就可能被淘汰。就好像现在职场里谁不会用PPT和excel一样,基本上你见不到。你问任何一个人问他会不会用PPT,他都会说会用,只是说好还是不好。你除非说这个岗位跟电脑完全无关。但凡说能用上电脑的,基本上都会用excel和PPT,你不会用的基本上都被淘汰了,逻辑一样。

人工智能虽有一些应用场景,好像跟普通人没关。如智能驾驶,人脸识别,好像跟普通人关系不太大,我们都是被动使用。但现在这大模型跟我们每个人都有关,它是一个强大提升工作效率工具。你不会用,将来就好像跟PPT和excel一样,你就会慢慢的被职场淘汰。

会用就行?好像我们会用大模型,好像很简单对吧?无论是文心,还是通义千问,还是ChatGPT,用起来很简单,就是聊天不就OK?但其实不够,因为我们用它不只是当搜索引擎,用它是为提升工作效率,所以还要用的好。

啥叫用的好?

如写文章,PPT,写excel,可让他给你进行优化。甚至codding,也可让大模型帮你写。当然说让它完全替代你的代码不可能,但是你可以用它给你写一些框架性东西或具体的一个小问题,可直接让他写,然后拿过来你试下好不好用,甚至有bug也可以让他改一下。这样其实还是大幅度提升工作效率,最终跟PPT和excel依然逻辑类似。

2 大模型的潜力与微调

大模型是人工智能代表,潜力与使用方式有关。使用好大模型可提高效率,让人获得更好的待遇和更多机会。然而大模型潜力要通过微调挖掘,以适应不同场景和需求。大模型出现引发行业需求爆发,尤其随ChatGPT到来,其问答能力超过临界值,行业需求将逐渐增加。

你发现PPT和excel用的好的PPT一看就惊艳,excel用的特别熟练,你这个数据分析用的非常的到位,你的待遇会远远高于那些用的不好的。大模型也一样:

  • 用好你可几倍于原来效率
  • 用不好,你可能跟原来没什么区别

差距非常明显,有人就可一人干两人活,那待遇肯定远高于能保持原效率的人。大模型底层逻辑用的不好:

  • 要么没挖掘出大模型潜力,你只是让他答一些普通问题
  • 要么就是你这个prompt写的不好,他就开始胡乱回答
  • 或你问的问题范围不好,他就开始胡乱回答

这都是用的不好的一些标志,但最终你用的好。

假设你已通过各种尝试磨练或技巧学习,把某模型潜力发挥到极致。如文心一言最终能解决所有问题吗?也不行,就比如大模型不会回答关于你公司内部信息问题,因为他不知道,他没训练过。

当然现在通过知识库可部分解决这个问题,但知识库不是万能,最终他一定会有场景需要训练。比如说你想调整他回答的语气,让他活泼点或更官方点或让他的回答的更有一些个人特色。这种场景的大模型,因为它没有训练这种内容,所以它不可能满足你的需求。你一定要对它进行训练,至少微调。

所以总结下,大模型是一个非常强大的一个工具,他作为人工智能代表,AIGC已来到普通人接受范围内。这时不仅要会用,还要用好,甚至会微调,才能拉开跟其他职场人员的差距。这样我们的待遇才能更丰厚,工作机会更多。

你要学习到第二点,就是行业需求爆发了,就是基点以来。自从大模型出现,它的问答能力突破了一个临界值,就好像都有一个值。以前的模型都在临界值下徘徊,导致很难商用,只能在学术界兜转。直到ChatGPT才迈过这阀值,就是我们能接受的门槛,错误已经少到一定界限。这种我们会发现他已经可以用了,问什么问题都能回答上来,这就是基点。这就导致行业需求其实是慢慢会爆发起来的,它应对哪些场景呢?

3 大模型的应用需求

大模型在公司内部问题解决、产品解答、智能聊天和游戏NPC等方面的应用需求。大模型的使用可以提高效率、流畅度和人机交互体验。随着需求的增加,相关工程师的需求也会提升。

对内

像OAERPCRM等这些问题。平时都是是文档来文档去,比如说里面OA公司的制度都是文档,某人对某制度疑惑,要么问HR或行政,整体效率低。未来这些知识其实全部都可接到一个大模型之后,让一个模型加一个知识库,效率大大提高。

对外

也有类似客服解答产品的这种需求。每个公司都有自己的一些产品,有些产品边界、产品参数,还有一些应对各种情况的服务之类的,都要解答客户问题。现在解决方法一般先建一个官方网站里面介绍产品,然后后面再对接一个真人客服,当然也会加一些智能客服内容,但总体效果不如未来使用大模型加知识库,然后还有智能聊天,这是最底层需求。但现在人越来越忙,尤其老年人,他们没人聊天。这需求其实非常大,但一直没有被满足。但总之现在大模型出现之后,让问题看见曙光。

智能NPC

如游戏里面的NPC都是写死的,都是给你一个逻辑控制,遇到啥场景他做啥回答,完全写死,所以感觉刻板。如将来游戏NPC也接入大模型,让他对话更流畅,更像一个人。但这个游戏里面单纯的找各种不同人对话,是不是感觉也很有意思?这就是游戏里需求,也非常大。尤其未来元宇宙如果出现vr、ar都结合上之后,再加大模型,这里面的需求场景几乎无限大。

行业需求爆发,是不是可能让从事相关工作的工程师的待遇进行提升?肯定的,不过个案不能代替全部。如果说按一个行业,它总体待遇是由供需关系和创造价值量决定的。但是总体上它的需求产生了爆炸性提升。但总体上,互联网其实就是一个这样一层一层往上叠代爆发的过程。

4 互联网行业技术发展与工资待遇

互联网行业工资待遇高的原因是因为需求突然爆发,供应不足;互联网是编辑成本低的行业;创造的价值量与用户量成正比,但成本不成正比;技术的发展也是一层一层往上叠代的,学习最顶层的技术才能拿到高薪。

互联网刚出,你会个HTML,简单JS,工资可能就拿非常高。当时根本无法想象的。90年代当时美国互联网泡沫,你就是会一个HTML这么简单的一个东西就可以拿很高的年薪。就是因为这个需求突然爆发了,但供应提不上来,没那么多人会,所以工资待遇高。而且互联网又是一个编辑成本很低的一个行业。就是你只要做出一个东西,可以给全球每一个人看你这个成本,还是原来的成本不会增加太多。

这就是为什么互联网行业的待遇容易比较高,这就是创造的价值量跟你的用户量成正比,但是你的用户量跟你的成本却不成正比。你一个用户成本跟100万个用户的成本其实差不了许多,差的可能你就是服务器成本,但是你主要的研发成本差不多,剩下主要是供需关系。

最开始HML假设在这位置,然后就是ASP、PHP语言刚出来的一些动态页面,会这些语言你就高薪。再往后安卓出来智能手机IOS之前可能还有java,java是在这位置后,然后IOS和安卓它是一层一层往上开发,然后到算法,现在到了大模型。

你现在再学习下面的东西,如HTML,PHP5、java。在现在这个位置学习他,你不可能高薪,因为它已是基础设施。就好像你开发应用一样,你现在去开发操作系统,你除非说国产替代,正常来讲,微软和苹果已把操作系统完全占领,你不可能再打开空间。再往上,可能微信QQ之类的,你再开发一个类似的,也不可能打败它。

跟这个技术的原理是类似的,技术也是一层一层往上叠代。你现在这个角度去学习更底层东西。不是说完全没必要学,如果说你有时间可学习,这样知识体系更完整。但仅靠下面知识找工作,高薪不易。你只有拿最顶层技术,可能高薪。

5 大模型训练经验与高薪offer

前段时间有个大模型训练的拿到200万年薪。工作经验只有六年。他为什么那么高offer?大模型经验他比较多,大模型其实是GPT3出来后,CP3出来到现在大概也就三年。算上GBTR大概四年,他在阿里就有四年大模型训练经验,很难得。

模型本身其实现在工作需求已比较大。如果说它下面游戏NPC有了一个突破,然后你又比较熟悉这方向,会的人又比较少。这时你立马就可跳槽拿高薪。

6 为啥通过本套专栏学习大模型?

这套专栏是围绕大模型,就围绕ChatGPT进行组织的。首先基于ChatGPT的历史发展开始讲解前后左右:

  • 前就是它的历史
  • 后讲大模型延伸。高效微调训练也会讲,但是我们完整的这个175B的ChatGPT训练不动。所以用了高效微调训练了一个6B的模型及launch基于long ten结合一个稍微小一点的语言模型6B的进行一些应用的开发,这是后面
  • 左右就是用到了强化学习,在ChatGPT训练的时候用到了强化学习。展开讲了,避免你产生一些知识盲区。

不像有的说讲这个ChatGPT,直接把NLP1大套底层的知识都搬给你,这些也不是没有用。但是就对你这个主题稍微有点偏会,导致你如果说这个东西肯的时间太长,会让你兴趣丧失,不太利于你学习。这个知识用到的知识我都给你讲了也不会显得过于单薄。

现在关于大模型或ChatGPT专栏,主要还是一些帖子或简单专栏。它对它的GPT依赖的一些知识,如transformer、历史,还有强化学习都不太多。这就需要你有比较多的基础知识才能看那些课。我这课相对降低你对基础知识要求。讲课的时候也包含了一些底层的思考,你也可以认为是一些类比,能让你更好的理解这些模型到底是在干什么。

7 专栏学习方法及收获

现在训练专栏都不系统,因为ChatGPT是新兴事物,22年8月才出现,然后11月才火起来,至今不满2年。要么它就是基于传统的NOP专栏,然后再单独开一张,介绍一下全程PPT。

学习方法

不只是学习本套专栏的方法,其实学习所有人工智能你都可以用这套方法,就是关于数学公式推导。人工智能有大量数学公式推导,是人工智能专栏最大难点,但你数学不好,又想学课咋办?建议先跳过,先扫两眼公式,感觉看懂就看看。看不懂跳过,把公式推倒当成黑盒,只记结论及逻辑。但建议你有能力,感觉数学还可,还是把公式啃完,当然了大部分应用开发工程师不需要。

收获

你会学习到ChatGPT等大模型训练原理,即:

  • 底层原理
  • 如何训练

然后掌握多种NLP逻辑,因为fort它是为了解决下游NLP任务的,如文本分类,N12,阅读理解。所以本套专栏其实都会在介绍port时候介绍一些逻辑。用它们解决下游任务也比较简单,在代码实践上也进行了一个样例的操作,可上手解决实际问题。你就拿一个人家训练好的波尔模型拿过来,然后在下游进行或者分类,或者说NE2,去接一下不同的下游处理,就可以直接上手处理不同的任务,或者一般还是需要微调的,所以你再训练一下就可以解决实际问题了。

然后理解bert和GPT的模型异同,实际上是bert系列和GPT系列他们的模型的差异。然后学会高效调参技巧,如peft和 Langchain。简单理解就是你的显存不够时,还能把这个大模型训起来。如6B13B都可训起来。最后就学会用浪琴加上不同大模型。如千问模型再加一个知识库向量数据库,如face搭建一个自己的智能助手,这是收获。

8 适合人群

想从零开始学习chatGPT的人群。基础不多想学没关系,数学基础不是那么的优秀也可学。可把数学公式推导先跳过。后面对数学有兴趣,把这基础补补再来看也OK

想理解大模型底层原理,以便更好使用大模型。如为什么大模型避免不了幻觉,就是说它避免不了胡乱回答。你只有理解底层原理才知为什么,你才能尽量的有指导性去回避让他乱答。

想自行训练和搭建大模型服务的人群。要么就是外包,你给别公司去搭建。要么就是你在公司里其他人都不会,又不想花很多钱去买外包服务。但自己学一下给自己公司搭一个大模型的服务地图储备,这个其实还看目的。如只是想学会它底层原理,然后去更好使用这些模型,那懂点点python、linux就可。对技术依赖不多。但如果说你想训练场,你想玩的更彻底,那我的建议还是要有一些数学基础,有一些人工智能基础。

关注我,紧跟本系列专栏文章,咱们下篇再续!

作者简介:魔都技术专家,多家大厂后端一线研发经验,在分布式系统、和大数据系统等方面有多年的研究和实践经验,拥有从零到一的大数据平台和基础架构研发经验,对分布式存储、数据平台架构、数据仓库等领域都有丰富实践经验。

各大技术社区头部专家博主。具有丰富的引领团队经验,深厚业务架构和解决方案的积累。

负责:

  • 中央/分销预订系统性能优化

  • 活动&优惠券等营销中台建设

  • 交易平台及数据中台等架构和开发设计

  • 车联网核心平台-物联网连接平台、大数据平台架构设计及优化

    目前主攻降低软件复杂性设计、构建高可用系统方向。

参考:

  • 编程严选网

    本文由博客一文多发平台 OpenWrite 发布!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/794026.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何对抓取的文本进行分词、词频统计、词云可视化和情感分析

目录 一、引言 二、文本分词 三、词频统计 四、词云可视化 五、情感分析 六、总结 一、引言 在大数据时代,文本数据的处理和分析显得尤为重要。对于爬虫抓取的大量文本数据,如何进行高效、准确的处理和分析,是每一个数据分析师和开发…

算法| ss 字符串数组对象

罗马数字转整数 409.最长回文串 字符串相加 594.最长和谐子序列 13. 罗马数字转整数 /*** param {string} s* return {number}*/ // 构建map匹配值,增加带IV这种的 // for遍历循环, // 1.先看匹配是否满足2个字符的 i2 // 2. 单个字符匹配 var romanToInt functi…

达梦体系结构:内存架构

达梦体系结构:内存架构 内存架构数据缓冲区重做日志缓冲区SQL缓冲区字典缓冲区共享内存池运行时的内存池 达梦数据库由数据库和实例构成: 数据库是指磁盘上存放的数据库文件的集合,包括参数文件、控制文件、数据文件、日志文件等。实例是指一…

9Proxy,跨境电商一站式解决方案

文章目录 跨境电商什么是跨境电商跨境电商的机遇跨境电商技术支撑 海外代理IP什么是海外代理IP海外代理IP的作用如何选择海外代理IP 9Proxy9Proxy的优势9Proxy的解决方案价格汇总搜索引擎优化市场调查多重核算数据抓取广告技术 价格上手体验注册登录下载安装数据采集 总结福利 …

【Unity每日一记】如何从0到1将特效图集制作成一个特效

👨‍💻个人主页:元宇宙-秩沅 👨‍💻 hallo 欢迎 点赞👍 收藏⭐ 留言📝 加关注✅! 👨‍💻 本文由 秩沅 原创 👨‍💻 收录于专栏:Uni…

Java毕业设计 基于SSM jsp商城系统 美妆系统

Java毕业设计 基于SSM jsp商城系统 美妆系统 SSM jsp 商城系统 美妆系统 功能介绍 首页 分类展示商品 搜索商品 登录 注册 邮箱激活 购物车 结算 支付 我的订单 个人信息设置 后台管理 登录 商品管理 添加修改下架商品 商品类型管理 添加修改删除分类 订单管理 确认发货 取消…

Python中主要数据结构的使用

文章目录 数组队列 queue双端队列 deque栈 stack优先队列 priority_queue集合 set映射/字典 map 数组 使用内置类型list实现,主要有如下操作: array [] array.append(1) length len(array) if not array:# 列表为空print("array is empty"…

Vue使用高德地图(快速上手)

1.在高德平台注册账号 2.我的 > 管理管理中添加Key 3.安装依赖 npm i amap/amap-jsapi-loader --save 或 yarn add amap/amap-jsapi-loader --save 4.导入 AMapLoade import AMapLoader from amap/amap-jsapi-loader; 5.直接上代码,做好了注释(初…

子数组 OR/AND/GCD 模板(补题)

3097. 或值至少为 K 的最短子数组 II 给你一个 非负 整数数组 nums 和一个整数 k 。 如果一个数组中所有元素的按位或运算 OR 的值 至少 为 k ,那么我们称这个数组是 特别的 。 请你返回 nums 中 最短特别非空 子数组 的长度,如果特别子数组不存在&a…

Lafida多目数据集实测

Lafida 数据集 paper:J. Imaging | Free Full-Text | LaFiDa—A Laserscanner Multi-Fisheye Camera Dataset 官网数据:https://www.ipf.kit.edu/english/projekt_cv_szenen.php 官网:KIT-IPF-Software and Datasets - LaFiDa 标定数据下载&…

Spring 详细总结

文章目录 第一章 IOC容器第一节 Spring简介1、一家公司2、Spring旗下的众多项目3、Spring Framework①Spring Framework优良特性②Spring Framework五大功能模块 第二节 IOC容器概念1、普通容器①生活中的普通容器②程序中的普通容器 2、复杂容器①生活中的复杂容器②程序中的复…

单细胞RNA测序(scRNA-seq)SRA数据下载及fastq-dumq数据拆分

单细胞RNA测序(scRNA-seq)入门可查看以下文章: 单细胞RNA测序(scRNA-seq)工作流程入门 单细胞RNA测序(scRNA-seq)细胞分离与扩增 1. NCBI查询scRNA-seq SRA数据 NCBI地址: https…

npm常用命令技巧

NPM (Node Package Manager) 是 JavaScript 的包管理工具,广泛用于管理项目中的依赖。无论是前端项目还是Node.js后端项目,NPM 都扮演着重要的角色。本文将介绍 NPM 中常用的几个命令,并提供相应的代码示例。 1. 初始化项目:npm …

[RV1106-LINUX-IPC] 关于 rndis 功能无法使用的解决办法

问题描述 按照开发文档文档,修改对应的BoardConfig.mk,增加 export RK_ENABLE_RNDISy 使用编译命令: ./build.sh sysdrv ./build.sh firmware 烧录固件后,开机使用命令: rndis.sh,出现 rndis 无法识别的情…

腾讯云(CVM)托管进行权限维持

前言 刚好看到一个师傅分享了一个阿里云ECS实战攻防,然后想到了同样利用腾讯云CVM的托管亦可实现在实战攻防中的权限维持。 简介 腾讯云自动化助手(TencentCloud Automation Tools,TAT)是一个原生运维部署工具,它可…

c语言:模拟字符串拷贝功能(strcpy),面试题

面试题&#xff1a;优化中的优化&#xff08;10分满分&#xff09; 字符串拷贝:是将一个字符串的内容复制到另一个字符串中的操作。 运用函数模拟字符串拷贝&#xff1a;&#xff08;5分&#xff09; 模拟字符串拷贝 #include <stdio.h> void my_strcpy(char* dest, c…

SD-WAN组网面临的安全挑战?如何提供有效的安全措施

SD-WAN&#xff08;软件定义广域网&#xff09;技术的广泛应用&#xff0c;企业面临着越来越多的网络安全挑战。尽管SD-WAN带来了灵活性和效率的提升&#xff0c;但其开放性和基于云的特性也带来了一系列安全威胁。本文将探讨SD-WAN组网面临的安全挑战&#xff0c;并提供一些有…

Mybatis--TypeHandler使用手册

TypeHandler使用手册 场景&#xff1a;想保存user时 teacher自动转String &#xff0c;不想每次保存都要手动去转String&#xff1b;从DB查询出来时&#xff0c;也要自动帮我们转换成Java对象 Teacher Data public class User {private Integer id;private String name;priva…

Docker 运行 io_uring 程序崩溃或出现错误时应如何解决?

这常常出现于在 Docker&#xff08;sandbox 沙盒容器&#xff09;之中运行 io_uring 服务器模式下&#xff0c;解决该问题需要打开容器 “特权模式”。 即&#xff1b; privileged: true 启用特权容器模式&#xff1a; 可以通过在 Docker 容器运行时加上 --privileged 标志来启…

Python 中的 *args 和 **kwargs

在阅读 Python 代码的过程中&#xff0c;不时会看到 *args 和 **kwargs &#xff0c;它们究竟表示什么&#xff1f;又该如何使用呢&#xff1f; 首先要明确&#xff0c;这里的 * 并不是乘法运算符也不是序列重复操作符&#xff0c;**也不是指数运算符也不是幂运算符。 * 出现…