书生·浦语大模型实战营 | 第1次学习笔记

前言

书生·浦语大模型应用实战营 第二期正在开营,欢迎大家来学习。(参与链接:https://mp.weixin.qq.com/s/YYSr3re6IduLJCAh-jgZqgicon-default.png?t=N7T8https://mp.weixin.qq.com/s/YYSr3re6IduLJCAh-jgZqg

第一堂课的视频链接:https://m.bilibili.com/video/BV1Vx421X72Dicon-default.png?t=N7T8https://m.bilibili.com/video/BV1Vx421X72D

本次笔记是学习完第一堂课,结合自己关心内容而创作,更偏向个人。尽管有很多细节丢失,但组织出来的内容仍反映本节课的关键知识、也是我的收获,与大家分享。

论述

大模型功能开发流程

以下是比较典型的大模型功能开发要经历的流程,但实际情况可能会更加复杂,也没必要去都呈现出来。所以我们学习这个就行。知道步骤进行原因,具体情况灵活应变

步骤一(步骤数字以最复杂的情况为举例):挑选模型

现在想象下我们要开发一个大模型应用。从接到任务到真正把功能实现出来,该经历怎样的流程?

大模型功能是为了满足某个业务需求的,首先我们得挑选合适的大模型,大家知道不同的大模型对同一个任务表现是不一样的,就拿Claude2来说,模型综合能力不及GPT-4 Turbo,但是在学术相关对话,表现出来的特定能力是明显比GPT-4 Turbo好的。

完成这一步骤,可能需要你有些经验,或者你也可以看权威些的排行榜。

步骤二:第一次模型评估

刚刚是你主观上觉得Ok、或者别人说的,但是实际怎么样呢?你得基于客观的测试,但到底是不是能够满足需要。

如果直接就满足了,那就直接可以部署模型了。达不到需要该怎么办?

我们得去微调大模型

步骤三:微调大模型

我们要做判断,现在我有没有微调所需要的资源?具体是硬件资源、和训练所需的语料资源。做好判断之后就进行微调的环节了

 续训,也就是全参数微调,因为要将训练大量的语料,往往需要更长时间。

步骤四:构建智能体

 如果大模型要与环境进行交互,比如与数据库的交互或者调用什么插件等,构建智能体是很好的策略。在具体情况下你可以判断一下,如果需要推荐你构建智能体

步骤五:第二次模型评估

功能始终是为了满足某种需要的,所以在我们改造模型后,还是得看满足了没有,是不是要继续调整。我们对模型进行第二次评估。

 步骤六:模型部署

最后就是把模型嵌入应用中,部署好自己的模型就好了

这就是总的图

 这是我学到的一个关键知识,它让我知道我以后面对我的项目的时候,该怎么办

书生·浦语全链条开源开放体系

听完课似乎我脑袋里留下的第二句话是:“书生·浦语对于开发的各个环节都提供了技术支持”。

 大家可以把各个技术对应到上面我们总结的开发流程中,看什么地方我可以用到什么技术。

~~~~~~

以上就是我本篇想讲的所有内容了,如果这篇文章对你有价值的话,还请点个赞,你的支持对我非常重要!

我是阿航,一位胆大包天、梦想成为大牛的学生~ 

我们下篇文章接着聊

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/783242.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

多系统使用ffmpeg读取麦克风数据

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言一、命令行1.Ubuntu1.alsa2.pulseaudio 2.Windows1.dshow 二、代码总结 前言 最近在搞一个项目需要用到麦克风读取数据并分析,我的开发环境是Ubunt…

Android 12系统源码_多窗口模式(一)和多窗口模式相关方法的调用顺序

前言 从 Android 7.0 开始,Google 推出了一个名为“多窗口模式”的新功能,允许在设备屏幕上同时显示多个应用,多窗口模式允许多个应用同时共享同一屏幕,多窗口模式(Multi Window Supports)目前支持以下三种…

我的C++奇迹之旅相遇:支持函数重载的原理

文章目录 📝前言🌠 C支持函数重载的原理:名字修饰(name Mangling)🌉不同编译器不同函数名修饰规则 🌠Windows下名字修饰规则🚩总结 📝前言 函数重载概念 函数重载:是函数的一种特殊…

大模型面试准备(九):简单透彻理解MoE

节前,我们组织了一场算法岗技术&面试讨论会,邀请了一些互联网大厂朋友、参加社招和校招面试的同学,针对大模型技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何备战、面试常考点分享等热门话题进行了深入的讨论。 合集在这…

Linux(CentOS7)安装 MySQL8

目录 下载 上传 解压 创建配置文件 初始化 MySQL 服务 启动 MySQL 服务 连接 MySQL 创建软链接 下载 官方地址: MySQL :: Download MySQL Community Serverhttps://dev.mysql.com/downloads/mysql/选择版本前需先看一下服务器的 glibc 版本 ldd --versio…

js录制本地摄像头下载mp4和转file文件流

前端获取本地摄像头和麦克风并录制为mp4导出其实很简单,只是可能你不太了解相关的知识点,我已经在项目中实战过。 前端获取本地摄像头麦克风,并录制视频 export class VideoRecording { // 录视频mediaRecorder: MediaRecorder | null;strea…

浏览器工作原理与实践--垃圾回收:垃圾数据是如何自动回收的

在上一篇文章中,我们提到了JavaScript中的数据是如何存储的,并通过例子分析了原始数据类型是存储在栈空间中的,引用类型的数据是存储在堆空间中的。通过这种分配方式,我们解决了数据的内存分配的问题。 不过有些数据被使用之后&am…

【PCB专题】案例:Allegro怎么1:1在纸上打印出PCB板

首先我们要知道为什么我们需要1:1打印出PCB板? 为什么需要1:1打印 一般我们要1:1打印出来这个功能是在新画的器件封装验证、首板结构配合检查、多个板卡互连验证等情况下使用: 在新画了一个器件封装时,如果我们手上有实物,那么通过1:1打印出来后可以与实物器件交叉对比…

Web框架开发-Django-Form组件归类

一、Form类 创建Form类时,注意涉及到【字段】和【插件】,字段用于对用户请求数据的验证,插件用于生成HTML; 1、Django内置字段如下: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 …

CVE-2023-38408漏洞修复 - 升级openssl和openssh

CVE-2023-38408 OpenSSH 代码问题漏洞修复 - 升级openssl和openssh ※ 重要说明: 1、升级后会导致无法用ssh远程登录,提示“Permission denied, please try again.” 2、解决方案请查看本章节【三、解决升级后无法用ssh远程登录】 目录 CVE-2023-38408 O…

使用Docker搭建NZBGet

NZBGet是一款高效的NZB下载客户端,它支持使用NZB文件来自动下载网络上的文件,特别是BT种子文件。NZBGet能够与多个索引器和下载管理器(如Sonarr、Radarr、SABnzbd等)集成,提供稳定、快速且易于管理的下载体验。 使用D…

代码随想录算法训练营第39天| 738.单调递增的数字、968.监控二叉树

738.单调递增的数字 题目链接&#xff1a;单调递增的数字 题目描述&#xff1a;当且仅当每个相邻位数上的数字 x 和 y 满足 x < y 时&#xff0c;我们称这个整数是单调递增的。 给定一个整数 n &#xff0c;返回 小于或等于 n 的最大数字&#xff0c;且数字呈 单调递增 。 解…

WebScraper网页数据爬取可视化工具使用(无需编码)

前言 Web Scraper 是一个浏览器扩展&#xff0c;可以实现无需编码即可爬取网页上的数据。只需按照规则进行配置&#xff0c;即可实现一键爬取导出数据。 安装 进入Google应用商店安装此插件&#xff0c;安装步骤如下&#xff1a; 进入Google应用商店需要外网VPN才能访问&…

C#基础复习

【namespace】 命名空间 。net有众多类&#xff0c;全放一起&#xff0c;无法快速检索到需要的类。 所以用【点】来区分&#xff0c;注意【点】不是包含关系。 解决类重名问题时&#xff0c;要用完全限定名来区分。【完整命名空间路径】 配合引用&#xff1a; 【字段】 类内部…

Android 中 调试和减少内存错误

Android 中 调试和减少内存错误 ASan 概述 官网连接&#xff1a; https://developer.android.com/ndk/guides/asan?hlzh-cn ASan API 27开始HWASan&#xff08;替换AScan&#xff09; 从 NDK r21 和 Android 10&#xff08;API 级别 29&#xff09;开始适用于 64 位 Arm 设…

微服务demo(三)nacosfeign

一、feign使用 1、集成方法 1.1、pom consumer添加依赖 <dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-openfeign</artifactId><version>2.2.6.RELEASE</version></dependency&…

WEB APIS知识点案例总结

随机点名案例 业务分析: 点击开始按钮随机抽取数组中的一个数据,放到页面中点击结束按钮删除数组当前抽取的一个数据当抽取到最后一个数据的时候,两个按钮同时禁用(只剩最后一个数据不用抽了) 核心:利用定时器快速展示,停止定时器结束展示 <!DOCTYPE html> <html…

智慧公厕产品的特点、应用场景

随着城市化进程的加速和智能科技的不断发展&#xff0c;智慧公厕作为城市管理的重要组成部分&#xff0c;逐渐成为了现代城市的一道靓丽风景线。它的特点和应用场景备受人们关注和喜爱。 智慧公厕的特点有哪些呢&#xff1f;首先&#xff0c;它智能化的设备和感应技术为其特点…

华为昇腾认证考试内容有哪些

华为昇腾认证考试的内容主要包括理论知识和实践操作两部分。 在理论知识部分&#xff0c;考生需要掌握昇腾计算的基础知识&#xff0c;包括昇腾计算平台的架构、性能特点、应用场景等。此外&#xff0c;还需要深入理解昇腾AI框架、算子开发、模型优化等相关技术原理和应用方法…

《操作系统导论》第14章读书笔记:插叙:内存操作API

《操作系统导论》第14章读书笔记&#xff1a;插叙&#xff1a;内存操作API —— 杭州 2024-03-30 夜 文章目录 《操作系统导论》第14章读书笔记&#xff1a;插叙&#xff1a;内存操作API1.内存类型1.1.栈内存&#xff1a;它的申请和释放操作是编译器来隐式管理的&#xff0c;所…