周鸿祎为360智脑招贤纳士;LLM时代的选择指南;Kaggle大语言模型实战;一文带你逛遍LLM全世界 | ShowMeAI日报

👀日报&周刊合集 | 🎡生产力工具与行业应用大全 | 🧡 点赞关注评论拜托啦!

🤖 思否「齐聚码力」黑客马拉松,用技术代码让生活变得更美好

主页:https://pages.segmentfault.com/google-hackathon-2023

2023 Google 开发者大会(Google I/O Connect|China)将于9月6日在上海拉开帷幕。以本次大会举办为契机,SegmentFault 思否黑客马拉松以「齐聚码力」为主题,召集开发者们在 32 小时内打造完善可行的解决方案。

报名参赛&创意提交的时间截至8月29日。进入决赛的上百位开发者们将在9月6日至9月7日齐聚一堂,共同挑战32小时将创意落地,完成创意脑暴、产品设计、代码实现和 Demo 展示。感兴趣可以预约路演直播和获奖队伍报道 ⋙ 了解更多

🤖 周鸿祎在微博发布求才令,360智脑持续招聘AI研发人才

360集团创始人周鸿祎在微博发布了「360智脑招聘」信息,发布了多个岗位需求,包括:算法工程师/高级专家/资深专家、数据挖掘工程师/专家、推理引擎资深专家、AI大模型方向产品经理、分布式大模型训练框架研发专家、大模型训练算法工程师等。

上方是6个岗位的名称、岗位职责和任职要求。招聘邮箱:liulixiong@360.cn 或 chenhui7@360.cn ⋙ 微博@周鸿祎

🤖 爱奇艺首次公布 AIGC 进展,剧本拆解准确率超90%,引入辅助内容运营

8月22日,爱奇艺发布了2023年第二季度财报,并首次公布了其在 AIGC 方面取得的进展。

内部数据显示,目前「引入AIGC辅助剧本评估」对场景和人物拆解的准确率超过90%,有效提升了在剧本评估、预算规划和资源管理等方面的效率。

爱奇艺搭建的「星罗剧情理解平台」实现了对影视剧分钟级的理解,可以自动生成剧情对应片段及剧情看点,显著提升了搜索的精准度。

以目前热播综艺「乐队的夏天3」第一期大张伟表演的经典摇滚歌曲「静止」为例,用户只需在爱奇艺App内输入「大张伟」,就可以通过搜索联想词直接进入这一经典的舞台表演时刻 ⋙ 爱奇艺行业速递

🤖 阿里巴巴国际站发布首个全链路外贸AI产品,外贸行业首个AI应用落地

8月24日,在阿里巴巴跨境浙商大会上,国际站总裁张阔发布了「生意助手」和「OKKI AI」两项服务,给每个商家都配上了AI助手,这也是首个在外贸产业落地的AI应用。其中,国际站商家可以使用「生意助手」,而「OKKI AI」是面向全行业所有商家开放,让所有外贸人都可以借助AI开启外贸新生意。

这两项AI服务可以帮助商家高效完成外贸生意所有环节,覆盖智能商品发布与管理、市场分析、客户接待、视频聊天实时翻译、企业管理等多项运营的提效功能。

通过这套AI产品,即便不懂外语、没有经验、缺乏专业人才,也都能在AI的辅助下顺畅地与海外客户交流、发布符合海外市场趋势的商品,完成外贸的各个环节 ⋙ 阿里巴巴国际站

🤖 选择你的道路:LLM 时代指南

这是一篇讨论大语言模型 (LLM) 时代对自然语言处理 (NLP) 研究方向产生影响的文章。文章从「中间层消亡」引入,指出ChatGPT这类端到端模型直接逼近高级任务,使得许多传统的中间任务 (如词性标注等) 变得无用武之地,同时也压缩了模型结构、损失函数等中间训练环节。

既然中间层消亡了,那该往哪里去呢?作者整理「向下」「向上」「艰难之路」这三条出路:

🔔 向下

  • Capability:可以理解为如何训练出性能足够强大的基座模型,关注数据、Tokenizer、训练技巧等

  • Deployment:可以理解为怎么把获得的模型进行部署和高效使用,关注降低推理参数量、降低实际计算量、优化内存访问、解码技巧等

  • Infrastructure:可以理解为怎么给训练同学提供好用的软件硬件训练框架,关注分布式训练算法、硬件利用率优化、卡的管理和测试等

🔔 向上

  • Alignment:让强大的基座模型对齐人类的意图和价值观,关注SFT、 RLHF、Scalable Oversight、测试模型的哪里会出现 misalignment 等

  • Agents:构建辅助人类的智能体,门槛不高,关注 Prompt Engineering、Agent 系统架构设计、外部能力接入等

  • Applications:LLM 在各个领域的应用,关注领域知识、对 LLM 各部分功能的了解、包含领域洞见的 Prompt

🔔 艰难之路

  • Theory:基于底层理论数学推导,获得一套理论公式后,接着去指导实际实验,需要扎实的数学物理基础

  • Interpretability:解释大模型的内部机制,目前进展有限,OpenAI 和 Anthropic 较前沿

作者文笔超级有意思!把前沿和艰深的内容解释得幽默通俗,非常推荐 ⋙ 阅读原文

🤖 带你逛遍 LLM 全世界,追赶到领域的发展前沿

作者将7月末的一场演讲整理成了图文,非常详细地介绍了近年来大语言模型领域的发展历程、技术原理、以及各类语言模型地使用技巧。如果你想全面了解这个飞速发展的领域,这篇文章是很好的选择:

什么是 LLM

  • 一个生动的比喻:LLM 可以理解为3年前外星人遗落地球的一个U盘,人类一直用棍子戳来戳去试图了解它是什么、如何工作

  • LLM 本质上是一个文件 (例如 Vicuna 7B模型是一个 4.2GB的文件)

  • LLM 也可以看作是一个函数,可以完成文本生成,并且回答给定的问题

LLM是如何工作的

  • LLM 的工作原理是预测句子的下一个词,就像手机键盘会根据前文预测下一个词一样

  • 大型 LLM 模型需要训练海量数据,需要大量计算资源

  • LLM预计的不仅是词,而是 1-30000 整数表示的词符,这可能带来语言偏见

LLM 发展的简要时间线

  • 简要介绍了LLM发展历史,从2015年OpenAI成立,到2017年Transformer架构问世,以及后续GPT-1/2/3等模型的发布

  • 2022年5月有论文发现了 GPT-3 的新功能,2022年11月ChatGPT推出则是一个分水岭

当前最优秀的 LLM 工具

  • 推荐了ChatGPT (速度快)、GPT-4 (功能强)、Claude 2 (文本长度长)、Bard (基于PaLM) 和Llama 2 (领先的开源模型) 等当前较好的LLM

使用 LLM 的技巧

  • 提供了一些使用技巧,比如注意模型的训练截止时间 (2021年9月)、注意输入文本长度限制、避免 hallucination 等

  • 要建立正确的心理模型,理解其良莠不齐的输出

使用 LLM 进行编程

  • 讨论了 LLM 在编程方面的应用,包括解释术语、命名 (提供多个选项)、API设计等

  • 作者通过 LLM 提高了4-5倍的编程效率,并且展示了通过 LLM 生成测量文件大小脚本的示例

基于 LLM 我们可以构建什么

  • Giving them access to tools:基于ReAct模式,可以给 LLM 提供外部工具 (如Wikipedia) 的访问权限;作者展示了通过英文指令来「编程」控制 LLM 的示例

  • Retrieval augmented generation:使用搜索引擎为 LLM 提供额外上下文信息,辅助 LLM 生成答案;作者基于该方法构建了问答demo

  • Embeddings and vector search:词向量可表示文本语义,用于相似文本的向量空间搜索;作者介绍了词向量相关技术

ChatGPT Plugins

  • ChatGPT插件可以访问外部API,提供额外能力

  • 作者构建了一个访问 Datasette API 的插件 Demo,并讨论了可能的陷阱

ChatGPT Code Interpreter

  • 该工具让ChatGPT可以运行代码,解决 hallucination问题

  • 作者通过它生成了Mandelbrot分形动画

LLM 的训练方式

  • LLaMA training data:LLaMA使用了大量爬虫、GitHub等数据,其中4.5%是Books3的数据集,包含大量侵权书籍内容

  • Reinforcement learning from human feedback:介绍了该训练方法对提高 LLM 质量的重要性

Openly licensed models

  • 讨论了 Llama2 等开源 LLM 模型的情况,大多数模型发布时的许可并不是「开源」的,往往带有一大堆额外的限制

  • 作者也介绍了开源社区无视许可证限制进行fine-tuning的现状

My LLM utility

  • https://llm.datasette.io/en/stable

  • 这是作者开发的 LLM 命令行工具,可以实现生成release note等功能

Prompt injection

  • 探讨了该安全问题, LLM 是易受攻击的;作者提出了该攻击的例子并链接了相关文章 ⋙ 阅读原文

🤖 云启资本「AIGC + Game」洞察, LLM 在游戏中的新潜力

这是云启资本与硅谷AI社群、Xbox/Riot Game/腾讯/Inworld多位行业专家/游戏创业者/投资人等的干货洞察,总结了AI正在为游戏行业带来的各个环节的范式革新

游戏是内容制作的集大成者,越来越多来自AI、游戏、创意等不同背景的创业者正在进入这个领域。而多模态生成式AI的飞速迭代,使得游戏正在成为新的泛娱乐形式。

🔔 一、AIGC+游戏:新应用

  1. 资产生成
  • AI工具的出现大幅提高了游戏资产生成效率 (文中例子的综合成本减少10%左右)

  • 很多游戏大厂已有AIGC管线投入使用中 (如网易);硅谷已有多家创业公司切入赛道,为开发者提供游戏资产生成平台 (如Scenario、Kaedim、NVIDIA GET3D)

  1. 组织架构
  • AI改变了工作流,极大降低了「创意审核」的门槛和沟通成本,将更多资源转向创意领域,有些工作室已经将原本3个月的工作量压缩到了1周内

  • AI让「多面手」员工能够全面释放创造力,10+员工的小团队就可以全部完成原本需要几百几千人的大项目

  1. 游戏设计思路
  • 核心仍是「让游戏好玩」,游戏开发者面对的最重要的问题仍然是玩家究竟在游戏里寻找什么,如何吸引更多新玩家、并提高粘性

  • 当下可以研究「新技术带来了哪些设计思路上的新玩法」,例如在交互中生成奇幻世界、将现有的公共IP小说作品改编成在线社交角色扮演游戏等

  1. 运营链条
  • AI对于游戏行业的改变,还覆盖到了发行、运营、营销等环节,使用AI工具提升效率,比如后台的数据分析如何直接连接至生产和设计等

🔔 二、AI Agent 的新用法

  • AI Agent 的进化正逐渐打破游戏的既有设计理念,为游戏开发者提供了新的玩法思路

  • AI Agent 大幅提升 NPC 的交互、记忆、情感表现能力,极大提高玩家的「参与感」(例如网易「逆水寒」)

  • AI Agent 也已经被用来进行自动化测试,替代人工跑通所有关卡

🔔 三、UGC 的新玩法

  • UGC 是游戏运营的核心环节,AIGC 工具整体拉低了创作门槛,有利于 UGC 社区内容的蓬勃发展

  • 当AI工具的「可即性」就像短视频拍摄一样简单时,游戏就有机会成为一个媒介平台,吸引屏幕关注时长 (类比抖音)

🔔 四、新探索,新问题

  • 游戏是一个高度数字化、结构化的场景,几乎是大模型的最佳Playground,想象空间被无限拉高,也出现了新的问题

  • 成本和算力仍然是最大的掣肘,大模型的「通用性」和「扩展性」也还没实现,商业模式有待开拓,生态仍在早期 ⋙ 阅读原文

🤖 Kaggle Notebook 大语言模型实战,编程实例带你搞定 GPT

Kaggle 举办的AI竞赛「LLM Science Exam」,目的是测试和比较不同语言模型在科学领域的知识理解和推理能力,参赛队伍需要提交一个可以自动解答这些科学问题的语言模型。

在开始训练我们自己的模型之前,学习一些大语言模型的基础知识是非常必要的!这篇Kaggle教程详细介绍了大语言模型的定义、发展历史、典型应用等相关知识,提供了在 Colab 上体验 LLM 的示例,以及如何在 Kaggle 平台上使用 LLM!

  1. 导言和设置:文章导入OpenAI模块,并详细展示了创建OpenAI账号、获取密钥、设置认证等步骤的代码,让读者可以清晰了解在 Kaggle Notebook 中完成调用API准备的全过程

  2. 使用 OpenAI API:给出了不同模型 (text-davinci-003、code-davinci-002等) 调用示例代码,并打印出完整的请求URL,让读者看到参数设置的细节,并且比较了各模型的区别和优劣

  3. 有任何错误的回答吗:使用代码调用API生成回答,检查语法、事实错误,像语言模型提问,验证其回答的错误

  4. 使用 Bing 进行更深入的探究:编写搜索引擎查询代码,将搜索结果与 LLM 回答进行对比,发现 LLM 回答的事实谬误

  5. GPT-3.5基准精度:给出各种Prompt的代码实现,计算不同Prompt下回答的准确率,直观展示 Prompt Engineering 的重要性

  6. 更好的提示和对话:构建多轮对话代码,改变Prompt的说法,让LLM逐步改善回答

  7. 对回答进行评分:用 Python 建立打分函数,评价回答质量,并作图展示不同 Prompt 的分数分布,直观反映代码的可视化效果 ⋙ 学习教程 | LLM Science Exam

感谢贡献一手资讯、资料与使用体验的 ShowMeAI 社区同学们!

◉ 点击 👀日报&周刊合集,订阅话题 #ShowMeAI日报,一览AI领域发展前沿,抓住最新发展机会!

◉ 点击 🎡生产力工具与行业应用大全,一起在信息浪潮里扑腾起来吧!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/57289.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Flutter(十)网络请求和文件

目录 文件操作网络请求1.Dio库2.websocket3.JSON转Dart Model 文件操作 APP目录 Android 和 iOS 的应用存储目录不同,PathProvider (opens new window)插件提供了一种平台透明的方式来访问设备文件系统上的常用位置。该类当前支持访问两个文件系统位置:…

使用vars函数捕获对象属性值

使用vars函数捕获对象属性值 作用 返回一个对象的属性 → \rightarrow →值字典 class Animal:def __init__(self) -> None:self.kind "animal"...class Person(Animal):def __init__(self, name: str, id: str, age: int) -> None:super().__init__()self…

2023Java ——八股文(面试题冲击小测 15w)

这里写目录标题 Java基础篇语法篇JDK、JRE和JVM的关系栈和堆分别存的什么数据异步和同步线程和进程区别java的数据类型有哪些equals和HashCode重写的问题?深拷贝和浅拷贝的区别和equals的区别常见的运行时异常有哪些? 集合集合的形式List和Set的区别ArrayList和Lin…

kubesphere中部署grafana实现dashboard以PDF方式导出

1,部署grafana-image-renderer 2,部署grafana GF_RENDERING_SERVER_URL http://ip:30323/render #grafana-image-renderer地址 GF_RENDERING_CALLBACK_URL http://ip:32403/ #grafana地址 GF_LOG_FILTERS rend…

【ag-grid-vue】列定义(Updating Column Definitions)

列定义一节解释了如何配置列。可以在初始设置列之后更改列的配置。本节介绍如何更新列定义。 添加和删除列 可以通过更新提供给网格的列定义列表来添加和删除列。当设置新列时,网格将与当前列进行比较,并计算出哪些列是旧的(要删除)、哪些列是新的(创建…

BookStack开源免费知识库docker-compose部署

BookStack(书栈)是一个功能强大且易于使用的开源知识管理平台,适用于个人、团队或企业的文档协作和知识共享。 一、BookStack特点 简单易用:BookStack提供了一个直观的用户界面,使用户能够轻松创建、编辑和组织文档多…

Kali Linux进行移动应用安全测试

使用Kali Linux进行移动应用安全测试是一项关键任务,可以帮助识别和修复移动应用中的安全漏洞。以下是一个基本的步骤指南,展示如何在Kali Linux中进行移动应用安全测试。 步骤: 准备环境: 确保 已经安装了Kali Linux&#xff0c…

Python爬虫追踪新闻事件发展进程及舆论反映

大家好!在当今信息爆炸的时代,了解新闻事件的发展进程和舆论反映对于我们保持对时事的敏感度和了解社会动态至关重要。在本文中,我将与你分享使用Python爬虫追踪新闻事件发展进程和舆论反映的方法,帮助你获取及时、全面的新闻信息…

java 基础知识 循环的几个题目

1、输出1~100的累加和 结果显示在屏幕,显示在文件res1.txt中 2、输出1-~100的偶数和 结果显示在屏幕,显示在文件res2.txt中 3、输出所有水仙花数: 100~999的数中出现个位数的立方十位数的立方百位数的立方这个数本身 4、输出由9行9列星号组成…

redis windows 版本安装

1. 下载windows安装包并解压 如果是Linux版本可以直接到官网下载,自3.x起官网和微软网站就没有redis安装包更新了,好在github有开发者在编译发布更新(目前最新有5.0.9版本可下),地址:redis windows 5版本下…

【java安全】JNDI注入概述

文章目录 【java安全】JNDI注入概述什么是JNDI?JDNI的结构InitialContext - 上下文Reference - 引用 JNDI注入JNDI & RMI利用版本:JNDI注入使用Reference 【java安全】JNDI注入概述 什么是JNDI? JNDI(Java Naming and Directory Interf…

Matlab(结构化程式和自定义函数)

目录 1.脚本编辑器 2.脚本流 2.1 控制流 2.2 关系(逻辑)操作符 3.脚本与函数 1.脚本编辑器 Matlab的命名规则: 常用功能: 智能缩进: 在写代码的时候,有的时候代码看起来并不是那么美观(可读性…

基于 CentOS 7 构建 LVS-DR 群集,配置nginx负载均衡。

基于 CentOS 7 构建 LVS-DR 群集。 关闭防火墙 [rootlocalhost ~]# systemctl stop firewalld 安装ifconfig yum install net-tools.x86_64 -y 准备四台虚拟机 IP 用途 19.168.244.144 客户端 192.168.244.145 lvs 192.168.244.148 RS 192.168.244.149 RS 在DS上 …

react ts

一、项目搭建 1、创建项目 使用vite生成项目 npx create-react-app react-ts-project --template typescript 启动项目 yarn start 删除无用组件 2、设计目录结构 资源说明http网络请求assets公共资源components组件router路由配置utils工具模块store状态机App.tsx应用…

详解过滤器Filter和拦截器Interceptor的区别和联系

目录 前言 区别 联系 前言 过滤器(Filter)和拦截器(Interceptor)都是用于在Web应用程序中处理请求和响应的组件,但它们在实现方式和功能上有一些区别。 区别 1. 实现方式: - 过滤器是基于Servlet规范的组件,通过实现javax.servlet.Filt…

SpringBoot初级开发--加入Log4j进行日志管理打印(6)

日志记录在整个java工程开发中占着很重要的比重,因为很多问题的排查需要通过日志分析才能确认。在SpringBoot中我用得最多的就是log4j这个日志框架。接下来我们具体配置log4j. log4j定义了8个级别的log(除去OFF和ALL,可以说分为6个级别&#…

在云原生时代,构建高效的大数据存储与分析平台

文章目录 1. **选择适当的数据存储技术:**2. **采用分布式架构:**3. **数据分区和索引:**4. **采用列式存储:**5. **数据压缩和编码:**6. **使用缓存技术:**7. **数据分片和复制:**8. **自动化运…

webpack5(一)

什么是webpack webpack是一个静态资源打包工具,它会以一个或者多个文件作为打包的入口,将整个项目的所有文件编译组合成一个或多个文件输出出去。输出的文件就是编译好的文件,可以在浏览器端运行。一般将 webpack 输出的文件称为 bandle 。 …

做平面设计一般电脑可以吗 优漫动游

平面设计常用的软件如下:Photoshop、AutoCAD、AI等。其中对电脑配置要求高的是AutoCAD,可运行AutoCAD的软件均可运行如上软件。 做平面设计一般电脑可以吗 AutoCAD64位版配置要求:AMDAthlon64位处理器、支持SSE2技术的AMDOpteron处理器、…

将Spring boot 项目部署到tomcat服务艰难

A B C D E F G H I J K L M N O P Q R S T U V W X Y Z X Y Z