红杉资本谈生成式AI:预计AI的杀手级应用将出现,比赛正在进行

6371d42665b5a5e66265eaa5d7a4d91b.jpeg

来源:硅发布

13年前,我采访Wolfram|Alpha的创始人、美国计算机科学家史蒂芬.沃尔弗拉姆时,大吃一惊。

当时Wolfram|Alpha刚推出,使命是:让每一个人都可以在搜索引擎里搜出计算机计算的结果。比如说,输入"How many people in China",这个搜索引擎会直接跳出目前中国的总人口数、人口密度、平均年人口增长率、预期寿命及平均年龄等直观数据。当时我意识到:

如果说,谷歌试图将人类智力活动的其中一维——记忆力,趋向于完美,那么,Wolfram|Alpha在致力的其实是人类智力活动的另一个维度——逻辑。但是当时,沃尔弗拉姆告诉我说,他更加渴望的是:最终能实现当用户向机器提问时,机器也能自动去其它地方寻找可能存在的纯计算空间,通过实时开发新的科学和方法去动态地发现新的答案。

也就是说,希望在逻辑的这个维度,拓宽人脑目前能够达到的能力。

最近在硅谷火热的生成式AI,则涉及到了人类的“创造力”领域。刚刚,红杉资本发表了他们对这一领域的分析,我们一起来读一下红杉资本对生成式AI梳理出来的框架。如下:

生成式AI还很早期。平台层刚刚好,而应用空间几乎还没开始。但预计AI的杀手级应用将出现,比赛正在进行

人类善于分析事物。机器甚至更好。机器可以分析一组数据,并在其中找到模式,将其用于多种用途,无论是检测欺诈邮件或垃圾邮件、预测你快递的ETA,还是预测下一步给你看哪个TikTok。机器在这些任务上越来越聪明,这被称为是“分析式人工智能",或者是传统人工智能。

但是我们人类不仅擅长分析,也擅长创造。我们写诗、设计产品、制作游戏和编写代码。直到最近,机器还没有机会在创造性工作方面与人类竞争——它们被归为分析和死记硬背的认知劳动。但机器刚刚开始善于创造有意义和美丽的东西。这一新类别,被称为是“生成式人工智能",意思是:机器正在生成新的东西,而不是分析已经存在的东西。

生成式 AI 正朝着不仅更快、更便宜的方向发展,而且在某些情况下,它还会比人类手工创造的东西更好。每一个需要人类创造原创作品的行业,包括从社交媒体到游戏、从广告到建筑、从编码到平面设计、从产品设计到法律、从营销到销售,我们认为都有可能被重新发明。

某些功能,可能会被生成性 AI 完全取代,而其他功能,则更可能是从人类和机器之间紧密的迭代创意周期中茁壮成长——但不管怎样,生成式 AI 应该在广泛的终端市场中释放出更好、更快、更便宜的创作。我们的梦想是:生成性 AI 将会把创造和知识工作的边际成本降至零,以产生巨大的劳动生产率和经济价值,以及相应的市场容量。

生成性 AI 所涉及的领域——知识工作和创造性工作——包括了数十亿的工人。生成性 AI 可以使这些工人的效率和/或创造性至少提高 10%:他们不仅会变得更快、更有效,而且会比以前更有能力。因此,生成性 AI 有可能产生数万亿美元的经济价值。

为什么是现在?

生成式 AI 和更广泛的 AI 都有这个问题:为什么是现在?答案是:更好的模型、更多的数据,和更多的计算。

由于这一类别的变化比我们能捕捉到的要快,值得我们回顾最近 AI 发展的历史,以便把当前时刻放置于上下文背景中。

浪潮 1:小模型至上(时间为 2015 年以前)

5 年多以前,小模型被认为是理解语言的"最先进技术"。这些小模型,擅长分析任务,并被部署在从预测交付时间到欺诈分类的工作中。然而,对于通用的生成任务,它们的表达能力还不够强。生成人类水平的写作或者代码,仍只是一个梦想。

浪潮 2:规模竞赛(时间为 2015 年到今天)

谷歌研究院的一篇里程碑式论文(Attention is All You Need)描述了一种用于自然语言理解的新神经网络架构,称为 transformers,可以生成质量上乘的语言模型,同时,具有更高的可并行性,需要的训练时间也大大减少。这些模型是少数的学习者,可以相对容易地针对特定领域进行定制。

当然,随着模型越来越大,它们开始提供人类的水平,然后是,超人的结果。从 2015 年到 2020 年,用于训练这些模型的计算量增加了 6 个数量级,其结果在手写、语音和图像识别、阅读理解以及语言理解方面,超过了人类性能的基准。其中,OpenAI 的 GPT-3 脱颖而出:该模型的性能比 GPT-2 有了巨大飞跃,在从代码生成到冷笑话写作的任务上,提供了诱人的 Twitter 演示。 

尽管有所有基础研究领域的进展,这些模型并不普遍。它们体积大、运行困难(需要 GPU 协调),不能广泛使用(不可用或仅有封闭的测试版),而且作为云服务使用的费用昂贵。但是尽管有这些限制,最早的生成性 AI 应用开始进入战场。 

浪潮 3:更好、更快、更便宜(2022 年开始)

计算变得更便宜。新的技术,如扩散模型,缩小了训练和运行推理所需要的成本。研究界继续开发更好的算法和更大的模型。开发者的权限从封闭测试版扩大到了开放测试版,或者在某些情况下,开放源代码。

浪潮 4:杀手级应用出现(现在) 

随着平台层的稳固,模型继续变得更好、更快、更便宜,以及模型的访问趋向于免费和开源,应用层的创造力爆发时机已经成熟。

就像手机通过 GPS、相机和随身连接等新功能,释放了新类型的应用一样,我们期待这些大型模型能够激发新一波生成性 AI 应用。正如十年前移动通信的拐点为少数几个杀手级应用创造了一个市场缺口,我们预计:AI 领域的杀手级应用也将出现。比赛正在进行。

市场格局 

下面是一个我们制作的示意图,描述了将为每一个类别提供动力的平台层,以及将建立在这些平台层上的潜在应用类型。

……

本文剩余内容的主要摘要如下:

1,红杉资本认为,这些平台层上的生成式AI的潜在应用类型是什么?哪一些是让红杉资本感到兴奋的应用?

2,生成式AI的应用会有一些什么特点?如在交互模式方面、形成因素方面、具有可持续性的品类领导者方面、障碍和风险方面等等。

3,目前,我们正站在生成式AI的哪一个阶段?时间表和进度条会如何发展?

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

512714be467dd0a720f74b7a2c23484f.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/481465.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Transformer and set Trasformer

1.Transformer multihead attention block:MAB(X,Y)LayerNorm(HrFF(H))HLayerNorm(Xmultihead(X,Y,Y;ω)MAB(X,Y)LayerNorm(HrFF(H))\\ HLayerNorm(Xmultihead(X,Y,Y;\omega)MAB(X,Y)LayerNorm(HrFF(H))HLayerNorm(Xmultihead(X,Y,Y;ω) * Attention:Att(Q,K,Vl;ω)ω(QKT)VAtt…

「图神经网络复杂图挖掘」 的研究进展

来源:专知图神经网络对非欧式空间数据建立了深度学习框架,相比传统网络表示学习模型,它对图结构能够实施更加深层的信息聚合操作.近年来,图神经网络完成了向复杂图结构的迁移,诞生了一系列基于复杂图的图神经网络模型. 然而,现有综述文章缺乏对复杂图神经网络全面、…

知识复习:nlp算法面试汇总

文章目录2.相似度3.正则化3.1 L13.2 过拟合和欠拟合3.2.1 dropout3.3 欠拟合4. 激活函数4.1 sigmoid5.Bert5.1 Bert原版5.1.2 bert的训练5.2改进5.2.1缺点改进5.2.2任务改进5.3 参数量5.3 transformer5.3.1 多头注意力机制6.搜索6.1pagerank6.2 文本匹配7.神经网络基础7.1Norm7…

光子深度学习:编码到光波上的机器学习模型的组件

编辑 | 萝卜皮由于功率、处理和内存的限制,高级机器学习模型目前无法在智能传感器和无人机等边缘设备上运行。麻省理工学院的研究人员介绍了一种基于跨网络的离域模拟处理的机器学习推理方法。在这种被称为 Netcast 的方法中,基于云的「智能收发器」将重…

【实体对齐·综述】A Benchmarking Study of Embedding-based Entity Alignment for Knowledge Graphs

文章目录模板的简述简述1.Introduction2. preliminatries2.1 literature review2.1.1 knowledge graph embedding2.1.2 Conventional Entity Alignment2.1.3 embedding-based entity alignment2.2 Categorization of Techniques2.2.1 Embedding Module2.2.1.1 关系嵌入2.2.1.2 …

深度学习优化背后包含哪些数学知识?

来源:图灵人工智能深度学习中的优化是一项极度复杂的任务,本文是一份基础指南,旨在从数学的角度深入解读优化器。深度学习中的优化是一项极度复杂的任务,本文是一份基础指南,旨在从数学的角度深入解读优化器。一般而言…

2022 剑桥 AI 全景报告出炉:扩散模型是风口,中国论文数量为美国的 4.5 倍

来源:FUTURE远见选编:FUTURE | 远见 闵青云 文:AI科技评论 近日,剑桥大学的2022年 AI 全景报告(《State of AI Report 》)出炉!报告汇总和聚焦了过去一年里 AI 行业中炙手可热的事件&#xff0c…

实体对齐汇总

文章目录1.综述2.技术论文3.汇总3.1定义定义统一EA3.2 评价指标3.3 数据集3.4 数据预处理技术3.5 索引3.6 对齐3.6.1 按属性相似度/文本相似度做:成对实体对齐3.6.2 协同对齐:考虑不同实体间的关联3.6.2.1 局部实体对齐3.6.2.2 全局实体对齐3.6.3 基于em…

博后出站即任985教授!他致力于寻找人类五感世界的最后一块拼图

来源:iNature两年前,闫致强从底蕴深厚的复旦大学生命科学学院“跳”到尚处于新生期的深圳湾实验室,“蜗居”在一栋商业大楼里,和团队在这里寻找人类感知世界的最后一块拼图。在亚里士多德定义的五种感官中,介导嗅觉、味…

【实体对齐·BootEA】Bootstrapping Entity Alignment with Knowledge Graph Embedding

文章目录0.总结1.动机2. 贡献方法3.应用场景4.其他模型5.数据集6.效果以下的是组内比较BootEA: “Bootstrapping Entity Alignment with Knowledge Graph Embedding”.Zequn Sun, Wei Hu, Qingheng Zhang, Yuzhong Qu. (IJCAI 2018) [ paper][ code]0.总结 BootEA笔记 BootE…

一项人工智能、化学和分子机器人的交叉研究,加速创新和药物发现,并简化复杂的化学过程自动化...

编辑 | 萝卜皮深入了解各类化学物质的最佳一般反应条件,可以加速创新和药物发现,并使复杂的化学过程自动化且易于使用,对生物医药、材料研究具有重要意义。然而,有机反应的一般条件很重要但很少见,以往识别它们的研究通…

【实体对齐·综述】An Experimental Study of State-of-the-Art Entity Alignment Approaches

文章目录0.总结1.Introduction2.Preliminaries2.2 Scope and Related work2.2.1 Entity Linkingentity disambiguation2.2.2 Entity resolutionentity matchingdeduplicationrecord linkage2.2.3 Entity resolution on KGs2.2.4 EA3.general框架3.1 Embedding Learning Module3…

汽车生产线上的工业机器人是如何工作的?

来源:宝石部落 责任编辑:朱光明 审核人:王颖十年来,随着机器人在制造业的普遍应用,我国工业机器人产业规模快速增长。2021年,我国工业机器人产量达36.6万台,比2015年增长了10倍,市场…

【实体对齐·HGCN】Jointly Learning Entity and Relation Representations for Entity Alignment

文章目录1.动机2.输入输出3.相关工作4.模型4.1 GCN4.2 approximating relation representations4.3 joint entity and relation alignmentHGCN: “Jointly Learning Entity and Relation Representations for Entity Alignment”. Yuting Wu, Xiao Liu, Yansong Feng, Zheng Wa…

Science:海马中如何实现选择性地招募神经元来巩固记忆?

来源:brainnews作者:brainnews创作团队神经元网络活性的标志是选择性地将神经元招募到活跃的集合中,形成暂时稳定的活动模式。在哺乳动物的海马体中这种神经元集合在ripples(~200Hz)振荡期间反复激活,支持空…

往年笔试题

文章目录1 概率1.1 条件概率.每天9点到10点,小明和小红在同一个车站乘坐公交车上班。小明坐101路公交车,每5分钟一班{9:00, 9:05, 9:10, …};小红坐102路公交车,每10分钟一班{9:00, 9:10, 9:20, …},问小明和小红每天相…

量子生物学的未来:量子理论如何帮助理解生命?

导语2022年诺贝尔物理学奖授予了关于量子信息科学的基础性研究。一百多年前,量子革命为我们带来了晶体管和激光,今天,基于量子信息的新技术正在让我们进入一个新的量子信息时代。事实上,已有研究表明,在生命过程中也存…

【量化投资1】

文章目录0.相关包及常识1.股票买卖收益分析2.双均线策略2.1 均线2.2 双均线2.2.1 金叉死叉的获取量化投资0.相关包及常识 股票的买入卖出:最少为一手,100股 tushare open:开盘价格,close:收盘价格 1.股票买卖收益分析 每次至少买入1手最后…

超高效人工光电神经元成真?速度比自然神经元快3万倍,研究登Nature子刊

来源:悦智网作者:Charles Q. Choi翻译:机器之心原文链接:https://spectrum.ieee.org/neuromorphic-computing-superconducting-synapseAI系统越来越受限于为实现其功能的硬件。现在,一种新的超导光子电路问世&#xff…

2022年工业机器人的5大应用行业

来源:工业机器人前言截止至2022年,在中国60%的工业机器人应用于汽车制造业,其中50%以上为焊接机器人;在发达国家,汽车工业机器人占机器人总保有量的53%以上。‍本文梳理了五大应用行…