人类倾向于高估人工智能的进步,低估自身智能的复杂性-读《AI 3.0》

有很多关于人工智能的书。亚马逊网站上就有20,000本。其中很多书都有戏剧性的标题,比如《生命3.0》 ,《终极算法》 ,尤其是《奇点来临》。梅勒妮 · 米切尔的新书的标题更加谦虚,但是在我看来,在这个主题上,它是最有智慧的书。作者是波特兰州立大学的计算机科学教授,同时也是圣菲研究所科学委员会的外部教授和联合主席,是畅销书《复杂》的作者。而且,与这个领域的大多数活跃的从业者不同,她对人工智能的现状和前景的评估是可以衡量的,谨慎的,而且常常是怀疑的。

这本书的序言: 恐惧”是一个关于她如何与人工智能相结合的个人故事,灵感来自侯世达的神书GEB(哥德尔,埃舍尔,巴赫)。凭借着运气、胆识和毅力,Mitchell 先是成为了 Hofstadter 的研究生,后来又成为了他手下的教授的博士生。几十年后的2014年,在与Hofstadter 一起参加的谷歌(Google)会议上,她了解到,Hofstadter 对一个人工智能程序击败了国际象棋世界冠军,而另一个程序创作的音乐“作品”与肖邦(Chopin)的真正作品几乎没有区别(甚至评价更好)感到不安。Hofstadter 的担忧激发了她去写追求人类水平的人工智能(甚至更高)。

本书分为五个部分: 背景; 观察与学习; 游戏与学习; 人工智能与自然语言的结合; 意义的障碍。尽管米切尔事先声明,这本书并不打算成为人工智能的全面概述或历史,但为了正确地看待当今热情洋溢的乐观情绪,她仍然设法讲述了足够多的人工智能历史——尤其是1956年由John McCarthy、Marvin Minsky、Allen Newell和Herbert simon主持的达特茅斯会议。

正如米切尔解释的那样,人工智能研究的第一个分支是人工神经网络(ANN) ,它是当今深度学习算法的基础。她提供了一个这样的人工神经网络的例子,“感知器”设计来“学习”如何识别手写数字。说明性的网格是18 × 18,每个正方形有四种颜色: 白色,浅灰色,深灰色和黑色。

奇怪的是,她甚至没有提到这样一个相对温和的 ANN 的基本问题: 在这种情况下,不同可能的不同输入的数量是2的326次方(2326) ,或者:136,703,170,298,938,245,273,281,389,194,851,335,334,573,089,430,825,777,276,610,662,900,622,062,449,960,995,201,469,573,563,940,864

这样的程序实际上是不可测试的。(这对于更有限的8 × 8二进制网格来说是正确的,她稍后在另一个上下文中讨论了这个问题。在这种情况下,可能出现的病例数量只有2的64次方(264) ,即18,446,744,073,709,551,616。)

这个问题将反复困扰今天的惊人成功的深度学习计划,正如米切尔在本书后面的一些详细论证。

书中简要讨论了著名的图灵测试,开创性的数学家 Alan Turing 在1950年提出(称之为模仿游戏测试) ,作为一种可操作的验证智力的方法。图灵测试相当于说,如果美国宇航局像一些阴谋论者所坚持的那样,在伪造月球的问题上做得更好的话,它本可以成功登陆月球的。米切尔指出,使用微不足道的聊天机器人,天真的测试人员可以轻而易举地通过图灵测试,但她自己并不对测试本身的有效性做出判断。

在第二部分中,米切尔阐述了图像识别和机器学习的困难,特别是深度学习。她从这张黑白照片开始:

一张丰富细节的,且有着故事的照片。人工智能图像识别程序很难解释它,除非标注它包含一只狗。

尽管照片中有一些可以辨认出来的东西ー一只狗,一个穿着迷彩服的女人,一束花,一台笔记本电脑,一句欢迎回家!这张照片讲述了一个故事,这就是为什么它被评为2015年50张最佳军事照片之一的原因。现有的人工智能程序无法理解它。例如,微软的 CaptionBot 声称“我可以理解任何照片的内容,我会试着像描述任何人一样描述它”,但在这张照片中却屡屡失败,给出了“我现在似乎不舒服”的借口。以后再试。”当我用谷歌图片搜索的时候,谷歌只找到了那只狗。在做出这个决定之后,谷歌提供了大量“非常相似”的图片,其中唯一的共同点就是一只狗。

这仅仅是对米切尔关于图像识别,深度学习程序如何工作,以及它们表面上的成功的脆弱性的更深入讨论的介绍。在人工智能领域很有名,但在外界却鲜为人知(对我来说也是如此) ,你可以把一个可辨认的图像变成一个明显相同的图像,人工智能程序可以自信地认定这个图像是你喜欢的任何东西,包括一些完全不同的东西。米切尔举了几个例子,包括这一对:

一个可识别的图像可以不知不觉地被改变,这样它就会被图像识别软件误认。(左) : 原图: 照片正确识别为一辆校车。(中间) : 应用于原始图像的差异造成错误识别。(右图) : 一辆校车的照片显然被误认为是鸵鸟。

也许更令人震惊的是电视上的雪和抽象的几何图案被认定为特定的实体(同样,非常有信心) :

电视上的雪花图案和被人工智能识别为特定对象的抽象几何图案。

正如米切尔总结的那样,这表明这些图像识别程序并没有学习我们认为它们正在学习的东西。出于某种原因,米切尔将题为“关于可信赖和道德的人工智能”的章节放在第二部分(观察和学习) ,而不是放在结论部分,因为它更适合放在那里。她用了13页的篇幅来谈论这个话题是不够的,这个话题甚至在维基百科(wikipedia)上也得到了更为彻底的讨论——更不用说成千上万的网站,甚至整本书了。

在第三部分,学会玩,米切尔恢复了她的热情和她的熟练掌握。虽然这部分还是很简短,但她关于机器狗如何学会踢足球和电脑程序如何学会玩Atrai游戏机、国际象棋和围棋的讨论是清晰和有益的。她对这种成功所带来的轻率的热情表示怀疑: “这么说可能有点奇怪,但是... ... 学校象棋俱乐部里最低等的幼儿园小朋友都比 AlphaGo 聪明。”

在我看来,机器在翻译、阅读理解等方面达到人类水平的可能性微乎其微,仅仅依靠在线数据,基本上对它们处理的语言没有真正的理解。

第四部分---- 人工智能遇到自然语言,第五部分---- 意义的障碍---- 之间的界限是任意和多余的,正如米切尔清楚地意识到的,没有意义,语言就不是自然的。但是她对这两个主题的讨论知识丰富,信息量大,而且很有说服力,特别是关于类比的主题,这也是她博士论文的主题(发表为《作为感知的类比: 计算机模型》)。

在这里,她也有充分的理由表示怀疑: “在我看来,机器在翻译、阅读理解和类似方面达到人类水平的可能性极小,完全来自网络数据,而且基本上对它们处理的语言没有真正的理解。语言依赖于常识性的知识和对世界的理解。缺乏人性化的理解... ... 难道不可避免地导致他们脆弱、不可靠、易受攻击吗?没有人知道答案,这个事实应该让我们所有人停下来。”

在倒数第二章中,米切尔用一张照片重申了她贯穿全书的观点,就像士兵回家一样,这是任何人工智能程序都无法理解的(奥巴马总统在体重秤上增加磅数的幽默) :

一张超出人工智能程序理解范围的照片: 奥巴马总统在同事称体重时偷偷地增加了几磅。

最后一章《问题、答案和推测》远没有米切尔所假装的那样具有推测性: “从这本书中得到的信息是,我们人类倾向于高估人工智能的进步,低估我们自身智能的复杂性。今天的人工智能远非一般智能,我不相信机器‘超级智能’会出现在任何地方。”

《AI 3.0》是对人工智能最近令人印象深刻的成功及其长期(或许是固有的)局限性、问题和失败的高度可读的解释。最引人注目的是,与像我这样持怀疑态度的局外人不同,这本书的作者在她的整个职业生涯中一直积极从事该领域的工作。

翻译自:https://www.skeptic.com/reading_room/review-artificial-intelligence-guide-for-thinking-humans-ten-years-away-always-will-be/

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/485313.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

计算机操作系统——死锁(产生的必要条件与处理死锁的四个关卡)

计算机操作系统——死锁 前言:死锁:指多个进程因竞争共享资源而造成的一种僵局,若无外力作用,这些进程都将永远不能再向前推进。如果死锁发生,会浪费大量的系统资源,甚至会导致系统崩溃。 关于死锁的结论…

【剑指offer】面试题36:二叉搜索树与双向链表(java)

输入一棵二叉搜索树,将该二叉搜索树转换成一个排序的循环双向链表。要求不能创建任何新的节点,只能调整树中节点指针的指向。 代码: package offer; class BineryTreeNode { int val; BineryTreeNode left null; BineryTreeNo…

科学难题的形成

来源:肖建华科学网博客传统上,把科学理论分为两类:唯象性科学理论和哲学性科学理论。大致而言,工程科学是以具体现象类来划分学科,此类学科的理论一般称为唯象性理论。而把各学科的共性特征抽象出来作为研究对象而建立…

冯·诺依曼计算机特点

冯诺依曼计算机特点 冯诺依曼,20世纪最重要的数学家之一。在现代计算机、博弈论、核武器和生化武器等众多领域内有杰出建树的最伟大的科学全才之一,被后人称为“计算机之父”和“博弈论之父”。 一、冯诺依曼计算机结构(以运算器为中心&…

计算机操作系统——经典进程的同步问题

计算机操作系统——信号量机制与经典进程的同步问题 信号量机制 随着发展,信号量从整型信号量经记录型信号量,进而发展为“信号量集”机制。 一般来说,信号量的值与相应的资源的使用情况有关。 信号量的值仅由P、V操作改变。 信号量的初值…

【剑指offer】面试题39:数组中出现次数超过一半的数字

数组中有一个数字出现的次数超过数组长度的一半,请找出这个数字。 你可以假设数组是非空的,并且给定的数组总是存在多数元素。 示例 1: 输入: [1, 2, 3, 2, 2, 2, 5, 4, 2] 输出: 2 代码: class Solution { public int majorityElement(in…

2020年度全球人工智能十大事件

该文章内容转载自战略前沿技术当前,新一代人工智能技术在全球蓬勃兴起,迅猛发展,与大数据、区块链、5G等新技术相互融合、相互因应,为经济社会发展尤其是数字经济发展注入新动能,正在深刻改变社会生产生活方式。与此同…

一头扎进sql之多表操作

一、多表查询时NULL值处理 要求返回比"allen"工资低的所有员工select a.ename,a.conn from emp a where a.conn < (select b.conn from emp b where b.ename allen) ; 正确的写法应该是select a.ename,a.conn from emp a where coalesce(a.conn,0) < (se…

当贝叶斯,奥卡姆和香农一起来定义机器学习

来源&#xff1a;数学中国【导读】当贝叶斯、奥卡姆和香农一起给机器学习下定义&#xff0c;将统计学、信息理论和自然哲学的一些核心概念结合起来&#xff0c;我们便会会发现&#xff0c;可以对监督机器学习的基本限制和目标进行深刻而简洁的描述。令人有点惊讶的是&#xff0…

eclipse中下载spring-tool-suite插件遇到的问题

eclipse中下载spring-tool-suite插件遇到的问题 我的eclipse的版本4.7.0&#xff0c;接下来以下载我的eclipse的对应STS版本3.8.4为例&#xff0c;讲一下遇到的问题。不同版本的eclipse对应不同的spring-tool-suite&#xff0c;具体的版本对应可以去其他的博客中寻找&#xff…

python - 内置函数

enumerate 将一个可迭代/可迭代对象变成enumerate类型 利用for循环可以对enumerate类型获得索引和值 1 lis (星期一, 星期二, 星期三, 星期四, 星期五, 星期六, 星期七) 2 ret enumerate(lis, 1) # enumerate 可以接受第二个参数&#xff0c; 用于指定索引起始值 3 4 fo…

【剑指offer】面试题40:最小的k个数(java)

输入整数数组 arr &#xff0c;找出其中最小的 k 个数。例如&#xff0c;输入4、5、1、6、2、7、3、8这8个数字&#xff0c;则最小的4个数字是1、2、3、4。 示例 1&#xff1a; 输入&#xff1a;arr [3,2,1], k 2 输出&#xff1a;[1,2] 或者 [2,1] 示例 2&#xff1a; 输入…

MicroPython (一)点亮我的Led

工具 &#xff1a; puttyF429Discovery 开发板Notepad注意&#xff1a;不知道为什么 其他的终端工具有问题&#xff0c;推荐 putty 基本没有发现问题 putty 实时调试 使用putty 打开USB 虚拟串口&#xff0c;我们打开可以使用help()方法寻求帮助输入help()如下所示 help() Welc…

2021年,AI有潜力改善农业的十种路径

来源&#xff1a;Forbes作者&#xff1a;Louis Columbus编译&#xff1a;科技行者普华永道指出&#xff0c;基于物联网的农业&#xff08;IoTAg&#xff09;监控已经成为联网智能农业领域发展最快的技术领域&#xff0c;市场总额到2025年预计将增长至45亿美元。根据BI Intellig…

计算机组成原理——总线系统总结

计算机组成原理——总线系统总结 一、总线的概念&#xff1a; 总线是构成计算机系统放入互联机构&#xff0c;是多个系统功能部件之间进行数据传送的公共通路。借助于总线连接&#xff0c;计算机在各个系统功能部件之间实现地址、数据和控制信息的交换&#xff0c;并在争用资…

【剑指offer】面试题42:连续子数组的最大和(java)

输入一个整型数组&#xff0c;数组里有正数也有负数。数组中的一个或连续多个整数组成一个子数组。求所有子数组的和的最大值。 要求时间复杂度为O(n)。 示例1: 输入: nums [-2,1,-3,4,-1,2,1,-5,4] 输出: 6 解释: 连续子数组 [4,-1,2,1] 的和最大&#xff0c;为 6。 提示…

科学家打造全套人工神经系统 帮助瘫痪病人重新控制身体

Photo: Nathaniel Welch来源&#xff1a; IEEE电气电子工程师Motion Restored: Luke Tynan, who was paralyzed in 2017 by a spinal cord injury, demonstrates the wearable system that enables him to control his arm and hand. Sensors on the arm register his intentio…

存储器容量扩展——位扩展、字扩展

存储器&#xff08;二&#xff09;——存储容量扩展 前言&#xff1a;&#xff08;基本概念&#xff09; 存储空间&#xff1a;CPU决定存储器&#xff1a;用户需求决定&#xff08;4G&#xff0c;8G&#xff09;&#xff08;8G的存储器1各芯片能否完成用户需求&#xff1f;如…

海明码构造及纠错

计算机组成原理——海明码的构造及纠错 海明码&#xff08;又称为汉明码&#xff09;是具有一位纠错能力的编码。 信息位&#xff1a;发送用户端想要发送的信息序列&#xff0c;彼此独立&#xff0c;互不相关&#xff0c;最终交给接收端。 检测位&#xff1a;为了使信息码元产…

【剑指offer】面试题43:1~n整数中1出现的次数

输入一个整数 n &#xff0c;求1&#xff5e;n这n个整数的十进制表示中1出现的次数。 例如&#xff0c;输入12&#xff0c;1&#xff5e;12这些整数中包含1 的数字有1、10、11和12&#xff0c;1一共出现了5次。 示例 1&#xff1a; 输入&#xff1a;n 12 输出&#xff1a;5 …