人工智能的鱼与熊掌:精度与可解释性

来源:陈德旺科学网博客

链接地址:http://blog.sciencenet.cn/blog-57940-1270913.html 

人工智能自1956年诞生之日,就肩负用计算机程序模拟人类(或生物体)智能的初心与使命,从而理解智能的工作原理与运作机制。人类智能多才多艺,有很多维度,直觉和顿悟等高级智能目前计算机还很难模拟。计算机模拟的人工智能目前有2个主要维度:一个是精度,精度越高,效果越好;一个是可解释性,知其然更要知其所以然。

这让我联想到以前学过的课文《孟子·告子上》其中的一段: 孟子曰:“鱼,我所欲也,熊掌亦我所欲也;二者不可得兼,舍鱼而取熊掌者也。对孟子而言,他既喜欢吃鱼,也喜欢吃熊掌。但是,如果只能选一个的话,他会选择熊掌而放弃鱼。这表明孟子更喜欢熊掌,或者隐喻熊掌是对孟子更为重要的事物,如图1所示。

图1. 亚圣孟子的鱼与熊掌不可得兼图

对于人工智能的研究者来说,何为鱼,何为熊掌呢?从人工智能试图了解人类智能的运作原理和工作机制的角度来说, 我认为对人工智能的研究者来说,可解释性是“熊掌”,而精度是“鱼”。从早期人工智能的发展来看,人工智能的开创者们分别从这两条路开展他们的研究,类似笑傲江湖的华山派的气宗和剑宗,如图2所示。

图2. 华山派的气宗和剑宗

 “精度派”代表人物和事件有:1957年Rosenblatt研制成功了感知机;1986年David Rumelhart等提出的BP算法;2006年Hinton 等提出的深度神经网络等。由于大数据的广泛存在,硬件计算能力的快速发展,目前人工智能领域精度派占据领先的优势。

“可解释性派”代表人物和事件有:美籍华人数理逻辑学家王浩于1958年 证明了《数学原理》中有关命题演算的全部定理(220条) ;1965年鲁宾逊(J. A. Robinson)提出了归结原理,为定理的机器证明作出了突破性的贡献。美国斯坦福大学的费根鲍姆(E. A. Feigenbaum) 1965年开始专家系统DENDRAL的研究;1965年美国加州大学伯克利分校Zadeh教授提出了模糊系统等。

 当然也有一些精度和可解释性的平衡派,又可以分为2个分支。一些专家在可解释性为主的前提下,也应用一些优化方法来提高精度,比如决策树和 SVM 等。还有一些专家研究在保证精度的情况下,提高算法的可解释性,比如深度神经网络的结构简化和参数简化研究等。

图3是一个著名的例子,表明只是追求精度是不够的。计算机视觉对图像进行学习和分析,来判断图像当中哪些是狼,哪些是哈士奇。深度神经网络(DNN)算法错误的把一只哈士奇当作了狼。这是因为我们在选择培训数据,大部份狼的图片背景中是雪地。DNN算法一下就侦测到哈士奇所在的雪地就判断其为狼了,而不是图片中指出的狼和哈士奇面部明显不同的专家经验。

     图3. 误判哈士奇为狼的深度神经网络算法

   可解释性是人工智能的熊掌,可解释性差将不能用于安全相关的重要领域或者风险隐患很大。比如新冠疫苗,一定要先搞清楚它的工作机制和运作原理,否则没人敢用。基于深度神经网络的无人驾驶汽车如果出事(如图4),连事故原因都没法分析是不能接受的,下次都不知道如何改进和预防。

图4. 突然失控的无人驾驶汽车

总之,人工智能“以精度为王”的时代即将过去,以“可解释性为本”的时代即将到来。我认为应该以可解释性强的人工智能模型与算法为基础,并借鉴深度神经网络的成功,不断提高其精度为主要方向,比如深度模糊系统,深度决策深林,深度贝叶斯网络等等。可喜的是,很多学者已经意识到这个重要的方向,并做出了很多有意义的进展。

作者简介:陈德旺,IEEE高级会员,IEEE Trans.on ITS 编委,中国自动化学会混合智能专委会副主任,中国运筹学会智能计算分会副理事长,美国加州大学伯克利分校访问学者,福州大学数学与计算机科学学院教授、博士生导师,主要研究方向为人工智能、大数据和智能交通等。至今发表论文120余篇,其中SCI检索论文40余篇,IEEE Transaction论文13篇,他引3000余次;获得各类科研奖励10多项。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/485361.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

MVC与三层架构的联系及三层架构实现学生注册功能

MVC与三层架构的联系及三层架构实现学生注册功能 三层架构的逻辑关系&#xff1a; MVC和三层架构的联系&#xff1a; 三层架构实现学生注册功能的逻辑&#xff1a; 学生注册页面&#xff1a; 输入学生信息&#xff1a; 完成学生注册: 代码实现&#xff1a; add.jsp <% …

【剑指offer】面试题23:链表中环的入口节点

一个链表中包含环&#xff0c;请找出该链表的环的入口结点 代码&#xff1a; package offer; class Node3 { int val; Node3 next null; Node3(int val) { this.val val; } } public class ti23 { public static Node3 FindInterNode(Node…

(4.14)向上取整、向下取整、四舍五入取整的实例

Sql Server 里的向上取整、向下取整、四舍五入取整的实例&#xff01; 2012年12月31日 07:33:43 阅读数&#xff1a;102170 【四舍五入取整截取】select round(54.56,0) 【向下取整截取】 SELECT FLOOR(54.56) 【向上取整截取】 SELECT CEILING(13.15)以下转自&#xff1a;…

MVC5+EF6 入门完整教程11--细说MVC中仓储模式的应用

MVC5EF6 入门完整教程11--细说MVC中仓储模式的应用 原文:MVC5EF6 入门完整教程11--细说MVC中仓储模式的应用摘要&#xff1a; 第一阶段1~10篇已经覆盖了MVC开发必要的基本知识。 第二阶段11&#xff5e;20篇将会侧重于专题的讲解&#xff0c;一篇文章解决一个实际问题。 根据…

Java Web实现信息管理

Java Web实现信息管理 前言&#xff1a; 大二上学期刚学完Oracle&#xff0c;老师就要求用Java语言操作Oracle&#xff0c;当时真的是懵了。回顾自己前两年的生活&#xff0c;大一上学期学习C语言&#xff0c;下学期学习Java&#xff0c;当时教课老师是学硬件的。课上讲一些理…

【剑指offer】面试题25:合并两个排序的链表(Java 实现)

题目&#xff1a;输入两个递增排序的链表&#xff0c;合并这两个链表并使新链表中的结点仍然是按照递增排序的。 代码&#xff1a; package offer; class Node5 { int val; Node5 next null; Node5(int val) { this.val val; } } public class…

计算机科学界至今未解决的四大难题

作者&#xff1a;Shalitha Suranga译者&#xff1a;弯月 责编&#xff1a;张文出品&#xff1a;CSDN&#xff08;ID&#xff1a;CSDNnews&#xff09;在现实生活中&#xff0c;很多难题的解决方案都用到了计算机科学的基础理论。例如&#xff0c; Git 分布式版本控制系统建立…

PHP正则匹配到2个字符串之间的内容,匹配HTML便签内容

PHP正则匹配到2个字符串之间的内容 $preg /xue[\s\S]*?om/i; preg_match_all($preg,"学并思网址xuebingsi.com",$res); var_dump($res[0][0]); 匹配HTML便签内容 假如需要匹配下面HTML字符串里面的第三个<img> 把它替换掉,或者删除掉这样个需求 $string <p…

【剑指offer】面试题24:反转链表(Java 实现)

输入一个链表&#xff0c;反转链表后&#xff0c;输出新链表的表头。 代码&#xff1a; package offer; class Node4 { int val; Node4 next null; Node4(int val) { this.val val; } } public class ti24 { public static Node4 ReverseL…

按字编址与按字节编址

按字编址与按字节编址 要清楚按字编址和按字节编址的区别&#xff0c;先要知道 比特(bit)&#xff0c;字节(byte)&#xff0c;字(word) 之间的关系。 在计算机系统中&#xff0c;总线以固定大小的一块数据进行传输&#xff0c;这一块的数据也称为字(word)&#xff0c;如今的计…

2021年AI关键趋势,AI芯片初创公司可能发生并购

来源&#xff1a;雷锋网作者&#xff1a;包永刚编译&#xff1a;雷锋网人工智能&#xff08;AI&#xff09;和机器学习仍然是技术决策者、行业人士和投资者关注的重点。标普全球市场财智&#xff08;S&P Intelligence&#xff09;2020 7月发布的调查显示&#xff0c;有58%的…

English trip -- VC(情景课)5 Around Town

Around Town 城市周围 Talk about the picture 看图说话 sentences Where are you&#xff1f; Im in the Meten classroom. What do you do? I study English at the school. I eat dinner at the restaurant I go shopping at the supermarket Do you study English at th…

CPU组成结构

CPU组成结构 CPU总体构图 CPU中央处理器&#xff08;Central Processing Unit&#xff09; CPU的结构框图&#xff1a;CPU内部由ALU&#xff08;算术逻辑单元&#xff09;、CU&#xff08;控制器&#xff09;、寄存器&#xff08;PC、IR、PSW、DR、通用寄存器等&#xff09;、…

【剑指offer】面试题26: 树的子结构(Java)

输入两棵二叉树A&#xff0c;B&#xff0c;判断B是不是A的子结构。&#xff08;ps&#xff1a;我们约定空树不是任意一个树的子结构&#xff09; 代码&#xff1a; package offer; class TreeNode { int val; TreeNode left null; TreeNode right null; Tr…

每一个科学家的内心都住着一位哲学家(节选)

来源&#xff1a;腾讯大学&#xff08;ID: tencent_university)作者&#xff1a;张首晟&#xff08;斯坦福大学&#xff09;不少科学家的哲学造诣都很高。在哲学中&#xff0c;有着正负对立的世界观&#xff1a;有阴必有阳、有正必有负、有天使就会有魔鬼。这种哲学观念是如何在…

win10安装RabbitMQ

安装Erlang 去官网下载Erlang的最新版本&#xff1a;https://www.erlang.org/downloads 我这里下载的是OTP 21.0.1 Windows 64-bit Binary File。 下载下来点击一步步进行安装&#xff0c;我的安装位置是D:\Program Files\erl10.0.1 安装好之后&#xff0c; 添加环境变量ERLANG…

总结下载Spring Framework的jar包

总结下载Spring Framework的jar包 下载官网&#xff1a;Spring官网

ros2中gazebo安装的注意事项

Install From source&#xff08;推荐安装Fortress版本&#xff0c;好像很方便&#xff09; ROS Be sure youve installed ROS Humble (at least ROS-Base). More ROS dependencies will be installed below. Gazebo Install either Edifice, Fortress, or Garden.(没有har…

谷歌对2021年的六个预测:数据和云技术的革命即将到来

来源&#xff1a;AI前线作者&#xff1a;Debanjan Saha译者&#xff1a;平川策划&#xff1a;钰莹预测是充满挑战的&#xff0c;因为具体的预测取决于特定的时间框。但从云应用方面表现出的趋势来说&#xff0c;我们 2020 年看到的一些事情可能预示着 2021 年可能出现的变化。经…

Vue笔记:webpack项目vue启动流程

VUE启动流程 1. package.json 在执行npm run dev的时候&#xff0c;会在当前目录中寻找 package.json 文件, 有点类似 Maven 的 pom.xml 文件&#xff0c;包含项目的名称版本、项目依赖等相关信息。 { # 版本信息"name": "kitty-ui","version":…