洪小文: 今天的AI只是一个黑盒,仍需与HI密切配合

来源:微软研究院AI头条


摘要:在刚刚结束的微软Build 2018开发者大会上,微软小娜展示了自己是如何智能地预定会议室的,似与常人无异,但实际上人工智能还远不像你想的那么聪明!微软亚洲研究院院长洪小文在接受“21世纪经济报道”采访时谈到,现在的人工智能更像是一个无法归纳和理解的黑盒,只能匹配预设的模型并根据输入导出结果。相反,人类却是能够理解、总结、预测的白盒。AI可以帮助人类完成很多专业性任务,而面对需要分析决策的环节,则更需要人类的智力。


AI(人工智能)带给人类的惊喜还在继续


当地时间5月8日(北京时间5月9日凌晨),2018谷歌I/O开发者大会开幕。在整个大会过程中,最抓人眼球的莫过于谷歌助手打电话以假乱真:在预订理发店时间时,谷歌助手不仅清晰表达了自己的预订诉求,甚至在面对复杂对话场景应对自如。例如,当理发店服务员告知它所要求的12点到店时间排满、最近时间只有下午1:15分的时间段时,它再次询问是否有早上10点到12点排期。


就在前一天的2018微软Build开发者大会上,微软的语音助手小娜同样“秀”了一笔自己的“表演”。在智能会议室的现场展示环节,演示人员利用搭载了小娜的智能设备语音预订了会议室,甚至,当每位参会人员进入会议室时,小娜还能够念出其名字、主动打招呼以及进行各种交互,与一位常人无异。



但人工智能真的如看起来的那么“聪明”吗?


“今天,无论是语音识别、文本翻译、或是计算机视觉等技术所支撑的人工智能,都没有真正理解自己所接受信息的含义。它们只是在匹配预设的模型。”5月8日,微软全球资深副总裁、微软亚太研发集团主席兼微软亚洲研究院院长洪小文直言,“它只是一个黑盒,无法归纳和理解,只知道根据输入导出结果。”


与之相对应的是,人类能够理解。不仅是理解自己已知的概念,甚至面对未知的事物,也可以根据自己过去的经验去尝试理解,去归纳总结,举一反三,这便是所谓“白盒”。


值得注意的是,白盒智慧,但存在偏差,黑盒机械,但更加公正,这其中各有优劣。因此,洪小文认为,AI可以帮助人类去做一些专业性的任务,面对需要分析决策的环节,则需要人类的智力,“AI+HI(人工智能+人类智能)非常重要。”


不过,尽管AI本身仍处于黑盒阶段,但搭载AI终端的智能边缘计算正在扑面而至,这一点,从今年微软Build开发者大会上频频提及智能边缘计算,并与大疆无人机、高通合作开发相关开发工具包便可见一斑。在洪小文看来,智能边缘计算必将发生,也特别值得期待。



黑盒与白盒


《21世纪》:今年Build大会上现场展示了智能语音技术。当前国外智能语音技术已经找到了智能音箱作为一个较为普及的落地场景,国内则仍在苦苦探索。这背后是中文语音技术本身的问题吗?


洪小文:即便拥有方言,中文的语音识别也并不难于英文,只要收集到足够多的数据,就不是问题。国外智能音箱(尤其是搭载亚马逊Alexa的Echo)之所以普及,还是与亚马逊电商业务本身有关,外国用户习惯在亚马逊上购物后,就愿意尝试使用更方便的智能音箱来购物。另外外国用户家里空间大又喜欢听音乐,本身就有音箱的需求,所以这种形态的终端更容易普及。


至于国内用户,平时更喜欢与自己的智能手机交互,在手机上体验购物、听音乐等功能,对于这些用户而言已经足够便捷和直观,并已经养成了这样的习惯,这些因素导致智能音箱在国内没有普及。


《21世纪》:就语音技术而言,你提到识别不是问题,那目前的问题在哪里?


洪小文:当前人工智能对语音的反馈包括三个阶段:识别、理解和提供服务,问题的难点是在理解上。由于要理解的内容本身拥有无穷组合,因此便没有精确模型,无法只用建构模式去进行,这还不论更复杂的言外有意的情况。今天的AI只是一个黑盒,但理解本身是白盒,也就是人类拥有的能力:不仅理解所接受的信息本身,甚至还可以对本身不了解的信息进行猜测,部分理解其含义。这对于今天的AI而言非常难解,需要更新的技术才行。


《21世纪》:存在黑盒与白盒的应用界限吗?或是黑盒必将需要转变为白盒?


洪小文:对于一些推理过程而言,一定需要白盒,没有白盒的系统很难进行推理。即便黑盒可进行推理,也只存在于某个输出刚好是下一个输入的情况下,这是黑盒的局限性。


黑盒也有其好处,从某个角度而言,它不会存在偏差,是什么就是什么,非常公平。白盒推理存在既定立场,例如人类心理状态中多少会有一些偏见,比如关于堕胎、性别倾向等各种容易引起争议的问题,便是源于每个人的既定立场。在这个立场下推理出的东西必然会有所偏颇。黑盒就不会,因此类似于法官这样的角色就需要黑盒的思维,怎样输入就怎样输出。


因此,当前的合理状态应该是AI+HI(人工智能+人类智能)。AI可以致力于流程性分析,但深度分析、理解和创造仍需要依靠人类。


可解释AI


《21世纪》:人工智能尽管还处于黑盒阶段,但已不可解释和理解,即将无法确切了解其内部运作方式,进而导致人类对人工智能产生不信任感。事实上,最近欧盟也在力图推动AI算法透明化。你如何理解这种不可解释AI?


洪小文:先来说一说可解释AI。可解释AI拥有两层意义,第一层意义是指,输入信息后得出结果,能够知道得出这个结果的原因,从这个角度而言,我认为它可以解释,只是解释的过程非常复杂。比如AlphaGo使用增强学习后,在棋盘上最终落子,你无法讲明其背后的决策规则,但你了解它在使用增强学习得出这一步,而这一步的目的是赢棋。知道结果,只是不知道结果背后的规则究竟如何,它一定有规则,只不过这个规则繁琐到无法穷举,这就是可解释AI。


通常所说的不可解释AI,在我看来其实是第二层意义的可解释AI,即一般人无法理解的结果,例如将黑人辨认为猩猩等。在我看来,这依然是可解释AI:之所以出现这样的结果,是因为训练数据里拥有偏差,因此还是可解释。


此外,设计AI系统的人是否能预期到输入信息、得出结果后的后果。如果能够预期到这个后果,一定会准备一套理论去加以解释,即便遇到危机事件,也能拥有一套自己的逻辑。


《21世纪》:所以从技术角度而言,通常意义的AI不可解释性是数据偏差导致的,这种情况下AI技术人员可以有怎样的作为?


洪小文:数据偏差所导致的结果很严重。以实际生活为例,比如风控系统判定某人无法贷款,原因是此人来自一个平均收入较低的区域,根据这个基础规则设定下的AI就会进而导致偏见甚至歧视。对于技术人员而言,能否预先知晓有这样的不合理漏洞,甚至最好能够将漏洞堵住,就是其职责所在。


智能边缘已来


《21世纪》:无论人工智能当前实力如何,但毕竟已经有了许多应用甚至是在终端的应用。相较于往年而言,今年微软Build大会上智能边缘计算高频出现,您如何看待边缘计算未来适用的行业和场景?


洪小文:AI应用刚发生时,绝大部分都发生在云端。但如今,以视觉应用为例,视频画面采集设备正在从4K进化到8K,相应地像素帧数也在大幅提升,导致数据量呈现爆发式增长。即便未来5G技术发展,但也存在巨大的数据量需要传输。因此我大胆预测,许多视觉相关的服务、智能工厂等场景会产生大量终端计算,即边缘计算。


《21世纪》:边缘计算场景的特点是怎样的?


洪小文:大部分的数据训练会发生在云端,因为云端在数据收集和训练上存在优势。但诸如智能工厂、智能安防等场景需要有即时反馈,需要当机立断,因此大部分终端至少需要执行和辨认的能力。


除了传输速度之外,还有传输能耗的问题,大量数据传输必然会存在大量能耗。事实上,智能工厂中即便终端要与云端互动,也是短途传输再聚总传送至云端。既然有一个聚总过程,就可以在这个过程中本地赋予一些处理和智能的功能。从能耗的角度而言,这种方式也最为节能。所以终端计算必然会发生。


未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/495546.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Kibana Guide ( Kibana 向导 )

Kibana Guide 官网地址:https://www.elastic.co/guide/en/kibana/current/index.html Kibana 用户指南(构建你自己的仪表盘):https://segmentfault.com/a/1190000015140923 Kibana快速上手:https://www.jianshu.com/…

Guava入门~EventBus~AsyncEventBus

AsyncEventBus 示例 package bbejeck.guava.chapter7.async;import bbejeck.guava.chapter7.EventBusTestBase; import bbejeck.guava.chapter7.subscriber.SlowProcessSubscriber; import com.google.common.eventbus.AsyncEventBus; import org.junit.Before; import org.ju…

iisapp 查看PID所对应的IIS应用程序池及详细介绍

从IIS6.0可以在IIS中架设多个站点并给每个站点指定不同的应用程序池,分别对各程序池进行CPU,内存的使用限制。而每一个应用程序池会在任务管理器中对应一个系统进程(w3wp.exe),每一个进程都有一个PID来标识。当某个w3wp.exe进程占用资源很高的时候如何快…

Python 操作 Elasticsearch 实现 增 删 改 查

Github 地址:https://github.com/elastic/elasticsearch-py/blob/master/docs/index.rst 官网地址:https://elasticsearch-py.readthedocs.io/en/latest/index.html Python-ElasticSearch,python对ES进行写入、更新、删除、搜索&#xff1a…

周鸿祎:quot;安全大脑quot;将成智能经济时代的网络安全中枢

来源:中国经济网摘要:“安全大脑”是一个分布式智能系统,综合利用ABCI(大数据、人工智能、云计算、IoT智能感知、区块链)等新技术,保护国家、国防、关键基础设施、社会及个人的网络安全。5月16日,第二届世界智能大会在天津召开,360集团董事长兼CEO周鸿祎…

Guava入门~EventBus~DeadEvents

当调用EventBus.post(event),事件没有订阅者,则会封装成DeadEvent public class DeadEventSubscriber {private static final Logger logger Logger.getLogger(DeadEventSubscriber.class);public DeadEventSubscriber(EventBus eventBus) {eventBus.r…

OpenAI解析「AI算力」:3个半月翻一倍,6年超过30万倍

来源:OpenAI「雷克世界」编译:嗯~是阿童木呀、KABUDA、EVA摘要:近日,OpenAI发布了一份分析报告显示,自2012年以来,在最大规模的人工智能训练中所使用的计算量呈指数级增长,3.5个月的时间翻一倍&…

18.图的接口类

namespace DSList{public interface IGraph<T>{int GetNumOfVertex(); //获取顶点的数目int GetNumOfEdge(); //获取边的数目bool IsGvNode(GvNode<T> v); //v是否为图的顶点int GetIndex(GvNode<T> v); //获得顶点V在顶点数组中的索引…

设计模式--单例模式

实验7&#xff1a;单例模式 本次实验属于模仿型实验&#xff0c;通过本次实验学生将掌握以下内容&#xff1a; 1、理解单例模式的动机&#xff0c;掌握该模式的结构&#xff1b; 2、能够利用单列模式解决实际问题。 [实验任务]&#xff1a;学号的单一 仿照课堂的身份证的…

DebugView 使用技巧

From&#xff1a;https://blog.csdn.net/bcbobo21cn/article/details/52401087 DbgView简介 1、什么是 DebugView ? DebugView是一个系统调试信息输出的捕获工具。debugview 是 Sysinternals 公司的系列调试工具。debugview 可以捕获程序中由 TRACE(debug版本)和 OutputDebug…

儿子转眼就长大:Hinton、LeCun、Bengio 口述神经网络简史

1960 年的水牛城&#xff0c;工作人员正在「精细调节」一台感知机作者&#xff1a; 杨晓凡 刘鹏 思颖摘要&#xff1a;几位最偏执的人坚持到了春天来临谷歌母公司 Alphabet&#xff0c;亚马逊&#xff0c;苹果&#xff0c;Facebook 和微软这些全球最大的科技巨头们&#xff0c;…

VHDL 语法小点(1)

1.对于以时钟触发的计数器&#xff0c;一般从0到N-1&#xff0c;共N。当时钟上升沿来临时&#xff0c;对于可能用于判决的计数器的值&#xff0c;为上一次时钟周期内所修改的值&#xff0c;是上个时钟周期的值&#xff0c;很重要。 2.如何消除毛刺&#xff1a;可以通过用寄存器…

VS2019 更新MSDN并创建快捷方式

From&#xff1a;https://www.cnblogs.com/Lzl678/p/10686324.html VS2017 下载离线MSDN文档&#xff1a;https://blog.csdn.net/sinat_26222723/article/details/79109653 1. 在线 MSDN 使用方法 1. 进入微软中文官网&#xff1a;https://www.microsoft.com/zh-cn/ 2. 所有…

贝叶斯网络之父Judea Pearl:要建立真正的人工智能,少不了因果推理

来源&#xff1a;专知参与 | Yingying, Xiaowen, Sanglei 2011年图灵奖得主&#xff0c;贝叶斯网络之父Judea Pearl认为现在人工智能的发展进入的新的瓶颈期&#xff0c;各种新的成果不过本质上不过是重复简单的“曲线拟合”工作。Pearl 认为人们应该更关注人工智能中的因果&am…

结构思考力~结构思考力的四个基本特点

反例 “懂事长您好&#xff01;刘经理来电话说系统出现突发状况&#xff0c;4点钟他无法参加会议了。小张说他晚一点开会没关系&#xff0c;明天再开也可以&#xff0c;但最好别11点30分之前开。可是会议室明天已经被别人预订了&#xff0c;但是星期五空着的。王总的秘书说&am…

【转】 VC MFC 钩子 实现 自绘 窗体 标题栏 非客户区

效果&#xff1a; 程序&#xff1a; #if !defined(_LJF_LJFHOOK_H)#define _LJF_LJFHOOK_H #if _MSC_VER > 1000#pragma once#endif #include <afxtempl.h>#define sLjfDialogOldProcTag _T("CDialog_oldProc")#define SYSBTN_NON -1#define SYSBTN_MIN 0#d…

Jupyter 安装使用

Jupyter的官网&#xff1a;http://jupyter.org/index.html 官方文档&#xff1a;https://jupyter-notebook.readthedocs.io/en/stable/https://github.com/jupyter/jupyter/wiki/A-gallery-of-interesting-Jupyter-Notebooks 1. jupyter notebook是什么 官网的介绍是&#xff…

机器人创世2500年简史:从公元前的木鸽到21世纪的波士顿机器狗

来源&#xff1a;InterestingEngineering编译&#xff1a;科技行者几个世纪以来&#xff0c;人类一直对机器人这一概念痴迷不已——从古代的石傀儡故事到现代科幻小说&#xff0c;我们时刻想象着以机械方式重现自身。尽管“机器人&#xff08;robot&#xff09;”一词由卡雷尔-…

结构思考力~结构化接收信息的三个步骤

第一步&#xff1a;识别信息中的事实、理由及结论。找出信息中哪些是观点类的&#xff0c;哪些是事实描述 类的信息&#xff0c;观点类的信息中哪些是结论、哪些是支撑结论的理由&#xff0c;并将它们区分开。 第二步&#xff1a;找到事实与观点的对应关系&#xff0c;并画出结…

VisualStudio 的 Spy++ —— 窗口、消息 的 查看分析利器

spy 中文使用手册&#xff1a;https://pan.baidu.com/s/1NtLQMP1odHDAla4VH8m9Mg 提取码&#xff1a;294c Spy使用方法&#xff1a;https://www.cnblogs.com/happykoukou/p/6755444.html 教你使用Spy查看软件的流氓行径&#xff1a;https://blog.csdn.net/zahuopuboss/ar…