当自动驾驶汽车撞过来的时候,你希望它如何判断?

640?wx_fmt=jpegwebp

来源:网易智能 

摘要:据报道,当无人驾驶汽车在繁忙的街道上发生碰撞的时候,它该优先避免让谁受伤呢?它该杀死谁,而不杀死谁呢?麻省理工学院的一项研究表明,你的回答将取决于你来自哪里。


2016年,麻省理工学院媒体实验室的研究人员启动了一项实验。他们想了解人们希望无人驾驶汽车有怎样的行动模式,所以他们建立了一个网站,在上面任何人都可以体验到13种不同的无人驾驶汽车场景:处于撞车事故中的自动驾驶汽车是否应该优先避免让年轻人而不是老年人受伤?还是优先避免让女人而不是男人受伤?它应该优先避免让身体健康的人而不是超重的人受伤?它是否应该根本不做任何决定,而只是选择不作为呢?


两年后,研究人员已经分析了来自233个国家的230万参与者的3961万项决策。在发表在《自然》杂志上的一项新研究中,它们表明,在机器如何对待我们的问题上,我们的对错感是由我们居住的地方的经济和文化规范决定的。


他们发现,对于自动驾驶汽车该有怎样的行为模式,三大地理区域有着不同的伦理观念:西部(包括北美和欧洲基督教国家)、东部(包括远东国家和伊斯兰国家)和南部(包括南美大部分地区和与法国有渊源的国家)。这些大群体也有自己的子群,比如西方的斯堪的那维亚半岛和南方的拉丁美洲国家。正如该研究的交互式图表所显示的那样,巴西人倾向于选择保护乘客而不是行人;伊朗人更有可能优先保护行人;与平均水平相比,澳大利亚人更倾向于保护身体健康的人,而不是超重的人。


但该研究还发现,世界各地的人趋向于在三个方面达成一致:许多人希望自动驾驶汽车优先保护人类而非动物,优先保护年轻人而非老人,保护尽可能多的人。这些见解可以为机器伦理的国际准则提供基础——研究人员写道,当这些“危及生命的两难困境出现时”,必须要有相关的国际准则。那些讨论不应该局限于工程师和政策制定者,毕竟那些问题会影响到每一个人。


从这个角度来看,“道德机器”研究让我们首次能够一窥数百万人对机器伦理的看法。


01

不同文化之间存在分歧


xmwebp


虽然大多数文化有着一些普遍的趋势,但研究人员发现,在偏重个人主义文化的国家(主要在西方)和偏重集体主义文化的国家之间存在着巨大的差异。


西方国家往往更倾向于让无人驾驶汽车保护孩子而非老人,而东方国家则更重视老人的生命——例如,在优先保护儿童而非老年人的倾向度上,柬埔寨远低于世界平均水平。同样的,西方国家的人也更倾向于保护尽可能多的人,不管群体的构成如何。


研究人员认为,这种分歧可能是制定有关自动驾驶汽车应如何行动的全球指导方针的最大挑战。他们写道:“对于政策制定者来说,保护更多的人和年轻人的偏好可能是最重要的考虑因素,因此不同文化之间的差异可能会成为制定通用机器伦理的一个重要障碍。”


02

一个国家经济也影响自动驾驶伦理判断


xmwebp


除了文化差异以外,研究还发现,经济学在该问题上也发挥着重要作用。例如,透过一个国家的经济不平等程度,可以预测人们有多愿意优先保护社会地位较高的人而不是社会地位较低的人。这意味着,来自经济不平等程度高(依据世界银行对不平等程度的衡量指标基尼系数)的国家的人更有可能希望无人驾驶汽车优先保护企业高管而不是无家可归者。


通过比较瑞典和安哥拉,你可以在‘道德机器’的交互式图表中看到这一点。基尼系数越低,国家越接近平等。相较于全球平均水平,更平等的瑞典(基尼系数非常低,为29.2)不太可能希望无人驾驶汽车优先保护地位高的人,而安哥拉(基尼系数高,为42.7)则认为地位高的人比任何其它的群体都应受到优先保护。


“在‘道德机器’研究中,那些来自经济上没那么平等的国家的人也不平等地对待富人和穷人。”研究人员写道,“这种关系或许可以解释为,人们的道德偏好经常受到不平等的影响,也许更广泛的平等主义准则影响着一个国家愿意在社会层面容忍多大程度的不平等,影响者参与者在‘道德机器’判断中支持多大程度的不平等。”


同样地,对于乱穿马路的问题,国家的人均国内生产总值和制度的力量与保护遵守交通规则的人的偏好程度相关。另一方面,来自较贫穷国家的人往往对横穿马路的行人更加宽容。


03

理解文化群体之间细微的差异尤为重要


xmwebp


在年龄、人口数量和人类生活上,人们对于机器伦理有着一些基本的共识,但理解文化群体之间细微的差异尤为重要——它们往往没有个体与集体的差异那么明显。例如,南部地区的国家非常偏向于保护女性而不是男性,也非常偏向于保护身体健康的人而不是不健康的人。


研究人员认为,在制定决策系统和法规时,自动驾驶汽车制造商和政治家需要考虑到所有的这些差异。这一点很重要:“尽管公众的道德偏好不一定是道德政策的主要决定因素,但人们多大程度上愿意购买自动驾驶汽车以及容忍它们上路行驶,将取决于所采用的道德规则的适合性。”研究人员写道。


尽管不同文化之间存在这些差异,但‘道德机器’团队仍然认为,我们需要进行一次全球性的、包容性的对话,讨论我们在机器决策的问题上有什么样的伦理道德——尤其是考虑到自动化机器时代正在快速逼近我们。


“在人类历史上,我们从未允许过机器在没有实时监控的情况下,在一瞬间自主决定谁该活谁该死。”研究人员写道,“我们随时都将面临这个问题,它不会发生在军事行动的遥远战场上;它将发生在我们生活中最平凡的层面:每天的交通。在我们允许我们的汽车做出道德决定之前,我们需要进行一次全球对话,向设计道德算法的公司和监管它们的政策制定者表达我们的偏好。”


未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

640?wx_fmt=jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/493749.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

细数黑客攻击的七大战术

不计其数的黑客们游荡在因特网中来欺骗那些容易上当的用户。它们多年使用着重复的攻击手段,毫无创新地利用着我们懒惰、误判和一些犯二的行为。 不过每年,恶意软件研究人员总会遇到一些引人侧目的攻击手段。这些攻击手段在不断拓展恶意攻击的范围。新的攻…

人工智能黑暗面

来源:大数据文摘编译:DonFJ、蒋宝尚机器学习是现在大家都打了鸡血想用或者在用的技术。但是,你以为只有好人能用它吗?Too young too simple!接下来,我将揭秘AI技术黑暗的一面——犯罪份子和人工智能的孽缘。…

认识蚁群算法

好像是看罗胖的罗辑思维,看到过一种说法,越是准入门槛高的,难以取代的行业,所需的工具是越简单的。摄影师需要昂贵的镜头,而画家却只需要简单的纸笔,尽管照片比画逼真得多,但是却无法取代绘画的…

薛定谔的猫跳进了生物学界,化学家表示:没有我可能办不到

来源:原理摘要:在生物科学界流传着“物理学家累了就来生物界玩一玩”的调侃。确实,现今学科之间密不可分,生物学的发展对特定物理技术的需求也越大。但是这样化学家却不满意了?1943年,物理学家薛定谔在都柏…

图像配准之特征点匹配的思考

最近赶时髦,看了一些智能优化算法如蚁群算法,还有机器学习的一些东西,就想着怎么把这些先进的东西用在图像配准中。头脑风暴了一下,觉得在已经检测到两幅图像的特征点的基础上,就如何对它们进行匹配似乎有优化的空间。…

指针%p输出的一些认识

还是看源码发现的问题 static int import_lowe_features( char*filename, struct feature** features ) 这个函数的作用是将txt文件中的Lowe的特征点导入到feature结构体中。在这个函数中第二个参数是指向结构体的指针的指针。 f calloc( n, sizeof(struct feature) );//在内存…

全球智慧医疗产业发展现状

来源:无锡情报所摘要:全球智慧医疗市场主要集中在美国、欧洲、日本和中国,而产品生产主要集中在美国、欧洲和日本。 随着大数据、云计算、物联网和人工智能技术快速发展和普及,运用互联网应用平台提升医疗资源的使用效率、提高救治和服务水平…

2018AI和机器学习界的12个重大收购案

来源:网络大数据据IDC声称,到2018年,全球人工智能(AI)和认知系统支出将达到190亿美元,这比2017年的支出总额增加约54%。并购在不断发生。仅2017年就见证了几起大宗收购,比如雅虎被Verizon收购、苹果收购Shazam等。知名…

PCA对特征点描述子降维

降维在机器学习领域其实是很重要的一部分,因为在高维情形下回出现样本稀疏,计算距离、内积困难,是所有机器学习面临的共同问题,被称为维数灾难(Curse of dimensionality),而降维就是解决的一个办…

C语言基础知识整理

一、 关于sizeof和strlen。Sizeof()用于计算某类型或者某变量在内存中所占空间。比如整数分为short型,int型,long整型,分别占2,2/4,4个字节,int型具体占用几个字节和编译系统有关。我们输入字符串时通常用c…

【2017-2019】Gartner战略技术趋势一览

来源:学术plus 、装备参考近期,Gartner公布了2019年十大战略技术趋势的预测,值此之际,本文总结回顾并简要分析了2017-2019三年的战略趋势变化。Gartner副总裁兼研究员David Cearley指出:在智能、数字、网格三大领域下的…

目标检测必看——RCNN是怎样融合了分类与回归,CNN与SVM

人和动物的区别之一是人能使用工具,而在人开始使用磨制石器时人类进入新石器时代。在目标检测领域,也有一个划时代的算法,在它之后目标检测开始进入深度学习的时代——它就是今天的主角:R-CNN。在RCNN之后,出现了更多优…

《自然》杂志:面对“电车难题”,不同国家的人有不同的道德选择

来源:36Kr电车难题原本只是一个思想实验。但是无人车的发展却绕不开这个问题。因为机器在无论如何都会撞死人的情况下必须靠预先植入的道德代码做出判断:该牺牲谁,该保谁。但是一项有全球230万人参与的调查表明:这个问题并不存在普…

Mac OS X Terminal 101:终端使用初级教程

文章目录1 为什么要使用命令行/如何开启命令行?2 初识Command Line3 关于 man 命令4 命令行,文件和路径 4.1 两种路径:绝对路径和相对路径4.2 切换到其他路径和目录4.3 处理特殊字符4.4 查看隐藏文件4.5 前往其他卷5 用Command-Line管理文件 …

Fast R-CNN整体把握

RCNN很好地解决了目标检测分类和定位的问题。但是缺点是速度太慢。 原因1:2k个候选区域都要经过变形成统一的正方形才能依次输入CNN进行特征提取。候选区域可能是互相包含的,这就导致原图同一个区域特征的重复提取。 原因2:RCNN的分类和回归…

2万字看完腾讯最纯粹的一届WE大会:从黑洞、虫洞到克隆猴

来源:虎嗅APP腾讯还有梦想,因为腾讯还有WE大会。5年来,腾讯从全世界邀请了几十位难得一见的科学家不远万里来到北京展览馆,比如去年邀请的剑桥大学教授、著名宇宙学家霍金(视频演讲),不想成为绝…

Fater R-CNN 整体把握

在R-CNN中提到过,候选区域的提取和之后的目标检测其实是独立的,所以我们可以使用任意的算法如SS。Fast-RCNN改进的是目标检测部分,但是其实候选区域的提取也挺费时的,Faster R-CNN就把改进方向放在了这里。 我们已经领略到了CNN的…

马斯克,特斯拉首席小白鼠

来源:量子位伊隆马斯克,比你想的还要激进。作为特斯拉CEO,马斯克经常一边自己坐在Model S上,一边召开电话会议。车辆的驾驶交给Autopilot,也就是那个时不时会出次意外的自动驾驶系统。他这么做不仅仅是想节约时间&…

windows下caffe+CPUOnly实现MNIST手写分类

工具下载 微软官方移植的Caffe&#xff1a;https://github.com/Microsoft/caffe 对属性表的操作需要把实例属性表的后缀改成vs可用的.props 打开同一个文件夹下的Caffe.sln&#xff0c;查看其中的属性表<CpuOnlyBuild>true</CpuOnlyBuild><UseCuDNN>false<…

Yann LeCun专访:我不觉得自己有天分,但是我一直往聪明人堆里钻

来源&#xff1a;AI 科技评论摘要&#xff1a;纽约大学教授、Facebook 副总裁与首席 AI 科学家 Yann LeCun 由于对深度学习的突出贡献&#xff0c;被誉为深度学习的「三驾马车」之一&#xff0c;更被称为「CNN」之父。Yann LeCun 也一直非常活跃&#xff0c;发论文、教学、创立…