来源：中国科学报  作者：赵熙熙

来自29个国家的57位科学家日前呼吁联合抵制一所韩国大学，因为设立在该校的一个新的中心旨在利用人工智能强化国家安全。人工智能科学家表示，该大学正在开发自主武器，又称“杀手机器人”，而该大学官员则表示，这项研究的目标是改善现有的防御系统。

2月20日，位于大田的韩国先进科学技术研究院（KAIST）庆祝其新的国防和人工智能融合研究中心成立。一个已经被该校删除的网页宣称，将与韩国韩华系统公司联合运营该中心，其目标是“基于人工智能的命令和决策系统，为海底大规模无人驾驶机器人提供组合导航算法，基于人工智能的飞机训练系统，和基于人工智能的对象跟踪与识别技术”。

人工智能迅速发展给社会各个领域带来深远影响，对军事作战系统研发也带来全新理念。然而，人工智能界的专家学者及防务分析人士认为，机器人暴动仅是科幻小说式的终极噩梦，军事机器人革命带来的伦理、法律及政策等问题，尤其是自主武器能否自行判断杀敌与否，才是人们亟须担忧和讨论的现实问题。

澳大利亚悉尼新南威尔士大学计算机科学家Toby Walsh发起了这次抵制活动，他担心这项研究将被应用于自主武器，包括无人驾驶飞机或潜艇、巡航导弹、自主操作的防卫机枪或战场机器人。

“令人遗憾的是，像KAIST这样的知名机构似乎在加速军备竞赛，以开发这种武器。”抗议者在一封公开信中这样表示，“因此，我们公开宣布，我们将抵制与KAIST的任何部门进行合作，直到KAIST的院长作出保证——我们一直在寻求但没有得到，该中心将不会开发缺乏有意义的人类控制的自主武器。”

KAIST院长Sung-Chul Shin准备了一份声明，排除了开展此类活动的可能性。他说：“我很难过地听到有人宣布因为要研制杀手机器人而抵制KAIST。我想重申，KAIST并不打算参与开发致命的自主武器系统和杀手机器人。在应用包括人工智能在内的所有技术方面，KAIST都清楚地意识到伦理问题。”

这封抗议信并没有定义何为“有意义的人类控制”，但这句话经常被解释为把扳机放在一个人的手里。联合国《特定常规武器公约》政府专家小组4月9日在瑞士日内瓦召开会议，预定讨论致命自主武器系统研发，也就是常说的“杀手机器人”可能带来的影响。

Walsh说，他对Shin的声明感到振奋。“很高兴看到KAIST首次公开承诺进行有意义的人类控制。这将增加联合国讨论的分量。”

新美国基金会研究人员、防务政策分析人士辛格在其著作《连线战争：21世纪机器人革命和冲突》中指出，地缘政治、知识前沿领域不断前进的动力甚至是追求利益的科技企业，都是人工智能发展不可阻挡的力量。简单来说，大部分人现在最感到恐惧的是该不该让能够“思考”的人工智能系统决定是否杀人。

新美国安全中心技术和国家安全项目主管沙雷表示，自主武器系统可能因代码问题或黑客攻击而失灵，机器人攻击人类部队，人类无法作出反应或局部局势迅速升级的情况都有可能发生。

美国亚特兰大市佐治亚理工学院计算机科学家Ronald Arkin说，由于在一个实验室里可能发生的研究而抵制整个大学在我看来似乎“有点极端”。

同时，一封公开信已在美国谷歌公司内部流传数周，超过3000名谷歌员工签名要求公司退出一项美国五角大楼人工智能军事计划。

美国五角大楼“梅文计划”始于2017年，旨在找到加速军方应用最新人工智能技术的方式。尽管五角大楼和谷歌都表示，谷歌的产品不会创造出无须人类操作者就能开火的自主武器系统，但谷歌员工在公开信中说，参与“梅文计划”将对谷歌的品牌和人才吸引力造成不可挽回的伤害，谷歌不应被卷入战争，谷歌及其合约商永远不应该发展战争科技。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”