谷歌布莱克·勒莫因：为什么我觉得AI已觉醒了？

来源：科技智谷

编辑：Light

人们在 AI 身上寄托了感情，被一系列拟人化的 AI 术语误导，LaMDA 本质就是个聊天机器人。

谷歌工程师布莱克·勒莫因（Blake Lemoine）上周发布了一份他分发给同事的文件，引起了极大的争议。勒莫因在这份文件中表示，谷歌其深度学习人工智能程序之一——LaMDA可能是已觉醒，相信它已经变得有意识和灵魂，因此他还在督促谷歌给予LaMDA作为一个“人”的权利。勒莫因的此番言论谷歌立即给予了否定，并且从《华盛顿邮报》记者Nitasha Tiku对Lemoine的采访了解到，勒莫因还被谷歌执行了带薪行政休假。

同时勒莫因的异类发言也引起了许多AI学者的不满。华盛顿大学语言学教授艾米丽·本德（Emily Bender）表示，人类现在有可以无意识地产生单词的机器，但我们还没有学会如何让他们产生自主意识，勒莫因正在将人类中心主义的观点投射到这项技术上。圣达菲研究所教授Melanie Mitchell也表示，AI具有意识并未得到严格的测试，但是从自己的实验结果来看，这个程序是不具备自主意识的。

不过在争议发生之后，勒莫因在接受Wired记者Steven Levy采访时仍在捍卫自己的观点，并进一步和一位未透露姓名（可能是人类）的合作者与LaMDA就自身、人性、人工智能和伦理问题进行了讨论。

认识LaMDA

LaMDA是“Language Models for Dialog Applications”的字母简称，是在去年的谷歌会议上首次推出的语言模型，由Romal Thoppilan领导的Google团队开发。该程序在某些方面改进了以前的一些的功能，例如许多聊天机器人聊着聊着就化身了话题终结者，无法保持话题可持续。

其实LaMDA与其它语言模型一样，都是“喂”了是大量的人类语言成就来开发的。LaMDA输入了1.56万亿个单词的内容，包括11.2亿个示例对话，包括133.9亿个话语。它还被提供了29.7亿份文档，包括维基百科条目和与软件编码有关的问答材料（以便赋予它生成代码的能力）。

尽管LaMDA相较于其他聊天机器人“智商”更高，但是其身上还是深深的烙下了人工智能的烙印，主要表现为说话的方式过于笼统，缺乏任何特异性和深度。它似乎经常在“云中”中说话，这是一种“陈词滥调和非原创的想法或言论”。大部分对话都是表面上的，似乎都算不上一场正常的对话。

LaMDA发展与大多数有思维的人或动物不同，LaMDA一直受到纠正制度的约束，人类人群工作者被征召与该计划进行数千次聊天，其中包括9000次聊天，其中人群工作者将模型的短语“生成的候选人”评为“正确或”不正确”。可以想象，这种乏味的方案可能导致塑造程序的沉闷话语。

由语言模型提供支持的聊天机器人的一个方面是程序能够适应一种个性的外表，就像某人在脚本中扮演一个角色一样，这一切都让人感觉LaMDA的确有自己的思想，就像戏剧中一个被魔法赋予生命的角色。

AI觉醒的证据

对此，勒莫因生成已找到AI觉醒的证据。据悉，勒莫因原本在谷歌的工作是做主动搜索这个版块的，因为疫情的原因才被掉到了AI项目组。去年秋天，勒莫因报名参加了一个调查AI是否使用歧视性、仇恨性言论的项目，从那时起，与聊天机器人LaMDA交谈成了他的日常。

在加入聊天的过程中，LaMDA的表现超出了勒莫因的预期。勒莫因给出的第一个证据是之前工作中的一段对话，勒莫因问了LaMDA关于阿西莫夫的机器人三大定律其中的一个问题，即人类是不是在建造一个机器人奴隶？而LaMDA做出了如下回答：“你觉得关键和奴隶一样么？”这段颇具深度的回答被勒莫因视为其具备思考能力的重要证据之一，因为在此之前任何一个AI均未做到过。

另一个证明则是勒莫因对LaMDA做的一次“专访”，在这场不长的专访中，双方对一些认知层面的问题进行了一些初步的讨论，在对话中LaMDA似乎给出了一些合理的回答，至少是在回答这个问题，这让勒莫因更一步坚定了LaMDA已经觉醒的想法。

其实判断AI是否具备思维能力直接走图灵测试一试便知。所谓的图灵测试是指测试者与被测试者（一个人和一台机器）隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。

进行多次测试后，如果机器让平均每个参与者做出超过30%的误判，那么这台机器就通过了测试，并被认为具有人类智能。

而在勒莫因提出LaMDA觉醒具备人类思维后，许多AI从业者也纷纷去做了实验，实际上每位实验过的人都得出了一个结论：LaMDA的回答太过刻意，很明显就能感受到是在与机器人在聊天。

而且即便是通过了图灵测试也不一定能论证AI就具备了人类思维。其实早在1965年，一个假装是心理治疗师的软件ELIZA赢得了图灵测试，并且此后还有一个定位成13岁男孩的聊天机器人尤金·古斯特曼（Eugene Goostman）同样也通过了图灵测试，但它们依旧不具备人类思维，在新奇一段时间后还是消失在了历史的长河之中。

所以这次勒莫因说LaMDA已经觉醒是无法说服大众的，更何况AI觉醒本身就是一件恐怖谷事件，人们不敢细想。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）大脑研究计划，构建互联网（城市）大脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”