来源:wired
为了防止技术被滥用,谷歌对新推出的人脸识别服务进行了限制,但这种限制有时候反而会让竞争对手抢得市场先机。
谷歌之所以成为今天的谷歌,是因为它不断创造先进的新技术,并将这些技术向所有人开放。大型企业和个人都可以使用该公司的搜索和电子邮件服务,或者利用其推荐算法进行广告和营销活动。
但是谷歌在人工智能方面的进展似乎使得谷歌开始重新审视自己的做法,目前谷歌已开始限制部分人工智能的研究和服务,以保护公众免受技术滥用的侵害。
谷歌首席执行官皮查伊(Sundar Pichai)将“人工智能优先”作为公司口号,但谷歌在面对人工智能所展现出来的力量时表现很慎重,这有时反而让竞争对手抢得市场先机。谷歌在云计算市场上落后于亚马逊和微软,位居第三。
去年年底,谷歌的云计算部门宣布,由于担心技术可能被滥用,谷歌将不会提供客户可自行调整适配的人脸识别服务。
尽管亚马逊和微软最近也呼吁联邦政府对人脸自动识别进行监管,但两家公司多年来一直都在对外提供这项技术。亚马逊的客户包括俄勒冈州华盛顿县的警长办公室,那里的警员使用其算法根据罪犯照片数据库来检查嫌疑人。
谷歌严格限制名人识别技术
10月底,谷歌宣布了一项专门针对名人的人脸识别服务(微软和亚马逊在2017年推出了类似的服务)。除了面世晚之外,谷歌的名人人脸识别服务还对使用者的资质进行了严格限制,这进一步体现出谷歌对于人工智能技术及其商业潜力的限制与克制。
谷歌云计算部门战略总监特雷西•弗雷(Tracy Frey)表示,媒体和娱乐公司一直在向谷歌咨询这项服务。但是谷歌在审查了该技术是否符合公司去年引入的道德规范后,决定对该技术进行一些限制。弗雷说:“我们担心如果服务范围更广,我们还能否控制它不被滥用。”
谷歌在思考这些问题时也寻求过外界帮助。谷歌曾委托非营利组织BSR对新产品进行人权评估,BSR服务过包括谷歌、麦当劳和沃尔玛在内的多家公司。
BSR的报告警告说,名人识别技术可能会被侵入并非法使用,例如,将其应用于监控录像中,可收集或传播关于某人的实时行踪。这家非营利组织建议谷歌允许名人选择退出这项服务,并对潜在客户进行审查。
谷歌采纳了这些建议,并表示,已将名人名单限制在数千人以内,以尽量减少名人识别技术被滥用的风险。而亚马逊和微软则表示,他们提供的名人识别服务可识别数十万公众人物。谷歌不会透露名单上有哪些人,但已经为任何期望退出名单的人提供了一个网页表单进行在线申请退出。亚马逊也允许名人退出它提供的名人识别服务,但亚马逊表示,迄今为止,还没有人这样做。
谷歌服务的潜在用户必须通过审查,以确认该客户是“一家成熟的媒体或娱乐公司或合作伙伴”,并仅将谷歌服务适用于“电影、电视节目和体育赛事等专业制作的视频内容”。
当被问及这是否意味着小型制作人或公司(例如受欢迎的YouTube频道的经营者)将被拒之门外时,弗雷表示不会。如果这些客户真正想使用这项服务,他们将像其他任何客户一样受到审查。她说,一些公司已经通过了谷歌的审查并正在使用这项服务,不过她拒绝透露具体名单。
谷歌对名人识别服务的使用限制,似乎对谷歌的商业利益产生了不利影响。比如很多客户,由于业务繁忙,或者规模太小,无法投入资源参与谷歌的审查过程,可能会转而使用亚马逊或微软提供的未加限制的人脸识别服务。
尽管谨慎短期影响盈利,谷歌认为长远来看会有回报
谷歌从去年开始公开应对人工智能的研究前景和潜在弊端之间的矛盾关系,当然,谷歌似乎也不得不这么做。联合创始人谢尔盖·布林(Sergey Brin)在一封公开的投资者信中惊叹道,最近的人工智能发展是“我有生之年计算机领域最重要的发展”,但同时也警告说,“如此强大的工具也带来了新的问题和责任。”
这封信是在员工抗议谷歌参与五角大楼一个叫做Maven的人工智能项目之后几天发出的,谷歌左后表示不会续约该项目。并且后来谷歌还发布了人工智能道德规范,表示尽管当前仍然会参与一些国防工作,但今后将禁止类似的项目。
今年早些时候,谷歌表示已经开始限制人工智能研究人员开源某些代码,以防止其被不当使用。尽管监管机构和立法者都在讨论针对科技公司的反垄断行动,但谷歌对人工智能的持续谨慎与其他公司考虑如何继续将AI拓展至医疗和银行等新业务之间形成了鲜明对比。
随着人工智能的应用范围和数量不断扩大,审查客户资质及其应用用途也可能会随着时间的推移而对谷歌变得更加棘手。 “这让谷歌在决定哪些用户及应用是可接受的时候处于被动,”Gretchen Greene说,他是由微软和谷歌等科技公司成立的非营利人工智能伙伴关系的研究员。“这件事总会有些紧张和矛盾。”
但是弗雷声称,从长远来看,现在限制产品会在将来获得回报。她说,随着客户越来越多地使用人工智能,他们会越来越意识到谨慎使用该项技术的必要性。弗雷说:“他们期待着我们的指导,并希望我们能为他们提供值得信赖的工具。”。
相关报道:
https://www.wired.com/story/why-is-google-slow-walking-its-breakthroughs-in-ai/
未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。
未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。
如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”