来源：亿欧

概要：2017年，误导性和恶意的虚假在线内容是如此丰富多产，以至于人类无法让自己解脱困境。反而，这越发看来机器将不得不拯救我们。

这可能是互联网历史上的第一个虚假新闻：1984年，有人在Usenet上发布了苏联加入网络的消息。这是一个完全无害的四月愚人节恶作剧，与如今的虚假信息宣传活动和旨在快速获利的不择手段的制造业相差甚远。2017年，误导性和恶意的虚假在线内容是如此丰富多产，以至于人类无法让自己解脱困境。反而，这越发看来机器将不得不拯救我们。

一家名为AdVerif.ai 的初创公司设计了一种同名算法，可以把我们从黑暗中拯救出来。人工智能软件的构建是为了检测虚假的新闻报道、赤裸、恶意软件和其他类型的问题内容。AdVerif.ai于11月份推出了测试版本，目前与美国和欧洲的内容平台及广告网络合作，他们不希望与虚假或潜在的冒犯性新闻报道有关联。

根据AdVerif.ai的创始人Or Levi的说法，公司在将焦点放在公司产品，而非普通用户的事情上面看到了机遇。虽然个别消费者可能不会担心他们所点击新闻报道的真实性，但是广告主和内容平台会因为集结或宣传不良内容而损失一些东西。如果他们改变自己的服务，他们可以有效地削减那些靠制造虚假新闻赚钱的人的收入来源。Levi说：“这将是与这类内容作斗争的一个大的跨越。”

AdVerif.ai 是如何发现假新闻？

AdVerif.ai可以扫描整个内容，发现表明某些地方有问题的标志，比如文章标题与正文内容不对应，或标题中的大写字母太多。AdVerif.ai还通过有数千个合法虚构新闻的数据库对每一则新闻进行交叉检查，这些合法的虚构新闻会每周更新一次。客户可以看到系统考虑到的每一部分的报告，还有评估分数，评估某些事可能是虚假新闻，或可能携带恶意软件，或可能包含他们要求系统留意的其他东西，比如说赤裸。最后，Levi表示，他计划增加能找出操纵图像的能力，并安装一个浏览器插件。

在测试AdVerif.ai的演示版本时，AI将洋葱识别为讽刺（这在过去曾经愚弄过很多人）。布赖特巴特的新闻故事被分类为“不可靠的，右翼的，政治的，带有偏见的”，而Cosmopolitan则被认为是“左翼的”。可以看出，当Twitter账户使用标识时，而链接却与它所描绘的品牌毫无关系。AdVerif.ai不仅发现Natural News上标题为“有证据表明比特币成为NSA设计的心理战行动来全面推广单一世界数字货币”的新闻是来自一个黑名单网站，而且还确定了它是一条虚假新闻，在其他被列入黑名单的网站上也会弹出，而且在合法新闻机构没有任何参考。

一些可疑的新闻报道仍然可以通过，出现在网站上。在一个名为Action News 3的网站上，有一篇题为“NFL播放器拍摄到在更衣室里燃烧美国国旗！”的帖子，虽然已经证明该帖是捏造的，但是帖子并没有被拦截。为了帮助系统知道接下来的情况，可以手动逐个更新系统虚假新闻报道的黑名单。

当 AI 造假遇上 AI 打假

AdVerif.ai并不是唯一一家在为在线公司提供以AI为动力的吐真药中看到机遇的初创公司。特别是网络安全公司，已经快速地将发现僵尸和虚假新闻的操作添加到他们的计算机指令系统中，指出很多方法与黑客手段有多么相似。Facebook正在调整其算法，以消除其新闻传播中的虚假新闻。谷歌与事实检查网站开展合作，到目前为止，取得的结果还参差不齐。“虚假新闻挑战赛”于去年年底推出，比赛是由AI团体的志愿者举办，旨在鼓励开发有助于打击恶意报道的工具。

“虚假新闻挑战赛”组织者之一，开发机器学习系统的Joostware公司创始人，Delip Rao表示，要发现虚假新闻有很多方面，所以这个挑战将会分多个步骤完成。第一步是“立场检测”，或者选取一条新闻，找出其他新闻网站对这个话题的评论。这可以让人类事实检验员依靠新闻来验证其它的新闻报道，用更短的时间检查单个作品。

“虚假新闻挑战赛”发布了数据集供团队使用，有50个团队提交了参赛作品。思科公司的网络安全部门Talos Intelligence利用了一种算法赢得了比赛，这一算法获得了80％以上的正确率——虽还没有为黄金时段做好准备，但仍然是一个令人欢心鼓舞的结果。接下来的挑战可能会出现带有覆盖文本的图像（思考模因，但带有虚假新闻），这是一种经常在社交媒体上推广的格式，因为算法很难分解和理解这种文本格式。

Rao表示：“我们主要想为检验员建造最好的工具，以便他们能够快速工作，像检查类固醇的事实检验员一样。”

即使开发出能够有效遏制虚假内容趋势的系统，也不太可能是新闻报道的终结。人工智能系统已经能够创造虚假的文本了，以及令人难以置信的图像和视频。（请参阅“真实或虚假？人工智能令人难以置信”）。也许正因为如此，Gartner最近的一项研究预测，到2022年，发达经济体中的大多数人会看到比真实信息更多的错误虚假信息。同样的报告发现，甚至在发生这种事情之前，虚假内容将会超过AI检测它的能力，改变我们相信数字信息的方式。

AdVerif.ai以及其他公司更像开始了一场竞赛，而非虚假信息之战。竞赛中，虚假内容创作者开发自己的人工智能系统企图战胜 “正义”的人工智能。因此，我们不得不重新审视自己获取信息的方式。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。由互联网进化论作者，计算机博士刘锋与中国科学院虚拟经济与数据科学研究中心石勇、刘颖教授创建。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎支持和加入我们。扫描以下二维码或点击本文左下角“阅读原文”