AI造假 vs AI打假 终结“猫鼠游戏”不能只靠技术


来源:和讯网

人脸识别作为生物识别中的重要手段,成为了近年身份识别中最热门的领域。但与人脸识别技术共同发展的,还有借助机器学习系统、图像视频和音频内容,更改人脸、物体或环境呈现方式的深度伪造技术。随着这一技术的日趋成熟,其引发的诸多社会问题也开始凸显。在对抗虚假视频方面,目前各方在寻求技术突破的同时,也致力于在制度建设方面做出改变。

俗话说“眼见为实”,人们往往对看到的图像、视频深信不疑,而随着Photoshop、美图秀秀等图像编辑软件的兴起,人工智能造假技术的更迭,图像篡改变得越来越容易,假图片、假新闻等在网上泛滥成灾,人们也愈发不敢相信自己的眼睛。

为了应对美国大选季期间高发的虚假信息,近日,谷歌决定出手,以AI治AI。有专家指出,深度伪造技术(Deepfake)是AI发展到一定阶段的产物,随着这种技术的发展,相应的检测技术也会越来越先进——如同“猫抓老鼠的游戏”,将是一场永无休止的竞赛。

假视频越来越逼真

2019年11月,在北美上映的电影《爱尔兰人》反响热烈,其中令人咋舌的是电影特效制作公司运用虚拟影像重建技术,将片中主角们集体“减龄”,抹平年近80岁演员们容颜上的岁月痕迹,使之重新焕发青春。这种让耄耋之年的演员重回年轻模样的“换脸”技术着实让观众心头一震。

“Deepfake专指基于人工智能的人体图像合成技术,主要应用于‘换脸’,其在很多领域有积极的商业价值,但是一旦被‘黑产’盯上用作谋利工具,则会给个人和社会带来风险和挑战。”远望智库人工智能事业部部长、图灵机器人首席战略官谭茗洲介绍说。

这其中最饱受争议的是“换脸”技术被一些情色网站利用。不久前,网络上走红的“一键脱衣”软件DeepNude,只要输入一张完整的女性图片就可自动生成相应裸照,并且生成照片存在着广泛传播的风险,最终在各方压力下这款APP被下架。

不仅如此,不久前还出现了语音版的Deepfake。加拿大一家创业公司开发出的语音合成系统RealTalk,仅基于一定的文本输入即可生成和真人声音十分相似的声音。演示中,系统模仿了美国一位著名脱口秀喜剧演员、主持人的声音,以至于本人听后高呼“真的可怕”。而未来这种技术还可能会发展到只需几秒钟的音频素材,即能复制出他人声音的程度。

让人更为头疼的是,Deepfake技术让虚假信息“如虎添翼”,尤其在社会重大事件中能够起到强劲搅拌作用,以至于可能会影响到人们决策以及社会稳定。据相关文献,2016年美国总统大选前的一个月内,每个美国网民平均会接触1—3篇假新闻。2020年初,新冠肺炎病毒席卷全国,就有造假者运用上述技术伪造钟南山院士发言,而针对“辟谣”的百度搜索指数(1月19日—1月25日)与去年春节期间相比,增长了5.4倍。

以AI治AI揪出假视频

“自Deepfake2017年年底首次出现以来,随着其技术的开源,合成剪辑视频的数量不断增长。要对付假视频,就要在网络海量信息中,快速找到虚假图片,并对图像识别后精准提取其中语义,这也是目前人工智能算法上的核心研究发力点。”谭茗洲表示。

要识别虚假视频,首先,我们来分析一下Deepfake都有哪些招数。

“目前图像篡改类型主要分为复制—粘贴、拼接、图像修补/局部区域去除和人脸PS四大类。”行业专家曹娟博士近日在接受科技日报记者采访时指出,“既有的检测方法主要基于手工特征方法和深度学习的方法,前者包括基于图像的物理属性(光照不连续、阴影不连续、色差等)、相机属性(颜色滤波阵列、传感器噪声、EXIF数据分析等)、压缩痕迹(DCT系数、块状效应等)、像素级属性(复制—粘贴、重采样等);后者包括Encoder-Decoder模型、约束卷积模型和Multi-domain模型等。”

“魔”高一尺,“道”可高一丈吗?近日,谷歌母公司Alphabet旗下的Jigsaw联手GoogleResearch、美国马里兰大学等多家研究机构,开发了名为Assembler的实验平台,旨在帮助应用者通过简单操作,快速识别Deepfake,减少AI技术滥用所带来的伤害。

谭茗洲介绍:“实际上,这个平台是把多个图像检测器集成为一个工具,每个检测器都针对特定类型的图像进行处理。比如,有的检测器能判断图像是否有复制粘贴痕迹,检测主要关注图像颜色、噪点等。”

具体而言,其机器学习模型既能利用图像的颜色值来查找异常,也能检查图像的噪点模式是否存在不一致。算法上,能够查找被编辑过的JPEG压缩图像区域外观相似的区块,以判断其中一个图像是否被复制粘贴到另一个区域上。

“然而,真实场景中,媒体经常面对的是经过复杂处理后编辑的低分辨率的图像,这就给检测技术带来新的挑战。光用底层算法不能准确抓住图像上损失掉的篡改痕迹,还需要结合高层语义算法来识别。”曹娟说。

曹娟进一步指出,现有检测假视频的方法尚存在三个主要局限性。第一,通用性不够,大部分检测只针对特定类型的篡改,如何寻找篡改的共同属性,让模型能应对多种篡改类型是未来的研究重点之一。第二,对抗能力不够,目前篡改手段不断隐蔽,经过复杂的处理,篡改痕迹往往会消失,导致检测性能大大下降。如何提高模型的鲁棒性,应对各种真实的应用场景,是未来的核心任务。第三,目前的方法基本都是对图像划分成小块,再逐块处理,非常耗时耗资源。

共建保证信息真实的生态体系

国际咨询公司Gartner曾预测:到2020年,互联网虚假信息或产生更大危害,基于人工智能技术的造假能力或将远超虚假检测的能力。2018年3月,《科学》杂志刊登的一篇论文指出:近年来虚假新闻的兴起,突显出互联网时代现有的对抗错误信息制度和技术的不足,目前迫切需要重建一个保证信息真实性的信息生态系统。

“如今更重要的是提升针对性的检测技术、完善相关法律及认证机制。”谭茗洲强调。

2019年9月5日,脸书(Facebook)相关负责人宣布,脸书正与微软公司联合包括美国麻省理工学院、英国牛津大学、美国康奈尔大学等在内的多所大学研究检测Deepfake的方法,同时非营利性研究组织PartnershiponAI也参与其中,该组织的成员包括谷歌、苹果、亚马逊、IBM等大型科技公司。

曹娟介绍说,在研究方面,除Assembler平台之外,目前国内做的比较好的有中科院计算所、中科院自动化所、北京交通大学、中山大学、深圳大学等,国外的美国加州大学伯克利分校、美国宾汉姆顿大学、美国马里兰大学等。同时,很多企业和研究机构也在积极研发实用的图像篡改检测工具和平台,如美国AmpedSoftware公司开发的AmpedAuthenticate工具。

2019年11月29日,国家互联网信息办公室发布《网络音视频信息服务管理规定》,要求网络音视频信息服务提供者应当具有与新技术新应用发展相适应的安全可控的技术保障,部署违法违规音视频和非真实音视频鉴别技术。

专家建议,防治虚假视频,有关部门要建立相关管理制度,特别是新闻视频、新闻内容管理方面;在传播渠道上,要建立过滤机制,在技术上实现高效过滤,并且还要对所有造假视频音频实现溯源,同时,增加对检测技术研发资金的投入,激发技术创新。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/488491.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

你好AI丨重读图灵经典之作,九条反驳意见引人深思

来源: AI科技评论编译 | 丛末、蒋宝尚当一台计算机能够骗过人类,让他们相信它就是一个人的时候,就能够被称作智能。编者按:对于艾伦图灵,相信大家都并不陌生,作为人工智能鼻祖,图灵的诸多观点即…

java 比较源文件_Beyond Compare比较Java源代码文件的操作方法

今天小编就带大家来共同学习BeyondCompare如何比较Java源代码文件希呢?望可以帮助到有需要的小伙伴哦,下面就是详细完整的操作步骤。打开BeyondCompare,在主页面左侧目录下选择文本比较会话,打开会话操作界面。分别单击比较会话界面“打开文…

关于研究的方法

转载于:https://www.cnblogs.com/freedommovie/p/6769717.html

【学术快报】韩世辉课题组在《eLife》发表论文揭示群体冲突中复仇的神经生物学机制...

来源:脑科学在群体冲突中,看到对手伤害自己的队友会激发报复行为,去攻击对手。这一复杂社会行为贯穿人类历史,阐明其机理具有重要科学意义和社会价值。心理学研究提出对“内群体的爱”(ingroup love)或/和对…

《面向对象程序设计》课程作业二

github链接作业链接编写一个程序,要求根据给定的圆的半径求圆的面积,并将求得的结果打印出来。……建立一个工程,将程序写成两个.cpp和一个.h的形式。 这个问题倒是没什么难的,但对于同学们来说是一个上手模块化的好开端。从现在开…

报告 | 超级智能城市2.0 – 人工智能引领新风尚(附下载)

来源:智慧城市决策参考未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联…

icmp协议_ICMP协议【41】

1、回顾TCP/IP协议栈为了更有效地转发IP数据报和提高交付成功的机会......2、ICMP协议的简介(1)ICMP,全称为Internet Control Message Protocol,即网际控制报文协议、网际控制消息协议。(2)它是TCP/IP协议族的一个子协议,用于在IP主机、路由器…

java的字节码无法显示_【java】查看Java字节码文件内容的方法+使用javap找不到类 解决方法...

研究synchronized底层实现,涉及到查看java字节码的需要前提是,你的PC已经成功安装了JDK并别配置了环境变量。查看方法一.javap查看简约字节码方式1.准备一个java文件例如,文件所在目录在此处Student.java文件内容如下:packagecom.…

SparkR

SparkR 支持原创:http://blog.csdn.net/dr_guo/article/details/51377784 突然有个想法,R只能处理百万级别的数据,如果R能运行在Spark上多好!搜了下发现13年SparkR这个项目就启动了,感谢美帝! 1.你肯定得先…

彻底颠覆神经科学?神经信号可能不是电信号,而是机械波?!

来源:环球科学就职于哥本哈根尼尔斯玻尔研究所的托马斯亨伯格(Thomas Heimburg),是一位研究量子力学和生物物理的物理学家。然而,他却希望推翻很多神经科学教科书上的内容。在亨伯格看来,神经元之间通过类似…

java可视化压缩_25个小众的Java库

25年前,James Gosling创建了Java,并永远地改变了编程语言的版图。与许多其他编程语言不同,Java在整个生命周期中都受到业界的高度欢迎和需求。Java具有非常优秀的Core库,提供了许多基本功能。 基于其高度流行性,因此也…

深度解读:人体防御病毒的免疫力究竟是什么?

来源:国际仿生工程学会“免疫力作为机体免除瘟疫的一种能力,已被广大民众广泛使用,特别是本次新型冠状病毒的暴发,更是使得免疫力在新闻媒体中广泛传播。对于这样一个极其抽象模糊的术语,我们需要理解其真实的含义是什…

国自然:信息科学部优先发展领域及主要研究方向(含跨科学部)

来源:科奖多媒体中心“十三五”期间,通过支持我国优势学科和交叉学科的重要前沿方向,以及从国家重大需求中凝练可望取得重大原始创新的研究方向,进一步提升我国主要学科的国际地位,提高科学技术满足国家重大需求的能力…

缓冲区不能为空。 参数名: buffer_Java Nio 之Buffer

了解历史在 java1.4之前java io ,最核心的点是在"流"上;java io 的两大基石InputStream和OutputStream 也就是大家耳熟能祥的输入流和输出流,通过这个两个基石可以实现从外界读取数据到内存,以及将内存中数据写到外界;但是输入流和…

机器人行业疫情之下的“危”与“机”

来源:腾讯网口罩脱销令口罩生产线炙手可热,医护人士紧缺令送药机器人走俏,站场监控让自动测体温机器人成为网红,武汉街头配送出现物流机器人身影……新型冠状病毒感染肺炎疫情,给机器人和智能制造行业带来了意想不到的…

mysql 二进制日志变化_MySQL运维之二进制日志

MySQL二进制日志里保存会造成或可能造成数据变化的SQL语句。通过二进制日志可以完成如实时异地容灾备份、读写分离、数据恢复等功能。下面,我们一起来看看Mysql二进制日志。开启bin-log日志Mysql默认是没有开启bin-log日志的,需要我们自己去添加配置。lo…

影响和改变世界的50件发明专利,猜下中国有几个?

来源:国家知识产权局创新创造未来,专利改变世界。最近几十年究竟有哪些专利真正改变了世界呢?国家识产权局选取了一批具有历史意义的、促进社会经济发展的、对人类社会产生重要影响的中外专利。未来智能实验室的主要工作包括:建立…

js 自动分配金额_JS内存图以及原型与原型链

内存以及内存图在JS中,每一个数据都需要一个内存空间。内存空间又被分为两种,栈内存(stock)与堆内存(heap)。JS内存空间分为栈(stack)、堆(heap)、池(一般也会归类为栈中)。 其中栈存放变量,堆存放复杂对象,池存放常量。JS中的基础…

全球首个AI宇宙模拟器不仅有6亿光年宽度,还“自行”跑出了暗物质

来源:大数据文摘《创世纪》里,神用7天创造了这个世界。而现在,你可能也有机会体验这个过程,创造一个属于自己的宇宙。Space Engine 0.990版本在Steam平台发售不到一天,近300测评全部为最高评价。之后,还得到…

js 延迟几秒执行_深入研究 Node.js 的回调队列

// 每日前端夜话 第365篇// 正文共:3000 字// 预计阅读时间:10 分钟队列是 Node.js 中用于有效处理异步操作的一项重要技术。在本文中,我们将深入研究 Node.js 中的队列:它们是什么,它们如何工作(通过事件循环)以及它们…