来源:中新网
近年来,随着机器学习、计算能力、存储能力以及云计算等技术发展,人工智能技术呈现出“井喷式”发展,家电、移动设备等各种硬件产品中都开始融入人工智能技术,AI人工智能的发展已成为大势所趋。
360智能安全研究院院长李康表示,智能和安全已经对抗很多年了,未来还会一直存在,“安全对抗应该是安全领域永恒的一个主题。”而随着人工智能的不断发展,对于AI安全的考虑也已经上升到了前所未有的高度来讨论。日前,移动安全联盟聚焦于AI技术与安全问题,于2018(第十七届)中国互联网大会会议期间成功举办2018中国人工智能移动安全高峰论坛。论坛上,来自各个领域的专家围绕“AI时代智能终端的攻与防”这一主题,对“AI人工智能与安全”进行了探讨。
AI人工智能与安全的博弈
人工智能技术对安全产业起到了极大的促进作用。北京大学郭耀教授表示,他目前正在用人工智能技术解决很多应用安全的问题,比如安全分析、广告欺诈监测、隐私分析等。
郭耀说认为,“应用在访问用户数据前会有一个非常长的条款,利用人工智能技术就可以对此进行聚类分析,然后对比相似功能的应用,如果100个应用做同样的事情,其他的都不需要电话号码,而有一个需要,那肯定是有问题的。”
但任何新兴技术都是一把双刃剑,AI技术在助力防护方的同时,也会成为攻击者的利器。
比如,目前大部分AI应用系统都基于已有的主流AI框架实现,而AI系统框架以及AI系统所依赖的软件实际上也存在安全漏洞。这些安全漏洞如果被攻击者利用,将会侵犯用户在终端和云端的隐私数据;更有甚者,攻击者还可以通过网络设备去控制智能家居的温度,或者更改家庭中设置的智能安防,从而造成人身安全和家庭财产。
AI人工智能本身存在安全问题
长虹信息安全灯塔实验室首席科学家唐博表示,对于智能设备厂商来说,AI促进了产品效能的提高,促进了用户使用体验的提升。同时会带来一些安全问题,也是预料之中的。
以智能电视为例,语音识别和人脸识别技术让电视机不再仅仅是单独的家电,而将会成为家庭交互终端的入口。但人工智能电视仍然会存在类似安全漏洞未修复、配置不当、越权操作等信息安全问题。不法分子能远程获取root权限,远程劫持电视设备,并进行开关摄像头、安装恶意应用、收集用户隐私生活信息等操作,这将造成用户隐私泄露或财产损失。
另外,冰箱,空调等都是属于智能家居,但这些电器自身并不带有智能的功能,不过是通过增加智能芯片,用一些IoT的解决方案将控制请求,参数与白电主板对接。目前IOT芯片层面上的漏洞可以导致白电大批量的被控制,同时在IoT云端,物联网协议这边存在漏洞也可以导致批量的智能家居设备受影响。
正如北京大学教授郭耀表示,智能产品的硬件多是国内生产,但是芯片多还是国外的,像安卓,RAM,小米的内核,包括Linux开源都不是国内自主研发的,技术层面的安全也存在着隐患。
所以,AI人工智能技术要真正走进寻常百姓家,安全仍是需要防范的最大风险。
AI人工智能与安全的平衡发展
如何打造人工智能的安全,使二者平衡发展,是目前乃至未来科技巨头需要重点研究的方向。对于AI和安全的关系,长虹安全实验室唐博认为可以为三个发展阶段。
第一个阶段,用AI的方法可以解决一些安全的问题,可以用AI的方法来识别攻击,可以通过大数据分析,分析流量和终端的一些情况,来识别一些异常流量或者一些攻击的行为。
第二个阶段,是用安全来保护人工智能,同时保护隐私。在人工智能的模型被“偷”,被“骗”的过程,需要对其进行安全保护。
唐博还表示:“对长虹来讲,特别中兴事件之后,长虹特别关注自主知识产权的硬件设备,包括一些系统级的软件。同时,基于自主知识产权或者一些开源的自主化的知识产权的芯片,在安全上有一些差异化,在系统层定制化的一些产品。”
第三个阶段,是在智能设备的安全性达到一定程度时,可能会出现跨设备甚至跨平台的AI应用,效率也会得到进一步提升。在这个过程中,AI、安全和效率三者之间是一个相辅相成的发展过程。
在IoT时代,新的芯片和操作系统的出现,对中国智能家居的发展,包括物联网的发展都是一个机会。未来长虹安全实验室将利用AI和区块链技术打造云管端全方位的物联网安全体系,创新应用技术,配合区块链安全,将人工智能与安全的关系维持在最佳状态。
“在物联网、云管端形成的整体安全体系下,配合AI,配合区块链,是可以有更好的未来,为大家提供更安全、更有效率的智慧生活。”唐博表示。
未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。
未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。
如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”