AI能力边界不断扩展,将对国家安全产生深远影响

文 | 中国信息安全测评中心 王欣

随着 ChatGPT 的发布及相关应用的落地,人工智能技术给全球各个行业带来了一波又一波冲击。GPT-4 多模态大型语言模型更是将人工智能的能力提升到新的高度,无论从技术先进性还是应用实践能力来看,此模型均可被称为当前人工智能发展的集大成者,人工智能正以一种肉眼可见却难以预料的速度迅速扩展其能力边界。在人工智能的加持下,网络攻防、开源情报、军事对抗等国家安全相关领域均出现前所未有的科技创新和突破,或将对国家安全产生较大影响。

一、人工智能应用于军事斗争,传统武器如虎添翼

当代军事领域既是战略前沿技术发展汇集的核心地带,也是最富创新性、超越性、颠覆性的科学技术发展前沿,人工智能作为当前最火爆的关键新兴技术之一,在军事领域的武器装备赋能、战场情报分析、战略决策指挥、战时舆论引导等方面发挥着越来越重要的作用。

俄乌冲突战事持续焦灼,以人工智能为代表的现代关键新兴技术在其中发挥了至关重要甚至主导性的作用。2022 年 12 月,华盛顿邮报专栏作家大卫·伊格内修斯发表题为《算法如何在乌克兰打破平衡》的文章指出,美国人工智能公司 Palantir 为乌克兰军队提供了功能强大的软件系统,利用人工智能实现了精准的图像识别,通过将来自卫星、无人机以及社交媒体等渠道的图片进行关联分析,为乌克兰军方进行目标识别、瞄准打击、战事预警、战略决策提供了极大支撑。Palantir 首席执行官表示,“依托先进算法的战争系统能力之强大,等同于利用战术核武器来对抗常规武器。”3 月 24 日,前美国陆军网络司令部作战副司令罗宾·丰特斯与人工智能公司 RAIN 部门主管约里特·卡明加联合发表题为《乌克兰是人工智能战争活生生的试验场》的文章指出,俄乌冲突为人工智能技术提供了“活生生的试验场”,使真正的网络化战场愿景更接近现实。在作战武器方面,人工智能为大量使用的无人机和巡航导弹,在飞行、瞄准和射击方面提供了增强的自主能力;在战场情报方面,美国企业发挥主导作用的人工智能广泛应用于地理空间情报分析,结合了地面照片、无人机视频片段和卫星图像,产生了战略和战术情报优势;在电子对抗方面,美国 Primer 公司为乌克兰部署人工智能工具用于分析俄罗斯无线电通信,以获取战场实时情报;在舆论认知方面,俄乌双方利用人工智能生成大量虚假信息或错误信息,进行舆论引导,定向扰动民意,产生认知迷雾。人工智能在俄乌冲突各个领域的应用充分说明,此场冲突已经成为人工智能技术的试验场,并发挥了重要作用,真实战场数据反哺人工智能进行训练、调整和进化,未来将出现新型的“AI”战争。关于 AI 增强武器系统的公开报道只是冰山一角,人工智能技术已经开始部署在远离战场的系统中,如与规划、后勤保障和预防性维护等领域相关的云计算和数据分析系统,这场革命现在已经开始,而且不会停止。2 月,乌克兰数字转型部长米哈伊洛·费多罗夫在采访中表示,完全自主的杀手级无人机是武器开发中“合乎逻辑且不可避免的一步”,乌克兰一直在“朝这个方向进行大量研发”。5 月 9 日,美国防部发布《2023国防科技战略》,明确将可信人工智能与自治系统作为支撑国防创新的关键技术领域。

无论是在真实战场中的现实作用,还是在国家战略规划中的重要地位,种种迹象均表明,“人工智能+军事”的武器装备技术进一步成熟完善,一场人工智能引领的军事变革浪潮即将在不久的未来渐渐显现。

二、人工智能应用于情报领域,情报生产方式变革在即

人工智能技术凭借强大的数据整合分析能力,广泛应用于情报领域,将情报分析的自动化水平提高到新的高度。传统分析员借助人工智能更好地理解数据,提升情报研判与预测能力,情报机构利用人工智能技术高效的分析海量数据,做出更精准的战略决策。

各国情报机构高度重视人工智能的赋能作用,2022 年 12 月,美国发布的《2023 财年情报授权法案》中明确指出,人工智能是美国情报界重点关注的新兴技术之一,法案指出“为提高情报竞争力,情报界必须加速采用人工智能技术并将其纳入工作流程。调研情报界在开发、获取、采用、维护人工智能技术,改进情报搜集、处理和分析全流程方面所取得的成效和不足,确保商业尖端技术能够快速在情报界应用”。随着 ChatGPT 的发布,更是掀起了该项技术在情报分析方面的应用热潮。2 月,美国中央情报局(CIA)人工智能主管拉克希米·拉曼表示,该机构正在通过联邦政府资助的研发中心以及学术界和工业界的合作伙伴寻求该领域的帮助,探索使用聊天机器人和生成式人工智能功能协助其完成日常工作和总体情报任务;将 AI 整合到 CIA 行动和系统的很多工作正在进行,以确保 CIA 成为一个成熟的、人工智能驱动的组织,并扩大对对手使用人工智能和机器学习能力的理解。3 月 29 日,英国安全事务国务大臣汤姆·图根哈特撰文称,希望英国能设立一个专注于“开源情报”(OSINT)的全新情报机构,通过人工智能技术收集分析公开来源信息,用以协助传统情报工作,一方面帮助情报人员识别对手所造成的威胁,另一方面用于打击“虚假信息”的传播。

在当前数字经济时代,开源信息、网络数据已经成为情报生产的重要来源,传统人力已经不能应对巨量的情报分析任务,人工智能技术既能助力突破情报数据处理速度和规模上的瓶颈,还在情报挖掘、决策辅助等方面发挥更大作用,极大提升情报信息的可用性和洞察力。

三、人工智能应用于网络攻防,产生锋“矛”固“盾”之效

人工智能之于网络攻防的赋能作用相当明显,攻防两端均可利用人工智能技术开展更加高效、精准以及定制化的行动,网络空间的对抗形势将更加严峻。

以 ChatGPT 为例,其对网络攻防已经产生了意想不到的增强作用。在攻击层面,ChatGPT 凭借其强大的代码编写能力、文本生成能力受到多方赞誉,但是这也降低了网络攻击的门槛,攻击者能够利用人工智能模型建立完整攻击链条,自动化生成攻击代码甚至具有实战功能的攻击工具。自 ChatGPT 发布以来,暗网论坛中充斥着大量使用 ChatGPT 生成恶意代码的教程和相关恶意软件,网络安全公司 CheckPoint 曾在 2022 年 12 月展示了利用 ChatGPT 实施完整网络钓鱼攻击的过程,并依据其监测数据发出了“网络犯罪开始使用 ChatGPT”的警告。近日,Forcepoint 公司的研究人员成功绕过 ChatGPT“反恶意使用”保护机制,仅花费 4 小时就生成一款具备文件窃取及隐写传输功能恶意软件,并能够逃避近 70 款检查引擎的查杀。英国安全公司 DarkTrace 发布警告称,“ChatGPT 助长了网络勒索和更高级的网络欺骗”。人工智能技术凭借其强大的模型能力,使网络攻击的自动化程度、攻击隐蔽性、攻击渗透能力等均得到了不同程度的提升,随着模型的不断改进,它将成为恶意行为者越来越强大的工具和帮手。在防御层面,人工智能与威胁情报、大数据、云计算有效融合,形成算力、算法和数据叠加优势,有效提升网络威胁的响应和处置能力。俄乌冲突中,微软联合人工智能公司 RiskIQ 协防乌克兰,从外而内识别乌信息系统中的攻击面,帮助乌克兰及时发现和阻止大量网络攻击。3 月 28 日,美国微软公司宣布将 GPT-4 引入网络安全,发布了全球首款真正意义上的网络安全 AI 产品“微软安全助手”(Microsoft Security Copilot,以下简称Copilot)。Copilot 凭借人工智能的高效数据处理能力进行网络安全事件响应、评估和防御,实现对威胁事件的秒级响应和规模化处置。微软将最前沿的网络安全技术与人工智能相结合,是 AI 能力边界的再一次有效扩展,是在 ChatGPT 热潮之后的又一项具有里程碑意义的人工智能落地应用。面对网络威胁,Copilot 是一个名副其实的“安全大脑”,它具备了网络安全专家甚至专家团队的能力,既能够让初级安全人员快速上手解决安全问题,又能够为高级安全人员面对高级威胁提供及时有效的支持。从技术角度看,微软凭借多年的积累和布局,在算力、算法和数据等人工智能核心领域占据得天独厚的优势。在算力方面,微软 Azure 云基础设施平台为 Copilot 提供了充足的计算能力;在算法方面,Copilot 将全球最先进的生成式大语言模型与其领先的网络安全专用模型相结合;在数据方面,微软积累了庞大且优质的威胁情报和安全大数据,成为 Copilot 不断进化能够凭借的巨大数据金矿。除此之外,生成式人工智能也成为 2023 年 RSA 大会最热门的赛道,谷歌、埃森哲等厂商均推出了以人工智能作为核心技术的网络安全产品,Veracode、记录未来等企业也宣布要将生成式人工智能引入自身产品。人工智能无论作为一种解决方案提供方,还是一种能够重构现有解决方案的技术,都将在未来的网络安全领域发挥重要作用。

人工智能对网络安全带来了巨大而深刻的影响,它既被用来改进和加强网络安全解决方案,帮助分析人员更高效地分类威胁和修复漏洞,也被黑客用来发动更大规模、更复杂的网络攻击。人工智能将改变当前网络攻防态势,以 AI 对抗 AI 的场景将愈发普遍。

四、对策建议

ChatGPT 加速了人工智能时代的到来,随着其能力边界不断拓展,凭借在军事对抗、情报分析及网络攻防领域的应用优势,将成为大国博弈的另一战略武器,将对国家安全产生持续深远的影响。我国应密切关注全球人工智能技术发展及应用的最新动向,提早布局,增强人工智能的技术竞争能力。

一是加强人工智能核心技术研发保障关键领域应用安全。受益于数字经济发展的热潮,人工智能在我国呈现了蓬勃发展态势,在已形成的产业规模、人才投入、论文专利等方面,均处在全球领先水平,但我国在人工智能领域更加聚焦于技术应用,在基础理论、核心算法、模型框架、芯片等方面的核心关键技术与国外仍存在较大差距。我国应进一步加强人工智能核心软硬件技术的研发,实现从算法、模型框架、元器件、基础设施到系统结构的自主创新和全产业链的整体技术突破,保障在我国关键领域人工智能应用的安全可靠。

二是发展符合我国内业务场景的专用模型提升应用能力。通用人工智能大模型在内容生成、逻辑推理等方面展现出不凡能力,但专用模型更具备特定场景下解决现实问题的能力。我国在人工智能应用场景多样性方面拥有先天的优势,细分场景广泛而丰富,用户基础庞大,数据汇集效应较易形成,我国应充分利用此优势,以应用为牵引,加快发展不同行业领域的人工智能专用模型,汇聚国内科研和产业界的人工智能算法、算力优势,行业领域的数据资源优势,探索适合我国内现实情况的人工智能发展技术路线。

三是做好准备应对人工智能带来的网络攻防对抗严峻形势。在人工智能的助力下,全球网络空间将面临前所未有的严峻攻击态势,攻击战术、战法都将发生“范式”性的变化,攻击烈度、规模、逃逸性、抗溯源能力等将得到较大提升。我国应做好充分准备应对人工智能给网络空间攻防对抗带来的挑战,加强网络威胁情报数据的统一和共享,促进人工智能技术在网络威胁监测、攻击溯源检测、自动化协同防御、漏洞检测与识别等方面的应用,提升网络威胁防护能力。

(本文刊登于《中国信息安全》杂志2023年第5期)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/849178.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

vsCode双击文件才能打开文件,单击文件只能预览?

解决: 1、打开设置 2、搜索workbench.editor.enablePreview 3、更改为不勾选状态 4、关闭设置 效果: 现在单击一个文件时,将会在编辑器中直接打开,而非是预览状态。

(uniapp)简单带动画的tab切换效果

效果图 代码 <template><view class"tabBox"><view :style"{transform: translateX(${translateX})}" class"whiteBox"></view><view click"changeTab(k)" class"itemBox" v-for"(v,k) in…

【Java】代码块

代码块介绍 目录 1.代码块2.代码块分类静态代码块动态代码块 1.代码块 代码块是类的五大成分之一&#xff0c;包括成员变量、构造器、方法、代码块、内部类。 2.代码块分类 代码块分两种&#xff1a; 静态代码块 测试类 public class Test {public static void main(Stri…

openharmony项目相关资料

openharmony项目相关资料 OpenHarmony是由开放原子开源基金会&#xff08;OpenAtom Foundation&#xff09;孵化及运营的开源项目&#xff0c; 目标是面向全场景、全连接、全智能时代&#xff0c;搭建一个智能终端设备操作系统的框架和平台&#xff0c;促进万物互联产业的繁荣…

资源搬运(电脑外接接口)

比较全面的介绍了电脑的常见的外接接口。 工程师必知必会的18种电脑外接接口 (baidu.com)

Kafka 详解:全面解析分布式流处理平台

Kafka 详解&#xff1a;全面解析分布式流处理平台 Apache Kafka 是一个分布式流处理平台&#xff0c;主要用于构建实时数据管道和流式应用。它具有高吞吐量、低延迟、高可用性和高可靠性的特点&#xff0c;广泛应用于日志收集、数据流处理、消息系统、实时分析等场景。 &…

LeetCode刷题 | Day 4 分割等和子集(Partition Equal Subset Sum)自底向上动态规划

LeetCode刷题 | Day 4 分割等和子集(Partition Equal Subset Sum)自底向上动态规划 文章目录 LeetCode刷题 | Day 4 分割等和子集(Partition Equal Subset Sum)自底向上动态规划前言一、题目概述二、解题方法2.1 一维表格的自底向上动态规划2.1.1 思路讲解2.1.2 伪代码 + 逐…

002.数据分析_Pandas初识

我 的 个 人 主 页&#xff1a;&#x1f449;&#x1f449; 失心疯的个人主页 &#x1f448;&#x1f448; 入 门 教 程 推 荐 &#xff1a;&#x1f449;&#x1f449; Python零基础入门教程合集 &#x1f448;&#x1f448; 虚 拟 环 境 搭 建 &#xff1a;&#x1f449;&…

MySQL-权限管理(二)

一 host中的含义 /usr/local/mysql/bin/mysql -pLXYlxy2:024.#8u} -S /data/mysql/tmp/mysqld.sock select user,host,authentication_string from mysql.user; %:主要允许从任何主机连接到MySQL服务器&#xff0c;即外部连接localhost: 代表只允许本地主机连接到MySQL服务器&…

[AIGC] 详解Mockito - 简单易学的Java单元测试框架

在Java的世界中, 单元测试是一项非常重要的任务. Mockito作为一个强大灵活的mock框架&#xff0c;可以帮助我们有效的编写和管理我们的单元测试. 了解并掌握Mockito的使用对于提高我们的开发效率和保证我们的软件质量有着巨大的帮助. 文章目录 什么是Mockito?Mockito的核心API…

Spring Boot中整合Jasypt 使用自定义注解+AOP实现敏感字段的加解密

&#x1f604; 19年之后由于某些原因断更了三年&#xff0c;23年重新扬帆起航&#xff0c;推出更多优质博文&#xff0c;希望大家多多支持&#xff5e; &#x1f337; 古之立大事者&#xff0c;不惟有超世之才&#xff0c;亦必有坚忍不拔之志 &#x1f390; 个人CSND主页——Mi…

奥威BI零售数据分析方案的优缺点一览

奥威BI零售数据分析方案是一套基于BI大数据智能可视化分析系统&#xff0c;根据零售企业数据分析共性需求、业务特殊性量身打造&#xff0c;点击下载应用&#xff0c;立即将零售数据情况分析清楚&#xff0c;直观呈现。很多企业都是直接在该零售数据分析方案的基础上实现了智能…

mybatis动态SQL的if判断是否等于某个值查询条件无效

我们在使用mybaits时&#xff0c;经常使用if条件来做动态查询&#xff0c; 当查询条件是字符串类型时&#xff0c;要写不等于某个空的情况要考虑不等于null和不等于空字符串 当查询条件是日期类型或者long&#xff0c;Integer 等类型时&#xff0c;if条件里不能写不等于空字符串…

Java 基础面试300题 (291-313)

Java 基础面试300题 &#xff08;291-313&#xff09; 291 . Externalizable接口和Serializable 接口有什么区别&#xff1f; Serializable 接口是一个标记接口&#xff0c;没有定义任何方法&#xff0c;不必实现。Externalizable接口定义了readExternal()和writeExternal()方…

QT6.3学习技巧,快速入门

学习和掌握QT6.3的技巧和入门方法&#xff0c;可以让你更快速地掌握和使用这个开发工具。下面是一些建议和步骤&#xff1a; 学习基础知识&#xff1a;在开始学习QT6.3之前&#xff0c;建议先了解一些基础知识&#xff0c;例如C编程语言和图形用户界面的基本概念等。这些知识可…

如果entity中的age字段为integer类型,mybatisplus更新entity时,当age字段为null,数据不会更新,怎么办?

在使用 MyBatis-Plus 更新实体对象时&#xff0c;如果 age 字段为 null 并且希望将该字段更新为数据库中的 null&#xff0c;可以使用以下几种方法来实现&#xff1a; 方法1&#xff1a;使用 TableField(updateStrategy FieldStrategy.IGNORED) 通过在实体类中使用 TableFie…

跟着GPT学设计模式之观察者模式

你好&#xff0c;这里是codetrend专栏“跟着GPT学设计模式”。 引言 观察者模式&#xff08;Observer Pattern&#xff09;是一种行为型设计模式&#xff0c;它定义了对象之间的一对多依赖关系&#xff0c;使得当一个对象的状态发生改变时&#xff0c;其依赖对象都能够收到通…

PostgreSql常用的时间类型以及对应Java中的类型以及在Mybatis XML中转换

PGSQL DATE&#xff1a;用于存储日期信息&#xff0c;不包含任何时间信息&#xff0c;例如&#xff1a;‘2024-06-06’。 TIME&#xff1a;用于存储一天内的时间&#xff0c;精确到毫秒&#xff0c;例如&#xff1a;‘10:30:00.123’。 TIMESTAMP&#xff1a;用于存储日期和…

Junit(Java单元测试)

配置文件 要想使用 Junit 进行单元测试需要引入以下第三方库&#xff1a; 引入后可以使用 Test&#xff0c;BeforeEach等注解 <!-- https://mvnrepository.com/artifact/org.junit.jupiter/junit-jupiter-api --><dependency><groupId>org.junit.jupiter<…

eclipse添加maven插件

打开eclipse菜单 Help/Install New SoftwareWork with下拉菜单选择 2022-03 - https://download.eclipse.org/releases/2022-03‘type filter text’搜索框中输入 maven选择 M2E - Maven Integration for Eclipse一路next安装&#xff0c;重启eclipseImport项目时&#xff0c;就…