代理人工智能如何应对现代威胁的速度和数量

Seven AI首席执行官 Lior Div 讨论了代理 AI 的概念及其在网络安全中的应用。他解释了代理 AI 与传统自动化安全系统的区别,即代理 AI 具有更大的自主性和决策能力。

Div 强调,通过实时处理大量警报,代理 AI 特别适合对抗现代 AI 驱动的威胁,例如 AI 生成的网络钓鱼或恶意软件。

您如何区分代理安全与传统的自动化网络安全解决方案?它在自主性和决策方面有何不同?这种模式旨在填补传统安全方法的哪些空白?

传统的自动化通常基于预定义的“如果-那么”规则,其中编写代码的人必须提前预测所有可能的结果和决策。这在静态环境中有效,但网络安全绝不是静态的。例如,如果电子邮件包含 URL、文本和文件附件,则可以对自动化系统进行编程以调查这些元素。这种级别的自动化可以很好地用于初步分析和丰富。

然而,当需要进行更深入的调查时,挑战就来了。如果系统识别出恶意文件,它只能遵循预定义的路径。传统的自动化到此为止,将下一步留给人类分析师。

另一方面,Agentic AI 超越了预定义的路径。如果 AI 检测到恶意文件,它不会就此停止;它可以动态启动进一步的操作(例如启动端点检测和响应 (EDR) 调查),而无需预先编写指令。它能够根据不断变化的情况做出实时决策,就像人类分析师一样,但不受静态代码的限制。

我经常将其比作使用“如果-那么”规则教自动驾驶汽车如何驾驶。在受控环境中,您可能设法编写有效的代码。但是一旦汽车驶上繁忙的街道,变量不断变化,这样的系统就会失效。传统的网络安全自动化也是如此——它无法适应现实世界网络威胁的复杂性。然而,Agentic AI 可以动态响应意外情况,使其更有能力应对当今复杂的网络环境。

随着人工智能发起的攻击(例如人工智能编写的网络钓鱼或恶意软件)的兴起,代理安全如何有效应对这些威胁?有没有具体的例子表明它比传统防御措施更有效?

我们今天面临的主要挑战之一是攻击数量之巨。黑客可以使用人工智能生成无数的网络钓鱼电子邮件或恶意软件变种,远远超出了人类分析师手动处理的能力。Agentic AI 可以处理这种规模,因为它可以实时审查每条警报和每项潜在威胁,而不会感到疲劳或疏忽。

另一个关键因素是速度。随着攻击数量的增加,我们做出反应的时间会减少。与人类分析师不同,人工智能系统可以像最重要的调查一样审查每一条警报。虽然人类可能会因数量太多而不知所措并犯错,但人工智能系统始终保持一致和快速,处理信息的速度比任何人都快得多。

在传统的安全方法中,我们经常尝试减少警报数量,只关注优先级最高的警报。Agentic AI 改变了游戏规则——它可以将每条警报、每封电子邮件视为重要警报,调查所有可能性,并在很短的时间内完成。这种不成比例的权力意味着我们可以彻底调查潜在威胁,而不会妥协,从而实现更全面的安全覆盖。

代理安全如何应对现代网络威胁的规模和速度?机器速度在管理大量警报的能力中起着什么作用?

Agentic AI 擅长并行处理 - 它可以同时处理多个警报,并深入分析和调查每个警报。但这还有另一层含义:情境感知。AI 不会只是强行处理警报。随着时间的推移,它会了解其所保护的特定环境的细微差别,了解组织的独特背景。

例如,如果 AI 遇到一个之前在常规网络扫描中被标记在内部数据库中的 IP 地址,它可以关联该信息并将警报视为良性警报。人类分析师很难在大量警报中记住这些细节。然而,AI 可以毫不费力地处理这种情况,从而专注于真正的威胁。

这种关联信息、从过去数据中学习以及适应特定环境的能力使代理 AI 在管理大量警报时具有显著优势。此外,AI 不会忘记,并且可以将其学习应用于其他地方。通过处理一位客户的一种情况,其学习可以应用于其他每一位客户。

您能否分享一个真实案例,其中代理安全显著缩短了对复杂网络威胁的响应时间?从该实例中可以学到什么教训?

我们已经看到代理 AI 在速度和彻底性方面的表现优于人类分析师。与人类分析师相比,系统进行的每项调查都快得多——快了几个数量级。但这不仅仅关乎速度;还关乎调查的深度。代理 AI 可以跟踪线索并比手动方法更彻底地分析数据。

其中一个关键点是,尽管人们仍然不太相信完全自主的系统能够做出关键响应,但代理型人工智能可以逐步解释其正在做的事情。这让人类分析师能够在采取行动之前对其进行审查和批准,从而形成了一种混合模式,其中人工智能承担了繁重的工作,而人类则保留了监督权。

随着代理人工智能获得更多自主权,应该考虑哪些道德问题,特别是在没有人类监督的情况下做出的决策?

这里的关键点是,网络安全中的代理AI 系统不是通用 AI。它们不是科幻小说中的天网之类的系统,而是高度专业化的代理,旨在在网络安全环境中执行特定任务。根据设计,它们无法做出超出其职责范围的决策。

事实上,代理人工智能实际上可以增强隐私保护,因为它不需要人类来审查敏感数据,如浏览历史或电子邮件内容。人工智能只专注于确定某事是否构成威胁,而不关心所涉及的个人信息。在某些方面,与传统方法相比,这可以带来更大的隐私,因为分析师可能会无意中访问个人数据。

另一个重要的考虑因素是透明度。我们的代理 AI 系统不是黑匣子——它们提供清晰的审计线索,显示使用了哪些工具、如何做出决策以及采取了哪些行动。这种可审计性确保人类可以审查系统的操作、了解其决策并保持控制。

随着人工智能的不断发展,代理人工智能在网络安全领域具有巨大的变革潜力。速度、规模和情境理解的结合使其远远优于传统自动化。尽管这项技术非常强大,但我们致力于确保其在完全透明和道德监督下运行,以便组织可以信任他们所依赖的系统来保护他们。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/884264.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【华为HCIP实战课程二十九】中间到中间系统协议IS-IS邻居关系建立和LSP详解,网络工程师

一、广播环境邻居关系建立详解 1、广播环境邻居关系建立 广播邻居关系采用三次握手,携带的邻居列表为接口的MAC来标识 2、LSP同步:3种报文(CSNP和PSNP和具体的LSP) CSNP作用类似DBD,请求者发送PSNP(类似LSR)来请求具体的LSP 广播网络LSP交互过程: R1-R2(DIS)--R3…

<HarmonyOS第一课>应用/元服务上架的课后习题

善者,吾善之; 不善者,吾亦善之,德善。 信者,吾信之; 不信者,吾亦信之,德信。 圣人在天下,歙歙焉为天下浑其心,百姓皆注其耳目,圣人皆孩之。 通过&…

九识智能与徐工汽车达成战略合作,共绘商用车未来新蓝图

近日,九识智能与徐工汽车签署战略合作协议,标志着双方在智能驾驶技术与新能源商用车融合应用、联合生产及市场推广等方面迈入深度合作的新篇章,将共同引领智能驾驶技术商业化浪潮。 近年来,在国家智能化发展战略的引领下&#xff…

根据Redis漏洞通知的整改修复过程

一、收到通知: 二、查看本校“宝山商城(教学)”已安装的Redis版本号 对照影响范围的版本号,在其内,所以需要升级Redis版本。 三、升级centos中的Redis版本 在Cent0S系统中,如果我们需要升级Redis版本&…

docker 可用镜像服务地址(2024.10.31亲测可用)

1.错误 Error response from daemon: Get “https://registry-1.docker.io/v2/” 原因:镜像服务器地址不可用。 2.可用地址 编辑daemon.json: vi /etc/docker/daemon.json内容修改如下: {"registry-mirrors": ["https://…

Git (推送到远端仓库)

目录 一、在 gitee 上创建一个仓库 二、将项目推送到远程仓库 三、解释推送命令 一、在 gitee 上创建一个仓库 操作如下: 二、将项目推送到远程仓库 这里例举新的项目推送到远程仓库的例子: 打开仓库查看: 三、解释推送命令 添加远程仓库…

opencv学习笔记(6):图像预处理(直方图、图像去噪)

3.直方图 直方图是用来表现图像中亮度分布的,给出的是图像中某个亮度或者某个范围亮度下共有几个像素,即统计一幅图某个亮度像素的数量。 直方图不能反映某一灰度值像素在图像中的位置,失去了图像的空间信息。图像直方图由于其计算代价较小&a…

《双指针篇》---移动零

题目传送门 这道题可以归类为 数组划分/数组分块 。 题目制定了一个规则,我们可以在这个规则下,将数组划分为若干个区间。 这道题让我们把所有非零元素移动到左边。所有零元素移动到右边。 将数组划分为: 左区间非0; 右区间&…

OpenHarmony、HarmonyOS、HarmonyNext互相兼容吗?

1,三者之间的关系 OpenHarmony:开源底层。HarmonyOS:闭源手机系统,兼容安卓生态。HarmonyOS NEXT:纯血鸿蒙,不兼容安卓。 上一篇文章简单介绍过,就不再多说了,这里说一下HarmonyOS …

Camera学习笔记(202410)

课程:CameraX:面向开发者的摄像头支持库 链接:CameraX:面向开发者的摄像头支持库_哔哩哔哩_bilibili 课程时长:28:00 学习时间:2024-10-29 概述:2019年Android CameraX的发布会 个人感觉&a…

Django入门教程——用户管理实现

第六章 用户管理实现 教学目的 复习数据的增删改查的实现。了解数据MD5加密算法以及实现模型表单中,自定义控件的使用中间件的原理和使用 需求分析 系统问题 员工档案涉及到员工的秘密,不能让任何人都可以看到,主要是人事部门进行数据的…

BugKu练习记录:矛盾

题目: $num$_GET[num]; if(!is_numeric($num)) { echo $num; if($num1) echo flag{**********}; }关键在于绕过is_numeric,PHP中字符串与数字弱比较,会将字符串转换为数字,截至到非数字字符,如果第一个字符就是非数字…

安宝特分享 | AR技术引领:跨国工业远程协作创新模式

在当今高度互联的工业环境中,跨国合作与沟通变得日益重要。然而,语言障碍常常成为高效协作的绊脚石。安宝特AR眼镜凭借其强大的多语言自动翻译和播报功能,正在改变这一局面,让远程协作变得更加顺畅。 01 多语言翻译优势 安宝特A…

逗号运算符应用举例

在main.cpp里输入程序如下&#xff1a; #include <iostream> //使能cin(),cout(); #include <iomanip> //使能setbase(),setfill(),setw(),setprecision(),setiosflags()和resetiosflags(); //setbase( char x )是设置输出数字的基数,如输出进制数则用set…

vxe-table v4.8+ 与 v3.10+ 虚拟滚动支持动态行高,虚拟渲染更快了

Vxe UI vue vxe-table v4.8 与 v3.10 解决了老版本虚拟滚动不支持动态行高的问题&#xff0c;重构了虚拟渲染&#xff0c;渲染性能大幅提升了&#xff0c;行高自适应和列宽拖动都支持&#xff0c;大幅降低虚拟渲染过程中的滚动白屏&#xff0c;大量数据列表滚动更加流畅。 自适…

ICPC区域赛成都站【赛后回顾+总结】

传送门 前言赛后总结赛后回顾赛后感悟 前言 首先&#xff0c;这是本人本赛季第一场XCPC区域赛&#xff0c;也是本人算竞生涯中第一场XCPC区域赛&#xff08;之前只打过邀请赛和省赛&#xff09;。 赛后总结 然后赛后总结一下&#xff1a;我队天崩开局&#xff0c;我队出师不利…

c盘满了怎么清理垃圾而不误删?6招轻松清理C盘,快来试试

c盘满了怎么清理垃圾而不误删&#xff1f;相信平时工作生活中离不开电脑&#xff0c;随着使用电脑时间就了&#xff0c;C 盘的空间会不断被占据&#xff0c;进而致使系统运行变得迟缓&#xff0c;甚至出现卡顿现象。因此&#xff0c;定期清理 C 盘的是非常重要的。很多电脑小白…

excel的宏1

1宏和vba visual basic for applications 一种编程语言 2vba编写一系列指令的程序&#xff0c;就是宏 3完成重复性的数据任务 点击开发工具 使用设置的宏之后表格的变化 excel帮忙编写了一个代码 以上为自动编写的代码

Swarm-LIO: Decentralized Swarm LiDAR-inertial Odometry论文翻译

文章目录 前言一、介绍二、相关工作三、方法A. 问题表述B. 框架概述C. 群体系统的初始化D. 去中心化激光雷达-惯性状态估计 四. 实验A. 室内飞行B. 退化环境飞行C. 去中心化部署 五. 结论和未来工作 前言 原文&#xff1a;原文 准确的自我状态和相对状态估计是完成群体任务的关…

光耦合器的关键作用和创新---腾恩科技

光耦合器或光隔离器已成为电路中必不可少的器件&#xff0c;它允许信号在无需直接电接触的情况下跨不同电压域传输。这种隔离能力对于保护低压元件免受高压电路的潜在损坏至关重要。本文将仔细研究光耦合器在当今技术中发挥的独特作用&#xff0c;并探讨其在各种应用中不断扩展…