AI蠕虫病毒威胁升级,揭示AI安全新危机

一组研究人员成功研发出首个能够通过电子邮件客户端窃取数据、传播恶意软件以及向他人发送垃圾邮件的AI蠕虫,并在使用流行的大规模语言模型(LLMs)的测试环境中展示了其按设计功能运作的能力。基于他们的研究成果,研究人员向生成式AI开发者提出警告,关注此类恶意编程可能带来的潜在危险。研究团队分享了研究论文并发布了一段视频,展示如何通过两种方法来窃取数据和影响其他电子邮件客户端。

该蠕虫由来自康奈尔科技学院的Ben Nassi、以色列理工学院的Stav Cohen以及英特尔公司的Ron Bitton共同创建,并将其命名为“Morris II”,以纪念1988年首次引发全球网络问题的计算机蠕虫“莫里斯”。这种蠕虫专门针对生成式AI应用,甚至可以影响具备AI功能的邮件助手,利用诸如Gemini Pro、ChatGPT 4.0及LLaVA等AI模型生成文本和图像。

蠕虫的运行机制类似于越狱攻击,利用对抗性自复制提示来对付其自身模型。研究人员通过构建一个包含这些生成式AI引擎的电子邮件系统,并利用文本形式或嵌入在图像文件中的自复制提示进行演示。其中,文本提示会利用LLM从系统外部获取额外数据,将这些数据发送至GPT-4或Gemini Pro以生成文本内容,从而突破GenAI服务的安全限制并成功窃取数据。而图像提示方式则是将自复制提示编码在图像中,使得邮件助手将含有宣传和滥用信息的消息转发给所有人,进而感染新的邮件客户端并将受感染邮件继续转发。在这两个过程中,研究人员都能够挖掘包括但不限于信用卡详细信息和社会保障号码在内的敏感信息。

即使在受控环境下,这种功能性的蠕虫也证明了它已不再是理论上的威胁,而是需要严肃对待并采取有效解决方案的问题,一旦发现此类恶意提示就应立即部署防护措施。因此,类似这样的研究论文被分享给了受影响的各方以及其他可模拟验证的研究者。

针对这一情况,生成式AI领域的领军企业给出了回应并计划部署防御措施。如同所有负责任的研究人员那样,该团队将他们的发现报告给了Google和OpenAI。《连线》杂志就此联系了这两家公司,虽然Google拒绝就该研究发表评论,但OpenAI的发言人回应称:“他们似乎找到了一种利用未经检查或过滤的用户输入来利用提示注入类漏洞的方法。”同时,OpenAI保证正在使其系统更具韧性,并建议开发者应采用确保不与有害输入打交道的方法。

鉴于此类方法能够感染生成式AI应用程序并危及用户系统,在PC、智能手机、汽车和电子邮件服务等领域广泛应用AI和神经处理单元(NPUs)之际,这一发现显得尤为关键。尽管在某些情况下,融入AI技术的固态硬盘(SSDs)能够识别并消除勒索软件,但在另一面,我们又面临着能创造恶意软件的蠕虫和定制LLMs。

在此背景下,行业必须保持警惕并为每款面向公众发布的基于genAI的产品准备好对抗措施或部署有效的解决方案。新的解决方案和创新可能会带来新的问题。随着此类研究在AI应用早期阶段就揭示了这些问题,保护有可能造成危害的GenAI引擎已成为优先考虑事项。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/718666.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

用pyinstaller打包python代码为exe可执行文件并在其他电脑运行的方法

本文介绍基于Python语言中的pyinstaller模块,将写好的.py格式的Python代码及其所用到的所有第三方库打包,生成.exe格式的可执行文件,从而方便地在其他环境、其他电脑中直接执行这一可执行文件的方法。 有时,我们希望将自己电脑上的…

python笔记:super(),__getitem()__,__call()__

目录 Q1:super(NetworkBlock, self).__init__()什么意思 Q2:__call__() 类的实例圆括号自动调用 Q3:__getitem__() 类的实例 方括号自动调用 Q4:没有双下划线方法时,普通的调用类的方法 总结 Q1:super…

Python 全栈系列230 轻全局函数服务 GFGoLite

说明 为了将GlobalFunc推向正常的应用轨道,构造一个功能简单的服务。 内容 1 工作模式 Server模式:以API服务方式执行 Worker模式: 以Worker方式执行。通过left/right文件夹和rsync方式执行任务并写结果。 2 构造方法 重载和执行;从标…

基于springboot的助农管理系统的设计与实现

** 🍅点赞收藏关注 → 私信领取本源代码、数据库🍅 本人在Java毕业设计领域有多年的经验,陆续会更新更多优质的Java实战项目希望你能有所收获,少走一些弯路。🍅关注我不迷路🍅** 一 、设计说明 1.1研究背…

【网站项目】219一中体育馆管理系统

🙊作者简介:拥有多年开发工作经验,分享技术代码帮助学生学习,独立完成自己的项目或者毕业设计。 代码可以私聊博主获取。🌹赠送计算机毕业设计600个选题excel文件,帮助大学选题。赠送开题报告模板&#xff…

pywin32,一个超强的 Python 库!

更多Python学习内容:ipengtao.com 大家好,今天为大家分享一个超强的 Python 库 - pywin32。 Github地址:https://github.com/mhammond/pywin32 在Python的世界里,有许多优秀的第三方库可以帮助开发者更轻松地处理各种任务。其中&a…

【性能】后台与黑屏

目录 现象观察 调整应用的电池策略 现象观察 切换到后台, 一个心跳期间,就会发close socket 直接黑屏,没有收到任何消息,直接到onclose,然后有离线触发 也到时间。 调整应用的电池策略 修改成“无限制”后,就不会断…

C#面:简单介绍 序列化 和 反序列化

序列化: 是将对象转换为可保持或可传输的形式的过程。 .NET 具有以下序列化技术: 二进制序列化保持类型保真,这对于多次调用应用程序时保持对象状态非常有用。 例如,通过将对象序列化到剪贴板,可在不同的应用程序之…

Linxu自动化构建工具make/Makefile究竟时什么?

Linxu自动化构建工具make/Makefile究竟时什么? 一、简介二、makefile文件制作(简洁版)2.1 源文件2.2 makefile如何制作2.2.1 依赖关系、依赖方法2.2.3 伪目标(清理文件资源) 三、make/Makefile自动化原理3.1 伪目标为什…

SpringBoot+Vue实现el-table表头筛选排序(附源码)

👨‍💻作者简介:在笑大学牲 🎟️个人主页:无所谓^_^ ps:点赞是免费的,却可以让写博客的作者开心好几天😎 前言 后台系统对table组件的需求是最常见的,不过element-ui的el…

Grpc项目集成到java方式调用实践

背景:由于项目要对接到grcp 的框架,然后需要对接老外的东西,还有签名和证书刚开始没有接触其实有点懵逼。 gRPC 是由 Google 开发的高性能、开源的远程过程调用(RPC)框架。它建立在 HTTP/2 协议之上,使用 …

D7805 正电压稳压电路应用——体积小,成本低,性能好

D7805 构成的 5V 稳压电源为输出电压5V,输出电流 1000mA 的稳压电源它由滤波电容 C1,C3,防止自激电容 C2、C3 和一只固定三端稳压器(7805)后级加 LC 滤波极为简洁方便地搭成,输入直流电压范围为 7~35V,此直流电压经过D…

yolov8-更换卷积模块-ContextGuidedBlock_Down

源码解读 class ContextGuidedBlock_Down(nn.Module):"""the size of feature map divided 2, (H,W,C)---->(H/2, W/2, 2C)"""def __init__(self, nIn, dilation_rate2, reduction16):"""args:nIn: the channel of input fea…

Hack The Box-Bizness

目录 信息收集 nmap dirsearch WEB Get shell 提权 get user flag get root flag 信息收集 nmap 端口扫描┌──(root㉿ru)-[~/kali/hackthebox] └─# nmap -p- 10.10.11.252 --min-rate 10000 -oA port Starting Nmap 7.94SVN ( https://nmap.org ) at 2024-03-04 1…

实测VLLM的加速效果

为了测试vllm的并行加速效果,采用同样的5个提问,编写两个不同的python脚本,分别是compare_vllm.py和compare_chatglm3.py,其中compare_vllm.py采用vllm加速。 服务器参数: 操作系统ubuntu 22.04CPUi7 14700k内存dd5 …

hive中常见参数优化总结

1.with as 的cte优化,一般开发中习惯使用with as方便阅读,但如果子查询结果在下游被多次引用,可以使用一定的参数优化手段减少表扫描次数 默认set hive.optimize.cte.materialize.threshold-1;不自动物化到内存,一般可以设置为 se…

力扣 第 387 场周赛 解题报告 | 珂学家 | 离散化树状数组 + 模拟场

前言 整体评价 手速场模拟场,思路和解法都蛮直接的。 所以搞点活 如果T2,如果不固定左上角,批量查询某个点为左上角,求满足总和 ≤ k \le k ≤k的子矩阵个数 如果T2,如果不固定左上角,求总和 ≤ k \le k…

Spring的Bean的生命周期 | 有图有案例

Spring的Bean的生命周期 Spring的Bean的生命周期整体过程实例化初始化服务销毁循环依赖问题 完整生命周期演示 Spring的Bean的生命周期 Spring Bean的生命周期:从Bean的实例化之后,通过反射创建出对象之后,到Bean称为一个完整的对象&#xf…

EXPLAIN:mysql 执行计划分析详解

目录 EXPLAIN命令 查看执行计划 分析执行计划 优化查询 EXPLAIN中的 type 列类型 在MySQL中,你可以使用EXPLAIN命令来生成查询的执行计划。EXPLAIN命令可以显示MySQL如何使用键来处理SELECT和DELETE语句,以及INSERT或UPDATE语句的WHERE子句。这对于…

SRS Stack提供的鉴权、私人直播间、多平台转播、录制等高级功能的具体使用方法是什么?

SRS Stack提供的鉴权、私人直播间、多平台转播、录制等高级功能的具体使用方法是什么? 鉴权功能:SRS Stack支持通过系统配置中的OpenAPI获取Bearer鉴权,并可以尝试HTTP API。用户可以通过点击网页上的按钮请求HTTP API,或者使用cu…