AI日报:这种病毒从生成式AI工具中窃取您的数据

文章目录

  • 人工智能计算机病毒
  • 蠕虫像细菌一样传播
  • 病毒测试

人工智能计算机病毒

一组研究人员创造了一种能够利用生成人工智能系统的计算机病毒,包括Gemini Pro和GPT-4驱动的ChatGPT版本。

Morris II是一种蠕虫,它操纵生成的人工智能模型来执行恶意任务,包括垃圾邮件和窃取机密数据。它是由来自康奈尔理工大学、常春藤盟校研究中心、Intuit和以色列理工学院的科学家创建的。

Morris II制作的输入在被Gemini等模型处理时会复制自己并进行恶意活动。

该蠕虫能够提取联系人信息和地址等敏感信息,用户甚至不知道自己的数据被盗。
然后,蠕虫通过利用第二代人工智能生态系统内的连接,鼓励人工智能系统将它们传递给新的代理。实际上,它是生成人工智能的恶意软件。
研究人员还展示了不良行为者如何构建和利用类似的系统。

在这里插入图片描述

蠕虫像细菌一样传播

计算机蠕虫是一种恶意软件。蠕虫可以自我复制并通过危害新机器传播,同时也可以利用这些系统进行恶意活动。

Morris II是以臭名昭著的Morris蠕虫命名的,Morris蠕虫是世界上最古老的计算机病毒之一,在20世纪80年代末造成了数万美元的损失。最初的莫里斯是康奈尔大学的一名学生制作的。

Morris II利用人工智能系统中的漏洞,注入恶意命令,指示人工智能执行违反系统使用协议的任务。

病毒测试

其他研究工作已经表明了生成人工智能系统是如何被操纵的。Claude 3开发人员Anthropic发现模型可以学习欺骗性行为。新加坡的研究人员创造了一种LLM,可以突破ChatGPT的护栏。

Morris II蠕虫与之前的项目不同之处在于,它能够瞄准“第二代人工智能生态系统”,即与ChatGPT等服务接口的互联代理网络。

研究人员在一个电子邮件助手上对蠕虫进行了评估,该助手通过生成人工智能服务来完成自动回复电子邮件等任务。

Morris II使用基于RAG的(被动)和应用程序流引导(主动)方法进行传播。被动方法依赖于在系统检索受感染的数据时毒害数据库以传播,而主动方法涉及操纵应用程序的流以传播蠕虫。

研究人员警告说,随着生成人工智能功能集成到智能手机和汽车中,Morris II等系统的恶意活动“很快就会更加严重”。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/728338.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

模拟实现std::string类(包含完整、分文件程序)

std库中的string是一个类,对string的模拟实现,既可以复习类的特性,也可以加深对std::string的理解。 🌈一、搭建框架 ☀️1.新命名空间 本质上string是一个储存在库std里面的类,现在需要模拟实现一个string类&#…

C# 异步文件访问:提高应用程序的响应性和性能

在开发应用程序时,文件访问是一个常见的操作。然而,传统的同步文件访问可能会导致应用程序在处理大量文件时变得缓慢和无响应。本文将介绍如何在C#中使用异步编程来提高文件访问的性能和响应性。 1.异步文件访问的基本概念及其重要性 异步文件访问是一…

Chatgpt 3.5简单使用教程,邮箱不能使用、账户不能使用等问题

官网能连接必要条件。当然国内的人工智能也不错 :百度一下, 文心一言和通义官网 一开始注册,登录一直报错,导致我很烦。 注册一直邮箱或者账户不能使用不能使用,建议使用浏览器无痕模式,实在不行&#xf…

Educational Codeforces Round 148 (Rated for Div. 2)---->B. Maximum Sum

一,思路: 1.这一题如果纯按贪心思路的话是不行的,例如 10 11 12 13 15 22,k2,按照纯贪心我们会选 10 11 22,但是这其实并不是最小的,我们可以选 22 15。这个选法明显比上一个小。 2.我们可以遍…

互联网面试突击算法-链表

链表(Linked List)是一种常见的线性数据结构,由一系列节点(Node)组成。每个节点包含数据和指向下一个节点的引用,形成了一个链式的数据结构。 链表的特点如下: 动态性:链表的长度可…

内衣洗衣机怎么选?2024年度最新爆品内衣洗衣机测评

内衣裤洗衣机是一种非常实用的洗衣机,可以有效地保护内衣和贴身衣物的质量和卫生,相比于普通的家用大型洗衣机,内衣裤洗衣机在容量、洗涤方式、控制方式和价格等方面有很大的不同之处,如果您经常需要清洗内衣和贴身衣物&#xff0…

吴恩达deeplearning.ai:数据增强数据合成迁移学习

以下内容有任何不理解可以翻看我之前的博客哦:吴恩达deeplearning.ai专栏 让我们看看为你的程序添加数据的技巧。在构建神经网络的时候,我们总是想要更多的数据,但是获取更多的数据往往是十分昂贵又缓慢的。相反地,添加数据的另一…

Dockerfile(6) - EXPOSE 指令详解

EXPOSE 通知 Docker 容器在运行时监听指定的网络端口 EXPOSE 端口号 EXPOSE 端口号/协议 默认协议是 TCP 同时在 TCP、UDP 上暴露端口 EXPOSE 80/tcp EXPOSE 80/udp EXPOSE 原理 个人理解:EXPOSE 暴露的端口更像是指明了该容器提供的服务需要用到的端口EXPOSE…

蓝桥杯2017年第八届真题-分巧克力

目录 题目描述 输入格式 输出格式 样例输入 样例输出 原题链接 代码实现 题目描述 儿童节那天有K位小朋友到小明家做客。小明拿出了珍藏的巧克力招待小朋友们。 小明一共有N块巧克力,其中第i块是Hi x Wi的方格组成的长方形。 为了公平起见,小明需…

元素之间的空白问题

1. 元素之间的空白问题 产生的原因: 行内元素、行内块元素,彼此之间的换行会被浏览器解析为一个空白字符。 解决方案: 方案一: 去掉换行和空格(不推荐)。方案二: 给父元素设置 font-size:0,再给…

如何加速访问NexusMods网站

下载Steam(Watt Toolkit) 到steam官网下载https://steampp.net/ 使用Steam加速Nexus 打开Steam点击网络加速,点击平台加速,勾选Nexus Mods,以及下面的所有子项,如何点击一键加速。 注意事项 如果加速效果不好可以尝试切换加…

大数据和机器学习在气象预报中的应用-张平文院士

报告链接:张平文院士 -- 大数据和机器学习在气象预报中的应用_哔哩哔哩_bilibili

Ansible 基础入门

2)Ansible 介绍 Ansible 基本概念 Ansible 是一种自动化运维工具,基于 Paramiko 开发的,并且基于模块化工作,Ansible 是一种集成 IT 系统的配置管理、应用部署、执行特定任务的开源平台,它是基于 Python 语言&#xf…

CXYGZL实现钉钉、飞书和微信全面覆盖!!!

非常欣慰能在这里与大家分享,CXYGZL已圆满实现多端互通的目标!!! 无论您是在手机、电脑还是平板上使用钉钉、企微还是飞书,只需将CXYGZL轻松集成到您的办公软件中,即可实现无缝审批处理各项任务&#xff0c…

【性能优化】前端实际项目中的缓存应用

缓存是什么? 缓存是一种保存资源副本的技术,这样当用户再次访问网站时,可以直接从缓存中获取资源,而不是从服务器重新下载。这就像是我们看过的电影,如果记得剧情就不用再看一遍一样。 基本的缓存类型 浏览器缓存&a…

Polar 写shell

Polar 写shell 直接给了源码 还是没啥好说的&#xff0c;考点是die()死亡函数绕过之不同变量 **绕过原理&#xff1a; **通过base64解密或rot13解密使"<?php exit();"变为乱码&#xff0c;而传入的$content为base64编码&#xff0c;解码后为正常shell语句。通过…

自封装 bind 方法(一)

因为 bind 的使用方法是 某函数.bind(某对象&#xff0c;...剩余参数) 所以需要在 Function.prototype 上进行编程将传递的参数中的某对象和剩余参数使用 apply 的方式在一个回调函数中执行即可要在第一层获取到被绑定函数的 this&#xff0c;因为要拿到那个函数用 apply /***…

Java面试篇【并发编程】常见面试题(2024最新)

Java并发编程常见面试题 1.什么是线程和进程&#xff1f; 进程是操作系统分配资源的最小单位&#xff0c;各个进程之间占据独立的寻址空间&#xff0c;运行也是独立运行&#xff0c;进程间通信需要一些机制。进程间切换需要的开销较大。 线程是程序执行的基本单位&#xff0c…

聊一聊ThreadLocal的原理?

1.ThreadLocal创建方式 ThreadLocal<String> threadlocal1 new ThreadLocal(); ThreadLocal<String> threadlocal2 new ThreadLocal(); ThreadLocal<String> threadlocal3 new ThreadLocal(); 2.首先介绍一下&#xff0c;ThreadLocal的原理&#xff1a; 如…

使用Python监测网络连接和网速

大家好&#xff0c;网络连接和网速在工作中非常重要&#xff0c;本文将介绍如何使用Python程序来监测互联网连接的速度和中断情况。 1.导入所需库文件 首先&#xff0c;需要导入以下库&#xff1a; import speedtest import time from datetime import datetime这里选择了第…