文章目录
- 人工智能计算机病毒
- 蠕虫像细菌一样传播
- 病毒测试
人工智能计算机病毒
一组研究人员创造了一种能够利用生成人工智能系统的计算机病毒，包括Gemini Pro和GPT-4驱动的ChatGPT版本。
Morris II是一种蠕虫，它操纵生成的人工智能模型来执行恶意任务，包括垃圾邮件和窃取机密数据。它是由来自康奈尔理工大学、常春藤盟校研究中心、Intuit和以色列理工学院的科学家创建的。
Morris II制作的输入在被Gemini等模型处理时会复制自己并进行恶意活动。
该蠕虫能够提取联系人信息和地址等敏感信息，用户甚至不知道自己的数据被盗。
然后，蠕虫通过利用第二代人工智能生态系统内的连接，鼓励人工智能系统将它们传递给新的代理。实际上，它是生成人工智能的恶意软件。
研究人员还展示了不良行为者如何构建和利用类似的系统。
蠕虫像细菌一样传播
计算机蠕虫是一种恶意软件。蠕虫可以自我复制并通过危害新机器传播，同时也可以利用这些系统进行恶意活动。
Morris II是以臭名昭著的Morris蠕虫命名的，Morris蠕虫是世界上最古老的计算机病毒之一，在20世纪80年代末造成了数万美元的损失。最初的莫里斯是康奈尔大学的一名学生制作的。
Morris II利用人工智能系统中的漏洞，注入恶意命令，指示人工智能执行违反系统使用协议的任务。
病毒测试
其他研究工作已经表明了生成人工智能系统是如何被操纵的。Claude 3开发人员Anthropic发现模型可以学习欺骗性行为。新加坡的研究人员创造了一种LLM，可以突破ChatGPT的护栏。
Morris II蠕虫与之前的项目不同之处在于，它能够瞄准“第二代人工智能生态系统”，即与ChatGPT等服务接口的互联代理网络。
研究人员在一个电子邮件助手上对蠕虫进行了评估，该助手通过生成人工智能服务来完成自动回复电子邮件等任务。
Morris II使用基于RAG的（被动）和应用程序流引导（主动）方法进行传播。被动方法依赖于在系统检索受感染的数据时毒害数据库以传播，而主动方法涉及操纵应用程序的流以传播蠕虫。
研究人员警告说，随着生成人工智能功能集成到智能手机和汽车中，Morris II等系统的恶意活动“很快就会更加严重”。
