第46期 | GPTSecurity周报

图片

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的贡献内容,现总结如下。

Security Papers

1.使用BusyBox进行模糊测试:利用LLM和崩溃重用来挖掘嵌入式错误

简介:本研究针对广泛使用的开源软件BusyBox进行了安全性分析,并发现许多嵌入式产品使用了较旧版本的BusyBox。为此,研究者采用了模糊测试来探测潜在漏洞。研究中提出了两种新技术:一是使用大语言模型(LLM)生成针对性的初始种子,以提高模糊测试的效率;二是在新目标上进行模糊测试前,重用其他相似目标的崩溃数据,以加快测试过程。这些方法有效提高了嵌入式系统中漏洞检测的能力,并有助于改进软件测试的质量。

链接:

https://arxiv.org/abs/2403.03897

2.大语言模型是边缘情况模糊测试器:通过FuzzGPT测试深度学习库

简介:本文介绍了FuzzGPT,这是一种新技术,旨在利用大语言模型(LLMs)生成不寻常的程序以进行模糊测试。与常规LLMs生成的程序不同,FuzzGPT专注于创造能够触发深层漏洞的非常规输入。该技术基于历史错误触发程序中包含宝贵代码片段的假设,通过LLMs的微调和上下文学习能力实现自动化。FuzzGPT特别适用于GPT风格的模型,如Codex和CodeGen,并展示了利用ChatGPT进行有效模糊测试的潜力。在PyTorch和TensorFlow两个深度学习库上的测试结果显示,FuzzGPT在发现未知错误方面显著优于TitanFuzz,共检测出76个错误,其中49个为新发现,包括11个高优先级的错误或安全隐患。

链接:

https://arxiv.org/abs/2304.02014

3.使用生成AI增强灰盒模糊测试

简介:本文介绍了ChatFuzz,一种结合了生成型AI技术的灰盒模糊测试工具。它通过使用ChatGPT生成模型来变异种子输入,有效提高了输入的格式合规性和质量。实验表明,ChatFuzz在12个目标程序上比AFL++提高了12.77%的边缘覆盖率,并且在检测具有明确语法规则的程序中的漏洞方面表现良好,但对于语法复杂的程序效果有限。

链接:

https://arxiv.org/abs/2306.06782

4.使用大语言模型提高编译器转换的翻译验证

简介:本文提出了一个新框架,将大语言模型(LLMs)应用于LLVM编译器转换的验证过程中,弥补了传统形式验证工具的不足。框架首先尝试使用Alive2等正式验证工具进行验证,当遇到无法确认转换合理性的情况时,利用微调后的LLMs进行预测。对于LLMs预测可能存在问题的转换,框架通过模糊测试寻找反例。如果转换被证明是合理或不合理,或者没有找到反例,框架将直接报告结果,避免不必要的额外测试。这一方法在深度学习加速器设计等复杂应用场景中表现出了良好的效果,解决了传统工具难以处理的问题。

链接:

https://arxiv.org/abs/2401.16797

5.LLM4Fuzz:使用大语言模型进行智能合约的引导模糊测试

简介:LLM4Fuzz是一种新型智能合约安全分析工具,它通过大语言模型(LLMs)来增强模糊测试的效率和准确性。该工具能够识别并聚焦于智能合约中更可能存在漏洞的代码区域,以及生成更有可能触发这些漏洞的输入序列。LLM4Fuzz还允许根据用户设定的规则来指导测试,减少无效的探索工作。在对DeFi项目的评估中,LLM4Fuzz在发现效率、代码覆盖率和漏洞检测方面均超越了传统模糊测试方法,并成功识别出可能导致重大资金损失的关键漏洞。

链接:

https://arxiv.org/abs/2401.11108

6.KernelGPT:通过大语言模型增强的内核模糊测试

简介:内核中的漏洞可能对全球设备和用户造成广泛影响,因此内核模糊测试成为了重要的研究领域。Syzkaller 是一种知名的内核模糊测试工具,它通过特定的领域语言 syzlang 来生成系统调用序列。然而,自动化生成这些规范的工作量巨大,许多关键调用仍未被发现。为此,研究者提出了 KernelGPT,这是一种新方法,它利用大语言模型(LLMs)来自动推断 Syzkaller 的规范,从而提高模糊测试的效果。KernelGPT 通过迭代学习和验证反馈来完善规范,初步结果显示它能有效提升覆盖率并发现未知错误。Syzkaller 团队也对 KernelGPT 推断的规范表示了兴趣,并考虑将其纳入官方规范中。

链接:

https://arxiv.org/abs/2401.00563

                                                                                                                                  编辑:Fancy

图片

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/802542.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

java工作记录

文章目录 esayExcel导出依赖后端代码controllerservice单元格宽度配置类util 前端代码 若依配置多数据源 esayExcel 导出 依赖 <dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>2.2.4</vers…

基于SpringBoot+Vue+Mysql的图书管理系统

博主介绍&#xff1a; 大家好&#xff0c;本人精通Java、Python、C#、C、C编程语言&#xff0c;同时也熟练掌握微信小程序、Php和Android等技术&#xff0c;能够为大家提供全方位的技术支持和交流。 我有丰富的成品Java、Python、C#毕设项目经验&#xff0c;能够为学生提供各类…

为什么 C/C++ 的库很喜欢缩写?

一、正如很多回答已经提到的&#xff0c;早期的有效标识符长度有限制&#xff0c;所以缩写用得比较多。也主要是在 C 里&#xff08;Unix 的传统&#xff09;。C 里的标识符用缩写的不多。如 C98&#xff08;毕竟比 C89 晚了 9 年么&#xff09;里我们就已经有了很多挺长的名字…

21 条MySQL 开发规范,太详细了,建议收藏!

数据库对象命名规范 1、数据库对象 数据库对象是数据库的组成部分&#xff0c;常见的有以下几种&#xff1a;表&#xff08;Table &#xff09;、索引&#xff08;Index&#xff09;、视图&#xff08;View&#xff09;、图表&#xff08;Diagram&#xff09;、缺省值&#x…

亚马逊电子产品审核?需要提交UL测试报告?

亚马逊要求销售的电子产品&#xff0c;必须经过检测符合标准才可以上架。 要办理亚马逊美国站UL测试报告&#xff0c;你需要联系国内的第三方检测机构&#xff0c;当然必须是由符合ISO17025/ILAC ISO 17025标准的实验室出具的合格报告&#xff0c;ISO 17025标准是国际上广泛认…

使用flex布局写6种骰子

使用flex布局写6种骰子&#x1f3b2; 效果图 概述说明 不使用position定位&#xff0c;完全靠flex进行分配位置。 在线查看 点击查看 完整代码 <template><div class"content"><ul class"list"><li class"item" v-fo…

视频图像的两种表示方式YUV与RGB(1)

了解过计算机图形图像学的该知道&#xff0c;可用RGB和YUV两种方式表示图像像素&#xff0c;视频由一帧一帧的图像组成&#xff0c;每一张图片是一个一个的像素点组成&#xff0c;既然有两种表示像素的方法&#xff0c;那就一起解一下两种表示方式的异同及优缺点。 RGB像素 这…

声明结构体变量时,是否一定要加struct关键字?

在C语言中&#xff0c;当你声明一个结构体变量时&#xff0c;是否需要使用struct关键字取决于你是否已经为结构体类型定义了一个别名。 如果你没有使用typedef为结构体定义别名&#xff0c;那么在声明结构体变量时&#xff0c;你确实需要使用struct关键字来指明变量所属的类型。…

OpenAI推出GPTBot网络爬虫:提升AI模型同时引发道德法律争议

文章目录 一、GPTBot 简介二、功能特点三、技术细节3.1、用户代理标识3.2、数据采集规则3.3、数据使用目的3.4、网站屏蔽方法3.5、数据过滤 四、GPTBot 的道德和法律问题五、GPTBot 的使用方法和限制六、总结 一、GPTBot 简介 OpenAI 推出的网络爬虫GPTBot旨在通过从互联网上收…

进制转换(0123456789ABCDEF)

题目 import java.util.Scanner;public class Main {public static void main(String[] args) {//将十进制数M转化为N进制数Scanner sc new Scanner(System.in);int m sc.nextInt();int n sc.nextInt();StringBuffer sb new StringBuffer();//1String s "0123456789…

从零开始学Python(五)面向对象

&#x1f973;&#x1f973;Welcome Huihuis Code World ! !&#x1f973;&#x1f973; 接下来看看由辉辉所写的关于Python的相关操作吧 目录 &#x1f973;&#x1f973;Welcome Huihuis Code World ! !&#x1f973;&#x1f973; 一.类的定义 二.魔法方法 1.概念 2.常…

Javascript进阶内容

1. 作用域 1.1 局部作用域 局部作用域分为函数作用域 和 块级作用域 块级作用域就是用 {} 包起来的&#xff0c;let、const声明的变量就是产生块作用域&#xff0c;var不会&#xff1b;不同代码块之间的变量无法互相访问&#xff0c;里面的变量外部无法访问 1.2 全局作用域…

【C/C++面试必备】声明和定义的区别

本文来介绍一下声明和定义的区别&#xff0c;本文中的程序以 C/C 为例进行说明。 一、变量的声明和定义 1.1 声明 声明是用来告诉编译器变量的名称和类型&#xff0c;而不分配内存。 例如&#xff1a; extern int var; // 声明extern int ble 10; // 定义typedef int INT;…

2024HW --->反序列化漏洞!

对于反序列化&#xff0c;这个漏洞也是常用的&#xff0c;不过涉及到的方面非常非常广&#xff0c;比其他漏洞也难很多 于是本篇文章就分成PHP和JAVA的反序列化来讲讲 1.反序列化 想要理解反序列化&#xff0c;首先就要理解序列化 序列化&#xff1a;把对象转换为字节序列的过…

默克尔(Merkle)树 - 原理及用途

默克尔&#xff08;Merkle&#xff09;树的原理以及用途 引言 在当今数字化时代&#xff0c;确保数据的完整性是至关重要的。默克尔树作为一种高效的数据结构&#xff0c;被广泛应用于网络安全、分布式系统以及加密货币等领域&#xff0c;用于验证大量数据的完整性和一致性 数…

【HTB】 OpenSource

OpenSource 靶机地址&#xff1a;https://app.hackthebox.com/machines/471 信息收集 ┌──(root㉿kali)-[~/Desktop] └─# nmap -Pn -sC -sV -p- 10.129.212.208 --min-rate5000 Starting Nmap 7.94SVN ( https://nmap.org ) at 2024-04-08 16:01 CST Nmap scan report f…

GPIO口工作原理的超详细解释

一、GPIO基本结构 每个GPIO内部都有这样的一个电路结构&#xff0c;这个结构在本文下面会具体介绍。 这边的电路图稍微提一下&#xff1a; 保护二极管&#xff1a; IO引脚上下两边两个二极管用于防止引脚外部过高、过低的电压输入。当引脚电压高于VDD时&#xff0c;上方的二…

Altair® (澳汰尔)Inspire™ Print3D 打造高效的增材制造设计

Altair &#xff08;澳汰尔&#xff09;Inspire™ Print3D 打造高效的增材制造设计 借助 Inspire Print3D&#xff0c;可加速创新、结构高效的 3D 打印部件的创建、优化和研究&#xff0c;提供快速准确的工具集&#xff0c;可用于实现选择性激光熔融 (SLM) 部件的设计和过程仿…

Bilstm双向长短期神经网络多输入单输出回归分析

目录 背影 摘要 LSTM的基本定义 LSTM实现的步骤 BILSTM神经网络 基于双向长短期神经网络的多输入单输出回归分析,基于bilstm的多输入单输出回归分析 完整代码:Bilstm双向长短期神经网络多输入单输出回归分析.zip资源-CSDN文库 https://download.csdn.net/download/abc9918351…

基于SSM+Jsp+Mysql的快递管理系统

开发语言&#xff1a;Java框架&#xff1a;ssm技术&#xff1a;JSPJDK版本&#xff1a;JDK1.8服务器&#xff1a;tomcat7数据库&#xff1a;mysql 5.7&#xff08;一定要5.7版本&#xff09;数据库工具&#xff1a;Navicat11开发软件&#xff1a;eclipse/myeclipse/ideaMaven包…