第28期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大型语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的贡献内容,现总结如下。

Security Papers

1. 模型窃取:针对法学硕士的提取攻击

简介:模型Leeching是一种针对大型语言模型(LLM)的新型提取攻击,能够将目标LLM中的任务特定知识提取到简化参数模型中。研究者通过从ChatGPT-3.5-Turbo中提取任务能力来证明攻击的有效性,实现了73%的精确匹配(EM)相似性,SQuAD EM和F1的准确率分别为75%和87%。研究者进一步证明了从通过模型Leeching提取的提取模型中进行对抗性平台转移以执行针对目标LLM的ML攻击分期的可行性,当应用于ChatGPT-3.5-Turbo时,攻击成功率提高了11%。

链接:

https://arxiv.org/pdf/2309.10544.pdf  

2. 大型语言模型的知识清理

简介:研究者探索了一种知识清理方法,以减轻与大型语言模型(llm)相关的隐私问题。实验结果表明,研究者的方法不仅最大限度地减少了特定知识的泄漏,而且保持了LLM的整体性能。

链接:

https://arxiv.org/pdf/2309.11852.pdf

3. 安全、安保、隐私与提示:人工智能时代的网络弹性

简介:本白皮书旨在介绍人工智能重塑网络安全的主题,为商业决策者和政策制定者设定一些关键的人工智能概念、威胁和机遇的理解基线,以支持他们在这个快节奏、令人兴奋的新技术时代的思考和战略。

链接:

https://www.nccgroup.com/media/reybxvtp/ncc-group-cyber-resilience-ai-whitepaper_updated.pdf

4. 保障未来:人工智能驱动世界的网络安全

简介:这份白皮书涉及人工智能和网络安全的前沿关键问题。通过探索其中包含的最佳实践和建议,研究者表示大家可以充满信心地在数字优先的世界中开辟新的篇章。让大家共同踏上这段旅程,利用人工智能的变革力量,同时保护我们的数字未来。

链接:

https://cpx.net/media/dvjpnyry/securing-the-future-a-whitepaper-on-cybersecurity-in-an-ai-driven-world-csc-v2-final-1.pdf

5. SIGMA:安全的GPT推理与功能秘密共享

简介:SIGMA,第一个基于FSS的安全变压器推断端到端系统。通过为复杂的机器学习功能(如Softmax和GeLU)构建新的基于fss的协议,并加速其在gpu上的计算,SIGMA将变压器的安全参考延迟提高了11 - 19倍,比使用预处理和gpu的最先进状态。研究者提出了生成式预训练变压器(GPT)模型的第一个安全推理。特别是SIGMA在74秒内执行了13亿个参数的GPT-Neo,在1.6秒内执行了HuggingFace的GPT2。

链接:

https://eprint.iacr.org/2023/1269.pdf

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/158676.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【linux】进行间通信——共享内存+消息队列+信号量

共享内存消息队列信号量 1.共享内存1.1共享内存的原理1.2共享内存的概念1.3接口的认识1.4实操comm.hppservice.cc (写)clint.cc (读) 1.5共享内存的总结1.6共享内存的内核结构 2.消息队列2.1原理2.2接口 3.信号量3.1信号量是什么3…

Linux 常用命令学习笔记

Linux 常用命令学习笔记 1. 查看文件和目录 列出文件和目录详细信息 ls -al参数说明: -a:显示所有文件,包括隐藏文件。-l:以列表形式显示,并包含文件的详细信息,如权限、所有者、大小等。 2. 列出进程…

如何开发干洗店用的小程序

洗护行业现在都开始往线上的方向发展了,越来越多的干洗店都推出了上门取送服务,那么就需要开发一个干洗店专用的小程序去作为用户和商家的桥梁,这样的小程序该如何开发呢? 一、功能设计:根据干洗店的业务需求和小程序的…

lnmp环境部署极简保姆级教程(nginx+php+mysql)

lnmp极简保姆级教程(nginxphpmysql) nginx 下载安装 https://nginx.org/download yum -y install make zlib zlib-devel gcc-c libtool openssl openssl-devel #编译环境cd /opt wget https://nginx.org/download/nginx-1.25.3.tar.gz tar zxvf ngin…

算法-二叉树-简单-二叉树的直径、将有序数组转换成二叉搜索树

记录一下算法题的学习9 二叉树的直径 题目:给你一棵二叉树的根节点,返回该树的 直径 。 二叉树的 直径 是指树中任意两个节点之间最长路径的 长度 。这条路径可能经过也可能不经过根节点 root 。两节点之间路径的 长度 由它们之间边数表示 读完题目&…

java通过年月获取当前月所有周(跨月),获取每周开始日期和结束日期

/*** 根据年月返回本月共几周&#xff0c;每周开始与结束日期*/public static List<Map<String, String>> queryWeek(String year, String month) throws ParseException {/** 周 **/final String[] weeks { "第一周", "第二周", "第…

浏览器中(不使用pdf插件)下载pdf文件的方法

downloadPdfFnc(pdfUrl, pdfName){// 构建文件内容fetch(pdfUrl).then(response > response.blob()).then(blob > {const url URL.createObjectURL(blob);const a document.createElement(a);a.href url;a.download ${pdfName}.pdf; // 设置下载文件的名称a.style.di…

2014年3月24日 Go生态洞察:Go地鼠的故事

&#x1f337;&#x1f341; 博主猫头虎&#xff08;&#x1f405;&#x1f43e;&#xff09;带您 Go to New World✨&#x1f341; &#x1f984; 博客首页——&#x1f405;&#x1f43e;猫头虎的博客&#x1f390; &#x1f433; 《面试题大全专栏》 &#x1f995; 文章图文…

PRD学习

产品经理零基础入门&#xff08;五&#xff09;产品需求文档PRD&#xff08;全16集&#xff09;_哔哩哔哩_bilibili 1. PRD的2种表现形式 ① RP格式 &#xff08;1&#xff09;全局说明 ② 文档格式

redis之主从复制和哨兵模式

&#xff08;一&#xff09;redis的性能管理 1、redis的数据缓存在内存中 2、查看redis的性能&#xff1a;info memory&#xff08;重点&#xff09; used_memory:904192&#xff08;单位字节&#xff09; redis中数据占用的内存 used_memory_rss:10522624 redis向操作系统…

广告行业中那些趣事系列66:使用chatgpt类LLM标注数据并蒸馏到生产小模型

导读&#xff1a;本文是“数据拾光者”专栏的第六十六篇文章&#xff0c;这个系列将介绍在广告行业中自然语言处理和推荐系统实践。本篇主要介绍使用chatgpt类LLM进行数据标注任务并蒸馏到生产小模型&#xff0c;对于希望使用chatgpt类LLM进行打标并部署到生产任务中的小伙伴可…

JVM的垃圾收集算法

1.算法的分类 1.1标记清除算法 第一步&#xff1a;标记&#xff08;找出内存中需要回收的对象&#xff0c;并且把它们标记出来&#xff09; 根据可达性算法&#xff0c;标记的是存活的对象&#xff0c;然后将其他的空间进行回收 第二步&#xff1a;清除&#xff08;清除掉被…

Sentinel 监控数据持久化(mysql)

Sentinel 实时监控仅存储 5 分钟以内的数据&#xff0c;如果需要持久化&#xff0c;需要通过调用实时监控接口来定制&#xff0c;即自行扩展实现 MetricsRepository 接口&#xff08;修改 控制台源码&#xff09;。 本文通过使用Mysql持久化监控数据。 1.构建存储表&#xff08…

使用OpenCV将图像转换为NV12格式并加载NV12数据

摘要&#xff1a;在新项目中&#xff0c;需要为上层应用开放几个接口&#xff0c;但又不想让上层应用过多依赖OpenCV。本文将详细介绍如何使用C和OpenCV&#xff0c;通过加载图片并转换为NV12格式&#xff0c;实现对图像数据的处理&#xff0c;以及如何加载NV12数据并显示。这些…

QT基础入门【QSS】QT伪状态类型和实例

1、伪装器类型 伪状态描述:active当部件位于活动窗口中时设置此状态。:adjoins-item当 QTreeView 的 ::branch 邻接到一个项时设置此状态。:alternate当 QAbstractItemView 绘制每一行时,如果 QAbstractItemView::alternatingRowColors() 设置为 true,则为每一行的交替行。:b…

ESP32 Arduino实战Web篇-使用 WebSocket 创建 ESP32 Web 服务器

本文将详细介绍如何使用 WebSocket 创建 ESP32 Web 服务器,解释WebSocket原理与搭建步骤,并附超详细的代码解释 假设我们需要创建一个使用 ESP32 通过 WiFi 控制灯泡的项目。实现非常简单:我们将 ESP32 设置为软 AP 或 STA 模式,使其能够提供一个网页,显示灯开关的状态为…

HT560 30W 过温限幅 D类音频功率放大器

HT560具有过温限幅功能&#xff0c;当芯片内部温度达到过温限幅点&#xff0c;HT560自动降低增益&#xff0c;使其IC能够连续播放而不间断。另外&#xff0c;HT560具有功率限制功能&#xff0c;一种是限幅功能&#xff0c;在输出端限制一定的输出幅度&#xff0c;使其不损坏喇叭…

JS中new关键词具体起到了什么作用

在JavaScript中&#xff0c;new关键字用于创建一个新的对象实例。具体来说&#xff0c;当你使用new关键字来调用一个函数时&#xff0c;这个函数会被视为一个构造函数&#xff0c;并且会创建一个新的对象。这个新对象会继承构造函数的属性和方法&#xff0c;并且可以通过this关…

算法基础 1.4 高精度 (加减乘除)

高精度加法模版&#xff1a; 计算 C A B&#xff0c;这里默认低位在前面&#xff0c;例如num123在A中的存在形式是[3,2,1]。 vector<int> add(vector<int> &A, vector<int> &B){vector<int> C;int t 0;for (int i 0; i < A.size() || i…

阿里云高效计划学生和老师免费代金券申请认证方法

阿里云高校计划学生和教师均可参与&#xff0c;完成学生认证和教师验证后学生可以免费领取300元无门槛代金券和3折优惠折扣&#xff0c;适用于云服务器等全量公共云产品&#xff0c;订单原价金额封顶5000元/年&#xff0c;阿里云百科aliyunbaike.com分享阿里云高校计划入口及学…