大模型时代如何做安全?

现在应该没人怀疑AI时代的到来了吧,在HUB上每天100+的新的预训练模型产生,不夸张的说的,现在稍微有点计算机基础的人都可以训练自己的模型了。

说远了,还是说说那些不争气的安全厂商吧。为啥只说安全厂商?因为国内还是有达摩啊,华为啊,阿里啊,智普啊真的做了自己的基座模型或者其中算法库。chatGPT3.x开源的那段时间,国内的数家安全厂商就开始做大模型了,还是一如既往的别人开源我就牛批儿的熟悉的场景。

其实别人一开源我就牛批儿式的玩法也是没错,毕竟这个世界不需要每个人都是科学家。只是有点失望吧。2022年360放出NLP对话模型,说是基于安全的,但是表现,额。。。

然后就是深信服推出了大模型结合XDR(也不太记得了)没有独立的大模型接口开放给公众,也无法体验到。

然后就是2024年3月20日,奇安信发布大模型QAX_GPT,额。。。也体验不到,还有360不知道是不是由预谋一样和奇安信同时期也放出一个新的大模型,额。。。也体验不到。所以这里只说说纸面感受。先说说我知道的和安全有点关系的大模型吧:

1.360这几年一共放出了2个大模型产品吧,感觉都不是针对安全的,更多的是通用模型,同时赋能安全产品和它的非安全类型产品,第一个模型智力是相当的差,第二个模型没体验过希望能好点。

2.奇安信的大模型我觉得算是真正的应用到了安全场景,它可以分析安全事件,安全流量,它可以应急响应,算是做了一个安全厂商该做的事。

3.深信服的安全大模型定位和奇安信应该差不多,深度结合安全产品,只是公开信息太少了,无法判断。

4.SECGPT,老实说这个我要点赞!!!因为它敢开源!各行各业都在努力促进AI的进步,纷纷开源自己的模型,而那些大的安全厂商,拿了别人的预训练模型却不舍得开源。SECGPT是一个叫云起无垠的公司,因为开源了,本人有幸体验了一下,nice。

5.yakit chatgpt,我不知道yakit的GPT仅仅是一个接口,还是有自己模型,但是我印象里,是第一个把gpt集成到渗透工具箱里的,只是它的大模型貌似没有私人订制的能力,最基本的都没有解放道德限制。

现在很多人都想知道为什么安全行业出不来一个优秀的大模型?我认为有以下几个因素:

1.没钱。对,安全厂商别看叫的欢,各种技术前沿,各种秀存在,各种牛批儿,其实内部是真的穷。

2.技术基因差。安全厂商同样有研发,算法等高级工程师,但是相对其他互联网大厂,其实更多的倾向于快速产品转化,产品快速盈利化,而很少做长达超过一年的研究计划。说到底兜里钱少,求生存呐。

3.目前仍然没有更优秀的idea来集成AI智能,这不仅表现在安全行业,而是所有行业都在绞尽脑汁的思考,AI怎么落地的问题。

那么安全行业如何落地大模型的应用场景?我觉得以下几个领域可以研究:

1.利用大模型进行漏洞挖掘,渗透,比各位师傅自己写的自动化脚本应该会好一些,无非要解决大模型调用安全工具或者手工的问题,可能还要解决多个大模型协同工作的问题。这里其实能做很多事了,渗透,漏洞挖掘,红队,基线检查,风险评估,可惜目前还没有见到同类产品。

2.利用大模型做安全运营,这个奇安信的大模型感觉就是这样,深信服的场景应该也是这样,大模型在流量分析,事件分析,应急响应,速度比人快,水平相当于中级师傅们的水平,那不是妥妥的。毕竟高级的师傅也不多吧。

3.利用大模型做代码审计,这个其实就是废话了,通用模型几乎都可以了,secgpt这方面也专门做了训练,大家可以尝试。不过现在大模型都有长文本和理解工程结构的缺陷。如果解决让大模型理解长文本和代码工程结构,并且能跟踪变量,仍然是个问题。

4.利用大模型进行社会工程学,大模型模拟对话的能力的,用于反诈等等社工能力的地方应该也是可行的,需要解决的就是调用各种设备和工具的接口问题。

5.利用大模型进行对话式安全服务,总比小白到处找大佬强吧。

6.利用大模型快速生成各种安全报告,师傅们不怕挖漏洞,怕写报告啊。

最后比较纠结的是,希望基于红队类型的大模型出现,也不希望它出现(我相信肯定有公司已经在搞了)。目前来看,人类对于LLM大模型的管理能力已经失控了。马斯克的观点我还是赞同的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/762339.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

SQL日期函数

文章目录 1.获取日期时间函数1.1 获取当前日期时间1.2 获取当前日期1.3 获取当前时间 2.日期格式化★★★2.1 日期转指定格式字符串2.2 字符串转日期 3.日期间隔3.1 增加日期间隔 ★★★3.2 减去一个时间间隔★★★3.3 日期相差天数(天)3.4 相差时间&…

QT中如何设置当前界面的背景图片并随着窗口拉伸而刷新

1、为当前主窗口设置背景图片 QSize size this->size();int width size.width();int height size.height();QPixmap pixmap("../src/B002.png"); //通过构造函数载入图片方式label1 new QLabel(this);label1->resize(width,height);pixmap.scaled(lab…

腾讯二面:如何保证接口幂等性?高并发下的接口幂等性如何实现?

什么是接口幂等性 接口幂等性这一概念源于数学,原意是指一个操作如果连续执行多次所产生的结果与仅执行一次的效果相同,那么我们就称这个操作是幂等的。在互联网领域,特别是在Web服务、API设计和分布式系统中,接口幂等性具有非常…

嵌入式软件面试-linux-中高级问题

Linux系统启动过程: BIOS自检并加载引导程序。引导程序(如GRUB)加载Linux内核到内存。内核初始化硬件,加载驱动,建立内存管理。加载init进程(PID为1),通常是systemd或SysVinit。init…

安卓使用MQTT实现阿里云物联网云台订阅和发布主题(3)

一、订阅主题代码讲解 private final String mqtt_sub_topic "/sys/k0wih08FdYq/LHAPP/thing/service/property/set";//订阅话题//mqtt客户端订阅主题//QoS0时,报文最多发送一次,有可能丢失//QoS1时,报文至少发送一次&#xff0c…

23 OpenCV 直方图比较

文章目录 直方图比较的目的相关性计算 (CV_COMP_CORREL)卡方计算 (CV_COMP_CHISQR)十字计算(CV_COMP_INTERSECT)巴氏距离计算 (CV_COMP_BHATTACHARYYA )compareHist 直方图比较算子示例 直方图比较的目的 直方图比较的目的是衡量两幅图像之间的相似度或差异度。通过计算图像的颜…

linux下用docker部署es和kibana(带ik分词器)(二)

在上一篇文章中讲到,我们利用docker安装了es和kibana,下面我们讲解一下在安装es时把ik分词器这个插件集成进去,首先我们编写一个dockerfile文件,自定义一个es镜像,当然这个镜像肯定集成了ik分词器,具体步骤…

【LVGL-开关部件】

LVGL-开关部件 ■ LVGL-开关部件■ 开关部件:指示器打开的颜色■ 开关部件:不可修改■ 开关部件:获取开关状态■ 开关部件:示例一:制冷,制暖,开关 ■ LVGL-开关部件 ■ 开关部件:指示器打开的颜色 ■ 开关部…

探讨Java代码混淆加固工具

摘要 本篇博客将介绍几种常用的Java代码混淆工具,如ProGuard、Allatori Java Obfuscator、VirboxProtector、ipaguard和DashO。我们将深入探讨它们的特点、功能以及在保护Java应用程序安全方面的作用。此外,还将强调在使用Java代码混淆工具时需要注意的…

C语言之小球下落问题

目录 一 简介 二 代码实现 三 时空复杂度 一 简介 在C语言中解决小球自由下落并弹跳的问题,可以通过循环和递归等方法来计算小球每次落地时的总路程以及第10次反弹的高度。问题描述如下: 一个球从100米高度自由落下,每次落地后反跳回原来…

RK3568笔记二十:PP-YOLOE部署测试

若该文为原创文章,转载请注明原文出处。 注:转换测试使用的是Autodl服务器,CUDA11.1版本,py3.8。 一、PP-YOLOE环境安装 创建环境 # 使用 conda 创建一个名为 PaddleYOLO 的环境,并指定 python 版本conda create -n…

(vue)新闻列表与图片对应显示,体现选中、移入状态

(vue)新闻列表与图片对应显示&#xff0c;体现选中、移入状态 项目背景&#xff1a;郑州院XX项目首页-新闻展示模块&#xff0c;鼠标移入显示对应图片&#xff0c;且体现选中和移入状态 首次加载&#xff1a; 切换列表后&#xff1a; html: <el-row :gutter"20"…

阶乘求和(第十四届蓝桥杯JavaB组省赛真题)

/ 10^9考虑前九位&#xff0c;% 10^9保留后9位 解题思路: 求获取结果的后九位数字&#xff0c;需要对10^9取余&#xff0c;因为202320232023这个数字的阶乘太大&#xff0c;必须要减少计算量&#xff0c;因为当一个整数乘以10^9后对其取余&#xff0c;那么结果都为0。 所以我…

【毕设级项目】基于ESP8266的家庭灯光与火情智能监测系统——文末源码及PPT

目录 系统介绍 硬件配置 硬件连接图 系统分析与总体设计 系统硬件设计 ESP8266 WIFI开发板 人体红外传感器模块 光敏电阻传感器模块 火焰传感器模块 可燃气体传感器模块 温湿度传感器模块 OLED显示屏模块 系统软件设计 温湿度检测模块 报警模块 OLED显示模块 …

FebHost:注册了新加坡.SG域名,还需要申请SSL证书吗?

在互联网飞速发展的今天&#xff0c;网站安全性已经成为评价一个网站是否专业、可靠的重要标准。对于注册了新加坡.SG域名的企业或个人而言&#xff0c;申请SSL证书不仅是保障网站数据安全的关键&#xff0c;更是提升网站在搜索引擎中排名的有效手段。 首先&#xff0c;SSL证书…

osgEarth学习笔记2-第一个Osg QT程序

原文链接 上个帖子介绍了osgEarth开发环境的安装。本帖介绍我的第一个Osg QT程序。 下载 https://github.com/openscenegraph/osgQt 解压&#xff0c;建立build目录。 使用Cmake-GUI Configure 根据需要选择win32或者x64&#xff0c;这里我使用win32. 可以看到include和lib路…

RK3568驱动指南|第二篇 字符设备基础-第13章 杂项设备驱动实验

瑞芯微RK3568芯片是一款定位中高端的通用型SOC&#xff0c;采用22nm制程工艺&#xff0c;搭载一颗四核Cortex-A55处理器和Mali G52 2EE 图形处理器。RK3568 支持4K 解码和 1080P 编码&#xff0c;支持SATA/PCIE/USB3.0 外围接口。RK3568内置独立NPU&#xff0c;可用于轻量级人工…

【go从入门到精通】select条件控制

作者简介&#xff1a; 高科&#xff0c;先后在 IBM PlatformComputing从事网格计算&#xff0c;淘米网&#xff0c;网易从事游戏服务器开发&#xff0c;拥有丰富的C&#xff0c;go等语言开发经验&#xff0c;mysql&#xff0c;mongo&#xff0c;redis等数据库&#xff0c;设计模…

MATLAB环境下基于振动信号的轴承状态监测和故障诊断

故障预测与健康管理PHM分为故障预测和健康管理与维修两部分&#xff0c;PHM首先借助传感器采集关键零部件的运行状态数据&#xff0c;如振动信号、温度图像、电流电压信号、声音信号及油液分析等&#xff0c;提取设备的运行监测指标&#xff0c;进而实现对设备关键零部件运行状…

复旦MBA GIP全球课程:数字化新趋势带来的机遇和挑战

复旦MBA站在商业教育变革前沿&#xff0c;联合世界顶级商学院开展长、中、短期的第二学位、海外交换及GIP全球课程&#xff0c;使同学们与世界紧密接轨&#xff0c;打破国界、专业和过往的边界&#xff0c;探索更广阔的未来可能。至今已有2000多名复旦MBA学生通过近60个GIP全球…