启明星辰发布MAF大模型应用防火墙产品,提升DeepSeek类企业用户安全

2月7日,启明星辰面向DeepSeek等企业级大模型业务服务者提供的安全防护产品——天清MAF(Model Application Firewall)大模型应用防火墙产品正式发布。

一个新赛道将被开启……

DeepSeek的低成本引爆赛道规模

随着DeepSeek成为当前最热的现象级产品,中国企业级大模型市场将迎来爆发。DeepSeek模型对“中国企业级私有化大模型发展趋势的预测”,做出了如下回复:

1、垂直行业模型即服务(MaaS)生态成型:到2026年将形成覆盖30+重点行业的基准模型库,能源、法律、医疗等领域的专用模型参数规模将突破500亿级别。

2、边缘-云协同架构普及:5G+边缘计算推动分布式模型推理部署,预计2025年60%的制造企业将采用车间级边缘模型节点+总部云脑的混合架构。

3、国产化技术栈闭环:中国将形成从训练框架到推理芯片的完整国产化替代方案。

4、智能体工程方法论成熟:企业级模型开发将向DevOps模式演进,出现专业的大模型MLOps平台,实现从数据治理到模型监控的全生命周期管理。

企业级大模型服务的广泛部署,安全风险也伴随而来,主要风险包括提示词注入攻击、大模型软件供应链漏洞、应用层拒绝服务攻击、敏感信息泄露&不安全的输出处理等。大模型的产业化、广泛可达的前提之一就需要有效解决上述各类风险。

在DeepSeek爆发之前,基于大模型的对外服务还多是“大厂”的势力范围;而DeepSeek的优秀品质和超低成本,使得能够基于开源的DeepSeek构建自身以大模型为核心的业务服务,成为了所有企业机构的可选项。简言之,DeepSeek的低成本让提供“基于大模型的业务服务”的机构数量暴增。进而也使得“大模型安全”的需求,从少量“大厂”的内化需求,变成了一个可观的安全市场新赛道。

而在“大模型安全”这个新赛道中,以前的一些故事会再度重演:防火墙、IPS、WAF、WAAP等,现在轮到MAF —— “大模型应用防火墙”这个产品唱主角了。

MAF是从WAF进化来的新物种

本次启明星辰发布的“天清MAF大模型应用防火墙”是专注于为企业级大模型服务提供应用层安全防护能力的专属安全产品,是开拓新赛道的开创式产品。

MAF的产品承继了WAF产品的基本形态。从产品形态和功能角度看,MAF是沿着防火墙、IPS、WAF这一脉络,自然进化而成的。相比于WAF,MAF针对大模型所面临的特有威胁,拓展了专门的检测能力和防护功能。MAF不仅仅能防护DeepSeek大模型,也能防护其他语言大模型。MAF主要强化的功能包括:

一、越狱、提示词注入攻击防护

大模型服务面临的提示词攻击(Prompt Injection Attack)是当前生成式AI安全领域的核心挑战之一。攻击者通过精心设计的输入文本,诱导模型突破预设的安全边界,产生包括数据泄露、恶意代码生成、虚假信息传播等风险。天清MAF大模型应用防火墙通过对大模型服务包含的网页、手机应用及API访问流量的深度解析,并通过运行一系列基于人工智能的检测算法,识别提示词注入尝试和其他滥用行为,确保输入内容符合模型所有者定义的边界,实现对恶意提示词攻击的有效识别和防护。

二、大模型软件供应链漏洞防护

大模型服务作为大型IT应用/IT基础设施,其整个系统由大量开源/商业软件构成,这些软件不可避免地会出现逻辑漏洞,这些组件漏洞如果出现在大模型服务的暴露面,则可能会为攻击者提供传统的SQL注入、命令注入等攻击突破口。天清MAF大模型应用防火墙内置了国内领先的应用层防护规则/语义算法,并针对大模型软件供应链的主流组件提供了专属防护规则,为大模型服务提供虚拟补丁功能,有效防护各类针对大模型暴露面的软件漏洞攻击。

三、应用层DDos拒绝服务攻击缓解


大模型服务不但面临着传统的网络层拒绝服务攻击(启明星辰&中国移动可提供从骨干网清洗到本地抗拒绝服务网关等整套解决方案),还面临着特定的应用层拒绝服务攻击,如恶意批量注册、密码爆破、僵尸网络应用层脚本攻击等。天清MAF大模型应用防火墙针对上述应用层拒绝服务攻击,提供包括密码防爆破、BOT机器人流量识别和管理、客户端区域访问控制、终端/API限流保护等一系列功能,为大模型服务提供完整的应用层抗拒绝服务攻击能力。

四、不安全输出过滤&敏感信息防泄露

以DeepSeek为代表的新一代大模型已从模型训练层面部分规避了上述问题,但随着提示词工程、强化学习、检索增强生成等技术的广泛应用,企业大模型服务/智能体服务不可避免地面临额外的不安全输出及敏感信息泄露问题。天清MAF大模型应用防火墙通过对输入输出数据的全面解析,可有效识别、封堵、脱敏各类不安全输出或敏感信息输出,确保大模型服务合规运行。

MAF适配各种部署模式和业务场景

基于DeepSeek开源模型的业务部署模式会非常多样化。MAF大模型应用防火墙部署的逻辑位置,总是要保证在大模型访问接口之前。在云-网-边-地-端的基本空间架构下,云上部署、边缘云部署、本地网络部署都是可能的部署位置。下图展示了最典型的四种部署结构:

1、本地网络模型前硬件部署

2、本地网络模型前、应用界面后硬件部署

3、云上环境模型前部署

4、边缘云中路径部署(SASE环境等)

云上部署、边缘云部署的MAF产品,都可以提供运营服务保障。

MAF的一些一句话论断


1、MAF是低成本DeepSeek带来的成规模的新产品赛道;

2、MAF将成为AI大模型安全领域的第一个刚需和爆品;

3、MAF因大模型成为应用“前脸”的主流而成为应用安全的主流;

4、MAF可以防护DeepSeek,也可以防护其他大模型;

5、MAF的抗D能力比大模型服务器要强,但也需要运营商的抗D服务来保护;

6、MAF能有效防御提示词越狱攻击,但其也要走一个“魔高、道高”的对抗迭代过程;

7、MAF是可以用大模型来保护大模型的,但大模型的在线性能会低于其他方法;

8、MAF是全范式的,综合运用特征匹配和模式匹配(第二范式)、大数据分析(第四范式)、大模型分析(第五范式)来完成检测;

9、MAF是外挂式、外围式安全机制,可以避免与所保护的大模型深度定制,有较广泛的产品适应性;

10、MAF是外挂式、外围式安全机制,与大模型自身的安全训练、电子围栏等内生式、内置式安全机制是互补共存的关系;

11、MAF可以是产品,也可以是MAF安全运营服务;

12、MAF可以本地网络部署,也可以云上部署、边缘云部署(SASE);13、MAF可以部署于移动云,也可以部署于其他云化环境;

14、MAF的性能可以在云环境中弹性扩展;

15、MAF当下的形态不是最佳形态、最终形态,MAF还在进化中;

16、MAF是一个有价值的赛道;

... ...

MAF的未来

随着以DeepSeek为代表的国产大模型能力不断提升,企业级大模型服务也将成为“无处不在的企业基础设施”,为未来的社会智能化建设带来了巨大的推动力。

MAF大模型应用防火墙将成为大模型安全领域的第一个刚需和爆品。

从MAF未来的市场需求前景看,随着AI大模型继续发展,做大模型应用堪比做Web网站那么容易的时候;当前和过往以Web为应用“前脸”的格局将被颠覆,大模型将成为主流应用的核心和“前脸”。这时,MAF大模型应用防火墙作为WAF的进化新品,将成为应用防火墙AF的新主力产品。

从MAF未来的技术能力发展看,其技术增强至少有以下几个方向:


1、MAF用大模型来防护大模型,并让大模型与检测特征沉淀形成良性迭代以降低总体防御算力消耗;

  1. MAF将利用平行仿真(第三范式)来拓展其能力;
  2. MAF带宽和时延等性能指标,将决定了MAF的应用范围(比如,是否适合高实时要求环境);
  3. MAF对于多模态等非语言输入的大模型的防护是重要方向;
  4. MAF未来一定是一个联通安全大数据情报通层的互联智能体;

……

启明星辰将以天清MAF大模型应用防火墙产品为起点,提供完整的企业级大模型安全防护解决方案,助力各行各业打造更加智能、便捷、高效的大模型产品和服务,助力中国向实现社会普遍智能的目标迈进。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/895199.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

day10-字符串

目录 字符串1、API 和 API 帮助文档2、String概述3、String构造方法代码实现 和 内存分析3.1 创建String对象的两种方式3.2 Java的内存模型 4、字符串的比较4.1 号的作用4.2 equals方法的作用 练习5、用户登录6、遍历字符串和统计字符个数7、字符串拼接和翻转8、较难练习-金额转…

使用git commit时‘“node“‘ 不是内部或外部命令,也不是可运行的程序

第一种: 使用git commit -m "xxx"时会报错,我看网上的方法是在命令行后面添加--no-verify:git commit -m "主题更新" --no-verify,但是不可能每次都添加。 最后解决办法是:使用git config --lis…

DeepSeek从入门到精通:全面掌握AI大模型的核心能力

文章目录 一、DeepSeek是什么?性能对齐OpenAI-o1正式版 二、Deepseek可以做什么?能力图谱文本生成自然语言理解与分析编程与代码相关常规绘图 三、如何使用DeepSeek?四、DeepSeek从入门到精通推理模型推理大模型非推理大模型 快思慢想&#x…

使用OBS推流,大华摄像头 srs服务器播放

说明: ffmpeg可以推流,但是是命令行方式不太友好,还可以使用主流的OBS开源推流软件,可从官网Open Broadcaster Software | OBS 下载最新版本,目前很多网络主播都是用它做直播。该软件支持本地视频文件以及摄像头推流。…

从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧:安全可观测体系建设刻不容缓

作者:羿莉(萧羿) 全球出圈的中国大模型 DeepSeek 作为一款革命性的大型语言模型,以其卓越的自然语言处理能力和创新性成本控制引领行业前沿。该模型不仅在性能上媲美 OpenAI-o1,而且在推理模型的成本优化上实现了突破…

mac下dify+deepseek部署,实现私人知识库

目前deepseek 十分火爆,本地部署实现私有知识库,帮助自己日常工作,上一篇使用工具cherry studio可以做到私人知识库。今天学习了一下,使用Dify链接deepseek,实现私人知识库,也非常不错,这里分享…

react概览webpack基础

react概览 课程介绍 webpack 构建依赖图->bundle 首屏渲染: 减少白屏等待时间 数据、结构、样式都返回。需要服务器的支持 性能优化 ***webpack干的事情 模块化开发 优势: 多人团队协作开发 可复用 单例:全局冲突 闭包 模块导入的顺序 req…

常见的九种二极管

常见的九种二极管 文章目录 常见的九种二极管1、普通二极管2、光电二极管(LED)3、变容二级管4、发光二极管5、恒流二极管6、快恢复二极管(FRD)7、肖特基二极管8、瞬态电压抑制二极管(TVS)9、齐纳二极管(稳压&#xff0…

LabVIEW在呼吸机测试气体容量计算

在呼吸机测试中,精确测量气体容量变化是评估设备性能的关键步骤。通过监测呼吸机气道内的压力变化,并结合流阻和肺顺应性等参数,可以计算出单位时间内的气体容量变化。本案例基于LabVIEW实现该计算过程,以确保测试数据的准确性和一…

本地部署DeepSeek R1 + 界面可视化open-webui

本地部署DeepSeek R1 界面可视化open-webui ollama是物理机本地安装 open-webui是容器启动 另外,用docker 部署ollama也很方便ollama docker 安裝部署ollama ollama官网 安装 Linux上安装: curl -fsSL https://ollama.com/install.sh | sh使用命令行管理 拉…

使用C语言实现MySQL数据库的增删改查操作指南

使用C语言与MySQL数据库进行交互,通常涉及使用MySQL提供的C API库。这套API允许开发者在C/C++程序中执行SQL查询,从而实现数据库的增删改查操作。下面,我将详细介绍如何在C语言中实现这些基本操作。 准备工作 安装MySQL开发库:确保你的系统上安装了MySQL服务器以及MySQL开发…

在CT107D单片机综合训练平台上实现外部中断控制LED闪烁

引言 在单片机开发中,外部中断是一个非常重要的功能,它可以让单片机在检测到外部信号变化时立即做出响应。本文将详细介绍如何在CT107D单片机综合训练平台上使用外部中断来控制LED灯的闪烁。我们将使用两种不同的方式来实现这一功能:一种是在…

重磅发布!AI 驱动的 Java 开发框架:Spring AI Alibaba

*本文作者系阿里云云原生微服务技术负责人,Spring AI Alibaba 发起人彦林,望陶和隆基对可观测和 RocketMQ 部分内容亦有贡献。 * 摘要 随着生成式 AI 的快速发展,基于 AI 开发框架构建 AI 应用的诉求迅速增长,涌现出了包括 Lang…

防御保护作业二

拓扑图 需求 需求一: 需求二: 需求三: 需求四: 需求五: 需求六: 需求七: 需求分析 1.按照要求进行设备IP地址的配置 2.在FW上开启DHCP功能,并配置不同的全局地址池,为…

MapReduce简单应用(三)——高级WordCount

目录 1. 高级WordCount1.1 IntWritable降序排列1.2 输入输出格式1.3 处理流程 2. 代码和结果2.1 pom.xml中依赖配置2.2 工具类util2.3 高级WordCount2.4 结果 参考 本文引用的Apache Hadoop源代码基于Apache许可证 2.0,详情请参阅 Apache许可证2.0。 1. 高级WordCo…

智慧机房解决方案(文末联系,领取整套资料,可做论文)

智慧机房解决方案-软件部分 一、方案概述 本智慧机房解决方案旨在通过硬件设备与软件系统的深度整合,实现机房的智能化管理与服务,提升机房管理人员的工作效率,优化机房运营效率,确保机房设备的安全稳定运行。软件部分包括机房管…

(五)Spring Boot学习——spring security +jwt使用(前后端分离模式)

一定要熟悉spring security原理和jwt无状态原理,理解了才知道代码作用。 在 Spring Security JWT 认证流程中,通常的做法是: 用户提交用户名和密码Spring Security 认证管理器 (AuthenticationManager) 进行认证如果认证成功,生…

清华DeepSeek手册:从入门到精通(网页版便于阅读)

目录 一、产品概述二、清华DeepSeek从入门到精通三、PDF文件路径 一、产品概述 DeepSeek是国产领先的人工智能技术平台,提供从数据分析到大型语言模型的全栈解决方案。其核心产品包括网页端数据分析工具[1] 、视觉语言模型(DeepSeek-VL)[2] 和670亿参数大型语言模型…

阿里云百炼初探DeepSeek模型调用

阿里云百炼初探DeepSeek模型调用 阿里云百炼为什么选择百炼开始使用百炼方式一:文本对话方式二:文本调试方式三:API调用 DeepSeek调用1、搜索模型2、查看API调用3、开始调用安装依赖查看API Key运行以下代码 4、流式输出 总结 阿里云百炼 阿…

【网络安全】服务器安装Docker及拉取镜像教程

文章目录 1. 安装 Docker2. 拉取镜像3. 运行 Ubuntu 容器4. 执行相关操作5. 退出并停止容器1. 安装 Docker # 更新软件包索引 sudo apt update# 安装必要的依赖 sudo apt install -y ca-certificates curl gnupg