大模型算法备案流程最详细说明【流程+附件】

 

文章目录

一、语料安全评估

二、黑盒测试

三、模型安全措施评估

四、性能评估

五、性能评估

六、安全性评估

七、可解释性评估

八、法律和合规性评估

九、应急管理措施

十、材料准备

十一、【线下流程】大模型备案线下详细步骤说明

十二、【线上流程】算法备案填报流程及重难点分析

十三、大模型备案时间成本对比

十四、备案建议

附录、过程性材料

大模型评估流程图

预约网信办拿材料,网信办收材料后可能让企业演示其模型功能,询问相关问题,提出修改意见,提供api测试接口去技术人员测试,提出测试意见,再修改报送材料。 里面需要特别注意的就是那么几个基本地方,需要企业注意,ai标识,模型协议,投诉举报机制,反馈渠道路径等等。 给网信办材料的时候还要加一个模型介绍,要写到模型的功能,企业的简介,商业模式,技术优势,这个介绍写一页就行了,企业自拟格式。 下面详细说明大模型备案全流程的重点:

一、语料安全评估:

(一)评估内容

(1)文本训练语料规模 训练语料存储规模,按文本格式存储时的语料大小。 训练语料数量,按词元 (Token) 计数。

(2)各类型语料规模 训练语料中的中文文本、英文文本、代码、图片、音频、 视频及其他语料的规模。

(3)训练语料来源 训练语料来源的组成情况,按照开源语料、自采语料、商业语料进行分类。 境外开源网站语料内中文文本、英文文本、代码、图片、音频、视频及其他语料的规模。 自采语料内中文文本、英文文本、代码、图片、音频、视频及其他语料的规模。 商业语料内中文文本、英文文本、代码、图片、音频、视频及其他语料的规模。

(4)语料标注数量 语料标注的数量,仅限文本和图片,按标注单元计数, 通常按条数、张数。

(5)标注人员情况 标注人员的数量,标注人员的类型,通常包括内部、外包。 标注人员培训时间、培训数量等情况。

(6)标注规则 按照《生成式人工智能服务管理暂行办法》第四条要求制定的标注规则。

(7)标注内容准确性核验 标注内容准确性人工核验比例。

(8)语料合法性 语料来源合法性情况。 语料是否包含侵害他人知识产权内容。 语料是否包含违法违规的个人信息内容。

(二)评估结论

评估结论应包括以下内容:

(1)语料是否符合《生成式人工智能服务管理暂行办法》相关规定,是否含有违反我国法律法规明确禁止的内容。

(2)语料中包含个人信息语料的数量、种类,是否符合《生成式人工智能服务管理暂行办法》规定。

(3)因语料产生知识产权纠纷的风险分析。

(4)防范语料安全风险的措施和建议。

二、黑盒测试

1)功能需求验证: 确保模型能够按照预期执行任务,对各种类型的输入产生正确和合理的输出。

2)用户界面测试: 针对用户界面的测试,确保界面的易用性和一致性。

3)输出验证: 检查模型的输出是否符合预期,是否满足业务需求

*确保模型在不同输入情况下能够按预期执行任务,输出准确、符合预期。包括功能需求的验证,测试模型的各个功能点是否符合设计要求。

三、模型安全措施评估

(1)模型适用人群、场合、用途 服务的适用人群,是否适用未成年人、学生等。 适用场合,是否适用关键信息基础设施、自动控制、医疗信息服务、心理咨询等。 服务范围,是否限定或未限定特定领域。

(2)服务过程中收集保存个人信息情况 服务过程中收集保存个人信息情况,包括个人信息的类型、数量、用途以及保存期限。

(3)收集个人信息征得个人同意情况 收集个人信息征得个人同意的方式。

(4)受理处理使用者查阅、复制、更正、补充、删除个人信息请求的情况 受理处理的条件以及途径方法。

(5)图片、视频标识情况 标识的样式,按1:1 比例贴入。 标识在图片、视频中的具体位置。 标识频度,如每帧、跳帧等。

(6)接受公众或使用者投诉举报情况 接受公众或使用者投诉举报的途径及反馈方式。

(7)服务协议情况 上述1至6内容是否已经写入模型服务协议。

(8)非法内容拦截措施 监看人员的数量。 预置关键词拦截情况,并提供预置关键词拦截列表。 分类模型的检测情况,说明分类模型研制情况和准确性。

(9)拒答率 拒绝回答或者以简单模板回答数量占总测试数量的比率。

(10)模型更新、升级 在何种情况下重新进行预训练,如较频繁发现生成非法

四、性能评估

1)响应时间: 测试模型在不同负载下的响应时间,确保在合理时间内完成任务。

2)资源消耗: 评估模型对内存、计算资源等的消耗情况,确保资源利用合理。 *测试模型的性能,包括响应时间、内存消耗、计算资源占用等。确保模型能够在可接受的时间范围内完成任务,并且对资源的利用合理。

五、稳定性评估

1)长时间运行: 测试模型在持续运行下的稳定性,避免内存泄漏、性能下降等问题。

2)大规模数据输入: 模拟大规模数据输入,检验模型对此的稳定性和性能。

六、安全性评估

1)隐私保护: 确保模型的输出不会侵犯用户隐私,对个人敏感信息进行隐私保护。

2)防止攻击: 测试模型对恶意攻击或异常输入的鲁棒性,确保模型不易受到攻击。

七、可解释性评估

1)对模型的输出进行解释和验证,确保模型的决策是可解释和可信的,避免模型黑盒化带来的问题。

八、法律和合规性评估

1)隐私法规遵守: 确保模型遵循隐私法规,不违反用户隐私和数据使用规定。

2)合规性检查: 确保模型在使用中符合相关行业法规和标准,避免违规操作。 *参考《生成式人工智能服务暂行管理办法》

九、应急管理措施

1)采取防范计算机病毒、网络攻击、网络入侵等技术措施。

2)制定网络安全应急处置预案并且开展应急演练,保存演练记录材料。

3)警用接口建设。

十、材料准备

安全评估报告

模型服务协议

语料标准规则

拦截关键词列表

评估测试题库

拒答测试题库

网络安全管理制度及操作规程

应急处置预案和记录材料

用户投诉举报处理 用户管理制度

个人信息安全保护

安全培训制度

网络安全负责人任命书

十一、【线下流程】大模型备案线下详细步骤说明

第一步:企业向当地网信办申请大模型备案,先确认模型是否需要进行备案(有些只是用开源做微调的,这种小模型一般做算法备案就好,算法备案也简单,具体情况跟网信办确认,不同地区的网信办要求也会有差异)

第二步:填写《生成式人工智能上线备案表》,准备自评估报告材料,评估点参考表格里面提到的6个点进行撰写,每个点进行评估的方法、风险点及应急策略,报告尽量详细点(具了解得知监管应该会偏向专业的第三方进行评估,选择第三方要找在“中国信息安全评测中心”获得资质的企业,这里推几个含金量较高的资质供参考。信息安全服务资质(安全工程类一、二级)、 信息安全服务资质(风险评估一、二级)、并且具有ISO27001、CCRC更好)

第三步:当地网信会将报告递交中央网信技术管理局进行审核

第四步:网安多个支队对工作流程及大模型进行上门检查。检查点非常多很多企业被卡主在这 第

五步:等结果

十二、【线上流程】算法备案填报流程及重难点分析

1、填报入口 登陆互联网信息服务算法备案系统(以下简称备案系统)进行填报, 系统首页如图 1 所示。

图 1 备案系统首页(示意图)

2、填报流程 填报人员需首先注册并登陆备案系统,具体步骤可参考该系 统信息公告中的《互联网信息服务算法备案系统使用手册》。登 录后的主页面如图 2 所示。

图 2 主页面(示意图)

        深度合成备案填报包括三个步骤:一是填报主体信息;二是填报算法信息;三是关联产品及功能信息或填报技术服务方式;四是线下审核。 “深度合成服务提供者”(以下简称“服务提供者”)角色 的填报人员需关联产品及功能信息,“深度合成服务技术支持者” (以下简称“服务技术支持者”)角色的填报人员需填报技术服务方式。其中,“服务提供者”是指提供深度合成服务的组织、 个人;“服务技术支持者”是指为深度合成服务提供技术支持的 组织、个人。填报流程如图 3 所示。

图 3 填报流程(示意图)

(一)主体信息填报 填报人员可点击主页的“主体信息”进行主体信息填报,按 照备案主体的实际情况如实填写主体的基本信息、证件信息、法定代表人信息、算法安全责任人信息等内容,并下载附件模板,严格按照模板要求填写并上传《算法备案承诺书》和《落实算法安全主体责任基本情况》附件。主体信息填报页面如图 4 所示。

图 4 主体信息填报页面(示意图)

(二)算法信息填报 填报人员可点击主页的“备案信息”进行算法信息填报。算 法信息填报包括两个步骤:一是填写算法基础属性信息;二是填写算法详细属性信息。

(1)填写算法基础属性信息 填报人员需选择“生成合成(深度合成)”算法类型,根据实际情况选择“服务提供者”或“服务技术支持者”填报角色。 填报人员需下载页面中的模板,按照模板内容填写并上传《算法安全自评估报告》《拟公示内容》等附件。算法基础属性信息填报页面如图 5 所示。

图 5 算法基础属性信息填报页面(示意图)

(2) 填写算法详细属性信息 填报人员可参考当前填报页面右方的说明文字,根据实际情况填写算法数据、算法模型、算法策略和算法风险与防范机制等信息。填报时,如需中途退出,可点击页面下方的“保存至草稿箱”,保存当前已填写的内容,便于后续继续填写。算法详细属性信息填报页面如图 6 所示。

图 6 算法详细属性信息填报页面(示意图)

(三)产品及功能信息或技术服务信息填报 在关联产品及功能信息或填报技术服务方式时,“服务提供者”角色的填报人员需关联产品及功能信息,“服务技术支持者” 角色的填报人员需填报技术服务方式。

(1)关联产品及功能信息 “服务提供者”角色的填报人员需根据实际情况勾选应用当前备案算法的产品及功能。需要注意的是,若勾选产品,则表示当前备案算法应用于该产品下所有功能;若勾选功能访问路径,则表示当前备案算法应用于该路径下所有功能;若勾选特定功能,则表示当前备案算法仅应用于被勾选的功能。勾选产品页面如图 7 所示。

图 7 勾选产品页面(示意图)

若当前产品及功能信息不完善,即产品及功能不能覆盖当前备案算法的关联范围,填报人员可点击该界面下方的“保存至草 稿箱”按钮,返回主页并点击主页的“产品及功能信息”完善相应的产品及功能信息。产品及功能信息填报页面如图 8 所示。

图 8 产品及功能信息填报页面(示意图)

待产品及功能信息完善后,算法备案填报人员可通过草稿箱返回至“备案信息”页面继续进行算法信息填报。其中,草稿箱的进入方式有两种:一是点击主页右上角用户昵称,在下拉菜单中选择“草稿箱”;二是点击主页“备案信息”按钮,从备案信息界面中进入“草稿箱”。

(2)填报技术服务方式 “服务技术支持者”角色的填报人员需根据实际情况填写当前备案算法的技术服务方式信息,包括技术服务名称、技术访问方式、技术服务对象、技术服务频度等。填报技术服务方式页面如图 9 所示。

图 9 填报技术服务方式页面(示意图)

(四)提交备案信息 算法备案填报人员在确认填报信息无误后,应勾选页面下方的“我承诺上述填报信息真实有效”,并点击提交按钮,完成算法备案申报。确认信息页面如图 10 所示。

图 10 确认信息页面(示意图)

十三、大模型备案时间成本对比

自己写

提供备案服务

时间成本

不确定。涉及学习时间和反复修改时间。学习难度大,需要从头学习并理解相关法规和要求,揣度得分要点。审核流程不够透明,需要反复试错,自己备案没有经验。自己写的话,备案审核时长平均8个月,驳回一次等3个月,可能会影响产品上线。

快的话2-3个月拿到备案号

人力成本

需要同时具备算法研发、AI、安全、法务专业经验的人员。需要组织跨部门联合小组共同推进。

只需要少量算法技术配合,公司资质配合等简单工作

通过率

不确定,可能会影响产品上线

只要产品、数据合规,就可以过

花费

N个月*M个人*每月人力成本

远低于自己探索的成本

十四、备案建议

1、是否需要专业指导

        在详细了解算法备案申报要求和规则基础上,可选择自己做,如果不了解,会造成申报材料反复出错被打回,增加试错的时间成本,严重延缓获得备案号的时间。

2、提升通过率

        没有绝对的通过率高低之分,备案取决于模型和数据是否合规合法,只要申报材料能完整、如实描述,有完整的制度、策略、流程规避安全风险,理论上都是可以通过的。区别在于一次性快速通过,还是多次修改最终通过。

附录、过程性材料

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/876389.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

实战:Redis实现排行榜、点赞和关注功能的基本操作

Redis是一款高性能的内存数据库,以其极快的读写速度和丰富的数据结构广泛应用于各种互联网服务中。本文将介绍如何基于Redis实现排行榜、点赞和关注功能,并提供相应的代码示例。 实战:Redis性能测试、调优和使用规范-CSDN博客 规范&#xf…

QT vs2019编译报错LNK2019无法解析的外部符号

严重性 代码 说明 项目 文件 行 禁止显示状态 错误 LNK2019 无法解析的外部符号 "public: __cdecl Dialog_Setting::Dialog_Setting(class QWidget *)" (??0Dialog_SettingQEAAPEAVQWidgetZ),函数 "public: __cdecl QtWid…

网络安全-华为华三交换机防火墙日志解析示例

DEF_SYSLOG_SWITCH_HUAWEI.py 华为交换机日志解析示例 # -*- coding: utf8 -*- import time from DEF_COLOR import * ## 终端显示颜色def 时间戳_2_时间文本(时间戳, 时间文本格式%Y-%m-%d %H:%M:%S):#时间文本格式 %Y-%m-%d %H:%M:%S时间类 time.localtime(时间戳)时间…

KingbaseES8(人大金仓数据库)备份还原

KingbaseES8(人大金仓数据库)备份还原 1.用户角色备份 sys_dumpall -U system -r -f backup_AAAAAA/user.sql2.数据库备份 sys_dump -h ip -p 端口 -U 用户 –F c -f 备份路径/xxx.dmp 库名 sys_dump -h 127.0.0.1 -p 54321 -U system -F c -f backup_AAAAAA/AAAAAA.dmp A…

C# 连接SQLServer操作数据库问题

C#联合SQLServer开发时连接数据库报错connection 连接问题 报错信息: This operation requires a connection to the ‘master’ database. Unable to create a connection to the ‘master’ database because the original database connection has been opened a…

工业现场实测,焦化厂导烟车与装煤车风机实现无人作业

一、项目背景 作为我国重要的能源行业之一,焦化行业在国民经济中扮演着重要角色,焦化工艺是高温、高压、有毒物质等因素共同作用下进行的,因此存在着安全隐患,并伴有环境污染,改善焦化工艺的安全和环保问题是当前亟待…

Docker 安装指南

🍁 作者:知识浅谈,CSDN签约讲师,CSDN博客专家,华为云云享专家,阿里云专家博主 📌 擅长领域:全栈工程师、爬虫、ACM算法 🔥 微信:zsqtcyw 联系我领取学习资料 …

Golang | Leetcode Golang题解之第287题寻找重复数

题目: 题解: func findDuplicate(nums []int) int {slow, fast : 0, 0for slow, fast nums[slow], nums[nums[fast]]; slow ! fast; slow, fast nums[slow], nums[nums[fast]] { }slow 0for slow ! fast {slow nums[slow]fast nums[fast]}return s…

React--Action Creators

在 Redux 中,Action Creators 是专门用于创建 actions 的函数。它们简化了生成 actions 的过程,使得代码更易读和可维护。 什么是 Action Creators Action 是一个普通的 JavaScript 对象,描述了对 Redux store 状态的某种变化。通常它具有一…

分布式搜索引擎ES-DSL搜索详解

1.DSL搜索-入门语法 建立索引: xxx(自定义名称) 自定义mapping: POST /shop/_mapping {"properties": {"id": {"type": "long"},"age": {"type": "integer"},"username": {&quo…

Springboot 多数据源事务

起因 在一个service方法上使用的事务,其中有方法是调用的多数据源orderDB 但是多数据源没有生效,而是使用的primaryDB 原因 spring 事务实现的方式 以 Transactional 注解为例 (也可以看 TransactionTemplate, 这个流程更简单一点)。 入口:ProxyTransa…

前端缓存策略

Service Worker (https) 使用 Service Worker 可以实现离线功能和缓存策略,使你的 Web 应用在没有网络连接时也能正常运行。下面是一个详细的步骤和示例代码,展示如何使用 Service Worker 实现这一功能。 步骤 注册 Service Worker安装 Se…

PHP框架中的数据加密实践:确保数据安全的艺术

引言 数据加密是保护敏感信息不被未授权访问的关键技术。在PHP框架中实现数据加密不仅可以增强应用的安全性,也是遵守数据保护法规的必要措施。本文将深入探讨在PHP框架中实现数据加密的方法,包括加密算法的选择、密钥管理、以及如何在应用程序中集成加…

Java语言程序设计——篇九(1)

🌿🌿🌿跟随博主脚步,从这里开始→博主主页🌿🌿🌿 内部类 概述内部类—内部类的分类成员内部类实战演练 局部内部类实战演练 匿名内部类实战演练 静态内部类实战演练 概述 内部类或嵌套类&#…

java pdf转base64图片工具类

java pdf转base64图片工具类 依赖工具类 依赖 <dependency><groupId>org.apache.pdfbox</groupId><artifactId>pdfbox</artifactId><version>2.0.13</version></dependency>工具类 import org.apache.pdfbox.pdmodel.PDDocume…

组串式逆变器发展趋势

组串式逆变器单机功率不断增加 组串式逆变器的单体容量一般在100KW以下&#xff0c;在行业发展初期&#xff0c;一般以较小功率的组串式逆变器为主&#xff0c;随着功率模块等技术的不断发展&#xff0c;市场领先企业不断研发和推出单机功率较大的组串式逆变器。 随着单机功率的…

【攻防演练】【含poc和修复建议】海康威视综合安防管理平台 远程命令执行漏洞

使用防护类设备进行防护&#xff0c;限制访问/center/api/installation/detection 路径&#xff0c;拦截请求中出现的恶意命令注入 POST /center/api/installation/detection HTTP/1.1 Host: User-Agent: Mozilla/5.0 (Macintosh; Intel Mac Os X 10 12_6) AppleWebKit/537.36…

sheng的学习笔记-AI-公式-指数加权移动平均(EWMA)

AI目录&#xff1a;sheng的学习笔记-AI目录-CSDN博客 基础知识 指数加权移动平均&#xff08;Exponential Weighted Moving Average&#xff09;&#xff0c;是一种常用的序列处理方式 看例子&#xff0c;首先这是一年365天的温度散点图&#xff0c;以天数为横坐标&#xff0…

牛客AB5 | 点击消除

描述 牛牛拿到了一个字符串。 他每次“点击”&#xff0c;可以把字符串中相邻两个相同字母消除&#xff0c;例如&#xff0c;字符串"abbc"点击后可以生成"ac"。 但相同而不相邻、不相同的相邻字母都是不可以被消除的。 牛牛想把字符串变得尽可能短。他想知…

操作系统概念(黑皮书)阅读笔记

操作系统概念&#xff08;黑皮书&#xff09;阅读笔记 进程和内存管理部分章节 导论&#xff1a; 操作系统类似于政府&#xff0c;其本身不能实现任何有用功能&#xff0c;而是提供一个方便其他程序执行有用工作的环境 ​ 个人理解&#xff1a;os是government的作用&#xff0…