在人工智能(AI)技术的快速发展浪潮中,AI安全已成为全球关注的焦点。为应对AI安全带来的挑战,确保AI技术的健康发展,全球范围内的研究机构、企业和技术社区都在积极探索解决方案。
在这一背景下,CSA大中华区于2023年9月成立了AI安全工作组,汇集了来自中国电信、蚂蚁集团、电子科技大学、华为、百度安全、京东安全等机构的专家,致力于构建一个多方参与、共同治理的AI安全生态系统。
CSA大中华区在AI安全领域开展了多项研究工作并取得显著成果。先后发布了《ChatGPT的安全影响》、《AI安全白皮书》、《全球人工智能治理宣言》等研究成果;与OpenAI、亚马逊、谷歌、微软等行业巨头合作,共同发起了AI安全倡议。此外,由CSA大中华区牵头,联合 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软等数十家单位的多名专家学者共同编写的《生成式AI应用安全测试标准》和《大模型安全测试方法》两项国际标准,在第27届联合国科技大会(联合国科技领域的最高级别会议)上由世界数字技术院(WDTA)发布。这是国际组织首次在生成式AI应用安全、大模型安全领域发布国际标准,为业界提供了统一的测试基准。
此次《AI安全产业图谱(2024)》由CSA大中华区发起,旨在系统收集和分析在AI安全领域活跃的各企业和组织的信息,提供一个全面的AI安全行业概览,为后续研究工作、产业发展、政策制定以及企业用户建设提供参考和支持。
调研对象:
面向AI领域的技术提供商、服务供应商、科研院所、高校及其他相关企业单位。
申报流程:
参与单位需自主填写问卷进行申报。CSA大中华区的专家评审团将对提交的资料进行评选和审核,选出符合的单位入选《AI安全产业图谱(2024)》,图谱将于2024年第三季度发布。
申报通道:
添加CSA微信,获取AI安全产业图谱(2024)调研问卷:
微信:csagcr
问卷截止日期:
2024年5月15日
调研内容
《AI安全产业图谱(2024)》包括以下4个大类,20个小类
一、 AI内生安全
○数据安全
○模型安全
○供应链安全
二、 AI赋能安全
○威胁检测与响应
○身份认证和行为分析
○反欺诈与风险控制
○恶意行为检测
○物联网安全
○安全托管服务(MSS)
○AI SecOps
○其他
三、 AI安全服务
○安全咨询
○评估/审计/认证/测评
○安全培训
四、 AI安全研究
○AI安全标准制定
○AI前沿技术研究
○创新技术应用及成果转化
○AI伦理与合规治理
○隐私保护
CSA大中华区AI安全系列活动
产业图谱
《AI安全产业图谱(2024)》现正式启动,将于2024年第三季度发布。
线下大会
CSA大中华区将于2024年7月在香港举办与AI安全、数据安全等热点话题相关的安全峰会,邀请CSA大中华区成员、国际研究机构、科技龙头企业及图谱入围单位线下参会,共议AI安全。
访谈调研
CSA大中华区将对图谱部分入围单位的创始人、技术专家进行深度专访,并报道其AI安全相关的产品和服务。
AI安全认证培训课程
CSA大中华区将于7月发布针对个人的AI安全认证培训课程,入选图谱的单位且是CSA大中华区成员单位,将有机会获得首期班培训名额。
行业研究
CSA大中华区将与各成员单位开展研究合作,持续发布AI安全领域的深度研究报告,包括AI模型可信度研究报告、安全开发by AI白皮书、人工智能和安全状况调查报告等。
CSA大中华区AI安全神兽方阵项目预告
《AI安全神兽方阵报告》-分析报告
在AI安全产业图谱的基础上,CSA大中华区将发布《AI安全神兽方阵报告》。报告将分析和总结AI安全领域国内外的技术发展、市场容量、前景及国外企业的发展状况。
往期神兽方阵报告
AI安全神兽方阵-榜单奖项
CSA大中华区将基于原创的神兽方阵模型对AI安全企业的技术领先性、产品成熟度、市场影响力等维度进行综合分析评估,提供综合性的评价,并在神兽方阵中予以形象的定位展示和供市场参考的能力排行。
往期神兽方阵入选企业表彰
第八届云安全联盟大中华区大会-会议活动
《AI安全神兽方阵报告》将在第八届云安全联盟大中华区大会上发布,在大会上对入选AI安全神兽方阵的企业进行荣誉表彰,并提供平台给优秀企业进行品牌展示、宣讲推广与合作对接。
欢迎各方加入CSA大中华区,积极参与CSA大中华区AI安全相关工作,共赴安全、可信、负责任的AI时代新征程。