与变异风险词赛跑 阿里探索AI治理网络风险

最近,阿里安全一线风控小二可粒发现,在禁售的风险防控库里,有人试图“上新”新品种,不法份子借助在社交媒体上走红的“魔法改运”等说辞,引人入玄学骗局。

尽量提前发现风险问题,提早布防是阿里安全风控部门的日常工作。“但是,风险对抗是不断升级的,各类风险词不断变异试图躲避各家平台管控,如果单靠人力防控,只会是杯水车薪。”可粒说。

针对类似具有行业共性的风险治理难题,业界和学界推动以技术创新探索网络风险治理。今年中国中文信息学会语言与知识计算专业委员会主办了“CCKS 2021通用百科知识图谱实体类型推断”比赛,邀请国内283支队伍参赛。12月25日,比赛结果出炉,阿里安全升级包含封建迷信、软色情、野生动植物保护、血腥暴力等重难点风险治理域在内的AI技术获得第一名。
在这里插入图片描述
图说:“CCKS 2021通用百科知识图谱实体类型推断”竞赛公布获奖情况

阿里安全高级风控专家杜衡介绍,阿里安全在平台部署了上述新升级的新一代安全架构核心AI能力,让AI对风险商品进行“联想”,以此对抗突发新增、变异的风险商品。此前阿里风控平台对多类风险商品出台了明确的管理规则,进行了禁售规范,今年绿网计划则针对相关风险词,上线了科普宣导。

虽然该AI技术在竞赛的公开数据集上获得了突出的成果,但据阿里安全反馈,技术应用在真实环境中遇到了更多难题。

阿里安全算法工程师科蓝解释,第一个难点是商家发现相关风险词被平台管控后,立马试图用新词代替,为了让AI的能力跟上变异的节奏,甚至提前布防,AI会基于风险防控经验以及公共新闻事件等,自动挖掘一些新词,并对这些词进行扩充解释,让AI系统理解这些词的真正含义和匹配的风险场景,最后候选风险词还要经过运营的人工校验。

“相当于你在跟一个不断易容、换衣服的人赛跑,他跑着跑着就换一层皮,你得找准对手,不停地往前跑。”科蓝说,目前依靠AI自动搜寻生产的非正常风险词汇,最终被人工运营审核后的采纳率为60%,逐步降低了人工寻找新风险词的成本,同时尽量提升覆盖更多风险区域的效率。

第二个难点是,除了风险词变异速度快,平台发现有些商家会以正常商品介绍的“外套”引导消费者到其他社交工具上进行沟通和成交。

“这种情况比较难以通过某种技术防控,一方面我们通过各种渠道向商家进行合规知识的宣导,一方面也希望互联网平台联合起来,针对此类风险共同探索合作治理机制。”杜衡说。

该AI目前升级覆盖到17个风险场景。阿里安全资深算法专家薛晖介绍,阿里安全在加大技术治理风险场景的投入,比如建立人工智能治理与可持续发展的新型实验室,与顶尖高校联合发起“安全AI挑战者计划”等项目,培养实战型AI人才。

“要强调的是,AI技术不是万能的,平台遇到各种风险变异与挑战也正说明,治理多类风险场景将是持续的博弈,但使用技术进行风险治理是其中一个发展方向,我们还在继续提升AI联想的准确率,希望依靠科技创新构建更清朗的平台环境,探索如何更好地解决大众遇到的网络安全风险问题。”薛晖说。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/512698.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

手机网页播放器php,html5手机移动端视频播放代码插件

js代码//document.documentElement.style.overflowhidden;document.body.style.overflowhidden;zymedia(video,{autoplay: true});var screenheight window.screen.height/2;$("#modelView").width(window.screen.width);$("#modelView").height(window.s…

高效研发运维体系构建的流程和方法论

简介: 云计算产品大多都会与云原生发生关联,云原生正在重塑整个软件的生命周期。但到底什么是云原生?云原生带来的最大技术创新和未来机会是什么?围绕云原生,是否可以构建出一套云上的开发&运维体系,打…

Colima:MacOS 上的极简容器运行时和 Kubernetes

作者 | Addo Zhang来源 | 云原生指北Colima 是一个以最小化设置来在MacOS上运行容器运行时和 Kubernetes 的工具。支持 m1,同样也支持 Linux。Colima 的名字取自 Container on Lima。Lima 是一个虚拟机工具,可以实现自动的文件共享、端口转发以及 contai…

当容器应用越发广泛,我们又该如何监测容器?

简介: 随着容器技术蓬勃发展与落地推行,越来越多企业的业务运行于容器中。作为主流部署方式之一,容器将团队的任务和关注点分割开,开发团队只需关注应用程序逻辑和依赖项,而运维团队只需关注部署和管理,无需…

lamp安全审计之php代码审计_paper,PHP实战开发及代码审计之PHP代码审计

{getUnitName}{getLessonName}敬请期待免费{getTaskName}剩余观看时长:{watchLimitRemaining}回放{activityStartTimeStr}正在直播中直播结束{activityLength}免费{getTaskName}敬请期待{"id": "1619","isDefault": "1",&q…

内含福利|CSDN携手字节跳动:云原生Meetup北京站报名热烈启动,1月8日见!

伴随云原生技术的成熟与落地,越来越多框架、中间件等开源项目相继涌现,帮助开发者和企业有效解决业务问题。2022年1月8日,CSDN携手字节跳动基础架构,将在北京举办第四场云原生线下Meetup。在这里,您可以与众多开源技术…

Flink CDC 2.0 正式发布,详解核心改进

简介: 本文由社区志愿者陈政羽整理,内容来源自阿里巴巴高级开发工程师徐榜江 (雪尽) 7 月 10 日在北京站 Flink Meetup 分享的《详解 Flink-CDC》。深入讲解了最新发布的 Flink CDC 2.0.0 版本带来的核心特性,包括:全量数据的并发…

php里的utf-8编码,php – 修复损坏的UTF-8编码

我正在修复一些糟糕的UTF-8编码.我目前正在使用PHP 5和MySQL.在我的数据库中,我有一些不良编码的实例,如:ƒ>数据库排序规则是utf8_general_ci> PHP正在使用正确的UTF-8标头>记事本设置为使用不带BOM的UTF-8>数据库管理在phpMyAdmin处理>并非所有重音…

unity三维地图的经纬度如何在二维地图上表示_接入C++版本recastnavigation寻路库到Unity/服务端中...

前言因为Unity版本的更新迭代,老版本的A*插件在新版本Unity已经无法正常使用,包括一些运行时代码也已经过时,重新接入要花费很多时间,干脆接入一个新的寻路方案吧。这里选择的是久负盛名的https://github.com/recastnavigation/re…

Dataphin功能:集成——如何将业务系统的数据抽取汇聚到数据中台

简介: 数据集成是简单高效的数据同步平台,致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力,为数据中台的建设打好坚实的数据基座。 数据中台是当下大数据领域最前沿的数据建设体系, 它并不是从零开始, 无中…

5G专网,路在何方?

作者 | 蜉蝣采采来源 | 无线深海话说你平常打电话、刷视频、玩游戏的4G和5G,一般也被叫做“公网”。这个“公”字的含义正是公开,公用的意思。也就是说,这个网络,不但你能用,你隔壁的张三也能用,张三的老乡…

如何开发 Node.js Native Add-on?

简介: 来一起为 Node.js 的 add-on 生态做贡献吧~ 作者 | 吴成忠(昭朗)这篇文章是由 Chengzhong Wu (legendecas),Gabriel Schulhof (gabrielschulhof) ,Jim Schlight (jimschlight),Kevin Eady,Michael Dawson (mhdaw…

php范式,数据库三范式,轻松理解_PHP教程

网上搜罗了一大堆关于数据库范式理解的文章,都是千律一篇的复制粘贴,连例子都是一模一样,拜托有点创意好不,实在看不下去,自己写一篇个人理解三范式的文章。如果有理解上的不正确之处,请联系我:…

xxl子任务_XXL-JOB v2.1.2 发布,分布式任务调度平台

v2.1.2 Release Notes1、方法任务支持:由原来基于JobHandler类任务开发方式,优化为支持基于方法的任务开发方式;因此,可以支持单个类中开发多个任务方法,进行类复用XxlJob("demoJobHandler")public ReturnT …

程序员如何在业余时间提升自己?

简介: 在自省过程中,我们经常会问自己这么几个问题,这段时间我尝试了什么新事物、有了什么变化、得到什么成果。 近年来,出现越来越多“自主学习”、“业余提升" 的相关话题。 我们经常收到一些同学提问:程序员…

百度打造AIR智能道路系统,可降低90%交通事故

12月27日,百度Create 2021(百度AI开发者大会)在“希壤”APP召开,百度创始人、董事长兼CEO李彦宏在演讲中介绍了AIR(AI Road)智能道路系统。作为软硬一体的路端“自动驾驶系统”, AIR智能道路系统…

java jdbc 连接mysql数据库,Java 通过JDBC连接Mysql数据库

JDBC(Java Data Base Connectivity,java数据库连接)是一种用于执行SQL语句的Java API,可以为多种关系数据库提供统一访问,它由一组用Java语言编写的类和接口组成。JDBC提供了一种基准,据此可以构建更高级的工具和接口,使数据库开发…

云原生演进趋势下传统数据库升级实践

简介: 在数字化背景下,我们有许多思考。数据库跟以前那有什么不一样呢?什么是所谓的云原生数据库呢?作为使用数据库的开发者,对数据库的需求有什么变化?如今使用数据库我们一般会提什么样的诉求&#xff1f…

不小心把桌面进程结束了怎么办_微信不小心把天聊死怎么办?试试这3招,分分钟结束“尬聊”...

微信不小心把天“聊死”怎么办?试试这3招,分分钟结束“尬聊”!我现在坐的各位小伙伴们应该都会有以下这种经历吧,那就是你明明和一个人好好的在聊天,但突然不小心把天聊死了,其实遇到这种情况下小伙伴千万不…

openGauss汇聚创新力量,共同打造最具创新力的数据库开源社区

[中国,北京,2021年12月28日] 今天,以“汇聚数据库创新力量 逐梦数字时代星辰大海”为主题的openGauss summit 2021在北京线上线下同步举办。大会现场,openGauss开源社区理事会和技术委员会升级,openGauss社区分委会正式…