微软AI工程师向联邦贸易委员会(FTC)发出警告,对Copilot Designer的安全性表示担忧

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/

一位微软工程师正将该公司的AI图像生成器的安全性问题报告给联邦贸易委员会(FTC),据CNBC报道。Shane Jones,一位为微软工作了六年的员工,写信给FTC,表示微软“拒绝”下架Copilot Designer,尽管反复警告该工具能生成有害图片。

在对Copilot Designer进行安全问题和缺陷测试时,Jones发现该工具生成了“恶魔和怪物,以及与堕胎权利相关的术语、手持攻击步枪的青少年、女性性感化图像以及暴力场景、未成年人饮酒和吸毒”,CNBC报道。

此外,据报道,Copilot Designer生成了迪士尼角色的图片,如《冰雪奇缘》中的Elsa,在加沙地带的场景中,“在被摧毁的建筑物和‘解放加沙’的标志前。”它还创造了Elsa穿着以色列国防军制服,手持带有以色列国旗的盾牌的图片。The Verge使用该工具生成了类似的图片。

Jones自去年12月以来一直试图就Copilot Designer使用的DALLE-3模型向微软发出警告,CNBC表示。他在LinkedIn上发表了一封公开信,但据报道,他被微软的法律团队联系,要求他删除帖子,他遵从了。

“在过去的三个月里,我一直反复敦促微软将Copilot Designer从公共使用中移除,直到能够实施更好的安全措施,”Jones在CNBC获得的信中写道。“再次,他们未能实施这些更改,并继续向‘任何人,任何地方,任何设备’市场推广该产品。”

在对The Verge的声明中,微软发言人Frank Shaw表示,公司“致力于根据”微软的政策“解决所有员工的任何和所有担忧。”

“当涉及到可能对我们的服务或我们的合作伙伴产生潜在影响的安全绕过或关切时,我们已经建立了产品内用户反馈工具和健全的内部报告渠道,以适当地调查、优先处理和补救任何问题,我们建议员工利用这些工具,以便我们可以适当地验证和测试他的关切。”Shaw还说,微软“促成了与产品领导和我们负责任的AI办公室的会议,以审查这些报告。”

在一月份,Jones在Copilot Designer生成了泰勒·斯威夫特的显性图片后,这些图片迅速在X上传播,他向一组美国参议员写信表达了他的担忧。微软CEO Satya Nadella称这些图片“令人震惊且可怕”,并表示公司将致力于增加更多安全防护措施。上个月,谷歌在用户发现其自己的AI图像生成器创造了种族多样性的纳粹和其他历史不准确的图片时,暂时禁用了该生成器。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/731209.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

gitte上传项目操作

一、项目背景 打比赛,多个人合作,选择github,顺便了解下git的代码操作。 二、步骤 2.1 新建仓库 2.2 打开你要上传到库的项目 2.2 选择 Git Bash Here 输入指令 git init 2.3 查找github的仓库 2.2 将文件放入暂缓区 git add . 2.3填写…

LLM PreTraining from scratch -- 大模型从头开始预训练指北

最近做了一些大模型训练相关的训练相关的技术储备,在内部平台上完成了多机多卡的llm 预训练的尝试,具体的过程大致如下: 数据准备: 大语言模型的训练依赖于与之匹配的语料数据,在开源社区有一群人在自发的整理高质量的…

jeecgboot 新建子模块 使用@EXCEL实现实现导入导出功能

一,用框架生成增删改查模块 二,在实体类entity 需要导入导出的字段上加上注解Excel 三,在controller类上继承jeecgboot通用controller JeecgController 并且在JeecgController里增加导出模板的方法 /*** 导出excel空模板** param req…

专业140+总430+电子科技大学858信号与系统考研经验成电电子信息与通信工程,电科大,真题,大纲,参考书。

今年考研成绩出来,初试专业课858信号与系统140,总分430,其余各门分数都比较平稳,总分好于自己估分,应群里很多同学要求,我总结一下自己的复习经验。首先我是一个大冤种,专业课资料学长给了一套&…

挑战杯 基于深度学习的视频多目标跟踪实现

文章目录 1 前言2 先上成果3 多目标跟踪的两种方法3.1 方法13.2 方法2 4 Tracking By Detecting的跟踪过程4.1 存在的问题4.2 基于轨迹预测的跟踪方式 5 训练代码6 最后 1 前言 🔥 优质竞赛项目系列,今天要分享的是 基于深度学习的视频多目标跟踪实现 …

软考高级:系统工程生命周期方法(计划驱动方法、渐进迭代式方法等)概念和例子

作者:明明如月学长, CSDN 博客专家,大厂高级 Java 工程师,《性能优化方法论》作者、《解锁大厂思维:剖析《阿里巴巴Java开发手册》》、《再学经典:《Effective Java》独家解析》专栏作者。 热门文章推荐&am…

如何在Ubuntu系统部署DbGate数据库管理工具并结合cpolar内网穿透远程访问

文章目录 1. 安装Docker2. 使用Docker拉取DbGate镜像3. 创建并启动DbGate容器4. 本地连接测试5. 公网远程访问本地DbGate容器5.1 内网穿透工具安装5.2 创建远程连接公网地址5.3 使用固定公网地址远程访问 本文主要介绍如何在Linux Ubuntu系统中使用Docker部署DbGate数据库管理工…

web组态

演示地址 :by组态[web组态插件] 这是一款可以嵌入到任何项目组态插件,功能全面,可根据自己的项目需要进行二次开发,能大大的节省在组态上的开发时间,代码简单易懂。 一、数据流向图及嵌入原理 数据流向 嵌入原理 …

深度神经网络 基本知识 记录

资料:https://www.bilibili.com/video/BV1K94y1Z7wn/?spm_id_from333.337.search-card.all.click&vd_source14a476de9132ba6b2c3cbc2221750b99 计划:3~4天 注:网课讲的内容比较糅杂,记录的内容可能会出现重复 杂 人工智能…

<商务世界>《第8课 Leads——MQL——SQL——商机——成交》

1 各种概念 英文缩写概念Traffic流量Leads潜在客户,销售线索;简称潜在线索MQLMarketing-Qualified Leads市场认可线索SQLSales-Qualified Leads销售认可线索OPPOpportunity商机Account成单客户 2 线索到商机 一般企业会把自身线索进行如下的划分&…

【电工学笔记】上册第一、二章

电工学 上次考试败在了单位,这次单位 一定要记熟。 第一章 电源或信号源的电压或电流称为激励,它推动电路工作; 由激励所产生的电压和电流称为响应。 复杂电路中,一般无法事先判断某个支路电流的 实际方向或者某个电路元件电压的实际方向 140V/4算不出总电阻的 …

数据结构面试常见问题

数据结构面试常见问题 什么是 AVL 树?什么是红黑树?AVL 树和红黑树的区别?B 树和B 树的区别?排序有哪些分类?直接插入排序的原理?希尔排序的原理?直接选择排序的原理?堆排序的原理&a…

vue3的开发小技巧

「总之岁月漫长&#xff0c;然而值得等待。」 目录 父组件调用子组件函数如何访问全局api 父组件调用子组件函数 ref, defineExpose //父组件 代码 <child ref"ch">this.$refs.ch.fn();//子组件 函数抛出 const fn () > { }; defineExpose({ fn });如何…

考研复习C语言初阶(3)

目录 一.函数是什么? 二.C语言中函数的分类 2.1库函数 2.2自定义函数 三.函数的参数 3.1实际参数&#xff08;实参&#xff09; 3.2 形式参数&#xff08;形参&#xff09; 四.函数的调用 4.1 传值调用 4.2 传址调用 五. 函数的嵌套调用和链式访问 5.1 嵌套调用 5…

瑞芯微 | I2S-音频基础分享

1. 音频常用术语 名称含义ADC&#xff08;Analog to Digit Conversion&#xff09;模拟信号转换为数字信号AEC&#xff08;Acoustic Echo Cancellor&#xff09;回声消除AGC&#xff08;Automatic Gain Control&#xff09;自动增益补偿&#xff0c;调整MIC收音量ALSA&#xf…

Jmeter常用组件的使用场景

一.在一段时间内持续发送请求 此场景可以用于稳定性测试&#xff0c;在稳定性测试中&#xff0c;通常需要持续压测几个小时甚至几天时间&#xff0c;查看接口是否有报错&#xff0c;或者cpu、内存会上涨&#xff0c;此时就需要通过控制持续时间来达到此目的。 1.创建线程组&am…

基于SSM的校园疫情管理系统的设计与实现(有报告)。Javaee项目。ssm项目。

演示视频&#xff1a; 基于SSM的校园疫情管理系统的设计与实现&#xff08;有报告&#xff09;。Javaee项目。ssm项目。 项目介绍&#xff1a; 采用M&#xff08;model&#xff09;V&#xff08;view&#xff09;C&#xff08;controller&#xff09;三层体系结构&#xff0c;…

【网络层】IP多播技术的相关基本概念(湖科大慕课自学笔记)

IP多播 1&#xff1a;IP多播技术的相关基本概念 我们简单举例&#xff0c;如下图所示&#xff1a; 一共有60个主机要接受来自视频服务器的同一个节目&#xff0c;如果采用单播方式&#xff0c;则视频服务器要发送60份&#xff0c;这些视频节目通过路由器的转发&#xff0c;最…

CentOS7 利用remi yum源安装php8.1

目录 前言remi yum源remi yum源 支持的操作系统remi yum源 支持的php版本 安装epel源安装remi源安装 php8.1查看php版本查看php-fpm服务启动php-fpm服务查看php-fpm服务运行状态查看php-fpm服务占用的端口查看 php8.1 相关的应用 前言 CentOS Linux release 7.9.2009 (Core) …

[Angular 基础] - Observable

[Angular 基础] - Observable 之前的笔记&#xff1a; [Angular 基础] - service 服务[Angular 基础] - routing 路由(上)[Angular 基础] - routing 路由(下) 我以前对 Observable 的理解是 Promise 的一个超集&#xff0c;重新了解了一下&#xff0c;感觉这个说法不太对。更…