爱荷华州的一个学区正在使用ChatGPT来决定禁止哪些书籍

在这里插入图片描述
为了响应爱荷华州最近颁布的立法,管理员们正在从梅森市学校图书馆移除禁书,官员们正在使用ChatGPT帮助他们挑选书籍,根据公报和大众科学.

由州长金·雷诺兹签署的禁令背后的新法律是教育改革浪潮的一部分,共和党立法者认为这是保护学生免受有害和淫秽材料影响的必要措施。具体来说,参议院496号文件根据爱荷华州法规702.17,要求学校图书馆提供给学生的每本书都是“适合年龄”的,没有任何“性行为的描述或视觉描绘”。

但管理员表示,禁书是一项艰巨的工作,因此他们需要依靠机器智能在法律规定的三个月时间内完成这项工作。“阅读每本书并过滤这些新要求是完全不可行的,”该学区的助理主管Bridgette Exman在公报引用的一份声明中说。“因此,我们正在使用我们认为是合理的过程来确定应该在23-24学年开始时从藏书中删除的书籍。”

该学区分享了他们的方法:“我们从几个来源收集了一些常见的有争议的书籍,以创建一个应该被评论的书籍的主列表。这个主列表上的书籍被过滤掉了,以寻找与性内容相关的挑战。使用人工智能软件来审查这些文本,以确定它是否包含对性行为的描述。基于这一审查,有19个文本将从我们7-12学校图书馆的收藏中删除,并存储在行政中心,同时我们等待进一步的指导或澄清。我们还会让老师检查教室图书馆的藏书。”

不适合这个目的

随着ChatGPT的发布,它已经被越来越多地常见到的人工智能助手延伸到它的能力——以及阅读它的不准确的输出被人类接受,因为自动化偏差,即倾向于过度信任机器决策。在这种情况下,这种偏见对管理员来说更加方便,因为他们可以将决策的责任传递给AI模型。然而,机器并不具备做出这种决定的能力。

大型语言模型,如那些权力ChatGPT,不是无限智慧的神谕,他们做了穷人的事实参考。他们是易于谈心信息,而这些信息不在他们的培训数据中。即使数据存在,他们的判断也不能代替人类——尤其是在法律、安全或公共健康方面。

“这是一个提示ChatGPT的完美例子,它几乎肯定会产生令人信服但完全不可靠的结果,”人工智能研究员西蒙·威廉森说,他经常写道大型语言模型,告诉Ars。“一本书是否包含对性行为的描述,这个问题只能由看过这本书全文的模型来准确回答。但是OpenAI不告诉我们ChatGPT接受了什么训练,所以我们无法知道它是否看到了有问题的书的内容。"

ChatGPT的训练数据不太可能包括每本有问题的书的完整文本,尽管这些数据可能包括关于该书内容的讨论的参考文献——如果这本书足够有名的话——但这也不是准确的信息来源。

“根据ChatGPT看到的互联网片段,我们可以猜测它可能如何回答这个问题,”威廉森说。“但缺乏透明度让我们在黑暗中工作。会不会是和书中人物有关的网络同人小说混淆了?对作者有怨恨的人在网上写的误导性评论怎么样?”

事实上,即使通过其他人的粗略测试,ChatGPT也被证明不适合这项任务。在向ChatGPT询问潜在禁书名单上的书籍时,科普发现不均衡的结果有些显然不符合已实施的禁令。

即使官员们假设将每本书的文本输入到最长的ChatGPT版本中上下文窗口32K令牌模型(令牌是单词块),它不可能一次考虑大多数书的整个文本,尽管它可能能够按块处理它。即使确实如此,人们也不应该在没有验证的情况下就相信这个结果是可靠的——无论如何,这需要一个人去读这本书。

“具有讽刺意味的是,负责教育的人没有足够的知识来批判性地确定哪些书是好的或不好的,可以纳入课程,却把这个决定外包给一个无法理解书籍,也根本无法批判性思考的系统,”玛格丽特·米歇尔博士说,首席伦理学家科学家在拥抱脸,告诉Ars。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/46164.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

OLED透明屏案例:揭示技术创新的无限可能性

OLED透明屏作为一项创新性技术,在各个领域展现出了令人惊叹的应用潜力。 那么,尼伽便通过介绍一些具体的OLED透明屏案例,探索其在智能家居、汽车行业、商业展示、航空航天、教育与培训以及医疗健康等领域的成功应用。 这些案例将展示OLED透明…

下线40万辆,欧拉汽车推出2023款好猫尊荣型和GT木兰版

欧拉汽车是中国新能源汽车制造商,成立于2018年。截至目前,已经下线了40万辆整车,可见其在市场的影响力和生产实力。为了庆祝这一里程碑,欧拉汽车推出了品牌书《欧拉将爱进行到底》,在其中讲述了欧拉汽车的发展历程和未…

ORB-SLAM2学习笔记9之图像帧Frame

先占坑,明天再完善… 文章目录 0 引言1 Frame类1.1 成员函数1.2 成员变量 2 Frame类的用途 0 引言 ORB-SLAM2学习笔记8详细了解了图像特征点提取和描述子的生成,本文在此基础上,继续学习ORB-SLAM2中的图像帧,也就是Frame类&#…

VBA技术资料MF44:VBA_把数据从剪贴板粘贴到Excel

【分享成果,随喜正能量】人皆知以食愈饥,莫知以学愈愚,生命中所有的不期而遇都是你努力的惊喜.人越纯粹,就越能感受到美。大江、大河、大海、大山、大自然,这些风景从来都不会受“属于谁”的污染,人人都感受到它们的美…

搭建Everything+cpolar在线资料库,实现随时随地访问

Everythingcpolar搭建在线资料库,实现随时随地访问 文章目录 Everythingcpolar搭建在线资料库,实现随时随地访问前言1.软件安装完成后,打开Everything2.登录cpolar官网 设置空白数据隧道3.将空白数据隧道与本地Everything软件结合起来总结 前…

MySQL索引常见术语(索引下推、索引覆盖、最左匹配等)

一:背景 我们在面试中都知道,对于MySQL索引是必问的。大家也应该都知道MySQL的数据结构,什么是索引。其中在面试中,面试官也经常问,你做过哪些优化?本文主要是介绍MySQL索引的一些常见术语,比如索引下推、索引覆盖、最左匹配等,这些其实也是MySQL优化的一部分,能够熟练…

Docker修改daemon.json添加日志后无法启动的问题

docker实战(一):centos7 yum安装docker docker实战(二):基础命令篇 docker实战(三):docker网络模式(超详细) docker实战(四):docker架构原理 docker实战(五):docker镜像及仓库配置 docker实战(六):docker 网络及数据卷设置 docker实战(七):docker 性质及版本选择 认知升…

了解 JSON 格式

一、JSON 基础 JSON(JavaScript Object Notation,JavaScript 对象表示法)是一种轻量级的数据交换格式,JSON 的设计目的是使得数据的存储和交换变得简单。 JSON 易于人的阅读和书写,同时也易于机器的解析和生成。尽管 J…

Go语言基础之基本数据类型

Go语言中有丰富的数据类型,除了基本的整型、浮点型、布尔型、字符串外,还有数组、切片、结构体、函数、map、通道(channel)等。Go 语言的基本类型和其他语言大同小异。 基本数据类型 整型 整型分为以下两个大类: 按…

聚焦电力行业CentOS迁移,麒麟信安受邀参加第六届电力信息通信新技术大会暨数字化发展论坛并发表主题演讲

为加快推进“双碳”目标下的新型能源体系和新型电力系统建设,深化新一代数字技术与电力业务的融合发展,促进电力行业关键技术自主创新、安全可控,助力电力企业数字化转型升级和高质量发展,2023年8月9-11日,第六届电力信…

实现el-table两列多选框且不可同时勾选

1、效果图如下&#xff0c;功能&#xff1a;必修和选修不可同时勾选 2、代码如下 <template><el-table :data"addTableData" style"width: 100%"><el-table-column label"必修" width"55px" align"center"…

AIGC音视频工具分析和未来创新机会思考

编者按&#xff1a;相较于前两年&#xff0c;2023年音视频行业的使用量增长缓慢&#xff0c;整个音视频行业遇到瓶颈。音视频的行业从业者面临着相互竞争、不得不“卷”的状态。我们需要进行怎样的创新&#xff0c;才能从这种“卷”的状态中脱离出来&#xff1f;LiveVideoStack…

AndroidAGP8.1.0和JDK 17迁移之旅

AndroidAGP8.1.0和JDK 17迁移之旅 前言&#xff1a; 由于我最近写demo的直接把之前的项目从AGP4.2.2升级到8.1.0引发了一些列问题&#xff0c;这里记录一下&#xff0c;前面讲解过迁移DSL方式遇到的问题&#xff0c;这次升级8.1.0也比之前顺利多了&#xff0c;想看DSL迁移的可…

交互消息式IMessage扩展开发记录

IMessage扩展简介 iOS10新加入的基于iMessage的应用扩展&#xff0c;可以丰富发送消息的内容。&#xff08;分享表情、图片、文字、视频、动态消息&#xff1b;一起完成任务或游戏。&#xff09; 简单的将发送的数据内型分为三种&#xff1a; 1.贴纸Stickers&#xff1b; 2.交…

动态内存管理详解

动态内存管理 1.前言 目前来回顾一下想要在内存中开辟空间有哪些方法&#xff1f; 创建变量&#xff1a; int a 0;//在栈上开辟了4字节的空间创建数组&#xff1a; int arr[10] { 0 };//在栈上开辟40字节的空间 但是这两种开辟方式都有两个特点&#xff1a; 开辟的内存空间…

安装搭建私有仓库 Harbor

目录 一. 准备环境 1.1安装 Docker 1.2安装 Docker Compose 二. 下载 Harbor 安装包 三. 解压安装包 四. 配置 Harbor 五. 安装 Harbor 六. 访问 Harbor 七. 创建项目、用户和角色 一. 准备环境 确保您的服务器满足 Harbor 的系统要求。最低要求是至少 2 核 CPU、4GB…

Azure应用程序网关

文章目录 什么是应用程序网关实战演练创建虚拟网络创建虚拟机创建应用程序网关测试搭建结果 什么是应用程序网关 Azure应用程序网关是一种托管服务&#xff0c;用于提供安全、可缩放的 Web 应用程序前端点的应用程序传送控制和保护。它可以通过 SSL 终止、cookie 基于会话持久…

【计算机网络八股】计算机网络(一)

目录 计算机网络的各层协议及作用&#xff1f;TCP和UDP的区别&#xff1f;UDP 和 TCP 对应的应用场景是什么&#xff1f;详细介绍一下 TCP 的三次握手机制&#xff1f;为什么需要三次握手&#xff0c;而不是两次&#xff1f;为什么要三次握手&#xff0c;而不是四次&#xff1f…

[C语言]分支语句和循环语句

[C语言]分支语句和循环语句 文章目录 [C语言]分支语句和循环语句C语言语句分类分支语句if语法结构else的匹配规则switch语句switch语句中的breakswitch语句中default 循环语句while循环while循环中的break和continuefor循环for循环中的break和continuefor循环的变种do while循环…

广告牌安全传感器,实时监测事故隐患尽在掌握

在现代城市中&#xff0c;广告牌作为商业宣传的重要媒介&#xff0c;已然成为城市中一道独特的风景线。然而&#xff0c;随着城市迅速发展&#xff0c;广告牌的安全问题也引起了大众关注。广告招牌一般悬挂于建筑物高处&#xff0c;量大面大。由于设计、材料、施工方法的缺陷&a…