美财长耶伦警告:金融行业广泛应用AI带来潜在“重大风险”

内容概述

耶伦承认,人工智能用在金融领域可降低交易成本、提高效率、检测欺诈和增加服务可及性,但也伴随风险。AI模型的复杂性和不透明度、供应商高度集中、产生数据缺陷或偏见等AI相关风险,已成为美国金融监管机构的首要议题。

6月6日周四,美国财政部长耶伦出席了金融稳定监督委员会(FSOC)有关人工智能与金融稳定的会议,并在开幕致辞中警告金融机构使用人工智能技术的潜在风险。

有分析称,这是耶伦迄今为止对人工智能作出的最广泛评论。据一位美国财政部官员向媒体透露,耶伦本人也尝试用过人工智能聊天机器人。

上述委员会在2008年金融危机之后由美国财政部牵头其他监管机构成立。本次为期两天的会议与美国智库布鲁金斯学会合办,“美国版银监会”货币监理署OCC的负责人也会发表讲话。

会议主题是讨论金融服务领域使用AI带来的潜在系统性风险,并分享鼓励创新与有效监管的洞察。与会者包括监管部门,科技公司、保险公司和资产管理机构的高管,以及学者和银行代表。

耶伦眼中的金融业利用AI“重大风险”:头寸过于拥挤,放大市场波动?

耶伦在演讲中透露,人工智能与金融稳定是拜登政府高度重视的话题,“在未来几年只会变得更加重要”。金融公司使用人工智能带来的“巨大机遇和重大风险”已成为美国财政部和金融稳定监督委员会的首要议题

耶伦承认,人工智能为金融系统提供了巨大机遇,例如通过AI的预测能力进行投资组合管理,利用AI检测异常的能力来打击欺诈和非法融资,客服也开始实现自动化。在最新的发展中,自然语言处理、图像识别和生成式人工智能有助于金融服务成本更低和更易于获取:

“我们看到,如果使用得当,人工智能可以提高效率、准确性和金融产品的可及性。”

但她同时警告称,金融机构使用AI在促进机遇的同时伴随着“重大风险”(significant risks):

“特定的脆弱性可能源于人工智能模型的复杂性和不透明性,风险管理框架不足以应对人工智能风险,以及由于许多市场参与者依赖相同的数据和模型而出现的相互关联特征。

开发模型、提供数据和云服务的供应商集中度过高,也可能会加剧现有的第三方服务提供商风险。数据不足或有缺陷则可能延续现有的偏见或引入新的金融决策偏见。”

有分析指出,耶伦意在警告,如果许多投资者都依赖于产生相同结果的AI工具,这可能导致某些热门交易的仓位押注拥挤,从而加剧市场上行或下行的走势。

同时,如果只有少数几家公司有能力提供AI模型,一旦其中一家公司出现问题,许多金融机构可能受到波及。更别提AI模型有时会产生有偏差或者歧视性的结果,但耶伦没提AI系统产生错误答案的“幻觉”问题。

美国财政部也在利用AI打击金融犯罪,FSOC去年首次警告AI对金融体系构成威胁

有美国财政部官员透露,FSOC正在努力探究人工智能如何对金融系统构成威胁,包括加大力度监控人工智能在金融行业的使用情况。

耶伦承认,美国财政部早就在利用AI技术来打击非法金融行为,例如检测洗钱、恐怖主义融资和逃避制裁等“我们面临的一些最大风险”,美国国税局则用AI来增强逃税的欺诈检测能力。

未来,美国政府和金融监管机构将继续扩大利用最新技术的能力、深入了解AI在金融服务领域的用例,并将公开征求市场参与者、消费者、学者和社会公众对金融领域AI应用的意见。

美国财政部还将举办人工智能和保险行业的圆桌会议,讨论保险公司如何防止AI造成贷款歧视等潜在的消费者保护措施,并将同美国国内与国际的金融监管机构定期对话,共同探究和监测AI对国际金融体系和全球经济的影响。

耶伦提到,除了促进信息共享和对话之外,金融稳定监督委员会及其成员机构将加强AI监管能力,在已有风险管理指导框架的基础上,还会引入“场景分析”(scenario analysis)的方法:

 “鉴于人工智能技术发展迅速,金融公司和市场参与者的潜在用例也在快速演变,场景分析可以帮助监管机构和企业识别未来潜在的脆弱性,并告诉我们可以采取哪些措施来增强抵御能力。”

去年12月,美国金融稳定监督委员会在2023年度报告中首次警告称“人工智能对金融体系构成潜在威胁”,将人工智能在金融服务领域的广泛应用视为一个“新兴弱点”,AI可能带来的某些风险包括网络安全、合规和用户隐私保护等问题。

在报告中,监管机构还提到了对ChatGPT等生成式AI模型“复杂性”的担忧,除了这些模型可能会产生“幻觉”而提供有缺陷的结果之外,一些人工智能系统像是外部人员无法洞察的“黑箱运作”,令评估系统概念是否合理变得困难,进而增加对其适用性和可靠性的不确定风险。

例如,监管机构担心,如果银行依赖“神秘的”人工智能模型,就很难理解其底层系统到底有多安全。AI系统也可能产生并掩盖有偏见或不准确的结果,导致公平借贷等消费者保护问题。

耶伦也在本次演讲中援引了FSOC年报,称美国财政部希望解决与人工智能相关的直接运营风险、网络安全和欺诈挑战。去年的年报特意指出:

“随着人工智能方法的复杂性增加,错误和偏见会变得更加难以识别和纠正,这凸显了AI技术开发者、使用该技术的金融行业公司,以及监管这些公司的监管机构必须保持警惕。”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/23851.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

2024年全国青少信息素养大赛图形化编程挑战赛集训第一天编程题分享

大家如果不想阅读前边的比赛内容介绍,可以直接跳过:拉到底部看集训第一天题目 (一)比赛内容: 【小学低年级组】 1、图形化编程软件的使用:熟悉图形化编程软件中舞台区、角色列表区、功能区、脚本编 -3- 辑区的功能及使用。 2、基础功能模块的使用: a.运动模块:角…

Spring Boot 开发 -- 集成 Prometheus 进行高效监控

引言 随着微服务架构的流行,对服务的监控和管理变得尤为重要。Prometheus作为一个开源的监控和告警工具,以其强大的数据采集、存储和查询能力,受到了众多开发者的青睐。Spring Boot作为Java领域快速构建微服务的框架,与Prometheu…

linux c 求取MD5 转char 输出

要将MD5摘要转换为可打印的十六进制字符串&#xff08;char数组&#xff09;&#xff0c;可以使用sprintf函数来实现。以下是修改后的代码&#xff1a; #include <stdio.h> #include <stdlib.h> #include <string.h> #include <openssl/md5.h>void ca…

单轮对话和多轮对话

参考&#xff1a;数据集对应关系说明 - 千帆大模型平台 | 百度智能云文档 (baidu.com) 什么是单轮对话 单轮对话和多轮对话是两种不同的对话形式&#xff0c;它们分别指的是在一次对话中只涉及一个问题和对应的回答&#xff0c;以及在一次对话中涉及多个问题和对应的回答。 …

暑假打工兼职首选——千行赏金

考虑暑假打工兼职该怎么选&#xff1f;加入千行赏金这样的平台确实是一个值得考虑的选择。以下是一些关于此问题的分析&#xff1a; 首先&#xff0c;暑假打工兼职的好处是显而易见的。它不仅可以为学生提供一定的经济收入&#xff0c;减轻家庭的经济负担&#xff0c;还可以帮…

【教程】从0开始搭建大语言模型:文本预处理

从0开始搭建大语言模型&#xff1a;文本预处理 参考仓库&#xff1a;LLMs-from-scratch 理解Word embedding 深度神经网络模型&#xff0c;包括LLM&#xff0c;不能直接处理原始文本&#xff0c;因此需要一种方法将它转换为连续值的向量&#xff0c;也就是embedding。如下图…

深入理解 Spring Boot 启动原理

本文将从以下几个方面进行详细阐述&#xff1a; Spring Boot 启动过程概述BeanFactory 初始化Bean 的实例化和依赖注入Aware 接口的设置Bean 的初始化单例 Bean 的后处理Spring 启动后的后处理启动 HTTP 流量入口 一、Spring Boot 启动过程概述 Spring Boot 的启动过程可以分…

长轮询之websocket

官方文档 背景 WebSocket 是一种在单个 TCP 连接上进行全双工通信的协议,它是为了解决 HTTP 协议存在的一些问题而产生的。WebSocket 的产生背景主要包括以下几点: HTTP 协议的局限性 HTTP 协议是一种请求-响应模型,客户端发起请求,服务端返回响应。这种模型存在一些问题,如…

等级保护测评与风险评估:构建网络安全的双重保障

# 等级保护测评与风险评估&#xff1a;构建网络安全的双重保障 在网络信息技术飞速发展的今天&#xff0c;网络安全问题日益成为社会关注的焦点。等级保护测评和风险评估作为网络安全管理的两个重要环节&#xff0c;对于确保信息系统的安全稳定运行具有重要意义。本文将探讨等级…

Stage #15深度解析:十六进制编码在XSS绕过中的应用

Stage #15深度解析&#xff1a;十六进制编码在XSS绕过中的应用 在网络安全领域&#xff0c;跨站脚本攻击&#xff08;XSS&#xff09;是一种常见的网络攻击手段。随着Web应用安全防护措施的不断完善&#xff0c;攻击者需要更高级的技术来绕过这些防护。本文将详细介绍如何利用…

1782java英语陪学记词系统Myeclipse开发mysql数据库web结构java编程计算机网页项目

一、源码特点 java英语陪学记词系统 是一套完善的web设计系统&#xff0c;对理解JSP java编程开发语言有帮助采用了java设计&#xff0c;系统具有完整的源代码和数据库&#xff0c;系统采用web模式&#xff0c;系统主要采用B/S模式开发。开发环境为TOMCAT7.0,Myeclipse8.5开发&…

AI大底座核心平台:百度百舸AI异构计算平台(AI IaaS)与AI中台(AI PaaS)

AI大底座正是整合了以上端到端全要素技术能力&#xff0c;将基础架构IaaS与应用平台PaaS能力深度融合&#xff0c;面向企业和产业AI生 产与应用的全生命周期提供完整解决方案。 百舸AI异构计算平台是AI IaaS层的核心平台&#xff0c;包括AI计算、AI存储、AI加速、AI容器四层套件…

win磁盘映射到linux

有时虚拟机磁盘不够或文件想存在本地但使用linux环境&#xff0c;可以使用磁盘映射 1.windows磁盘映射&#xff0c;指定文件win_share进行文件共享&#xff0c;右键属性共享 2.linux 新建映射目录win_share 3.在linux进行挂载 sudo mount -t cifs //win7ip地址/win_share /hom…

【k8s的三种探针】

一、探针类型 作用&#xff1a;容器内应用的监测机制&#xff0c;根据不同的探针来判断容器应用当前的状态。 k8s 有三种类型的探针&#xff1a;StartupProbe(启动探针)、LivenessProbe(存活探针)、ReadinessProbe(就绪探针)。它们可以同时存在&#xff0c;但如果有StartupPro…

shell(一)

shell 既是脚本语言又是应用程序 查看自己linux系统的默认解析&#xff1a;echo $SHELL 创建第一个shell 文件 touch 01.sh编辑 vi 01.sh01.sh 文件内容 #!/bin/bash echo felicia保存 按Esc 然后输入:wq 定义以开头&#xff1a;#!/bin/bash #!用来声明脚本由什么shell解释…

idea maven 执行 控制台乱码

这是没加出现的问题 上方案

【HTTP系列】TCP/IP协议

文章目录 一、是什么二、划分五层体系应用层传输层网络层数据链路层物理层 四层体系 三、总结参考文献 一、是什么 TCP/IP&#xff0c;传输控制协议/网际协议&#xff0c;是指能够在多个不同网络间实现信息传输的协议簇 TCP&#xff08;传输控制协议&#xff09; 一种面向连…

【YOLOv5/v7改进系列】替换上采样层为Dysample

一、导言 介绍了一种名为DySample的超轻量级且高效的动态上采样器。DySample旨在解决当前动态上采样技术如CARAFE、FADE和SAPA虽然性能提升显著但带来大量计算负担的问题&#xff0c;这些问题主要来源于动态卷积的时间消耗以及用于生成动态核的额外子网络。此外&#xff0c;FA…

STC90C51驱动LCD1602、LCD12864、OLED

主控芯片&#xff08;STC90C516RDPG5151028&#xff09;介绍 ROM64K,RAM1280字节&#xff0c;40Pin&#xff0c;3个定时器&#xff0c;1个串口&#xff0c;8个中断源&#xff08;分别是&#xff1a;外部中断0(INTO)、外部中断 1(INT1)、外部中断 2(INT2)、外部中断 3(INT3)、定…

系统化自学Python的实用指南

目录 一、理解Python与设定目标 二、搭建学习环境与基础准备 三、入门学习阶段 四、中级进阶阶段 五、项目实践与持续深化 六、持续学习与拓展 一、理解Python与设定目标 Python概述&#xff1a;详细介绍Python的历史沿革、设计理念、主要特点&#xff08;如易读、易维护…