数据治理能解决AI疲劳问题吗?

这篇文章强调了AI疲劳开始的两个阶段,并介绍了数据质量报告等数据治理措施如何能够推动构建值得信赖和健壮的模型。

数据治理和AI疲劳听起来像是两个不同的概念,但两者之间有着内在的联系。为了更好地理解它,让我们从它们的定义开始。

数据治理

长期以来,它一直是数据行业的核心焦点。

Google说得很好——“数据治理是你为确保数据安全、私有、准确、可用和可用所做的一切,它涉及制定适用于如何收集、存储、处理和处置数据的内部标准——数据政策。”

正如这一定义所强调的那样,数据治理是关于管理数据——准确地说,是驱动AI模型的引擎。

既然数据治理和AI之间的联系的初步迹象已经开始显现,让我们将其与AI疲劳联系起来。尽管这个名字暴露了它,但强调导致这种疲惫的原因确保了这个术语在整个帖子中的一致使用。

AI疲劳

由于公司、开发人员或团队面临的挫折和挑战,AI疲劳开始出现,经常导致AI系统的价值实现或实施失败。

它主要始于对AI能力的不切实际的期望。对于AI等复杂技术,关键利益攸关方不仅需要与AI的能力和可能性保持一致,还需要与其局限性和风险保持一致。

谈到风险,道德通常被认为是事后的想法,导致放弃不符合规定的AI倡议。

你一定想知道数据治理在导致AI疲劳方面的作用——这是本文的前提。

这就是我们接下来要去的地方。

AI疲劳大致可分为部署前和部署后。让我们首先关注部署前的工作。

部署前

将概念验证(PoC)升级到部署的因素有很多,例如:

  • 我们在努力解决什么问题?
  • 为什么现在就确定优先顺序会成为一个紧迫的问题?
  • 有哪些数据可用?
  • 它首先是ML——可解的吗?
  • 数据有规律吗?
  • 这种现象可以重演吗?
  • 哪些额外数据会提升模型的性能?

一旦我们评估了使用ML算法可以最好地解决问题,数据科学团队就会执行探索性的数据分析。在这个阶段揭示了许多底层数据模式,突出了给定数据是否包含丰富的信号,它还有助于创建工程特征,以加快算法的学习过程。

接下来,团队构建第一个基线模型,通常会发现它的性能没有达到可接受的水平。一款输出像掷硬币一样好的车型不会增加任何价值,这是构建ML模型时的首批挫折之一,也就是经验教训。

公司可能会从一个业务问题转移到另一个业务问题,从而导致疲劳。尽管如此,如果底层数据没有携带丰富的信号,任何AI算法都无法建立在它的基础上,该模型必须从训练数据中学习统计关联,以对看不见的数据进行概括。

部署后

尽管经过训练的模型在验证集上显示了有希望的结果,但根据合格的业务标准,例如70%的精度,如果模型在生产环境中不能充分发挥作用,仍然可能会出现疲劳。

这种类型的AI疲劳被称为部署后阶段。

无数原因可能会导致性能下降,而糟糕的数据质量是困扰该模型的最常见问题,它限制了模型在缺少关键属性的情况下准确预测目标反应的能力。

考虑在训练数据中只有10%缺失的基本特征之一,现在生产数据中50%的时间变为空,从而导致错误预测,这样的迭代和确保模型一致执行的努力会让数据科学家和业务团队感到疲惫,从而削弱人们对数据管道的信心,并使项目投资面临风险。

数据治理是关键

稳健的数据治理措施对于解决这两种类型的AI疲劳至关重要。鉴于数据是ML模型的核心,信号丰富、无错误和高质量的数据是ML项目成功的必要条件。解决AI疲劳问题需要高度关注数据治理。因此,我们必须严格工作,确保正确的数据质量,为构建最先进的模型和提供值得信赖的业务见解奠定基础。

数据质量

数据质量是蓬勃发展的数据治理的关键,也是机器学习算法成功的关键因素。公司必须在数据质量方面进行投资,例如向数据消费者发布报告。在数据科学项目中,想想当质量不佳的数据进入模型时会发生什么,这可能会导致性能不佳。

只有在错误分析期间,团队才能识别数据质量问题,当这些问题被发送到上游修复时,最终会导致团队之间的疲劳。

显然,这不仅仅是花费的努力,而且在正确的数据开始输入之前,还会损失大量的时间。

因此,始终建议从源头修复数据问题,以防止此类耗时的迭代。最终,发布的数据质量报告暗示数据科学团队(或任何其他下游用户和数据消费者)了解传入数据的可接受质量。

如果没有数据质量和治理措施,数据科学家将因数据问题而不堪重负,从而导致导致AI疲劳的不成功模型。

结束语

这篇文章强调了AI疲劳开始的两个阶段,并介绍了数据质量报告等数据治理措施如何能够推动构建值得信赖和健壮的模型。

通过数据治理建立坚实的基础,公司可以构建成功和无缝的AI开发和采用的路线图,灌输热情。

为了确保这篇文章全面概述了应对AI疲劳的各种方法,我还强调了组织文化的作用,组织文化与数据治理等其他最佳实践相结合,将使数据科学团队能够更快、更快地建立有意义的AI贡献。 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/641317.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

JS 将字符串‘10.3%‘ 经过运算加2转换为 ‘12.3%‘

文章目录 需求分析 需求 已知 字符串 a ‘10.3%’,现需将转换为 字符串’12.3%’ 分析 去掉百分号,将字符串转换为数字 const aNumber parseFloat(10.3%); const resultNumber aNumber 2;将结果转换为带百分号的字符串 const resultString re…

灰度图像的自动阈值分割

第一种:Otsu (大津法) 一、基于cv2的API调用 1、代码实现 直接给出相关代码: import cv2 import matplotlib.pylab as pltpath r"D:\Desktop\00aa\1.png" img cv2.imread(path, 0)def main2():ret, thresh1 cv2.…

【CentOS】Linux 在线帮助文档命令:help、man 命令与文档汉化

目录 1、Linux 的命令行模式 2、help 命令 3、man 命令 4、man 命令输出文档汉化 注:本文档使用 Linux 版本为 CentOS 7.9 [swadianlocalhost ~]$ cat /etc/centos-release CentOS Linux release 7.9.2009 (Core) 1、Linux 的命令行模式 一般情况下&#xff0…

喜讯 | 华院计算摘得“2023大数据产业年度创新技术突破”奖

2024年1月17日, 由数据猿和上海大数据联盟主办,上海市经济和信息化委员会、上海市科学技术委员会指导的“第六届金猿季&魔方论坛——大数据产业发展论坛”在上海市四行仓库举行。论坛以“小趋势大未来”为主题,围绕大数据产业的各个领域展…

MySQL-SQL-DQL

DQL-介绍 DQL-语法 基本查询 1、查询多个字段 2、设置别名 3、去除重复记录 条件查询 1、语法 2、条件 聚合函数 1、介绍 2、常见的聚合函数 3、语法 分组查询 1、语法 2、where与having区别 排序查询 1、语法 2、排序方式 分页查询 1、语法 DQL-执行顺序

ubuntu 安装protobuf

apt 安装 sudo apt install protobuf-compiler 编译安装 – 方式1 资料链接:ubuntu环境 安装ncnn_ubuntu ncnn_jbyyy、的博客-CSDN博客 git clone https://github.com/google/protobuf.git cd protobuf git submodule update --init --recursive ./autogen.sh …

关于php8的数据类型转换

目录 1、数据类型介绍 1.1 简单数据类型: 1.2 复合数据类型: 1.3 特殊数据类型: 2、数据类型转换 2.1 自动转换: 2.2 强制(手动)转换: 3、验证数据类型途径 (1)var…

2024年第3周农产品价格监测报告

一、摘要 农产品价格监测主要涉及对畜禽类产品、水产品、蔬菜类产品、水果类产品的价格,以周为单位,进行变化情况的数据监测。其中,蔬菜类产品共8种,分别为菜花、韭菜、豆角、西红柿、胡萝卜、土豆、大葱、葱头。 本周重点监测的…

Element组件完整引入、按需引入、样式修改(全局、局部)、简单安装less以及npm命令证书过期等

目录 一、npm 安装二、完整引入三、按需引入四、样式修改1.按需加载的全局样式修改2. 局部样式修改1. 在 css 预处理器如 less scss 等直接使用::v-deep2. 只能用在原生 CSS 语法中:/deep/ 或者 >>> 五、 拓展:npm 安装less报错,提示证书过期六…

斯拉、理想等车企大幅降价,新一轮大洗牌正在进行中 |百能云芯

2024年刚开年,各大车企就先后抛出降价大礼包!1月1日,特斯拉率先宣布调价,推出Model 3后驱现车保险补贴及低息金融政策,总优惠幅度高达2.2万元。正当大家还没有完全消化完特斯拉的调价信息后,理想汽车也宣布…

Unity中URP下的 额外灯 逐像素光 和 逐顶点光

文章目录 前言一、额外灯 的 逐像素灯 和 逐顶点灯1、存在额外灯的逐像素灯2、存在额外灯的逐顶点灯 二、测试这两个宏的作用1、额外灯的逐像素灯2、额外灯的逐顶点灯 前言 在之前的文章中,我们了解了 主光相关的反射计算。 Unity中URP下的SimpleLit的 Lambert漫反…

有效的数独[中等]

优质博文:IT-BLOG-CN 一、题目 请你判断一个9 x 9的数独是否有效。只需要根据以下规则,验证已经填入的数字是否有效即可。 数字 1-9 在每一行只能出现一次。 数字 1-9 在每一列只能出现一次。 数字 1-9 在每一个以粗实线分隔的 3x3 宫内只能出现一…

Elasticsearch:介绍 kNN query,这是进行 kNN 搜索的专家方法

作者:来自 Elastic Mayya Sharipova, Benjamin Trent 当前状况:kNN 搜索作为顶层部分 Elasticsearch 中的 kNN 搜索被组织为搜索请求的顶层(top level)部分。 我们这样设计是为了: 无论分片数量多少,它总…

实现纯Web语音视频聊天和桌面分享(附源码,PC端+移动端)

在网页里实现文字聊天是比较容易的,但若要实现视频聊天,就比较麻烦了。本文将实现一个纯Web版的视频聊天和桌面分享的Demo,可直接在浏览器中运行,不需要安装任何插件。 一. 主要功能及支持平台 1.本Demo的主要功能有 &#xff…

【书生·浦语】大模型实战营——第六次作业

使用OpenCompass 评测 InterLM2-chat-chat-7B 模型在C-Eval数据集上的性能 环境配置 1. 创建虚拟环境 conda create --name opencompass --clone/root/share/conda_envs/internlm-base source activate opencompass git clone https://github.com/open-compass/opencompass cd…

【PWN · 格式化字符串|劫持fini_array|劫持got表】[CISCN 2019西南]PWN1

格式化字符串的经典利用:劫持got表。但是遇到漏洞点只能执行一次的情况,该怎么办? 前言 如果存在格式化字符串,保护机制开的不健全,通常可以劫持got表,构造后门函数。然而,如果不存在循环、栈溢…

gradle打包分离依赖jar

正常打包的jar是包含项目所依赖的jar包资源,而且大多数场景下的依赖资源是不会频繁的变更的,所以实际把项目自身jar和其所依赖的资源分离可以实现jar包瘦身,减小上传的jar包总大小,能实现加速部署的效果 一 原本结构 二 配置buil…

机器学习_正则化、欠拟合和过拟合

文章目录 正则化欠拟合和过拟合正则化参数 正则化 机器学习中的正则化是在损失函数里面加惩罚项,增加建模的模糊性,从而把捕捉到的趋势从局部细微趋势,调整到整体大概趋势。虽然一定程度上地放宽了建模要求,但是能有效防止过拟合…

用通俗易懂的方式讲解:使用 MongoDB 和 Langchain 构建生成型AI聊天机器人

想象一下:你收到了你梦寐以求的礼物:一台非凡的时光机,可以将你带到任何地方、任何时候。 你只有10分钟让它运行,否则它将消失。你拥有一份2000页的PDF,详细介绍了关于这台时光机的一切:它的历史、创造者、…

【计算机网络】应用层——HTTP 协议(一)

个人主页:兜里有颗棉花糖 欢迎 点赞👍 收藏✨ 留言✉ 加关注💓本文由 兜里有颗棉花糖 原创 收录于专栏【网络编程】 本专栏旨在分享学习计算机网络的一点学习心得,欢迎大家在评论区交流讨论💌 目录 一、什么是 HTTP 协…