可解释性机器学习的目标

        为了解释比如决策树、随机森林的意义,我们首先应该定义可解释性的目标是什么。或者 说什么才是最好的可解释性的结果呢?很多人对于可解释性机器学习会有一个误解,觉得一 个好的可解释性就是要告诉我们整个模型在做什么事。我们要了解模型的一切,我们要知道 它到底是怎么做出一个决断的。但是这件事情真的是有必要的吗?虽然我们说机器学习模型, 深度网络是一个黑盒子,不能相信它,但世界上有很多黑盒子,比如人脑也是黑盒子。我们其 实也并不完全知道,人脑的运作原理,但是我们可以相信,另外一个人做出的决断。那为什么 深度网络是一个黑盒子,我们就没有办法相信其做出的决断呢?我们可以相信人脑做出的决 断,但是我们不可以相信深度网络做出的决断,这是为什么呢?

        以下是一个和机器学习完全无关的心理学实验,这个实验是1970年一个哈佛大学教授做 的。这个实验是这样,在哈佛大学图书馆的打印机经常会有很多人都排队要印东西,这个时候 如果有一个人跟他前面的人说拜托请让我先印5页,这个时候你觉得这个人会答应吗?据统 计有60%的人会让他先印。但这个时候你只要把刚才问话的方法稍微改一下,你说拜托请让 我先印,因为我赶时间,他是不是真的赶时间没人知道,但是当你说你有一个理由所以你要先 印的时候,这个时候接受的程度变成94%。神奇的事情是,就算你的理由稍微改一下,比如 说请让我先印因为我需要先印,仅仅是这个样子接受的程度也变成93%。所以人就是需要一 个理由,你为什么要先印,你只要讲出一个理由,就算你的理由是因为我需要先印大家也会接 受。

        所以会不会可解释性机器学习也是同样的道理。在可解释性机器学习中,好的解释就是 人能接受的解释,人就是需要一个理由让我们觉得高兴。因为很多人听到,深度网络是一个黑 盒子他就不爽,但是你告诉他说这个是可以被解释的,给他一个理由,他就高兴了。所以或许 好的解释就是让人高兴的解释。其实这个想法,这个技术的进展是蛮接近的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/53706.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

cell phone teardown 手机拆卸

tweezer 镊子 screwdriver 螺丝刀 opening tool 开口工具 repair 修理 battery 电池 rear panel 后盖 front and rear cameras 前后摄像头 volume button board 音量键线路板 headphone jack 耳机孔 a cracked screen 破裂屏 otherwise non-functional screen 其它坏屏 flex c…

B-树底层原理

一、B-树介绍 定义: B-树(B-Tree)是一种自平衡的树形数据结构,广泛应用于数据库和操作系统中。它的设计目标是减少搜索、顺序访问、插入和删除操作中比较次数和移动次数,特别适合于磁盘中数据的存储和检索。 性质&a…

Linux:从入门到放弃

目录 一、基础巩固Linux:常用命令 二、实战应用Linux:CentOS7基础配置Linux:CentOS7安装MySQL 三、常见问题Linux:yum源失效问题 一、基础巩固 Linux:常用命令 二、实战应用 Linux:CentOS7基础配置 Lin…

C语言程序设计——结构体

一、结构体的定义 有时需要将不同类型的数据组合成一个有机体,以便于引用 声明一个结构体类型的一般形式为: struct 结构体名{成员表列}; 结构体也是一种数据类型,它由程序员自己定义,可以包含多个其他类型的数据。 ①先声明结构体类型再定义变量 struct student # 结…

RabbitMQ练习(AMQP 0-9-1 Overview)

1、What is AMQP 0-9-1 AMQP 0-9-1(高级消息队列协议)是一种网络协议,它允许遵从该协议的客户端(Publisher或者Consumer)应用程序与遵从该协议的消息中间件代理(Broker,如RabbitMQ)…

欺诈文本分类检测(十四):GPTQ量化模型

1. 引言 量化的本质:通过将模型参数从高精度(例如32位)降低到低精度(例如8位),来缩小模型体积。 本文将采用一种训练后量化方法GPTQ,对前文已经训练并合并过的模型文件进行量化,通…

Unity3D Android多渠道极速打包方案详解

在移动应用开发过程中,特别是在使用Unity3D进行Android游戏或应用开发时,多渠道打包是一个常见且重要的需求。不同的渠道(如Google Play、华为应用市场、小米应用商店等)可能需要不同的配置和包名,手动进行这些操作既耗…

【电子通识】规格书上的%FS和%RD具体指什么?

在仪器仪表类的手册上,常见的精度表达规格显示方式:%FS 和%RD 究竟如何解读呢? 术语解说 %RD(Reading):用于表示对比显示值(读值)存在多少(%)的误差 %FS(Full Scale):用于表示对比全量程存在多少(%)的误差 %SP(Set Poi…

基于ssm+vue+uniapp的电影交流平台小程序

开发语言:Java框架:ssmuniappJDK版本:JDK1.8服务器:tomcat7数据库:mysql 5.7(一定要5.7版本)数据库工具:Navicat11开发软件:eclipse/myeclipse/ideaMaven包:M…

多文件编程实现链表创建,插入,输出(上)

linklist.c #include "linklist.h" //创建空的链表,为头结点在堆区分配空间 linklist_t *creat_empty_linklist() {linklist_t *head NULL;head (linklist_t *) malloc(sizeof(linknode_t));if(NULL head){printf("malloc is fail!\n");ret…

泛型及其使用

1. 为什么要用泛型 我们来看下面这个场景: 有一个Dog类和Cat类,创建一个ArrayList用来存放dog对象,程序员不小心往里边添加了一个Cat对象,此时不会有问题,但是当我们遍历这个ArrayList时,强行转为Dog类就会…

项目小结二()

一.个人信息的界面 这里可以进行用户信息的修改,并渲染数据上去 二.这两天,出现的问题: 1.mybatis中 字段取别名 (还没验证,是否正确) 问题描述:由于实体类中的变量名,与数据库中…

CTF—杂项题目

1.ctfshow-Misc入门-misc17 1 用010editer打开图片后没有直接搜到ctf; 2 用binwalk分析文件发现有一个bzip2的隐藏文件并将其分离; 3 得到一个压缩文件D86.bz2; 4 但使用解压命令进行解压时,显示文件受损; 5 参考别人…

SpringBoot学习(8)RabbitMQ详解

RabbitMQ 即一个消息队列,主要是用来实现应用程序的异步和解耦,同时也能起到消息缓冲,消息分发的作用。 消息中间件最主要的作用是解耦,中间件最标准的用法是生产者生产消息传送到队列,消费者从队列中拿取消息并处理&…

Docker高级管理--Compose容器编排与私有仓库(Docker技术集群与应用)

本文介绍了Docker的三大工具:Docker Machine用于创建和管理Docker主机,Docker Compose用于单引擎模式下的多容器应用部署和管理,而Docker Swarm则是一个集群管理工具,提供微服务应用编排功能。Docker Machine支持在不同环境配置Do…

从零实现诗词GPT大模型:实现多头自注意力

专栏规划: https://qibin.blog.csdn.net/article/details/137728228 在上一篇文章的最后,我们已经介绍了为什么要使用多头注意力了,本篇文章我们主要来实现多头自注意力,然后综合我们之前实现的FFN和TransformerBlock其实就差不多完成了整个GPT模型的实现了。 在开始实现之…

技术成神之路:设计模式(十三)访问者模式

介绍 访问者模式(Visitor Pattern)是一种行为型设计模式,它允许你在不改变对象结构的前提下,定义作用于这些对象的新操作。这种模式通过将操作逻辑从对象结构中抽离出来,使得新的操作可以无缝地添加到现有对象中。 1.定…

PDF转Excel小达人养成记

在现代职场,数据管理与格式转换可谓是日常任务的重头戏;有时我们手头有一份PDF文件,但需要将其中的数据整理成Excel表格,这该如何是好?别急,今天我就来给大家介绍几款好用的PDF转Excel工具,以及…

【CanMV K230 AI视觉】 人体关键点检测

【CanMV K230 AI视觉】 人体关键点检测 人体关键点检测 动态测试效果可以去下面网站自己看。 B站视频链接:已做成合集 抖音链接:已做成合集 人体关键点检测 人体关键点检测是指标注出人体关节等关键信息,分析人体姿态、运动轨迹、动作角度等…

【python】OpenCV—Age and Gender Classification

文章目录 1、任务描述2、网络结构2.1 人脸检测2.2 性别分类2.3 年龄分类 3、代码实现4、结果展示5、参考 1、任务描述 性别分类和年龄分类预测 2、网络结构 2.1 人脸检测 输出最高的 200 个 RoI,每个 RoI 7 个值,(xx,xx&#x…