【小白学机器学习13】一文理解假设检验的反证法,H0如何设计的,什么时候用左侧检验和右侧检验,等各种关于假设检验的基础知识

目录

前言:

目标

1 什么叫 假设检验

1.1 假设检验的定义

1.1.1 来自百度百科

1.1.2  维基百科

1.2 假设检验的最底层逻辑:是反证法思想

1.3 假设检验的底层构造:小概率反证法思想

2  什么叫反证法

2.1 反证法的概念

2.1.1 来自百度百科

2.2.2 维基百科

2.2 别名

2.3  相近概念

2.4 为什么要用反证法

2.5 反证法的内核

2.5.1 国内的一个文章

2.5.2 维基百科的反证法逻辑内核

1.7 用反证法的内核 梳理一遍假设检验的逻辑

3 原假设和备择假设

3.1 原假设和备择假设

3.2 什么叫 有统计学意义? (一般= p概率很小= 拒绝原假设h0)

3.3 有统计学意义和实际有意义不是一回事

4 两类错误

4.1 什么叫2类错误

4.2 这两类错误的计算公式

4.2.1 计算公式

4.2.2 下面这个医学图来源

 4.2.3 和机器学习理的准确率,召唤率虽然很像,但是不是一回事。

4.2.4 第1类错误和第2类错误谁更重要?

4.2.5 两类错误不能同时消除

5 如何设计H0的一些例子和思考

5.1 对H0原假设的理解

5.2 具体的例子

6 双侧检验

7 左侧检验和右侧检验

7.1 右侧检验

7.2 左侧检验(下限检验)

8 拒绝域

8.1 双边拒绝域

8.2 右边拒绝域

8.3 左边拒绝域


前言:

之前想直接跳过这些基础知识,直接学习F检验,Z检验,T检验之类的,但是过程中发现自己很多内容,理解的很偏颇,这些基础知识很重要。现在回头来补习。

目标

  • 关于假设检验的各种基础知识
  • 理解假设检验的反证法
  • H0是怎么设计的
  • 什么时候用单侧检验或双侧检验

1 什么叫 假设检验

1.1 假设检验的定义

1.1.1 来自百度百科

  • 假设检验,也称为统计假设检验,是一种统计推断方法,其目的是根据样本数据对总体做出推断。
  • 假设检验的基本思想是先对总体的某个特征(如总体参数)提出一个假设,然后利用样本数据来检验这个假设是否合理。
  • 如果样本数据表明假设不合理,则可以拒绝这个假设;如果样本数据表明假设合理,则可以接受这个假设。
  • 这个过程基于“小概率事件”原理,认为如果一个事件发生的概率很小,那么这个事件在一次试验中几乎不可能发生。
  • 因此,如果样本数据表明假设不成立,则这个假设可以被认为是“小概率事件”,不应该被接受。相反,如果样本数据表明假设成立,则这个假设可以被认为是一个“大概率事件”,应该被接受。
  • 假设检验的步骤通常分为以下三个阶段:
    • 提出假设。这包括一个原假设(通常用H0表示)和一个备择假设(通常用H1表示)。原假设通常是我们要检验的假设,而备择假设则是如果原假设不成立时所接受的假设。
    • 计算统计量。根据样本数据计算一个统计量,这个统计量可以用来衡量样本数据与假设之间的差异。常用的统计量包括t统计量、z统计量和卡方统计量等。
    • 判断假设是否合理。根据统计量的值和对应的p值来判断假设是否合理。如果p值小于预先设定的显著性水平(如0.05),则可以拒绝假设;否则,可以接受假设。

1.1.2  维基百科

1.2 假设检验的最底层逻辑:是反证法思想

换句话说,备择假设通常才是研究者最想证明的。因此才使用反证法

假设检验也就是反证法思想,想证明这个H1对,那么只要证明H0错误就可以了。

一般统计学默认潜规则就是: 验证者都是想(预期)证明H1是对的,通过反证法故意希望去证明H0是错的,当然结果不一定能达到预期。

  • 如果确实证明H0大概率(如1-α=95%)是对的,就接受H0,承认自己最初构想H1是错的
  • 如果确实证明H0只有小概率如 1%是对的,那么就拒绝H0,证明了自己最初构想H1是对的。

1.3 假设检验的底层构造:小概率反证法思想


假设检验----底层思想是反证法思想,而且是小概率反证法思想

小概率思想是指小概率事件(P<0.01或P<0.05或0.1)在一次试验中基本上不会发生。

  • 在原假设的前提下,如果在一次观察中小概率事件发生了,则认为假设不成立,
  • 反之,如果小概率事件没有发生,则没有理由否定原假设。  

2  什么叫反证法

2.1 反证法的概念

2.1.1 来自百度百科

  • 反证法,亦称“逆证”,是间接论证的方法之一,是通过断定与论题相矛盾的判断(即反论题)的虚假来确立论题的真实性的论证方法。
  • 反证法的论证过程如下:首先提出论题:然后设定反论题,并依据推理规则进行推演,证明反论题的虚假;最后根据排中律,既然反论题为假,原论题便是真的。
  • 在进行反证中,只有与论题相矛盾的判断才能作为反论题,论题的反对判断是不能作为反论题的,因为具有反对关系的两个判断可以同时为假。
  • 反证法中的重要环节是确定反论题的虚假,常常要使用归谬法。
  • 反证法是一种有效的解释方法,特别是在进行正面的直接论证或反驳比较困难时,用反证法会收到更好的效果。

2.2.2 维基百科

https://zh.wikipedia.org/wiki/%E5%8F%8D%E8%AD%89%E6%B3%95icon-default.png?t=N7T8https://zh.wikipedia.org/wiki/%E5%8F%8D%E8%AD%89%E6%B3%95

2.2 别名

  • 反证法
  • 背理法

2.3  相近概念

  • 反正法是间接证明法之一
  • 归谬法:反证法与归谬法相似,但归谬法不仅包括推理出矛盾结果,也包括推理出不符事实的结果或显然荒谬不可信的结果
    • 归谬法(拉丁语:Reductio ad absurdum)是一种论证方式。首先归就是顺着他的意思,谬就是反驳错误的。
    • 归谬法与反证法相似,差别在于反证法只限于推理出逻辑上矛盾的结果

2.4 为什么要用反证法

也就是反证法思想,想证明这个H1对,如果证明H1对有点麻烦,那么只要证明H0错误就可以了(有时候反而更简单)。比如一般情况下,证明两者相等比证明不相等更简单。

  • 直接证明比较困难的时候
  • 加强说服力,如果矛盾事件是错误的,那么更显得这个说法更有说服力
  • ..等等

2.5 反证法的内核

2.5.1 国内的一个文章

感觉有点道理,但是实际推了下不如 维基百科的推导更好理解,可能是我学艺不精 ^ ^

百度安全验证icon-default.png?t=N7T8https://baijiahao.baidu.com/s?id=1779622576482381633&wfr=spider&for=pc


2.5.2 维基百科的反证法逻辑内核

1.7 用反证法的内核 梳理一遍假设检验的逻辑

  • 我们想证明H1是对的 (但是直接证明h1有点难)  
  • 我们找到H1的矛盾假设H0   
  • 我们先假设H0是对的   从H0经过逻辑推导   得到一个错误结论
  • 根据否定后件律(我自己试了下这里用否定后见律才能推通顺,用矛盾律推导不通),如果我们推论过程符合逻辑是对的,我们从一个假设为正确的假设,推出结论却是错的,这样就前后矛盾了,因为假设真+推导正确=结论应该真,现在结论不真,只能反推假设
  • 而根据排中律,如果H0是对的,那么和H0矛盾的H1,不能也是错的,因此H1是对的。


 

3 原假设和备择假设

3.1 原假设和备择假设

做假设检验时会设置两个假设:        

  • 一种叫原假设,也叫零假设,用H0表示。
    • 原假设一般是统计者想要拒绝的假设。

H0 原假设的设置一般为:某个值等于多少

  • 另外一种叫备择假设,用H1表示。
    • 备则假设是统计者想要接受的假设。
    • 也就是反证法思想,想证明这个H1对,那么只要证明H0错误就可以了.

H1 备择假设的设置一般为:某个值不等于、大于或者小于多少。

3.2 什么叫 有统计学意义? (一般= p概率很小= 拒绝原假设h0)

  • 一句话:就是在统计学上来说是两者得差异是有意义的,显著的。但不一定就是实际情况 结果可能有5%或1%的可能是由误差导致
  • 在统计学中,有统计学意义的结果意味着经过适当的统计分析后,某个观察到的效应不是由于偶然因素所造成的。
  • 换句话说,有统计学意义的结果意味着在置信水平和误差范围内,观察到的效应真实存在,而不仅仅是由抽样误差或其他随机因素所造成的。
  • 然而,需要注意的是,有统计学意义并不一定意味着观察到的效应是真实存在的。在许多情况下,我们需要进行进一步的验证和研究来确认观察到的效应是否真实存在。


3.3 有统计学意义和实际有意义不是一回事

  • 比如在显著度/置信区间5%, F检验拒绝了原假设
  • 但是还是有α=5%等概率并不是,有可能是随机误差造成的。也就是第一类错误。

4 两类错误

4.1 什么叫2类错误

  • 但是在检验的过程中,我们通过样本数据来判断总体参数的假设是否成立,但样本是随机的,因而有可能出现小概率的错误。这种错误分两种,一种是弃真错误,另一种是取伪错误。       
  • 弃真错误也叫第I类错误或α错误:它是指原假设实际上是真的,但通过样本估计总体后,拒绝了原假设。明显这是错误的,我们拒绝了真实的原假设,所以叫弃真错误,这个错误的概率我们记为α。        
  • 取伪错误也叫第II类错误或β错误:它是指原假设实际上假的,但通过样本估计总体后,接受了原假设,这个错误的概率我们记为β。        

4.2 这两类错误的计算公式

4.2.1 计算公式

  • 第1类错误 / 弃真错误 / 假阳性:
  • 其概率p=α
  • 第2类错误/ 取伪错误 / 假阴性:
  • 其概率p=β

4.2.2 下面这个医学图来源

  • 他们假设h0是阴性,而H1成立是阳性
  • 和我画的图,横轴,纵轴是相反的
  • 一般的医学的假设检验理
    • h0阴性正常, 相等正常普通等标签 ( 和其他统计喜欢假设H0相等一个意思)
    • h1阳性不正常
       

以一个研究为例,细说I类错误和II类错误! - 知乎Type I error(I类错误):犯I类错误的概率,也就是当零假设是真实的,却拒绝零假设的概率 Type II error(II类错误):犯II类错误的概率,也就是当零假设是不真实的,却接受零假设的概率 我们用一个生动形象的例…icon-default.png?t=N7T8https://zhuanlan.zhihu.com/p/159039017


 

 4.2.3 和机器学习理的准确率,召唤率虽然很像,但是不是一回事。

4.2.4 第1类错误和第2类错误谁更重要?

举例有这样3个假设检验

  • 假设X1,X2两个样本的方差相同,实际希望方差不同。
  • 假设一种药没有效果H0,实际希望有效果
  • 用一个试剂去检查某人群,假设H0是阴性,实际希望是阳性

如果我们假设检验后,发现得到的概率p很小,要拒绝H0

(但开了上帝视角的我们实际发现我们的假设检验结果是错的,那会如何呢?)

  • X1,X2 确实来自一个总体,但是因为假设检验,被我们认为来自不同的整体
  • 这个新药实际没有效果,但是因为假设检验,被我们认为有用
  • 这个人是阴性,但是因为假设检验,被我们认为是个阳性,就是假阳性

这么看起来,第1类错误,比第2类错误更危险

  • 第1类错误 / 弃真错误 / 假阳性:错杀好人?
  • 第2类错误/ 取伪错误 / 假阴性:放过坏人?

所以我们主要目标是减少第1类错误α的概率!如果只能选1个的话

4.2.5 两类错误不能同时消除

所以我们主要目标是减少第1类错误α的概率!是否可以同时降低第2类错误β的概率呢?不能

因为当想要犯α错误的机会变小的时候,也就是更有可能认同原假设是对的。但这就容易导致原假设本身其实是错的,却更有可能接受而犯β错误。

  • type 1 error和type 2 error的概率相加不为1但存在此消彼长的关系。
  • 特殊:可是在一些情况下,会共同上升或下降
  • 毕竟是error,越精准,error就越少

5 如何设计H0的一些例子和思考

5.1 对H0原假设的理解

  • H0 原假设,一般都是假设两者是相同分布 的这种 理想假设。
  • 为什么说是理想假设,因为现实的样本里往往一定存在误差,不可能相同。因此这个H0假设是一个理想假设

  • 虽然永远无法认识总体,但现实中的我们总是一厢情愿的希望,样本从总体里来是无误差的 
  • 理想状态:和之前说的,真实值,观测值,预测值这3种基础数据关系里的真实值一样,本质是永远无法观测到的,只存在于我们的大脑的理想国之中,所以我认为这里是需要懂一点哲学形而上的东西的。

  • 一般的h0假设,总是假设2者相等,而不相等的就是h1假设
  • 一般的医学的假设检验理
    • h0阴性正常, 相等正常普通等标签 ( 和其他统计喜欢假设H0相等一个意思)
    • h1阳性不正常

5.2 具体的例子

记住:备择假设通常才是研究者最想证明的。

举例

  • 假设X1,X2两个样本的方差相同,实际希望方差不同。
  • 假设一种药没有效果H0,实际希望有效果
  • 用一个试剂去检查某人群,假设H0是阴性,实际希望是阳性
  • 也就是
  • 举例子:均匀骰子是1/6, 均匀硬币是0.5,我们认为抽样的人群能代表世界上所有人,这都是理想值(所谓的“真实值”,只存在于彼岸的真实值。即使有时候算出来刚好相等,那也应该是恰好相等而已)


 

从这个无罪推定的H0假设来看,也明白第1类错误更重要的原因。

6 双侧检验

双侧检验/双边检验

  • 值过大过小都异常的:H1和H0相等的假设,双侧检验
  • H0: 假设两者相等
  • H1: 假设两者不相等。
  • 很少有反过来,H0假设两者不相等的,这只能说算一个统计学惯例了
  • 相等假设一般都是设计在H0内,无论是 X1=X2,甚至X1>=X2,
  • 也就是说即使是单侧检验,一般都是H0 X1>=X2, 而不是X1>X2

7 左侧检验和右侧检验

7.1 右侧检验

右侧检验(相对左侧检验偏多一些,也不是一定的)

可能有一些检验是偏态的,比如F分布就一般情况下右偏。

  • 上限检验
  • 右侧检验关注总体参数是否明显增加
  • 值大是异常的:H1大于H0,单侧检验,右侧检验
  • 也就是主要关注H1, 因为统计的潜规则就是H1才是检测者想要的,那么H1是X1>X0 (对应的h0是X1<=X)就是右侧检验。
  • 右侧检验,比然拒绝域也是在右边

7.2 左侧检验(下限检验)

左侧检验

  • 下限检验
  • 我们的预设目的是,认为H1是对的,但是反正H0是错的(这是我们的出发点,不是事实)
  • 这时候我们不关注是不是更大更多,我们只关心是不是检测值会很小!越小我们就越可以拒绝H0,而接受H1
  • 左侧检验关注总体参数是否明显减少/小。
  • 值小是异常的:H1小于H0,单侧检验,左侧检验
  • 也就是主要关注H1, 因为统计的潜规则就是H1才是检测者想要的, H1是X1<X0 (h0是X1>=X)就是左侧检验
  • 左侧检验,比然拒绝域也是在左边

而单侧检验是左侧是右测,要看拒绝域的位置;而拒绝域在左侧还是右侧,要看备择假设是大于(对应右侧检验)还是小于(对应左侧检验)某个数。

8 拒绝域

  • 拒绝域就是,在指定的显著度水平下,拒绝H0的区间
  • 只要p落在拒绝域就拒绝H0,接受H1

8.1 双边拒绝域

8.2 右边拒绝域

8.3 左边拒绝域

9 显著度

10 EXCEL里用函数做

11 python里做

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/824297.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ES解构的使用

文章目录 1 概念2 数组解构3 对象结构 1 概念 解构是ES6中引入的一个新语法特性&#xff0c;它是一种按照一定模式从数组或对象中提取值&#xff0c;对变量进行赋值的行为。解构可以被视为一种结构化赋值方法&#xff0c;用于简化从数据结构&#xff08;如数组或对象&#xff…

MFC下CPictureCtrl控件基于鼠标左键坐标的直线绘图

本文仅供学习交流&#xff0c;严禁用于商业用途&#xff0c;如本文涉及侵权请及时联系本人将于及时删除 目录 1.创建自定义类CMyPictureCtrl 2.布局Dlg 3.实验代码 4.运行结果 在基于对话框的MFC应用程序中&#xff0c;通过鼠标操作获取坐标并在CPictureCtrl控件中使用Lin…

【软件测试】单元测试+集成测试+系统测试

以下是来自“文心一言”搜索的回答 单元测试 单元测试是软件开发中的一种测试方法&#xff0c;用于对软件中的最小可测试单元进行测试。这些最小单元通常是函数、方法或类等代码片段。单元测试的目的是验证每个单元的代码是否按预期工作&#xff0c;确保其功能正确&#xff0…

极化码的编码

引言 极化码是一种比较特殊的线性分组码,同时其还是一种信道专属编码,在极化码的编码构造方案中,每种不同的信道都有属于自己特定的编码构造方式,而当给定一种具体的信道环境时,极化码的构造方案还是与其他的线性分组码比较的类似,极化码的编码码字也是通过信息序列乘以生…

05 MySQL 之 表的约束、视图、事务

1. CONSTRAINT 约束 创建表时&#xff0c;可以给表的字段添加约束&#xff0c;可以保证数据的完整性、有效性。比如大家上网注册用户时常见的&#xff1a;用户名不能为空。对不起&#xff0c;用户名已存在。等提示信息。 约束包括&#xff1a; 非空约束&#xff1a;not null检…

通过Idea部署Tomcat服务器

1.在idea中创建项目 有maven构建工具就创建maven&#xff0c;没有就正常创建一个普通的java程序 创建普通java项目 2.添加框架 3.配置 Tomcat 注意&#xff1a;创建web项目后我们需要配置tomcat才能运行&#xff0c;下面我们来进行配置。 4.添加部署 回到服务器 5.完善配置 6…

小程序如何优化搜索排名,获取曝光

在移动互联网时代&#xff0c;小程序以其便捷、轻量级的特点&#xff0c;逐渐成为用户获取服务的重要渠道。然而&#xff0c;小程序数量众多&#xff0c;如何让自己的小程序在搜索中脱颖而出&#xff0c;获取更多的曝光和流量&#xff0c;成为众多开发者关注的焦点。 一、理解…

DC-8渗透测试复现

DC-8渗透测试复现 目的&#xff1a; 获取最高权限以及flag 过程&#xff1a; 信息打点--sql注入- 命令执行反弹shell-exim4提权 环境&#xff1a; 攻击机&#xff1a;kali(192.168.85.137) 靶机&#xff1a;DC_3(192.168.85.140) 复现&#xff1a; 一.信息收集 nmap -…

Golang:三种引号详解-单引号、双引号、反引号

Golang限定字符或者字符串一共三种引号&#xff1a; 单引号&#xff08;)&#xff0c;单个字符&#xff0c;更类似于C语言中的char类型&#xff0c; 双引号("") &#xff0c;字符串&#xff0c;单行的&#xff0c;多个字符&#xff08;字母数字&#xff09;。 反引…

在报表控件 FastReport .NET 中使用 PageCreate 事件

FastReport Business Graphics .NET&#xff0c;是一款基于fastreport报表开发控件的商业图形库&#xff0c;借助 FastReport 商业图形库&#xff0c;您可以可视化不同的分层数据&#xff0c;构建业务图表以进行进一步分析和决策。利用数据呈现领域专家针对 .NET 7、.NET Core、…

栈和队列——数据结构学习笔记

栈和队列 栈(Stack) 定义与特点 栈是一种特殊的线性表&#xff0c;只能从一端进行插入和删除——>后进后出 LIFO结构 表尾(an) 称为栈顶Top 表头(a1)称为栈底Base 插入元素到栈顶的操作称为入栈 删除栈顶最后一个元素的操作称为出栈 抽象类型定义 ADT Stack{ 数据对…

编译OpenWRT固件

前言 编译环境&#xff0c;我是使用Ubuntu16.04.07 LTS 64位版 1.安装Ubuntu16.04.07 LTS 64 Ubuntu16.04.07 LTS 64安装的时候会出现一个bug&#xff0c;如果开始安装界面选了中文之后就会出现 提示错误信息&#xff1a;无法安装busybox-initramfs&#xff0c;向目标系统中…

openlayers 入门教程(六):controls 篇

目录 一、常用的控件 二、使用控件方法 三、添加删除control 的基本方法 四、control示例 1 比例尺 - ScaleLine 2 鹰眼/缩小图 - OverviewMap 3 全屏 - FullScreen 4 版权信息 - Attribution 5 旋转地图 - Rotate 6 放大缩小 - Zoom 7 缩放滑块控件 - ZoomSlider …

【Day 1】HTML 与 CSS

1 前端 网站的工作流程&#xff1a; 首先我们需要通过浏览器访问发布到前端服务器中的前端程序&#xff0c;这时候前端程序会将前端代码返回给浏览器浏览器得到前端代码&#xff0c;此时浏览器会将前端代码进行解析&#xff0c;然后展示到浏览器的窗口中&#xff0c;这时候我…

pwn - 零基础ROP之Android ARM 32位篇(新修订)

一、环境搭建 安装ndk r10e,必须得这个版本,其他版本可能导致 -fno-stack-protector 不生效! r10e Darwin: https://dl.google.com/android/repository/android-ndk-r10e-darwin-x86_64.zipLinux: https://dl.google.com/android/repository/android-ndk-r10e-linux-x86_6…

51-41 Stable Video Diffusion,高质量视频生成新时代

23年11月&#xff0c;Stability AI公司公开了稳定视频扩散模型Stable Video Diffusion(SVD)的代码和权重&#xff0c;视频生成迎来了新时代。SVD是一种潜在扩散模型&#xff0c;支持文本生成视频、图像生成视频以及物体多视角3D合成。从工程角度来看&#xff0c;本文主要提出了…

Real3DPortrait照片对口型,数字人,音频/视频驱动数字人

先看效果 上传一张图片和一段音频&#xff0c;照片如下&#xff1a; 合成后效果如下&#xff1a; 照片对口型-音频驱动 支持音频驱动和视频驱动&#xff0c;视频可以使照片有参照视频中的口型和和动作。 项目地址 https://github.com/yerfor/Real3DPortrait 我的环境 win…

[网络安全]-059-安全大模型以及训练数据集

Contents Tools IntegratedAuditReconnaissanceOffensiveDetectingPreventingSocial EngineeringReverse EngineeringInvestigationFixAssessmentCases ExperimentalAcademicB

真有立即做出40+BI零售数据分析报表的方案?

有&#xff0c;奥威BI零售数据分析方案是一套标准化的BI方案&#xff0c;预设零售数据分析模型和BI报表&#xff0c;点击应用后&#xff0c;将自动从系统中取数&#xff0c;并根据方案的预设计算分析指标、分析数据&#xff0c;并生成让人快速理解数据情况的BI数据可视化报表。…

Spark/SparkSQL读取Hadoop LZO文件概述

一、前置配置 IDEA Maven安装配置 Scala&#xff08;可选&#xff09; Java Hadoop.dll&#xff08;可能需要&#xff0c;具体看有无相关错误信息&#xff09; hadoop-lzo-0.xx.xx.jar&#xff08;如果你的版本过高&#xff0c;需要到官网下载高版本&#xff0c;mvnrepository仓…