霍夫丁不等式(Hoeffding‘s inequality)

参考资料:Hoeffding's inequality | encyclopedia article by TheFreeDictionary

霍夫丁不等式(Hoeffding's inequality)描述了随机变量的和、与和的期望之差的上限;或者表述为:随机变量的均值、与均值的期望之差的上限。

假设X_{1},X_{2},...,X_{n}为各自独立的随机变量,且X_{i}限制在[0,1]范围内,即0\leqslant X_{i}\leqslant 1,定义\bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_{i},则对任意\epsilon \geq 0,有

P((\bar{X}-E(\bar{X}))\geq \epsilon )\leqslant exp(-2n\epsilon ^{2})         (1)

P(\left | \bar{X}-E(\bar{X}) \right |\geq \epsilon )\leqslant 2exp(-2n\epsilon ^{2})    (2)

其中E(\bar{X})表示平均值\bar{X} 的期望。

上面公式推广到更一般的形式:

X_{i}限制在[a_{i},b_{i}]范围内,即a_{i}\leqslant X_{i}\leqslant b_{i},则对任意\epsilon > 0,有

P((\bar{X}-E(\bar{X}))\geq \epsilon )\leqslant exp(-\frac{2n^{2}\epsilon ^{2}}{\sum_{i=1}^{n}(b_{i}-a_{i})^{2}})         (3)

P(\left | \bar{X}-E(\bar{X}) \right |\geq \epsilon )\leqslant 2exp(-\frac{2n^{2}\epsilon ^{2}}{\sum_{i=1}^{n}(b_{i}-a_{i})^{2}})       (4)

上面的公式也可表述为和的形式。

定义S_{n}=\sum_{i=1}^{n}X_{i}

P((S_{n}-E(S_{n}))\geq \epsilon )\leqslant exp(-\frac{2\epsilon ^{2}}{\sum_{i=1}^{n}(b_{i}-a_{i})^{2}})         (5)

P(\left | S_{n}-E(S_{n}) \right |\geq \epsilon )\leqslant 2exp(-\frac{2\epsilon ^{2}}{\sum_{i=1}^{n}(b_{i}-a_{i})^{2}})        (6)

备注:当X_{i}是通过不放回取样得到的,上面的不等式也成立,但此时随机变量不再是独立的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/173224.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

2017年五一杯数学建模B题自媒体时代的消息传播问题解题全过程文档及程序

2017年五一杯数学建模 B题 自媒体时代的消息传播问题 原题再现 电视剧《人民的名义》中人物侯亮平说:“现在是自媒体时代,任何突发性事件几分钟就传播到全世界。”相对于传统媒体,以互联网技术为基础的自媒体以其信息传播的即时性、交往方式…

LeetCode198.打家劫舍

打家劫舍和背包问题一样是一道非常经典的动态规划问题,只要做过几道动态规划的题,这道题简直就非常容易做出来。我应该花了10来分钟左右就写出来了,动态规划问题最重要的就是建立状态转移方程,就是说如何从上一个状态转移到下一个…

【开源】基于Vue+SpringBoot的独居老人物资配送系统

项目编号: S 045 ,文末获取源码。 \color{red}{项目编号:S045,文末获取源码。} 项目编号:S045,文末获取源码。 目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块三、系统展示四、核心代码4.1 查询社区4…

浏览器中实现可视化的方式有哪几种?带你盘点一下

前言 📫 大家好,我是南木元元,热衷分享有趣实用的文章,希望大家多多支持,一起进步! 🍅 个人主页:南木元元 目录 可视化的含义 浏览器中实现可视化的4种方式 1. HTMLCSS 2. SVG …

springboot 自动配置

1. O(∩_∩)O 对应功能的starter --autoconfigure --寻找autoconfigure的META-INF/spring/org.springframework.boot.autoconfigure.Autoconfiguration.imports–加载所有自动配置类 自动配置类的作用:提供后续所需要的功能组件 在自动配置类中找到注解EnableConf…

A100 A800 H100 H800 模块

老美对A100、A800、H100和H800在内的多款AI芯片实施了出口限制, 目前,具体限制的时长并没有明确的公开信息。 科研人员在面对此类限制 ,可能需要寻找替代的供应渠道,加强国内外合作, 或者加大在本土技术研发的投入&a…

代码签名证书有哪些强大的功能?

代码签名证书是一种数字证书,用于对软件和应用程序的代码进行数字签名。它具有许多强大的功能,可以提供重要的安全保障和增强用户的信任度。对于开发者和软件提供商来说,选择和使用代码签名证书是确保软件安全性和可信度的关键步骤。 首先&am…

如何查看电脑版Office的有效期

有时候点击Office账户看不到有效期信息,那么如何查看呢,其实用一条命令就可以查看。 首选WinR运行,输入cmd回车,然后输入下面的命令: cscript “C:\Program Files\Microsoft Office\Office16\ospp.vbs” /dstatus当然…

Java游戏制作——王者荣耀

一.准备工作 首先创建一个新的Java项目命名为“王者荣耀”,并在src下创建两个包分别命名为“com.sxt"、”com.stx.beast",在相应的包中创建所需的类。 创建一个名为“img”的文件夹来储存所需的图片素材。 二.代码呈现 package com.sxt;import javax.sw…

文章迁移腾讯开发者社区说明

我的博客即将同步至腾讯云开发者社区,邀请大家一同入驻:https://cloud.tencent.com/developer/support-plan?invite_code1c2gr33pb4woq

物联网AI 无线连接学习之蓝牙基础篇 协议概述

学物联网,来万物简单IoT物联网!! 1 蓝牙协议总体架构 1.1 Application层 应用属性层,通过API函数与协议栈交互; 1.2 Host层 Host层,逻辑链路控制及自适应协议层、安全管理层、属性协议层、通用访问配置…

一种模板类实现和声明分开在生成的.a文件被使用时出现undefined reference时的一种解决方法

一种模板类实现和声明分开在生成的.a文件被使用时出现undefined reference时的一种解决方法 模板类头文件格式如下&#xff1a; test.h // test.h namespace test { namespace _testspace { class base { public: base(); ~base(); };template<bool T> class base_impl…

Java8实战-总结49

Java8实战-总结49 CompletableFuture&#xff1a;组合式异步编程对多个异步任务进行流水线操作构造同步和异步操作将两个 CompletableFuture 对象整合起来&#xff0c;无论它们是否存在依赖 CompletableFuture&#xff1a;组合式异步编程 对多个异步任务进行流水线操作 构造同…

【开源】基于Vue+SpringBoot的企业项目合同信息系统

项目编号&#xff1a; S 046 &#xff0c;文末获取源码。 \color{red}{项目编号&#xff1a;S046&#xff0c;文末获取源码。} 项目编号&#xff1a;S046&#xff0c;文末获取源码。 目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 数据中心模块2.2 合同审批模块2.3 合…

深入理解 Docker 核心原理:Namespace、Cgroups 和 Rootfs

来自&#xff1a;探索云原生 https://www.lixueduan.com 原文&#xff1a;https://www.lixueduan.com/posts/docker/03-container-core/ 通过这篇文章你可以了解到 Docker 容器的核心实现原理&#xff0c;包括 Namespace、Cgroups、Rootfs 等三个核心功能。 后续文章会演示如…

IDEA:Command line is too long

问题 Idea启动项目报错:Command line is too long. Shorten command line for className or also for JUnit defaultconfiguration. 解决方案 在该项目文件夹.idea/workspace.xml中找到 <component name"PropertiesComponent">...</component> 然后…

install pnpm : 无法加载文件的解决办法

问题描述 我在使用pnpm的时候报错 PS D:\emss\pure-admin-backend> pnpm install pnpm : 无法加载文件 C:\Users\RD-16\AppData\Roaming\npm\pnpm.ps1。未对文件 C:\Users\RD-16\AppData\Roaming\npm\pnpm.ps1 进行数字签名。无法在当前系统上运 行该脚本。有关运行脚本和设…

网络篇---第二篇

系列文章目录 文章目录 系列文章目录前言一、说说 TCP 与 UDP 的区别,以及各自的优缺点二、说一下 HTTP 和 HTTPS 的区别三、说说HTTP、TCP、Socket 的关系是什么?前言 前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站,…

【腾讯云云上实验室】用向量数据库—实践相亲社交应用

快速入口 &#x1f449;向量数据库_大模型知识库_向量数据存储_向量数据检索- 腾讯云 (tencent.com) 文章目录 前言1. 向量数据库概念及原理1.1 向量数据库概念1.2 向量数据库核心原理1.3 向量数据库优缺点1.4 向量数据库与传统数据库的区别 2. 腾讯云向量数据库的基本特性及优…