随机过程及应用学习笔记(一)概率论(概要)

概率是随机的基础,在【概率论(概要)】这个部分中仅记录学习随机过程及应用的基本定义和结果。

前言

首先,概率论研究的基础是概率空间。概率空间由一个样本空间和一个概率测度组成,样本空间包含了所有可能的结果, 而概率测度则描述了每个结果发生的可能性大小。研究者通过定义适当的概率测度,可以更准确地描述各种随机现象的发生概率。  


 一、概率空间 (Ω,F,P)

Sample space 样本空间:随机试验的所有可能结果构成的集合称为样本空间,记为 Ω。(注:每个结果需要互斥,所有可能结果必须被穷举)

Set of events 事件集合,是Ω的一些子集构成的集合,记为 F,并且它需要满足以下三点特性(也就是必须是δ-field)

Probability measure 概率测度(或概率),描述一次随机试验中被包含在F 中的所有事件的可能性,记为P

  • 样本点(Sample point):随机试验E的每一个最简单的试验结果,记为\omega
  • 样本空间( Sample space):全体样本点构成的集合,称为样本空间Ω
  • 事件(Event):
  1. 样本空间的子集组成的集类F,称为随机事件体(域)。
  2. 随机事件体F的任意元素A称为随机事件。
  • 样本空间o和F的二元体(Ω,F)称为可测空间。
  • 概率(Probability):每个事件一个可能性的度量值。

1、随机试验

定义:如果一个实验E,满足下列条件:    

  • 在相同的条件下可以重复进行;    
  • 每次试验的结果不止一个,并且能事先明确试验的所有结果;    
  • 一次试验结束之前,不能确定哪一个结果会出现。    

称此试验为随机试验。 随机试验(Experiment):结果无法预先确定的试验。 随机试验的结果,称为事件。

2、集论初步

  • 在概率论中,事件和事件的集合起主要作用。
  • 事件的数学理论和集论有密切关系,用集论描述随机过程的事件。

把为了某种目的而研究的对象全体称为集合,简称为集。有某些特定性质的对象的全体,每一个属于这种集的对象,称为集元素。集合用大写字母A、B、C、…表示,元素用小写字母a、b、c、e、w、…表示,一些集组成的集叫类,我们用草写字母表示。

  • 不包含任何元素的集合称为空集\varnothing
  • 包含所研究问题的全体对象,即:包含所考虑的所有集的所有元素的“最大”集合,称为空间Ω

集合的运算:

3、样本空间、随机事件体

随机试验E的每一个最简单的试验结果,称为样本点,记为\omega。全体样本点构成的集合,称为样本空间,记为Ω。

集合论和概率论的专业术语对应关系如下表所示:

4、概率与概率空间

概率的性质与基本公式:

(6)连续性

5、条件概率

6、乘法公式事件的独立性

随机事件的独立性:

7、全概率公式与贝叶斯公式

二、随机变量及其分布

1、随机变量

2、分布函数

3、离散型随机变量及其分布律

4、连续型随机变量

5、常见的随机变量及其分布

两点分布

两点分布(也称为伯努利分布)是概率论中一种离散概率分布,描述了一个随机变量取两个可能值之一的情况。这两个可能的取值通常被标记为0和1,或者成功和失败。该分布得名的原因是它只涉及到两个点。

两点分布的概率质量函数(PMF)可以表示为:

其中,p 是成功的概率,1−p 是失败的概率。这样的分布通常用于描述一次伯努利试验的结果,其中只有两个可能的结果。

两点分布的期望值(均值)和方差分别为:

  • E(X)=p
  • Var(X)=p(1−p)

其中,X 是随机变量,p 是成功的概率。

二项分布

二项分布(Binomial Distribution)是概率论中一种离散概率分布,描述了在进行一系列独立的伯努利试验中成功的次数。每次试验只有两种可能的结果,通常称为成功(success)和失败(failure)。

假设进行了 n 次独立的伯努利试验,每次试验成功的概率为 p,失败的概率为 1−p。随机变量 �X 表示成功的次数,则 X 的概率质量函数(Probability Mass Function,PMF)为:

其中,(kn​) 表示组合数,即从 n 次试验中选择 k 次成功的组合数。

二项分布的期望值(均值)和方差分别为:

E(X)=np

Var(X)=np(1−p)

这表明在进行多次独立的伯努利试验时,成功的次数的期望值等于每次试验成功的概率乘以试验次数,方差等于期望值乘以失败的概率。

二项分布在概率论和统计学中广泛应用,特别是在描述二元事件的发生次数的情况下,如硬币抛掷、医学研究中的治疗效果、制造业的质检等。

均匀分布

在二维均匀分布中,随机变量(X,Y) 在一个矩形区域内均匀分布。概率密度函数为:

其中,区域的面积决定了概率密度的大小。

均匀分布具有简单且直观的性质,适用于许多实际问题的建模,例如在一定范围内的随机实验或随机变量。均匀分布在统计学、概率论、模拟和随机过程等领域中经常被使用。

高斯分布

高斯分布,也被称为正态分布(Normal Distribution),是概率论和统计学中最为重要的分布之一。它具有许多重要的性质,对于自然界中的许多现象和实验结果都有很好的描述。

高斯分布的概率密度函数(Probability Density Function,PDF)为:

其中,x 是随机变量的取值,μ 是均值(期望值),σ 是标准差。这个分布的图像呈钟形,关于均值对称。

高斯分布的期望值(均值)为 μ,方差为 2σ2。标准差 σ 控制了曲线的宽度,曲线越宽表示数据越分散。

高斯分布在自然界中的许多现象中都能够找到,比如测量误差、身高分布、温度分布等。中心极限定理表明,当独立随机变量的和足够多时,它们的分布趋向于高斯分布。这使得高斯分布在统计学和概率论中被广泛应用,特别是在推断统计、假设检验和机器学习等领域。

三、随机变量的数字特征

1、数字期望

2、方差

3、矩、协方差

4、随机变量数字特征的性质

四、条件数学期望

五、特征函数

1、定义与性质

一般而言,对于随机变量X的分布,大家习惯用概率密度函数来描述,虽然概率密度函数理解起来很直观,但是确实随机变量的分布还有另外的描述方式,比如特征函数。

  • 特征函数的本质是概率密度函数的泰勒展开
  • 每一个级数表示原始概率密度函数的一个特征
  • 如果两个分布的所有特征都相同,那我们就认为这是两个相同的分布
  • 矩是描述概率分布的重要特征,期望、方差等概念都是矩的特殊形态

随机变量X的特征函数:

其中,i是虚数单位,t是任意实数,E[⋅]表示期望。

性质:

  1. 存在性: 对于任何随机变量X,它的特征函数总是存在的。

  2. 唯一性: 不同的随机变量可能具有相同的特征函数,但如果两个随机变量的特征函数在某个范围内相等,则它们在分布上相同。

  3. 特征函数与分布的关系: 如果两个随机变量具有相同的特征函数,则它们具有相同的分布。

  4. 特征函数的对称性: 如果X是一个实随机变量,其特征函数为φ(t),则对于任意实数t,有 ϕ(−t)=ϕ(t)​,其中ϕ(t)​表示φ(t)的共轭复数。

  5. 特征函数的加法性: 如果X和Y是相互独立的随机变量,它们的特征函数分别为φX(t)和φY(t),那么它们的和Z = X + Y 的特征函数为 ϕZ​(t)=ϕX​(t)⋅ϕY​(t)。

  6. 中心极限定理: 如果X1, X2, ..., Xn是独立同分布的随机变量,具有相同的期望μ和方差σ^2,则它们的和标准化后的特征函数在n趋于无穷大时趋近于正态分布的特征函数。

特征函数在概率论和统计学中有广泛的应用,它提供了一种便捷的方式来研究随机变量的性质和相互关系。

针对概率密度函数为f ( x )的连续随机变量X,特征函数写作:

2、多维随机变量的特征函数

  1. 存在性: 对于任何多维随机变量 X,其特征函数总是存在的。

  2. 唯一性: 不同的随机变量可能具有相同的特征函数,但如果两个随机变量的特征函数在某个范围内相等,则它们在分布上相同。

  3. 特征函数与分布的关系: 如果两个多维随机变量具有相同的特征函数,则它们具有相同的分布。

  4. 特征函数的对称性: 如果多维随机变量 X 的特征函数为ϕX​(t),则对于任意实数向量 t,有 ϕX​(−t)=ϕX​(t)​,其中 ϕX​(t)​ 表示特征函数的共轭复数。

  5. 多维随机变量的独立性: 如果多维随机变量 X 和 Y 是相互独立的,它们的特征函数分别为 ϕX​(t) 和 ϕY​(t),那么它们的组合 Z=X+Y 的特征函数为 ϕZ​(t)=ϕX​(t)⋅ϕY​(t)。

六、收敛性与极限定理

1、收敛性

2、大数定理

3、中心极限定理


总结

以上就是今天要讲的内容,仅仅简单介绍了一些概率论的基本概念。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/679239.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

服务器解析漏洞及任意文件下载

1.服务器文件解析漏洞 文件解析漏洞,是指Web容器(Apache、nginx、iis等)在解析文件时出现了漏洞,以其他格式执行出脚本格式的效果。从而,黑客可以利用该漏洞实现非法文件的解析。 (1) Apache linux系统中的apache的php配置文件在/etc/apac…

【数据结构】顺序栈和链式栈的简单实现和解析(C语言版)

数据结构——栈的简单解析和实现 一、概念二、入栈(push)三、出栈(pop)四、顺序栈简单实现 (1)进栈操作(2)出栈操作 一、概念 本篇所讲解的栈和队列属于逻辑结构上的划分。逻辑结构…

综合项目---博客

一.运行环境 192.168.32.132 Server-Web linux Web 192.168.32.133 Server-NFS-DNS linux NFS/DNS 基础配置 1.配置主机名静态ip 2.开启防火墙并配置 3.部分开启selinux并配置 4.服务器之间通过阿里云进行时间同步 5.服务器之间实现ssh免密…

SpringCloud-Ribbon:负载均衡(基于客户端)

6. Ribbon:负载均衡(基于客户端) 6.1 负载均衡以及Ribbon Ribbon是什么? Spring Cloud Ribbon 是基于Netflix Ribbon 实现的一套客户端负载均衡的工具。简单的说,Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负…

MMKV:轻巧高效的跨平台键值存储解决方案

MMKV:轻巧高效的跨平台键值存储解决方案 引言 在移动应用的开发中,数据存储是一个至关重要的环节。随着移动应用的普及和功能的增多,应用需要存储和管理各种类型的数据,包括用户配置信息、缓存数据、临时状态等。传统的数据存储…

python巧用定理判断素数

目录 判断一个数n是否是素数 求一个数的素因数个数 求大于等于指定数的最小素数 在数论中有三个非常重要的关于素数的定理 1、任何数都可以表示成若干个素数的乘积 2、任意数的一个素因子如果小于根号n,那么另一个与其对应的素因子必然大于根号n。 3、除了2和…

浅谈应该遵守的伦敦银交易规则

做伦敦银投资的朋友应遵守伦敦银交易规则,伦敦银交易规则不是指那些伦敦银交易技巧,而是在这个市场中要遵循的一些约定,下面我们就来讨论一下。 风险管理。风险管理即指投资者控制自己一笔乃至整体交易的风险,没有风险管理意识的投…

JavaSE——方法(1/2)-介绍、方法的各种形式、使用的要求

目录 方法的介绍 方法的其他形式 方法使用的要求 方法的介绍 方法是什么 方法是一种语法结构,它可以把一段代码封装成一个功能,以便重复调用。 方法的完整格式 修饰符 返回值类型 方法名 ( 形参列表 ) { 方法体代码(需要执行的功能代码) return…

OpenCV-36 多边形逼近与凸包

目录 一、多边形的逼近 二、凸包 一、多边形的逼近 findContours后的轮廓信息countours可能过于复杂不平滑,可以用approxPolyDP函数对该多边形曲线做适当近似,这就是轮廓的多边形逼近。 apporxPolyDP就是以多边形去逼近轮廓,采用的是Doug…

面试经典150题——三数之和

​"The road to success and the road to failure are almost exactly the same." - Colin R. Davis 1. 题目描述 2. 题目分析与解析 2.1 思路一——暴力方法 因为三个数相加为0,那么说明其中两个加数的和与另一个加数为相反数则满足题意。所以可以得到…

ClickHouse时区

clickhouse数据库的时间是UTC时间。服务器默认的是上海时间。 sudo vim /etc/clickhouse-server/config.xml clickhouse默认的时区是注释的就是UTC时间 %F 表示日期,格式为 YYYY-MM-DD。%T 表示时间,格式为 HH:MM:SS。 因此,formatDateT…

主干网络篇 | YOLOv5/v7 更换主干网络为 VGG13 / VGG16 / VGG19 | 对比实验必备

论文地址:https://arxiv.org/pdf/1409.1556.pdf 在这项工作中,我们研究了卷积网络深度对其在大规模图像识别环境中准确性的影响。我们的主要贡献是对使用非常小(33)卷积滤波器的架构的不断增加深度的网络进行了彻底评估,这表明通过将深度推进到16-19个权重层,可以在先前…

第72讲后台管理Container布局实现

新建layout目录 登录成功后&#xff0c;跳转layout布局容器页面 login页面&#xff1a; 导入router import router from "/router";登录成功&#xff0c;跳转后台管理页面 选用布局容器&#xff1a; <template><div class"common-layout">…

javaweb物业管理系统jsp项目

文章目录 物业管理系统一、系统演示二、项目介绍三、系统部分功能截图四、部分代码展示五、底部获取项目源码&#xff08;9.9&#xffe5;带走&#xff09; 物业管理系统 可用作javaweb项目、servlet项目、jsp项目的项目设计 一、系统演示 物业管理系统 二、项目介绍 语言&a…

Vue3中Setup概述和使用(三)

一、引入Setup 1、Person.Vue 与Vue3编写简单的App组件(二) 中的区别是&#xff1a;取消data、methods等方法,而是将数据和方法定义全部放进setup中。 <template><div class"person"><h1>姓名:{{name}}</h1><h1>年龄:{{age}}</h…

Acwing---839. 模拟堆

模拟堆 1.题目2.基本思想3.代码实现 1.题目 维护一个集合&#xff0c;初始时集合为空&#xff0c;支持如下几种操作&#xff1a; I x&#xff0c;插入一个数 x&#xff1b;PM&#xff0c;输出当前集合中的最小值&#xff1b;DM&#xff0c;删除当前集合中的最小值&#xff08…

好看的登录界面源码,希望您喜欢

闲来无事&#xff0c;写几个好看的html界面玩一玩&#xff01; 登录界面一&#xff1a; 代码 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-widt…

MySQL表的基础操作

创建表 create table 表名&#xff08;列名 类型&#xff0c;列名 类型……&#xff09; 注意 1.在进行表操作之前都必须选中数据库 2.表名&#xff0c;列名等一般不可以与关键字相同&#xff0c;如果确定相同&#xff0c;就必须用反引号引住 3.可以使用comment来增加字段说…

c++水仙花数

一.什么是水仙花数 水仙花数是一个三位数它的个位,十位,百位的三次幂相加的和为他本身 例如:1*1*15*5*53*3*3153及153为水仙花数 二.代码 三.样例

98.网游逆向分析与插件开发-网络通信封包解析-定位明文发送数据的关键函数

内容参考于&#xff1a;易道云信息技术研究院VIP课 上一个内容&#xff1a;项目需求与需求拆解 通过上一个内容有了对网络通信架构有一个简单认识了解&#xff0c;对于我们重要的点是 组织数据 到 加密数据之间的过程&#xff0c;这个过程的数据我们是可以看懂的&#xff0c;…