文章目录

概率论与贝叶斯先验
- 概率论基础
- - 问题代码
  - 图像
  - - 本福特定律
    - - 应用：公路堵车模型
      - 代码模型
        初速不同：影响不大
        减速概率：影响大
      - 应用：商品推荐
      - 解答
  - 概率公式
  - - 应用
    - 样本贝叶斯公式
  - 分布
  - - 两点分布
    - 二项分布
    - 泊松分布
    - - 期望和方差表示强度应用
    - 均匀分布
    - 指数分布
    - - 无记忆性
      - 半记忆性
    - 正态分布
    - - EX
      - DX
      - 代码
      - 图像
    - Beta分布
    - - 期望
      - 图像
    - 指数族
    - - 伯努利分布应用
      - 参数Logistic方程
    - 作用：分类需要假定模型
    - - 得到似然函数
  - 事件独立性
- 统计量
- - 期望
  - - 性质
    - 应用
    - - 答案
      - 代码
      - 进一步思考
    - 应用2
  - 方差
  - - 性质
    - - 应用
      - 切尔雪夫不等式
      - 应用
  - 协方差
  - - 意义
    - - 协方差上界
      - 上界证明
    - 协方差矩阵
  - 相关系数为0不相关
  - - 代码
    - 一次
    - 二次
    - 正切
    - 二次函数
    - 椭圆
- 大数定律
- - 意义
  - 推论
  - - 引用
- 中心极限定理
- - 意义
  - 应用

概率论与贝叶斯先验

概率论基础

统计数字的概率
给定某正整数N，统计从1到N！的所有数中，首位数字出现1的概率。
进而，可以计算首位数字是2的概率，是3的概率，从而得到一条“九点分布”

问题代码

def first_digital(x):while x>=10:x/=10return x
if _name_=="_main_":n=1frequency=[0]*9//造一个数据for i in range(1,1000):n*=im=first_digital(n)-1frequency[m]+=1print frequencyplt.plot(frequency,'r-',linewidth=2)plt.plot(frequency,'go',makersize=8)			plt.grid(True)plt.show

在这里插入图片描述

图像

在这里插入图片描述

本福特定律

在这里插入图片描述

应用：公路堵车模型

路面上有N辆车，以不同速度向前行驶，模拟堵车问题。有以下假设：

假设某辆车当前速度是v
若前方可见范围没车，则它下一秒车速提升至v+1，直到达到最高的规定速度。
若前方有车，前方车的距离为d，且d<v,则它下一秒车速降至d-1
每辆车会议随机概率减速v-1

代码模型

path=5000       #环形公路长度
n=100           #公路中的车辆数目
v0=5            #车辆初始速度
p=0.3           #随机减速概率
Times=3000
np.random.send(0)
x=xp.random.rand(n)*path
x.sort()
v=np.title([v0],n).astype(np.float)plt.figure(figize=(10,8),facecolor
for t in range(Times):plt.scatter(x,[t])*n,s=1,c='k',for i in range(n):if x[(i+1)%n]>x[i]:d=x[(i+1)%n]-x[i]else:d=path-x[i]+x[(i+1)if v[i]<d:if np.random.rand()>p:v[i]+=1else:v[i]-=1else:v[i]=d-1v=v.clip(0,150)x+=vclip(x,path)
plt.xlim(0,path)
plt.ylim(0,path)
plt.xlabel(u'车辆位置',fontsize=16)	
plt.ylabel(u'模拟时间',fontsize=16)		
plt.title(u'环形公路车辆模拟',fontsize=16)
plt.tight_layout(pad=2)	
plt.show()

在这里插入图片描述
其中c，python随机是伪随机

初速不同：影响不大

在这里插入图片描述

减速概率：影响大

在这里插入图片描述

应用：商品推荐

商品推荐场景中过于聚焦的商品推荐往往会损害用户的购物体验，在有些场景中，系统会通过一定程度的随机性给用户带来发现的惊喜感
假设某推荐场景中，经计算A和B两个商品与当前访问用户匹配度分别为0.8分和0.2分，系统将随机为A生成一个均匀分布于0和0.8的最终评分，为B生成一个均匀分布于0和0.2最终评分，并计算最终B分数大于A分数概率

解答

A=B直线上方区域即为B>A情况在这里插入图片描述

概率公式

条件概率
在这里插入图片描述
全概率公式

贝叶斯公式

应用

在这里插入图片描述

样本贝叶斯公式

在这里插入图片描述

分布

两点分布

在这里插入图片描述

二项分布

在这里插入图片描述

泊松分布

推导
在这里插入图片描述
期望和方差

期望和方差表示强度应用

在这里插入图片描述

均匀分布

在这里插入图片描述

指数分布

在这里插入图片描述
分部积分法中间减

无记忆性

在这里插入图片描述

半记忆性

马尔可夫模型

正态分布

在这里插入图片描述

EX

在这里插入图片描述

DX

在这里插入图片描述

代码

import...
mp1.rcParams['axes.unicode_minus']=False
mp1.rcParams['font.sans-serif']='SimMEI'if __name__='__main__':x1,x2=np.mgrid[-5:-5:51j,-5:-5:51j]x=np.stack((x1,x2),axis=2)plt.figure(figsize=(9,8),facecolar='w')sigma=(np.identity(2）,np.diag((3,3)),np.diag((2,5)),np.array(((2,1),(2,5)))for i in np.arrange(4):ax=plt.subplot(2,2,i+1,projection='3d')norm=states.multivariate_normal((0,0),sigma[i])y=norm.pdf(x)ax.plot_surface(x1,x2,y,cmap=cm.Accent,rstride=4,cstride=4,alpha=0.9,lw=0.3)ax.set_xlabel(u'X')ax.set_ylabel(u'Y')ax.set_zlabel(u'Z')plt.suptitle(u'二元高斯分布方差比较',fontsize=18)plt.tight_layout(1.5)plt.show()

图像

在这里插入图片描述

方差大，半轴长

斜的

Beta分布

在这里插入图片描述
推导过程

期望

在这里插入图片描述

图像

在这里插入图片描述

指数族

在这里插入图片描述
指数族分布：一个峰可能是指数族：高斯分布

多个峰一定不是指数族分布

伯努利分布应用

在这里插入图片描述

推导参数Logistic方程

参数Logistic方程

在这里插入图片描述

作用：分类需要假定模型

在这里插入图片描述

得到似然函数

事件独立性

给定A和B事件，若有P（AB)=P(A)P(B) 则称事件A和B相互独立
说明
A和B独立，则P(A|B)=P(A)
实践中往往根据两个事件是否互相影响而判断独立性，如给定M个样品，若干次采样等情形，往往假设他们相互独立
思考：给出A,B相互包容的信息量的定义I(A,B)要求：如果A,B独立，则I(A,B)=0
在这里插入图片描述