【数学】什么是方法矩估计?和最大似然估计是什么关系?

背景

方法矩估计(Method of Moments Estimation)和最大似然估计(Maximum Likelihood Estimation, MLE)是两种常用的参数估计方法。方法矩估计基于样本矩与总体矩的关系,通过样本数据计算样本矩来估计总体参数。最大似然估计基于最大化样本数据的联合概率密度函数,通过寻找参数值使得样本数据出现的概率最大来估计参数。

公式

方法矩估计

方法矩估计基于以下公式:

  • 样本矩: M k = 1 n ∑ i = 1 n X i k M_k = \frac{1}{n} \sum_{i=1}^{n} X_i^k Mk=n1i=1nXik
  • 总体矩: E ( X k ) = μ k E(X^k) = \mu_k E(Xk)=μk

通过设定样本矩等于总体矩,可以解出参数估计值。

最大似然估计

最大似然估计基于以下公式:

  • 似然函数: L ( θ ) = ∏ i = 1 n f ( X i ; θ ) L(\theta) = \prod_{i=1}^{n} f(X_i; \theta) L(θ)=i=1nf(Xi;θ)
  • 对数似然函数: ln ⁡ L ( θ ) = ∑ i = 1 n ln ⁡ f ( X i ; θ ) \ln L(\theta) = \sum_{i=1}^{n} \ln f(X_i; \theta) lnL(θ)=i=1nlnf(Xi;θ)

通过最大化对数似然函数来求解参数估计值。

示例题目

示例 1:正态分布参数估计

假设样本数据来自一个均值为 μ \mu μ,方差为 σ 2 \sigma^2 σ2的正态分布 N ( μ , σ 2 ) N(\mu, \sigma^2) N(μ,σ2),我们要估计 μ \mu μ σ 2 \sigma^2 σ2

详细讲解

方法矩估计
  1. 样本矩计算:

    • 一阶样本矩: M 1 = 1 n ∑ i = 1 n X i M_1 = \frac{1}{n} \sum_{i=1}^{n} X_i M1=n1i=1nXi
    • 二阶样本矩: M 2 = 1 n ∑ i = 1 n X i 2 M_2 = \frac{1}{n} \sum_{i=1}^{n} X_i^2 M2=n1i=1nXi2
  2. 总体矩关系:

    • 一阶总体矩: E ( X ) = μ E(X) = \mu E(X)=μ
    • 二阶总体矩: E ( X 2 ) = μ 2 + σ 2 E(X^2) = \mu^2 + \sigma^2 E(X2)=μ2+σ2
  3. 通过样本矩等于总体矩,得到:
    μ ^ = M 1 = 1 n ∑ i = 1 n X i \hat{\mu} = M_1 = \frac{1}{n} \sum_{i=1}^{n} X_i μ^=M1=n1i=1nXi
    σ ^ 2 = M 2 − μ ^ 2 \hat{\sigma}^2 = M_2 - \hat{\mu}^2 σ^2=M2μ^2

最大似然估计
  1. 似然函数:
    L ( μ , σ 2 ) = ∏ i = 1 n 1 2 π σ 2 exp ⁡ ( − ( X i − μ ) 2 2 σ 2 ) L(\mu, \sigma^2) = \prod_{i=1}^{n} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left( -\frac{(X_i - \mu)^2}{2\sigma^2} \right) L(μ,σ2)=i=1n2πσ2 1exp(2σ2(Xiμ)2)

  2. 对数似然函数:
    ln ⁡ L ( μ , σ 2 ) = − n 2 ln ⁡ ( 2 π σ 2 ) − 1 2 σ 2 ∑ i = 1 n ( X i − μ ) 2 \ln L(\mu, \sigma^2) = -\frac{n}{2} \ln(2\pi\sigma^2) - \frac{1}{2\sigma^2} \sum_{i=1}^{n} (X_i - \mu)^2 lnL(μ,σ2)=2nln(2πσ2)2σ21i=1n(Xiμ)2

  3. μ \mu μ σ 2 \sigma^2 σ2求导并设为0,解得:
    μ ^ = 1 n ∑ i = 1 n X i \hat{\mu} = \frac{1}{n} \sum_{i=1}^{n} X_i μ^=n1i=1nXi
    σ ^ 2 = 1 n ∑ i = 1 n ( X i − μ ^ ) 2 \hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \hat{\mu})^2 σ^2=n1i=1n(Xiμ^)2

Python代码求解

import numpy as np# 生成样本数据
np.random.seed(0)
data = np.random.normal(loc=5, scale=2, size=100)# 方法矩估计
mu_mom = np.mean(data)
sigma2_mom = np.mean(data**2) - mu_mom**2# 最大似然估计
mu_mle = np.mean(data)
sigma2_mle = np.var(data, ddof=0)print("方法矩估计:")
print(f"mu = {mu_mom}, sigma^2 = {sigma2_mom}")print("最大似然估计:")
print(f"mu = {mu_mle}, sigma^2 = {sigma2_mle}")

实际生活中的例子

在金融领域中,投资组合的收益通常被假设为正态分布。为了估计未来收益的均值和波动率,金融分析师可以使用历史收益数据来进行参数估计。通过方法矩估计或最大似然估计,可以得出投资组合的均值收益和方差,从而指导投资决策。

方法矩估计与最大似然估计的关系与优缺点

两种方法各有优缺点:

  • 方法矩估计通常计算简单,易于理解,但在有限样本量下估计量的效率较低。
  • 最大似然估计在大样本量下具有一致性和渐近正态性,估计量更有效,但计算复杂,尤其是对于复杂模型。

选择哪种方法更好取决于具体问题和数据特点。一般情况下,最大似然估计更受欢迎,因为它在大样本下具有良好的统计性质。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/29860.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

央国企财务专家的“专家课”——中国总会计师协会联合实在智能举办RPA专项培训

近日,中国总会计师协会正式举办了为期五天的「财务数字化思维与实用IT技能提升」专项培训,吸引了来自中铁十五局集团有限公司、中国航空工业规划设计院、中核核电运行管理有限公司、中国北方车辆有限公司、一汽物流有限公司等国企、事业单位及民营企业共…

【权威出版/投稿优惠】2024年水利水电与能源环境科学国际会议(WRHEES 2024)

2024 International Conference on Water Resources, Hydropower, Energy and Environmental Science 2024年水利水电与能源环境科学国际会议 【会议信息】 会议简称:WRHEES 2024 大会时间:点击查看 截稿时间:点击查看 大会地点:…

【Linux】进程间通信3——system V共享内存

1.system V进程间通信 管道通信本质是基于文件的,也就是说操作系统并没有为此做过多的设计工作,而system V IPC是操作系统特地设计的一种通信方式。但是不管怎么样,它们的本质都是一样的,都是在想尽办法让不同的进程看到同一份由操…

压力应变桥信号变送光电隔离放大模块PCB焊接式 差分信号输入0-10mV/0-20mV/0-±10mV/0-±20mV转0-5V/0-10V/4-20mA

概述: IPO压力应变桥信号处理系列隔离放大器是一种将差分输入信号隔离放大、转换成按比例输出的直流信号混合集成厚模电路。产品广泛应用在电力、远程监控、仪器仪表、医疗设备、工业自控等行业。该模块内部嵌入了一个高效微功率的电源,向输入端和输出端…

【深度解析】1688货源拿货价比拼多多贵?为何商家仍选1688

对电商卖家来说,首先需要解决的问题就是货源。 虽然知道1688是个大型综合性的货源平台,但很多卖家还是觉得1688上面的货源很贵,甚至在平台严查无货源的背景下,还是坚持从1688拿货。那么为什么有些拼多多的商品会比1688还便宜呢&a…

k8s redis 单节点部署

k8s redis 单节点部署kubectl 执行脚本 kubectl --kubeconfig ~/.kube-rz-real/config apply -f redis-leader.yaml -n rz-dt vi redis-leader.yamlapiVersion: apps/v1 kind: Deployment metadata:name: redis-leader-deploylabels:app: redisrole: leadertier: backend sp…

使用Python绘制股票价格和移动平均的图表

移动平均(Moving Average,简称MA)是一种统计分析方法,通过计算一系列数据点的平均值,来平滑数据的波动。它可以帮助我们更清晰地看到数据的长期趋势,而不被短期的剧烈变化所干扰。 假设我们有一组股票价格数据:[100, 105, 102, 110, 108, 115]。为了计算3天的移动平均,…

openipc:/etc/init.d/目录下的所有启动文件启动分析

openipc /etc/init.d/目录下的所有文件 启动文件解析参考:https://blog.csdn.net/qq_37212828/article/details/107227965 1. rcS文件,是本目录在开机时最先启动的文件: 它会依次启动/etc/init.d/目录下依S开头的文件 #!/bin/sh # Start a…

探索线性回归模型

目录 一 线性回归的理论基础 什么是线性回归? 线性回归的假设 最小二乘法 二 线性回归的数学推导 线性回归参数的推导 多元线性回归 三 线性回归的模型构建 数据准备 训练模型 模型评估 四 线性回归的代码实现 基本实现 多元线性回归 五 线性回归的应用场景 预…

【408考点之数据结构】线性表的顺序表示

线性表的顺序表示 顺序表的定义 顺序表是一种线性表的顺序存储结构。它将线性表中的数据元素按照其逻辑顺序依次存储在一块连续的存储空间中。顺序表通过数组来实现,数组中的每个元素对应于线性表的一个数据元素。顺序表的主要特点是支持随机访问,但在…

openh264 运动估计搜索原理源码分析

运动估计搜索 运动估计搜索是视频编码中的一个重要步骤,它用于确定视频序列中两个帧之间的运动向量(MV)。这些运动向量用于预测帧之间的运动,从而减少编码所需的数据量。以下是运动估计搜索的一些关键概念和步骤: 运动…

贪心算法——赶作业(C++)

慢慢来,沉稳一点。 2024年6月18日 题目描述 A同学有n份作业要做,每份作业有一个最后期限,如果在最后期限后交作业就会扣分,现在假设完成每份作业都需要一天。A同学想安排作业顺序,把扣分降到最低,请帮他实…

cocos 按钮

1、创建按钮 2、创建脚本 3、将脚本挂载到其他节点上 4、将节点和按钮绑定 即可实现点击按钮触发脚本。 在触发的脚本函数里面设置按钮节点的位置,将其移除屏幕,可以实现点击消失按钮的效果。

易备防勒索备份方案与成功案例

随着信息化的发展,数据安全的重要性愈加突出。据 Hiscox 全球网络安全统计,在勒索软件攻击事件当中,64%以上的用户是中小企业。因此,制定完善的灾备策略,是抵御网络威胁的终极方案。而在诸多数据备份方案中&#xff0c…

【Linux】进程控制1——进程创建和进程终止

1.进程创建 1.1.再谈fork 在linux中fork函数时非常重要的函数&#xff0c;它从已存在进程中创建一个新进程。新进程为子进程&#xff0c;而原进程为父进程。 #include <unistd.h> pid_t fork(void);//pid_t为整形 返回值&#xff1a;子进程中的fork()返回0&#xff…

内置类型不够用?试试Python内置类型子类化!

目录 1、经典继承法:直接子类化内置类型 🧬 1.1 了解Python内置类型 1.2 实现子类化的基础步骤 步骤1:定义子类 步骤2:添加自定义行为 步骤3:使用子类 1.3 实战:子类化列表list示例 1.4 优化:重写魔法方法实现自定义行为 2、高级技巧:元类介入定制 🪐 2.1 …

TCP/IP协议,三次握手,四次挥手,常用的协议

IP - 网际协议 IP 负责计算机之间的通信。 IP 负责在因特网上发送和接收数据包。 HTTP - 超文本传输协议 HTTP 负责 web 服务器与 web 浏览器之间的通信。 HTTP 用于从 web 客户端&#xff08;浏览器&#xff09;向 web 服务器发送请求&#xff0c;并从 web 服务器向 web …

智能门锁电池双节升压充电芯片-FP6291支持5V1A输入升压 8.4V双节电池充电

方案背景 可充电锂电池是一种环保、高效的智能锁电池类型&#xff0c;其主要优点是可以循环充电使用、容量大、使用寿命长。与一次性电池相比&#xff0c;可充电锂电池可以循环充电使用&#xff0c;减少了废弃物的产生和对环境的影响。同时&#xff0c;可充电锂电池的容量较大…

细说MCU输出互补型PWM波形的实现方法

目录 一、硬件及工程 二、建立工程 1、TIM1引脚 2、建立工程 &#xff08;1&#xff09;配置GPIO &#xff08;2&#xff09;选择时钟源和Debug模式 &#xff08;3&#xff09;配置定时器 &#xff08;4&#xff09;配置中断 &#xff08;5&#xff09;配置系统时钟 …

怎么去避免手机赚钱的骗局?

要避免手机赚钱的骗局&#xff0c;可以遵循以下一些建议&#xff1a; 1. 谨慎对待高收益承诺&#xff1a;如果一个项目承诺轻松获取高额回报&#xff0c;那么很可能存在风险。真正的高收益往往伴随着高风险&#xff0c;而且需要付出大量的努力和时间。 2. 调查了解相关项目&am…