伽马分布极大似然估计_一文通俗解释极大似然估计

我们都知道机器学习的大致流程是通过建立一个合理的模型学习现有数据集,然后通过该模型去完成特定的任务。其中每个模型都包含自身的一组特定参数,而这组参数决定着模型的本身。但这里存在一个很关键的一个问题,就是我们如何去找到一组参数使得模型能够最好的去拟合现有数据集呢? 针对上述问题, 极大似然估计为我们提供了一种很好的解决思路,本文将给大家解释极大似然估计的原理和分析步骤。01背景概念介绍

6032c692d185b5ad351b4e0da2aa6b76.png

02极大似然估计原理解释

给定一个数据集(某个概率分布下的一系列采样点,所有的采样都是独立同分布的),我们能求得一个关于模型参数 的估计,而极大似然估计可以通过观察当前数据来估计模型的最佳参数,换句话也就是说在所有的模型参数 取值中,寻找到一个参数使得该数据集样本发生的可能性最大。

现实生活中也经常用到极大似然估计,在这里跟大家分享一下小编的一段亲身经历:

在天气晴朗的某一天,身为大好青年的小编早早的去了图书馆学习。就在小编认真看书的同时,发现一位同班女同学老是偷偷盯着小编看,小编这下坐不住了,仔细回想了最近发生的一系列事件:她老偷偷在我微信下面评论;她老是偷看我空间;她上次请我喝奶茶;她经常约我跑步;她说想请我看复联,我心想: 她会不会喜欢我,喜欢我的概率大不大呢?小编经过分析得出来的结果是她很有可能暗恋小编。请注意,小编在这里不是自恋,而是运用了严谨的数学分析来讨论这个问题的本质,使用的分析方法就是极大似然估计法。因为导致上述事件发生概率最大的模型参数就是该女同学暗恋小编。最后,不同大家动手,我自己能醒过来。

03举例分析

下面小编举几个正经的例子,大家熟悉的抛硬币问题,为了严谨起见,我们事先假设硬币的正反面轻重不同,所以抛一次得到正反面的概率不同。 对于一个独立同分布的数据集,总体的似然就是每个样本似然的乘积,对于抛硬币问题,我们可以构造似然函数如下:

cb1af021aee5e3e890881e5dd22a91c4.png

在这里我们有三枚硬币A、B、 C, 其中其抛到正面的概率p分别为1/3,1/2,2/3. 我们选择其中一枚去做100次抛硬币实验,最后得到正面朝上的次数为40,反面朝上的次数为60。我们该如何去判断是我们选择的是A、B、C中的那一枚呢?在这里使用极大似然估计,我们分别计算其似然函数结果如下:

8e78c7be11fa61f9375a391ee3f1d848.png

我们看到选择A硬币导致似然函数的结果最大,也就是说参数3802dae6557dc34d1fe7bd282f7e4a5b.png 的时候似然函数取得最大值,所以其就是针对该次实验的最大似然估计参数值。

由于对数函数操作不会改变函数的凹凸性,所以通常为了求解方便,我们会将上述指数函数的形式的似然函数转化为对数似然函数:

c41da4f3237f7be865fbf3749cb1ef4d.png

这里只是举了一个离散分布的例子,下面举一个连续分布的例子

对于正态分布44513b8a3d6f540b3182b0e2a1ffef09.png,其似然函数如下:

fa8803d7e84cc8e47cba5a332a570c5f.png

转换成对数似然函数:

a56ed32727e3f727dec1c3b61469576b.png

分别两个参数求一阶偏导,令其等于0求解下列方程:

784fd51a7e21389434c1a638c1b57473.png

得到驻点下对应的参数值:

dd095d38b140aaa2eb5da8fb37d9539c.png

上述求解参数值就是对正态分布的最大似然估计值。

总Lead结

最后我们在这里总结一下极大似然估计方法的步骤:

  1. 设计并确定似然函数

  2. 转换成对数似然函数

  3. 求偏导,并令偏导等于0,计算函数取极大值的参数值。

极大似然估计的介绍到这里就告一段落,极大似然估计在机器学习的使用十分广泛,大家可以去看一下逻辑回归参数更新的推导,其就用到了极大似然估计,下方也会给大家推荐一个参考链接。下一次将给大家结束最大后验估计和贝叶斯估计,由于小编的水平有限,所以难免会出错,欢迎大家的批评与指导。

参考连接

1.  https://zhuanlan.zhihu.com/p/26614750

2.  https://blog.csdn.net/star_liux/article/details/39666737

8a8c19015d9e35164eb8af113c24f598.png 更多精彩推荐,请关注我们 ▼

6a2257dc7f155bdbcf55d02f7b904db6.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/245203.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

python3.5安装pygame_python怎么安装pygame

Pygame 是一种流行的 Python 包,用于编写游戏-鼓励学生学习编程,同时创建有趣的东西。 Pygame 在新窗口中显示图形,因此它将 无法在 WSL 的命令行方法下运行。 但是,如果您通过本教程中所述的 Microsoft Store 安装了 Python&…

所属的用户_关于chmod(变更用户对此文件的相关权限)超详细说明,小白秒懂

Linux下一切都是文件,通过ls -l或者别名ll可以查看文件的详细信息:drwxr-xr-x 第一个字符d指的是目录文件;第2-4个字符rwx:指的是u(user,owner)对这个文件具有可读可写可执行的权限;第5-7字符r-x:指的是g(group)对这个文件具有可读可执行权限&#xff1b…

cad线性标注命令_CAD常用标注快捷键和命令

点击上方 “CAD自学网 ” → 点击右上角“...” → 点选“设为星标 ★ ”为CAD自学网加上星标,即可及时收到干货啦!左下角阅读原文看CAD视频站长推荐:1、CAD2014快速精通进阶提高教程:点击查看 2、室内设计全屋定制全套视频教程&…

计算机怎么设置网络共享,局域网共享设置,教您电脑怎么设置局域网共享

前两天,遇到位朋友说他刚买了台新的电脑,加上原来家里原有的两台电脑了,就三台了,现在想要三台电脑都能够进行一个共享职员的这么设置,就是不知道如何在局域网里怎么设置共享,下面,小编就来跟大…

html引用外部导入式css文件夹,css文件内引用外部资源文件的相对路径

1.default.css文件内容(位于css文件夹下):.ClassName .ClassName .ClassName.page-sidebar .sidebar-search .submit {--该图片相对于css文件所在的位置。不是使用本css文件的html文件位置。background-image: url(../image/search-icon.png);}2.使用本css文件的htm…

京东五星电器送扫地机器人_家电也流行“套餐”,京东五星电器吹响国庆家装“集结号”...

“70吋超薄激光电视、大容量多门法式冰箱、烘干一体滚筒洗衣机、蒸烤一体机、扫地机器人……”一系列的新房采购清单让宿迁的谭小姐直呼头痛,“挑选品牌和型号,比较价格,还要想着跟装修风格是否搭配,好浪费时间。”在线下实体店迎…

c++设置单元格填充色_格式函数text,设置自定义格式的万金油

在日常的数据处理统计中,我们知道,数据格式标准统一,是很重要的前提,如果数据混乱,那么,在后期的数据处理分析,excel就会耍脾气出错的。所以设置好数据格式,是相当重要的。今天&…

生成html_听说你不会用Python将字符串生成PDF?来,我教你!

这是恋习Python推荐的第118篇好文来源:Python爬虫与算法作者:jclian笔者在今天的工作中,遇到了一个需求,那就是如何将Python字符串生成PDF。比如,需要把Python字符串‘这是测试文件’生成为PDF, 该PDF中含有文字‘这是…

大学计算机基础python第二次作业_python第二次作业-titanic数据集练习

一、读入titanic.xlsx文件,按照教材示例步骤,完成数据清洗。 titanic数据集包含11个特征,分别是: Survived:0代表死亡,1代表存活 Pclass:乘客所持票类,有三种值(1,2,3) Name:乘客姓名 Sex:乘客性别 Age:乘客…

大一计算机上机试题2017,2017历年全国计算机二级ACCESS上机试题及答案

可通过实际操作,锻炼Access的学习能力,动手能力,编程思想锻炼等,也可以作为access 数据库国际二级考试使用呢历年Access操作试题解析(2017.5.8整理,可能为2015年以前的)第一套一、基本操作题(计30分)(1)新建数据库"学生.mdb",将考生文件夹中的…

怎么做手机的上下滑动_手机视频恢复怎么做?删除时间较久的找回方法

手机视频恢复?话说到手机视频误删的情况对于一些用户来说是常态,手机视频多又杂,经常全选删除,不小心多选了没有发现就给一起删除了!事隔多个月以后突然要用到,却怎么也找不到了,最近删除相册也…

opencv利用矩形框选中某一区域_【从零学习OpenCV】4Ubuntu系统中安装OpenCV 4

经过几个月的努力,小白终于完成了市面上第一本OpenCV 4入门书籍《从零学习OpenCV 4》。为了更让小伙伴更早的了解最新版的OpenCV 4,小白与出版社沟通,提前在公众号上连载部分内容,请持续关注小白。Ubuntu系统中安装OpenCV 4前面我…

英伟达最大gpu_英伟达正式发布Ampere架构GPU,完成史上最大性能飞跃

PingWest品玩5月14日讯,在GTC 2020线上发布会上,英伟达CEO黄仁勋正式推出了安培(Ampere)架构GPU。据其表示,这块芯片采用7nm工艺,540亿晶体管,20倍AI算力,实现5大技术创新。黄仁勋表示,“这是英…

c++ map 析构函数_C++|类继承关系中的虚函数、虚析构函数、虚基类

在继承关系中,虚函数、虚析构函数、虚基类中使用的关键字virtual都是在告诉编译器,此处要进行特殊处理:虚函数:函数重写时的要求编译器动态绑定来实现多多态 ;虚析构函数:当基类指针指向在堆内实现的派生类…

上海j计算机一级分值,计算机一级考试内容及分值

计算机一级考试内容有哪些,各题型分值是多少,以下是小编整理的计算机一级考试相关内容,供您参考与阅读。计算机一级考试内容及分值软件环境:Windows 7 操作系统,WPS Office 2012 办公软件。并在指定时间内,完成下列各项操作:(1) 选择题(计算机…

启动之后自己关闭_电脑一开都是广告,请问怎么永久关闭?

电脑一开机,主屏广告、右下角弹窗广告蹭蹭蹭的弹个不停,相信很多人都有这样的困扰,尤其是在公共电脑上,广告多的要命。你是否有这样的经历,上学的时候,教室前面的用来讲课的电脑,在老师用PPT授课…

5错误怎么办_“选择不对,一生白费”:如果选错了,该怎么办?记住这两句话...

上帝把1、2、3、4、5、6、7、8、9、0十个数字摆出来,让面前10个人去取,并说道:“一人只能取一个。”人们争先恐后地拥上去,把9、8、7、6、5、4、3都抢走了。取到2和1的人,都说自己运气不好,得到的很少很少。…

北京大学灵异事件计算机房,北大 清华高校 发生的真实恐怖灵异事件

北京大学我有一高中同学b,大学在交大上的,有段时间没联系了,偶然的机会在街上遇到他,当时我被他吓了一跳,只见他脸色发青,眼窝深陷,一问之下,他神情紧张地告诉我:他遇到鬼…

python苹果电脑如何下载_python for Mac|python Mac版V2.7.10下载(暂未上线)_预约_飞翔下载...

pythonfor mac是一种即译式的,互动的,面向对象的编程语言,它包含了模组式的操作,异常处理,动态资料形态,十分高层次的动态资料结构,以及类别的使用。如果因为网络原因,去 Python 官网…

mysql 设置字段自动增长值_mysql命令行脚本

命令行连接在工作中主要使用命令操作方式,要求熟练编写打开终端,运行命令mysql -uroot -p回车后输入密码,当前设置的密码为mysql连接成功后如下图退出登录quit 和 exit或ctrld登录成功后,输入如下命令查看效果查看版本&#xff1a…