4. 比较非归一化的后验概率
首先,我们需要求出两个后验概率的比值
P ( D ∣ H 1 ) P ( D ∣ H 2 ) \frac{P(D|H1)}{P(D|H2)} P(D∣H2)P(D∣H1)
接下来,用贝叶斯定理将其中的每一项都展开。
所以这个后验概率比值告诉我们,在不知道P(D)的情况下,H1对数据的解释比H2好多少倍。
P ( H 1 ) ∗ P ( D ∣ H 1 ) P ( H 2 ) ∗ P ( D ∣ H 2 ) \frac{P(H1)*P(D|H1)}{P(H2)*P(D|H2)} P(H2)∗P(D∣H2)P(H1)∗P(D∣H1)
P(H|D) a ∝ b a \propto b a∝b P(H)*P(D|H
后验概率,即给定数据下假设的概率,与H的先验概率和在假设H下数据概率的乘积成正比。
5. 小结
本章探讨了贝叶斯定理如何在给定观察数据的情况下,为我们建立对世界的信念模型提供框架。对贝叶斯分析来说,贝叶斯定理由3个要素组成:后验概率P(H|D)、先验概率P(H)和似然P(D|H)。
显然,数据本身或者说数据的概率P(D)没有出现在这个列表中,因为如果只关注信念的比较,通常并不需要在分析中用到它。
6. 练习
试着回答以下问题,检验一下你对贝叶斯定理三要素的理解程度。
(1) 你可能不同意正文中分配给似然的概率:P(窗户玻璃碎了, 前门开着, 笔记本计算机不见了 | 被盗)= 3 10 \frac{3}{10} 103
这在多大程度上可以改变我们相信H1超过H2的程度?
P(D|H1)= 3 10 \frac{3}{10} 103
P ( H 1 ) ∗ P ( D ∣ H 1 ) P ( H 2 ) ∗ P ( D ∣ H 2 ) \frac{P(H1)*P(D|H1)}{P(H2)*P(D|H2)} P(H2)∗P(D∣H2)P(H1)∗P(D∣H1)
1 1000 ∗ 3 100 1 21900000 \frac{\frac{1}{1000}*\frac{3}{100}}{\frac{1}{21900000}} 21900000110001∗1003=657
(2) 你认为被盗的概率即H1的先验概率有多大,才能使我们同等相信H1和H2?
1 1000 ∗ 657 ∗ 3 100 1 21900000 \frac{\frac{1}{1000*657}*\frac{3}{100}}{\frac{1}{21900000}} 2190000011000∗6571∗1003=657
P(H1)= 1 657000 \frac{1}{657000} 6570001