1 前言:吉布斯采样
吉布斯采样的基本思想是,通过迭代的方式,逐个维度地更新所有变量的状态
1.1 举例 收拾东西
- 假设我们现在有一个很乱的屋子,我们不知道东西应该放在哪里(绝对位置),但知道哪个和哪个应该比较近(相对位置)
我们每次选取一个物品,假设其他的位置都是正确的,那么这个应该放在哪个位置
比如:选取一个衣架,把他放到另一个衣架边上
衣服放到裤子边上
一步一步来,直到东西已经正确放置
2 LDA 的两个原则
一个文章中单词的主题越集中越好
同一个单词的主题越集中越好
那the这种词怎么办?这种不重要的词舍弃掉
3 LDA 目标
有了LDA的两个基本原则后,LDA的目标可以变为(颜色代表topic):
4 LDA 更新过程
首先随机给每个单词染色
对于第一个单词ball,假设其他单词颜色是正确的
首先看同一个文件里面,其他单词的颜色
然后看看同一个单词,在所有文件里面出现的颜色
他们的乘积就是对应的概率权重
但是,我们不希望出现绝对的零,我们对所有的权重加一个很小的值:
然后以乘积结果作为权重,采样,采到哪个,就染成什么颜色
以此类推,一个一个重新染色所有的单词
那怎么知道应该染成什么颜色呢?这个是人为做的
参考内容:
Training Latent Dirichlet Allocation: Gibbs Sampling (Part 2 of 2) (youtube.com)