如皋市建设局网站在哪,网站建设公司重庆,徐州建设集团有限公司,51ppt模板网免费下载1 前言#xff1a;吉布斯采样
吉布斯采样的基本思想是#xff0c;通过迭代的方式#xff0c;逐个维度地更新所有变量的状态
1.1 举例 收拾东西
假设我们现在有一个很乱的屋子#xff0c;我们不知道东西应该放在哪里#xff08;绝对位置#xff09;#xff0c;但知道哪…1 前言吉布斯采样
吉布斯采样的基本思想是通过迭代的方式逐个维度地更新所有变量的状态
1.1 举例 收拾东西
假设我们现在有一个很乱的屋子我们不知道东西应该放在哪里绝对位置但知道哪个和哪个应该比较近相对位置 我们每次选取一个物品假设其他的位置都是正确的那么这个应该放在哪个位置 比如选取一个衣架把他放到另一个衣架边上 衣服放到裤子边上 一步一步来直到东西已经正确放置
2 LDA 的两个原则 一个文章中单词的主题越集中越好 同一个单词的主题越集中越好 那the这种词怎么办这种不重要的词舍弃掉
3 LDA 目标
有了LDA的两个基本原则后LDA的目标可以变为颜色代表topic 4 LDA 更新过程 首先随机给每个单词染色 对于第一个单词ball假设其他单词颜色是正确的 首先看同一个文件里面其他单词的颜色 然后看看同一个单词在所有文件里面出现的颜色 他们的乘积就是对应的概率权重
但是我们不希望出现绝对的零我们对所有的权重加一个很小的值 然后以乘积结果作为权重采样采到哪个就染成什么颜色 以此类推一个一个重新染色所有的单词 那怎么知道应该染成什么颜色呢这个是人为做的 参考内容
Training Latent Dirichlet Allocation: Gibbs Sampling (Part 2 of 2) (youtube.com)
