马尔可夫链蒙特卡罗 | Markov Chain Monte Carlo (MCMC)
mads007:
对于大多数应用贝叶斯统计的人来讲完全不必要理解蒙地卡罗算法细节,只需要知道这个算法在解决什么问题。 如果用一些框架软件包比如stan和turing. jl做贝叶斯统计数据分析,甚至都不需要理解贝叶斯公式,只需要知道贝叶斯统计工作流程就可以。学习贝叶斯数据分析首先认识他的威力比理解贝叶斯公式更重要。因为很可能会立刻别被这个公式挡住去路,
例如
如果你猜测模型是一个线性模型,或者从有过类似实验研究经验的人那里得知模型大概是线性模型,这就是所谓先验模型参数,
线性模型有个参数:斜率和截距。
这两个参数是未知的,假设可以用两个正态分布分别来表示,这就是两个均值和两个方差。
这样做实际通过正态分布为参数划定了搜索空间。
现在结合观测数据就有了先验模型和数据。现在就面临一个问题:那个截距和斜率的模型会最大可能性产生这组观测数据?
蒙地卡罗方法就是在先验参数空间中搜索最佳参数的算法。
贝叶斯数据分析总结为一句就是:想要最大可能地了解产生数据的数据源参数是什么。
可以参考 glemmn的bayesian workflow 电子书,免费版本。
【回复】经典统计是通过数据来做点估计,贝叶斯统计可以在先验参数空间中找到一个参数的区间。经典统计通过引入置信区间对点估计做了一些优化,但是对于产生数据的数据源仍然不是很了解。
【回复】回复 @GA阎魔爱GA :如果是贝叶斯基础原理可以看这篇文章:https://www.mathsisfun.com/data/bayes-theorem.html
中文有个伴生网站叫数学乐,但是贝叶斯这部分翻译的不全。今天高数挂了没:
课程作业就是MCMC[喜欢]先进收藏夹吃灰TraceTachyon:
讲的不够透彻,主要是解释公式,背后的原理和直觉没有讲
【回复】本身也不是十几分钟能讲完的
【回复】兄台指个路,我去学一学[脱单doge]叶飞舞处火不熄:
逼站的shuhuai 老师讲的那个白板推导有讲mcmc,强烈推荐(但是最好直接看mcmc部分的总结部分)浮游生物才是人族仙祖:
这玩意,有什么实际作用吗?看不懂这个。
【回复】用蒙特卡洛方法用较少的步数建立一个具有期望属性的马尔科夫模型,很多情况下会明显优于线性模型Victee:
04:28这里不太对吧
存在称作非常返态的状态,在访问有限次后就不再会被回访。并没有说马尔可夫链就不能出现这样的结构。
【回复】回复 @鲁苏事 :我也不太记得了,应该是掌阅的smart3
【回复】回复 @Victee :[doge]你的电纸书是什么型号
【回复】他理解的是在具有平稳分布之下的马尔科夫链具有正常返的性质,也不能说错米其林妙妙喵喵:
太难了,期末就考这个,老师说是重点[笑哭]ESPEA:
请问最后收敛判据R hat还有自相关性可以方便指个路嘛