マルコフ連鎖モンテカルロ法
マルコフ連鎖モンテカルロ(MCMC)法:
ある時刻の標本が一つ前の時刻の標本に依存して生成されるとき,標本列をマルコフ連鎖と呼ぶ.
MCMCでは,まず提案点と呼ばれる標本を生成する.提案点は代理分布にしたがって発生させる.代理分布は,ガウス分布や一様分布など簡単に生成可能なものが使いやすい.そして標本点を順番に採択・棄却していくことで任意の分布に従う標本を得る.
メトロポリス・ヘイスティングス法という原始的なMCMCでは,次の提案点を生成させる代理分布のパラメータがひとつ前の標本に依存する:
この提案点に対して,を用いて
が成立するなら提案点を採択し,成立しないなら棄却する.
現在の時刻の標本は,提案点を採択した時はその提案点となり,棄却したときは前の時刻の標本となる.
初期値は適当に決定する必要がある.
収集した標本列の最初の方は初期値に依存してしまうため,最初のほうを捨てることがある.これを焼き入れと呼ぶ.
代理分布には,例えば期待値がのガウス分布を用いる.このガウス分布は,最も最近採択された標本の近くから提案点を生成することになる.