介紹
機率推理的通用方法,是Metropolis-Hastings算法的一個特例,因此也是Markov chain Monte Carlo算法的一種。
雖然它的通用性比較好,但導致了計算代價較高,所以在許多套用里,包括具有不完備信息的套用,都採用其它更為高效的方法。然而,理解這一方法有助於增進對統計推理問題的理解。
中心思想
由一個具有2個或更多變數的聯合機率分布P(x1,x2,...,xn),生成一個樣本序列{y1,y2,...,ym},用於逼近這一個聯合分布,或計算一個積分(例如期望)。
適用於處理不完備信息,當聯合分布不明確,而各個變數的條件分布已知的情況。
根據其他變數的當前值,依次對分布的每個變數生成一個實例。
隨機過程
對一個隨機過程,例如馬爾可夫鏈過程,一般包括一個有限的狀態集合 和 一個機率轉移矩陣。假設這個過程各個各個狀態都是可遍歷的(ergodic),即轉移矩陣中的元素值都大於0。為此,我們可以選擇任意狀態為初始態 Q0,計算轉化N次後可能到達的狀態 Qn 的機率。當N取值足夠大時,可以計算得到這一過程最有可能的終態。
假設有一個變數集合X={X1,X2,……,Xn},P(X)為集合X的聯合分布,0<P(X)<1。
我們將這些變數看做一個馬爾科夫過程中的狀態集,這一過程定義為:S=∏i=1~n