map[最大後驗]

map[最大後驗]

在貝葉斯統計學中,最大後驗(Maximum A Posteriori,MAP)估計可以利用經驗數據獲得對未觀測量的點態估計。它與Fisher的最大似然估計(Maximum Likelihood,ML)方法相近,不同的是它擴充了最佳化的目標函式,其中融合了預估計量的先驗分布信息,所以最大後驗估計可以看作是正則化(regularized)的最大似然估計。

map[最大後驗] map[最大後驗]

假設我們需要根據觀察數據x估計沒有觀察到的總體參數θ,讓f作為x的採樣分布,這樣f(x| θ)就是總體參數為θ時x的機率。函式即為似然函式,其估計就是θ的最大似然估計。

假設θ存在一個先驗分布g,這就允許我們將θ作為貝葉斯統計(en:Bayesian statistics)中的隨機變數,這樣θ的後驗分布就是:

map[最大後驗] map[最大後驗]
其中Θ是g的domain,這是貝葉斯定理(en: Bayes' theorem)的直接套用。
map[最大後驗] map[最大後驗]

最大後驗估計方法於是估計θ為這個隨機變數的後驗分布的mode:

後驗分布的分母與θ無關,所以在最佳化過程中不起作用。注意當前驗g是 uniform(也就是常函式)時最大後驗估計與最大似然估計重和。

最大後驗估計可以用以下幾種方法計算:

解析方法,當後驗分布的模能夠用closed form方式表示的時候用這種方法。當使用en:conjugate prior的時候就是這種情況。通過如共扼積分法或者牛頓法這樣的數值最佳化方法進行,這通常需要一階或者導數,導數需要通過解析或者數值方法得到。通過期望最大化算法的修改實現,這種方法不需要後驗密度的導數。

儘管最大後驗估計與 Bayesian 統計共享前驗分布的使用,通常並不認為它是一種 Bayesian 方法,這是因為最大後驗估計是點估計,然而 Bayesian 方法的特點是使用這些分布來總結數據、得到推論。Bayesian 方法試圖算出後驗均值或者中值以及posterior interval,而不是後驗模。尤其是當後驗分布沒有一個簡單的解析形式的時候更是這樣:在這種情況下,後驗分布可以使用Markov chain Monte Carlo技術來模擬,但是找到它的模的最佳化是很困難或者是不可能的。

相關詞條

相關搜尋

熱門詞條

聯絡我們