假設我們需要根據觀察數據x估計沒有觀察到的總體參數θ,讓f作為x的採樣分布,這樣f(x| θ)就是總體參數為θ時x的機率。函式即為似然函式,其估計就是θ的最大似然估計。
假設θ存在一個先驗分布g,這就允許我們將θ作為貝葉斯統計(en:Bayesian statistics)中的隨機變數,這樣θ的後驗分布就是:
其中Θ是g的domain,這是貝葉斯定理(en: Bayes' theorem)的直接套用。最大後驗估計方法於是估計θ為這個隨機變數的後驗分布的mode:
後驗分布的分母與θ無關,所以在最佳化過程中不起作用。注意當前驗g是 uniform(也就是常函式)時最大後驗估計與最大似然估計重和。
最大後驗估計可以用以下幾種方法計算:
解析方法,當後驗分布的模能夠用closed form方式表示的時候用這種方法。當使用en:conjugate prior的時候就是這種情況。通過如共扼積分法或者牛頓法這樣的數值最佳化方法進行,這通常需要一階或者導數,導數需要通過解析或者數值方法得到。通過期望最大化算法的修改實現,這種方法不需要後驗密度的導數。
儘管最大後驗估計與 Bayesian 統計共享前驗分布的使用,通常並不認為它是一種 Bayesian 方法,這是因為最大後驗估計是點估計,然而 Bayesian 方法的特點是使用這些分布來總結數據、得到推論。Bayesian 方法試圖算出後驗均值或者中值以及posterior interval,而不是後驗模。尤其是當後驗分布沒有一個簡單的解析形式的時候更是這樣:在這種情況下,後驗分布可以使用Markov chain Monte Carlo技術來模擬,但是找到它的模的最佳化是很困難或者是不可能的。