先驗分布

設總體X～F(x;θ),θ∈Θ,其中F(x;θ)形式已知，參數θ未知，求θ的點估計。 對此類問題，貝葉斯學派認為，在進行觀察以獲得樣本之前，人們對θ也會有一些知識。因為是在試驗觀察之前，故稱之為先驗知識。因此，貝葉斯派認為，應該把θ看作是隨機變數。θ的分布函式記為H（θ），θ的密度函式記為h(θ),分別稱為先驗分布函式和先驗密度函式，兩者合稱為先驗分布。 它是總體分布參數θ的一個機率分布。貝葉斯學派的根本觀點，是認為在關於θ的任何統計推斷問題中,除了使用樣本X所提供的信息外，還必須對θ規定一個先驗分布，它是在進行推斷時不可或缺的一個要素。貝葉斯學派把先驗分布解釋為在抽樣前就有的關於θ的先驗信息的機率表述，先驗分布不必有客觀的依據，它可以部分地或完全地基於主觀信念。例如，某甲懷疑自己患有一種疾病A,在就診時醫生對他測了諸如體溫、血壓等指標,其結果構成樣本X。引進參數θ：有病時,θ=1;無病時,θ=0。X的分布取決於θ是0還是1,因而知道了X有助於推斷θ是否為1。按傳統（頻率）學派的觀點,醫生診斷時,只使用X提供的信息;而按貝葉斯學派觀點,則認為只有在規定了一個介於0與1之間的數p作為事件｛θ=1｝的先驗機率時，才能對甲是否有病（即θ是否為1）進行推斷。p這個數刻畫了本問題的先驗分布,且可解釋為疾病A的發病率。先驗分布的規定對推斷結果有影響，如在此例中，若疾病A的發病率很小,醫生將傾向於只有在樣本X顯示出很強的證據時,才診斷甲有病。在這裡先驗分布的使用看來是合理的，但貝葉斯學派並不是基於 “p是發病率”這樣一個解釋而使用它的，事實上即使對本病的發病率毫無所知，也必須規定這樣一個p，否則問題就無法求解。