在樣本加工為統計量的過程中,樣本中所含的信息可能有所損失,若在將樣本加工為統計量時,信息毫無損失,則稱此統計量為充分統計量。將樣本加工成統計量要求越簡單越好,最簡單的充分統計量叫極小充分統計量。統計量的另一個重要的基本概念是完全統計量,完全充分統計量是極小充分統計量。
一個隨機變數的分布,可以取決於一些參數的值。而充分統計量,則能夠完全捕捉這些參數所包含的關於分布的信息。也就是說,如果知道充分統計量的值,那么這個隨機變數關於它的條件分布,不再取決於原來參數的值.
統計量是樣本的不帶任何未知量的函式,一般而言,統計量所包含的信息比樣本要少,但可能這些漏掉的信息是無關緊要的。比如常態分配,均值和方差就是充分統計量,它包含的信息比樣本要少,但是給定均值和方差的值,總體的條件分布不再依賴於其他參數的值。
一個現實中的小例子,就是星座與性格的關係。性格肯定是一個隨機變數,它的分布取決於太多的因素,比如家庭、生長的地域、受的教育、還有生理等諸多因素。但莫明其妙的是,在很多情況下,這么多因素的信息居然濃縮在“星座”這一個信息里。比如,你想判斷一個人的性格,你可以問他或她是什麼星座的,給定星座的情況下,你對他/她性格的“分布”會有一個估計。
很多情況下,你還可以加上血型這樣一個統計量,估計會更精確點。但匪夷所思的是,有人還再加上“生肖”這樣一個中國特有的“統計量”,再對各星座的性格做出統計判斷。