基本介紹
高槓桿點
高槓桿點 高槓桿點離群點是指對於給定的預測值來說，回響值異常的點。相反， 高槓桿(high leverage) 表示觀測點是異常的。例如，圖1(a)左圖中的觀測點41具有高槓桿值，因為它的預測變數值比其他觀測點都要大。實線是對數據的最小二乘擬合，而虛線是刪除觀測點41後的擬合。事實上，高槓桿的觀測往往對回歸直線的估計有很大的影響。如果一些觀測對最小二乘線有重大影響，那么它們值得特別關注，這些點出現任何問題都可能使整個擬合失效。因此找出高槓桿觀測是十分重要的 。
圖1（a）
圖1（b）
圖1（c）
高槓桿點
高槓桿點圖1(a)：觀測點41是一個高槓桿點，而點20不是。實線是對所有數據的擬合，虛線是去掉觀測點41後的擬合。(b): 遠離的觀測點的值或值並非不尋常，但它仍落在數據主體之外，因此是高槓桿點。(c): 觀測點41具有高槓桿值和高殘差 。
多元回歸中高槓桿點的辨認
高槓桿點 高槓桿點 高槓桿點 高槓桿點 高槓桿點 高槓桿點在簡單線性回歸中，高槓桿觀測是很容易辨認的，我們可以簡單地找到預測變數的取值超出正常範圍的觀測點。但是，在有許多預測變數的多元線性回歸中，可能存在這樣的觀測點：單獨來看，它各個預測變數的取值都在正常範圍內，但從整個預測變數集的角度來看，它卻是不尋常的。圖1（b）的圖就是一個例子，它反映了一個有兩個預測變數和的數據集。其中大多數觀測的預測變數值都在虛線劃出的橢圓範圍內，而有一個的觀測點在橢圓之外。但此點的和的值都是正常的。因此，如果我們只檢查和將無法發現這種高槓桿點。在有兩個以上的預測變數的多元回歸中，這個問題更加明顯，因為這種情況下沒有簡單的方法可以同時繪製數據的所有維度。為了量化觀測的槓桿作用，可以計算 槓桿統計量(leverage statistic)。一個大的槓桿統計量對應一個高槓桿點。對於簡單線性回歸，有
高槓桿點
高槓桿點
高槓桿點 高槓桿點 高槓桿點
高槓桿點
高槓桿點 高槓桿點從方程中可以看出隨著的增加而增加。槓桿統計量可以擴展到多預測變數的情況，但這裡不提供公式。槓桿統計量的取值總是在和1之間，且所有觀測的平均槓桿值總是等於因此，如果給定觀測的槓桿統計量大大超過，那么我們可能會懷疑對應點有較高的槓桿作用。
高槓桿點圖1(c)圖提供了與學生化殘差的關係圖，所用的是圖1(a)中的數據。觀測41脫穎而出是因為它的槓桿統計量和學生化殘差都很高。換句話說，它既是離群點，又是高槓桿點。這是一個特別危險的組合 。
異常點與強影響點
線性回歸尤其是多因素回歸分析過程中，要保證模型建立得合理、科學，模型診斷(model diagnosis) 是必不可少的。所謂模型診斷主要是檢查數據是否符合線性回歸的套用條件，變數間是否存在多重共線性(multicollinearity)，是否存在異常點或強影響點等 。
異常點檢查 異常點主要包括 離群點(outliers) 和 高槓桿點(high leveragepoints)。離群點是指殘差與其他點相比較大的點，是針對 因變數而言。高槓桿點通常指 自 變數中出現的異常點。 強影響點(influential points) 是指對模型有較大影響的點，模型中包含該點與不包含該點會使求得的回歸係數相差很大。如果某點既是離群點又是高槓桿點，則該點很有可能是強影響點，
高槓桿點
高槓桿點(1) 離群點在SAS 輸出中可通過學生化殘差(student residual)來判斷。如果學生化殘差絕對值，可以認為是一個可疑點；如果學生化殘差絕對值，基本可以認定是一個離群點。
高槓桿點 高槓桿點(2) 高槓桿點主要通過帽子矩陣中對角線的元素來判斷，如果某觀測具有相對較大的值，提示該觀測值可能是個高槓桿點。高槓桿點在SAS中表示為帽子H值(hat diag H)。
(3) 強影響點的診斷指標主要有Cook距離(Cook's D)，它綜合反映了槓桿值和殘差大小。Cook'sD值大，表明所對應的觀測點的自變數和因變數均為異常值，對模型有較大影響。
(4) 強影響點的另一個診斷指標是DFFITS。它反映了變數的影響大小，表示某個樣品被刪除後模型的變化。變化越大(即DFFITS值越大)，表明該觀測值的影響越大。
提示：並非所有的異常點都意味著結果不好，有時候發現異常點可能會提示有更重要的信息。如果出現異常點，首先應檢查數據是否錄入錯誤，也可以選擇其他相應模型來擬合，或者需要收集更多的數據來證實 。
