殘差平方和

殘差平方和

殘差平方和是線上性模型中衡量模型擬合程度的一個量,用連續曲線近似地刻畫或比擬平面上離散點組,以表示坐標之間函式關係的一種數據處理方法。用解析表達式逼近離散數據的一種方法。在科學實驗或社會活動中,通過實驗或觀測得到變數x與y的一組數據對(xₑ,yₑ)(e=1,2,…ə),其中各xₑ是彼此不同的 。人們希望用一類與數據的背景材料規律相適應的解析表達式,y=f(x,c)來反映變數x與y之間的依賴關係,即在一定意義下“最佳”地逼近或擬合已知數據。f(x,c)常稱作擬合模型 ,式中c=(c₁,c₂,…cₔ)是一些待定參數 。

公式概念

為了明確解釋變數和隨機誤差各產生的效應是多少,統計學上把數據點與它在回歸直線上相應位置的差異稱為殘差,把每個殘差平方之後加起來 稱為殘差平方和,它表示隨機誤差的效應。一組數據的殘差平方和越小,其擬合程度越好。

計算

按定義,殘差平方和應為

等精度測量:

殘差平方和 殘差平方和
殘差平方和 殘差平方和

﹝ ﹞

非等精度測量:

殘差平方和 殘差平方和
殘差平方和 殘差平方和

﹝ ﹞

殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和

式中 是測量數據 的殘差, 為相應的權。在一般情況下

殘差平方和 殘差平方和
殘差平方和 殘差平方和

式中, 為直接測量參數的估計值。

對於線性參數,殘差為

殘差平方和 殘差平方和
殘差平方和 殘差平方和

式中

用矩陣形式表示的殘差平方和為

殘差平方和 殘差平方和
殘差平方和 殘差平方和

﹝ ﹞=

線性參數測量數據的殘差平方和可進一步寫成

殘差平方和 殘差平方和

(對等精度測量)

殘差平方和 殘差平方和

(對非等精度測量)

式中符號的意義與前面相應的的符號一致。

以上給出了殘差平方和的一般形式。在具體解算時,從計算方便考慮,對不同的解算方法,殘差平方和的計算各有相應的具體方法。

性質

解釋變數與殘差平方和

殘差平方和RSS具有以下性質:

性質1 只有常數項沒有其他解釋變數的回歸方程的RSS和TSS相等,其決定係數為0。

性質2 增加解釋變數必然導致RSS減小。因此,如果想降低RSS,只要在回歸方程中儘可能地加入解釋變數就能達到目的。

性質3 包含常數項全部解釋變數的個數K等於樣本數n時,RSS為0,決定係數為1。

F檢驗和t檢驗之間的關係

在一些場合t檢驗不僅可以進行雙側檢驗,也可以進行單側檢驗。而F檢驗沒有單側和雙側的區別。當進行雙側檢驗的時候兩種檢驗的P值相同。

分布

機率分布

殘差平方和 殘差平方和

殘差帶權平方和除以單位權方差服從 分布。即

殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和

式中自由度f就是平差中多餘觀測數。由於 , ,f對於一個平差系統是不變數,與具體採用的平差方法無關。

數學期望和方差

殘差平方和 殘差平方和

易知 的數學期望為

殘差平方和 殘差平方和

由此可知

殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和

即單位權方差 為 的無偏估計。

殘差平方和 殘差平方和

則有

殘差平方和 殘差平方和

殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和

即方差估計 的標準差與 成正比與 成反比。可見自由度f 愈小,方差估計 的精度就愈差。

機率表達式

殘差平方和 殘差平方和

殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和
殘差平方和 殘差平方和

分位值 , 以自由度f和顯著水平 可由 分布表中查得。

相關詞條

相關搜尋

熱門詞條

聯絡我們