最小二乘法公式（最小二乘法）

關(guān)于最小二乘法公式，最小二乘法這個(gè)問題很多朋友還不知道，今天小六來為大家解答以上的問題，現(xiàn)在讓我們一起來看看吧！

1、最小二乘法原理 在我們研究?jī)蓚€(gè)變量(x, y)之間的相互關(guān)系時(shí)，通?？梢缘玫揭幌盗谐蓪?duì)的數(shù)據(jù)(x1, yx2, y2... xm , ym)；將這些數(shù)據(jù)描繪在x -y直角坐標(biāo)系中(如圖1), 若發(fā)現(xiàn)這些點(diǎn)在一條直線附近，可以令這條直線方程如(式1-1)。

2、 Y計(jì)= a0 + a1 X (式1-1) 其中：a0、a1 是任意實(shí)數(shù) 為建立這直線方程就要確定a0和a1，應(yīng)用《最小二乘法原理》，將實(shí)測(cè)值Yi與利用(式1-1)計(jì)算值(Y計(jì)=a0+a1X)的離差(Yi-Y計(jì))的平方和〔∑(Yi - Y計(jì))2〕最小為“優(yōu)化判據(jù)”。

3、 令: φ = ∑(Yi - Y計(jì))2 (式1-2) 把(式1-1)代入(式1-2)中得: φ = ∑(Yi - a0 - a1 Xi)2 (式1-3) 當(dāng)∑(Yi-Y計(jì))平方最小時(shí)，可用函數(shù) φ 對(duì)a0、a1求偏導(dǎo)數(shù)，令這兩個(gè)偏導(dǎo)數(shù)等于零。

4、 (式1-4) (式1-5) 亦即： m a0 + (∑Xi ) a1 = ∑Yi (式1-6) (∑Xi ) a0 + (∑Xi2 ) a1 = ∑(Xi, Yi) (式1-7) 得到的兩個(gè)關(guān)于a0、 a1為未知數(shù)的兩個(gè)方程組，解這兩個(gè)方程組得出： a0 = (∑Yi) / m - a1(∑Xi) / m (式1-8) a1 = [∑Xi Yi - (∑Xi ∑Yi)] / [∑Xi2 - (∑Xi)2 )] (式1-9) 這時(shí)把a(bǔ)0、a1代入(式1-1)中, 此時(shí)的(式1-1)就是我們回歸的元線性方程即：數(shù)學(xué)模型。

5、 在回歸過程中，回歸的關(guān)聯(lián)式是不可能全部通過每個(gè)回歸數(shù)據(jù)點(diǎn)(x1, y x2, y2...xm,ym),為了判斷關(guān)聯(lián)式的好壞,可借助相關(guān)系數(shù)“R”，統(tǒng)計(jì)量“F”，剩余標(biāo)準(zhǔn)偏差“S”進(jìn)行判斷；“R”越趨近于 1 越好；“F”的絕對(duì)值越大越好；“S”越趨近于 0 越好。

6、 R = [∑XiYi - m (∑Xi / m)(∑Yi / m)]/ SQR{[∑Xi2 - m (∑Xi / m)2][∑Yi2 - m (∑Yi / m)2]} (式1-10) ＊ 在(式1-1)中，m為樣本容量，即實(shí)驗(yàn)次數(shù)；Xi、Yi分別任意一組實(shí)驗(yàn)X、Y的數(shù)值。

7、微積分應(yīng)用課題一 最小二乘法 從前面的學(xué)習(xí)中, 我們知道最小二乘法可以用來處理一組數(shù)據(jù), 可以從一組測(cè)定的數(shù)據(jù)中尋求變量之間的依賴關(guān)系, 這種函數(shù)關(guān)系稱為經(jīng)驗(yàn)公式. 本課題將介紹最小二乘法的精確定義及如何尋求 與 之間近似成線性關(guān)系時(shí)的經(jīng)驗(yàn)公式. 假定實(shí)驗(yàn)測(cè)得變量之間的 個(gè)數(shù)據(jù) , , …, , 則在 平面上, 可以得到 個(gè)點(diǎn) , 這種圖形稱為“散點(diǎn)圖”, 從圖中可以粗略看出這些點(diǎn)大致散落在某直線近旁, 我們認(rèn)為 與 之間近似為一線性函數(shù), 下面介紹求解步驟. 考慮函數(shù) , 其中 和 是待定常數(shù). 如果 在一直線上, 可以認(rèn)為變量之間的關(guān)系為 . 但一般說來, 這些點(diǎn)不可能在同一直線上. 記 , 它反映了用直線 來描述 , 時(shí), 計(jì)算值 與實(shí)際值 產(chǎn)生的偏差. 當(dāng)然要求偏差越小越好, 但由于 可正可負(fù), 因此不能認(rèn)為總偏差 時(shí), 函數(shù) 就很好地反映了變量之間的關(guān)系, 因?yàn)榇藭r(shí)每個(gè)偏差的絕對(duì)值可能很大. 為了改進(jìn)這一缺陷, 就考慮用 來代替 . 但是由于絕對(duì)值不易作解析運(yùn)算, 因此, 進(jìn)一步用 來度量總偏差. 因偏差的平方和最小可以保證每個(gè)偏差都不會(huì)很大. 于是問題歸結(jié)為確定 中的常數(shù) 和 , 使 為最小. 用這種方法確定系數(shù) , 的方法稱為最小二乘法.。

本文分享完畢，希望對(duì)大家有所幫助。

標(biāo)簽：