線性回歸方程公式推導(dǎo)過程

字號(hào):


    公式是數(shù)學(xué)題目的解題關(guān)鍵,那么線性回歸方程公式推導(dǎo)過程是什么呢?下面是由出國(guó)留學(xué)網(wǎng)小編為大家整理的“線性回歸方程公式推導(dǎo)過程”,僅供參考,歡迎大家閱讀。
    線性回歸方程公式推導(dǎo)過程
    假設(shè)線性回歸方程為: y=ax+b (1),
    a,b為回歸系數(shù),要用觀測(cè)數(shù)據(jù)(x1,x2,...,xn和y1,y2,...,yn)確定之。
    為此構(gòu)造 Q(a,b)=Σ(i=1->n)[yi-(axi+b)]^2 (2),
    使Q(a,b)取最小值的a,b為所求。
    令: ?Q/?a= 2Σ(i=1->n)[yi-(axi+b)](-xi)= 0 (3),
    ?Q/?b= 2Σ(i=1->n)[yi-(axi+b)] = 0 (4),
    根據(jù)(3)、(4)解出a ,b就確定了回歸方程(1):
    a Σ (Xi)2 + b Σ Xi = Σ Xi Yi (5);
    a Σ Xi + b n = Σ Yi (6);
    由(5)(6)解出a,b便是。//這一步就省略了。
    拓展閱讀:線性回歸方程的分析方法
    分析按照自變量和因變量之間的關(guān)系類型,可分為線性回歸分析和非線性回歸分析。如果在回歸分析中,只包括一個(gè)自變量和一個(gè)因變量,且二者的關(guān)系可用一條直線近似表示,這種回歸分析稱為一元線性回歸分析。如果回歸分析中包括兩個(gè)或兩個(gè)以上的自變量,且因變量和自變量之間是線性關(guān)系,則稱為多元線性回歸分析。
    線性回歸方程的例題求解
    用最小二乘法估計(jì)參數(shù)b,設(shè)服從正態(tài)分布,分別求對(duì)a、b的偏導(dǎo)數(shù)并令它們等于零,得方程組解得。
    其中,且為觀測(cè)值的樣本方差.線性方程稱為關(guān)于的線性回歸方程,稱為回歸系數(shù),對(duì)應(yīng)的直線稱為回歸直線.順便指出,將來還需用到,其中為觀測(cè)值的樣本方差。
    先求x,y的平均值。
    利用公式求解:b=把x,y的平均數(shù)帶入a=y-bx。
    求出a=是總的公式y(tǒng)=bx+a線性回歸方程y=bx+a過定點(diǎn)。
    (x為xi的平均數(shù),y為yi的平均數(shù))。