تعریف رگرسیون خطی (Linear Regression) قسمت ۵

برآورد پارامترهای رگرسیون خطی ساده

به منظور برآورد پارامترهای رگرسیون خطی ساده، کافی است تابع مجموع مربعات خطا را کمینه کرد. برای این کار مراحل زیر باید طی شوند:

• محاسبه مجموع توان دوم خطا

$$\sum (y_i-({\hat{\beta }}_{\mathrm{۰}}+{\hat{\beta }}_{\mathrm{۱}}{x}_i){)}^2$$

• مشتق مجموع مربعات خطا برحسب پارامتر $${\hat{\beta }}_{\mathrm{۰}}$$

$$\sum (-y_i+{\hat{\beta }}_{\mathrm{۰}}+{\hat{\beta }}_{\mathrm{۱}}{x}_i)$$

• برابر قرار دادن مشتق با صفر به منظور پیدا کردن نقاط کمینه

$$\sum (-y_i+{\hat{\beta }}_{\mathrm{۰}}+{\hat{\beta }}_{\mathrm{۱}}{x}_i)=0$$

• پیدا کردن ریشه برای معادله حاصل برحسب $${\hat{\beta }}_{\mathrm{۰}}$$

$${\hat{\beta }}_{\mathrm{۰}}=\overline{y}-{\hat{\beta }}_{\mathrm{۱}}\overline{x}$$

• مشتق مجموع مربعات خطا بر حسب پارامتر  $${\hat{\beta }}_{\mathrm{۱}}$$

$$\sum (-\mathrm{۲}{x}_i{y}_i+2{\hat{\beta }}_{\mathrm{۰}}{x}_i+2{\hat{\beta }}_{\mathrm{۱}}{x}_i^2)$$

• جایگذاری $${\hat{\beta }}_{\mathrm{۰}}$$ و پیدا کردن ریشه برای معادله حاصل برحسب $${\hat{\beta }}_{\mathrm{۱}}$$

$$-\sum (x_i{y}_i+(\overline{y}-{\hat{\beta }}_{\mathrm{۱}}\overline{x})\sum x_i+{\hat{\beta }}_{\mathrm{۱}}\sum x_i^2)=0$$

$$\widehat{{\beta }_{\mathrm{۱}}}=\frac{\sum (x_i-\overline{x})(y_i-\overline{y})}{\sum (x_i-\overline{x}{)}^2}$$

به این ترتیب برآورد پارامترهای مدل خطی به صورت زیر خواهند بود.

$$\widehat{{\beta }_{\mathrm{۱}}}=\frac{\sum (x_i-\overline{x})(y_i-\overline{y})}{\sum (x_i-\overline{x}{)}^2}$$

$$\widehat{{\beta }_{\mathrm{۰}}}=\overline{y}-\widehat{{\beta }_{\mathrm{۱}}}\overline{x}$$

که در آن $$\overline{x}$$  و $$\overline{y}$$ میانگین $$x$$ و $$y$$ هستند.

برای راحتی محاسبات، می‌توان برآورد $${\beta }_{\mathrm{۱}}$$ را به فرم دیگری نیز نوشت:

$$\widehat{{\beta }_{\mathrm{۱}}}=\frac{n(\overline{xy}-\overline{x}\overline{y}))}{(n-\mathrm{۱}){\sigma }_x^{\mathrm{۲}}}$$

که منظور از $$\overline{xy}$$ میانگین حاصلضرب x و y بوده و $${\sigma }_x^{\mathrm{۲}}$$ نیز بیانگر واریانس مقدارهای x است.

اگر $$\hat{y}$$ مقدار برآورد برای متغیر وابسته باشد، می‌توانیم آن را میانگین مشاهدات برای متغیر وابسته به ازای مقدار ثابت متغیر مستقل در نظر گرفت. پس با فرض اینکه میانگین جمله خطا نیز صفر است، خواهیم داشت:

$$\hat{y}=E(Y|X=x)=\widehat{{\beta }_{\mathrm{۰}}}+\widehat{{\beta }_{\mathrm{۱}}}x$$

که در آن $$E(Y|X=x)$$ نشان‌دهنده امید ریاضی (متوسط) شرطی است و همچنین  $$\widehat{{\beta }_{\mathrm{۰}}}$$ و $${\hat{\beta }}_{\mathrm{۱}}$$ برآوردهای مربوط به هر یک از پارامترها هستند.

نکته: به راحتی دیده می‌شود که میانگین مربوط به متغیر مستقل و وابسته روی خط رگرسیون قرار دارند. یعنی این نقطه در معادله خط رگرسیون صدق می‌کند. زیرا با توجه به محاسبه $${\beta }_{\mathrm{۰}}$$ داریم:

$$\widehat{{\beta }_{\mathrm{۰}}}=\overline{y}-\widehat{{\beta }_{\mathrm{۱}}}\overline{x}\to \overline{Y}={\hat{\beta }}_{\mathrm{۰}}+{\hat{\beta }}_{\mathrm{۱}}\overline{X}$$

مثال

اطلاعات مربوط به ۵۰ خانه شامل قیمت (به میلیون ریال) و متراژ (متر مربع) در شهر تهران جمع‌آوری شده است. این اطلاعات را می‌توانید با قالب اکسل از اینجا دریافت کنید.

با توجه به ضریب همبستگی بین این دو متغیر که برابر با ۰٫۹۸۹۱ است،‌ مشخص است که رابطه خطی شدیدی بینشان برقرار است. اگر فرض کنیم قیمت خانه متغیری وابسته به متراژ است، محاسبات اولیه برای برآورد پارامترهای مدل رگرسیونی در جدول زیر قرار گرفته.

بر این اساس برآورد پارامترهای مدل خطی به صورت $${\hat{\beta }}_{\mathrm{۰}}=\mathrm{۱۹٫۹۶۵}$$ و $${\hat{\beta }}_{\mathrm{۱}}=\mathrm{۵٫۰۷۸}$$  خواهد بود. در نتیجه می‌توان معادله مربوط برآورد مقدار متغیر وابسته را به صورت زیر نوشت:

$$\widehat{y_i}=19.965+5.078x_i$$

پس اگر لازم باشد که ارزش خانه‌ای با متراژ ۶۱ متر محاسبه شود، کافی است در معادله بالا برای $$x_i$$‌ مقدار ۶۱ را جایگزین کرده،‌ مقدار $${\hat{y}}_i$$ را بدست آوریم که برابر با ۳۲۹٫۷۵۸ میلیون ریال است. در تصویر زیر نمودار مربوط به داده‌ها و خط رگرسیون دیده می‌شود.

$$\widehat{y_i}=19.965+5.078\left(61\right)=329.758$$

تعریف رگرسیون خطی (Linear Regression) قسمت ۱
تعریف رگرسیون خطی (Linear Regression) قسمت ۲
تعریف رگرسیون خطی (Linear Regression) قسمت ۳
تعریف رگرسیون خطی (Linear Regression) قسمت ۴
تعریف رگرسیون خطی (Linear Regression) قسمت ۵
تعریف رگرسیون خطی (Linear Regression) قسمت ۶
تعریف رگرسیون خطی (Linear Regression) قسمت ۷