تعریف رگرسیون خطی (Linear Regression) قسمت 2

تخمین پارامترها برای مسائل چند متغیره

صورت مسئله

در بسیاری از مسائل رایج رگرسیون ورودی چند متغیره هست. به عنوان مثال اگر فرض کنیم متغیر ما $m$ بُعد دارد، یعنی ${\vec {x}}=[x_{1},x_{2},\dots ,x_{m}]$ ، مسئله رگرسیون به یک مسئله بهینه‌سازی برای پیدا کردن $m+1$ پارامتر تبدیل می‌شود. به این معنی که ما یک پارامتر چند متغیره به اسم ${\vec {\beta }}=[\beta _{0},\beta _{1},\cdots ,\beta _{m}]$ داریم و سعی می‌کنیم که متغیر وابسته که همان $y$ است را با ترکیبی خطی از بردارد ورودیِ ${\vec {x}}$ ، تخمین بزنیم یعنی $y\approx \beta _{0}+\sum _{i=1}^{m}\beta _{i}\times x_{i}$ . حال اگر یک بعد دیگر به متغیر ${\vec {x}}$ اضافه کنیم و مقدارش را همیشه عدد ثابت $1$ در نظر بگیریم ( $x_{0}=1$ ) و ${\vec {x}}$ را به صورتِ ${\vec {x}}=[1,x_{1},x_{2},\dots ,x_{m}]$ تغییر دهیم، تخمینی که از $y$ داریم در واقع ضرب نقطه ای بردار ورودی و بردار پارامترهای ماست یعنی $y\approx \sum _{i=0}^{m}\beta _{i}\times x_{i}={\vec {\beta }}\,\,.\,{\vec {x}}$ . حال فرض کنیم که تعداد مثالهایی که قرار است برای تخمین پارامترها استفاده کنیم $n$ است و این مثالها را به این شکل نمایش دهیم $D=({\vec {x_{1}}},y_{1}),\cdots ({\vec {x_{n}}},y_{n})$ . پارامتر بهینه پارامتری است که یک تابع هزینه را به حداقل برساند و تخمینهایی ما را به متغیر وابسته بسیار نزدیک کند. تابع هزینه را با جمع مربع تفاضل تخمینها با متغیر وابسته تعریف می‌کنیم، به این شکل که $L(D,{\vec {\beta }})=\sum _{i=1}^{n}({\vec {\beta }}\,.\,{\vec {x_{i}}}-y_{i})^{2}$ ، با این حساب پارامتر بهینه می‌شود:

${\vec {\hat {\beta }}}=argmin_{\vec {\beta }}L(D,{\vec {\beta }})=argmin_{\vec {\beta }}\sum _{i=1}^{n}({\vec {\beta }}\,.\,{\vec {x_{i}}}-y_{i})^{2}$

تخمین پارامتر بهینه از روش کمترین مربعات

در این روش برای بدست آوردن ${\vec {\hat {\beta }}}$ یا همان پارامتر بهینه، از تابع $L(D,{\vec {\beta }})$ نسبت به ${\vec {\beta }}$ گرادیان می‌گیریم و گرادیان را برابر صفر قرار می‌دهیم و پارامتر بهینه را بدست می‌آوریم. از آنجا که تابع $L(D,{\vec {\beta }})$ نسبت به ${\vec {\beta }}$ تابعی کاملاً محدب است، در نقطه مینیمم گرادیان ما صفر خواهد بود و این روش پارامتر بهینه را بدست می‌دهد. برای تسهیل کار شکل تابع را با بکارگیری چند ماتریس ساده می‌کنیم. دو ماتریس برای این کار نیاز داردیم ماتریس $X$ و ماتریس $Y$ . ماتریس $X$ ماتریس ورودهای چندمتغیره ماست. هر سطر معادل یک نمونه از داده ماست، سطر $i$ ام برابر است با $i$ امین نمونه ورودی ما یعنی بردار ${\vec {x_{i}}}$ ، از اینرو $X$ یک ماتریس $n\times (m+1)$ خواهد بود. ماتریس $Y$ از طرف دیگر برابر است با مجموعه متغیرهای وابسته داده ما. سطر $i$ ام این ماتریس برابر است با متغیر وابسته برای $i$ امین نمونه داده ما یا همان $y_i$ . ماتریس $Y$ یک ماتریس $n\times 1$ است. با کمک این دو ماتریس می‌توان تابع هزینه را به شکل ذیل تعریف کرد:

$L(D,{\vec {\beta }})=||X{\vec {\beta }}-Y||^{2}=(X{\vec {\beta }}-Y)^{T}(X{\vec {\beta }}-Y)=Y^{T}Y-Y^{T}X{\vec {\beta }}-{\vec {\beta }}^{T}X^{T}Y+{\vec {\beta }}^{T}X^{T}X{\vec {\beta }}$

حال گرادیان این تابع را نسبت به ${\vec {\beta }}$ پیدا می‌کنیم که می‌شود:

${\frac {\partial L(D,{\vec {\beta }})}{\partial {\vec {\beta }}}}={\frac {\partial \left(Y^{T}Y-Y^{T}X{\vec {\beta }}-{\vec {\beta }}^{T}X^{T}Y+{\vec {\beta }}^{T}X^{T}X{\vec {\beta }}\right)}{\partial {\vec {\beta }}}}=-2X^{T}Y+2X^{T}X{\vec {\beta }}$

با برابر قرار دادن گرادیان با صفر پارامتر بهینه بدست می‌آید:

$-2X^{T}Y+2X^{T}X{\vec {\beta }}=0\Rightarrow X^{T}Y=X^{T}X{\vec {\beta }}\Rightarrow {\vec {\hat {\beta }}}=(X^{T}X)^{-1}X^{T}Y$

پس پارامتر بهینه ما برابر است با:

${\bf {{\vec {\hat {\beta }}}=(X^{T}X)^{-1}X^{T}Y}}$

تخمین پارامتر بهینه از روش گرادیان کاهشی تصادفی (Stochastic Gradient Descent)

روش پارامتر تخمین پارامتر بهینه از طریق کمترین مربعات ممکن است چند اشکال اساسی داشته باشد. یکی آنکه محاسبه $(X^{T}X)^{-1}$ ممکن است زمانبر باشد. بُعدِ ماتریس مربعی $X^{T}X$ برابر است با $(m+1)\times (m+1)$ و اگر بعد $m$ بالا باشد زمان محاسبه معکوس این ماتریس می‌تواند مسئله ساز شود. مضاف بر این، ماتریس ممکن است معکوس پذیر نباشد. از این رو روشهای کاراتر و سریعتری برای تخمین پارامتر بهینه مورد استفاده قرار می‌گیرد. یکی از این روشها روش گرادیان کاهشی تصادفی است. در این روش هر بار یک مثال را بصورت اتفاقی از نمونه‌های داده انتخاب کرده، گرادیان تابع هزینه را حساب می‌کنیم و کمی در جهت خلاف گرادیان پارامتر را حرکت می‌دهیم تا به یک پارامتر جدید برسیم. گرادیان جهت موضعی بیشترین افزایش را در تابع به ما نشان می‌دهد، برای بیشترین کاهش موضعی در خلاف جهت گرادیان باید حرکت کرد. اینکار را آنقدر ادامه می‌دهیم که گرادیان به اندازه کافی به صفر نزدیک شود. بجای اینکه داده‌ها را بصورت تصادفی انتخاب کنیم می‌توانیم به ترتیب داده شماره $1$ تا داده شماره $n$ را انتخاب کنیم و بعد دوباره به داده اولی برگردیم و این کار را چندین بار تکرار کنیم تا گرادیان تابع به اندازه کافی به صفر نزدیک شود. از لحاظ ریاضی این کار را می‌توان به شکل پایین انجام داد، پارامتر ${\vec {\beta }}$ را در ابتدا بصورت تصادفی مقدار دهی می‌کنیم و بعد برای داده $i$ ام و تمامی $j$ ‌ها، یعنی از $j=1$ تا $j=m+1$ تغییر پایین را اعمال می‌کنیم، دراینجا $\alpha$ همان مقداریست که در جهت گرادیان هربار حرکت می‌کنیم و $\left(y_{i}-{\vec {x_{i}}}.{\vec {\beta }}\right){\vec {x_{i,j}}}$ مشتق جزئی داده $i$ ام در بُعد $j$ ام است:

${\begin{cases}{\mbox{Initialize}}\,\,{\vec {\beta ^{\,old}}}\,\,{\mbox{randomly}}\\{\mbox{loop until convergence :}}\\\,\,{\mbox{for}}\,\,\,\,i=0\,\,\,\,{\mbox{to}}\,\,\,\,n:\\\,\,\,\,\,\,{\mbox{for}}\,\,\,\,j=0\,\,\,\,{\mbox{to}}\,\,\,\,m:\\\,\,\,\,\,\,\,\,\,\,\,\,{\vec {\beta _{j}^{\,new}}}={\vec {\beta _{j}^{\,old}}}+\alpha \left(y_{i}-{\vec {\beta ^{\,old}}}\,.\,{\vec {x_{i}}}\right){\vec {x_{i,j}}}\\\,\,\,\,\,\,\beta ^{\,old}=\beta ^{\,new}\end{cases}}$

تفسیر احتمالی از طریق درست نمایی بیشینه

برای بدست آوردن پارامتر بهینه ${\vec {\hat {\beta }}}$ تابع هزینه یعنی $L(D,{\vec {\beta }})$ را به حداقل می‌رسانیم. می‌توان به همین پارامتر بهینه از روش درست نمایی بیشینه هم رسید. فرض می‌کنیم که متغیر وابسته یعنی $y$ یک متغیر تصادفی است که مقدارش از یک توزیع طبیعی (توزیع گاوسی) پیروی می‌کند. این توزیع احتمال، واریانس ثابتی به اسم $\sigma$ دارد ولی میانگین آن ترکیبی خطی از متغیرهای مستقل یعنی ${\vec {x}}=[1,x_{1},x_{2},\dots ,x_{m}]$ است. به عبارت دیگر میانگین ما برابر است با ${\vec {\beta }}\,.\,{\vec {x}}$ . با احتساب میانگین و واریانس توزیع متغیر وابسته ما می‌شود $y\sim N({\vec {\beta }}\,.\,{\vec {x}},\sigma )$ . حال اگر فرض کنیم داده‌های ما نسبت به هم مستقل هستند تابع درست نمایی برای تمام داده‌ها می‌شود:

$H(D,{\vec {\beta }})=\prod _{i=1}^{n}Pr(y_{i}|{\vec {x_{i}}}\,\,;{\vec {\beta }},\sigma )=\prod _{i=1}^{n}{\frac {1}{{\sqrt {2\pi }}\sigma }}exp\left(-{\frac {\left(y_{i}-{\vec {\beta }}\,.\,{\vec {x_{i}}}\right)^{2}}{2\sigma ^{2}}}\right)$

حال باید به دنبال پارامتری باشیم که این تابع بزرگنمایی را بیشینه کند. از آنجا که تابع لگاریتم مطلقاً صعودیست، بجای بیشینه کردن این تابع لگاریتمش را هم می‌شود بیشنه کرد و پارامتر بهینه را از آن طریق پیدا کرد:

$I(D,{\vec {\beta }})=\log \prod _{i=1}^{n}Pr(y_{i}|{\vec {x_{i}}}\,\,;{\vec {\beta }},\sigma )=\log \prod _{i=1}^{n}{\frac {1}{{\sqrt {2\pi }}\sigma }}exp\left(-{\frac {\left(y_{i}-{\vec {\beta }}\,.\,{\vec {x_{i}}}\right)^{2}}{2\sigma ^{2}}}\right)=n\log {\frac {1}{{\sqrt {2\pi }}\sigma }}-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}\left(y_{i}-{\vec {\beta }}\,.\,{\vec {x_{i}}}\right)^{2}$

پارامتر بهینه از این طریق برابر است با:

$argmax_{\vec {\beta }}I(D,{\vec {\beta }})=argmax_{\vec {\beta }}\left(n\log {\frac {1}{{\sqrt {2\pi }}\sigma }}-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}\left(y_{i}-{\vec {\beta }}\,.\,{\vec {x_{i}}}\right)^{2}\right)=argmin_{\vec {\beta }}\sum _{i=1}^{n}\left(y_{i}-{\vec {\beta }}\,.\,{\vec {x_{i}}}\right)^{2}=argmin_{\vec {\beta }}L(D,{\vec {\beta }})={\vec {\hat {\beta }}}$

همان‌طور که دیدم پارامتری که $I(D,{\vec {\beta }})$ را بیشینه می‌کند همان پارامتری است که $L(D,{\vec {\beta }})$ را به حداقل می‌رساند. این به معنی معادل بودن روش کمترین مربعات با روش درست نمایی بیشنه در رگرسیون خطی است.

تعریف رگرسیون خطی (Linear Regression) قسمت 1
تعریف رگرسیون خطی (Linear Regression) قسمت 2
تعریف رگرسیون خطی (Linear Regression) قسمت 3
تعریف رگرسیون خطی (Linear Regression) قسمت 4
تعریف رگرسیون خطی (Linear Regression) قسمت 5
تعریف رگرسیون خطی (Linear Regression) قسمت 6
تعریف رگرسیون خطی (Linear Regression) قسمت 7

تعریف رگرسیون خطی (Linear Regression) قسمت 2

تخمین پارامترها برای مسائل چند متغیره

صورت مسئله

تخمین پارامتر بهینه از روش کمترین مربعات

تخمین پارامتر بهینه از روش گرادیان کاهشی تصادفی (Stochastic Gradient Descent)

تفسیر احتمالی از طریق درست نمایی بیشینه

دیدگاه خود را ثبت کنید

دیدگاهتان را بنویسید لغو پاسخ

تلفن های تماس:

ساعات کاری

پیوند ها :

محصولات :