فرض کنیم (x1,…,xn) = x €Rnنرم های L∞ , L2 , L1 به صورت زیر تعریف می شود از این تعاریف در این نوشتار بسیار استفاده خواهد شد.
نرم یک L1(x) = ║x║۱ =
L2(x) = ║x║۲ = (Ʃnj=1│xj│۲) نرم اقلیدسی
L∞ (x) = ║x║+∞ = Max {│xj│: j = 1,…,n} نرم بی نهایت
۱-۳ مثال. بردار x = (-1 , 0 , 2 , 3 ) را در نظر بگیرید. داریم:
║x║۱=L1(x)=│-۱│+│۰│+│۳│+ = ۱+۲= ۶
║x║۲ = L2 (X) = =
║x║= L∞ (X) = Max {│-۱│,│۰│,│۲│,│۳│}=۳
با این مقدمه به دنبال برازشa منحنی می رویم .
فرض کنید مجموعه ای از مشاهدات به صورت
A={(x1,y1),…,(xm,ym)}
در دست است. می خوا میم رابطه بین y به عنوان خروجی وx به عنوان ورودی را تقریب بزنیم .ساده ترین تابعی که می توان در نظر گرفت ،رابطه بین xو yاست که به صورت زیر می باشد .
y = ax + β
که در آن a وβ پارامترهایی هستند که بایستی با توجه به مشاهدات و با به کار بردن روش های ریاضی مشخص گردند. ( شکل ۱-۱ ملاحظه گردد . )
D1 = y1 – (ax + β) i = l,….,m(انحراف)
به روش های متفاوت می توان پارامترمای a و β را مشخص نمود .
روش اول : می نیمم نمودن مجموع قدر مطلق انحرافات
یعنی مینیمم نمودن عبارت زیر :
Min ∑mj=1│yi – axi- β│
در حقیقت با به کاربردن نرم یک یعنی مینیمم نمودن مجمو ع قدر مطلق انحرافات می خواهیم پارامترهای a و β را مشخص نماییم. ممکن است در این روش محدودیت هایی نیز به پای پارامترمای a و β گذاشته شودمثلأ اگر a≤βیا هر قید دیگری.
شکل ۲‑۱ : برازش یک تابع خطی
پایداری مناسب
با قرار دادن
مساله به صورت زیر بر می گردد .
(a)
(b)
©
توجه داشت باشید که، اگر از قید (b) صرف نظر گردد مساله فوق یک مساله برنامه ریزی خطی می باشد و آن را می توان با یکی از انواع روش های سیمپلکس حل نمود.در جواب نهایی فقط یکی ازu1,v1 در جواب اساسی شدنی ظاهر می گردد (چرا؟) از این رو نگرانی از حذف این قید را نداریم.
توضیح دهید که چگونه با تبدیلات مساله (۱-۱) به مساله (۱-۲)تبدیل می شود.
روش دوم: می نیمم نمودن مجموع مربعات انحرافات
در این روش مجموع مربع انحرافات مینیمم می گردد یعنی
Min∑mj=1 (yi – axi– β)۲
(۳-۱)
که به روش (LSE) Least Squares Estimateمعروف استدر این حالت اگر قید های به پای پارامترهایβ ,a گذاشته شود و این قیدها خطی باشند،مساله تبدیل به مساله برنامه ریزی درجه دوم می گردد.که برای حل آن چندین روش بسیار توانا موجود است. با مساوی صفر قراردادن مشتقات جزیی مجموع فوق، مقادیر β,aبه همراه R2 که مشخص کننده اعتبار منحنی برازش داده شده است،مشخص می گردد. (برای اطلاع از جزییات این روش به کتابهای آمار مراجعه گردد).
البته می توان به جای خطy=ax+β، منحنی به صورت y = ax2+βx+y یا هر نوع دیگر را در نظر گرفت. باید توجه داشت که اگر منحنی از صورت ساده خود خارج گردد، مشخص نمودن پارامتر ها مشکل و در بعضی حالات غیر ممکن خواهد بود.
روش سوم: می نیمم نمودن ماکزیمم انحرافات
در این حالت مساله به صورت زیر تبدیل خواهد شد.
مساله به صورت زیر بر میگردد، که یک مساله برنامه ریزی خطی است.
Min
S.t. z ≥ │y1- axi- β│ ,i=1,…,m
Min z
S.t.yi – ax –β≤z ,i=1,…,m
