| اصطلاح | term |
| --- | --- |
| اقل مربعات  تقرب | Least squares  Approximation |

تجربات سے اکثر ایسا ڈیٹا اکٹھا ہوتا ہے جسے کسی کثیر رقمی سے تقرب کرنا مفید رہتا ہے۔ فرض کرو کہ کسی تجربے کے نتیجے میں ہمیں *n* پیمائش جوڑے ملتی ہیں:

{\displaystyle \ (x\_{1},y\_{1}),(x\_{2},y\_{2}),\cdots ,(x\_{n},y\_{n})}
ان کے گراف کو دیکھتے ہوئے ہم یہ فیصلہ کرتے ہیں کہ یہ دالہ {\displaystyle \ y=f(x)}، ذیل میں سے کسی کثیر رقمی

1. {\displaystyle \ y=ax+b}     (گراف لکیری خط)
2. {\displaystyle \ y=ax^{2}+bx+c}     (درجہ دوم کثیر رقمی)
3. {\displaystyle \ y=ax^{3}+bx^{2}+cx+d}     (سہ کثیر رقمی)
4. {\displaystyle \ \cdots \cdots \cdots \cdots \cdots }
5. {\displaystyle \ y=c\_{m}x^{m}+c\_{m-1}x^{m-1}+c\_{1}x+c\_{0}}     (m کثیر رقمی)

سے تقرب کی جا سکتی ہے۔

تصویر میں گیارہ نکتوں (x,y) کا درجہ دوم کثیر رقمی سے تقرب کیا گیا ہے۔

تجربہ سے حاصل ہونے والے *n* جوڑے اگر درجہ *m* کے کثیر رقمی میں ایک ایک کر کے ڈالے جائیں تو ہمارے پاس *n* مساوات حاصل ہونگی، جنہیں درج ذیل میٹرکس مساوات کی صورت لکھا جا سکتا ہے (عام طور پر {\displaystyle n>m} ):

{\displaystyle Y\approx MC}

{\displaystyle Y={\begin{bmatrix}y\_{1}\\y2\\\vdots \\y\_{n}\end{bmatrix}}\,,\,M={\begin{bmatrix}1&x\_{1}&x\_{1}^{2}&\cdots &x\_{1}^{m}\\1&x\_{2}&x\_{2}^{2}&\cdots &x\_{2}^{m}\\\vdots &\vdots &&\vdots \\1&x\_{n}&x\_{n}^{2}&\cdots &x\_{n}^{m}\\\end{bmatrix}}\,,\,C={\begin{bmatrix}c\_{0}\\c\_{1}\\\vdots \\c\_{m}\end{bmatrix}}}

عام طور پر یکلخت لکیری مساوات کا نظام

{\displaystyle MC=Y}
ناموافق ہو گا، اس لیے اس کا کوئی حل نہیں ہو گا، یعنی ایسا کوئی *C* نہیں جو ان مساوات کی تسکین کرے۔ اس لیے کوشش یہ ہو گی کہ ایسا {\displaystyle \ C^{\*}} نکلا جائے جس کا غلطی سمتیہ {\displaystyle \ e=Y-MC^{\*}} کم سے کم ہو۔ یعنی غلطی سمتیہ کا امثولہ {\displaystyle \|e\|} کم سے کم ہو۔

چونکہ سمتیہ *Y* فضا {\displaystyle \mathbb {R} ^{n}} میں ہے، اس لیے ہمیں اقلیدسی فضا میں امثولہ کی عام تعریف استعمال کرتے ہوئے

{\displaystyle \|e\|^{2}=e\_{1}^{2}+e\_{2}^{2}+\cdots +e\_{n}^{2}}
کی تصغیر کرنا ہے۔

اب لکیری فضا {\displaystyle \mathbb {R} ^{m+1}} کے کسی سمتیہ *C* کے لیے،
سمتیہ {\displaystyle MC}، میٹرکس *M* کی ستون فضا میں ہے، جو {\displaystyle \mathbb {R} ^{n}} کی لکیری ذیلی فضا ہے۔ اب مسقط کی تعریف سے ہم جانتے ہیں کہ سمتیہ *Y* کا میٹرکس *M* کی ستون فضا میں مسقط، غلطی امثولہ {\displaystyle \|e\|} کی تصغیر کرتا ہے۔ ذیلی فضا {\displaystyle MC} میں سمتیہ *Y* کے مسقط کو ہم {\displaystyle \ MC^{\*}} لکھتے ہیں۔ بہترین تقرب مسلئہ اثباتی کی رو سے غلطی سمتیہ قائم الزاویہ ہو گا ذیلی فضا کے۔ دوسرے لفظوں میں غلطی سمتیہ اور میٹرکس *M* کی ستون فضا کے کسی بھی سمتیہ *MC* کا اندرونی حاصل ضرب صفر ہو گا:

{\displaystyle \ (MC)^{t}(Y-MC^{\*})=0}
(اقلیدسی فضا میں اندرونی حاصل ضرب کی عام تعریف استعمال کرتے ہوئے)،   

یا

{\displaystyle \ C^{t}M^{t}(Y-MC^{\*})=0}
{\displaystyle \ C^{t}(M^{t}Y-M^{t}MC^{\*})=0}
{\displaystyle \ \langle M^{t}Y-M^{t}MC^{\*},C\rangle =0}
جس سے یہ نتیجہ اخذ کیا جا سکتا ہے کہ

{\displaystyle \ M^{t}Y-M^{t}MC^{\*}=0}
یا

{\displaystyle \ M^{t}MC^{\*}=M^{t}Y}
اگر میٹرکس {\displaystyle \ M^{t}M} مقلوب ہو تو حل یہ ہو گا

{\displaystyle \ C^{\*}=(M^{t}M)^{-1}M^{t}Y}

مصفاہ صورت
----------

رقمی عملیت اشارہ میں اقل مربعات تخمینہ کو مصفاہ صورت میں پیش کیا جاتا ہے۔

تصویر 1۔ مصفاہ {\displaystyle H(z)=\sum \_{k=0}^{K}h\_{k}z^{-k}}
تصویر 1 میں اشارہ متوالیہ {\displaystyle x\_{n}} کسی صورت میں اشارہ متوالیہ {\displaystyle d\_{n}} سے متعلق ہے۔ ہم اشارہ متوالیہ {\displaystyle x\_{n}} کو مصفاہ *H* سے گزار کر اشارہ {\displaystyle y\_{n}} حاصل کرتے ہیں۔ ہمار مقصد یہ ہے کہ متوالیہ {\displaystyle y\_{n}} تخمینہ ہو متوالیہ {\displaystyle d\_{n}} کا۔ یعنی مصفاہ *H* اس طرح چنا جائے کہ متوالیہ {\displaystyle d\_{n}} اور متوالیہ {\displaystyle y\_{n}} کے درمیان غلطی متوالیہ {\displaystyle e\_{n}=d\_{n}-y\_{n}} کا اقل مربع کم سے کم ہو:

{\displaystyle \min \_{H}\sum \_{n}e\_{n}^{2}}
اگر متوالیہ تصادفی بھی ہوں تو پھر بھی ہم صرف مشاہداتی متوالیہ استعمال کر کے حل نکالنا چاہتے ہی (اور متوالیہ کی احصائی نوعیت سے مستفید نہیں ہونا چاہتے)۔
مصفاہ *H* ایک متناہی متوالیہ {\displaystyle h\_{0},h\_{1},\cdots ,h\_{K-1}} سے بنا ہے۔ مصفاہ کے اخراج {\displaystyle y\_{n}} اور ادخال {\displaystyle x\_{n}} کے درمیان تلفیف کا رشتہ ہے۔ اس مسئلہ میں اس رشتہ کو مصفوفہ ضرب کے ذریعہ لکھنا مفید ہے۔ اخراج {\displaystyle y\_{n}}کے ایک لمبائی *N* کے ٹکرے کو {\displaystyle N\times 1} سمتیہ {\displaystyle {\underline {y}}\_{n}} کے طور پر لکھتے ہوئے، ملفیف کو بطور قالب ضرب یوں لکھا جا سکتا ہے:

{\displaystyle {\begin{bmatrix}y\_{n}\\y\_{n-1}\\\vdots \\y\_{n-(N-1)}\end{bmatrix}}={\begin{bmatrix}x\_{n}&x\_{n-1}&\cdots &x\_{n-(K-1)}\\x\_{n-1}&x\_{n-2}&\cdots &x\_{n-1-(K-1)}\\\vdots \\x\_{n-(N-1)}&x\_{n-(N-1)-1}&\cdots &x\_{n-(N-1)-(K-1)}\\\end{bmatrix}}{\begin{bmatrix}h\_{0}\\h\_{1}\\\vdots \\h\_{(K-1)}\end{bmatrix}}}
یا

{\displaystyle {\underline {y}}\_{n}=X{\underline {h}}}

جہاں میٹرکس *X* کی جسامت {\displaystyle N\times K} ہے۔ یہ ایک معلوم بات ہے کہ اقل مربع غلطی {\displaystyle \sum \_{i=n-(N-1)}^{n}e\_{i}^{2}} کی تصغیر اسی وقت ہوتی ہے جب غلطی {\displaystyle e\_{n}} ڈیٹا {\displaystyle x\_{n}} کے قائم الزاویہ ہو، یعنی

{\displaystyle X^{t}{\underline {e}}\_{n}=0}
اس معلومہ کو استعمال کرتے ہوئے

{\displaystyle X^{t}{\underline {e}}\_{n}=X^{t}({\underline {d}}\_{n}-{\underline {y}}\_{n})=X^{t}({\underline {d}}\_{n}-X{\underline {h}})=X^{t}{\underline {d}}\_{n}-X^{t}X{\underline {h}}=0}
اگر میٹرکس {\displaystyle X^{t}X} جس کی جسامت {\displaystyle K\times K} ہے، مقلوب ہو، تو اس سے ہمیں مصفاہ حاصل ہوتا ہے

{\displaystyle {\underline {h}}=(X^{t}X)^{-1}X^{t}{\underline {d}}\_{n}}

مزید دیکھیے
-----------

* لکیری وینر مصفاہ

`E=mc2`     اردو ویکیپیڈیا پر ریاضی مساوات کو بائیں سے دائیں LTR پڑھیٔے     ریاضی علامات