الگوریتم لونبرگ-مارکوارت

الگوریتم لونبرگ-مارکوارت روشی است برای یافتن کمینه یک تابع غیر خطی چند متغیره که به عنوان یک روش استاندارد برای حل مسئله کمینه مربعات برای توابع غیرخطی درآمده است.

الگوریتم لونبرگ-مارکوارت (LMA) بین الگوریتم گاوس-نیوتون (GNA) و روش گرادیان کاهشی درونیابی می‌کند. LMA از GNA مقاوم‌تر است، که یعنی در بسیاری مواقع، حتی اگر بسیار دورتر از کمینه نهایی شروع کرده باشد، جوابی را پیدا می‌کند. از دیگر سو، برای تابع‌های خوشرفتار و پارامترهای آغازین معقول، LMA کمی کندتر از GNA است. LMA پرطرفدارترین الگوریتم برازش خم است و کاربران کمی ممکن است به روش‌های دیگر برازش خم نیاز پیدا کنند.

مسئله 
 تابع از  پارامتر  که  داده شده‌اند. برای آسانی از نمادگذاری برداری برای هر دوی تابع‌ها و پارامترها استفاده می‌کنیم.

  و 

مسئله کمترین مربعات شامل جستن بردار پارامترهای  است که برای آن تابع هزینه

 

کمینه می‌شود.

کاربرد اصلی در مسئله برازش خم کمترین مربعات است: مجموعه‌ای از جفت‌های تجربی داده به فرم  در دست است، می‌خواهیم  پارامترهای خم مدل  را به گونه‌ای بهینه کنیم که مجموع مربعات انحراف‌ها

 

کمینه گردد.

(صحبتی دربارهٔ نمادگذاری: ما از حرف  به خاطر اینکه برخی اوقات به جای  و برخی اوقات به جای  استفاده می‌شود خودداری می‌کنیم)

راه حل 
مانند سایر الگوریتم‌های کمینه‌سازی عددی، الگوریتم لونبرگ-مارکارد یک رویه تکراری است. برای شروع کمینه‌سازی، کاربر باید یک حدس آغازین برای بردار  پارامترها ارائه کند. در بسیاری مواقع یک حدس ناآگاهانه استاندارد مانند  به خوبی کار می‌کند. در جاهای دیگر، الگوریتم تنها وقتی کار می‌کند که حدس آغازین تا حدی به جواب نهایی نزدیک باشد.

در هر گام تکرار، بردار  پارامترها با یک تخمین جدید  جایگزین می‌شود. برای دستیابی به  توابع  با خطی‌سازیشان

 

تخمین زده می‌شوند که  ژاکوبین  در  است.

در یک کمینه مجموع مربعات ، داریم . با خطی‌سازی بالا، از این به معادله زیر می‌رسیم

 

که  را می‌توان از آن با وارون کردن  بدست آورد. کلید LMA جایگزینی این معادله با «نسخه میراشده» آن است

 

ضریب میرایی نامنفی  در هر تکرار تنظیم می‌شود. اگر کاهش  تند بود مقدار کوچک‌تری به آن می‌دهیم که الگوریتم را به GNA نزدیکتر می‌کند، اما اگر یک تکرار کاهش ناکافی نشان داد  را افزایش داده و یک گام را نزدیکتر به جهت نزول گرادیانی برمی‌داریم. ضریب میرایی مشابهی در ساماندهی تیخونوف دیده می‌شود که در حل مسائل خطی کژنمود سودمند است.

اگر یک طول قدم بازیابی شده یا کاهش مجموع مربعات برای آخرین مجموعه پارامترهای از مقادیر از پیش تعیین شده کمتر باشند تکرار پایان می‌یابد و آخرین بردار پارامتر  به عنوان جواب در نظر گرفته می‌شود.

منابع

جستارهای وابسته 
 برنامه‌ریزی غیرخطی

الگوریتم‌های آماری
الگوریتم‌های بهینه‌سازی
روش‌های بهینه‌سازی
کمترین مربعات