پیش بینی ساختاریافته

پیش بینی ساختاریافته یا یادگیری ساختار یافته (خروجی) یک اصطلاح کلی برای تکنیک های یادگیری ماشین تحت نظارت است که شامل پیش بینی اشیا ساخت یافته است ،به جای مقادیر عددی گسسته یا حقیقی. 

مشابه تکنیک های یادگیری نظارت شده که معمولاً مورد استفاده قرار می گیرند ، مدل های پیش بینی ساخت یافته به طور معمول با استفاده از داده های مشاهده شده که در آن از مقدار پیش بینی درست برای تنظیم پارامترهای مدل استفاده می شود ، آموزش می بینند. با توجه به پیچیدگی مدل و روابط متقابل متغیرهای پیش بینی شده ، فرایند پیش بینی با استفاده از یک مدل آموزش دیده و خود آموزش دهنده اغلب از نظر محاسباتی غیرممکن است و از استنباط تقریبی و از روشهای یادگیری استفاده می شود.

برنامه های کاربردی 
به عنوان مثال ، مسئله ترجمه جمله ای از زبان طبیعی به نمایش نحوی مانند درخت تجزیه را می توان به عنوان یک مسئله پیش بینی ساخت یافته  در نظر گرفت که در آن دامنه خروجی ساختاریافته مجموعه تمام درختان تجزیه احتمالی است. پیش بینی ساختاری همچنین در طیف گسترده ای از حوزه های کاربردی از جمله بیوانفورماتیک ، پردازش زبان طبیعی ، تشخیص گفتار و بینایی رایانه استفاده می شود .

مثال: برچسب گذاری دنباله 
برچسب گذاری دنباله دسته ای از مسائل رایج در پردازش زبان طبیعی است ، جایی که داده های ورودی اغلب دنباله هستند (به عنوان مثال جملات متن). مسئله برچسب گذاری دنباله در چندین شکل ظاهر می شود ، مانند برچسب زدن بخشی از گفتار و شناسایی موجودیت نامگذاری شده . به عنوان مثال در برچسب گذاری بخشی از گفتار(P.O.S)، هر کلمه در یک دنباله باید یک "برچسب" (برچسب کلاس) دریافت کند که "نوع" کلمه آن را بیان کند:

چالش اصلی این مسئله حل ابهام است : کلمه "جمله" همچنین می تواند در انگلیسی یک فعل باشد و همینطور "برچسب گذاری" می شود.

در حالی که این مسئله می تواند با انجام ساده طبقه بندی توکن ها حل شود ، اما این واقعیت تجربی را در نظر نمی‌گیرد که برچسب ها مستقل یافت نمی‌شوند. در عوض ، هر برچسب وابستگی شدید شرطی به برچسب کلمه قبلی را نشان می دهد. این واقعیت را می توان در یک مدل دنباله مثل یک مدل مخفی مارکوف یا یک زمینه تصادفی شرطی  که کل دنباله برچسب را برای یک جمله ، و نه فقط برچسب های جداگانه ، با استفاده از الگوریتم ویتربی ، پیش بینی کرد.

تکنیک ها 
مدلهای گرافیکی احتمالی دسته بزرگی از مدلهای پیش بینی ساختاریافته را تشکیل می دهند. به طور خاص ، شبکه های بیزی و زمینه های تصادفی محبوب هستند. الگوریتم ها و مدل های دیگر برای پیش بینی ساختاریافته شامل برنامه ریزی منطق استقرایی ، استدلال مبتنی بر مورد ، ماشین های بردار پشتیبان ساختاریافته ، شبکه های منطقی مارکوف و مدل های شرطی محدود شده است . تکنیک های اصلی:
 فیلد تصادفی شرطی
 ماشین بردار پشتیبان ساختاریافته
 k- نزدیکترین همسایگان ساختاریافته
 شبکه عصبی بازگشتی ، به ویژه شبکه المان

پرسپترون ساختاریافته 
یکی از ساده ترین راه ها برای درک الگوریتم های پیش بینی ساختاریافته عمومی ، پرسپترون ساختاریافته کالینز است .  این الگوریتم ترکیبی از الگوریتم پرسپترون برای یادگیری طبقه بندی کننده های خطی با یک الگوریتم استنتاج (به طور کلاسیک الگوریتم ویتربی هنگامی که در داده های توالی استفاده می شود) است و می تواند به صورت خلاصه به شرح زیر توصیف شود. ابتدا یک "تابع ویژگی مشترک" (Φ( x ، y  تعریف کنید که یک نمونه آموزشی x و یک  پیش بینی کاندید  y را به یک بردار با طول n نگاشت می کند ( x و y ممکن است هر ساختاری داشته باشد ؛ n وابسته به مسئله است ، اما برای هر مدل باید ثابت شود ). با فرض اینکه GEN تابعی باشد که پیش بینی کاندید ها  را ایجاد می کند. سپس:

 با فرض اینکه   یک بردار وزن با طول n باشد

 برای تعداد تکرارهای از پیش تعیین شده:

 برای هر نمونه  در مجموعه آموزشی با خروجی درست  :

 یک پیش بینی می کند 

 به روز رسانی  ، از   به  :  ، 
  نرخ یادگیری است

در عمل ، پیدا کردن argmax نسبت به  با استفاده از یک الگوریتم مانند ویتربی یا یک الگوریتم مانند حداکثر جمع ، به جای جستجوی جامع از طریق یک مجموعه گسترده از کاندید ها انجام خواهد شد.

ایده یادگیری مشابه پرسپترون چند کلاسه است .

منابع 

 Noah Smith, Linguistic Structure Prediction, 2011.
 Michael Collins, Discriminative Training Methods for Hidden Markov Models , 2002.

پیوند به بیرون 
 اجرای پرسپترون ساختاریافته کالینز
پیش‌بینی ساختاری