موضوع مقاله: ماشین بردار پشتیبانی | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # ماشین بردار پشتیبانی | مقدمه: مبنای کاری دسته‌بندی کنندهٔ SVM دسته‌بندی خطی داده‌ها است و در تقسیم خطی داده‌ها سعی می‌کنیم ابرصفحه ای را انتخاب کنیم که حاشیه اطمینان بیشتری داشته باشد. | ## بخش 1: ماشین بردار پشتیبانی | حل معادله پیدا کردن خط بهینه برای داده‌ها به وسیله روش‌های برنامه سازی غیرخطی که روش‌های شناخته شده‌ای در حل مسائل محدودیت‌دار هستند صورت می‌گیرد. از توابع هسته مختلفی از جمله هسته‌های نمایی، چندجمله‌ای و سیگموید می‌توان استفاده نمود. از الگوریتم SVM، در هر جایی که نیاز به تشخیص الگو یا دسته‌بندی اشیا در کلاس‌های خاص باشد می‌توان استفاده کرد. در ادامه به کاربردهای این الگوریتم به صورت موردی اشاره می‌شود: سیستم آنالیز ریسک، کنترل هواپیما بدون خلبان، ردیابی انحراف هواپیما، شبیه‌سازی مسیر، سیستم راهنمایی اتوماتیک اتومبیل، سیستم‌های بازرسی کیفیت، آنالیز کیفیت جوشکاری، پیش‌بینی کیفیت، آنالیز کیفیت کامپیوتر، آنالیز عملیاتهای آسیاب، آنالیز طراحی محصول شیمیایی، آنالیز نگهداری ماشین، پیشنهاد پروژه، مدیریت و برنامه‌ریزی، کنترل سیستم فرایند شیمیایی و دینامیکی، طراحی اعضای مصنوعی، بهینه‌سازی زمان پیوند اعضا، کاهش هزینه بیمارستان، بهبود کیفیت بیمارستان، آزمایش اتاق اورژانس، اکتشاف روغن و گاز، کنترل مسیر در دستگاه‌های خودکار، ربات، جراثقال، سیستم‌های بصری، تشخیص صدا، اختصار سخن، کلاسه بندی صوتی، آنالیز بازار، سیستم‌های مشاوره‌ای محاسبه هزینه موجودی، اختصار اطلاعات و تصاویر، خدمات اطلاعاتی اتوماتیک، مترجم لحظه‌ای زبان، سیستم‌های پردازش وجه مشتری، سیستم‌های تشخیص ترمز کامیون، زمانبندی وسیله نقلیه، سیستم‌های مسیریابی، کلاسه بندی نمودارهای مشتری/بازار، تشخیص دارو، بازبینی امضا، تخمین ریسک وام، شناسایی طیفی، ارزیابی سرمایه، کلاسه بندی انواع سلول‌ها، میکروب‌ها و نمونه‌ها، پیش‌بینی فروش‌های آینده، پیش‌بینی نیازهای محصول، پیش‌بینی وضعیت بازار، پیش‌بینی شاخص‌های اقتصادی، پیش‌بینی ملزومات انرژی، پیش‌بینی واکنش‌های دارویی، پیش‌بینی بازتاب محصولات شیمیایی، پیش‌بینی هوا، پیش‌بینی محصول، پیش‌بینی ریسک محیطی، پیش‌بینی جداول داوری، مدل کردن کنترل فرایند، آنالیز فعالیت گارانتی، بازرسی اسناد، تشخیص هدف، تشخیص چهره، انواع جدید سنسورها، دستگاه کاشف زیر دریایی به وسیلهٔ امواج صوتی، رادار، پردازش سیگنال‌های تصویری شامل مقایسه اطلاعات، پیگیری هدف، هدایت جنگ‌افزارها، تعیین قیمت وضعیت فعلی، جلوگیری از پارازیت، شناسایی تصویر /سیگنال، چیدمان یک مدار کامل، بینایی ماشین، مدل کردن غیر خطی، ترکیب صدا، کنترل فرایند ساخت، آنالیز مالی، پیش‌بینی فرایندهای تولید، ارزیابی به‌کارگیری یک سیاست، بهینه‌سازی محصول، تشخیص ماشین و فرایند، مدل کردن کنترل سیستم‌ها، مدل کردن ساختارهای شیمیایی، مدل کردن سیستم‌های دینامیکی، مدل کردن سیگنال تراکم، مدل کردن قالب‌سازی پلاستیکی، مدیریت قراردادهای سهام، مدیریت وجوه بیمه، دیریت سهام، تصویب چک بانکی، اکتشاف تقلب در کارت اعتباری، ثبت نسیه، بازبینی امضا از چکها، پیش‌بینی ارزش نسیه، مدیریت ریسک رهن، تشخیص حروف و اعداد، تشخیص بیماری و… تاریخچه الگوریتم SVM اولیه سال ۱۹۶۴ توسط ولادیمیر وپنیک و الکسی چرونینکیس در مؤسسه علوم کنترل آکادمی علوم روسیه ابداع شد. H1 (آبی) اما دو دوسته را از هم با حاشیه‌ای کوچک جدا می‌کند و H2 (قرمز) دو دسته را با حداکثر حاشیه از هم جدا می‌سازد.|alt=H3 (سبز) دو دسته را از هم جدا نمی‌کند. H1 (آبی) اما دو دوسته را از هم با حاشیه‌ای کوچک جدا می‌کند و H2 (قرمز) دو دسته را با حداکثر حاشیه از هم جدا می‌سازد. داده‌هایی که بر روی اَبَرصفحه حاشیه قرار دارند بردارهای پشتیبانی نام دارند.|alt=اَبَرصفحه با حداکثر حاشیه برای یک ماشین بردار پشتیبانی که با نمونه داده‌هایی از دو دسته یادگرفته شده است. ما مجموعه داده‌های آزمایش شامل n عضو (نقطه) را در اختیار داریم که به صورت زیر تعریف می‌شود: جایی که مقدار برابر یا و هر یک بردار حقیقی -بعدی است. هدف پیدا کردن ابرصفحه جداکننده با بیشترین فاصله از نقاط حاشیه‌ای است که نقاط با را از نقاط با جدا کند. هر ابر صفحه می‌تواند به صورت مجموعه‌ای از نقاط که شرط زیر را ارضا می‌کنند نوشته شود: جایی که '.' علامت ضرب داخلی است. ما می‌خواهیم و را طوری انتخاب کنیم که بیشترین فاصله بین ابر صفحه‌های موازی که داده‌ها را از هم جدا می‌کنند، ایجاد شود. هر داده‌ای بالای ابرصفحه جداکننده زیر، با برچسب ۱ مشخص می‌شود: و هر داده‌ای پایین ابرصفحه جدا کننده زیر، با برچسب ۱- مشخص می‌شود: Hard-margin (حاشیه سخت) اگر داده‌های آموزشی جدایی پذیر خطی باشند، ما می‌توانیم دو ابر صفحه در حاشیه نقاط به‌طوری‌که هیچ نقطه مشترکی نداشته باشند، در نظر بگیریم و سپس سعی کنیم، فاصله آن‌ها را، حداکثر کنیم. برای اینکه از ورود نقاط به حاشیه جلوگیری کنیم، شرایط زیر را اضافه می‌کنیم: برای هر می‌تواند به صورت زیر نوشته شود: با کنار هم قرار دادن این دو یک مسئله بهینه‌سازی به دست می‌آید: فرم اولیه مسئله بهینه‌سازی مشاهده شده در قسمت قبل، مسئله سختی است، زیرا به وابسته است (نرم یا اندازه طول بردار). | ## بخش 2: ماشین بردار پشتیبانی | خوشبختانه می‌توانیم، بدون تغییر در مسئله، را با جانشین کنیم (عبارت ½ برای راحتی در محاسبات ریاضی آمده). به بیانی دقیق‌تر: می‌توان عبارت قبل را با استفاده از ضرایب نامنفی لاگرانژ به صورت زیر نوشت که در آن ضرایب لاگرانژ هستند: اما فرمول فوق اشتباه است. با این حال، این شرط می‌تواند به صورت پایین بازنویسی شود: ما به دنبال نقاط زینی (saddle) می‌گردیم. جواب می‌تواند به صورت ترکیب خطی از بردارهای آموزشی بیان شود: تنها چند بزرگتر از صفر خواهند بود. از این می‌توان نتیجه گرفت که بردارهای پشتیبان شرط زیر را نیز ارضا می‌کنند: که اجازه می‌دهد مقدار b تعریف شود. در عمل الگوریتم مقاوم‌تر خواهد بود اگر از تمام بردار پشتیبان میانگین گرفته شود: فرم دوگان استفاده از این واقعیت که و جانشینی می‌توان نشان داد که دوگان SVM به مسئله بهینه‌سازی زیر ساده می‌شود: در اینجا هسته (کرنل) به صورت تعریف می‌شود. عبارت تشکیل یک دوگان برای بردار وزن‌ها مجموعه آموزشی می‌دهد: حاشیه نرم (Soft-margin) استفاده از روش سخت می‌تواند در مواردی محدودیت‌هایی ایجاد کند که یکی از آنها وابستگی شدید جداکننده به داده‌های مرزی است و اگر داده‌ای در مرز ابرصفحه جداکننده قرار گیرد منجر به کاهش margin (حاشیه) و تغییر شدید در ابرصفحه مورد نظر می‌شود ین نکته حائز اهمیت است که داده‌های ما در واقعیت در اکثر موارد مقداری Noise دارند و بنابراین مشکل بالا می‌تواند اثر نامطلوبی روی مرز تصمیم‌گیری ما داشته باشد؛ بنابراین مدل Hard-margin به شدت قابلیت بیش‌برازش شدن دارند. این متغیرها برای هر داده، میزان تخطی آن از مرز تعیین شده را مشخص می‌کند؛ اگر مقدار آن‌ها صفر باشد به این معنی است که داده در سمت درستی از مرز قرار گرفته و اگر مقدار آن‌ها بزرگتر از صفر باشد، بدان معناست که مقدار خطا را نشان می‌دهند. در ادامه همه ξ‌ها جمع زده می‌شوند و در ضریب ضرب می‌شوند و به عبارتی که در Hard-margin داشتیم اضافه می‌شوند تا عبارت خطای جدید به دست آید، که برای رسیدن به هدف خود می‌بایست عبارت زیر را کمینه کنیم:در عبارت خطا، مقدار نشان می‌دهد که چقدر اجازه می‌دهیم در زمان train مدل داده‌های در کلاس اشتباه قرار گیرند این یعنی هرچقدر بزرگتر باشد کمتر به مدل اجازه می‌دهیم اشتباه کند و بالعکس. کاهش بی‌رویه و بدون کنترل موجب افزایش بایاس (bias) و افزایش آن موجب افزایش واریانس خواهد شد پس باید در انتخاب بسیار دقت کرد. در سال ۱۹۹۲، برنهارد بوزر، ایزابل گیون و وپنیک راهی را برای ایجاد دسته‌بند غیرخطی، با استفاده قرار دادن هسته برای پیدا کردن ابرصفحه با بیشترین حاشیه، پیشنهاد دادند.B. ACM Press الگوریتم پیشنهادی ظاهراً مشابه است، به جز آنکه تمام ضرب‌های نقطه‌ای با یک تابع هسته غیرخطی جایگزین شداند. این خصوصیت اجازه می‌دهد، الگوریتم، برای ابرصفحه با بیشترین حاشیه در یک فضای ویژگی تغییرشکل داده، مناسب باشد. | ## بخش 3: ماشین بردار پشتیبانی | به هر حال دسته‌بندی‌کننده، یک ابرصفحه در فضای ویژگی با ابعاد بالا است، که ممکن است در فضای ورودی نیز غیرخطی باشد. اگر از هسته با تابع گوسین استفاده شود، فضای ویژگی متناظر، یک فضای هیلبرت نامتناهی است. دسته‌کنندهٔ بیشترین حاشیه، خوش ترتیب است، بنابراین ابعاد نامتناهی، نتیجه را خراب نمی‌کند. هسته‌های متداول به صورت زیر هستند: چندجمله‌ای (همگن): چندجمله‌ای (ناهمگن): گوسین تابع پایه شعاعی: ، for گاهی اوقات با استفاده از پارامتر تانژانت هذلولی: ، برای برخی (not every) و هسته با انتقال با تساوی در ارتباط است. در بخش قبلی پایه‌های تئوری ماشین‌های بردار پشتیبان برای دسته‌بندی دو کلاس تشریح شد. یک تشخیص الگوی چند کلاسی می‌تواند به وسیلهٔ ترکیب ماشین‌های بردار پشیبان دو کلاسی حاصل شود. یکی از آن‌ها استراتژی «یک در مقابل همه» برای دسته‌بندی هر جفت کلاس و کلاس‌های باقی‌مانده است. برای مسائل چند کلاسی٬رهیافت کلی کاهش مسئلهٔ چند کلاسی به چندین مسئله دودویی است. سپس خروجی جداکننده‌های دودویی SVM با هم ترکیب شده و به این ترتیب مسئله چند کلاس حل می‌شود. روش «یک در مقابل همه» در این روش، ما نیازمند ابرصفحه‌ای هستیم که داده‌های یک کلاس را از داده‌های سایر کلاس‌ها به‌طور همزمان جداسازی نماید؛ در واقع با این روش تمام نمونه‌ها در به‌دست آوردن ابرصفحه بهینه در نظر گرفته خواهند شد؛ به طوریکه داده‌ها به ازای هر طبقه‌بند به دو دسته تقسیم می‌شوند: یک گروه به ازای داده‌های کلاس مورد نظر و گروه دیگر شامل تمام نقاط سایر کلاس‌ها. در زمان آموزش مدل همه K طبقه‌بند را روی مجموعه آموزش، آموزش می‌دهیم و سپس در زمان تست مدل هم بررسی می‌کنیم که هر طبقه‌بند داده ورودی را در طبقه خود می‌داند یا خیر. در شرایطی امکان دارد که چند طبقه‌بند همزمان داده را در کلاس خود اعلام کنند که در اینصورت می‌توان از معیارهایی استفاده کرد، یکی از این معیارها انتخاب طبقه‌بندی است که دورترین ابرصفحه را از داده مورد نظر دارد. | ## جمع‌بندی | روش «یک در مقابل یک» در این روش برخلاف روش قبلی به دنبال پیدا کردن طبقه‌بند میان هر دو کلاس هستیم پس در نتیجه به طبقه‌بند نیاز داریم که K در این رابطه تعداد کلاس‌ها است.