تجزیه مقدارهای منفرد

نمایش تصویری تجزیه مقدارهای منفرد دوبعدی، برش ماتریس M. در ابتدا دیسک واحد را با رنگ آبی با دو بردار واحد مشاهده می‌کنید. در ادامه تأثیر M را بر روی دیسک می‌بینم که دیسک را به بیضی تبدیل می‌کند. تجزیه مقدارهای منفرد M به سه تغییردهنده ساده تبدیل می‌شود: در ابتدا ماتریس دوران V∗ و تجانس Σ در امتداد محورهای مختصاتی و در انتها چرخش U. طول σ1 و σ2 محورهای بیضی مقدار منفرد M هستند، یعنی Σ1,1 و Σ2,2.
تجزیه ضرب ماتریس‌ها در تجزیه مقدارهای منفرد
روش تجزیه مقادیر منفرد یا SVD تاریخچه طولانی و البته جالبی دارد. این روش، در علوم اجتماعی و با تست هوش شروع شد. در گذشته، پژوهشگران آزمون‌هایی را برای اندازه‌گیری جنبه‌های مختلف هوش مانند هوش فضایی و هوش کلامی ارائه کردند که همبستگی زیادی با هم داشتند. آن‌ها بر این باور بودند که یک معیار عمومی مشترک برای هوش وجود دارد و آن را برای هوش کلی، g نامیدند که امروزه بیشتر به عنوان آی کیو (IQ) شناخته می‌شود؛ بنابراین، پژوهشگران تصمیم گرفتند عوامل مختلف هوش را تجزیه و مهم‌ترین آن‌ها را انتخاب کنند. در ساده‌ترین حالت، تجزیه مقادیر منفرد به نوعی همین تجزیه و انتخاب مهم‌ترین عوامل یک ماتریس را انجام می‌دهد.
تجزیه مقادیر منفرد (به انگلیسی: Singular Value Decomposition) یا SVD با نام‌های مختلفی شناخته می‌شود. این روش، ابتدا به عنوان «تجزیه عامل» (به انگلیسی: Factor Analysis) نامیده می‌شد. تحلیل مؤلفه‌های اصلی (به انگلیسی: Principal Component) یا PC و تجزیه توابع متعامد تجربی (به انگلیسی: Empirical Orthogonal Function) یا EOF نیز از دیگر اصطلاحات نزدیک به این روش است. همه این نام‌ها از نظر مفهوم ریاضی معادل هستند، هرچند در فرایند محاسبه آن‌ها تفاوت‌های زیادی وجود دارد
امروزه، تجزیه مقادیر منفرد در بسیاری از شاخه‌های علوم و نجوم کاربرد دارد. این روش، در یادگیری ماشین و آمار توصیفی و مدل‌سازی آماری نیز بسیار مورد استفاده قرار می‌گیرد.
به عنوان یک تجزیه و فاکتورگیری ماتریسی، تجزیهٔ مقدارهای منفرد یا تجزیهٔ مقدارهای تکین (به انگلیسی: Singular value decomposition) قدمی اساسی در بسیاری از محاسبات علمی و مهندسی به‌حساب می‌آید.
در حل بسیاری از مسائل، مشکلاتی وجود دارد که نیازمند روش‌هایی برای حل آن‌ها می‌باشیم. تجزیهٔ مقدار تکین یکی از این روش‌ها می‌باشد که:
در فضای پر داده و دارای خطاهایی نظیر خطای گردکردن قابل استفاده می‌باشد.
در حل معادلات و ماتریس‌ها نزدیک به تکینگی و در حالت تکینه قابل استفاده است.
می‌تواند مشکل حل را به‌طور دقیق باز کند.
گاهی می‌تواند علاوه بر شرح مشکل مسئله آن را نیز حل کند.
و در نهایت جواب عددی مناسبی از فضای حل را می‌تواند ارائه کند. اما باید توجه داشت که این روش به یقین جواب اصلی معادلات را نمی‌دهد.
به عبارتی دیگر، در جبر خطی، تجزیه مقدار تکین فاکتورگیری از یک ماتریس موهومی یا حقیقی می‌باشد که تجزیه مقادیر ویزه یک ماتریس نرمال را به هر ماتریس با M سطر و N ستون به وسیله توسعه تجزیه قطبی تعمیم می‌دهد. به‌طور خاص، این روش تجزیه ماتریس را به فرم  U\Sigma V^{T}تبدیل می‌کند که در آن U یک ماتریس واحد با M سطر و ستون است، \Sigma یک ماتریس مستطیلی با درایه‌های غیر منفی بر روی قطر اصلی و ماتریس V یک ماتریس واحد با N سطر و ستون می‌باشد.
تجزیه مقادیر تکین یکتا نیست. همیشه ممکن است که ترکیب‌هایی را انتخاب کرد که مقادیر تکین به‌صورت کاهنده مرتب شده‌باشند. در چنین حالتی  \Sigma  به‌صورت خاص از ماتریس M حاصل می‌گردد.
گاهی نیز از اصطلاح تجزیه فشرده مقادیر تکین نیز یاد می‌شود که در آن ماتریس مقادیر ویژه  \Sigma  یک ماتریس مربعی قطری  r\times r می‌باشد که  r\leq min{m\times n} مرتبه ماتریس است و فقط شامل مقادیر ویژه غیر صفر می‌باشد. در این حالت، ماتریس U یک ماتریس  m\times r و ماتریس V یک ماتریس  r\times n هستند به‌صورتی که  VV^{T}=U^{T}U=I.
امروزه، تجزیه مقادیر منفرد در بسیاری از شاخه‌های علوم و نجوم کاربرد دارد. این روش، در یادگیری ماشین و آمار توصیفی و مدل‌سازی آماری نیز بسیار مورد استفاده قرار می‌گیرد.
کاربردهای ریاضی SVD شامل محاسبه شبه معکوس، تقریب ماتریس و تعیین رتبه، دامنه و فضای تهی یک ماتریس است. SVD همچنین در کلیه زمینه‌های علمی و مهندسی بسیار مفید است مانند پردازش سیگنال، حداقل مربعات مناسب داده‌ها و کنترل فرایند.
البته که محاسبهٔ SVD برای یک ماتریسْ دارای پیچیدگیِ زمانی خوبی نیست ولی به هر حال این روش یکی از روش‌های شناخته شده در کاهشِ ویژگی‌ها در داده‌کاوی می‌باشد و کاربردهای دیگرِ آن نیز در ادامه مورد بحث قرار خواهد گرفت. در زبان‌های برنامه‌نویسی مانند Python و R می‌توانید کتابخانه‌های مختلفی را پیدا کنید که این عملیات را به سادگی برای شما انجام می‌دهند.