تئوری کارانن-لوف

قضیهٔ کارهونِن-لُواِو (به انگلیسی: Karhunen-Loève Theorem)، یک فرایند تصادفی در یک بازهٔ کران‌دار را با ترکیب خطی نامحدودی از توابع متعامد نمایش می‌دهد.

این قضیه به افتخار کاری کارهونِن و میشل لُواِو نامیده شده‌است، و به آن قضیه Kosambi-Karhunen-Loève هم گفته می‌شود. 

این تبدیل هم‌چنین به تبدیل هُتِلینگ و تبدیل بردار ویژه نیز شناخته می‌شود و با تحلیل مولفه اصلی (به انگلیسی: Principal Component Analysis, PCA) مرتبط است که در پردازش تصویر و آنالیز داده‌ها، فراوان استفاده می‌شود.

در مقایسه با تبدیل فوریه، که ضرایب آن اعداد معیّن (deterministic)، و پایه‌های آن، توابع سینوسی هستند، ضرایب تبدیل کارهونن-لُواِو، متغیرهای تصادفی هستند و پایه‌های آن، بستگی به فرایند دارند. می‌توان گفت این تبدیل به‌گونه‌ای با فرایند تصادفی سازگار می‌شود که به بهترین پایه‌ها برای آن فرایند می‌انجامد.

برای یک فرایند تصادفی متمرکز  (، ) می‌نویسیم:

که در آن ها متغیرهای تصادفی، و دوبه‌دو ناهمبسته هستند و ها، توابع پیوسته حقیقی در بازهٔ  و دوبه‌دو در  متعامد هستند. فرایندی که متمرکز نیست را می‌توان با  متمرکز کرد.

اگر فرایند گاوسی باشد، ها گاوسی، و مستقل آماری هستند. یک مثال از یک فرایند متمرکز در بازهٔ ، فرایند وینر است.

فرمول 
 Xt یک فرایند تصادفی با میانگین صفر و انتگرال پذیر برای مربع آن در فضای احتمال  تعریف می‌شود و نمایه آن در بازهٔ بستهٔ  با تابع کوواریانس . به این ترتیب:

 یک عملگر خطی TKX را در KX اعمال می‌کنیم. TKX به این صورت تعریف می‌شود:

 ازآنجاکه TKX یک عمل‌گر خطی‌ست، مقدار ویژه λk و تابع ویژه ek دارد، که در معادله‌ انتگرالی زیر، به هم مربوط می‌شوند:

بیانی از قضیه 
قضیه.  را یک فرایند تصادفی با میانگین صفر و انتگرال پذیر برای مربع آن در فضای احتمال  و نمایه آن در بازهٔ بستهٔ [a, b] با تابع کوواریانس پیوستهٔ  در نظر می‌گیریم.

حال  یک هسته ی Mercer است و ek را یک پایهٔ متعامد بر روی  می‌گیریم که از توابع ویژهٔ TKX دارای مقدار ویژهٔ  تشکیل شده‌است. می‌توان  را به صورت زیر بیان کرد

که در L2 هم‌گراست و

همچنین متغیرهای تصادفی Zk دارای میانگین صفر، ناهم‌بسته و دارای واریانس λk هستند

اثبات 
 تابع کوواریانس KX شرایط تعریف هسته‌ی Mercer را داراست. طبق تئوری Mercer، یک مجموعهٔ {λk, ek(t)} وجود دارد که از مقدار ویژه‌ها و توابع ویژهٔ TKX، یک مجموعه متعامد از L2([a,b]) تشکیل می‌دهند و KX را نیز می‌توان به صورت زیر نمایش داد:

 فرایند Xt می‌تواند به صورت تابعی از ekها به صورت زیر بسط پیدا کند:

که در آن ضرایب (متغیرهای تصادفی) Zk به صورت زیر به دست می‌آیند:

 حال خواهیم داشت:

که در آن از این نکته استفاده شده است که ekها توابع ویژهٔ TKX بوده و متعامد هستند.
 حال نشان می‌دهیم که همگرایی در L2 است. فرض می‌کنیم

آنگاه:

که طبق قضیهٔ Mercer به صفر میل می‌کند.

مشخصات تبدیل کارهونن-لُواِو

حالت خاص: توزیع گاوسی 
ازآنجاکه حد امید ریاضی متغیرهای تصادفی مشترکاً گاوسی، خود مشترکاً گاوسی هستند و متغیرهای تصادفی گاوسی مستقل هستند اگر و فقط اگر متعامد باشند، می‌توان نتیجه گرفت:
قضیه. متغیر تصادفی  دارای توزیع مشترک گاوسی است و به‌طور تصادفی مستقل است اگر فرایند اولیه  گاوسی باشد.

در این حالت (گاوسی بودن)، از آنجایی که ها مستقل هستند، می‌توان گفت:

almost surely.

بسط کارهونِن-لُواِو فرایند را ناهمبسته می‌کند 
این نتیجه از استقلال  حاصل می‌شود.

بسط کارهونِن-لُواِو مقدار خطای میانگین مربعات را به حداقل می‌رساند 
در بخش معرفی، بیان کردیم که بسط خلاصه شدهٔ کارهونِن-لُواِو بهترین تخمین برای یک فرایند است به طوری که خطای میانگین مربعات حداقل شود. به خاطر همین خصوصیت است که بیان می‌شود این تبدیل به‌طور بهینه انرژی را فشرده (ذخیره) می‌کنند.
به‌طور دقیق تر، برای هر پایهٔ متعامد {fk} از فضای L2([a, b])، می‌توان فرایند Xt را به صورت زیر تجزیه کرد:

که در آن

و می‌توان Xt را با جمع متناهی زیر برای هر عدد صحیح 'N به صورت زیر تخمین زد

 یافتن واریانس 
یک نتیجهٔ مهم این تبدیل را می‌توان این مورد در نظر گرفت که از آنجایی که Zkها در تبدیل کارهونِن-لُواِو ناهمبسته هستند، Bienaymé formula نتیجه می‌دهد که Xt برابر است با جمع واریانس جملات جمع، داریم:

تعریف شده روی [a, b] و استفاده از این مسئله که e''kها متعامد هستند، نتیجه می‌گیریم که واریانس کل فرایند برابر است با:

منابع 

برآورد سیگنال
قضایا در آمار
قضیه‌های احتمالات