خودهمبستگی
خودهمبستگی ، همبستگیِ متقابلِ سیگنال (داده‌ها) با خودش است. به‌طور غیررسمی، خودهمبستگی، همسانیِ (شباهت) سیگنال (داده‌ها) با نسخهٔ شیفت‌یافتهٔ خود است.
خودهمبستگی، ابزاری ریاضی برای یافتن الگوهای تکراری (مانند حضور یک سیگنال متناوب در نویز)، یا شناسایی یک فرکانس مشخص در سیگنالی دارای فرکانس‌های هارمونیک است. از خودهمبستگی، اغلب در پردازش سیگنال برای تحلیل توابع یا داده‌ها از جمله تحلیل حوزه زمان سیگنال‌ها استفاده می‌شود.
در آمار، خودهمبستگی یک فرایند تصادفی، همبستگیِ مقادیر فرایند در زمان‌های مختلف را به عنوان تابعی دو-متغیّره (زمان و شیفت زمانی)، یا تابعی تک‌متغیّره (شیفت زمانی) توصیف می‌کند. اگر X فرایندی تکرارپذیر باشد و i نقطه‌ای از زمان بعد از آغاز فرایند (i عددی صحیح برای فرایند زمان‌گسسته یا عددی حقیقی برای فرایند زمان‌پیوسته) است؛ بنابراین X مقدار (یا تحقق) فرایند در زمان i است.
فرض کنیم فرایند، با میانگین μ و واریانس σ برای همه زمان‌های i تعریف شده‌است. خودهمبستگی فرایند در دو زمان s و t عبارت است از:
که E عملگر امید ریاضی است. این بیان برای همه فرایندها یا سری‌های زمانی، خوش‌تعریف نیست، چون ممکن است واریانس برابر صفر (برای یک فرایند ثابت) یا بینهایت باشد. اگر تابع R خوش‌تعریف باشد، مقدار آن باید در محدوده [۱٬۱-] قرار گیرد، که ۱ نشان دهنده همبستگی کامل و ۱- نشان دهنده ضدهمبستگی کامل است. اگر X یک فرایند ایستا باشد، میانگین μ و واریانس σ مستقل از زمان هستند و خودهمبستگی فقط به تفاضل t و s بستگی دارد نه به مقدار مطلق آن‌ها. این موضوع بیان می‌کند که خودهمبستگی یک فرایند ایستا می‌تواند به عنوان تابعی از تأخیر (شیفت) زمانی بیان شود، و همچنین باید یک تابع زوج از τ = "s" − "t" باشد.
و با توجه به زوج بودن این تابع، می‌توانیم بگوییم:
این عمل مشترک در برخی رشته‌ها به غیر از آمار و تحلیل سری‌های زمانی، برای نرمال کردن به وسیله σ و استفاده از «خودهمبستگی» مترادف با «اتو کوواریانس» است. به هر حال، نرمال کردن به دو دلیل اهمیت دارد: به علت تفسیر خودهمبستگی به عنوان یک همبستگی که مقدار بدون مقیاس «قدرت وابستگی آماری» را فراهم می‌کند و چون نرمال کردن روی خصوصیات آماری خودهمبستگی‌های برآورد شده مؤثر است.
در پردازش سیگنال، تعریف بالا اغلب بدون نرمال کردن استفاده می‌شود؛ یعنی بدون کسر میانگین و تقسیم بر واریانس. وقتی تابع خودهمبستگی به وسیله میانگین و واریانس نرمال شده‌است، گاهی اوقات به ضریب خودهمبستگی مربوط می‌شود.
برای سیگنال معین formula_4، خودهمبستگی پیوسته formula_5 غالباً به صورت انتگرال همبستگی متقابل formula_4 با نسخه تأخیریافته خودش به مقدار formula_7 تعریف می‌شود: که formula_9 مزدوج مختلط و formula_10عمل کانوُلوشن است. برای یک تابع حقیقی،formula_11.
خودهمبستگی گسسته R با تأخیر j برای یک سیگنال گسسته formula_12 به صورت زیر است:
تعریف‌های بالا برای سیگنال‌هایی کاربرد دارند که دو بار انتگرال پذیرند یا دو بار جمع پذیرند.
برای فرایندهای ایستا، خودهمبستگی بر اساس مقادیر مورد انتظار تعریف می‌شوند:
برای فرایندهایی که ایستا نیستند این روابط، توابعی از t و n نیز خواهند بود. برای فرایندهایی که ارگودیک نیز هستند، امید می‌تواند توسط حد یک میانگین زمانی جایگزین شود. خودهمبستگی یک فرایند ارگودیک گاهی به صورت زیر تعریف می‌شود:
این تعاریف، برای فرایندهای متناوب، نتایج تک پارامتری خوش‌تعریف معقولی می‌دهند، حتی وقتی فرایند ارگودیک ایستا نیست.
سیگنالهایی که همیشه می‌توانند به وسیله تحلیل یک تابع خودهمبستگی کوتاه مدت اجرا شوند (برای یک فرایند وابسته، به تبدیل فوریه کوتاه مدت نگاه کنید) خودهمبستگی چند بعدی به‌طور مشابه تعریف شده‌است. برای مثال، در سه بعد، خودهمبستگی یک سیگنال گسسته دو بار جمع پذیر عبارت است از:
وقتی مقدارهای میانگین از سیگنال‌ها کسر می‌شوند قبل از محاسبه یک تابع خودهمبستگی، تابع نتیجه معمولاً یک تابع کوواریانس نامیده می‌شود.
در ادامه، تنها خصوصیات خودهمبستگی‌های تک بعدی شرح داده می‌شود، چون بیشتر خصوصیات به آسانی از یک مورد تک بعدی به موارد چند بعدی قابل تبدیل است.برای داده‌های زمان‌گسسته لازم است خودهمبستگی با کارایی بالا محاسبه کنیم. هنگامی‌که الگوریتم brute force مرتبه formula_31 است، چندین الگوریتم کارا وجود دارد که می‌تواند خودهمبستگی را در مرتبه formula_32 محاسبه کند. برای مثال، قضیه وینر-کیچین، محاسبه خودهمبستگی از داده‌های خام formula_33 با دو تبدیل سریع فوریه (FFT)را ممکن می‌سازد.
که IFFT، معکوس FFT را نشان می‌دهد، * نشان دهنده مزدوج مختلط است. یک همبستگی چندگانه formula_7 می‌تواند با استفاده از محاسبه جستجوی فراگیر برای مقدارهای پایین formula_7 اجرا شود، و سپس به‌طور تدریجی استخراج داده‌های formula_33 با یک چگالی لگاریتمی برای محاسبه مقدارهای بزرگتر، با همان کارایی formula_32 اما با حافظه مورد نیاز کمتر.
برای یک فرایند گسسته به طول n که به صورت formula_40 با میانگین و واریانس معلوم، تخمین خودهمبستگی به صورت زیر بدست می‌آید: برای هر عدد صحیح مثبت formula_42. وقتی میانگین صحیح formula_43 و واریانس formula_44 معلومند، این برآورد، بدون تورش است. اگر میانگین و واریانس فرایند نامعلوم باشند چند احتمال وجود دارد:
مزیت این برآوردها این است که مجموعه خودهمبستگی‌های برآوردشده، به عنوان تابعی از k، به صورت تابعی است که دارای خودهمبستگی معتبر است به این معنی که می‌توان فرایند تئوریکی تعریف کرد که دقیقاً همان خودهمبستگی را داشته باشد. برآوردهای دیگر می‌توانند از این مسئله رنج ببرند که اگر برای محاسبه واریانس یک ترکیب خطی از Xها استفاده شوند، واریانس محاسبه شده ممکن است منفی بدست آید.
در تحلیل رگرسیون داده‌های سری زمانی، خودهمبستگی خطاها، یک مشکل است. خودهمبستگی خطاهایی که غیرقابل مشاهده اند، می‌تواند به‌طور کلی بخاطر تولید خودهمبستگی درمانده‌های قابل مشاهده نمایان شود. (خطاها در اقتصادسنجی، «عناصر خطا» نامیده می‌شوند) خودهمبستگی، فرض حداقل مربعات معمولی (OLS) که عناصر خطا ناهمبسته‌اند را نقض می‌کند. زمانی که برآورد ضرایب OLS بدون تورش است، خطاهای استاندارد وقتی خودهمبستگی خطاها در lagهای پایین مثبت است، کمتر از مقدار واقعی تخمین زده می‌شود (و t-مقدار بیشتر از مقدار واقعی). آزمون مرسوم برای وجود خودهمبستگی مرتبه اول، آماره دوربین-واتسون است، یا اگر متغیرهای توضیح دهنده شامل متغیر وابسته لنگی باشد، آزمون انعطاف‌پذیرتر برای پوشش خودهمبستگی مراتب بالاتر و برای اینکه آیا رگرسورهای شامل متغیر وابسته لنگی قابل اجراست یا نه، تست براش-گادفری است. این شامل یک رگرسیون کمکی است، در جایی که مانده‌های به دست آمده از برآورد مدل مورد علاقه روی (الف) رگرسور اصلی و (ب) k باقی‌مانده لنگی، رگرس شده‌اند، که k مرتبه آزمون می‌باشد. ساده‌ترین تفسیر آماره آزمون از این رگرسیون کمکی، "TR" است که T اندازه نمونه و "R" ضریب تعیین هستند. تحت فرضیه صفر (عدم وجود خودهمبستگی) این آماره به‌طور مجانبی، توزیع formula_51 با k درجه آزادی دارد. پاسخ به خودهمبستگی غیر صفر شامل حداقل مربعات تعمیم یافته و تخمین زن Newey-West HAC (واریانس ناهمسانی و خودهمبستگی سازگار) می‌باشد.
بعضی از کاربردهای خودهمبستگی به شرح زیر است: