میان-همبستگی
میان-همبستگی در پردازش سیگنال، نوعی «اندازه شباهت» برای دو سری، به عنوان تابعی از «جابجایی» یکی نسبت به دیگری است. به میان-همبستگی، ضرب نقطه‌ای کشویی یا ضرب داخلی کشویی هم گفته می‌شود. از این روش معمولاً برای جستجوی یک سیگنال بزرگ برای یافتن یک سیگنال کوچکتر (که به آن ویژگی گفته می‌شود) استفاده می‌شود. این روش در بازشناخت الگو، تحلیل ذره منفرد، برش‌نگاری الکترون، متوسط‌گیری، تحلیل رمز و نوروفیزیولوژی کاربردهایی دارد. میان-همبستگی در طبیعت خود شباهت‌هایی با هم‌گشت دو تابع دارد. در خودهمبستگی، که میان-همبستگی یک سیگنال با خودش است، در تأخیر صفر، همیشه یک قله (پیک) وجود دارد، و اندازه آن همان انرژی سیگنال است.
در احتمالات و آمار، اصطلاح "میان-همبستگی" به همبستگی بین دو موجودیت از بردارهای تصادفی formula_1 و formula_2 اشاره دارد، درحالیکه "همبستگی" برای یک بردار تصادفی formula_1 همان همبستگی بین موجودیت‌های خود formula_1 است، که ماتریس همبستگی formula_1 را تشکیل می‌دهد. اگر هرکدام از formula_1 و formula_2 یک متغیر تصادفی نرده‌ای باشد، که این موضوع در سری‌های زمانی مکرر رخ می‌دهد، آنوقت همبستگی نمونه‌های زمانی مختلف formula_1 را با نام خودهمبستگی formula_1 می‌شناسیم، و میان-همبستگی formula_1 با formula_2 در طول زمان همان میان-همبستگی زمانی است. در احتمالات و آمار، تعریف همبستگی همیشه شامل یک عامل استانداردسازی است به این شیوه که مقادیر همبستگی‌ها باید بین -۱ و +۱ باشد.
اگر formula_12 و formula_13 دو متغیر تصادفی مستقل با توابع چگالی احتمال formula_14 و formula_15 به ترتیب باشند، آنوقت چگالی احتمال تفریق formula_16 به صورت صوری توسط میان-همبستگی formula_17 معرفی می‌شود (در مفهوم پردازش سیگنال)؛ با این حال، از این اصطلاحات در احتمالات و آمار استفاده نمی‌شود. در مقابل، هم‌گشت formula_18 (معادل میان-همبستگی formula_19 و formula_20) برابر تابع چگالی احتمال برای مجموع formula_21 است.
برای توابع پیوسته formula_14 و formula_15، میان-همبستگی به این صورت تعریف می‌شود:
که معادل است با
که در آن formula_25 به مزدوج مختلط formula_19 اشاره دارد، و formula_27 همان جابجایی است که به آن تأخیر (lag) هم گفته می‌شود (یک ویژگی در formula_14 در زمان formula_29 در formula_15 در زمان formula_31 اتفاق می‌افتد).
اگر formula_14 و formula_15 هر دو توابعی متناوب پیوسته با دوره تناوب formula_34 باشند، انتگرال از formula_35 تا formula_36 را می‌توان با انتگرال در هر بازه formula_37 با طول formula_34 جایگزین کرد:
که معادل است با
به صورت مشابه، برای توابع گسسته، میان-همبستگی به این صورت تعریف می‌شود:
که معادل است با
برای توابع گسسته محدود formula_41، میان-همبستگی (دایره‌وار) به این صورت تعریف می‌شود:
که معادل است با
برای توابع گسسته محدود formula_43, formula_44، میان-همبستگی هسته‌ای به این صورت تعریف می‌شود:
که در آن formula_45 یک بردار از توابع هسته‌ای formula_46 است و formula_47 یک تبدیل همگر (آفین) است.
بخصوص، formula_48 می‌تواند یک تبدیل ترجمه دایره‌ای، تبدیل دورانی، یا تبدیل مقداری یا غیره باشد. میان-همبستگی هسته‌ای دارد میان-همبستگی را از فضای خطی به فضای هسته گسترش می‌دهد. میان-همبستگی معادل ترجمه است، میان-همبستگی هسته‌ای معادل هر تبدیل همگر (آفین) است، که شامل ترجمه، دوران، و مقیاس‌دهی و غیره است.
به عنوان مثال، دو تابع با مقدار حقیقی formula_14 و formula_15 را در نظر بگیرید که فقط به اندازه یک انتقال ناشناخته در طول محور x با هم تفاوت دارند. می‌توان از میان-همبستگی استفاده کرد تا این موضوع را یافت که چقدر باید formula_15 را در طول محور x انتقال داد تا آن را با formula_14 یکسان‌سازی کرد. فرمول به صورت اساسی تابع formula_15 را در طول محور x می‌لغزاند، و در این بین انتگرال حاصل‌ضرب آن‌ها را در هر مکان محاسبه می‌کند. دو تابع موقعی تطابق دارند که مقدار formula_54 حداکثر شده باشد. این به آن دلیل است که موقعی که قله‌ها (مساحت مثبت) تراز گردند، آن‌ها مشارکت بالایی در انتگرال دارند. به صورت مشابه، موقعی که فرورفتگی‌ها (مناطق منفی) تراز شوند، آن‌ها نیز یک مشارکت مثبت در انتگرال می‌سازند، زیرا حاصل‌ضرب دو عدد منفی، مثبت است.
با توابع مختلط-مقدار formula_14 و formula_15، و گرفتن مزدوج formula_14 اطمینان حاصل می‌شود که قله‌های تراز شده (یا فرورفتگی‌های تراز شده) با مولفه‌های موهومی در انتگرال به صورت مثبت مشارکت دارند.
در اقتصادسنجی، گاهی به میان-همبستگی تأخیری میان-خودهمبستگی می‌گویند.
\cdot \mathcal{F}\left\{g\right\},
که در آن formula_58 همان تبدیل فوریه است، و formula_59 دوباره به مزدوج مختلط formula_14 اشاره دارد، زیرا formula_61. اگر این موضوع همراه با الگوریتم‌های تبدیل فوریه سریع استفاده شود، از این ویژگی معمولاً برای محاسبات عددی کارا برای میان-همبستگی بهره‌برداری می‌شود. ( را ببینید).
برای formula_69 و formula_70، که هرکدام شامل عناصر تصادفی است که مقدار چمداشتی و واریانس آن‌ها موجود است، ماتریس میان-همبستگی برای formula_1 و formula_2 به این صورت تعریف می‌شود
و که ابعاد دارد. اگر به صورت مولفه‌وار بخواهیم بنویسیم:
لازم نیست بردارهای formula_1 و formula_2 ابعاد یکسانی داشته باشند، و حتی می‌توانند یک مقدار اسکالر (نرده‌ای) باشند.
برای مثال، اگر formula_76 و formula_77 بردارهای تصادفی باشند، آنوقت formula_78 یک ماتریس formula_79 بعدی است که در آن عنصر formula_80-ام برابر formula_81 است.
اگر formula_82 و formula_83 بردارهای تصادفی مختلط باشند، که هرکدام شامل متغیرهای تصادفی باشند که مقدار چشمداشتی و واریانس آن‌ها موجود باشد، ماتریس میان-همبستگی برای formula_84 و formula_85 به این صورت تعریف می‌شود
که در آن formula_87 نشان‌دهنده ترانهاد هرمیتین است.
در تحلیل سری زمانی و آمار، میان-همبستگی برای یک جفت از فرایندهای تصادفی برابر همبستگی بین مقادیر فرایندها در زمان‌های متفاوت، به عنوان یک تابع از دو زمان است. اگر فرض کنیم formula_88 یک جفت از فرایندهای تصادفی باشد، و formula_29 هر نقطه در زمان باشد (formula_29 برای فرایندهای زمان-گسسته می‌تواند عدد صحیح باشد یا برای یک فرایند زمان-پیوسته می‌تواند یک عدد حقیقی باشد). آنوقت formula_91 یک مقدار (یا ) است که توسط یک اجرای معین از فرایند در زمان formula_29 ایجاد شده‌است.
فرض کنید که فرایند دارای میانگین‌های formula_93 و formula_94 نیز واریانس‌های formula_95 و formula_96 در زمان formula_29 برای هر formula_29 باشد. آنوقت تعریف میان-همبستگی بین زمان‌های formula_99 و formula_100 به این صورت است
که در آن formula_101 همان عملگر مقدار چشمداشتی است. توجه کنید که این عبارت ممکن است تعریف نشده باشد.
با تفریق میانگین قبل از ضرب، منجر به ایجاد میان-کوواریانس بین زمان‌های formula_99 و formula_100 می‌شود:
توجه کنید که این عبارت برای همه سری‌های زمانی و فرایندها خوش-تعریف نیست، زیرا میانگین یا واریانس ممکن است موجود نباشد.
فرض کنید formula_88 نمایش‌دهنده یک جفت از فرایندهای تصادفی باشد که به صورت متصل مانای با مفهوم گسترده اند. آنوقت و تابع میان-همبستگی به این صورت معین می‌شوند.
یا به صورت معادل
یا به صورت معادل
که در آن formula_107 و formula_108 برابر میانگین و انحراف معیار برای فرایند formula_109 هستند، که این مقادیر به علت مانا بودن در زمان ثابت اند؛ و به صورت مشابه برای formula_110، به همان ترتیب. formula_111 نشان‌دهنده مقدار چشمداشتی است. این موضوع که میان-همبستگی و میان-کوواریانس از formula_29 مستقل‌اند، دقیقاً یک اطلاعات اضافی است (فرای این موضوع که به صورت منفرد با مفهوم گسترده مانا هستند) این موضوع توسط این نیازمندی منتقل می‌شود که formula_88 دارای ویژگی مانای با مفهوم گسترده "متصل" است.
میان-همبستگی برای یک جفت از فرایندهای تصادفی متصل با مفهوم گسترده مانا را توسط میانگین‌گیری ضرب نمونه‌های اندازه‌گیری شده از یک فرایند و نمونه‌های اندازه‌گیری شده از دیگری (و انتقال زمانی آن) قابل تخمین است. نمونه‌های موجود در میانگین می‌تواند یک زیرمجموعه دلخواه از از همه نمونه‌های سیگنال باشد (مثلا نمونه‌های موجود در یک پنجره زمانی محدود یا یک زیرنمونه‌گیری از یکی از سیگنال‌ها). برای تعداد بالایی از نمونه‌ها، این میانگین به میان-همبستگی درست همگرا می‌شود.
این موضوع در بعضی از رشته‌ها (مثل آمار و تحلیل سری زمانی) معمول است که تابع میان-همبستگی را نرمال‌سازی کنند، تا به یک ضریب همبستگی پیرسون وابسته به زمان برسیم. با این حال، در رشته‌های دیگر (مثل مهندسی) از نرمال‌سازی معمولاً صرف‌نظر می‌شود، و اصطلاح‌های «میان-همبستگی» و «میان-کوواریانس» به جای هم به کار می‌روند.
تعریف میان-همبستگی نرمال‌سازی شده برای یک فرایند تصادفی به این صورت است
اگر تابع formula_115 خوش-تعریف باشد، باید مقدار آن در بازه formula_116 بیافتد که در آن ۱ نشان‌دهنده همبستگی کامل و -۱ نشان‌دهنده کامل است.
برای فرایندهای تصادفی با مفهوم گسترده مانا، تعریف اینگونه است
نرمال‌سازی مهم است زیرا هم تفسیرکردن خودهمبستگی به صورت یک همبستگی یک اندازه قدرت وابستگی آماری بدون مقیاس فراهم می‌کند، و هم به این دلیل که نرمال‌سازی تأثیراتی روی ویژگی‌های آماری خودهمبستگی تخمین‌زده شده دارد.
برای فرایندهای تصادفی با مفهوم گسترده مانای متصل، تابع میان-همبستگی دارای این ویژگی ویژگی تقارن است:
به همان ترتیب برای فرایندهای WSS متصل:
میان-همبستگی‌ها برای تعیین تأخیر زمانی بین دو سیگنال مفید اند، مثل برای تعیین تأخیر زمانی برای انتشار سیگنالهای صوتی در صول یک آرایه میکروفنی. بعد از محاسبه میان-همبستگی بین دو سیگنال، ماکزیمم (یا مینیمم اگر سیگنال‌ها به صورت منفی همبسته باشند) برای تابع میان-همبستگی، نشان‌دهنده نقطه‌ای در زمان است که سیگنال‌ها به صورت بهینه تراز شده‌اند؛ یعنی تأخیر زمانی بین دو سیگنال توسط آرگومان ماکزیمم، یا برای میان-همبستگی تعیین می‌شود، مثلاً در
برای کاربردهای پردازش تصویر، که در آن روشنایی تصویر و الگو می‌توانند به علت نوردهی یا معرض‌قرارگیری تغییر کنند، می‌توان تصاویر را از اول نرمال‌سازی کرد. این موضوع معمولاً در هر گام با تفریق میانگین و تقسیم بر انحراف معیار انجام می‌شود؛ یعنی، میان-همبستگی یک الگو formula_121 با یک زیرتصویر formula_122 به این صورت است
که در آن formula_124 برابر تعداد پیکسل‌ها در formula_121 و formula_122 است و formula_127 برابر میانگین formula_14 و formula_129 برابر انحراف معیار formula_14 است.
در اصطلاح آنالیز تابعی، این موضوع را می‌توان به صورت ضرب نقطه‌ای دو بردار نرمال‌سازی شده تصور کرد؛ یعنی اگر، و آنوقت مجموع بالا برابر است با که در آن formula_134 برابر ضرب داخلی، و formula_135 برابر نرم "L"² norm است. کوشی-شوارتز آنوقت این پیامد را دارد که برد ZNCC برابر در بازه formula_136 است.
از این رو اگر formula_14 و formula_29 ماتریس‌های حقیقی باشند، میان-همبستگی نرمال‌سازی شده شان برابر کسینوس زاویه بین بردارهای واحد formula_139 و formula_34 است، و از این رو اگر و فقط اگر موقعی formula_141 است که formula_139 برابر formula_34 (ضربدر یم مقدار نرده‌ای مثبت) باشد.
همبستگی نرمال‌سازی شده یکی از روش‌های استفاده شده برای تطابق الگو است، این فرایندی است که برای یافتن رخداد یک الگو، یا شیء در داخل یک تصویر استفاده می‌شود. این همچنین یک نسخه دو-بعدی برای ضریب همبستگی ضرب-گشتاوری پیرسون است.
NCC مشابه ZNCC است با این تنها تفاوت که در آن مقدار میانگین محلی برای شدت‌ها تفریق نمی‌شود:
برای استفاده از میان-همبستگی برای سامانه‌های غیرخطی باید احتیاط کرد. در شرایط معین، که بستگی به ویژگی‌های ورودی دارد، میان-همبستگی بین ورودی و خروجی یک سامانه با داینامیک غیرخطی برای تاثیرهای غیرخطی معین می‌تواند کاملاً ناپیدا است. این موضوع به این دلیل بروز می‌کند که بعضی از گشتاورهای درجه‌دوم می‌تواند برابر صفر باشد، و این موضوع می‌تواند به صورت غیرصحیح پیشنهاد بدهد که یک «همبستگی» کم (در مفهوم وابستگی آماری) بین دو سیگنال وجود دارد، اما دو سیگنال در واقع به صورت قوی توسط دینامیک غیرخطی مرتبط هستند.