موضوع مقاله: نظریه نرخ-اعوجاج | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # نظریه نرخ-اعوجاج | مقدمه: این نظریه به مسئله کمترین تعداد بیت لازم برای هر سمبل منبع که باید از کانال مخابراتی منتقل شود تا بتوان داده‌ها را طوری در مقصد بازیافت که اعوجاج از حد معینی بیشتر نشود، می‌پردازد. | ## بخش 1: نظریه نرخ-اعوجاج | مقدمه نظریه نرخ-اعوجاج یک فرمول‌بندی ریاضی است که بیان می‌کند چه مقدار فشرده‌سازیِ خطادار امکان‌پذیر است. بسیاری از روش‌های فشرده‌سازی صدا، گفتار، تصویر ثابت یا متحرک، دارای تبدیلات، کوانتیزاسیون و روندهایی برای تعیین نرخ بیت هستند که در قالب کلی توابع نرخ-اعوجاج قرار می گیرند. در نظریه نرخ-اعوجاج، معمولاً نرخ به عنوان تعداد بیت لازم برای هر سمبل، هنگام انتقال یا فشرده‌سازی داده‌ها شناخته می‌شود. در موارد ساده، اعوجاج به صورت متوسطِ (امیدِ ریاضی) مربع اختلاف سیگنال ورودی و خروجی تعریف می‌شود. اما، از آنجاکه تکنیک‌های فشرده‌سازی خطادار روی داده‌های قابل درک برای انسان اعمال می‌شوند (مانند صدا، تصاویر ثابت یا متحرک)، اعوجاج باید به گونه‌ای مدل شود که متناسب با درک انسان باشد. مشابه استفاده از احتمالات در فشرده‌سازی خطادار، معیارهای اعوجاج با توابع هزینه (همان‌گونه که در تخمین بِیزی و تئوری تصمیم استفاده می‌شود) بیان می‌شوند. در فشرده‌سازی صدا، مانند تکنیک MP3 یا Vorbis، مدل‌های ادراکی (و در نتیجه اعوجاج ادراکی) استفاده می‌شوند، گرچه اغلب نمی‌توان آنها را به سادگی در غالب تئوری نرخ- اعوجاج بیان کرد. در فشرده‌سازی تصویر ثابت یا متحرک، مدل‌های مبتنی بر ادراک انسان کمتر توسعه یافته‌اند و به صورت محدود در ماتریس وزن‌های JPEG و MPEG استفاده می‌شود. | ## بخش 2: نظریه نرخ-اعوجاج | توابع نرخ-اعوجاج توابعی که نرخ و اعوجاج را پیوند می‌دهند، پاسخ‌های مسئلهٔ کمینه‌سازی زیر هستند: که در آن، (QY | X(y | x، تابع چگالی احتمال شرطی خروجی کانال مخابراتی (Y) برای یک ورودی مفروض (X) است و گاهی تست کانال نامیده می‌شود. (IQ(Y ; X اطلاعات متقابل بین Y و X است و چنین تعریف می‌شود: که (H(Y و (H(Y | X آنتروپی سیگنال خروجی (y) و آنتروپی شرطی سیگنال خروجی به شرط سیگنال ورودی است: همچنین مسئله را می‌توان به صورت یک تابع نرخ-اعوجاج بیان کرد که باید روی اعوجاج‌های ممکن به ازای یک نرخ معین، کمینه شود: این دو فرمول‌بندی به توابعی می‌انجامند که معکوس هم هستند. اطلاعات متقابل، معیاری برای تفاوت عدم قطعیت از Y و عدم قطعیت از Y به شرط دانستن X است. این کاهش عدم قطعیت به‌سبب اطلاعاتی است که میان فرستنده و گیرنده مخابره می‌شود، (I(Y; X. از سوی دیگر، اگر کانال مخابراتی بی‌خطا باشد و سیگنال دریافتی Y، همان سیگنال ارسالی X باشد، آنگاه H(Y | X) = ۰ و (I(Y; X) = H(Y. در تعریف نرخ-اعوجاج، اعوجاج بین X و Y، به ازای یک (QY | X(y | x و یک حداکثر اعوجاج مجاز تعریف می‌شود. اگر از میانگین مربع خطا به عنوان معیار اعوجاج استفاده کنیم (برای سیگنال‌های با دامنه پیوسته)، آنگاه همان‌طور که معادله بالا نشان می‌دهد، محاسبهٔ یک تابع نرخ-اعوجاج نیاز به تابع چگالی احتمال ورودی X دارد و به دنبال آن، یک تابع چگالی احتمال شرطی (QY | X(y | x که نرخ را برای یک اعوجاج D* کمینه کند، به دست می‌آید. اگرچه جواب تحلیلی برای این مسئله، نادر است، حد بالا و پایین، مانند حد پایین شانون برای این توابع وجود دارد، که به ازای خطای مربعی و منبع بی‌حافظه دلخواه با آنتروپی دیفرانسیلی محدود چنین است که (h(D آنتروپی دیفرانسیلی متغیر تصادفی گاوسی با واریانس D است. | ## بخش 3: نظریه نرخ-اعوجاج | الگوریتم Blahut–Arimoto یک روش مبتنی بر تکرار برای حل عددی تابع نرخ-اعوجاج برای الفبای محدود ورودی-خروجی منبع است و کارهای زیادی برای گسترش این راه حل به مسائل عمومی‌تر انجام شده‌است. که و که بالانویس‌ها یک دنباله کامل تا آن زمان و زیرنویس 0، حالت اولیه را نشان می‌دهند. با این حال، حتی در طول بلوک واحد، ممکن است بتوان یک کوانتیزاسیون خوب به گونه‌ای که با فاصله خوبی از تابع نرخ-اعوجاج کار کند، یافت. عملکرد یک فشرده‌ساز عملی تصویر، ممکن است به خوبی زیر باند پایین (R(D نشان‌داده‌شده باشد. ارتباط نظریه نرخ-اعوجاج با ظرفیت کانال اگر بخواهیم اطلاعات منبعی را منتقل کنیم طوری‌که اعوجاج از حد D تجاوز نکند، بر پایه نظریه نرخ-اعوجاج، باید کمترین نرخ بیت (R(D برای هر سمبل اطلاعات از منبع به مقصد برسد. همچنین بر پایه نظریهٔ کدگذاری کانال شانون، اگر آنتروپی منبع، H بیت برای هر سمبل و ظرفیت کانال (C (C<H باشد، آنگاه H-C بیت برای هر سمبل هنگام ارسال اطلاعات روی کانال از دست می‌رود. | ## جمع‌بندی | برای اینکه گیرنده بتواند اطلاعات را با حداکثر اعوجاج D باز یابد، از دست دادن اطلاعات هنگام انتقال نباید از بیشینه خطای قابل تحمل (H − R(D بیت برای هر سمبل بیشتر باشد؛ یعنی ظرفیت کانال باید دست کم از (R(D بیشتر باشد.