سعة القناة
الإضافية الخاصة بسعة القناة

سعة القناة مضافة على القنوات المستقلة. هذا يعني أن استخدام قناتين مستقلتين بطريقة مجمعة يوفر نفس القدرة النظرية لاستخدامهما بشكل مستقل. بشكل أكثر رسمية، لتكن  p_{1} و  p_{2} قناتين مستقلتين على غرار ما ورد أعلاه؛  p_{1} وجود أبجدية الإدخال  {\mathcal {X}}_{1} وأبجدية الإخراج  {\mathcal {Y}}_{1} . Idem لـ  p_{2} . نحدد قناة المنتج
p_{1}\times p_{2} مثل  \forall (x_{1},x_{2})\in ({\mathcal {X}}_{1},{\mathcal {X}}_{2}),\;(y_{1},y_{2})\in ({\mathcal {Y}}_{1},{\mathcal {Y}}_{2}),\;(p_{1}\times p_{2})((y_{1},y_{2})|(x_{1},x_{2}))=p_{1}(y_{1}|x_{1})p_{2}(y_{2}|x_{2})
تنص هذه النظرية على: 



C
(

p

1


×

p

2


)
=
C
(

p

1


)
+
C
(

p

2


)


{\textstyle C(p_{1}\times p_{2})=C(p_{1})+C(p_{2})}
في البداية نثبت أن  C(p_{1}\times p_{2})\geq C(p_{1})+C(p_{2}).
p_{2}.لتكن X_{1} و X_{2}متغيرين عشوائيين مستقلين . وتكن  Y_{1} يكون متغير عشوائي يتوافق مع ناتج  X_{1}عبر القناة  p_{1}, و Y_{2} لأجل X_{2} عبر
بالتعريف  C(p_{1}\times p_{2})=\sup _{p_{X_{1},X_{2}}}(I(X_{1},X_{2}:Y_{1},Y_{2})).
بما أن X_{1} و X_{2} مستقلين، كما أن p_{1} و p_{2},  (X_{1},Y_{1}) مستقلين عن  (X_{2},Y_{2}). يمكننا تنفيذ الخاصية معلومات المتبادلة:  I(X_{1},X_{2}:Y_{1},Y_{2})=I(X_{1}:Y_{1})+I(X_{2}:Y_{2})
حتى الآن نحتاج لأن نجد التوزيعة  p_{X_{1},X_{2}} مثل التالي  I(X_{1},X_{2}:Y_{1},Y_{2})\geq I(X_{1}:Y_{1})+I(X_{2}:Y_{2}). In fact,  \pi _{1} and  \pi _{2},توزيعتين احتماليين  X_{1} و X_{2} لنحقق C(p_{1}) و C(p_{2}), يفي بالغرض:
أي.  C(p_{1}\times p_{2})\geq C(p_{1})+C(p_{2})
الآن دعنا نبرهن أن  C(p_{1}\times p_{2})\leq C(p_{1})+C(p_{2}).
لتكن \pi _{12}لتكن تزيعات لقناة p_{1}\times p_{2} تعرّف (X_{1},X_{2}) و النتيجة المقابلة  (Y_{1},Y_{2}). لتكن {\mathcal {X}}_{1} أبجدية من  X_{1}و  {\mathcal {Y}}_{1} لأجل Y_{1}, وبالمثل  {\mathcal {X}}_{2} و {\mathcal {Y}}_{2}.
من خلال تعريف المعلومات المتبادلة ، لدينا
{\begin{aligned}I(X_{1},X_{2}:Y_{1},Y_{2})&=H(Y_{1},Y_{2})-H(Y_{1},Y_{2}|X_{1},X_{2})\\&\leq H(Y_{1})+H(Y_{2})-H(Y_{1},Y_{2}|X_{1},X_{2})\end{aligned}}
دعونا نعيد كتابة مصطلح إنتروبي الأخير.
H(Y_{1},Y_{2}|X_{1},X_{2})=\sum _{(x_{1},x_{2})\in {\mathcal {X}}_{1}\times {\mathcal {X}}_{2}}\mathbb {P} (X_{1},X_{2}=x_{1},x_{2})H(Y_{1},Y_{2}|X_{1},X_{2}=x_{1},x_{2})
من خلال تعريف قناة المنتج ،  \mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2})=\mathbb {P} (Y_{1}=y_{1}|X_{1}=x_{1})\mathbb {P} (Y_{2}=y_{2}|X_{2}=x_{2}).
لزوج معين (x_{1},x_{2}), يمكننا أن نكتب  H(Y_{1},Y_{2}|X_{1},X_{2}=x_{1},x_{2}) ك:
{\begin{aligned}H(Y_{1},Y_{2}|X_{1},X_{2}=x_{1},x_{2})&=\sum _{(y_{1},y_{2})\in {\mathcal {Y}}_{1}\times {\mathcal {Y}}_{2}}\mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2})\log(\mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2}))\\&=\sum _{(y_{1},y_{2})\in {\mathcal {Y}}_{1}\times {\mathcal {Y}}_{2}}\mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2})[\log(\mathbb {P} (Y_{1}=y_{1}|X_{1}=x_{1}))+\log(\mathbb {P} (Y_{2}=y_{2}|X_{2}=x_{2}))]\\&=H(Y_{1}|X_{1}=x_{1})+H(Y_{2}|X_{2}=x_{2})\end{aligned}}
بتلخيص هذه المساواة على الجميع  (x_{1},x_{2}), ، نحصل
 H(Y_{1},Y_{2}|X_{1},X_{2})=H(Y_{1}|X_{1})+H(Y_{2}|X_{2}).
يمكننا الآن إعطاء حد أعلى للمعلومات المتبادلة:
{\begin{aligned}I(X_{1},X_{2}:Y_{1},Y_{2})&\leq H(Y_{1})+H(Y_{2})-H(Y_{1}|X_{1})-H(Y_{2}|X_{2})\\&=I(X_{1}:Y_{1})+I(X_{2}:Y_{2})\end{aligned}}
يتم الحفاظ على هذه العلاقة في القمة. وبالتالي
من خلال الجمع بين اللامساواة التي أثبتناها ، نحصل على نتيجة النظرية: