احتمال مسبق
مسبقات غير معلوماتية

تعبر المسبقة غير المعلوماتية أو المسطحة أو المنتشرة عن معلومات غامضة أو عامة حول متغير. مصطلح "مسبق غير معلوماتي" هو تسمية خاطئة إلى حد ما. مثل هذه المسبقة يمكن أن تسمى أيضًا سابقة غير غنية بالمعلومات، أو سابقة موضوعية، أي أنها لم يتم استنباطها بشكل واقعي.
يمكن للمسبقين غير المعلوماتيين التعبير عن معلومات "موضوعية" مثل "المتغير إيجابي" أو "متغير أقل من بعض الحدود". أبسط وأقدم قاعدة لتحديد سابقة غير إعلامية هو مبدأ اللامبالاة، الذي يعين احتمالات متساوية لجميع الاحتمالات. في مشاكل تقدير المعلمات، يؤدي استخدام سابقة غير معلوماتية عادةً إلى نتائج لا تختلف كثيرًا عن التحليل الإحصائي التقليدي، حيث أن دالة الاحتمال غالبًا ما تنتج معلومات أكثر من السابقة غير المعلوماتية.
تم إجراء بعض المحاولات لإيجاد احتمالات مسبقة، أي توزيعات احتمالية بمعنى ما تتطلبها طبيعة حالة عدم اليقين؛ هذه موضوع جدل فلسفي، حيث ينقسم البايزيون تقريبًا إلى مدرستين: "البايزيون الموضوعيون"، الذين يعتقدون أن مثل هؤلاء الدارسون موجودون في العديد من المواقف المفيدة، و"البايزيون الذاتيون" الذين يعتقدون أنه في الممارسة العملية عادةً ما يمثل أحكامًا ذاتية للرأي لا يمكن تبريرها بشكل صارم (ويليامسون 2010). ولعل أقوى الحجج لصالح البايزية الموضوعية قدمها إدوين ت. جاينس، والتي استندت بشكل أساسي إلى عواقب التماثلات (عواقب التناظرات) وعلى مبدأ الإنتروبيا القصوى.
كمثال على بداهة مسبقة، ترجع إلى" جاينس" Jaynes (2003)، فقد فكر في موقف يعرف فيه المرء أن الكرة كانت مخبأة تحت واحد من ثلاثة أكواب، A أو B أو C، ولكن لا توجد معلومات أخرى متاحة حول موقعها. في هذه الحالة المسبقة المتساوية : ص ( A ) = ع ( ب ) = ص ( ج ) = 1/3 يبدو بديهيًا أنه الخيار المعقول الوحيد. وبشكل أكثر واقعية، يمكننا أن نرى أن المشكلة تظل كما هي إذا قمنا بتبديل المعلمات ("A" و"B" و"C") الخاصة بالأكواب. لذلك سيكون من الغريب اختيار مسبق يؤدي فيها تبديل التسميات إلى تغيير في توقعاتنا حول الكأس الذي سيتم العثور على الكرة تحته؛ والمسبق المتساوي السابق هو الوحيد الذي يحافظ على هذا الثبات (عدم التغير). إذا قبل المرء مبدأ الثبات هذا، فيمكن للمرء أن يرى أن الشكل السابق هو الصحيح منطقيًا الذي يسبق تمثيل هذه الحالة من المعرفة. تعتبر هذه المقدمة "موضوعية" بمعنى كونها الاختيار الصحيح لتمثيل حالة معينة من المعرفة، ولكنها ليست موضوعية بمعنى كونها سمة مستقلة عن المراقب العام: في الواقع، توجد الكرة تحت كوب معين. ومن المنطقي التحدث عن الاحتمالات في هذه الحالة فقط إذا كان هناك مراقب ذو معرفة محدودة بالنظام.
كمثال أكثر إثارة للجدل، نشر "جاينيز " حجة تعتمد على ثبات السابق في ظل تغيير المعلمات التي تشير إلى أن المسبق الذي يمثل عدم اليقين الكامل حول الاحتمال يجب أن يكون هالدين السابق p−1 (1 − p )−1 . المثال الذي قدمه جاينيس هو العثور على مادة كيميائية في المختبر والسؤال عما إذا كانت ستذوب في الماء في تجارب متكررة. الهالدين السابق  يعطي الوزن الأكبر إلى حد بعيد  p=0 و  p=1 مما يشير إلى أن العينة إما ستذوب في كل مرة أو لن تذوب أبدًا، باحتمال متساوٍ. ومع ذلك، إذا لاحظ أحد عينات المادة الكيميائية تذوب في تجربة واحدة ولا تذوب في تجربة أخرى، فسيتم تحديث هذا المسبق إلى التوزيع الموحد في الفاصل الزمني [0، 1]. يتم الحصول على ذلك من خلال تطبيق نظرية بايز على مجموعة البيانات التي تتكون من مشاهدة واحدة للذوبان وأخرى لعدم الذوبان، باستخدام ما ورد أعلاه. الهالدين السابق Haldane prior هو توزيع سابق غير صحيح (بمعنى أنه يحتوي على كتلة لا نهائية). ابتكر هارولد جيفريز طريقة منهجية لتصميم مقدمات غير معلوماتية، على سبيل المثال، جيفريز السابق p−1/2 (1 − p )−1/2 لمتغير برنولي العشوائي.
حيث p هي الإحتمال probability.
يمكن إنشاء المسبقيات التي تتناسب مع مقياس هار إذا كانت مساحة المعلمة X تحمل بنية مجموعة طبيعية مما يترك حالتنا المعرفية البايزية ثابتة. يمكن اعتبار ذلك بمثابة تعميم لمبدأ الثبات (الاستقرار) المستخدم لتبرير النمط الرسمي السابق على الكؤوس الثلاثة في المثال أعلاه. على سبيل المثال، في الفيزياء قد نتوقع أن تعطي التجربة نفس النتائج بغض النظر عن اختيارنا لأصل نظام الإحداثيات. يؤدي هذا إلى إنشاء بنية المجموعة لمجموعة الانتقال على X، والتي تحدد الاحتمال السابق باعتباره ثابت مسبق غير صحيح. وبالمثل، فإن بعض القياسات تكون ثابتة بشكل طبيعي عند اختيار مقياس عشوائي (على سبيل المثال، سواء تم استخدام السنتيمترات أو البوصات، يجب أن تكون النتائج المادية متساوية). في مثل هذه الحالة، مجموعة المقياس هي بنية المجموعة الطبيعية، والمسبق المقابل لــ X يتناسب مع 1/ x . من المهم في بعض الأحيان أن نستخدم مقياس هار الثابت لليسار أو لليمين الثابت. على سبيل المثال، قياسات هار الثابتة اليسرى واليمنى على المجموعة المتقاربة ليست متساوية. بيرغر (1985، ص. 413) يرى أن مقياس هار الصحيح (الثابت) هو الاختيار الصحيح.
هناك فكرة أخرى، يؤيدها إدوين تي جاينز، وهي استخدام مبدأ الإنتروبيا القصوى (MAXENT). الدافع هو أن إنتروبيا شانون للتوزيع الاحتمالي تقيس كمية المعلومات الموجودة في التوزيع. كلما زادت الإنتروبيا، قلّت المعلومات التي يوفرها التوزيع. وبالتالي، من خلال تعظيم الإنتروبيا على مجموعة مناسبة من التوزيعات الاحتمالية على X، يجد المرء التوزيع الأقل إفادة، بمعنى أنه يحتوي على أقل قدر من المعلومات المتوافقة مع القيود التي تحدد المجموعة. على سبيل المثال، الحد الأقصى للإنتروبيا السابقة في مساحة منفصلة، بشرط أن يتم تطبيع الاحتمال إلى 1 (بمعنى احتمال 100%)، هو السابق الذي يعين احتمالًا متساويًا لكل حالة. وفي الحالة المستمرة، يكون الحد الأقصى للإنتروبيا السابقة - مع العلم أن الكثافة طبيعية بمتوسط صفر ووحدة تباين هو التوزيع الطبيعي القياسي. يعمل مبدأ الحد الأدنى من الإنتروبيا المتقاطعة على تعميم MAXENT على حالة "تحديث" التوزيع المسبق عشوائي في ظل قيود مناسبة في حالة أقصى للإنتروبيا.
فكرة ذات صلة، مرجعية سابقة، تم تقديمها بواسطة خوسيه ميغيل برناردو. الفكرة هنا هي تعظيم انحراف كولباك-ليبلر المتوقع للتوزيع اللاحق بالنسبة إلى التوزيع السابق. يؤدي هذا إلى تعظيم المعلومات الخلفية المتوقعة حول X عندما تكون الكثافة السابقة للاحتمال p( x )؛ وبالتالي، إلى حد ما
تكون p ( x ) هي "الأقل معلوماتية" مسبق قبل X. يتم تعريف المرجع المسبق في الحد المقارب بعد المد، أي أن المرء يأخذ في الاعتبار حد المقدمات التي تم الحصول عليها بحيث يصل عدد نقاط البيانات إلى ما لا نهاية. في الحالة الحالية، يتم تحديد التباعد KL بين التوزيعات السابقة واللاحقة بواسطة المعادلة : KL=\int p(t)\int p(x\mid t)\log {\frac {p(x\mid t)}{p(x)}}\,dx\,dt
هنا تعني  t : هي إحصائية كافية لبعض المعلمات  x . التكامل الداخلي هو تباعد KL بين الجزء اللاحق  p(x\mid t) والمسبق  p(x) التوزيعات، والنتيجة هي المتوسط المرجح على جميع قيم  t . تقسيم اللوغاريتم إلى قسمين، وعكس ترتيب التكاملات في الجزء الثاني مع ملاحظة أن  \log \,[p(x)] لا يعتمد على عائدات  t :
KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int \log[p(x)]\,\int p(t)p(x\mid t)\,dt\,dx
التكامل الداخلي في الجزء الثاني هو التكامل انتهى  t من كثافة المفاصل  p(x,t) . هذا هو التوزيع الهامشي  p(x) ، اذا لدينا  KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int p(x)\log[p(x)]\,dx
نستخدم الآن مفهوم الإنتروبيا والذي في حالة التوزيعات الاحتمالية - هو القيمة السلبية المتوقعة للوغاريتم الكتلة الاحتمالية أو لدالة الكثافة أو 



H
(
x
)
=
−
∫
p
(
x
)
log
⁡
[
p
(
x
)
]

d
x
.


{\textstyle H(x)=-\int p(x)\log[p(x)]\,dx.}
استخدام هذا في المعادلة الأخيرة ينتج عنه:  KL=-\int p(t)H(x\mid t)\,dt+\,H(x)
يعد هذا تباعدًا شبه KL ("شبه" بمعنى أن الجذر التربيعي لمعلومات فيشر قد يكون نواة التوزيع غير الصحيح). نظرًا لعلامة الطرح، نحتاج إلى تقليل ذلك من أجل تعظيم تباعد KL الذي بدأنا به. الحد الأدنى لقيمة المعادلة الأخيرة يحدث عندما لا يتباعد التوزيعان في وسيطة اللوغاريتم، سواء كانا غير صحيحين أم لا. ويحدث هذا بدوره عندما يتناسب التوزيع السابق مع الجذر التربيعي لمعلومات فيشر الخاصة بوظيفة الاحتمالية. ومن ثم، في حالة المعلمة الواحدة، يكون الأقدمون المرجعيون وأتباع جيفريز متطابقين، على الرغم من أن لدى جيفريز أساسًا منطقيًا مختلفًا تمامًا.
غالبًا ما تكون المقدمات المرجعية هي الهدف المسبق للاختيار في المسائل متعددة المتغيرات، حيث أن القواعد الأخرى (على سبيل المثال، قاعدة جيفريز ) قد تؤدي إلى سلوكيات إشكالية. [ <span title="The text near this tag may need clarification or removal of jargon. (September 2015)">مطلوب التوضيح</span> هل يرتبط جيفريز السابق باختلاف KL؟ ]
يمكن أيضًا استخلاص التوزيعات الموضوعية المسبقة من مبادئ أخرى، مثل المعلومات أو نظرية التشفير (انظر على سبيل المثال الحد الأدنى لطول الوصف ) أو الإحصائيات المتكررة (ما يسمى بمطابقة الاحتمالات السابقة ). تُستخدم مثل هذه الأساليب في نظرية سولومونوف للاستدلال الاستقرائي. لقد تم مؤخرًا إدخال بناء الكهنوت الموضوعي في المعلوماتية الحيوية، وخاصة الاستدلال في بيولوجيا أنظمة السرطان، حيث يكون حجم العينة محدودًا ويتوفر قدر كبير من المعرفة المسبقة. في هذه الطرق، إما معيار يعتمد على نظرية المعلومات، مثل تباعد KL أو دالة احتمالية السجل لمشكلات التعلم الخاضعة للإشراف الثنائي  ومشكلات نموذج الخليط.
ترتبط المشكلات الفلسفية المرتبطة بالمسبقين غير المعلوماتيين باختيار المقياس المتري أو باختيار مقياس مناسب آخر. لنفترض أننا نريد مسبق لسرعة الجري لعداء غير معروف لنا. يمكننا، على سبيل المثال، تحديد توزيع طبيعي سابق لسرعته باعتباره التوزيع المسبق، ولكن يمكننا بدلاً من ذلك تحديد توزيع طبيعي مسبق للزمن الذي يستغرقه لإكمال مسافة 100 متر، والذي يتناسب مع مقلوب التوزيع السابق الأول. هذه سابقات مختلفة تمامًا، لكن ليس من الواضح ما هو المفضل. يمكن لطريقة جاينز في تحويل المجموعات أن تجيب على هذا السؤال في بعض الحالات .
وبالمثل، إذا طُلب منا تقدير نسبة غير معروفة بين 0 و1، فقد نقول إن جميع النسب متساوية في الاحتمال، ونستخدم مسبق موحد. بدلًا من ذلك، قد نقول إن جميع رتب النسبة متساوية في الاحتمال، أي مٌسبق لوغاريتمي logarithmic prior، وهو النمط السابق على لوغاريتم التناسب. يحاول المسبق لدى Jeffreys حل هذه المشكلة عن طريق حساب مسبق تيبر عن نفس الاعتقاد بغض النظر عن المقياس المستخدم. إن "مسبق جيفريز " لنسبة غير معروفة p هو ص −1/2 (1 − p ) −1/2 ، والذي يختلف عن ما يتطلبه جاينز.
يتم استخدام الأسبقية المستندة إلى مفاهيم الاحتمالية الخوارزمية في الاستدلال الاستقرائي كأساس للاستقراء في التوزيعات العامة جدًا.
تتضمن المشكلات العملية المرتبطة بالمسبقين غير المعلوماتيين اشتراط أن يكون التوزيع اللاحق مناسبًا. إن المسبقات المعتادة غير الدقيقة عن المتغيرات المستمرة غير المحدودة غير مناسبة. لا ينبغي أن يكون هذا مشكلة إذا كان التوزيع اللاحق مناسبًا. هناك مسألة أخرى ذات أهمية وهي أنه إذا تم استخدام مسبقة غير معلوماتية بشكل روتيني، أي مع العديد من مجموعات البيانات المختلفة، فيجب أن تتمتع بخصائص متكررة جيدة. عادة لا يهتم بايزي بمثل هذه القضايا، لكنه قد يكون مهمًا في هذه الحالة. على سبيل المثال، قد يرغب المرء في أن تكون أي قاعدة قرار تعتمد على التوزيع اللاحق مقبولة بموجب دالة الخسارة المعتمدة. لسوء الحظ، غالبًا ما يكون من الصعب التحقق من المقبولية، على الرغم من أن بعض النتائج معروفة (على سبيل المثال، Berger and Strawderman 1996). وهذه القضية مهمة بشكل خاص مع نماذج بايز الهرمية. قد يعطي المسبقون المعتادون (على سبيل المثال، أسبقية جيفريز) قواعد قرار غير مقبولة تماما إذا تم استخدامهم في المستويات الأعلى في التسلسل الهرمي.