stanford-oval/wikipedia huggingface dataset:
كونيكتوم
نشأة المصطلح واستخدامه

في عام 2005، اقترح د. أولاف سبورنز في جامعة إنديانا بالتزامن مع د. باتريك هاغمان في مستشفى لوزان الجامعي مصطلح «كونيكتوم» كل على حدة، إذ أشار المصطلح إلى خريطة من الاتصالات العصبية داخل الدماغ. استلهم الطبيبان هذا المصطلح بشكل مباشر من الجهود المستمرة لإيجاد سلاسل الشيفرة الجينية البشرية – من أجل بناء الجينوم.
يمكن تعريف «علم الكونيكتوم» (هاغمان، 2005) بوصفه العلم المعني بتجميع مجموعات بيانات الكونيكتوم وتحليلها.
كتب سبورنز وآخرون في ورقتهم البحثية بعنوان «الكونيكتوم البشري، وصف بنيوي للدماغ البشري» لعام 2005:
لفهم وظيفة شبكة ما، يجب على المرء معرفة عناصرها وارتباطاتها. يتمثل هدف المقال في مناقشة الاستراتيجيات البحثية الهادفة إلى إيجاد وصف بنيوي شامل لشبكة العناصر والاتصالات المشكلة للدماغ البشري. نحن نقترح «الكونيكتوم» البشري كتسمية لمجموعة البيانات هذه، ونجادل بأهميته الجوهرية في علم الأعصاب المعرفي وعلم النفس العصبي. سيزيد الكونيكتوم بشكل معتبر من فهمنا لكيفية نشوء حالات الدماغ الوظيفية من ركيزتها البنيوية الأساسية، وسيوفر رؤى آلية جديدة لكيفية تأثر وظيفة الدماغ عند اضطراب هذه الركيزة البنيوية.
كتب هاغمان في أطروحته، من التصوير بالرنين المغناطيسي الموزون بالانتشار إلى علم كونيكتوم الدماغ، لنيل درجة الدكتوراه في عام 2005:
بشكل مشابه للجينوم، الذي يُعتبر أكثر بكثير من مجرد تجاور للجينات، من الواضح أن مجموعة الاتصالات العصبونية الكلية في الدماغ أكثر بكثير أيضًا من حاصل جمع مكوناتها الفردية. يُعد الجينوم كيانًا بذاته، إذ تنشأ [الحياة] من التفاعل الجيني عالي الدقة. بطريقة مماثلة، يمكن النظر في كونيكتوم الدماغ، مجموعة الاتصالات العصبونية الكلية، باعتباره كيانًا مفردًا، ما يؤكد بالتالي على حقيقة اعتماد قدرة الاتصال العصبونية والقوة الحاسوبية في الدماغ بشكل حاسم على عمارة الموصولية الدقيقة والمعقدة بشكل مذهل.
ساهم سيباستيان سيونغ في الآونة الأخيرة في تعميم مصطلح «كونيكتوم» من خلال خطابه بعنوان أنا الكونيكتوم الذي ألقاه في مؤتمر تيد لعام 2010، إذ ناقش الأهداف عالية المستوى لتخطيط الكونيكتوم البشري، بالإضافة إلى الجهود المستمرة لبناء الخريطة العصبية ثلاثية الأبعاد من نسج الدماغ على النطاق الميكروي. في عام 2012، نشر سيونغ كتابه بعنوان كونيكتوم: كيف تجعلنا أسلاك الدماغ ما نحن عليه.
لدونة الكونيكتوم

في بداية مشروع الكونيكتوم، شاع الاعتقاد بثبات الاتصالات بين العصبونات وعدم قابليتها للتغير بعد إنشائها، إذ اقتصرت التغيرات على المشابك الفردية. مع ذلك، تقترح الأدلة الحديثة أن موصولية الدماغ عرضة للتغير، إذ يُعرف ذلك بمصطلح اللدونة العصبية. يستطيع الدماغ إعادة التوصيل بإحدى الطريقتين: تشكيل المشابك وإزالتها في اتصال ناشئ أو تشكيل الاتصالات بين العصبونات بأكملها أو إزالتها. تلعب كلا الآليتين المستخدمتين في إعادة التوصيل دورًا هامًا في تعلم المهام الجديدة كليًا التي تستلزم في بعض الأحيان اتصالات جديدة بالكامل بين مناطق الدماغ. مع ذلك، تشكل قدرة الدماغ على اكتساب اتصالات كاملة أو فقدانها مشكلة أمام تخطيط الكونيكتوم العالمي بين الأنواع. على الرغم من حدوث إعادة التوصيل على نطاقات مختلفة، من النطاق الميكروي إلى النطاق الماكروي، لا يحدث كل نطاق لوحده بمعزل عن البقية. على سبيل المثال، يزيد إجمالي عدد المشابك بمقدار 5 أضعاف في كونيكتوم الربداء الرشيقة منذ ولادتها حتى مرحة البلوغ، ما يسبب تغييرات في خصائص الشبكة المحلية والعالمية. تحتفظ بعض شبكات الكونيكتوم التطورية الأخرى، مثل الكونيكتوم العضلي، بعدد من خصائص الشبكة العالمية على الرغم من انخفاض عدد المشابك بمقدار 10 أضعاف في وقت مبكر من الحياة التالية للولادة.
لدونة الكونيكتوم > إعادة التوصيل على النطاق الواسع (الماكروي)

يرجع الدليل على إعادة التوصيل على النطاق الواسع إلى الأبحاث حول كثافة المادة الرمادية والبيضاء، إذ أشارت إلى وجود اتصالات جديدة أو تغيرات في كثافة المحوار. يأتي الدليل المباشر على مستوى إعادة التوصيل هذا من الدراسات حول الرئيسيات، باستخدام التتبع الفيروسي من أجل تخطيط تشكل هذه الاتصالات. استطاعت بعض الرئيسيات بعد تعليمها استخدام أدوات جديدة تطوير اتصالات جديدة بين القشرة بين الجدارية والمناطق البصرية العليا في الدماغ. قدمت دراسات فيروسية أخرى أدلة على حدوث إعادة التوصيل الماكروية لدى الحيوانات البالغة خلال عملية التعلم الترابطي. مع ذلك، من غير المرجح حدوث إعادة التوصيل الواسعة على الاتصالات العصبية ذات المسافات البعيدة لدى البالغين. من المحتمل أن التغيرات المرصودة في إعادة التوصيل على النطاق الواسع عبارة عن تغيرات صغيرة في السبيل العصبي الناشئ بالفعل.
لدونة الكونيكتوم > إعادة التوصيل على النطاق المتوسط (الميزوي)

تشمل إعادة التوصيل على النطاق المتوسط دراسة وجود اتصالات كاملة بين الخلايا أو غيابها. تأتي الأدلة على مستوى إعادة التوصيل هذا من رصد تشكيل الدوائر المحلية لاتصالات جديدة كنتيجة اللدونة المعتمدة على الخبرة في القشرة البصرية. بالإضافة إلى ذلك، يزداد عدد الاتصالات المحلية بين العصبونات الهرمية والقشرة الحسية الجسدية الأولية بعد تغير التجربة الحسية لشعيرات الشارب لدى القوارض.
لدونة الكونيكتوم > إعادة التوصيل على النطاق الدقيق (الميكروي)

تمثل إعادة التوصيل على النطاق الدقيق تشكيل الاتصالات المشبكية أو إزالتها بين عصبونين، ويمكن دراستها عبر التصوير الطولي ثنائي الفوتون. يمكن رصد الأشواك الشجيرية على العصبونات الهرمية في غضون أيام بعد التجربة الحسية والتعلم. يمكن ملاحظة التغيرات في غضون خمس ساعات حتى على اللمم الذروية للعصبونات الهرمية من الطبقة الخامسة في القشرة الحركية الأولية بعد مهمة الوصول إلى البذرة لدى الرئيسيات.
مجموعات البيانات > البشر

أُطلق مشروع الكونيكتوم البشري، برعاية معاهد الصحة الوطنية الأمريكية (إن آي إتش)، بهدف تخطيط 86 مليار عصبون (مع اتصالاته) في دماغ الإنسان.
مجموعات البيانات > نماذج الكائنات الحية > الديدان الأسطوانية

ينتمي أول كونيكتوم معاد بناؤه بالكامل (والوحيد حتى الآن) إلى الربداء الرشيقة من فصيلة الديدان الأسطوانية. بدأت الجهود الرئيسية مع الصور المجهرية الإلكترونية الأولى التي نشرها وايت، وبرينر وآخرون في عام 1986. بالاستناد إلى هذا العمل البارز، أمكن نشر أول كونيكتوم على الإطلاق (أطلق عليه الباحثون حينئذ اسم «قاعدة بيانات الدائرة العصبية») لدودة الربداء الرشيقة على شكل كتاب مع إرفاقه بعدد من الأقراص المرنة بواسطة أشاسوكو وياماموتو في عام 1992. عرض أشاسوكو الورقة الأولى للتمثيل الحاسوبي الخاص بهذا الكونيكتوم ونشرها قبل ثلاث سنوات في ندوة حول تطبيقات الحاسوب في العناية الطبية (إس سي إيه إم سي) في عام 1989. خضع كونيكتوم الربداء الرشيقة في وقت لاحق للتنقيح إذ أمكن توسيعه ليشمل التغيرات خلال تطور الحيوان.
مجموعات البيانات > نماذج الكائنات الحية > ذباب الفاكهة

يجري في الوقت الحالي تخطيط العديد من الأقسام المختلفة للنسيج العصبي من ذباب الفاكهة، بما في ذلك قسم جزئي من الدماغ («شبه الدماغ») والحبل العصبي البطني بأكمله.
مجموعات البيانات > نماذج الكائنات الحية > الفئران

أمكن بناء بعض شبكات الكونيكتوم الجزئي للشبكية بشكل ناجح بالإضافة إلى القشرة البصرية الأولية لدى الفئران.
استُكمل بناء أول كونيكتوم كامل للدائرة العصبية لدى إحدى الثدييات في عام 2021. شمل هذا البناء تطوير جميع الاتصالات بين الجهاز العصبي المركزي والعضلة المفردة من الولادة حتى مرحلة البلوغ.
لوسي فونكوفا

| لوسي فونكوفا> Lucie Voňková  | لوسي فونكوفا> Lucie Voňková  | لوسي فونكوفا> Lucie Voňková  | لوسي فونكوفا> Lucie Voňková  | لوسي فونكوفا> Lucie Voňková  |  |
| --- | --- | --- | --- | --- | --- |
| لوسي فونكوفا خلال الإحماء قبل مبارة ضد نادي كولن ميونخ | لوسي فونكوفا خلال الإحماء قبل مبارة ضد نادي كولن ميونخ | لوسي فونكوفا خلال الإحماء قبل مبارة ضد نادي كولن ميونخ | لوسي فونكوفا خلال الإحماء قبل مبارة ضد نادي كولن ميونخ | لوسي فونكوفا خلال الإحماء قبل مبارة ضد نادي كولن ميونخ |  |
| معلومات شخصية   | معلومات شخصية   | معلومات شخصية   | معلومات شخصية   | معلومات شخصية   |  |
الاسم الكامل: Lucie Voňková
الميلاد: 28 فبراير 1992 (العمر 33 سنة)   تبليتسه ، التشيك
الجنسية:  تشيكية
مركز اللعب: مهاجمة
الطول: 1.82 م (6 قدم 0 بوصة)
|  معلومات النادي   |  معلومات النادي   |  معلومات النادي   |  معلومات النادي   |  معلومات النادي   |  |
النادي الحالي:  بايرن ميونخ للسيدات
الرقم: 13
|  مسيرة الشباب   |  مسيرة الشباب   |  مسيرة الشباب   |  مسيرة الشباب   |  مسيرة الشباب   |  |
سنوات: فريق
: تيبليتسه
| المسيرة الاحترافية1  | المسيرة الاحترافية1  | المسيرة الاحترافية1  | المسيرة الاحترافية1  | المسيرة الاحترافية1  |  |
| سنوات | فريق | م. | (هـ.) |  |  |
| 2006–2012 | سلافيا براغ  | 99 | (59) |  |  |
| 2012–2013 | Sparta Prag | 24 | (18) |  |  |
| 2013 | دويسبورغ للسيدات | 14 | (1) |  |  |
| 2014 | MSV Duisburg (women) ‏ | 18 | (1) |  |  |
| 2015–2017 | FF USV Jena | 34 | (12) |  |  |
| 2017–2019 | بايرن ميونخ للسيدات | 22 | (5) |  |  |
| 2019–2021 | AFC Ajax (women) ‏ | 9 | (1) |  |  |
| المنتخب الوطني 2  | المنتخب الوطني 2  | المنتخب الوطني 2  | المنتخب الوطني 2  | المنتخب الوطني 2  |  |
| 2007–2009 | منتخب التشيك الوطني لكرة القدم للنساء تحت 17 | 11 | (6) |  |  |
| 2009–2011 | منتخب التشيك الوطني لكرة القدم للنساء تحت 19 | 11 | (4) |  |  |
| 2009- | منتخب التشيك الوطني لكرة القدم للنساء | 46 | (13) |  |  |
| 1 عدد مرات الظهور مع الأندية وعدد الأهداف تحسب للدوري المحلي فقط  وهو محدث في 9 مايو 2020.  2 عدد مرات الظهور مع المنتخب وعدد الأهداف    محدث في 6 أكتوبر 2019. | 1 عدد مرات الظهور مع الأندية وعدد الأهداف تحسب للدوري المحلي فقط  وهو محدث في 9 مايو 2020.  2 عدد مرات الظهور مع المنتخب وعدد الأهداف    محدث في 6 أكتوبر 2019. | 1 عدد مرات الظهور مع الأندية وعدد الأهداف تحسب للدوري المحلي فقط  وهو محدث في 9 مايو 2020.  2 عدد مرات الظهور مع المنتخب وعدد الأهداف    محدث في 6 أكتوبر 2019. | 1 عدد مرات الظهور مع الأندية وعدد الأهداف تحسب للدوري المحلي فقط  وهو محدث في 9 مايو 2020.  2 عدد مرات الظهور مع المنتخب وعدد الأهداف    محدث في 6 أكتوبر 2019. | 1 عدد مرات الظهور مع الأندية وعدد الأهداف تحسب للدوري المحلي فقط  وهو محدث في 9 مايو 2020.  2 عدد مرات الظهور مع المنتخب وعدد الأهداف    محدث في 6 أكتوبر 2019. |  |
لوسي فونكوفا (بالغة التشيكية : Lucie Voňková ) هي لاعبة كرة قدم تيشيكية، وُلدت في الثامن والعشرين من شهر فبراير ( شُباط ) عام 1992 في تبليتسه في التشيك .
مسيرتها الكروية > الأندية

كانت بدايات لوسي فونكوفا في نادي نادي تيبليتسه الواقع في مدينة تبليتسه أينما وُلدت .، وفي عمر الرابعة عشر انتقلت إلى
سلافيا براغ للسيدات والذي لعبت فيه مائة مباراة تقريبًا قبل انتقالها إلى نادي أيه سي سبترا براج (AC Sparta Prag) في موسم 2012 /2013 حيث أحرزت ثمانية عشر هدفًا في أربعة وعشرين مباراة دوري وكذلك ساعدت المنتخب الوطني في الحصول على اللقب والفوز بالكأس . في موسم 2013/ 2014 انتقلت فونكوفا إلى اف تسه اع 2001 دويسبوج (FCR 2001 Duisburg)النادي الألماني الاعب في الدوري الألماني (البوندسليجا )و في الثامن من ديسمبر (كانون الأول) عام 2013 ظهرت لوسي أول مره معه في مباراة ضد نادي بايا 04 ليفاكوسن (Bayer 04 Leverkusen) و التي انتهت بالخسارة لثلاثة أهداف لصاح النادي الأخر مقابل لا شيء .
بعد موسم 2014/2015 غادرت نادي ام اس فو دويسبوج (MSV Duisburg) وانتقلت إلى نادي اف اف أو اس فو ينا (FF USV Jena) والذي مضت معه العقد حتى الثلاثين من يونيو (حزيران) لعام 2017.
في موسم 2017/2018 انتقلت إلى نادي بايرن ميونخ للسيدات حيث وقعت عقدًا يمتد حتى الثلاثين من يونيو (حزيران) لعام 2019 . و ظهرت لأول مرة مع البايرن (أول يوم لعب لها) في الثاني من سبتمبر (أيلول) لعام 2017 خلال مباراة ضد نادي اس جيه اس اسن ( SGS Essen ) و التي انتهت بالفوز لصالح البايرن بثلاثة أهداف مقابل لا شيء للفريق الأخر حيث سجلت هدفها الأول في الدقيقة الثانية والستين وكان هذا هو الهدف الثاني للبايرن .
مسيرتها الكروية > المنتخب الوطني

لعبت لوسي فونكوفا للمرة الأولى في منتخب التشيك الوطني في الحادي والثلاثين من شهر مايو (أيار) في عام 2009 في ناخود خلال مباراة ضد منتخب بولندا والتي انتهت بالخسارة بنتيجة هدفين لصالح منتخب بولندا مقابل لا شيء لمنتخب التشيك .وفي السادس و العشرين من شهر نوفمبر ( تشرين الثاني ) لعام 2010 أحرزت أول هدف وطني لها في مباراة ضد منتخب المجر حيث سجلت هدفها في الدقيقة التاسعة والسبعين وكان الهدف الرابع للمنتخب مقابل هدفين لصاح المجر و انتهت المباراة بفوز التشيك على المجر بأربعة أهداف مقابل هدفين .
نجاحتها

بطولة التشيك لعام 2013 (أثناء لعبها في نادي AC Sparta Prag)
بطولة كأس التشيك لكرة قدم السيدات لعام 2013 (أثناء لعبها في نادي AC Sparta Prag)
وصلات خارجية

صفحة Lucie Voňková على موقع weltfussball (بالغة الألمانية)
Lucie Voňková in der Datenbank von fussballdaten.de (بالغة الألمانية )
صفحة Lucie Voňková على موقع soccerdonna (يالغة الألمانية)
Länderspielbilanz von Lucie Voňková auf fotbal.cz (بالغة التشيكية)
المصادر

↑  Lucie Voňková 2002/03 نسخة محفوظة 08 أبريل 2016 على موقع واي باك مشين.
↑  Debütspiel in der 1. Bundesliga auf dfb.de  نسخة محفوظة 6 سبتمبر 2013 على موقع واي باك مشين.
↑  USV Jena verpflichtet Lucie Voňková نسخة محفوظة 24 سبتمبر 2015 على موقع واي باك مشين.
↑  Pressemitteilung auf der Homepage des FC Bayern München نسخة محفوظة 02 سبتمبر 2017 على موقع واي باك مشين.
↑  Lucie Voňková auf fotbal.cz نسخة محفوظة 05 مارس 2016 على موقع واي باك مشين.
↑  erstes Länderspieltor von Lucie Voňková نسخة محفوظة 12 مارس 2016 على موقع واي باك مشين.
↑  Pokalfinale 17. Mai 2013 auf zfotbal.cz. (بالغة التشيكية) نسخة محفوظة 04 مارس 2016 على موقع واي باك مشين.
في كومنز مواد ذات صلة بـ لوسي فونكوفا.
بوابة المرأة
بوابة أعلام
بوابة التشيك
بوابة رياضة
بوابة كرة القدم
لوسي مع المنتخب التشيكي قبل مواجهة منتخب ألمانيا
اعتلاج (نظرية المعلومات)
تعريف

سميت نظرية شانون باسم نظرية بولتزمان، وقد عرّف شانون الانتربي Η (Η اليوناني الكبير eta) لمتغير عشوائي متقطّع 



X


{\textstyle X}

 مع القيم المحتملة 




{


x

1


,
…
,

x

n



}



{\textstyle \left\{x_{1},\ldots ,x_{n}\right\}}

 ووظيفة الكتلة الاحتمالية 




P

(
X
)


{\textstyle \mathrm {P} (X)}

 مثل:
هنا  \operatorname {E}  هو عامل القيمة المتوقعة، I هو محتوى معلومات X      I(X) هو نفسه متغير عشوائي.
يمكن كتابة الأنتربي بشكل صريح كـ
حيث b هي أساس اللوغاريتم المستخدم. القيم الشائعة لـ b هي 2، رقم أويلر e ، و 10، والوحدات المقابلة من الإنتروبيا هي البتات لـ b = 2 ، nats لأجل b = e، bans لـ b = 10.
في حالة P(xi) = 0 بالنسبة لبعض i ، تُعتبر قيمة التلخيص المقابل (corresponding summand)؛0 logb(0) هي 0 ، وهو ما يتوافق مع النهاية:
يمكن للمرء أيضًا تعريف الإنتروبي الشرطي لحدثين  X و  Y أخذ القيم  x_{i} و  y_{j} على التوالي
حيث  p(x_{i},y_{j}) هو احتمال ذلك  X=x_{i} و  Y=y_{j} . يجب فهم هذه الكمية على أنها مقدار العشوائية في المتغير العشوائي  X بالنظر إلى المتغير العشوائي  Y.
مثال

ضع في اعتبارك رمي عملة معدنية باحتمالات ظهور رؤوس أو ذيول، وليس بالضرورة عملة عادلة؛ يمكن نمذجة هذا على أنه عملية برنولي.
يتم تكبير الانتروبيا للنتيجة غير المعروفة للرمي التالي للعملة إذا كانت العملة عادلة (أي إذا كان لكل من الرؤوس والذيول احتمال متساوي 1/2). هذا هو وضع الحد الأقصى من عدم اليقين حيث يصعب التنبؤ بنتيجة الرمي التالي؛ نتيجة كل رمية لعملة واحدة توفر بت كامل من المعلومات. هذا بسبب
ومع ذلك، إذا كنا نعلم أن العملة ليست عادلة، ولكن تأتي برؤوس أو ذيول مع الاحتمالات p و q ، حيث p ≠ q ، فهناك قدر أقل من عدم اليقين. في كل مرة يتم رميها، من المرجح أن يأتي أحد الجانبين أكثر من الآخر. يتم قياس عدم اليقين المنخفض في إنتروبيا أقل: في المتوسط تقدم كل رمية للعملة أقل من بت كامل من المعلومات. على سبيل المثال، إذا كانت p = 0.7، إذن
ينتج عن الاحتمال الموحد أقصى قدر من عدم اليقين وبالتالي أقصى انتروبيا. الإنتروبيا، إذن، يمكن أن تنخفض فقط من القيمة المرتبطة بالاحتمال المنتظم. الحالة القصوى هي عملة ذات رأسين لا تظهر ذيولًا أبدًا، أو عملة ذات ذيل مزدوج لا ينتج عنها رأس أبدًا. ثم ليس هناك شك. انتروبي هو صفر: كل رمية للعملة لا تقدم أي معلومات جديدة حيث تكون نتيجة كل رمية للعملة مؤكدة دائمًا.
يمكن تطبيع الانتروبيا بتقسيمها على طول المعلومات. تسمى هذه النسبة انتروبي المتري وهي مقياس لعشوائية المعلومات.
الأساس المنطقي

لفهم معنى -∑ pi log(pi) ، قم أولاً بتعريف دالة المعلومات I من حيث الحدث i مع الاحتمال pi . كمية المعلومات المكتسبة نتيجة لمراقبة الحدث i التالي من حل شانون الأساسي للخصائص من المعلومات:
I(p) هو دالة رتيبة في p. الزيادة في احتمالية حدث يثلل المعلومات من الحذف المراقب، والعكس بالعكس.
I(p) ≥ 0 : المعلومات ليست كمية سالبة.
I(1) = 0 : الأحداث التي تحدث دائماً لا توصل معلومات.
I(p1 p2) = I(p1) + I(p2) : المعلومات عبر الاحداث المستقلة هي جمعية.
الأخير هو خاصية حاسمة. وينص على أن الاحتمال المشترك للمصادر المستقلة للمعلومات ينقل الكثير من المعلومات مثل الحدثين الفرديين بشكل منفصل. خاصةً، إذا كان الحدث الأول يمكن أن يسفر عن واحدة من n متوازن النتائج وآخر واحدة من m متوازن نتائج ثم هناك نتائج mn المحتملة لهذا الحدث المشترك. هذا يعني أنه إذا كانت هناك حاجة إلى بتات log2(n) لتعمية القيمة الأولى log2(m) لترميز الثانية، يحتاج المرء إلى log2(mn) = log2(m) + log2(n) لترميز كليهما . اكتشف شانون أن الاختيار الصحيح للدالة لقياس المعلومات، والحفاظ على هذه الإضافة، هو لوغاريتمي، أي
لتكن 



I


{\textstyle I}

 هي دالة المعلومات التي يفترض المرء أنها قابلة للتمييز باستمرار مرتين، وعليه:
هذه المعادلة التفاضلية تؤدي إلى الحل  I(u)=k\log u لأي  k\in \mathbb {R}  . شرط 2. يؤدي إلى  k<0 وخاصة،  k يمكن اختياره في النموذج  k=-1/\log x مع  x>1 ، وهو ما يعادل اختيار أساس محدد للوغاريتم. مختلف وحدات المعلومات (بت لوغاريتم ثنائي log2 ناتس لل اللوغاريتم الطبيعي ln bans للوغاريتم العشري log10 وهلم جرا) هي مضاعفات ثابتة من بعضها البعض. على سبيل المثال، في حالة رمي عملة عادلة، توفر الرؤوس log2(2) = 1 بت من المعلومات، وهو ما يقرب من 0.693   ناتس أو 0.301   أرقام عشرية. بسبب الجمع، وتوفر n n رميات من بت من المعلومات، وهو ما يقرب من 0.693n ناتس أو 0.301n رقما 0.301n عشري.
إذا كان هناك توزيع حيث حدث i أن يحدث مع احتمال pi وتم أخذ عينات N مرات مع نتائج i تحدث ni = N pi مرات ni = N pi فإن المبلغ الإجمالي من المعلومات التي تلقيناها من
وبالتالي فإن متوسط كمية المعلومات التي نتلقاها لكل حدث هو
نتيجة لما سبق، وبسبب استخدام اللوغاريتم في التعريف المشتق للانتروبيا، فإن الإنتروبيا مضافة أيضًا للمصادر المستقلة. على سبيل المثال، وانتروبي من رمية عملة عادلة هو 1 بت، وانتروبي من قذفات m هو m بت. في تمثيل مباشر، هناك حاجة ل log2(n) بت لتمثيل متغير الذي يمكن أن يأخذ واحدة من القيم n إذا كان n هو قوة 2، والذي هو n = 2k إذا كانت هذه القيم مُحتمَلة بنفس القدر، فإن الإنتروبيا (بالبتات) تساوي log2(n)= k . إذا كانت إحدى القيم أكثر احتمالية لحدوثها من القيم الأخرى، فإن ملاحظة أن هذه القيمة تحدث تكون أقل إفادة مما لو حدثت بعض النتائج الأقل شيوعًا. على العكس من ذلك، توفر الأحداث النادرة مزيدًا من المعلومات عند ملاحظتها. نظرًا لأن ملاحظة الأحداث الأقل احتمالًا تحدث بشكل أكثر ندرة، فإن التأثير الصافي هو أن الإنتروبيا (التي يُعتقد أنها متوسط المعلومات) الواردة من البيانات غير الموزعة بشكل منتظم تكون دائمًا أقل من أو تساوي log2(n). الانتروبيا هي صفر عندما تكون هناك نتيجة واحدة مؤكدة. تحدد الأنتروبيا هذه الاعتبارات عندما يُعرّف التوزيع الاحتمالي لبيانات المصدر. المعنى من الأحداث التي تمت ملاحظتها (معنى الرسائل) لا يهم في تعريف انتروبي. تأخذ إنتروبي بعين الاعتبار فقط احتمال ملاحظة حدث معين، لذا فإن المعلومات التي تتضمنها هي معلومات حول توزيع الاحتمال الأساسي، وليس معنى الأحداث نفسها.
اعتبارات > الانتروبيا كمحتوى للمعلومات

يتم تعريف الانتروبيا في سياق نموذج احتمالي. تقلبات عملة عادلة مستقلة لها إنتروبيا 1 بت لكل قلبة. المصدر الذي يولد دائمًا سلسلة نصية طويلة من B يحتوي على إنتروبيا من 0، حيث أن الحرف التالي سيكون دائمًا "B".
معدل الإنتروبيا لمصدر بيانات يعني متوسط عدد البتات لكل رمز اللازمة لتعمية ه. تُظهر تجارب شانون مع المتنبئين البشريين معدل معلومات يتراوح بين 0.6 و 1.3 بت لكل حرف باللغة الإنجليزية؛  يمكن لخوارزمية ضغط PPM أن تحقق نسبة ضغط تبلغ 1.5 بت لكل حرف في النص الإنجليزي.
من المثال السابق ، لاحظ النقاط التالية:
مقدار الانتروبي ليس دائمًا عددًا صحيحًا من البتات.
قد لا تنقل العديد من بتات البيانات معلومات. على سبيل المثال ، غالبًا ما تقوم هياكل البيانات بتخزين المعلومات بشكل متكرر ، أو تحتوي على أقسام متطابقة بغض النظر عن المعلومات الموجودة في هياكل البيانات.
تعريف شانون للانتروبيا ، عند تطبيقه على مصدر المعلومات ، يمكن أن يحدد الحد الأدنى لسعة القناة المطلوبة لنقل المصدر بشكل موثوق كأرقام ثنائية مشفرة (انظر التحذير أدناه بخط مائل). يمكن اشتقاق الصيغة عن طريق حساب التوقع الرياضي لمقدار المعلومات الواردة في رقم من مصدر المعلومات. انظر أيضًا نظرية شانون هارتلي .
تقيس إنتروبيا شانون المعلومات الواردة في الرسالة بدلاً من الجزء المحدد من الرسالة (أو الذي يمكن التنبؤ به). تشمل الأمثلة الأخيرة التكرار في بنية اللغة أو الخصائص الإحصائية المتعلقة بترددات حدوث أزواج الحروف أو الكلمات، والثلاثيات (triplets) وما إلى ذلك. انظر سلسلة ماركوف.
اعتبارات > الانتروبيا كمقياس للتنوع

الانتروبيا هي واحدة من عدة طرق لقياس التنوع. على وجه التحديد ، فإن إنتروبي شانون هو لوغاريتم 1D ، وهو مؤشر التنوع الحقيقي ببارامتر تساوي 1.
اعتبارات > ضغط البيانات

يحيط الانتروبي بشكل فعال بأداء أقوى ضغط بدون خسارة ممكنة ، والذي يمكن تحقيقه نظريًا باستخدام المجموعة النموذجية أو في الممارسة العملية باستخدام ترميز هوفمان أو Lempel – Ziv أو التعمية الحسابي . انظر أيضًا تعقيد كولموجوروف . من الناحية العملية ، تتضمن خوارزميات الضغط عمداً بعض التكرار الحكيم في شكل اختباري للحماية من الأخطاء.
اعتبارات > القدرة التكنولوجية في العالم على تخزين ونقل المعلومات

تقدر دراسة عام 2011 في العلوم القدرة التكنولوجية العالمية على تخزين وايصال المعلومات المضغوطة بشكل مثالي المقيسة على أكثر خوارزميات الضغط فاعلية المتاحة في عام 2007، وبالتالي تقدير إنتروبيا المصادر المتاحة تقنيًا.
| نوع المعلومات | 1986 | 2007 |
| --- | --- | --- |
| تخزين | 2.6 | 295 |
| بث | 432 | 1900 |
| الاتصالات | 0.281 | 65 |
يقدر المؤلفون القدرة البشرية على تخزين المعلومات (مضغوطة بالكامل انتروبياً) في عام 1986 ومرة أخرى في عام 2007. يقسمون المعلومات إلى ثلاث فئات - لتخزين المعلومات على وسيط ، لتلقي المعلومات من خلال شبكات البث أحادية الاتجاه ، أو لتبادل المعلومات من خلال شبكات الاتصالات ثنائية الاتجاه.
اعتبارات > حدود الانتروبيا كمحتوى المعلومات

هناك عدد من المفاهيم المتعلقة بالأنتروبيا التي تحدد كمية محتوى المعلومات رياضياً بطريقة ما:
المعلومات الذاتية لرسالة أو رمز فردي مأخوذ من توزيع احتمالي معين ،
الانتروبيا لتوزيع احتمالي معين للرسائل أو الرموز ، و
معدل الانتروبيا لعملية عشوائية.
(يمكن أيضًا تحديد «معدل المعلومات الذاتية» لتسلسل معين من الرسائل أو الرموز الناتجة عن عملية عشوائية معينة: سيكون هذا دائمًا مساويًا لمعدل الإنتروبيا في حالة العملية الثابتة .) تُستخدم كميات أخرى من المعلومات أيضًا لمقارنة أو ربط مصادر مختلفة من المعلومات.
من المهم عدم الخلط بين المفاهيم المذكورة أعلاه. غالبًا ما يكون واضحًا من السياق فقط ما هو المقصود. على سبيل المثال ، عندما يقول شخص ما أن «إنتروبيا» اللغة الإنجليزية حوالي 1 بت لكل حرف، فإنهم في الواقع يقومون بنمذجة اللغة الإنجليزية كعملية عشوائية ويتحدثون عن معدل الإنتروبيا الخاص بها. استخدم شانون نفسه المصطلح بهذه الطريقة.
إذا تم استخدام كتل كبيرة جدًا ، فقد يصبح تقدير معدل الإنتروبيا لكل حرف منخفضًا اصطناعياً لأن التوزيع الاحتمالي للتسلسل غير معروف تمامًا ؛ إنه مجرد تقدير. إذا نظر المرء إلى نص كل كتاب تم نشره على أنه تسلسل، مع كل رمز الذي هو نص كتاب كامل ، وإذا كان هناك N كتب منشورة ، وتم نشر كل كتاب مرة واحدة فقط، فإن تقدير احتمال كل كتاب هو 1/N ، والانتروبيا (−log2(1/N) = log2(N)) هي −log2(1/N) = log2(N) . كرمز عملي ، يتوافق هذا مع تعيين معرّف فريد لكل كتاب واستخدامه بدلاً من نص الكتاب كلما أراد الشخص الرجوع إلى الكتاب. هذا مفيد للغاية للتحدث عن الكتب، ولكنه ليس مفيدًا جدًا لتوصيف محتوى المعلومات لكتاب فردي، أو للغة بشكل عام: لا يمكن إعادة إنشاء الكتاب من معرّفه دون معرفة توزيع الاحتمالات ، أي ، النص الكامل لجميع الكتب. الفكرة الرئيسية هي أنه يجب مراعاة تعقيد النموذج الاحتمالي. تعقيد كولموغروف Kolmogorov هو تعميم نظري لهذه الفكرة يسمح بالنظر في محتوى المعلومات في تسلسل مستقل عن أي نموذج احتمالي معين ؛ يعتبر البرنامج الأقصر لجهاز آلة تورنغ يخرج التسلسل. إن الكود الذي يحقق معدل الانتروبيا لتسلسل لنموذج معين ، بالإضافة إلى دفتر الكود (أي النموذج الاحتمالي)، هو أحد هذه البرامج ، ولكنه قد لا يكون الأقصر.
تسلسل فيبوناتشي هو 1، 1، 2، 3، 5، 8، 13... يعامل التسلسل كرسالة وكل رقم كرمز ، هناك عدد من الرموز تقريبًا مثل عدد الأحرف في الرسالة ، مما يعطي إنتروبيا ما يقرب من log2(n) . يحتوي أول 128 رمزًا لتسلسل فيبوناتشي على إنتروبيا تقريبًا 7 بتات / رمز ، ولكن يمكن التعبير عن التسلسل باستخدام صيغة [ F(n) = F(n−1) + F(n−2) لـ n = 3, 4, 5, … ، F(1) =1 ، F(2) = 1 ] وهذه الصيغة لها إنتروبيا أقل بكثير وتنطبق على أي طول لتسلسل فيبوناتشي.
اعتبارات > نهايات الانتروبيا في التعمية

في تحليل التعمية، غالبًا ما يتم استخدام الإنتروبيا تقريبًا كمقياس لعدم القدرة على التنبؤ بمفتاح التعمية، على الرغم من أن عدم اليقين الحقيقي لا يمكن قياسه. على سبيل المثال ، يحتوي مفتاح 128 بت الذي يتم إنشاؤه بشكل موحد وعشوائي على 128 بت من انتروبي. يستغرق أيضًا (في المتوسط)  2^{128-1} التخمين لكسر بالقوة الغاشمة (brute force). فشل الانتروبي في التقاط عدد التخمينات المطلوبة إذا لم يتم اختيار المفاتيح المحتملة بشكل موحد. بدلاً من ذلك ، يمكن استخدام مقياس يسمى التخمين لقياس الجهد المطلوب لهجوم القوة الغاشمة.
قد تنشأ مشاكل أخرى من التوزيعات غير المنتظمة المستخدمة في التعمية. على سبيل المثال ، لوحة ثنائية رقمية مكونة من 1,000,000 تستخدم لوحة المرة الواحدة فقط. إذا كانت اللوحة تحتوي على 1,000,000 بت من انتروبي ، فهي مثالية. إذا كانت اللوحة تحتوي على 999,999 بت من الإنتروبيا ، موزعة بالتساوي (كل بتة فردية من اللوحة بها 0.999999 بت من الإنتروبيا) فقد يوفر أمانًا جيدًا. ولكن إذا كانت اللوحة تحتوي على 999,999 بت من الإنتروبيا ، حيث يتم إصلاح البت الأول و 999999 بت المتبقية بشكل عشوائي تمامًا ، فلن يتم تعمية البت الأول من نص التعمية على الإطلاق.