Information theory
جاء الإلهام لاعتماد كلمة "انتروبي" في نظرية المعلومات من التشابه الوثيق بين صيغة شانون والصيغ المعروفة جدًا من الميكانيكا الإحصائية.