Claude Shannon
التطوير الذي عمل عليه كلود شانون أعطى لنظرية المعلومات أثناء الحرب العالمية الثانية الخطوة الكبيرة التالية في فهم كم المعلومات التي يمكن إيصالها بشكل موثوق عن طريق القنوات الصاخبة. بناءً على منطق هارتلي، تكشف نظرية شانون طريقة لتشفير القنوات الصاخبة (1948) أقصى كفاءة ممكنة لطرق تصحيح الأخطاء مقابل مستويات تداخل الضوضاء وضياع البيانات. يُظهر إثبات النظرية أن رمز تصحيح الخطأ الذي تم إنشاؤه عشوائيًا هو أساسا يعتبر أفضل كود ممكن ؛ هذه النظرية تم إقرارها عن طريق إعطاء إحصائيات مثل هذه الرموز العشوائية.