Information theory
قام شانون بتطوير إنتروبيا المعلومات كمقياس للحيرة في الرسالة بينما في الأساس كان يخترع حقل نظرية المعلومات. بعد ذلك تحولت تلك المقالة إلى كتاب بمساعدة الكاتب وارن ويفر، فحاولا صياغة الكتاب بطريقة يستطيع جميع القراء الاستفادة منه حتى من غير المختصين. إضافة إلى ذلك ساهمت نظرية المعلومات بشكل أساسي على تأسيس علم اللغة الحسابي ومعالجة اللغة الطبيعية.