クロード・シャノン
1948年ベル研究所在勤中に論文「通信の数学的理論」を発表し、それまで曖昧な概念だった「情報」(information)について定量的に扱えるように定義し、情報についての理論(情報理論)という新たな数学的理論を創始した。
翌年ウォーレン・ウィーバーの解説を付けて出版された同名(ただし“A”が“The”に変わっている)の書籍『通信の数学的理論』で、シャノンは通信におけるさまざまな基本問題を取り扱うために、エントロピーの概念を導入した。情報の量(情報量)を事象の起こる確率(生起確率)によって定義し、エントロピー(平均情報量)を次のとおりに定義した。時間的に連続して起こる離散的な確率事象 X {\displaystyle X} の生起確率 Pr [ X = i ] {\displaystyle \Pr[X=i]} によって定まる情報量 ( − log  Pr [ X = i ] {\displaystyle -\log \Pr[X=i]} ) の期待値が、エントロピー H ( X ) {\displaystyle H(X)} である(エントロピー#情報理論におけるエントロピーとの関係も参照)。