Ang pundamental na kontribusyon ng teoriya ng impormasyon sa pagpoproseso ng natural na wika at linguistikang komputasyonal ay karagdagang napatunayan noong 1951 sa kanyang artikulong " Prediction and Entropy of Printed English " na nagpapakita ng mataas at mababang mga pagtatakda sa estadistika ng Ingles na nagbibigay ng isang statistikal na saligan sa analisis ng wika.
