માહિતી સિદ્ધાંત ક્લાઉડ શેનોન, એક સૈદ્ધાંતિક ઇજનેર દ્વારા સ્થાપના કરવામાં આવી હતી.