Շենոնի էնտրոպիայի չափը պատահական փոփոխականի իրագործման նկատմամբ անվստահություն է արտահայտում։ Այդ կերպ՝ էնտրոպիան տարբերությունն է հաղորդագրությունում պարունակվող ինֆորմացիայի և ինֆորմացիայի այն մասի, որը հաստատ հայտնի է հաղորդագրության մեջ։ Շենոնը ենթադրեց, որ ինֆորմացիայի աճը հավասար է կորցված անորոշությանը, և, նրա չափման համար նոր պահանջներ սահմանելով, ստացավ հետևյալ բանաձևը