ગાણિતિક વિકાસની શરૂઆત માહિતી સિદ્ધાંત વૈજ્ઞાનિકો વેઇનર અને કે શેનોન, જે છેક વીસમી સદીના 40s તરીકે વ્યાખ્યાયિત કર્યો છે કાર્ય હતું જાણકારી ખ્યાલ , જ્ઞાન નિશ્ચિતતા ઘટાડવા ઘટના ચોક્કસતા પર આધાર રાખીને એક માપ છે.