John von Neumann

Ketika Shannon menemukan fungsi ini,Ia dihadapkan pada keperluan penamaannya,sebagaimana itu akan sering muncul dalam teori komunikasi yang juga Ia kembangkan.Ia mempertimbangkan untuk menamainya "Informasi" namun merasa bahwa kata itu benar-benar memiliki interpretasi tidak menguntungkan dan yang akan banyak memasuki bidang-bidang penemuan baru.Dia lebih cenderung menamakannya "ketakpastian" dan agaknya kemudian berdiskusi dengan Von Neumann.Von Neumann menyarankan fungsi tersebut seharusnyalah diberi nama "entropi" sebagaimana itu banyak digunakan pada beberapa penyataan termodinamika statistis...Von Neumann,kata Shannon,"melihat adanya dua hal penting untuk menamai fungsi itu "entropi"."Ia sudah banyak digunakan dengan penamaan seperti itu"".Ia juga dilaporkan pernah berkata,""dan disamping itu,ia akan memberimu bingkai besar dalam debat karena tak ada yang akan tahu,bagaimanapun,apa itu entropi.""Shannon pun menamai fungsinya "entropi",dan menggunakannya untuk mengukur "ketakpastian".saling berganti antara dua kata ini tanpa mendiskriminasi satu dengan yang lain.