的亚里士多德），以表示理想的身份或事物的本质。在英文单词中则源于拉丁文宾格形式（）的主格（）：这个名词是由动词反过来又衍生出“”（告知）在“”，“”，“”，“”：“这么聪明的男人应该去通知他们的国王。”
狭义定义.美国数学家，信息论的奠基人克劳德·艾尔伍德·香农（）在他的着名论文《通信的数学理论》（1948）中提出计算信息量的公式，（一个信息由formula_1个符号所构成，符号formula_2出现的机率为formula_3），则有：这个公式和热力学的熵的本质一样，故也称为熵。