资讯量为：而汉字常用的有2500个，假如每个汉字在文章中出现次数平均的话，每个汉字的信息量为：实际上每个字母和每个汉字在文章中出现的次数并不平均，比方说较少见字母（如z）和罕用汉字就具有相对高的信息量。但上述计算提供了以下概念：使用书写单元越多的文字，每个单元所包含的讯息量越大。熵是整个系统的平均消息量，即：因为和热力学中描述热力学熵的玻尔兹曼公式本质相同（仅仅单位不同，一纳特的信息量即相当于k焦耳每开尔文的热力学熵），所以也称为“熵”。如果两个系统具有同样大的消息量，如一篇用不同文字写