1923年陪同德国科学家普朗克来中国讲学。讲学时用到entropy一词，胡刚复在翻译时灵机一动，把“商”字加火旁来意译此词，创造了“熵”字，发音同“商”。2000年，中国物理学会为纪念胡刚复等五位物理学界前辈，设立了胡刚复、饶毓泰、叶企孙、吴有训、王淦昌物理学奖，其中胡刚复物理奖授予实验技术方面有突出成就的物理学家。