不少《通鑑》的错误，例如《晋纪四》“散骑常侍石崇”条下，胡注曰：“前书‘侍中石崇’，此作‘散骑常侍’，必有一错。”书成后，返回中胡。晚年自号“知安老人”。1302年正月，晨起，仍谈笑自若，忽说：“吾其止此乎！”昏睡三日，去世，享年七十三。《宋史》、《元史》皆未立其传。民初柯劭忞修《新元史》，补上一篇53字的短文，附在《儒林传》马端临传后。直到抗日战争期间，陈垣撰写《通鑑胡注表微》，从光绪年间修的《宁海县志》中发现胡幼文撰其，开始对胡三省的生平及其考证功夫进行大量的阐述。
姓名由来