57年4月，发生刘自然事件，俞鸿钧内阁请辞以示负责，获慰留。1958年，因拒绝监察院约询案遭到弹劾。辞职后复任中央银行总裁。俞鸿钧曾告诉蒋经国：「外行的生意决不可以做，就是内行的生意，倘使没有实权，亦不可以做。」1949年5月，蒋经国从蒋介石游普陀山，见某寺有堂名曰「云水」，遂以自况父子相依、海上漂泊，「人生就似云水」，想起前几年从事组训工作，念及俞鸿钧之言。
逝世.1960年6月1日，因气喘病逝台北。对于俞鸿钧之贡献，中华民国政府曾颁发褒扬令明令褒扬。