以无党派身份参加政府工作。1951年12月底，何遂旧病复发，住进上海华东医院治疗。1953年1月，何遂任华东行政委员会委员，兼任政法委员会副主任及司法部部长。1954年8月华东行政委员会结束，所任各职也自然免去。9月，何遂以福建省代表身份当选为第一届全国人民代表大会代表，赴北京参加第一届全国人大第一次会议，在会上当选为第一届全国人大常委会法案委员会委员。1955年春，何遂举家迁居北京市西四帅府胡同。1959年4月，何遂当选为第二届全国人民代表大会代表，续任全国人大法案委员会委员。1961年10月，何遂作为辛