哈尔滨铁路局顾乡屯站担任站务员，后曾在哈尔滨列车段担任运转车长，1949年随铁道兵南下干部大队由黑龙江南下，此后在柳州铁路局工作三十余年，先后在柳州铁路局和上海铁路局担任局长。于1992年到1998年，任中华人民共和国铁道部部长，任职期间中国铁路实施第一次大提速，1998年后任最高人民检察院检察长、中华人民共和国首席大检察官，兼任中国共产党中央纪律检查委员会副书记、中央社会治安综合治理委员会副主任。2003年交卸检察长及其他职务后，接替任建新，担任中国法学会会长，2013年卸任。