61年6月，加入中国共产党。同年本科毕业后，继续攻读法制史专业研究生。1964年9月毕业后，被分配到全国人大常委会工作。1965年1月，祝铭山调最高人民法院，先后工作近四十年。他由书记员做起，历任助理审判员、刑事审判庭秘书，副院长曾汉周的秘书；“文化大革命”期间，曾被下放湖北沙洋农场劳动；恢复工作后，出任最高人民法院助理审判员、刑事审判庭副庭长，并参与了林彪、江青反革命集团案的审判工作。1983年9月升任最高人民法院副院长； 1993年，出任常务副院长、最高人民法院党组副书记；2002年8月，到龄退休。