Ngày 1/4/1980, ông được Trung ương có quyết định thôi giữ chức Bộ trưởng phủ Thủ tướng để làm Bí thư Ban cán sự Đảng Toà án nhân dân Tối cao Việt Nam và trực tiếp đảm nhận chức Chánh án cho đến khi nghỉ hưu.