成为广州白云山队主教练，1989年转而执教大连队，将大连队培养成为国内一流强队。1992年，戚务生接任中国国奥队主教练，1994年，戚务生出任中国国家队主教练。1997年，由于在世界杯外围赛亚洲区决赛阶段上失利，戚务生辞职。1998年，戚务生救火武汉雅琪队，率队保级成功，次年他又率领云南红塔队升上甲A。2003年，他又转至天津泰达队执教，2006年执教广州广药队，次年离职。2015年7月，戚务生担任乙级联赛球队梅州五华主教练。