祠历任八路军西安办事处副官、招待所主任，延安中央教导大队第三中队队长、组织干事，延安中央警备团政治处保卫干事、参谋、组织股副股长，供给处副主任、营政治教导员。第二次国共内战时期，张耀祠任中央警备团政治处主任、副政委、政委，中央纵队第二师副政委。中华人民共和国成立后，张耀祠任中央公安警卫师副政委。1953年5月，张耀祠调往中南海，任中共中央办公厅中南海警卫局（公安部九局）副局长兼中央警卫团（8341部队）团长。1953年6月9日，在中南海的中央警卫团团部会议室召开了排以上干部会议，团长张耀祠在会上正式宣布