Nach dem Ende seiner aktiven sportlichen Laufbahn wurde Nitzsche Nachwuchstrainer beim SC Dynamo Berlin, nachdem er ursprünglich eine Ausbildung als Kriminaltechniker absolviert hatte. Er gilt als Entdecker des späteren Olympiasiegers Guido Fulst, der 1989 mit 19 Jahren in Lyon erstmals Weltmeister wurde. Rolf Nitzsche war im Jahr 1962 für mehrere Monate als Trainer in Indonesien tätig. Seine Aufgabe war es, dort dauerhafte Strukturen für Training und Wettkampf aufzubauen, sowie die indonesischen Radsportler auf die Asienspiele vorzubereiten. Er startete mit seiner Trainingsgruppe auch zu mehreren Rennen in der DDR, danach schlossen sich weitere kurze Trainertätigkeiten im Ausland an.