Ulzheimer saavutti Helsingin 1952 olympialaisissa pronssia 800 metrin juoksussa ajalla 1.49,7 ja 4 × 400 metrin viestijuoksussa ajalla 3.06,6. Bernin EM-kilpailuissa 1954 hän saavutti viestijuoksussa hopeaa Saksan joukkueen tullessa maaliin ajalla 3.08,8. Ulzheimer kuoli 91-vuotiaana 18. joulukuuta 2016.