Yleisurheilussa Kaufmannin päälaji oli 400 metrin juoksu. Tukholman EM-kilpailuissa 1958 hän juoksi neljänneksi 400 metrillä ja oli mukana 4×400 metrin viestissä hopealle juosseessa Saksan joukkueessa. Rooman olympialaisissa 1960 hän juoksi hopealle sekä 400 metrillä että 4×400 metrin viestissä. 400 metrin kilpailussa hän hävisi niukasti Otis Davisille. Molemmat juoksivat ajan 44,9, joka alitti entisen maailmanennätyksen 45,2. Kaufmann juoksi 400 metrin Euroopan ennätyksen 45,8 vuonna 1959 ja paransi ennätystään kolmesti vuonna 1960.