Rudolf Harbig alitti 800 metrillä kahden minuutin rajan 1934 ja voitti ensimmäisen Saksan mestaruutensa 1936. Berliinin olympialaisissa hän ei päässyt päämatkallaan finaaliin, mutta 4 × 400 metrin viestissä hän juoksi ankkuriosuuden ja sai pronssia. Pariisin EM-kisoissa 1938 Harbig juoksi 800 metrillä Saksan ennätyksen 1.50,6 ja voitti kultaa. Toisen kultamitalin hän sai 4 × 400 metrin viestistä.