Op de Spelen in Berlijn veroverde Harbig samen met zijn landgenoten Helmut Hamann, Friedrich von Stülnagel en Harry Voigt brons op de 4 x 400 m estafette. Het leek het begin van een imposante carrière, die zijn top had moeten vinden op de Olympische Spelen van 1940 of 1944. Velen zijn ervan overtuigd, dat hij op een van deze Spelen zeker een gouden medaille zou hebben veroverd. In de periode 1938-1940 won hij 55 achtereenvolgende wedstrijden op verschillende afstanden, met daarbij gouden medailles op de Europese kampioenschappen van Parijs in 1938 op de 800 m en de 4 x 400 m estafette.