Harbigs Läuferkarriere begann 1934. Unter Anleitung des Trainers Woldemar Gerschler avancierte er binnen weniger Jahre zum Ausnahmeathleten. Im Jahr 1936 wurde er erstmals Deutscher Meister und errang bei den Olympischen Spielen in Berlin als Läufer in der 4-mal-400-Meter-Staffel eine Bronzemedaille. Im Jahr 1938 wurde er zweifacher Europameister. Auf dem Höhepunkt seiner sportlichen Karriere lief er 1939 binnen weniger Monate vier Weltrekorde. Eine Teilnahme an den Olympischen Spielen 1940 war ihm nicht vergönnt, weil die Spiele infolge des Zweiten Weltkriegs abgesagt wurden. Seinen letzten Weltrekord lief Harbig 1941 über die 1000-Meter-Distanz. In den anschließenden Jahren verhinderte die Einberufung zur Wehrmacht weitere größere Erfolge. Er ging an 175 Wettkampftagen insgesamt 233-mal an den Start (inklusive Staffel-, aber ohne Waldläufe und ohne Hallenveranstaltungen), wobei er 201-mal siegte.