Gustavsen war zunächst als Skater aktiv. Mit 19 Jahren wechselte er zum Radsport. Bei den Olympischen Sommerspielen 1968 in Mexiko-Stadt wurde er 47. im Straßenrennen. Er wurde 1976 norwegischer Meister im Mannschaftszeitfahren (u. a. mit Stein Braathen). 1974 konnte er beim Sieg von Thorleif Andresen Dritter der Berliner Etappenfahrt werden"." 1975 siegte er im Ringerike Grand Prix.3