Gjermundshaug uczestniczył w zawodach w latach 40. i na początku lat 50. XX wieku. Największy sukces osiągnął podczas Mistrzostw Świata w Lake Placid w 1950 roku, gdzie zdobył srebrny medal w kombinacji. Wyprzedził go tam tylko Fin Heikki Hasu, a trzecie miejsce przypadło rodakowi Gjermundshauga, Simonowi Slåttvikowi, którego Ottar wyprzedził o zaledwie 0.2 punktu. Na tych samych mistrzostwach wystartował w biegu na 50 km techniką klasyczną, ale rywalizacji nie ukończył.