Larsen begynte å trene med vekter i 1972. Han og en kamerat ble enige om å melde seg inn i Moss Vektløfterklubb, som på daværende tidspunkt nettopp var startet. I starten trente han bare sammen med andre nybegynnere, før han etter hvert utmerket seg. Bare fire år senere representerte han Norge under OL i 1976.