Arne Larsen reprezentował klub Heggedal IL. W 1960 roku wystąpił na igrzyskach olimpijskich w Squaw Valley, gdzie uzyskał piąty wynik na skoczni oraz dziesiąty czas na trasie biegu, co dało mu ostatecznie szóste miejsce. Wyprzedził wtedy broniącego tytułu mistrza olimpijskiego Sverre Stenersena, także reprezentanta Norwegii, który rywalizację zakończył na siódmym miejscu. Dwa lata później, podczas mistrzostw świata w Zakopanem osiągnął największy sukces w swojej karierze zdobywając złoty medal. Larsen był siódmy w biegu oraz drugi na skoczni, co wystarczyło by zwyciężyć. Na podium wyprzedził Dmitrija Koczkina z ZSRR i swego rodaka Ole Henrika Fageråsa.