Larsen grunnla Grytviken på Sør-Georgia 16. november 1904 som en hvalfangststasjon for hans selskap Compañía Argentina de Pesca. Selskapet hadde en stor økonomisk suksess i starten, men ble nedlagt i 1966 på grunn av overbeskatning av hvalbestanden.