Da han kom tilbake til Norge i 1931 ble han instruktør for sentralledelsen i NKP. Våren 1933 hadde det bygd seg opp en del kritikk av NKU-leder Leonard Schrøder Evensen, og Larsen ble innsatt som ny politisk leder for organisasjonen. Dette vervet hadde han til mai 1934 da organisasjonen for første gang siden 1929 gjennomførte et ordinært landsmøte og Arne Gauslå ble valgt.