Ved partisprengningen i 1923 var Sundby blant dem som fulgte det nye NKP. Han ble formann for kommunistpartiet i Trondheim, og fra 1923 til 1925 satt han i NKPs landsstyre. I 1925 hadde han også vervet som formann for samorganisasjonen i byen.