Heiberg var medlem av Arbeiderpartiet siden 1898, og satt i den utøvende komité i Kristiania bystyre fra 1911 til 1919. Han var særlig opptatt av å forbedre boligforholdene i byen. Han stilte til valg i Stortinget i 1912, men ble ikke valgt. Da den radikale fløyen tok kontroll over partiet ved landsmøtet i 1918, ble han skuffet over de påfølgende uenighetene i partiet, og trakk seg fra politikken for å fokusere på sin profesjonelle karriere.