Etter at Arbeiderpartiet ved valget i 1903 fikk sine første valgte representanter forlot han Venstre og sluttet seg i 1905 til Arbeiderpartiets gruppe, der han skulle bli værende til han takket nei til gjenvalg i 1912, da han året før hadde fått stillingen som postmester i Stavanger. Egede-Nissen markerte seg blant annet med radikale forslag om nøytralitet og fullstendig avvæpning av forsvaret, under debatten om Hærordningen av 1910 i stortinget i august 1909.