Castberg var stortingsrepresentant fra 1901 til 1909, fra 1913 til 1921 og fra 1924 til 1926 for Arbeiderdemokratene (som startet som en radikal fløy i Venstre). Castberg var statsråd i Gunnar Knudsens første regjering som leder av justisdepartementet fra 1908 til 1910, og i Gunnar Knudsens andre regjering som leder av Handelsdepartementet 1913 og Sosialdepartementet (som Castberg fikk opprettet) fra 1913 til 1914. Ved unionsoppløsningen fra Sverige i 1905 agiterte han for opprettelse av den norske stat som republikk.