Fra 1896 var Berg innvalgt i Trondhjem bystyre og formannskap. Han var ordfører fra 1899 til 1901 og fra 1908 til 1910. Berg var stortingsmann for kjøpstedene Trondhjem og Levanger fra 1904 til 1906 og satt i Lagtinget, Stortingets konstitusjonskomité og Stortingets spesialkomité for konsulatsaken.