Han var innvalgt på Stortinget fra kjøpstedene Ålesund og Molde i periodene 1907–1909 og 1913–1915. Han satt begge periodene i Stortingets justiskomité, den siste som formann. Han var også odelstingspresident. Petersen satt i Gunnar Knudsens regjering 1914–1919, de to første årene som sosialminister, deretter som handelsminister.