Erling Petersen kom inn på varaplass på Stortinget for Oslo i 1950. Han kom inn på fast plass i 1954, og satt i Finans- og tollkomiteen i første stortingsperiode. Petersen ble gjenvalgt fire ganger, og satt i Utenriks- og konstitusjonskomiteen de neste 16 årene, i tillegg til kortere medlemskap i Finans- og tollkomiteen og i Valgkomiteen.