De Palma ble født i New Ark, New Jersey, i 1940 som den yngste av tre brødre i en italiensk katolsk familie. Da De Palma var fem år gammel flyttet familien til Philadelphia der han gikk på protestantiske og kvekerske skoler. De Palma viste liten interesse for film i ung alder, og var i stedet opptatt av fysikk og elektronikk. Han vant blant annet en regional vitenskapskonkurranse for å ha bygget en analog regnemaskin som kunne løse differensialligninger.