De Palma ble født i Biccari, Puglia, Italia DePalma-familien emigrerte til USA i 1893 da han var en ung mann. Han prøvde seg i sykkelløp med blandet suksess, men i en alder av tjue-to begynte han å konkurrere på motorsykler før han byttet til bilkonkurranser i 1909, og årets American Automobile Association mesterskap.