Han var sønn av en bibliotekar, og Sixtus Petraeus, en sjøkaptein. Hans mor var amerikansk og hans far hadde innvandret til USA fra Nederland i den innledende fasen av den andre verdenskrig i Europa i 1939. Etter å ha giftet seg slo de seg ned i Cornwall-on-Hudson, der David Petraeus vokste opp og senere ble uteksaminert fra Cornwall Central High School i 1970. Venner og bekjente av ham på denne tiden kalte ham «Peaches» i referanse til hans ofte feil uttalte etternavn og kallenavnet hang med ham også som ung kadett i militæret.