Carpenter ble født i Carthage, Jefferson County i delstaten New York, men vokste opp i Bowling Green, Kentucky da familien flyttet dit i 1953. Han ble tidlig filminteressert og likte særlig skrekk- og science fiction-filmer slik som og . I tenårene begynte han ved USC School of Cinematic Arts i California, men fullførte ikke. Han rakk imidlertid å lage kortfilmen , som var hans studentprosjekt (sammen med flere andre). Filmen vant Oscar for beste kortfilm i 1970.