Demirel ble født i İslamköy, en landsby i Isparta. Etter at han fullførte sin grunnskoleutdannelse i hjembyen, gikk han på videregående skole i Isparta og Afyon. Etter at han ble uteksaminert fra Istanbul Tekniske Universitet i 1949, begynte han å arbeide i statens avdeling for kraftplanlegging. Under byggingen av Seyhandemningen var Demirel som prosjektleder, og ble i 1954 utnevnt til leder for Institutt for vannkraftverk i Tyrkia.