Han ble født i Wien som yngste av fem barn til en sporveisbetjent og en garterske i arbeiderbydelen Erdberg. Sammen med skolegameraten Joe Zawinul gikk han på GRG 3 Hagenmüllergasse i dritten Bezirk i Wien, tok matura i Bundesrealgymnasium i elften Wiener Gemeindebezirk og studerte deretter ved Hochschule für Welthandel. I studietiden ble han medlem av den katolske studentgruppen K.A.V. Bajuvaria Wien og trådte inn i Österreichische Volkspartei (ÖVP).