I 1987 ble han medlem av den hessiske landdagen, og 1993 formann for CDUs landdagsfraksjon. Han hørte i begynnelsen av sin politiske karrière til de «ville unge» i partiet, som var kritiske til Helmut Kohls patriarkalske lederstil. Han regnes som en glimrende retoriker, men beskyldes av kritikere for å være populistisk.