Dyremose var innvalgt i Folketinget i periodene 1979–1984 og 1990–1994, og fungerte som de konservatives politiske ordfører 1982–1983. Han satt i Poul Schlüters regjeringer som arbeidsminister 1986–1989 og finansminister 1989–1993. I 1993 gikk Schlüter av som statsminister og partileder som følge av tamilsaken. Dyremose overtok som partileder, men ble ikke statsminister, så lenge Radikale Venstre ikke ville støtte en borgerlig regjering. Deretter fulgte ni måneders maktkamp mellom Dyremose og folketingsgruppens formann Hans Engell. Engell endte med å bli partileder, mens Dyremose gikk tilbake til næringslivet.