Gjellerup ble i 1994 leder for sosialdemokratenes folketingsgruppe. Da Poul Nyrup Rasmussen 23. mars 1998 dannet en ny regjering, ble Gjellerup handelsminister. Hun hadde denne regjeringsposten til 21. desember 2000, da hun ble finansminister. Gjellerup var Danmarks første kvinnelige finansminister.