I 1992 ble han utnevnt som politisk rådgiver i Fiskeridepartementet, en stilling han hadde frem til 1994, da han ble statssekretær i samme departement. I 1996 gikk han ut av regjeringsapparatet. I 2000 ble Gregussen utnevnt som fiskeriminister i Jens Stoltenbergs første regjering. Han ble sittende til regjeringen gikk av etter stortingsvalget 2001.