I 1988 ble han ansatt som forskningssjef ved Norsk utenrikspolitisk institutt (NUPI). Da Johan Jørgen Holst gikk inn i Gro Harlem Brundtlands 3. regjering i november 1990 ble Knudsen utnevnt til direktør i Holsts fravær. Etter instituttets omorganisering fra 1996 gikk Knudsen tilbake til forskningen som seniorforsker.