Stoltenberg var aldri innvalgt på Stortinget. Han var forsvarsminister i Oddvar Nordlis regjering og Gro Harlem Brundtlands første regjering fra 1979 til 1981. Deretter var han utenriksminister i Brundtlands andre og tredje regjering fra 1987 til 1993, med unntak fra 1989 til 1990 da Arbeiderpartiet var utenfor regjeringslokalene. Stoltenberg gikk ut av regjering i 1993 for at hans sønn, Jens Stoltenberg, skulle kunne tiltre som statsråd, ettersom grunnloven § 12 fastsetter at far og sønn ikke kan sitte i regjering sammen.