Han var statssekretær i flere Ap-regjeringer på 1970-tallet. Stoltenberg var forsvarsminister fra 1979 til 1981 og utenriksminister fra 1987 til 1989 og fra 1990 til 1993. Som utenriksminister tok Stoltenberg i 1992 initiativ til Barentssamarbeidet.