I tre regjeringer fra 1889 til 1898 hadde Gram rollen som Norges statsminister i Stockholm: i Emil Stangs første regjering (1889–1891), Emil Stangs andre regjering (1893–1895) og Francis Hagerups første regjering (1895-1898). Han hadde i utgangspunktet ikke noen politisk bakgrunn, men hans internasjonale oppdrag og erfaring med forhandlinger var svært nyttige for landet og regjeringen.