Considerato uno dei più promettenti statisti russi, successe al conte Fëdor Alekseevič Golovin alla guida del ministero degli affari esteri, e appoggiò una politica anti-svedese atta ad indebolire la Svezia ma anche a reprimere ogni resistenza polacca, e dopo la vittoriosa battaglia di Poltava nel 1709, il conte Golovkin fu nominato gran cancelliere di Russia.