Sergej Sazonov keerde in de voorzomer van 1909 naar Rusland terug en op 26 juni van dat jaar werd hij benoemd tot onderminister van Buitenlandse Zaken in het kabinet van premier Pjotr Stolypin, zijn zwager. Het feit dat zijn zwager premier was, droeg bij aan zijn benoeming tot minister van Buitenlandse Zaken van Rusland (september 1910). Kort na zijn aanstelling als minister regelde hij een ontmoeting tussen tsaar Nicolaas II van Rusland en keizer Wilhelm II van Duitsland in Potsdam (4 t/m 6 november 1906). Een Russisch-Duits bondgenootschap leek in de maak. De Duitse keizer hoopte zijn invloed in de Vruchtbare Sikkel te vergroten zonder dat Rusland zou tegenstribbelen (Bagdad-spoorweg); in ruil zou Rusland zijn invloed op Perzië kunnen uitbreiden. Op 19 augustus 1911 werd het Potsdam Verdrag getekend. De totstandkoming van dit verdrag was grotendeels het werk van Sazonov en bedoeld om de (lauwe) betrekkingen tussen Rusland en Duitsland te verbeteren, maar ook om het Verenigd Koninkrijk (bondgenoot van Rusland, "zie:" Entente) een hak te zetten uit wraak voor het uitblijven van hulp aan Rusland tijdens de Bosnische crisis (1908). Uiteindelijk kwam het Russisch-Duits bondgenootschap niet van de grond omdat de verhoudingen tussen de beide rijken in 1913 danig verslechterden vanwege de toenemende Duitse invloed op het Ottomaanse Rijk - aartsvijand van Rusland.