1703 nahm er die Städte Wolmar, Marienburg und Nöteborg (Schlüsselburg), 1704 die Stadt Tartu ein. Bei der Einnahme von Marienburg (Livland) nahm er Martha Skawronskaja, die Magd des evangelischen Pfarrers Ernst Glück, gefangen. Diese wurde später als Katharina I. Zarin von Russland. Scheremetew führte in der entscheidenden Schlacht bei Poltawa, am , das Zentrum der russischen Armee. 1710 eroberte er Riga. 1711 war er Oberbefehlshaber der russischen Armee im Russisch-Osmanischen Krieg.