1798 wurde er Generalmajor und erhielt 1805 als Generalleutnant den Oberbefehl über das russische Korps, welches zusammen mit schwedischen und englischen Hilfstruppen einen Ablenkungsangriff in Norddeutschland durchführte. Nach seiner Rückkehr wurde er Gouverneur von Sankt Petersburg. 1806 führte er die 2. Division in Bennigsens Heer und focht 1807 bei Preußisch-Eylau gegen die Franzosen. 1812 erhielt er das Kommando des IV. Armeekorps und nahm mit diesem am gesamten Feldzug von 1812 mit Auszeichnung teil. Er nahm wesentlichen Anteil an den Schlachten von Borodino und Tarutino. 1813 wurde Ostermann-Tolstoi in der Schlacht bei Bautzen (21./22. Mai) verwundet, kämpfte dann am 26./27. August bei Dresden. In der Schlacht bei Kulm am 29. und 30. August befehligte er das russische Gardekorps. In dieser Schlacht, in der er an der Spitze des Gardekorps dem Feind (unter General Vandamme) standhielt, wurde er erneut verwundet und verlor dabei seinen linken Arm.