Mais c'est pendant la grande guerre du Nord qu'il obtient ses plus grands succès et devient, en dépit de son caractère colérique, le principal conseiller et le bras droit du roi Charles XII de Suède, gagnant le surnom de « Parménion de l'Alexandre du Nord ». Il prend notamment une large part aux victoires de Narva et de Kliszów, et, en 1706, commande l'armée suédoise lors de la bataille de Fraustadt, l'une des plus grandes victoires suédoises de la guerre. Pour ce fait d'armes, Charles XII l'élève au grade de Feld-maréchal et à la dignité de comte. Mais, en 1709, son commandement partagé de l'armée suédoise avec Adam Ludwig Lewenhaupt, avec lequel il ne s'entend pas du tout, conduit à la lourde défaite subie à Poltava, bataille qui marque le tournant de la guerre. Il est fait prisonnier par les Russes et demeure en captivité jusqu'en juillet 1718, date à laquelle il est libéré. Il se retire de la vie publique peu après son retour en Suède.