Guanyà les eleccions federals alemanyes de 1998 davant el seu contrincant del CDU Helmut Kohl per majoria simple i fou nomenat canceller gràcies al pacte de govern amb Els Verds. El 2002 va ser capaç de revalidar el seu mandat després de l'empat tècnic del SPD i la CDU a les eleccions federals alemanyes de 2002. Tot i perdre 47 escons en aquelles eleccions, l'augment d'Els Verds li va permetre mantenir la coalició de govern que el va portar a un segon mandat com a canceller d'alemanya. En aquest segon mandat es va oposar a la Invasió de l'Iraq de 2003 i hagué de fer front a la greu crisi econòmica que va provocar la desfeta del partit socialdemòcrata alemany a diverses eleccions locals i regionals. El 2005 Schröder va convocar anticipadament les eleccions federals alemanyes de 2005 que va perdre enfront Angela Merkel.