El 4 de marzo de 2004, Köhler dimitió de su puesto en el FMI después de haber sido propuesto como candidato de los partidos conservador y liberal, la CDU y el FDP, para suceder a Johannes Rau como presidente de Alemania.