El 20 de julio de 2004 fue elegido presidente del Parlamento Europeo, obteniendo 388 votos gracias a un acuerdo entre el Partido Popular Europeo, de centro-derecha, y el Partido Socialista Europeo para compartir el control del Parlamento en su mandato de cinco años; sucedió así a Pat Cox, y ejerció el cargo hasta 2007.