Han var medlem av Europaparlamentet fra 1989 til 2004, og fra 1997 til 1999 også Europaparlamentets president. Gil-Robles tilhørte Det europeiske folkepartiets gruppe i Europaparlamentet. Han var president i Europabevegelsen fra 1999 til 2005.