Han ble valgt inn i Europaparlamentet i 2004, som kandidat for det finske Samlingspartiet, og sluttet seg til Det europeiske folkepartiets gruppe. Han satt i komiteene for budsjettkontroll og konstitusjonelle spørsmål. Han var viseformann i komiteen for EUs indre marked og forbrukerbeskyttelse 2007–2008. I 2006 skrev han en rapport til parlamentet om EUs utgifter til oversettelses- og tolketjenester, noe han anslo til 511 millioner euro i 2005. Han foreslo noen endringer, men støttet EUs standpunkt om flerspråklighet.