Rehn arbeidet i en kort periode under Romano Prodi i Europakommisjonen, han ble utnevnt til kommisjonær for IT og tok over 12. juli 2004 etter Erkki Liikanen som sluttet for å bli finsk sentralbanksjef og leder for Finlands Bank. Den finske regjeringen nominerte så Rehn for kommisjonen under José Manuel Barroso (2004–2010).