На репрезентативном плану, Рехагел је водио Грчку од 2001. до 2010, и у том периоду, који је био најуспешнији у историји грчког фудбала освојио је Европско првенство 2004. и квалификовао се на СП 2010, њихову другу завршницу Светских првенстава. Рехагел је постао први страни тренер неке репрезентације који је освојио Европско првенство.