Врхунац његове репрезентативне каријере је освајање Европског првенства 2004. Био је један од кључних играча, постигао је први гол на турниру против Португала у победи од 2:1. Касније је Карангунис учествовао и на Купу конфедерација 2005., и Европском првенству 2008.. Као капитен предводио је репрезентацију на Светском првенству 2010., где је Грчка испала у групној фази такмичења.