Di peringkat antarabangsa, Karagounis mewakili pasukan kebangsaan Greece di antara tahun 1999 dan 2014. Beliau sebahagian daripada skuad yang menjuarai UEFA Euro 2004. Selain itu, beliau juga mewakili Greece di Euro 2008, Piala Dunia 2010, Euro 2012 dan juga Piala Dunia 2014. Dengan 139 penampilan, beliau merupakan pemain memiliki kaps terbanyak dalam sejarah pasukan kebangsaan Greece.