Žvirgždauskas w swojej karierze rozegrał 30 spotkań w reprezentacji Litwy U-21. W dorosłej reprezentacji Litwy zadebiutował 26 czerwca 1998 roku w przegranym 1:2 towarzyskim meczu z Azerbejdżanem. Z Litwą ma za sobą występy w eliminacjach do Euro 2000, MŚ 2002, Euro 2004, MŚ 2006, Euro 2008 oraz MŚ 2010.