Etter ungdomsskolen i Biržai studerte Virbalas ved ingeniørskole i Vilnius, og gjorde så sin militærtjeneste fra 1981 til 1983 i den sovjetiske hær. I 1983 prøvde han å inntre i det interdiøcesane seminar i Kaunas, men på grunn av hindringer oppstilt av de sovetiske myndigheter, kunne ikke rektor der ta ham inn. Etter mer enn to år arbeidet han som sakristan i Linkmenys (ved Ignalina) og studerte filosofi og teologi i et undergrunnsseminar.