Fra 1995 til 1998 jobbet han som advokat og leder av skatteinnkrevingsdivisjonen ved den statlige skatteetaten i Litauen. I 1998 ble han direktør for skatteavdelingen ved det litauiske finansdepartementet, før han i 2001 ble visefinansminister, en stilling han hadde fram til 2004.