Nel 2011 inizia a giocare nelle nazionali giovanili del suo Paese, con l'Under-17, con cui gioca per 10 volte tra 2011 e 2012. Tra 2013 e 2014 milita invece nell'Under-19, ottenendo 7 presenze, di cui 2 agli Europei di categoria 2013, in cui i lituani partecipavano in quanto squadra ospitante. Il 5 marzo 2014 debutta in Under-21, perdendo per 5-0 in amichevole in trasferta contro la Polonia. Il debutto ufficiale avverrà invece il 13 novembre 2015, nel 3-1 casalingo sull'Irlanda, valido per le qualificazioni all'Europeo 2017. Slivka aveva già giocato la sua prima in Nazionale maggiore, il 5 giugno 2015, perdendo 4-0 in trasferta in amichevole contro l'Ungheria. Il 4 settembre 2016, invece, mette a segno la prima rete con la Nazionale, segnando il momentaneo 2-0 nel pareggio per 2-2 in casa contro la Slovenia, in una sfida delle qualificazioni al Mondiale 2018.