Baumgartner alinhou pelas várias seleções juvenis austríacas, desde as seleções sub-15 até as sub-19 . Em abril de 2016, foi incluído na convocatória da Áustria para o Campeonato da Europa de Sub-17 de 2016, no Azerbaijão. Ele marcou os dois gols na vitória da Áustria por 2 a 0 em sua partida de estreia contra a Bósnia e Herzegovina, com o time conseguindo chegar às quartas de final antes de perder para Portugal .