Baumgartner pelasi monissa Itävallan nuorisomaajoukkueissa. Hän pelasi Itävallan A-maajoukkueessa ensimmäisen ottelunsa syyskuussa 2020 Kansojen liigan ottelussa Norjaa vastaan. Kesäkuun 25. päivään 2021 mennessä hän on pelannut 13 A-maaottelua ja tehnyt niissä neljä maalia: syyskuussa 2020 Kansojen liigan ottelussa Romaniaa vastaan, lokakuussa 2020 ystävyysottelussa Kreikkaa vastaan, maaliskuussa 2021 MM-karsintaottelussa Färsaaria vastaan ja kesäkuussa 2021 EM-kilpailujen alkulohkon ottelussa Ukrainaa vastaan.