במדי נבחרת אוסטריה ערך פרובסט 19 הופעות וכבש 17 שערים בין השנים 1951–1960. הוא ערך את הופעת הבכורה שלו במשחק ידידות במאי 1951 נגד סקוטלנד. במונדיאל 1954 שנערך בשווייץ היה פרובסט בין החלוצים המובילים של הטורניר כשכבש 6 שערים וסיים עם אוסטריה במקום השלישי. הוא גם כבש שער אחד במשחק בין אוסטריה לשווייץ המארחת, במשחק שזכור עם כמות השערים הרבה ביותר בהיסטוריית המונדיאל, 12 שערים. הוא סיים במקום השני מבחינת כיבושים יחד עם מקס מורלוק הגרמני ויוזף הגי השווייצרי. את משחקו האחרון בנבחרת שיחק ביורו 1960, היורו הראשון בהיסטוריה, נגד צרפת. פרובסט נפטר ב-16 במרץ 1988 היכן שנולד בגיל 60.