Østrig spillede sin første landskamp i 1902, hvor man mødte Ungarn i en intern landskamp i det østrig-ungarske kejserrige. Ved OL i 1912 deltog holdet i sin første slutrunde, og nåede her kvartfinalen. Der skulle gå 22 år inden man igen var med ved en turnering, men ved VM i 1934 i Italien spillede holdet sig til en 4. plads.