Tre store fjellkjeder Alpene — De nordlige kalksteinsalpene, De sentrale alpene, og De sørlige kalksteinsalpene — går fra vest mot øst gjennom Østerrike. De sentrale Alpene består hovedsakelig av granitt, og er de høyeste og største i Østerrike. De går fra Tyrol til omtrent grensen mellom Steiermark og Nedre Østerrike, og inneholder områder med permanente isbreer i Ötztaleralpene på grensen mellom Tyrol og Italia, og i Tauern i Øst-Tyrol og Kärnten. De nordlige kalksteinsalpene, går fra Vorarlberg, gjennom Tyrol og inn i Salzburg langs den tyske grensen, og gjennom Øvre og Nedre Østerrike mot Wien. De sørlige kalkesteinsalpene, på grensen mellom Kärnten og Slovenia, består hovedsakelig av kalkstein og dolomitt. Großglockner er det høyeste fjellet i Østerrike med 3 797 meter. Grovt kan man si at jo lenger øst i de nordlige og sentrale Alpene man kommer, jo lavere blir de. Høyden på fjellene blir også mindre når man går nordover eller sørover fra de sentrale områdene. Alpene dominerer landskapet i Østerrike, og bare 28 % av landet består av åser eller flate områder: Det nordlige alpine forlandet, som inneholder Donaudalen, lavlandet og det åslendte området nordøst og øst i Østerrike, og Det sørøstlige alpine forlandet. Områdene av Østerrike som er mest egnet for bosetning — det vil si med gode jordbruks- og klimaforhold— går nord for Alpene gjennom Donaudalen i delstatene Øvre og Nedre Østerrike, og så øst og sør for Alpene gjennom Nedre Østerrike, Wien, Burgenland og Steiermark. Det flateste området i Østerrike, Leithagebrige, ligger i sørøst og danner den sørlige delen av Wien-bekkenet, der steppene på Den ungarske slette begynner.