Był dzieckiem w chwili śmierci ojca, toteż władzę w Austrii objął dopiero w 1411 Ojciec Albrechta II, w przeciwieństwie do swoich kuzynów ze styryjskiej linii Habsburgów (np.: Ernesta Żelaznego) był sojusznikiem cesarza rzymskiego oraz króla Czech i Węgier Zygmunta Luksemburskiego. Sam Albrecht II walczył po stronie Zygmunta przeciw husytom, w 1431 brał udział w bitwie pod Domažlicami. Wysiłki te opłaciły się i w 1421 Albrecht poślubił Elżbietę, jedyną córkę cesarza, stając się tym samym dziedzicem swojego teścia. Zygmunt zresztą gorąco popierał Albrechta jako swojego następcę, któremu powierzył w 1423 Morawy. 18 grudnia 1437 został wybrany przez szlachtę węgierską, a 1 stycznia 1438 koronowany na króla Węgier, 18 marca został przez elektorów jednogłośnie wybrany królem Niemiec. Węgrom obiecał, że zerwie z reformatorską polityką Zygmunta, a decyzje w sprawie obsady urzędów i rozporządzania majątkiem królewskim będzie konsultował z Radą Królewską.