I 1306 døde det siste medlemmet av det přemyslidiske dynasti, kong Vaclav III og Albrecht I benyttet den tysk-romerske overhøyheten over Böhmen til å utpeke Rudolf som hans etterfølger. Hans rett til den böhmiske kronen ble bestridt av hans onkel Henrik av Kärnten, som var gift med Vaclavs søster Anne. For å styrke sitt krav på kronen ektet Rudolf kong Vaclavs enke Elisabeth Richeza av Polen. I 1306 okkuperte han Praha og installerte seg på tronen.