侄子士瓦本的约翰杀害后失去罗马人民的国王的王位，一直耿耿于怀，一生致力光复哈布斯堡家族光辉的岁月。
在位期间.1358年，阿尔布雷希特二世死后，由鲁道夫四世继承奥地利公国，二弟腓特烈三世为第二公爵，两名幼弟阿尔布雷希特三世及利奥波德三世共为第三公爵。在位期间，鲁道夫四世致力现代化其辖地及城市，大大増加奥地利在德意志诸国中的地位。1356年，岳丈神圣罗马帝国皇帝查理四世于纽伦堡发佈金玺诏书，确立了日后神圣罗马帝国的皇帝以选举产生，帝国境内有七位选帝侯享有此重要权力，分别是美因兹大主教