对奥地利有深厚的感情。他对祖父阿尔布雷希特一世被侄子士瓦本的约翰杀害后失去罗马人民的国王的王位，一直耿耿于怀，一生致力光复哈布斯堡家族光辉的岁月。
在位期间.1358年，阿尔布雷希特二世死后，由鲁道夫四世继承奥地利公国，二弟腓特烈三世为第二公爵，两名幼弟阿尔布雷希特三世及利奥波德三世共为第三公爵。在位期间，鲁道夫四世致力现代化其辖地及城市，大大増加奥地利在德意志诸国中的地位。1356年，岳丈神圣罗马帝国皇帝查理四世于纽伦堡发佈金玺诏书，确立了日后神圣罗马帝国的皇帝以选举产生，帝国境