З прычыны таго, што ў Рудольфа не было сыноў ці братоў, спадчыннікам Франца Іосіфа стаў малодшы брат імператара эрцгерцаг Карл Людвіг, а пасля яго смерці ў 1896 годзе — сын Карла і кузен Рудольфа Франц Фердынанд. Яму таксама не наканавана было перажыць дзядзьку; пасля забойства Франца Фердынанда ў Сараеве (1914) спадчыннікам памерлага ў 1916 Франца Іосіфа стаў пляменнік Франца Фердынанда, імператар Карл I — сын Ота Франца, малодшага брата Франца Фердынанда.