У Рудольфа не было сыновей или братьев, поэтому наследником Франца Иосифа стал младший брат императора эрцгерцог Карл Людвиг, а после его смерти в 1896 году — сын Карла и кузен Рудольфа Франц Фердинанд. Ему также не суждено было пережить дядю; после убийства Франца Фердинанда в Сараеве (1914) наследником умершего в 1916 году Франца Иосифа стал племянник Франца Фердинанда, император Карл I — сын Отто Франца, младшего брата Франца Фердинанда.