Da Franz Ferdinands slektning, tidligere hertug av Modena døde i 1875 testamenterte han tittelen «erkehertug av Østerrike-Este» til Franz Ferdinand til tross for at denne ikke nedstammet fra Huset Este, men Franz Ferdinand tok den tittelen med sine mange andre. Hans far, Karl Ludvig, gikk av som tronfølger i 1889, etter at kronprins Rudolf av Østerrike døde ved antatt selvmord på slottet Mayerling (). Keiserens eldre bror, Maximilian, hadde gitt avkall på sin rett til tronen da han ble keiser av Mexico, en posisjon han hadde i tre år før han ble henrettet av meksikanske revolusjonære i 1867. Franz Ferdinand ble den fremste tronfølgeren til Østerrike-Ungarn ved farens bortgang på grunn av tyfus i 1896 etter at han som en troshandling hadde drukket av det sterkt forurensede vannet i elva Jordan. Franz Ferdinand var både den utpekte og den naturlige tronarving, men keiseren holdt seg taus om saken såpass lenge det var opplagt at han egentlig foretrakk Franz Ferdinands yngre bror erkehertug Otto.