با مرگ رودلف، ولیعهدی به برادر امپراتور، آرشیدوک کارل لودویگ و پس از درگذشت او در ۱۸۹۶ به فرزندش آرشیدوک فرانتس فردیناند رسید. روابط فرانتس یوزف با فشار برادرزاده‌اش برای نفوذ بیشتر در امور، مدام به تنش کشیده می‌شد. به‌خصوص او ازدواج فرانتس فردیناند با سوفی خوتک، که از خانوادای اشرافی ولی نه عضو هیچ‌یک از خاندان سلسلهٔ پادشاهی در اروپا بود را هرگز نبخشید، در جشن ازدواج، نه خود و نه هیچ‌یک از آرشیدوک‌ها شرکت نکردند و دو فرزند پسر فرانتس فردیناند را نیز از ارثِ تاج و تخت محروم کرد. پس از ترور ولیعهد در سارایوو، اظهارات امپراتور گواهی می‌دهد که مرگ فرانتس فردیناند را «رهایی از نگرانیی بزرگ» قلمداد کرده‌است.