Durch seinen plötzlichen Tod ohne männlichen Erben wurde sein jüngerer Bruder Karl, der in Spanien als "Karl III." den Thron beanspruchte, nun auch designierter Kandidat für die Nachfolge im Reich, was sowohl die spanischen als auch die österreichischen Besitzungen der Habsburger in seiner Hand vereinigt hätte. Kurzzeitig sah es zwar so aus, als würde Josephs Tochter Maria Josepha den Thron erben, da dies dank eines Geheimvertrages zwischen den Brüdern aus dem Jahre 1703 möglich gewesen wäre, aber Karl verzichtete nicht auf seinen Anspruch, und wurde als "Karl VI." zum Kaiser gewählt.