Ο Ιωσήφ συνέχισε τον Πόλεμο της Ισπανικής Διαδοχής, τον οποίο ξεκίνησε ο πατέρας του, εις βάρος του Λουδοβίκου ΙΔ΄ της Γαλλίας, σε μια άκαρπη προσπάθεια να γίνει Βασιλιάς της Ισπανίας ο νεώτερος αδελφός του Κάρολος ΣΤ΄ (αργότερα Κάρολος ΣΤ΄ της Αγίας Ρωμαϊκής Αυτοκρατορίας). Τη διαδικασία, ωστόσο, κέρδισε ο πρίγκιπας Ευγένιος της Σαβοΐας, λόγω των νικών που πέτυχε ως στρατιωτικός διοικητής, ενώ ο ίδιος κατάφερε να ιδρύσει Αυστριακή ηγεμονία επί των εδαφών της Ιταλίας. Ο Ιωσήφ, επίσης, είχε να αντιμετωπίσει μια παρατεταμένη εξέγερση στην Ουγγαρία, υποκινούμενη από τον Λουδοβίκο ΙΔ΄, η οποία επιλύθηκε μόνο μετά τον πρόωρο θάνατό του.