Keiser Josef ble født i Wien, og den strenge oppdragelsen han fikk av prins Dietrich Otto von Salm, gjorde ham til en dyktig lingvist. I 1687 ble han kronet til konge av Ungarn, og 6. januar 1699 mottok han Romerrikets krone. Keiseren giftet seg med Wilhelmine Amalie av Braunschweig-Lüneburg og fikk senere døtrene Maria Josepha og Maria Amalie med henne.