Ottos første hustru var Elisabeth av Bayern; de fikk to barn som regjerte sammen: Fredrik II, hertug av Østerrike og Leopold II, hertug av Østerrike. Den 25. mars 1330 døde Elisabeth. I februar 1335 giftet Otto seg med Anna av Böhmen, datter av Johan av Böhmen og søster til den tysk-romerske keiser Karl IV i byen Znojmo. De fikk ingen barn, og hun døde den 3. september 1338.