In 1386 sneuvelde vader Leopold III in de Slag bij Sempach, waarna Leopold IV en zijn jongere broer Willem I hem in gezamenlijke regering met hun oom Albrecht III opvolgden als hertog van Oostenrijk. Toen Albrecht III in 1395 stierf en werd opgevolgd door zijn enige zoon Albrecht IV, brak er echter een hevige erfstrijd uit. In 1396 sloten Willem, Leopold IV en Albrecht IV een akkoord, dat gebaseerd was op het Verdrag van Neuberg in 1379. Hierbij behield Albrecht IV als hoofd van de Albertijnse linie de regering over het hertogdom Oostenrijk, terwijl Leopold IV en Willem als leden van de Leopoldijnse linie gingen regeren in de Binnen-Oostenrijkse hertogdommen Stiermarken, Karinthië en Krain, het graafschap Tirol en Voor-Oostenrijk.