于1101年那次十字军东征时逝世。两人有一个儿子－利奥波德三世以及六个女儿（她们分别嫁给克恩顿、波希米亚和德意志的公爵及伯爵）。其中一名女儿奥地利艾达（或巴本堡的艾达）与摩拉维亚公爵兹诺伊莫的卢伊特波尔德结婚。在叙任权斗争中，利奥波德二世先是支持神圣罗马皇帝亨利四世，但是利奥波德二世因受到他的妻子艾达和主教帕绍的阿尔特曼的影响下，在1081年于多瑙河畔图尔恩会议中倒戈。随后他被皇帝废黜，将封地给了在迈尔贝格战役中击败了利奥波德二世的波希米亚公爵弗拉季斯拉夫二世。最终，利奥波德二世仍可保留他的爵位，但他失