Henriks mindreårige sønn Fredrik II skulle arve både kongeriket Sicilia og keiserkronen. Imidlertid valgte en rekke fyrster rundt erkebiskop Adolf av Köln Otto av Brunswick fra huset Welf, sønn av Henrik Løve, som antikonge. For å forsvare kravene til Hohenstaufen-dynastiet, hadde Fredriks onkel Filip av Schwaben selv blitt valgt som konge av romerne i mars 1198. Den tyske tronestriden varte i nesten tjue år, inntil Fredrik igjen ble valgt til konge i 1212 og Otto, beseiret av franskmennene i slaget ved Bouvines i 1214 forlatt av sine tidligere allierte, og døde til slutt i 1218.