I Hohenstaufen-konflikten med pave Urban III flyttet Henrik i mars til markgrevskapet Toscana, og med hjelp av sin stedfortreder Markward av Annweiler herjet og ødela det tilstøtende territoriet til de pavelige statene. Tilbake i Tyskland ble han suveren hersker over imperiet, ettersom faren hadde dødd mens han var på det tredje korstoget i 1190. Henrik forsøkte å sikre sitt styre i Nederlandene ved å opphøye grev Balduin V av Hainaut til markgreve av grevskapet Namur, og samtidig prøvde han å komme til enighet med den rivaliserende hertug Henrik I av Brabant. Ytterligere vanskeligheter oppsto da den landflyktige Welf-hertugen Henrik Løve kom tilbake fra England og begynte å underlegge store eiendommer i sitt tidligere stamhertugdømmet Sachsen. En Hohenstaufen-kampanje til Sachsen måtte oppgis da kong Henrik mottok budskapet om at kong Vilhelm II av Sicilia døde den 18. november 1189. Den sicilianske visekansleren Matthew av Ajello krevde arven etter grev Tancred av Lecce og fikk støtte fra den romerske kurie (den katolske kirkes sentrale forvaltning).