Henrik var den anden søn af i alt elleve børn af Frederik Barbarossa og Beatrice af Bourgogne. Han giftede sig i 1186 med Constance, der som datter af normannerkongen Roger 2. af Sicilien var Vilhelm 2.s tante og arving. I sin fars sidste leveår begyndte Henrik at opføre sig gradvist mere uafhængigt, men blev efter sin fars død viklet ind i flere store konflikter. En af de største interne stridigheder i kejserriget var mod Huset Welf og i særdeleshed den tidligere hertug af Sachsen og Bayern, Henrik Løve, som i årene forinden havde fået frataget sit len af kejser Frederik. Den største eksterne stridighed startede med Vilhelm 2. af Siciliens død i 1189, da Henriks dronning Constances krav på tronen ignoreret af de sicilianske adelige, som i stedet ophævede Tancred af Lecce til konge. Dette fik Henrik til at erklære det sicilianske kongerige krig - en krig, som han dog i første omgang tabte efter et militært nederlag ved Napoli i 1191.