Han var eldste sønn av kong Konrad II av Tyskland og Gisela av Schwaben, og faren gjorde ham til hertug av Bayern som Henrik VI i 1026, etter Henrik Vs død. Da faren ble kronet til tysk-romersk keiser på første påskedag 1028, ble Henrik valgt og kronet til konge av Tyskland i Aachen-katedralen av Pilgrim, erkebiskop av Köln. Etter at Herman IV, hertug av Schwaben døde i 1038, ga faren også dette hertugdømmet til ham i tillegg til kongeriket Burgund, som Konrad arvet i 1033.