Hendrik werd in 1017 geboren als zoon van Koenraad de Oudere, de latere keizer Koenraad II en Gisela van Zwaben. Zijn jongere zusters Beatrix (ca. 1020-1036) en Mathilde (1025-1034) stierven jong. Hendriks vader stamde uit een vooraanstaand Rijnfrankisch adelsgeslacht, dat al generaties lang bezit en grafelijke rechten had in de regio rondom Worms en Speyer; ook was Koenraad de achterkleinzoon van de in 955 tijdens de Slag op het Lechveld gevallen Koenraad de Rode en via diens vrouw Liutgard verwant aan de Ottonen. Hendriks moeder Gisela was al twee keer eerder getrouwd geweest en beide keren weduwe geworden. Haar vader Herman II van Zwaben had in 1002 tevergeefs aanspraak gemaakt op de Duitse koningstroon. Gisela's moeder Gerberga was een dochter van de Bourgondische koning Koenraad III en een kleindochter van de West-Frankische laat-Karolingische heerser Lodewijk IV. Zijn stamboom was dus prima op orde. Toch viel Hendriks geboorte op een moment dat de Salische familie zich in een moeilijke situatie bevond. Slechts twee maanden voor zijn geboorte was zijn vader Koenraad in een bloedige vete betrokken geraakt, waarbij hij alleen op familie en vrienden kon vertrouwen. De relatie tussen Koenraad en keizer Hendrik II was gespannen. Door Koenraads huwelijk met Gisela van Zwaben, volgens de toenmalige maatstaven een huwelijk tussen twee bloedverwanten, werd hem de keizerlijke "gunst" ontnomen. De situatie was in eerste instantie zodanig dat het nog maar de vraag was of Koenraad wel hertog kon worden.