Håkon fikk i 1012 tittelen ladejarl sammen sin farbror Svein Håkonsson da faren Eirik dro til Danmark for å delta i Svein Tjugeskjeggs og sønnen Knut den mektiges angrep på England. 17 år gammel, i 1015, ble han innsatt som riksstyrer (jarl over Norge) sammen Svein jarl da faren tok over som jarl av Northumbria. Ladejarlene hadde da sørget for å få den mektige trønderhøvdingen Einar Tambarskjelve til rådgiver og alliert ved å la ham gifte seg med Eirik og Sveins søster Bergljot Håkonsdatter. Sagaen skildrer et møte mellom Håkon og Olav Haraldsson i Saudungssund i Fjaler i 1015. Store norske leksikon ved historikeren Claus Krag hevder at dette møtet skjedde i fredelige former og at det representerte en besegling av en avtale og forståelse mellom de to. Snorre Sturlason hevder imidlertid i Olav den helliges saga at Olav fikk senket Håkons skip og klarte å tvinge Håkon til å forlate landet. Etter dette, fra 1019, blir Håkon omtalt i engelske kilder som jarl i Mercia (Worcestershire) i England. Han deltok sannsynligvis i Knut den mektiges kamper og maktspill i 1020-årene som førte til at han kunne ta makten i Norge i 1028.