Det kom til åpen konflikt mellom Olav og Knut, og Olav mistet også støtte innenlands. Etter at Erling Skjalgsson ble drept i 1028, måtte Olav flykte fra Norge. Han dro til Gardarike via Sverige. Knut fikk herredømme i Norge, og satte først ladejarlen Håkon Eiriksson til å styre for seg, etter dennes død i 1029 sin sønn Svein Alfivason. Olav vendte tilbake i 1030 og prøvde å vinne landet tilbake, men ble drept i slaget på Stiklestad.