Vegen til tronen var ikke lett. Olav styrte over det sørlige Jylland og ble anklaget av sin bror, kong Knut for å reise opprør mot ham. I 1086 ble Olav forvist til Flandern, sendt ut av Danmark i lenker, og ble sittende som fange hos grev Robert I av Flandern, svoger av kong Knut. Olav klarte senere å få plassert sin bror Nils av Danmark i rollen som gissel hos Robert, og kom seg selv tilbake til hjemlandet. I Danmark hadde kong Erik forsøkt å samle leidgangsflåten til et angrep på England, et forsøk som feilet, og det brøt ut opprør. Året etter, den 10. juli 1086 ble han myrdet i Sankt Albani kirke hvor han hadde søkt asyl. Olav ble da erklært som konge ved landstinget i Viborg.