Hans første utgivelse kom i 1981, på samleplaten Big Voice of New Noise, og ble gitt navnet Ole i'Dole. I 1982 kom debutsingelen «Det vakke min skyld», som kun solgte 156 eksemplarer de første seks månedene. Gjennombruddet kom via radiolisten «Ti i Skuddet» i 1983. Påfølgende debutalbum ble en formidabel suksess. Låten «Hvis Jeg Var Gud» ble for øvrig nektet på Norsktoppen på grunn av teksten. I 1985 kom låten «Ayatollah», som var et spark til radiopastor Hans Bratterud, ut. Denne ble forbudt i NRK. Albumet (1985) ble en kommersiell flopp, men etablerte Ole som norskspråklig låtskriver med låter som blant annet Ayatollah og Ann Helen. I 1986 dro han til London for å lage et album med sine barndomshelter i Sweet, som ble hetende «Det var seff veldig stort og moro, men karrieremessig som artist, den største tabben jeg har gjort» han har uttalt i senere tid. I 1987 inngikk han et samarbeide med Brian Lane (Yes, Asia, Buggles, m.m) som manager. De møttes i London via Geoff Downes (Yes, Asia, The Buggles), og i løpet av kort tid hadde de sikret en kontrakt med Clive Davis' Arista Records i USA. Albumet kom kun ut i Norge, men inneholdt hit'en «This Town Ain't Big Enough For The Both Of Us» og er det mest solgte albumet til Evenrud.