Roe slapp sin første single allerede i 1960, med «Caveman»/«I Got a Girl» med backingbandet The Satins. Det var imidlertid i 1962, med «Shelia» at hans første store hit kom. Sangen ble backet opp av The Jordanaires og var inspirert av Buddy Holly. Roe skrev sangen da han var 14 år gammel, og spilte den først inn med The Satins, men den tok aldri av. Det var først da DJ Paul Drew og via ham Felton Jarvis oppdaget ham at Roe fikk fart på karrieren. Roe hadde stor suksess i både USA og Storbritannia, med respektive 1.- og 2.-plass og over en million solgte singler.