James sang med forskjellige band tidlig i tenårene, og da han var 17, var han en etablert vokalist ved Cricklewood Palais. Han ble etter hver med i bandet til Henry Hall, og gjorde sinn første radioopptreden i 1940. To år senere ble han med i den britiske hæren. Etter andre verdenskrig fortsatte han å synge i flere band, deriblant The Stargazers. Han hadde også flere kjenningsmelodier på samvittigheten, inkludert The Adventures of Robin Hood og The Buccaneers, begge fra 1950-tallet.