Som 13-åring flyttet Rohde til Norge med sine foreldre. Fra 16-årsalderen opptrådte han med ulike band slik som (Platedebut med «Lotta Lovin'» for Odeon i 1959). Han turnerte i Europa med jentegruppen The Melody Sisters i begynnelsen av 1960-tallet. Senere ble gruppen dannet. Den ble senere omdøpt til . Gruppen bestod først og fremst av norske og svenske musikere, men gjorde det stort også i Finland. Hele bandet, med Rohde som , medvirket i filmen i 1964. Samme år spilte Jerry Williams inn noen låter av Jan Rohde på platen , og på hans fra 1965 er Rohde med som musiker på noen av låtene.