I 1951, da han var 18 år, vant Jones et stipend til Boston Conservatory, Schillinger House i Boston, men han oppga studiene da han mottok et tilbud om å turnere som trompetist med den legendariske orkesterlederen Lionel Hampton. Mens Jones var på turne med Hampton og hans orkester oppdaget Jones at han hadde et uvanlig og unikt talent til å arrangere sanger. Jones flyttet til New York City hvor han fikk flere oppdrag som frilanser med å arrangere sanger for sangere som Sarah Vaughan, Count Basie, Duke Ellington, Gene Krupa og hans gamle venn Ray Charles.