Fra 1924 til 1928 fikk Carter profesjonell erfaring som hjelper i noen av New Yorks mest fremstående bands. Han bodde i arlem, nær Bubber Miley, som var Duke Ellingtons hovedtrompetist. Benny Carter lot seg inspirere av Miley og kjøpte seg trompet, men da han fant ut at han ikke klarte å spille som Miley, byttet han den om til en saksofon.