Ray Nance er antakeligvis aller mest kjent for sitt lange og tette samarbeid med den kjente Duke Ellington, et samarbeid som foregikk gjennom store deler av 1940-og 1950-tallet, etter at han ble leid inn for å erstatte Cootie Williams i 1940. Kort tid etter at han begynte i bandet til Duke Ellington, ble Nance kreditert med en trompet solo på den første registrerte versjonen av «Take A Train», som ble en av Ellingtons største hiter fra denne tiden. ble en stor hit, og definerte i stor grad jazz-kulturen på 1940-tallet. Nances trompet-solo i denne sangen er blitt en av de mest kopierte og beundrede trompet soloene i jazz-historien.