Nance spilte som oftest fiolin og var den eneste fiolin-solisten som noen gang er blitt omtalt i Duke Ellingtons orkester. Han er også en av de mest velkjente vokalistene fra Ellington-orkesteret. Nance forlot bandet til Ellington i 1963 etter å ha spilt sammen med sin forgjenger Cootie Williams i nesten ett år. Innen den tid, hadde Nance byttet ut trompeten med en kornett. Nance gjorde noen innspillinger som orkester-leder, som han også spilte inn eller fremførte sammen med Earl Hines og Rosemary Clooney, samt flere andre kjente jazz-musikere.