Fra 1939 jobbet han tett med Duke Ellington som prompte ba ham flytte til New York City, i det ham ba ham «Take the A train» for å komme til Ellingtons residens på Manhattan. Strayhorn skrev samme året sin svært kjente «Take the "A" Train», en melodi om det å kjøre med Linje A (New Yorks undergrunnsbane).