Han flyttet til New York (1925) der han to år senere ledet (og spilte i) husbandet på Savoy Ballroom i Harlem, der det forøvrig var en hyppig vinner av «cutting contests», der orkestre kappet om å spille mest spektakulært. Her nevnes orkestre ledet av Fletcher Henderson, Count Basie og etterhvert, en tilreisende Benny Goodman (1937) med sin stjernetrommer Gene Krupa da «The Battle of Bands» ble avholdt på Savoy med 4,000 bivånere. Webb var benevnt som «The King of Savoy», og han skrev da også jazz-klassikeren med Lester Young.