Hans første jazzorkester (storband) ble kalt «First Herd» (1936–1946) og gjorde stor suksess, slik at den russiske komponisten Igor Stravinskij (1882–1971) komponerte til Herman, som fremførte verket ved sin debut i Carnegie Hall den 25. mars, 1946.