Deretter var det «Second Herd» (1947–1950), som grunnet Jimmy Guiffres komposisjon «Four Brothers», også ble kjent som «Four Brothers Band» etter de fire saksofonister Zoot Sims (1925–1985), Serge Chaloff (1923–1957), Herbie Steward (1926–2003) og Stan Getz (1927–1991) som ikke var brødre. Herman var også i mindre besetninger, som «The Woodchoppers».