Tidlig på 1880-tallet begynte Herbert en karriere som fiolinist i Wien og Stuttgart da han begynte å komponere orkestermusikk. Herbert og hans hustru Therese Förster, som var sangerinne, flyttet til USA i 1886 da begge ble ansatt ved Metropolitan Opera. I Statene fortsatte Herbert sin karriere mens han også underviste ved National Conservatory of Music, dirigerte og komponerte. Hans mest notable instrumentalkomposisjon var (1894), som ble standardrepertoar, og hans (1901). Han ledet Pittsburgh Symphony fra 1898 til 1904 og etablerte deretter Victor Herbert Orchestra som han dirigerte resten av sitt liv.