霍伦斯坦是作为现代音乐的倡导者和马勒指挥家而被人们所熟知的，尽管他的曲目相当广泛。1929年，他指挥了阿尔班·贝尔格的《》的三个乐章的首演，并为弦乐队进行了编曲。1950年，他指挥了贝尔格的《伍采克》在巴黎的首次演出。霍伦斯坦在职业生涯中一直在指挥布鲁克纳和马勒的作品，他还对卡尔·尼尔森表现出持续的兴趣，在这些作曲家并不流行的时候，他就认识他们。例如，他1952年录制的马勒第九交响曲（Vox）是该作品的第一张录音室唱片，也是第二张商业唱片。几年后，他录制了布鲁克纳第九交响曲的原版。他在职业生涯的不同阶段