Помимо административной деятельности, Эпплбаум продолжал писать музыку. Помимо сотен фильмов, он является автором музыки трех балетов, оперы «Эревуон» (), многочисленных театральных и радиопостановок. Он постоянно писал музыку для одного из своих детищ, Стратфордского фестиваля, и часто дирижировал её исполнением. В общей сложности его музыка звучала в 75 пьесах, представленных в рамках Стратфордских фестивалей, последняя из которых была поставлена в 1999 году, меньше чем за год до его смерти. Концертные произведения Эпплбаума звучали на церемониях инаугурации двух генерал-губернаторов Канады и на открытии Всемирной выставки 1967 года в Монреале. Он также преподавал в Йоркском университете в 70-е и 80-е годы.