Haarklou er mest kjent for oratoriet til tekst av Henrik Wergeland; verket ble uroppført i 1891 og tilegnet koret Cæciliaforeningen. Han skrev også fem operaer, fire symfonier, et symfonisk dikt (), to orgelsymfonier, sonater, sanger, korverk og pianostykker. Et av hans fineste korverk er (), etter en latinsk messetekst oversatt til tysk av Franz Xaver Riedel. Han tonesatte Knut Hamsuns dikt «Med røde roser». En del av hans komposisjoner har ikke blitt publisert, og svært lite er spilt inn. Fra 1882 til 1921 var han også musikkritiker ved forskjellige aviser, blant annet i Dagbladet.