Med sin sentrale plassering i dansk musikk på 1800-tallet kom Hartmann til å påvirke mange yngre komponister. Han ble mot slutten av sitt liv betraktet som den musikalske inkarnasjon av den danske folkesjel og blant de mest markante av de komponister som er påvirket av ham, kan nevnes Peter Erasmus Lange-Müller, Edvard Grieg og Carl Nielsen.