Han var sønn av leietjener, senere høker, particulier Christopher Jensen (1804–1871) og Ane Kirstine Aagesdatter (1801–1857). Faren var brennevinsbrenner i København. Harald Jensen ble malerlærling da han var fjorten år gamme, og da han det ble oppdaget at han hadde kunstneriske evner, fikk han etter endt læretid plass på Kunstakademiet hvor han vant den lille sølvmedaljen i 1859. Bildene hans ble flere ganger valgt ut til å delta på Charlottenborg Forårutstilling. Faren var dog ikke begeistret for sønnens kunstneriske ambisjoner, og han satte som betingelse for at støtte sønnen økonomisk, at sønnen skulle vinne den Neuhausenske Premie, som i 1861 var utlovet til "et folkelivbillede med dansk motiv". Harald Jensen sendte inn til konkurransen et stort maleri fra Dyrehaven inspirert av Emil Aarestrups dikt om skogen, men vant ikke premien. miniatyr|Bjørnstjerne Bjørnson (th.) og Harald Jensen fotografert av Holger Damgaard i 1905.