J.P.E. Hartmann var sønn av musikeren August Wilhelm Hartmann og var utdannet som jurist, men også en dyktig orgelspiller og allerede som 19-åring i 1824 ble han utnevnt til organist ved Garnisons kirke og etterfulgte dermed sin far. I 1827 ble han lærer ved det nylig opprettede musikkonservatorium. Han hadde i tillegg jobb som sekretær i Den Borgerlige Indrulleringskommission.