Axel Kjerulf var sønn av embetsmannen Peder Kjerulf og Elisabeth Lassen. Han vokste opp i «Bakkehuset» ved Ullevålsveien. To av søsknene ble kunstnere (Halfdan Kjerulf og Hjalmar Kjerulf), én ble professor i geologi (Theodor Kjerulf), og søsteren (Ida Kjerulf) var Johan Sebastian Welhavens forlovede. Selv tok han i 1841 og ble i 1845. Året etter ble han ansatt som kopist i Finansdepartementet. Fra 1847 til 1852 var han fullmektig hos høyesterettsadvokat Bernhard Dunker.