Kierulf var sønn av oberstløytnant Christian Kierulf og Anne Marie Sofie Winge. Han tok militær utdannelse og avla i 1847 eksamen ved Krigsskolen og den Militære Høiskole. Deretter foretok han i 1849 en vitenskapelig utenlandsreise, gjentatt i 1859.