Som geolog var han empiriker, og stilte seg kritisk til kjente teorier som manglet empirisk fundament, slik som arvelighetslæren og Darwin, som Kjerulf kommenterte og kritiserte via korrespondanse med denne. Kjerulf viste i 1854 at Oslofeltets granitter dannet ved krystallisasjon av smeltet magma og vant H.K.H. Kronprinsens gullmedalje året etter for avhandlingen «Om Dannelsesmaaden af de uskiktede Bergarter i Kristiania Overgangsformation». Han var også den første til å fremsette teorien om isavsmelting i Oslofeltet og dermed dannelsen av israndavsetninger.