I 1853 gikk han tilbake til prestetjenesten og ble prest i Lier ved Drammen. Her avskaffet han Balles lærebok i religion og gjeninnførte Pontoppidans Forklaring. Enkelte beskyldte ham for å tvinge sin egen utgave til bruk i menigheten, noe Kaurin nektet for. M. B. Landstad forsvarte Kaurin med at han ville «avskaffe Balles lærebok i religion, som man ubegripeligvis her hadde brukt i skolene og ved konfirmantundervisningen like inntil den tid og å innføre Pontoppidans forklaring i stedet, hvorved han dog ganske overlot det til foreldrene og andres vedkommende selv å velge hvilken av de autoriserte utgaver av de samme de måtte ønske for sine barn; de måtte gjerne ha forskjellige».