Thaulow utga noen mindre skrifter og skrev innlegg i og . I boken (København, 1795) tok han til orde for å forby produksjon og omsetning av brennevin. I (København, 1782) diskuterte han nattverden i rasjonalistisk ånd. Skriftet ble angrepet av den konservative norske presten Jacob Worm Skjelderup i et motskrift. Som prest i Stadsbygd havnet han i strid med menigheten, og sin egen biskop, ved å forsøke å påby .