Begstrup utga flere prekener og teologiske skrifter, blant annet en oversettelse av den augsburgske konfesjon.