Men pastor Lovejoy har vist seg å gjøre ting som kan bli ansett som syndige. Lovejoy har vært kjent for å utnytte sin menighet for å motta donasjoner, han har slåss mot en romersk-katolsk prest, og antydet at han en gang brente ned kirken sin for å få utbetalt en forsikring. I episoden «The Joy of Sect» fra sesong ni, blir flere innbyggere fra Springfield narret til å bli med i en kult, og Lovejoy kidnapper Homer Simpson sammen med Groundskeeper Willie. Men når Lovejoy ser romskipet dukke opp fra den «forbudte låven» kaster han sin religiøse krage på bakken. Men etter at det er avslørt at romskipet var en bløff, legger Ned Flanders merke til prestekragen hans på bakken - og Lovejo plukker den opp, og setter den på seg igjen.