Under det stadig tiltagende anarki og stormen mot den kristne religionen avtok hans mot. Den 7. november 1793 nedla han med 14 av sine prester for konventets skranke sine geistlige verdigheter (og dermed han sin biskoppelige verdighet), og uten direkte å avsverge kristendommen uttalte han seg så om «frihet, likhet og moral» som samfunnets egentlige grunnvoll på slikt vis at han ble identifisert som tilhørende ateistene. Gobel hadde også erklært at etter revolusjonens lykkelige utgang bestod det ikke lenger noe behov for noen annen nasjonalkult enn den til friheten og likheten. Handlingen ble ikke overraskende alminnelig tolket som avsvergelse av kristendommen.