I hans periode som biskop herjet Beistet i Gévaudan i hans område. Choiseul-Beaupré, som var en tilhenger av jansenismen, forfattet i 1764 et hyrdebrev om Beistet, sterkt preget av jansenistisk tenkning: Beistet var sendt av Gud på grunn av lokalbefolkningens synder, det hadde aldri kommet hvis den hadde levd rettferdig. Han minnet om historier fra Det gamle testamente der Gud sendte plager og villdyr, og spurte foreldre som hadde mistet barn til Beistet om de ikke fortjente det som en straff. Beistet ville bli drept når Guds nåde vendte tilbake.