Après la Journée du 10 août 1792, la Révolution, entre dans sa phase dictatoriale et arbitraire. Bérenger considère alors que les bornes de la liberté légale sont franchies, et conforme ses votes et ses actes politiques à cette conviction au sein de conseil. En bon huguenot, il est prêt à toutes les luttes pour conserver le pouvoir de décision local. Au printemps 1793, il lance même la proposition de faire arrêter Dubois-Crancé, Antoine Louis Albitte, Jean-Pierre Gauthier, envoyés par la Convention contre les Girondins. Ils veulent obliger l'assemblée du département à s'incliner.