Citation: 2C_712/2021 E. A

A.a. A.________ est inscrit au registre cantonal des avocats du canton de Genève et exerce la fonction d'avocat indépendant. Dans le cadre de son activité, il a défendu B.________ dans une procédure civile l'opposant à C.________, représentée par Me D.________, au sujet de la liquidation du "Café E.________". B.________ alléguait qu'une société simple existait entre C.________ et lui, de sorte qu'ils étaient associés dudit Café, tandis que cette dernière niait avoir fait ménage commun avec lui et faisait valoir qu'il était son employé. Le 9 novembre 2012, la Chambre civile de la Cour de justice du canton de Genève a confirmé l'existence d'une société simple. A.b. Le 7 novembre 2014, A.________ a déposé des observations dans le cadre d'une demande en paiement formée par B.________ à l'encontre de l'avocat D.________. Dans ces observations, A.________ indiquait que D.________ aurait "activement, sinon principalement" concouru à "l'appropriation illicite d'un bien puis à la spoliation d'une personne" et qu'il "ne pouvait intervenir que dans une perspective que l'on doit définir comme étant criminelle: la spoliation et l'appropriation d'un bien". Les observations contenaient en outre d'autres références au "crime" qui avait été commis par D.________. A.c. Le 2 décembre 2014, A.________ a adressé au Conseil d'Etat du canton de Genève un courrier rédigé sur son papier à en-tête. Il y dénonçait les "manipulations avérées de la justice genevoise" et des "erreurs judiciaires" commises dans le dossier de son client relatif à la liquidation du "Café E.________". A ce courrier étaient annexés des écrits des 5 juin et 12 novembre 2014 adressés notamment au Président du Grand Conseil et au Secrétaire général du Pouvoir judiciaire. Dans ces écrits, A.________ indiquait que, bien que D.________ "savait tout [...] de la réalité des rapports intimes, personnels et d'association entre B.________ et C.________", il avait affirmé en justice que les intéressés n'avaient "jamais été associés" et que les démarches judiciaires entreprises par B.________ "étaient fausses et mensongères", ce qui démontrait des manipulations et instrumentalisations de la justice réalisées par D.________ et C.________ en vue de s'approprier le "Café E.________" et le vendre "de manière illicite". A.d. En date des 6 février et 30 avril 2015, D.________ a déposé deux plaintes pénales contre B.________ et A.________ relatives aux propos tenus par ces derniers dans les courriers des 5 juin et 12 novembre 2014 adressés aux autorités genevoises et dans les observations du 7 novembre 2014. A.e. Par jugement du 4 juin 2018, le Tribunal de police du canton de Genève, faisant suite à la plainte de D.________, a condamné A.________ pour calomnie à une peine pécuniaire de 90 jours-amende à 275 fr. avec sursis pendant trois ans. A.________ devait en outre payer, solidairement avec B.________, un montant de 2'000 fr. à D.________ à titre de réparation du tort moral. Par arrêt du 26 septembre 2019, la Chambre pénale d'appel et de révision du canton de Genève, a réformé le jugement rendu par le Tribunal de police le 4 juin 2018. Il a condamné A.________ pour diffamation à une peine pécuniaire de 70 jours-amende à 275 fr. avec sursis durant trois ans, et a confirmé le jugement du Tribunal de police pour le surplus. Le 16 mars 2020, le Tribunal fédéral a rejeté les recours interjetés contre cet arrêt (arrêt 6B_1254/2019, 6B_1290/2019, 6B_1296/2019, 6B_1297/2019 du 16 mars 2020). Il a notamment précisé que, s'il voyait mal que D.________ ait pu ignorer que sa cliente partageait sa villa avec B.________, il n'était pas arbitraire de retenir qu'en soutenant l'existence de rapports de travail entre les intéressés - nullement exclus par un lien affectif entre eux - et en contestant l'existence d'une société simple, D.________ n'avait pas cherché à tromper astucieusement les autorités judiciaires (consid. 4.5.2). A.f. Le 2 avril 2020, D.________ a dénoncé A.________ auprès de la Commission du barreau du canton de Genève (ci-après: la Commission du barreau) au motif qu'il avait porté atteinte à son honneur à deux reprises et qu'il avait été définitivement condamné par le Tribunal fédéral le 16 mars 2020 pour ces faits.