Faits :
A.
Le 17 décembre 2018, Me A._ a transmis à son frère B._ une copie du jugement du tribunal du Ill e arrondissement pour les districts de Martigny et St-Maurice du 23 novembre 2018 au terme duquel le prévenu C._ a été acquitté des chefs d'accusation de vol, de contrainte, de séquestration, de contrainte sexuelle, de viol et de vol d'usage, mais a été reconnu coupable notamment de lésions corporelles simples, de dommages à la propriété et d'injure; ce jugement avait été notifié à Me A._ en sa qualité de conseil juridique de la partie plaignante D._.
Le 21 décembre 2018, Me A._ a transmis à son frère B._ une copie du jugement du Tribunal cantonal du 20 décembre 2016 au terme duquel le prévenu E._ a été reconnu coupable de contrainte, de séquestration, de viol et de désagréments causés par la confrontation à un acte d'ordre sexuel; ce jugement avait été notifié à Me A._ en sa qualité de conseil juridique du prévenu.
Olivier Elsig, Premier procureur de l'office régional du Ministère public du Valais central, a rappelé à Me A._, par pli du 3 janvier 2019, que le courrier de son frère B._ actuellement en détention provisoire était censuré par ses soins et l'a invité à lui transmettre l'autorisation écrite des parties concernées lui permettant de communiquer à son frère les jugements précités des 23 novembre 2018 et 20 décembre 2016.
B.
Par ordonnance du 16 janvier 2019, la Chambre pénale du Tribunal cantonal du canton du Valais (ci-après: la Chambre pénale) a interdit à Olivier Elsig d'ouvrir la correspondance échangée entre B._ et Me A._, après avoir été sommée par le Tribunal fédéral d'entrer en matière sur le recours de B._ du 25 juin 2018 en tant qu'il avait trait à la surveillance de cette correspondance (arrêt 1B_478/2018 du 14 novembre 2018).
C.
Le 25 mars 2019, Me Olivier Elsig a adressé au Procureur général Nicolas Dubuis les courriers précités des 17 et 21 décembre 2018 adressés par Me A._ à son frè re, ainsi que les échanges d'écritures avec cet avocat, pour examen de la suite éventuelle à donner à cette affaire. Le 25 avril 2019, Rahel Bruehwiler, procureure auprès de l'office central du Ministère public, a annoncé à la Chambre de surveillance des avocats valaisans que Me A._ avait transmis à son frère une copie non anonymisée des jugements précités et que ces faits étaient susceptibles de constituer une violation du secret professionnel au sens de l'art. 13 de la loi sur les avocats du 23 juin 2000 (LLCA, RS 935.61).
Par courrier du 3 mai 2019, la Procureure Rahel Bruehwiler a informé D._ de la transmission par Me A._ à son frère B._ d'une copie non anonymisée du jugement du 23 novembre 2018, ainsi que de son droit de déposer plainte pénale contre son ancien conseil juridique pour violation du secret professionnel.
D._ a, le 11 juin 2019, déposé plainte pénale contre Me A._, pour violation du secret professionnel (<ref-law>). Le lendemain, la Procureure Rahel Bruehwiler a ouvert une instruction pénale contre Me A._ du chef de cette infraction. Par mandat de Rahel Bruehwiler du 17 juillet 2019, Me A._ a été cité à comparaître en qualité de prévenu devant l'office central du Ministère public.
Le 25 juillet 2019, Me A._ a demandé la récusation de la Procureure Rahel Bruehwiler. Le 22 août 2019, cette dernière a transmis cette demande de récusation, avec ses déterminations et le dossier MPG 2019 890, à la Chambre pénale qui l'a rejetée par ordonnance du 25 septembre 2019.
D.
A._ forme un recours en matière pénale auprès du Tribunal fédéral à l'encontre de cette ordonnance du 25 septembre 2019. Il conclut à la récusation de la Procureure Rahel Bruehwiler, à la désignation d'un autre procureur, ainsi qu'à l'annulation et à la répétition des actes de procédure auxquels cette dernière a participé.
La Chambre pénale se réfère aux considérants de son ordonnance et la Procureure intimée renonce à se déterminer. A._ dépose une nouvelle écriture, avec ses annexes, en date du 21 novembre 2019.

Considérant en droit :
1.
Conformément aux art. 78 et 92 al. 1 LTF, une décision relative à la récusation d'un magistrat pénal peut faire immédiatement l'objet d'un recours en matière pénale. Le recourant, auteur de la demande de récusation, a qualité pour recourir (<ref-law>). Pour le surplus, le recours a été interjeté en temps utile (<ref-law>) contre une décision rendue en dernière instance cantonale (<ref-law>) et les conclusions prises sont recevables (<ref-law>). Il y a donc lieu d'entrer en matière.
2.
Conformément à l'<ref-law>, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision attaquée. Les pièces produites comme preuves par le recourant à l'appui de son courrier du 21 novembre 2019 et qui ne figuraient pas au dossier doivent, à ce titre, être écartées.
3.
A titre de moyens de preuve, le recourant demande l'édition du dossier cantonal (MPG 2019 890 et TCV P3 19 220). Sa requête est satisfaite, l'instance précédente ayant déposé le dossier cantonal dans le délai imparti à cet effet (<ref-law>).
4.
Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Le recourant ne peut critiquer la constatation de faits qui importent pour le jugement de la cause que si ceux-ci ont été établis en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte (<ref-law>), en particulier en violation de l'interdiction constitutionnelle de l'arbitraire (<ref-law>; <ref-ruling> consid. 4.1.2 p. 62), ce qu'il lui appartient de démontrer par une argumentation répondant aux exigences de l'<ref-law>, respectivement de l'<ref-law>.
Le recourant se plaint d'une constatation manifestement inexacte des faits pertinents. Il n'expose toutefois pas clairement les faits qu'il entend contester et a fortiori ne démontre pas en quoi ceux-ci auraient été établis de manière arbitraire. Telle qu'elle est formulée sa critique ne satisfait pas aux exigences précitées de motivation. Il n'y a dès lors pas lieu de prendre en considération d'autres faits que ceux retenus dans ladite dé cision. Les critiques qui se fondent sur des faits non établis sont irrecevables.
5.
Le recourant se plaint d'une violation de l'art. 56 let. f CPP. Il fait valoir contre la Procureure intimée divers griefs qui fonderaient selon lui une apparence de partialité.
5.1. Un magistrat est récusable, selon l'art. 56 let. f CPP, "lorsque d'autres motifs, notamment un rapport d'amitié étroit ou d'inimitié avec une partie ou son conseil, sont de nature à le rendre suspect de prévention". Cette disposition a la portée d'une clause générale recouvrant tous les motifs de récusation non expressément prévus aux lettres précédentes. Elle correspond à la garantie d'un tribunal indépendant et impartial instituée par les art. 30 al. 1 Cst. et 6 par. 1 CEDH. Elle n'impose pas la récusation seulement lorsqu'une prévention effective du magistrat est établie, car une disposition interne de sa part ne peut guère être prouvée. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale du magistrat. Seules les circonstances constatées objectivement doivent être prises en considération. Les impressions purement individuelles d'une des parties au procès ne sont pas décisives (<ref-ruling> consid. 3.2 p. 74).
Des décisions ou des actes de procédure qui se révèlent par la suite erronés ne fondent pas en soi une apparence objective de prévention; seules des erreurs particulièrement lourdes ou répétées, constitutives de violations graves des devoirs du magistrat, peuvent fonder une suspicion de partialité, pour autant que les circonstances dénotent que la personne en cause est prévenue ou justifient à tout le moins objectivement l'apparence de prévention. Il appartient en outre aux juridictions de recours normalement compétentes de constater et de redresser les erreurs éventuellement commises dans ce cadre. La procédure de récusation n'a donc pas pour objet de permettre aux parties de contester la manière dont est menée l'instruction et de remettre en cause les différentes décisions incidentes prises par la direction de la procédure (<ref-ruling> consid. 3.2 p. 74 s.; <ref-ruling> consid. 3.2.3 p. 180; <ref-ruling> consid. 2.3 p. 146).
5.2. Le recourant voit un motif de récusation dans le fait que la Procureure intimée a, de manière illicite selon lui, interpellé D._ pour l'informer de la transmission à un tiers d'une copie non caviardée du jugement du 23 novembre 2018 la concernant et de son droit de déposer une plainte pénale pour violation du secret professionnel à l'encontre de son ancien conseil; le recourant affirme qu'il n'existerait aucune disposition légale obligeant le Ministère public à interpeller tout lésé potentiel d'une infraction poursuivie sur plainte.
Le recourant invoque en vain ces éléments. Le fait que la Procureure intimée a informé D._ des faits la concernant susceptibles de constituer une violation du secret professionnel et de son droit de déposer plainte ne saurait constituer un motif de récusation. Une partie de la doctrine soutient d'ailleurs, comme relevé par l'instance précédente, que les autorités pénales sont tenues d'informer les personnes habilitées à déposer plainte pénale en raison des infractions commises à l'encontre de ces dernières (cf. RIEDO/BONER, in Commentaire bâlois CPP, Schweizerische Strafprozessordnung, Art. 196-457 StPO, 2e éd. 2014, n. 14 ad <ref-law>; LANDSHUT/ BOSSHARD, in Kommentar zur Schweizerischen Strafprozessordnung (StPO), 2e éd. 2014, n. 14 ad <ref-law>). En outre, cette communication à la personne concernée apparaît cohérente avec le fait que la Procureure intimée a dénoncé, en application de l'<ref-law> en lien avec l'<ref-law>, les faits litigieux à la Chambre de surveillance des avocats, le 25 avril 2019.
Le recourant se prévaut en outre d'une prétendue surveillance illicite de son courrier du 17 décembre 2018, lequel contenait la copie non anonymisée du jugement du 23 novembre 2018. En l'occurrence, il sied de constater que la surveillance de ce courrier n'est pas imputable à la magistrate intimée et qu'elle est antérieure à l'interdiction faite, par la Chambre pénale, au Premier procureur Olivier Elsig d'ouvrir les courriers échangés entre Me A._ et B._. Cela étant, si le recourant entend contester l'exploitabilité de ce moyen de preuve obtenu prétendument en violation du secret professionnel, il doit le faire dans le cadre de la procédure pénale et non pas dans le cadre de la procédure de récusation. Au demeurant, même si l'on devait voir dans l'exploitation de ce courrier par la magistrate intimée une erreur de procédure ou d'appréciation, celle-ci ne revêtirait pas la gravité requise pour fonder objectivement un soupçon de prévention.
Par ailleurs, quoi qu'en pense le recourant, le fait que la Procureure a dès le lendemain du dépôt de la plainte pénale ouvert une instruction pénale pour violation du secret professionnel ne constitue pas un motif de récusation; on ne saurait en effet reprocher à la magistrate intimée d'avoir agi avec la célérité requise par la loi en procédure pénale (cf. <ref-law>). En outre, le recourant n'est pas habilité, sous couvert de récusation, à contester la recevabilité de la plainte pénale au motif qu'elle ne détaillerait pas l'état de fait qui lui serait reproché. Il sied à cet égard de relever qu'une telle irrecevabilité n'apparaît pas évidente puisque que les faits reprochés au recourant ressortent clairement du courrier du 3 mai 2019 adressé à D._.
Enfin, le recourant soutient que les propos prétendument tenus par la Procureure intimée le 25 septembre 2019 lors de son audition, ainsi que le refus de cette dernière de poser ses questions à la plaignante, le 14 octobre 2019, dénoteraient une prévention à son encontre. Le recourant invoque ici des faits nouveaux, de sorte que ses critiques sont irrecevables (cf. supra consid. 2).
5.3. En définitive, aucun des motifs avancés par le recourant, pris séparément ou dans leur ensemble, ne permet d'admettre l'existence de circonstances exceptionnelles justifiant une récusation de la magistrate intimée dans la présente cause. Partant, la Chambre pénale n'a pas violé le droit fédéral en rejetant la requête de récusation déposée par le recourant.
6.
Il s'ensuit que le recours est rejeté dans la mesure où il est recevable. Le recourant qui succombe supporte les frais de la présente procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Chambre pénale.
Lausanne, le 24 janvier 2020
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Chaix
La Greffière : Arn