Faits :
A.
A.a. Le 5 avril 2018, le Procureur valaisan G._ a ouvert une instruction pénale à l'encontre du conseiller financier B._ et du gestionnaire de fortune A._ pour faux dans les titres (<ref-law>); il leur était reproché d'avoir faussement déclaré, entre 2004 et 2007, sur neuf formulaires A selon les art. 3 et 4 de la Convention relative à l'obligation de diligence des banques [CDB], que C._ était ayant droit économique (ADE) des valeurs déposées, créditées (montants notamment de 200'000, 370'000, 500'000, 700'000 fr.) ou débitées sur des comptes/dépôts ouverts auprès de D._ au nom de E._.
A._ a été auditionné par la police cantonale valaisanne le 7 mai 2018 en qualité de prévenu, en présence de Me H._, son défenseur privé.
A.b. Par ordonnance du 10 juillet 2018, le Procureur G._ a informé B._ et A._ de la clôture prochaine de l'instruction et de son intention de rendre une ordonnance pénale ou une ordonnance de mise en accusation pour faux dans les titres.
A.c. Par prononcé du 29 mai 2020, la Procureure Rahel Bruehwiler - qui a repris l'instruction de la cause le 21 août 2018 - a ordonné le classement de la procédure ouverte contre B._, au motif qu'il était établi qu'un empêchement de procéder était apparu du fait de l'interdiction de la double poursuite.
Par ordonnance pénale du même jour, la Procureure Rahel Bruehwiler a reconnu A._ coupable de faux dans les titres et l'a condamné à une peine pécuniaire de 120 jours-amende à 910 fr. le jour, avec sursis pendant deux ans, ainsi qu'à une amende. A._ a formé opposition contre cette ordonnance pénale, en date du 23 juin 2020.
B.
B.a. Faisant suite au courrier de la Procureure du 30 juin 2020, A._ a présenté ses réquisitions de preuve. Par décision sur requête en complément de preuve du 4 septembre 2020, la Procureure Rahel Bruehwiler a constaté que le procès-verbal d'audition de C._ par l'Administration fédérale des contributions du 13 octobre 2011 était déjà versé au dossier et a accepté d'auditionner A._; elle a en revanche refusé de requérir l'ordonnance pénale du ministère public central du canton de Vaud du 16 juillet 2014 condamnant F._ pour usage faux à des fins fiscales, ainsi que d'auditionner B._, le procureur vaudois Yvan Gillard et le chef de service de l'administration cantonale des contributions ou l'un de ses juristes.
B.b. Le 7 janvier 2021, A._ a été auditionné par la Procureure Rahel Bruehwiler, en présence de Me Philippe Nantermod.
B.c. Le lendemain, la Procureure Rahel Bruehwiler a transmis le dossier au Tribunal du district de Sierre en vue des débats, l'ordonnance pénale du 29 mai 2020 tenant lieu d'acte d'accusation.
C.
Le même jour, A._ a demandé la récusation de la Procureure Rahel Bruehwiler; il a fait valoir contre celle-ci divers griefs qui démontreraient une apparence de partialité.
Le 25 janvier 2021, la Procureure intimée a conclu au rejet de la demande de récusation. Elle a également indiqué que l'ordonnance de classement rendue par les autorités vaudoises à l'égard de B._ avait été versée au dossier.
Par ordonnance du 16 mars 2021, la Chambre pénale du Tribunal cantonal valaisan a rejeté la demande de récusation dans la mesure de sa recevabilité.
D.
Agissant par la voie du recours en matière pénale au Tribunal fédéral, A._ a conclu, avec suite de frais et dépens, à l'annulation de l'ordonnance du 16 mars 2021 et à la récusation de la Procureure Rahel Bruehwiler.
La Procureure intimée et la Chambre pénale renoncent à se déterminer sur le recours.

Considérant en droit :
1.
Conformément aux art. 78 et 92 al. 1 LTF, une décision relative à la récusation d'un magistrat pénal peut faire immédiatement l'objet d'un recours en matière pénale. Le recourant, auteur de la demande de récusation, a qualité pour recourir (<ref-law>). Pour le surplus, le recours a été interjeté en temps utile (<ref-law>) contre une décision rendue en dernière instance cantonale (<ref-law>) et les conclusions prises sont recevables (<ref-law>). Il y a donc lieu d'entrer en matière.
2.
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law> (<ref-ruling> consid. 4.4.3). Le recourant ne peut critiquer les constatations de fait ressortant de la décision attaquée que si celles-ci ont été effectuées en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte, c'est-à-dire arbitraire, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>; <ref-ruling> consid. 1.3.1; <ref-ruling> consid. 6). Conformément à l'<ref-law>, le recourant doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées. Le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 1.3.1; <ref-ruling> consid. 6.3).
3.
Le recourant fait valoir contre la magistrate intimée divers griefs qui, dans leur ensemble, démontreraient une apparence de partialité justifiant sa récusation en application de l'art. 56 let. f CPP.
3.1. Un magistrat est récusable, selon l'art. 56 let. f CPP, "lorsque d'autres motifs, notamment un rapport d'amitié étroit ou d'inimitié avec une partie ou son conseil, sont de nature à le rendre suspect de prévention ". Cette disposition a la portée d'une clause générale recouvrant tous les motifs de récusation non expressément prévus aux lettres précédentes. Elle correspond à la garantie d'un tribunal indépendant et impartial instituée par les art. 30 al. 1 Cst. et 6 par. 1 CEDH. Elle n'impose pas la récusation seulement lorsqu'une prévention effective du magistrat est établie, car une disposition interne de sa part ne peut guère être prouvée. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale du magistrat. Seules les circonstances constatées objectivement doivent être prises en considération. Les impressions purement individuelles d'une des parties au procès ne sont pas décisives (<ref-ruling> consid. 4.3; <ref-ruling> consid. 3.2).
Dans la phase de l'enquête préliminaire, ainsi que de l'instruction et jusqu'à la mise en accusation, le ministère public est l'autorité investie de la direction de la procédure (<ref-law>). A ce titre, il doit veiller au bon déroulement et à la légalité de la procédure (<ref-law>). A ce stade, il doit établir, d'office et avec un soin égal, les faits à charge et à décharge (<ref-law>); il doit statuer sur les réquisitions de preuves et peut rendre des décisions quant à la suite de la procédure (classement ou mise en accusation), voire rendre une ordonnance pénale pour laquelle il assume une fonction juridictionnelle. Dans ce cadre, le ministère public est tenu à une certaine impartialité même s'il peut être amené, provisoirement du moins, à adopter une attitude plus orientée à l'égard du prévenu ou à faire état de ses convictions à un moment donné de l'enquête (<ref-ruling> consid. 3.2.2; <ref-ruling> consid. 2.2.1); tel est notamment le cas lorsqu'il décide de l'ouverture d'une instruction (qui suppose l'existence de soupçons suffisants au sens de l'<ref-law>) ou lorsqu'il ordonne des mesures de contrainte (arrêt 1B_348/2020 du 4 septembre 2020 consid. 3.1 et les arrêts cités). Tout en disposant, dans le cadre de ses investigations, d'une certaine liberté, le magistrat reste cependant tenu à un devoir de réserve et doit s'abstenir de tout procédé déloyal, instruire tant à charge qu'à décharge et ne point avantager une partie au détriment d'une autre (<ref-ruling> consid. 3.2.2; <ref-ruling> consid. 2.2.1).
De manière générale, les déclarations d'un magistrat - notamment celles figurant au procès-verbal des auditions - doivent être interprétées de manière objective, en tenant compte de leur contexte, de leurs modalités et du but apparemment recherché par leur auteur (arrêt 1B_319/2020 du 17 novembre 2020 consid. 2.1). En particulier, une autorité d'instruction ne fait généralement pas preuve de partialité lorsqu'elle mentionne des circonstances factuelles relatives à la séance et/ou émet quelques doutes, par exemple en relevant des contradictions dans les versions données; on ne peut en effet exclure qu'une telle manière de procéder - pour autant qu'elle ne soit pas utilisée systématiquement ou qu'elle soit accompagnée de moyens déloyaux - puisse faire progresser l'enquête (arrêt 1B_186/2019 du 24 juin 2019 consid. 5.1 et les arrêts cités). Des propos maladroits ou déplacés ne suffisent en principe pas pour retenir qu'un magistrat serait prévenu, sauf s'ils paraissent viser une personne particulière et que leur tenue semble constitutive d'une grave violation notamment des devoirs lui incombant (<ref-ruling> consid. 3.2.3; <ref-ruling> consid. 2d; arrêt 1B_95/2021 du 12 avril 2021 consid. 2.1 et les arrêts cités).
Des décisions ou des actes de procédure qui se révèlent par la suite erronés ne fondent pas en soi une apparence objective de prévention; seules des erreurs partic ulièrement lourdes ou répétées, constitutives de violations graves des devoirs du magistrat, peuvent fonder une suspicion de partialité, pour autant que les circonstances dénotent que la personne en cause est prévenue ou justifient à tout le moins objectivement l'apparence de prévention. Il appartient en outre aux juridictions de recours normalement compétentes de constater et de redresser les erreurs éventuellement commises dans ce cadre. La procédure de récusation n'a donc pas pour objet de permettre aux parties de contester la manière dont est menée l'instruction et de remettre en cause les différentes décisions incidentes prises par la direction de la procédure (ATF <ref-ruling> consid. 3.2 et les arrêts cités).
3.2. Le recourant reproche à la Procureure intimée d'avoir continuellement rejeté toutes ses demandes de preuve qui devaient notamment permettre de déterminer qui était l'ayant doit économique réel du compte incriminé; en particulier, cette magistrate aurait systématiquement refusé de l'entendre jusqu'au 7 janvier 2021, mais également d'auditionner le co-signataire des formulaires A, soit B._. Selon le recourant, ce comportement violerait de manière évidente son droit de participer à l'administration des preuves (<ref-law>) et révélerait la prévention de la Procureure intimée à son égard.
Le grief du recourant ne résiste pas à l'examen. En l'occurrence, il ne ressort pas de l'ordonnance entreprise que le recourant aurait formulé précédemment des requêtes tendant à son audition ou à celle de B._ et il ne cherche pas à le démontrer, comme il lui appartenait pourtant de le faire s'il entendait invoquer de tels faits à l'appui de son recours (cf. consid. 2 ci-dessus). Il convient à cet égard de relever que le recourant a été entendu par la police en présence d'un avocat le 7 mai 2018. Cela étant, la Procureure intimée a exposé, dans sa décision sur requête en complément de preuve du 4 septembre 2020, les motifs pour lesquels elle a rejeté les réquisitions de preuve du recourant tendant à l'audition de B._ (lequel avait été entendu en 2014 par le ministère public vaudois et en 2018 par le ministère public valaisan), à celle du procureur vaudois, ainsi qu'à celle d'un collaborateur de l'administration cantonale des contributions. Il ne ressort pas des motifs avancés par la magistrate intimée une apparence objective de partialité à l'égard du recourant. Le fait que le recourant ne partage pas l'opinion de la magistrate et considère que ces mesures d'instruction auraient dû être ordonnées n'y change rien. Comme déjà évoqué (consid. 3.1 in fine), la récusation n'est pas le moyen idoine pour se plaindre du refus de procéder à l'administration de moyens de preuve (cf. arrêts 1B_219/2014 du 2 septembre 2014 consid. 4 et 1B_292/2012 du 13 août 2012 consid. 3.2). Si le Tribunal du district de Sierre devait ne pas partager l'avis de la Procureure intimée sur l'opportunité d'administrer des preuves et constater, au cours de l'examen de l'accusation ou plus tard durant la procédure, que l'instruction est insuffisante et qu'un jugement au fond ne peut pas être rendu, il peut administrer lui-même les preuves au cours des débats (art. 343 et 349 CPP) ou renvoyer, le cas échéant, l'accusation au ministère public pour qu'il la complète après avoir procédé aux mesures d'instruction utiles (<ref-law>; cf. arrêt 1B_114/2018 du 23 avril 2018 consid. 2.2).
3.3. Le recourant soutient ensuite que les propos tenus par la Procureure lors de son audition du 7 janvier 2021 confirmeraient la totale prévention de cette dernière à son égard. Le recourant se prévaut des échanges suivants figurant au procès-verbal de dite audition:
Questions de Me Nantermod:
(...)
14. Est-ce que C._ pouvait retirer toute seule de l'argent du compte?
R. Oui, parce qu'elle était la bénéficiaire économique du compte.
15. Si Madame C._ était décédée lorsque le compte était géré I._, qu'est-ce qui serait advenu de ce compte?
R. On aurait dû annoncer le décès de l'ADE et ce compte aurait été intégré dans l'hoirie de C._.
Sur demande du prévenu il est mentionné que la Procureure a indiqué que dans les faits la succession aurait peut-être été réglée différemment.
Je suis choqué de vos propos, vous pensez que nous gestionnaires ou la banque auraient encore fait des faux pour cacher que Madame C._ était l'ADE c'est quasiment impensable. Donc la présomption d'innocence.
Me Nantermod veut qu'il est mentionné que la Procureure a rappelé que M. A._ a été condamné par Ordonnance pénale quand il a fait mention de la présomption d'innocence.
Pour le recourant, la déclaration de la Procureure selon laquelle " dans les faits la succession aurait peut-être été réglée différemment " serait choquante et sous-entendrait clairement la commission d'une infraction impliquant vraisemblablement des faux. Il se prévaut en outre du fait que la Procureure intimée aurait ajouté, lorsqu'il s'est référé au principe de la présomption d'innocence, qu'il ne bénéficiait plus de ce principe puisqu'il avait été condamné par ordonnance pénale. Selon le recourant, la cour cantonale ne pouvait affirmer que cette dernière déclaration, à supposer établie, constituait tout au plus des propos maladroits de la part de la magistrate insuffisants pour conclure qu'elle serait prévenue, ce d'autant moins qu'ils avaient été proférés à un stade de la procédure où son rôle d'instructeur neutre et impartial était quasiment terminé. Aux yeux du recourant, la partialité de l'intimée serait ainsi manifeste, cette dernière l'ayant considéré comme d'ores et déjà coupable avant la clôture de l'instruction.
L'instance précédente peut en l'occurrence être suivie lorsqu'elle considère que la déclaration de la Procureure concernant le sort de la succession de C._ ne peut être interprétée de manière objective comme le sous-entendu que le recourant aurait agi illégalement pour régler le problème rencontré en cas de décès de la prénommée, mais tout au plus comme un doute quant à la réponse apportée. La Procureure intimée s'est en effet expliquée à ce sujet, dans sa prise de position du 25 janvier 2021, précisant que le recourant n'était pas en mesure de savoir de quelle manière la succession aurait été réglée, d'autant plus que les fonds sur le compte provenaient d'affaires commerciales et privées de F._. Lors de son audition du 7 mai 2018 par la police cantonale, le recourant avait en effet déclaré que, selon son souvenir, il s'agissait de fonds provenant d'affaires commerciales et privées de F._.
Quant au fait que la Procureure se soit référée à son ordonnance pénale de condamnation lorsque le recourant a fait mention du principe de la présomption d'innocence, il ne suffit pas, à lui seul, à fonder une obligation de récusation. Certes, comme l'a relevé l'instance précédente, une telle référence apparaît en l'espèce maladroite et inappropriée dans la mesure où cette ordonnance a fait l'objet d'une opposition. Elle ne constitue toutefois pas en l'espèce une grave violation des devoirs incombant à la Procureure. Il ne ressort en particulier pas du procès-verbal que cette dernière ait fait d'autres déclarations en lien avec cette ordonnance pénale. De plus, la référence à cet élément factuel est intervenue à un stade particulier de la procédure, à savoir aux termes de l'audition du prévenu, après que la magistrate a interrogé ce dernier et lui a annoncé qu'elle entendait porter l'accusation devant le Tribunal; l'ordonnance pénale en question du 29 mai 2020 a d'ailleurs servi d'acte d'accusation.
3.4. En définitive, aucun des motifs avancés par le recourant, pris séparément ou dans leur ensemble, ne permet d'admettre l'existence de circonstances exceptionnelles justifiant une récusation de la magistrate intimée dans la présente cause. Partant, la Chambre pénale n'a pas violé le droit fédéral en rejetant la requête de récusation déposée par le recourant.
4.
Il s'ensuit que le recours est rejeté dans la mesure où il est recevable. Le recourant qui succombe supporte les frais de la présente procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Juge unique de la Chambre pénale du Tribunal cantonal du Canton du Valais.
Lausanne, le 27 mai 2021
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant : Chaix
La Greffière : Arn