Faits :
A.
A.a. Le 1er avril 2015, B._, entité constituée sous la forme d'une association au sens des <ref-law>, a déposé une plainte pénale contre A._ en raison d'actes tombant sous le coup de l'art. 23 de la loi fédérale contre la concurrence déloyale (LCD; RS 241), déclarant se constituer à cet égard comme demanderesse au pénal et au civil. Elle l'a également dénoncé pour d'autres infractions, poursuivies d'office (faux dans les titres, gestion déloyale et escroquerie).
A la suite de cet écrit, le 7 novembre 2017, le Ministère public du canton du Valais, par son Office central, a ouvert une instruction contre A._ des chefs d'escroquerie (<ref-law>), voire de concurrence déloyale (<ref-law>), de gestion déloyale (<ref-law>) et de faux dans les titres (<ref-law>). La procédure a été enregistrée sous référence MPG 15 1292.
A.b. Par ordonnance du 10 avril 2019, le Ministère public a ordonné la disjonction de la procédure pénale MPG 15 1292. Désormais, cette dernière ne concernait plus que les " faits datant d'avant 2010 ", alors qu'une nouvelle instruction, enregistrée sous référence MPG 19 773, a été ouverte s'agissant des " faits datant d'après 2009 ".
Par la même ordonnance, le Ministère public a en outre dénié à B._ la qualité de partie plaignante dans la procédure MPG 15 1292, au motif que l'action pénale était prescrite s'agissant de l'infraction au sens de l'<ref-law>; cette même question s'agissant de la cause MPG 19 773 serait en revanche tranchée ultérieurement.
A.c. Par ordonnance du 10 juillet 2019, la Chambre pénale du Tribunal cantonal du Valais a partiellement admis le recours formé par A._ contre l'ordonnance du 10 avril 2019. Elle a confirmé la disjonction des causes concernant le précité, tout en tenant pour bien-fondé le reproche formé à l'égard du Ministère public relatif à son refus de statuer sur la qualité de partie plaignante de B._ dans la cause MPG 19 773, renvoyant la cause à cette autorité sur ce point.
Par arrêt 1B_436/2019 du 24 octobre 2019, le Tribunal fédéral a déclaré irrecevable le recours en matière pénale formé par A._ contre l'ordonnance du 10 juillet 2019.
A.d. Le 20 avril 2020, le Ministère public a ordonné le classement de la procédure pénale concernant les faits antérieurs à 2010 (MPG 15 1292).
B.
B.a. Par ordonnance du 17 décembre 2020, le Ministère public a dénié à lB._ la qualité de partie plaignante dans la procédure pénale concernant les faits postérieurs à 2009 (MPG 19 773).
B.b. Par ordonnance du 24 février 2021, la Chambre pénale a admis le recours formé par B._ contre l'ordonnance du 17 décembre 2020. Celle-ci a été réformée en ce sens que la qualité de partie plaignante était reconnue à B._ dans le cadre de la procédure MPG 19 773.
En particulier, la Chambre pénale a jugé qu'en application de l'<ref-law>, B._ était légitimée à porter plainte en raison de l'infraction réprimée à l'<ref-law>. En outre, par les termes utilisés dans sa plainte du 1er avril 2015, l'intéressée avait manifesté, d'une manière suffisamment claire, la volonté de voir A._ poursuivi du chef de l'<ref-law>, non seulement pour les faits éventuellement survenus jusqu'en 2009, mais également pour ceux qui se seraient produits en 2010 et 2011.
C.
Par acte du 12 avril 2021, A._ forme un recours en matière pénale au Tribunal fédéral contre l'ordonnance du 24 février 2021. Il conclut, avec suite de frais et dépens, principalement à sa réforme en ce sens qu'il est constaté que B._ n'a pas la qualité de partie dans le cadre de la procédure MPG 19 773. Subsidiairement, il conclut à l'annulation de l'ordonnance et au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il assortit en outre son recours d'une requête d'effet suspensif, demandant à titre provisionnel que l'accès au dossier soit refusé à B._ jusqu'à droit connu sur le recours, aucune pièce ou information, notamment celles en mains de la police, du Ministère public ou du Tribunal des mesures de contrainte, ne devant lui être communiquée.
Invité à se déterminer, le Ministère public se rallie aux conclusions de A._. B._ conclut pour sa part, avec suite de frais et dépens, principalement à l'irrecevabilité du recours, subsidiairement à son rejet. Quant à la Chambre pénale, elle se réfère aux considérants de l'ordonnance attaquée.
Par leurs écritures ultérieures, A._ et B._ persistent dans leurs conclusions respectives.
D.
Par ordonnance du 16 avril 2021, le Juge présidant la Ire Cour de droit public a admis la requête d'effet suspensif et de mesures provisionnelles.

Considérant en droit :
1.
Le recourant a produit, en annexe de son acte de recours, diverses pièces dont il entend se prévaloir pour établir la recevabilité de son recours, en particulier au regard de l'existence d'un préjudice irréparable au sens de l'<ref-law>. Ces documents sont ainsi supposés démontrer, d'une part, que les membres de l'association intimée sont des concurrents directs du recourant, lui-même viticulteur valaisan, et, d'autre part, que certains écrits versés à la procédure pénale MPG 19 773 contiennent des informations protégées par le secret des affaires.
La recevabilité de ces pièces sous l'angle de l'<ref-law> peut néanmoins rester indécise, dès lors qu'elles n'apparaissent quoi qu'il en soit pas déterminantes, compte tenu de ce qui suit.
2.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 2 p. 241).
2.1. L'arrêt attaqué ne met pas fin à la procédure pénale ouverte contre le recourant et revêt un caractère incident. Il ne s'agit pas d'une décision séparée portant sur la compétence ou sur une demande de récusation de sorte que l'<ref-law> n'est pas applicable. Le recours en matière pénale n'est donc recevable qu'aux conditions posées à l'<ref-law>, soit si la décision attaquée peut causer un préjudice irréparable (let. a) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b).
De jurisprudence constante, une décision qui reconnaît à un tiers la qualité de partie plaignante dans une procédure pénale ne cause en règle générale au prévenu aucun préjudice irréparable qu'une décision finale ne ferait pas disparaître entièrement; le simple fait d'avoir à affronter une partie de plus lors de la procédure ne constitue pas un tel préjudice. Par ailleurs, en cas de condamnation confirmée par les instances cantonales de recours, le prévenu aura la possibilité de se plaindre en dernier ressort, devant le Tribunal fédéral, d'une mauvaise application des dispositions de procédure pénale relatives à la qualité de partie plaignante (arrêts 1B_570/2020 du 17 février 2021 consid. 1.2; 1B_559/2018 du 12 mars 2019 consid. 2.1; 1B_399/2018 du 23 janvier 2019 consid. 2.1; 1B_261/2017 du 17 octobre 2017 consid. 2; voir aussi <ref-ruling> consid. 2.1 p. 216).
2.2. Le recourant fait valoir que les membres de l'intimée, en tant que concurrents directs sur le marché viti-vinicole, pourraient se servir et profiter indûment d'informations sur ses activités commerciales, notamment sur sa clientèle, contenues dans les nombreux documents versés au dossier cantonal, et auxquels elle aurait accès en sa qualité de partie plaignante. De même, le recourant explique que, par le passé, il serait déjà arrivé à l'intimée de transmettre aux médias des informations ressortant de procédures pénales. Or, au regard de la nature des documents en cause, il est à craindre qu'elle use à nouveau de ce procédé pour jeter le discrédit sur ses activités et ainsi tenter d'orienter l'opinion publique en sa faveur.
Pour autant, il est constant que l'accès au dossier pénal par la partie plaignante constitue un inconvénient potentiel inhérent à l'existence d'une procédure pénale, qui est toutefois en lui-même insuffisant, au regard de la jurisprudence, pour admettre que le prévenu soit exposé à un préjudice irréparable (arrêts 1B_570/2020 du 17 février 2021 consid. 1.2; 1B_238/2020 du 8 juin 2020 consid. 2.4; 1B_582/2012 du 12 octobre 2012 consid. 1.2). En particulier, il ne faut pas perdre de vue qu'en l'espèce, le recourant conserve, à ce stade de la procédure, la possibilité de solliciter des mesures de protection en application des art. 73 al. 2, 102 al. 1 ou 108 CPP du fait de l'admission de l'intimée en qualité de partie plaignante, de sorte que le préjudice allégué est susceptible d'être réparé par une décision ultérieure (cf. arrêts 6B_473/2021 du 12 mai 2021 consid. 1.4.3; 1B_559/2018 du 12 mars 2019 consid. 2.2).
2.3. L'existence d'un préjudice irréparable subi par le recourant paraît d'autant moins établie en l'espèce que le Ministère public a laissé entendre que, dans le cadre de la procédure encore en cours (MPG 19 773), il allait rendre prochainement une ordonnance de non-entrée en matière s'agissant des faits dénoncés par l'intimée dans sa plainte du 1er avril 2015. Dans ses déterminations du 31 mai 2021 au Tribunal fédéral, le Ministère public explique en effet qu'à ses yeux, la prescription de l'action pénale quant aux faits dénoncés, en tant qu'ils se sont déroulés jusqu'en 2011 au plus tard, serait déjà atteinte, si bien qu'un empêchement de procéder, au sens de l'<ref-law>, ferait obstacle à la poursuite de la procédure en ce qui concerne l'intimée et justifierait donc de ne pas entrer en matière sur sa plainte en tant qu'elle porte sur des infractions au sens de l'<ref-law> commises à son préjudice, ce qui aurait pour effet de lui faire perdre la qualité de partie plaignante (cf. déterminations du Ministère public, p. 8).
2.4. Quant à l'hypothèse décrite à l'<ref-law>, elle n'entre pas en ligne de compte en l'espèce. Le recourant ne fait du reste rien valoir à ce propos.
3.
Il s'ensuit que le recours est irrecevable. Le recourant, qui succombe, supportera les frais judiciaires (art. 65 et 66 al. 1 LTF). L'intimée, qui a été invitée à se déterminer et a procédé avec l'aide d'un mandataire, a droit à des dépens, à la charge du recourant (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, fixés à 3'000 fr., sont mis à la charge du recourant.
3.
Une indemnité de dépens, fixée à 2'000 fr., est allouée à l'intimée, à la charge du recourant.
4.
Le présent arrêt est communiqué aux mandataires des parties, à l'Office central du Ministère public du canton du Valais et au Tribunal cantonal du canton du Valais, Juge unique de la Chambre pénale.
Lausanne, le 21 septembre 2021
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Kneubühler
Le Greffier : Tinguely