Faits:
A.
A.a. Par ordonnance pénale du 18 août 2020, le Ministère public du canton de Fribourg a condamné A._ à une peine pécuniaire de 180 jours-amende à 220 fr. l'unité, avec sursis pendant 4 ans, et à une amende de 5'000 fr. pour lésions corporelles simples, voies de fait réitérées et contrainte commises à l'encontre de B._, avec qui il a vécu en concubinage jusqu'au printemps 2019.
Le même jour, le Ministère public a rendu une seconde ordonnance pénale, cette fois-ci à l'encontre de B._, la condamnant à une amende de 500 fr. pour voies de fait réitérées à l'encontre de A._.
A.b. Le 19 août 2020, A._ a formé opposition à l'ordonnance pénale du 18 août 2020 prononcée à son encontre. Son opposition a été transmise à la Juge de police de l'arrondissement de la Gruyère et des débats devaient se tenir le 10 juin 2021. Cette cause n'est pas ici litigieuse.
Le 20 août 2020, A._ a également formé opposition à l'encontre de l'ordonnance pénale visant B._. Dite opposition a également été transmise à la Juge de police de l'arrondissement de la Gruyère.
B.
Par décision du 16 mars 2021, la Juge de police de l'arrondissement de la Gruyère a déclaré irrecevable l'opposition formée par A._ à l'encontre de l'ordonnance pénale visant B._, considérant qu'il n'avait pas qualité pour ce faire.
C.
Par arrêt du 23 avril 2021, la Chambre pénale du Tribunal cantonal fribourgeois a déclaré irrecevable le recours interjeté par A._ à l'encontre de la décision de la Juge de police.
D.
A._ forme un recours en matière pénale au Tribunal fédéral à l'encontre de l'arrêt du tribunal cantonal du 23 avril 2021. Il conclut à son annulation et au renvoi de la cause à la Chambre pénale pour nouvel arrêt dans le sens des considérants.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office (<ref-law>) et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 2).
1.1. Selon l'art. 81 al. 1 let. a et b LTF, a qualité pour former un recours en matière pénale quiconque a pris part à la procédure devant l'autorité précédente et a un intérêt juridique à l'annulation ou à la modification de la décision attaquée.
Indépendamment des conditions posées par l'<ref-law>, la partie recourante est aussi habilitée à se plaindre d'une violation de ses droits de partie équivalant à un déni de justice formel, sans toutefois pouvoir faire valoir par ce biais, même indirectement, des moyens qui ne peuvent être séparés du fond (<ref-ruling> consid. 1.1 et les références citées).
1.2. En l'espèce, la cour cantonale a déclaré irrecevable le recours formé par A._, tout en relevant que sa qualité pour former opposition à l'encontre de l'ordonnance pénale visant B._ lui avait été déniée à bon droit, faute pour lui de disposer d'un intérêt juridiquement protégé. Il y a donc lieu d'admettre, dans cette mesure, qu'il a qualité pour s'en plaindre.
2.
Invoquant les art. 29 al. 2 Cst. et 3 al. 2 let. c CPP, le recourant se plaint d'une violation de son droit d'être entendu. Il soutient en substance qu'il aurait dû être informé qu'il courrait le risque de voir une décision d'irrecevabilité rendue à la suite de son opposition du 20 août 2020. Il fait en outre valoir que le vice dénoncé ne pouvait être réparé dans le cadre de la procédure de recours cantonale.
2.1. Compris comme l'un des aspects de la notion générale de procès équitable ancrée à l'art. 29 Cst., le droit d'être entendu au sens de l'art. 29 al. 2 Cst. (cf. aussi art. 6 par. 1 CEDH; art. 3 al. 2 let. c CPP et 107 CPP), englobe notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique (<ref-ruling> consid. 4.1 et les arrêts cités). Le droit d'être entendu ne porte en principe pas sur la décision projetée. L'autorité n'a donc pas à soumettre par avance aux parties, pour prise de position, le raisonnement qu'elle entend tenir (<ref-ruling> consid. 4.1 et les références citées). Toutefois, lorsqu'elle envisage de fonder sa décision sur une norme ou un motif juridique non évoqué dans la procédure antérieure et dont aucune des parties en présence ne s'est prévalue et ne pouvait supputer la pertinence, le droit d'être entendu implique de donner au justiciable la possibilité de se déterminer à ce sujet (<ref-ruling> consid. 3.1; <ref-ruling> consid. 4.1 et les références citées; arrêt 6B_1029/2020 du 5 octobre 2021 consid. 2.1 et les références citées).
2.2. En l'espèce, quoique le recourant évoque la tenue d'une audience en date du 16 mars 2021, il ressort sans ambiguïté de l'arrêt attaqué que la décision rendue le même jour l'a été en procédure écrite. Il ne peut donc rien en tirer en sa faveur. Cela étant, le recourant évoque lui-même la teneur de l'<ref-law>, aux termes duquel le tribunal de première instance statue sur la validité de l'ordonnance pénale et de l'opposition. La jurisprudence a eu l'occasion de souligner à maintes reprises que l'examen de la validité de l'opposition avait lieu d'office (cf. parmi d'autres arrêt 6B_218/2020 du 17 avril 2020 consid. 1.1 et les références citées) et le contrôle imposé au tribunal de première instance par l'<ref-law> avait lieu à titre préjudiciel, dans le cadre des art. 329 al. 1 let. b, respectivement 339 al. 2 let. b CPP, la validité de l'opposition constituant une condition du procès (ibid.). En ce sens, le recourant ne saurait soutenir que la problématique de la recevabilité de son opposition constituait une question à laquelle il ne pouvait s'attendre et à l'égard de laquelle il aurait dû être rendu attentif avant qu'une décision soit rendue. C'est donc en vain qu'il se plaint, dans ce contexte, d'une violation de son droit d'être entendu. En outre, en l'absence de vice d'une telle nature devant l'autorité de première instance, la question d'une éventuelle réparation par l'autorité de recours ne se pose pas, quoi qu'en dise le recourant.
Manifestement mal fondé, le grief doit être rejeté.
3.
Le recourant reproche ensuite à la cour cantonale d'avoir violé l'art. 354 al. 1 let. a et b et al. 2 CPP en confirmant qu'il n'avait pas qualité pour pour former opposition à l'encontre de l'ordonnance pénale du 18 août 2020 visant B._.
3.1. Selon l'<ref-law>, peuvent former opposition contre l'ordonnance pénale devant le ministère public, par écrit et dans les dix jours, le prévenu (let. a), les autres personnes concernées (let. b) et, si cela est prévu, le premier procureur ou le procureur général de la Confédération ou du canton, dans le cadre de la procédure pénale pertinente (let. c). L'opposition doit être motivée, à l'exception de celle du prévenu (<ref-law>).
On entend par prévenu, tel que le mentionne l'<ref-law>, toute personne qui, à la suite d'une dénonciation, d'une plainte ou d'un acte de procédure accompli par une autorité pénale, est soupçonnée, prévenue ou accusée d'une infraction (<ref-law>). La jurisprudence précise en outre que l'éventuel co-prévenu n'est pas légitimé à s'opposer à l'ordonnance pénale en qualité de prévenu au sens de l'<ref-law>, mais tout au plus, le cas échéant, sous l'angle de l'<ref-law> (arrêt 6B_410/2013 du 5 janvier 2016 consid. 3.4, in SJ 2016 I p. 193 et les références citées).
Les autres personnes concernées au sens de l'<ref-law> sont les tiers que l'ordonnance pénale touche directement dans leurs droits au sens de l'<ref-law> (arrêt 6B_410/2013 précité consid. 3.3, publié in SJ 2016 I p. 193). L'<ref-law> exige - comme pour la qualité pour recourir selon l'<ref-law> - l'existence d'un intérêt juridique (<ref-ruling> consid. 2.3; arrêts 6B_250/2021 du 19 juillet 2021 consid. 3.1; 6B_233/2018 du 7 décembre 2018 consid. 6.2.1). Sont notamment considérés comme des autres personnes concernées la partie plaignante qui invoque une violation de l'<ref-law> en se plaignant ne pas avoir obtenu d'indemnité ou une indemnité insuffisante sous l'angle de cette disposition (<ref-ruling> consid. 5.2 et les références) ou encore la partie plaignante qui vise à obtenir une qualification juridique plus sévère des faits (<ref-ruling> consid. 2.3 ss; arrêt 6B_250/2021 précité consid. 3.1).
3.2. En l'espèce, les griefs du recourant sont irrecevables en tant que ce dernier se fonde sur une prétendue violation du principe de l'unité de la procédure (cf. art. 29 s. CPP), y compris lorsqu'il se plaint d'arbitraire (art. 9 Cst.) et de violation du principe de la bonne foi (art. 3 al. 2 let. a et b CPP), dès lors qu'il ne ressort pas de l'arrêt attaqué que de tels griefs auraient été soulevés devant l'autorité précédente (<ref-law>). Quoi qu'il en soit, son argumentation ne saurait être suivie. En effet, même si les deux causes avaient été jointes, il eût été parfaitement concevable de rendre deux ordonnances pénales distinctes, avec à la clé une situation identique à celle qui a prévalu en l'espèce. En ce sens, le recourant ne saurait se prévaloir de son statut de prévenu dans la procédure qui le concerne pour revendiquer un tel statut et une qualité pour former opposition correspondante dans la procédure ayant donné lieu à l'ordonnance pénale rendue contre B._. La cour cantonale n'a donc nullement violé l'<ref-law>.
Cela étant, même si le recourant fait valoir que les deux ordonnances pénales rendues le 18 août 2020 renvoient à des violences domestiques entre la prénommée et lui, il ne prétend pas que les faits concrètement retenus dans ces dernières se recouperaient en tout ou en partie. Il ressort au surplus de l'arrêt attaqué que le recourant a, dans la procédure ici en cause, retiré sa plainte et confirmé son retrait de plainte, tout en renonçant à se constituer partie plaignante, aussi bien au civil qu'au pénal. Il ne prétend pas non plus qu'il aurait contesté les qualifications juridiques retenues à l'encontre de la prénommée. C'est dès lors à juste titre que sa qualité pour former opposition sous l'angle de l'<ref-law> lui a aussi été déniée, faute pour lui de justifier d'un intérêt juridiquement protégé. Sous cet angle également, l'invocation du principe de l'unité de la procédure ne lui est d'aucun secours.
Il s'ensuit que les griefs du recourant ne peuvent qu'être rejetés dans la mesure de leur recevabilité.
4.
Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Le recourant, qui succombe, supporte les frais judiciaires (cf. <ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au recourant, à son mandataire et au Tribunal cantonal de l'État de Fribourg, Chambre pénale.
Lausanne, le 3 mars 2022
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
La Présidente : Jacquemoud-Rossari
Le Greffier : Dyens