Faits :
A.
Par jugement du 3 juin 2020 du Tribunal du IIIe arrondissement pour le district d'Entremont, A._ a été reconnu irresponsable (<ref-law>) et acquitté des chefs de prévention de diffamation (<ref-law>), d'injure (<ref-law>), de contrainte (<ref-law>), de violation de domicile (<ref-law>) et d'utilisation abusive d'une installation de télécommunication (<ref-law>). Le tribunal a en outre - sur la base d'un rapport d'expertise psychiatrique du 16 juillet 2019 et de son complément du 7 octobre 2019 - ordonné que le prénommé soit soumis à un traitement thérapeutique institutionnel (<ref-law>), la durée de l'hospitalisation à des fins d'expertise, ordonnée du 14 au 19 février 2019, étant imputée sur cette mesure. Il a par ailleurs été interdit à A._ de prendre contact avec B.B._, de s'approcher de lui et d'accéder à un périmètre de moins de 100 mètres de ses logements, de quelque manière que ce soit pour une durée de cinq ans (<ref-law>). Le mandat d'arrêt décerné à l'encontre de A._ a été maintenu et sa diffusion étendue à l'Espace Schengen (SIS) jusqu'à l'entrée en force du jugement (<ref-law>). A._ devait verser à B.B._ une indemnité de 3'000 fr. pour le tort moral subi. Le tribunal a enfin mis à la charge de A._ les frais de la procédure (<ref-law>) ainsi que l'indemnité allouée à B.B._ pour ses dépenses occasionnées par la procédure (<ref-law>).
B.
Statuant par jugement du 17 décembre 2020, la Cour pénale I du Tribunal cantonal du Valais a très partiellement admis l'appel interjeté par A._ contre le jugement du 3 juin 2020. Celui-ci a été réformé en ce sens que le mandat d'arrêt (<ref-law>) était révoqué, le mandat de recherches, dont la diffusion a été étendue à l'Espace Schengen (SIS), étant en revanche maintenu (<ref-law>). Le jugement du 3 juin 2020 a été confirmé pour le surplus.
En substance, la cour cantonale a retenu les faits suivants.
B.a. C.B._ est décédée le 15 septembre 2014. Elle a laissé pour héritiers B.B._, son époux depuis 1974, et A._, son fils, né en 1972 d'une précédente union.
Le 23 novembre 2012, les trois précités avaient conclu devant notaire un pacte successoral, aux termes duquel étaient institués héritiers de C.B._, d'une part, B.B._, à raison de sa part légale (2/8) et de la quotité disponible, et, d'autre part, A._, pour sa réserve légale (3/8). Le pacte successoral prévoyait la constitution d'un trust au bénéfice des deux héritiers. L'avocat D._ avait été désigné comme exécuteur testamentaire.
B.b. Le 24 décembre 2015 au soir, à U._ (VS), A._, qui était énervé au sujet du partage de la succession de sa mère, a fait irruption dans le chalet de B.B._, sans y avoir été invité. Le dernier nommé lui a demandé de quitter les lieux, ce que A._ n'a pas entrepris. Une altercation verbale s'en est suivie au cours de laquelle A._ a tenté d'asséner une gifle à B.B._ avant d'affirmer que, si une avance d'hoirie de 120'000 fr. ne lui était pas versée dans les quatre jours, il allait revenir le " tabasser ". Effrayé, B.B._ a fait appel à la police. Il a déposé plainte le 31 décembre 2015.
Apeuré par les menaces proférées par son beau-fils et soucieux d'éviter que celui-ci les mette à exécution, B.B._ a demandé à l'avocat D._, exécuteur testamentaire de sa défunte épouse, de verser à A._, à titre d'avance d'hoirie, la somme de 120'000 fr. réclamée par celui-ci. Ce versement a été effectué le 8 janvier 2016.
B.c. Dans deux e-mails adressés le 6 août 2016 à B.B._, ainsi qu'à des tiers, A._ a laissé délibérément entendre que celui-là avait adopté des agissements susceptibles d'être constitutifs de fraude fiscale, de gestion déloyale, de chantage ainsi que d'homicides notamment à l'égard de son épouse et du père de celle-ci.
Dans des e-mails adressés le 10 janvier 2017 à B.B._, ainsi qu'à des tiers, A._ les a traités de " dum ass holes corrupt primates ", de " dumm bastards ", de "bunch of ass holes " et de " corrupt bastard ".
B.d. Le 19 janvier 2017, à Genève, A._ s'est rendu devant le bâtiment où logeait B.B._. Sous prétexte d'avoir oublié une jaquette lors d'une conférence ayant eu lieu dans ce bâtiment, il a convaincu le concierge de lui ouvrir la porte d'entrée. Une fois à l'intérieur, au moment où il s'apprêtait à monter à l'étage où se situait l'appartement de B.B._, le concierge l'a reconnu et lui a demandé de quitter les lieux, ce que celui-ci a entrepris.
B.e. Entre le 18 et 22 mai 2017, alors qu'il se trouvait à Londres ou à Genève, A._ a adressé à B.B._, ainsi qu'à des tiers, depuis ses adresses électroniques (A._@xxx et info@xxx), de multiples e-mails représentant, une fois imprimés, quelque 500 pages. Les passages suivants, parmi les e-mails en cause, faisaient référence à B.B._:
- le 18 mai 2017, à 21 heures 13: " IL DELIRE ET LANCE DES ATTAQUES A REPETITION CEST PLUS GRAVES CE CRIMINEL DE B.B._ ";
- le 18 mai 2017, à 21 heures 18: " [...] ON SE DEMANDE DONC SIL CEST PAS UN COUT ORGANISER DE LA MAFIA IL SEMBLE SOUS LEMPRISE DE LA MAFIA ";
- le 18 mai 2017, à 21 heures 40: " maitre M._ nous devons vous amener -es informations dans la mesure ou cela dure a présent et B.B._ ment à gauche et a droite ";
- le 18 mai 2017, à 21 heures 46: " dans la mesure ou il y a 6 morts de familles autour de -B.B._ suspect depuis 1983 il a un mobile et sont comportement confirme a present le mobile ";
- le 19 mai 2017, à 5 heures 58: " pot de vin de B.B._ ";
- le 19 mai 2017, à 5 heures 59: " B.B._ a l'habitude de remettre des enveloppes cash pour payer la galleries et corruption ";
- le 19 mai 2017, à 6 heures 17: " FRAUDE FISCAL DE B.B._ ET CORRUPTION EN BANDE ORGANISEE ";
- le 19 mai 2017, à 18 heures 46: " indeed B.B._ and D._ are evils incarnation on earth ";
- le 19 mai 2017, à 18 heures 49: " B.B._ IS AN EVIL HORRIBLE LIAR AND SMALL MANIPULATOR AND A SICK BASTARD ".
B.f. A._ a fait l'objet d'une expertise psychiatrique réalisée par le Prof. E._, médecin psychiatre, et F._, psychologue.
Dans leur rapport du 16 juillet 2019, les experts ont conclu à l'existence d'un trouble délirant persistant (F-22.9) et de traits de personnalité paranoïaque quérulente (Z-73.1), présents tant au moment des faits qu'à la date du rapport, ses propos délirants étant spécifiquement focalisés autour du litige avec B.B._ et du partage de la succession de sa mère. En raison de son trouble, A._ n'était pas en mesure de considérer la réalité telle qu'elle était, ses croyances étant ancrées sur de fausses convictions dont il ne pouvait se départir.
Les experts ont en outre relevé que A._ était hautement susceptible de poursuivre son activité d'écriture de courriels au contenu diffamatoire et injurieux, de même que de s'en prendre verbalement à B.B._. Ils ont ainsi considéré que la situation actuelle était préoccupante, avec un risque de récidive élevé, dès lors également que l'expertisé ne bénéficiait d'aucun suivi psychiatrique.
S'agissant des mesures à mettre en oeuvre, les experts ont relevé la nécessité d'une médication appropriée et engagée sur le long terme, relevant que le traitement mis en place lors de son hospitalisation (à des fins d'expertise) avait eu un effet rapide sur l'expression symptomatique de sa maladie. Par conséquent, ils ont préconisé l'instauration d'une mesure thérapeutique en milieu ouvert (au sens de l'<ref-law>) et ce dans la perspective de mettre en place une médication appropriée au trouble dont souffrait l'expertisé, puis de passer vers un suivi ambulatoire (au sens de l'<ref-law>) dans un second temps. Selon les experts, il n'y avait pas lieu de prononcer une mesure thérapeutique en milieu fermé, l'expertisé n'étant pas violent physiquement, ni connu pour des troubles du registre dyssocial. Ainsi, lors de leur dernier entretien, A._ ne s'était pas formellement opposé à l'instauration d'un suivi psychiatrique et d'un traitement.
B.g. Dans leur rapport complémentaire du 7 octobre 2019, les experts ont relevé que l'élaboration faite par l'expertisé de ses complaintes à l'encontre de B.B._, indépendamment des circonstances ou de l'attitude de ce dernier, était clairement pathologique. Ils ont précisé que l'instauration d'un traitement médicamenteux de type neuroleptique était nécessaire pour contenir les troubles psychiques constatés, confirmant par ailleurs que, compte tenu de la gravité du tableau clinique, de l'absence d'hétéro-anamnèse et de l'anosognosie de l'expertisé, l'instauration d'un tel traitement ainsi que l'observance de ses effets devait se faire en milieu hospitalier avant d'élargir le cadre avec un passage en suivi obligatoire ambulatoire au sens de l'<ref-law>.
B.h. Le casier judiciaire suisse de A._ fait état de deux condamnations, prononcées en 2012 et 2013, pour violation grave de la circulation routière (<ref-law>).
C.
Par acte du 28 janvier 2021, A._ forme un recours en matière pénale au Tribunal fédéral contre le jugement du 17 décembre 2020. Il demande, avec suite de frais et dépens, que " le jugement du 17 décembre 2020 [soit] réformé et renvoyé au Tribunal cantonal du Canton du Valais pour une nouvelle décision dans le sens des considérants ".
Par une écriture datée du 5 mars 2021, la Dresse G._, psychologue et psychothérapeute à V._ (W._), en Italie, se détermine spontanément sur la situation personnelle de son patient A._. Elle produit différentes pièces.
Invité à se déterminer, la cour cantonale conclut au rejet du recours. B.B._ conclut principalement à l'irrecevabilité du recours, subsidiairement à son rejet. Le ministère public renonce à présenter des observations.
A._ et la cour cantonale présentent des déterminations ultérieures et persistent dans leurs conclusions respectives.

Considérant en droit :
1.
Le recours en matière pénale est une voie de réforme (<ref-law>). Le recourant ne peut se borner à demander l'annulation de la décision et le renvoi de la cause à l'autorité cantonale, mais doit également, sous peine d'irrecevabilité, prendre des conclusions sur le fond du litige. Il n'est fait exception à ce principe que lorsque le Tribunal fédéral, s'il admettait le recours, ne serait pas en mesure de statuer lui-même sur le fond et ne pourrait que renvoyer la cause à l'autorité cantonale (<ref-ruling> consid. 1.3 p. 317; <ref-ruling> consid. 1.3 p. 383; <ref-ruling> consid. 3.1 p. 489 s.; arrêts 6B_832/2020 du 22 février 2021 consid. 1; 6B_757/2020 du 4 novembre 2020 consid. 1).
En l'occurrence, le recourant demande simultanément la réforme du jugement du 17 décembre 2020 et le renvoi de la cause à l'autorité précédente pour nouvelle décision. Ce faisant, il ne précise pas quelles sont les modifications du jugement attaqué qu'il entend concrètement solliciter sur le fond. Les motifs du recours permettent toutefois de comprendre qu'il conclut, d'une part, au prononcé d'un traitement ambulatoire (<ref-law>), en lieu et place du traitement institutionnel (<ref-law>) ordonné par la cour cantonale, ainsi que, d'autre part, à l'irrecevabilité, respectivement au rejet, des conclusions civiles de l'intimé tendant à l'allocation d'une indemnité pour tort moral. Cela suffit tout juste pour satisfaire aux exigences de forme déduites de l'art. 42 al. 1 et 2 LTF.
2.
En vertu de l'<ref-law>, sont irrecevables l'écriture de la Dresse G._ du 5 mars 2021 ainsi que les pièces qui y étaient annexées, l'acte en cause ayant été produit après l'échéance du délai de recours, alors que la prénommée n'est de surcroît pas partie à la procédure.
3.
Le recourant conteste la capacité de postuler de l'avocat K._, conseil juridique de l'intimé. Il soutient que ce conseil avait agi sous l'emprise d'un conflit d'intérêts, incompatible avec l'art. 12 let. c LLCA, dans la mesure où l'exécuteur testamentaire de la succession de sa mère, soit l'avocat D._, exerce dans la même étude.
3.1.
3.1.1. Selon l'<ref-law>, le prévenu, la partie plaignante et les autres participants à la procédure peuvent se faire assister d'un conseil juridique pour défendre leurs intérêts. Dans les limites de la loi et des règles de sa profession, un conseil juridique peut défendre les intérêts de plusieurs participants à la procédure dans la même procédure (<ref-law>). Aux termes de l'<ref-law>, les parties peuvent choisir pour conseil juridique toute personne digne de confiance, jouissant de la capacité civile et ayant une bonne réputation; la législation sur les avocats est réservée.
L'autorité en charge de la procédure statue d'office et en tout temps sur la capacité de postuler d'un mandataire professionnel (<ref-ruling> consid. 2.2 p. 261). En effet, l'interdiction de postuler dans un cas concret - à distinguer d'une suspension provisoire ou définitive - ne relève en principe pas du droit disciplinaire, mais du contrôle du pouvoir de postuler de l'avocat (<ref-ruling> consid. 2.5.1 p. 168; arrêt 1B_226/2016 du 15 septembre 2016 consid. 2). Parmi les règles professionnelles que doit respecter l'avocat, l'art. 12 let. c LLCA prévoit qu'il doit éviter tout conflit entre les intérêts de son client et ceux des personnes avec lesquelles il est en relation sur le plan professionnel ou privé. L'interdiction de plaider en cas de conflit d'intérêts est une règle cardinale de la profession d'avocat. Elle est en lien avec la clause générale de l'<ref-law> - selon laquelle l'avocat exerce sa profession avec soin et diligence -, avec l'obligation d'indépendance figurant à l'<ref-law>, ainsi qu'avec l'<ref-law> relatif au secret professionnel. Le Tribunal fédéral a souvent rappelé que l'avocat a notamment le devoir d'éviter la double représentation, c'est-à-dire le cas où il serait amené à défendre les intérêts opposés de deux parties à la fois, car il n'est alors plus en mesure de respecter pleinement son obligation de fidélité et son devoir de diligence envers chacun de ses clients (<ref-ruling> consid. 2.1 p. 221 s. et les références citées).
Les règles susmentionnées visent avant tout à protéger les intérêts des clients de l'avocat, en leur garantissant une défense exempte de conflit d'intérêts. Elles tendent également à garantir la bonne marche du procès, en particulier en s'assurant qu'aucun avocat ne soit restreint dans sa capacité de défendre l'un de ses clients - notamment en cas de défense multiple -, respectivement en évitant qu'un mandataire puisse utiliser les connaissances d'une partie adverse acquises lors d'un mandat antérieur au détriment de celle-ci. Les critères suivants peuvent permettre de déterminer l'existence ou non de mandats opposés dans un cas concret: l'écoulement du temps entre deux mandats, la connexité (factuelle et/ou juridique) de ceux-ci, la portée du premier mandat - à savoir son importance et sa durée -, les connaissances acquises par l'avocat dans l'exercice du premier mandat, ainsi que la persistance d'une relation de confiance avec l'ancien client. Le devoir de fidélité exclut a fortiori que l'avocat procède contre un client actuel (<ref-ruling> consid. 2.1 p. 222 s. et les références citées).
Il faut éviter toute situation potentiellement susceptible d'entraîner des conflits d'intérêts. Un risque purement abstrait ou théorique ne suffit pas, le risque doit être concret. Il n'est toutefois pas nécessaire que le danger concret se soit réalisé et que l'avocat ait déjà exécuté son mandat de façon critiquable ou en défaveur de son client. Dès que le conflit d'intérêts survient, l'avocat doit mettre fin à la représentation. Il y a notamment violation de l'art. 12 let. c LLCA dès que survient la possibilité d'utiliser, consciemment ou non, dans un nouveau mandat les connaissances acquises antérieurement, sous couvert du secret professionnel, dans l'exercice d'un mandat antérieur (<ref-ruling> consid. 2.1 p. 223 et les arrêts cités).
3.1.2. L'interdiction des conflits d'intérêts ne se limite pas à la personne même de l'avocat, mais s'étend à l'ensemble de l'étude ou du groupement auquel il appartient (arrêt 5A_967/2014 du 27 mars 2015 consid. 3.3.2). Sous cet angle, sont donc en principe concernés tous les avocats exerçant dans une même étude au moment de la constitution du mandat, peu importe leur statut (associés ou collaborateurs) et les difficultés que le respect de cette exigence découlant des règles professionnelles peut engendrer pour une étude d'une certaine taille (<ref-ruling> consid. 2.2 et les références citées).
3.1.3. Le disposant peut, par une disposition pour cause de mort, charger un exécuteur testamentaire d'exécuter ses dernières volontés (<ref-law>). En principe, l'exécuteur testamentaire a les droits et les devoirs de l'administrateur officiel d'une succession (<ref-law>). Lorsque le testateur n'en dispose pas autrement, l'exécuteur testamentaire est chargé de faire respecter la volonté du défunt, notamment de gérer la succession, de payer les dettes de la succession et du défunt, d'acquitter les legs et de préparer le partage conformément aux ordres du disposant ou suivant la loi (<ref-law>; <ref-ruling> consid. 4.3.1; arrêt 5A_50/2019 du 20 juin 2019 consid. 3). L'exécuteur testamentaire est responsable de la bonne et fidèle exécution des tâches qui lui sont confiées; cette responsabilité à l'égard des héritiers s'apprécie comme celle d'un mandataire, auquel on l'assimile (<ref-law>; <ref-ruling> consid. 4.1 et 4.3; arrêts 5A_488/2018 du 10 mai 2019 consid. 4.4.2.1; 4A_552/2016 du 24 mai 2017 consid. 3; 5A_55/2016 du 11 avril 2016 consid. 3.1). L'exécuteur testamentaire doit agir au mieux des intérêts de la succession; il jouit à cet égard d'un grand pouvoir d'appréciation, limité d'une part par le droit de recours des héritiers à l'autorité de surveillance, d'autre part, par son devoir de diligence sanctionné par sa responsabilité à leur égard (<ref-ruling> consid. 4.3.1 in fine et les références).
3.2. En l'espèce, il est constant que les avocats K._ et D._ exercent tous deux au sein de l'Etude H._, qui compte plusieurs dizaines d'avocats collaborateurs et associés, le premier étant actif au site valaisan de l'étude, à Sion, le second à son site genevois (cf. jugement attaqué, consid.1.4.2 p. 9).
La cour cantonale a estimé qu'en sa qualité d'exécuteur testamentaire, l'avocat D._ avait certes pour mission de faire respecter les dernières volontés de C.B._, décédée le 15 septembre 2014, et d'administrer sa succession jusqu'à l'achèvement des opérations de partage. Pour autant, il n'était pas établi que le recourant ou l'intimé avait personnellement mandaté l'avocat D._, que ce soit dans le cadre de sa pratique de la représentation en justice ou d'une autre activité typique ou atypique de l'avocat. Il n'y avait ainsi rien d'évident à considérer que cet avocat avait eu connaissance, dans le cadre de son mandat d'exécuteur testamentaire, d'informations couvertes par le secret professionnel qui étaient en lien avec les faits reprochés au recourant, lesquels se rapportaient exclusivement à l'altercation du 24 décembre 2015, à la visite avortée du recourant à l'intimé, le 10 janvier 2017, ainsi qu'au contenu et à l'ampleur des e-mails adressés par le recourant entre 2016 et 2017. Aussi, l'éventualité que l'avocat K._ pût, consciemment ou non, exploiter pour les besoins de la procédure pénale de prétendues informations secrètes par les parties à son confrère genevois n'était guère manifeste (cf. jugement attaqué, consid. 1.4.2 p. 9 s.).
Face à cette argumentation, le recourant se borne à soutenir qu'il lui était impossible d'alléguer les circonstances justifiant un risque concret que la situation entraîne un conflit d'intérêts, faute pour lui de connaître les relations personnelles entre les deux avocats concernés. Il ne tente toutefois nullement d'expliquer, en référence à la motivation développée par la cour cantonale, quel genre d'informations, que ce soit en lien avec les faits objets de la procédure ou avec le litige successoral proprement dit, pourrait avoir été communiqué par l'avocat D._, ni dans quelle mesure l'avocat K._ était concrètement susceptible de les utiliser à son détriment dans la procédure pénale.
Cela étant, à défaut d'indices laissant supposer la possibilité pour le conseil de l'intimé de mettre à profit de ce dernier, dans la procédure pénale, des connaissances pertinentes acquises dans le cadre du mandat d'exécuteur testamentaire accompli par son confrère exerçant au sein de la même étude, de même qu'en l'absence de connexité juridique et factuelle évidente entre les mandats en cause, on ne voit pas qu'en elle-même la configuration d'espèce entraîne déjà, au détriment du recourant, un risque concret de divulgation, entre les deux avocats, d'informations couvertes par le secret. Dans ce contexte, il ne saurait être considéré que l'avocat K._ est dans l'incapacité de postuler pour le compte de l'intimé au motif que son mandat contreviendrait à l'art. 12 let. c LLCA. Le grief doit dès lors être rejeté dans la mesure de sa recevabilité.
4.
Le recourant invoque ensuite une violation du libre choix de l'avocat. Il se plaint en substance que l'avocat I._ l'avait seul représenté, en qualité de défenseur d'office, aux débats de première instance qui se sont tenus le 3 juin 2020, alors qu'il avait confié la défense de ses intérêts à un défenseur de choix, en la personne de l'avocat J._.
4.1. Dans ses développements, le recourant ne conteste cependant pas que l'avocat J._, qu'il avait mandaté comme défenseur de choix à la fin mars 2020, avait annoncé le 23 avril 2020 à la Présidente du Tribunal du district de l'Entremont qu'il ne serait pas en mesure de se rendre aux débats initialement prévus le 18 mai 2020, sollicitant implicitement leur annulation, dès lors qu'il était une " personne à risque " au regard de la pandémie de Covid-19. Il ne conteste pas non plus que cette objection avait été écartée par la Présidente, qui avait assuré à l'avocat J._, le 24 avril 2020, que les audiences pouvaient se tenir dans le respect des recommandations de l'Office fédéral de la santé publique (OFSP) en matière d'hygiène et d'éloignement social, alors en vigueur. Il ne conteste enfin pas que la nouvelle désignation de l'avocat I._ - lequel avait déjà été son défenseur d'office entre le 14 février 2019 et le 16 avril 2020 -, était intervenue le 19 mai 2020, après que les débats du 18 mai 2020 avaient finalement été ajournés, alors qu'il devenait urgent, selon la Présidente, que la cause fût tranchée compte tenu des conclusions de l'expertise psychiatrique et qu'il était à craindre que l'avocat J._ ne se présente pas non plus aux débats nouvellement fixés au 3 juin 2020 (cf. jugement attaqué, consid. 4.2.1 et 4.2.2, p. 20 ss).
Pour autant, le recourant, dispensé de comparution personnelle aux débats du 3 juin 2020 à la suite d'une requête en ce sens de son défenseur de choix, ne prétend pas que ce dernier, qui était lui-même absent aux débats, s'était prévalu d'une incapacité de s'y présenter ou avait sollicité pour un autre motif leur report. Il ne tente d'ailleurs pas de démontrer que le statut de " personne à risque " de son défenseur de choix aurait été suffisant pour obtenir un nouvel ajournement d'audience au regard des dispositions particulières prévalant à la date en cause, sur le plan fédéral ou cantonal, en lien avec la pandémie de Covid-19. Dans ce contexte, en particulier dans la mesure où il n'est pas établi que l'avocat J._ - lequel était toujours mandaté comme conseil de choix du recourant - avait été empêché d'assurer la défense des intérêts de ce dernier lors des débats de première instance du 3 juin 2020, le cas échéant conjointement avec l'avocat I._, on ne voit pas que le droit au libre choix de l'avocat a été enfreint. A tout le moins, le recourant ne tente pas, par les développements contenus dans son acte de recours, de démontrer que la cour cantonale a méconnu ses droits fondamentaux en la matière (cf. <ref-law>).
Par ailleurs, dès lors que le recourant avait été lui-même dispensé de comparution pour les débats du 3 juin 2020 et qu'il était à cette occasion représenté par son défenseur d'office, s'agissant du reste d'un cas de défense obligatoire compte tenu de l'intervention du ministère public (cf. art. 130 let. d CPP), il n'apparaît pas que l'<ref-law> a été violé.
4.2. Au surplus, en tant que le recourant reproche également au défenseur d'office d'être intervenu sur le plan civil en demandant en mai 2020 au conseil de l'intimé l'annulation de la convention de partage conclue en février 2020 - ce qu'il n'aurait pas eu la compétence de faire et qui exclurait qu'il soit indemnisé -, son argumentation repose sur des faits qui n'ont pas été retenus par l'autorité précédente (<ref-law>), sans que le recourant soulève un grief d'arbitraire sur ce point (<ref-law>). Les échanges de correspondances que le recourant produit à l'appui de sa démonstration sont du reste irrecevables (<ref-law>) dans la mesure où ils ne figurent pas au dossier cantonal.
Le grief doit dès lors être rejeté dans la mesure de sa recevabilité.
5.
Le recourant se plaint également de n'avoir personnellement comparu ni aux débats de première instance, ni à ceux d'appel, ce qui serait selon lui constitutif d'une violation de son droit à un procès équitable (art. 6 CEDH) ainsi que de son droit d'être entendu (art. 29 Cst.).
Il est toutefois déduit des développements du recourant que, sous couvert de ce grief tiré d'une violation de garanties de procédure, celui-ci reproche en définitive uniquement à la cour cantonale de ne pas avoir pris en considération, dans son jugement, les arguments qu'il entendait personnellement soulever à l'audience d'appel pour démontrer qu'il se sentait mieux sur le plan psychique, dès lors que la succession de sa mère était désormais liquidée à sa satisfaction, et qu'il n'y avait donc pas matière à ordonner un traitement institutionnel (cf. également procès-verbal de l'audience du 3 décembre 2020; P. 1502). Or, dans la mesure où le jugement attaqué doit être annulé précisément pour que la cour cantonale aborde ces questions au moment de déterminer si un traitement institutionnel demeure proportionné au regard de l'<ref-law> (cf. consid. 6.4 infra), il n'y a pas lieu d'examiner plus avant le bien-fondé du présent grief, qui ne paraît au demeurant pas répondre aux exigences de motivation déduites de l'<ref-law>.
6.
Le recourant conteste le traitement institutionnel (<ref-law>) ordonné à son égard. Sans pour autant remettre en cause son irresponsabilité pénale et la nécessité de prononcer une mesure (cf. <ref-law>), il soutient que le prononcé d'un traitement ambulatoire (<ref-law>) est suffisant pour atténuer le risque de récidive, dès lors en particulier que le litige successoral l'ayant opposé à l'intimé est désormais réglé.
6.1. Conformément à l'<ref-law>, une mesure doit être ordonnée si une peine seule ne peut écarter le danger que l'auteur commette d'autres infractions, si l'auteur a besoin d'un traitement ou que la sécurité publique l'exige et si les conditions prévues aux art. 59 à 61, 63 ou 64 CP sont remplies (al. 1). Le prononcé d'une mesure suppose que l'atteinte aux droits de la personnalité qui en résulte pour l'auteur ne soit pas disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité (al. 2). Concrètement, il convient de procéder à une pesée des intérêts divergents en présence, c'est-à-dire entre la gravité du danger que la mesure cherche à éviter et l'importance de l'atteinte aux droits de la personne concernée inhérente à la mesure. Une mesure disproportionnée ne doit pas être ordonnée, ni maintenue. Le principe de la proportionnalité recouvre trois aspects. Une mesure doit être propre à améliorer le pronostic légal chez l'intéressé (principe de l'adéquation). En outre, elle doit être nécessaire. Elle sera inadmissible si une autre mesure, qui s'avère également appropriée, mais porte des atteintes moins graves à l'auteur, suffit pour atteindre le but visé (principe de la nécessité ou de la subsidiarité). Enfin, il doit exister un rapport raisonnable entre l'atteinte et le but visé (principe de la proportionnalité au sens étroit). La pesée des intérêts doit s'effectuer entre, d'une part, la gravité de l'atteinte aux droits de la personne concernée et, d'autre part, la nécessité d'un traitement et la vraisemblance que l'auteur commette de nouvelles infractions. S'agissant de l'atteinte aux droits de la personnalité de l'auteur, celle-ci dépend non seulement de la durée de la mesure, mais également des modalités de l'exécution (arrêts 6B_817/2020 du 23 décembre 2020 consid. 3.1.2; 6B_875/2019 du 9 septembre 2019 consid. 1.1; 6B_823/2018 du 12 septembre 2018 consid. 2.1).
Aux termes de l'<ref-law>, pour ordonner une des mesures prévues aux art. 59 à 61, 63 et 64 CP ou en cas de changement de sanction au sens de l'<ref-law>, le juge se fonde sur une expertise. Celle-ci se détermine sur la nécessité et les chances de succès d'un traitement (let. a); sur la vraisemblance que l'auteur commette d'autres infractions et sur la nature de celles-ci (let. b); sur les possibilités de faire exécuter la mesure (let. c). Dans ce cadre, l'expert devra se prononcer, en particulier, sur la forme du traitement et la mesure qui lui semble la plus appropriée (cf. sous l'ancien droit: <ref-ruling> consid. 3b p. 128; plus récemment arrêt 6B_39/2018 du 5 juillet 2018 consid. 1.1.2). Il incombe cependant au juge de déterminer si une mesure doit être ordonnée et, cas échéant, laquelle. En effet, ce n'est pas à l'expert, mais bien au juge qu'il appartient de résoudre les questions juridiques qui se posent, dans le complexe de faits faisant l'objet de l'expertise (arrêts 6B_568/2019 du 17 septembre 2019 consid. 6.1; 6B_893/2019 du 10 septembre 2019 consid. 1.1 et les références citées). Le juge apprécie en principe librement une expertise et n'est pas lié par les conclusions de l'expert. Toutefois, il ne peut s'en écarter que lorsque des circonstances ou des indices importants et bien établis en ébranlent sérieusement la crédibilité. Il est alors tenu de motiver sa décision de ne pas suivre le rapport d'expertise. Inversement, si les conclusions d'une expertise judiciaire apparaissent douteuses sur des points essentiels, le juge doit recueillir des preuves complémentaires pour tenter de dissiper ses doutes. A défaut, en se fondant sur une expertise non concluante, il pourrait commettre une appréciation arbitraire des preuves et violer l'art. 9 Cst. (<ref-ruling> consid. 2.3.1 p. 53 et les références citées; arrêt 6B_993/2020 du 13 octobre 2020 consid. 1.1).
6.2. L'<ref-law> prévoit que, lorsque l'auteur souffre d'un grave trouble mental, le juge peut ordonner un traitement institutionnel si l'auteur a commis un crime ou un délit en relation avec ce trouble (let. a) et s'il est à prévoir que cette mesure le détournera de nouvelles infractions en relation avec ce trouble (let. b). Le traitement institutionnel s'effectue dans un établissement psychiatrique approprié ou dans un établissement d'exécution de mesure (<ref-law>).
Aux termes de l'<ref-law>, lorsque l'auteur souffre d'un grave trouble mental, est toxico-dépendant ou souffre d'une autre addiction, le juge peut ordonner un traitement ambulatoire au lieu d'un traitement institutionnel, si l'auteur a commis un acte punissable en relation avec son état (let. a) et s'il est à prévoir que ce traitement le détournera de nouvelles infractions en relation avec son état (let. b).
6.3. Suivant en cela les conclusions de l'expertise psychiatrique, qu'aucun élément probant ne venait remettre en cause, la cour cantonale a jugé qu'en l'absence d'observation stricte d'un traitement médicamenteux visant à contenir le trouble délirant persistant et les traits de personnalité paranoïaque du recourant, il subsistait un risque élevé de réitération d'actes délictueux qui seraient commis à l'égard de l'intimé. Compte tenu également des réticences manifestées par le recourant à ingérer des psychotropes, un traitement ambulatoire était insuffisant, dans un premier temps à tout le moins, à réduire la perspective d'un risque de récidive. Ainsi, en l'état, en particulier pour préserver la sécurité publique, seul un traitement institutionnel entrait en ligne de compte (cf. jugement attaqué, consid. 5.2.2 p. 27).
6.4. Ce faisant, alors qu'à dires d'experts, les propos délirants du recourant étaient spécifiquement focalisés autour du litige relatif à la succession de sa mère, qui l'opposait à l'intimé (cf. rapport d'expertise, p. 16), la cour cantonale n'a toutefois pas pris en considération l'évolution de ce litige depuis les dates du rapport d'expertise (16 juillet 2019) et de son complément (7 octobre 2019). Or, dès lors également que le risque de récidive portait sur la " poursuite de l'activité d'écriture de courriels aux contenus diffamatoires et injurieux " et sur le fait " de s'en prendre verbalement " à l'intimé dans un registre similaire (cf. rapport d'expertise, p. 17), les développements des relations entre les parties apparaissaient en l'espèce déterminants au moment de juger si un traitement institutionnel demeure proportionné au regard de l'<ref-law>.
En particulier, la cour cantonale n'explique pas les raisons pour lesquelles il n'y avait pas lieu de prendre en considération les explications données, pièces à l'appui, par le défenseur du recourant en procédure d'appel quant à l'issue qui aurait été donnée au litige successoral. Il en ressort qu'une convention de partage avait finalement été conclue entre les parties les 14 et 24 février 2020, puis approuvée, pour acquérir autorité de force jugée, par décision du 13 octobre 2020 du Tribunal de l'Entremont, qui était également saisi du litige civil opposant les parties (cf. dossier cantonal, P. 1459). L'exécuteur testamentaire avait en outre par la suite requis, le 12 novembre 2020, la modification de l'inscription au Registre foncier de deux immeubles à Genève, dont le recourant était devenu propriétaire ensuite du partage de la succession (cf. dossier cantonal, P. 1509). Lors de l'audience d'appel, le défenseur du recourant avait du reste assuré que son mandant avait perçu sa part dans la succession et la gérait (cf. procès-verbal de l'audience du 3 décembre 2020, p. 1, P. 1502). Il est également déterminant de relever que, si l'on excepte la réception par l'intimé, le 10 avril 2020, d'e-mails injurieux dont l'expéditeur ne pouvait être que le recourant (cf. jugement attaqué, consid. 5.2.2 p. 27), celui-ci paraît avoir cessé, depuis juin 2019, l'envoi acharné à l'intimé d'écrits au contenu diffamatoire ou injurieux, le jugement entrepris ne faisant pas état d'autres actes répréhensibles commis par le recourant.
Dans ces circonstances, la cour cantonale ne pouvait pas se dispenser d'ordonner un complément d'expertise, portant en particulier sur la persistance du risque de récidive au regard de l'évolution, a priori favorable, du conflit opposant le recourant à l'intimé depuis les dernières déterminations des experts. Il ne saurait non plus être fait abstraction, sous l'angle de l'examen de l'intensité du risque de récidive, de " l'accompagnement psychologique " que le recourant alléguait avoir entrepris depuis août 2019 en Italie auprès des Drs G._ et L._. S'il faut admettre avec la cour cantonale qu'au regard des correspondances de la Dresse G._ produites au dossier cantonal, la nature et le but de cette démarche demeurent flous (cf. jugement entrepris, consid. 2.3.3.2 p. 16), il n'est néanmoins pas exclu que les experts puissent obtenir de leurs confrères italiens des éclaircissements quant aux effets du suivi qui aurait été entrepris depuis l'expertise. Par ailleurs, alors que les experts avaient relevé que le recourant " n'était pas violent physiquement ", n'étant pas connu pour des troubles du registre dyssocial (cf. rapport d'expertise, p. 17), ceux-là ne s'étaient apparemment pas prononcé sur l'opportunité de la mesure ordonnée par les deux instances précédentes à titre de l'<ref-law> (interdiction de contact et interdiction géographique), qui n'a pas été contestée par le recourant, ni sur la capacité de ce dernier à respecter cette mesure, qui paraît en soi propre à réduire le risque de récidive compte tenu de la nature des infractions redoutées, dont on rappelle qu'elles portent principalement sur des atteintes à la personnalité de l'intimé.
Cela étant, les considérations qui précèdent ne permettent pas de considérer que le traitement institutionnel ordonné à l'égard du recourant respecte les exigences de proportionnalité déduites de l'<ref-law>. Le grief doit dès lors être admis.
Cela étant, les considérations qui précèdent ne permettent pas de considérer que le traitement institutionnel ordonné à l'égard du recourant respecte les exigences de proportionnalité déduites de l'<ref-law>. Le grief doit dès lors être admis.
7. Dans un dernier grief, le recourant conteste les prétentions civiles de l'intimé, allouées à ce dernier, à hauteur de 3'000 fr., en réparation du tort moral subi (art. 49 et 54 CO).
En tant que le recourant se prévaut exclusivement d'un prétendu retrait de plainte de l'intimé, son argumentation repose une nouvelle fois sur des circonstances de faits qui n'ont pas été retenues par l'autorité précédente (<ref-law>), sans qu'il se prévale d'arbitraire à cet égard (<ref-law>). Le grief est dès lors irrecevable.
8. Le recours doit être partiellement admis. Le jugement attaqué est annulé et la cause renvoyée à la cour cantonale pour qu'elle statue dans le sens des considérants. Pour le surplus, le recours est rejeté dans la mesure de sa recevabilité.
Le recourant, qui n'obtient que partiellement gain de cause, supportera une partie des frais judiciaires (<ref-law>). Il peut prétendre à des dépens réduits, à la charge du canton du Valais (<ref-law>). Le recourant versera pour sa part des dépens réduits à l'intimé, qui obtient gain de cause quant aux aspects du jugement qui le concernaient et sur lesquels il était fondé à se déterminer, ce qui n'est pas le cas s'agissant de la problématique liée à l'adéquation de la mesure à mettre en oeuvre à l'égard du recourant, sur laquelle l'intimé n'avait pas à prendre position.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est partiellement admis. Le jugement attaqué est annulé et la cause est renvoyée à la cour cantonale pour nouvelle décision. Pour le surplus, le recours est rejeté dans la mesure où il est recevable.
2.
Une partie des frais judiciaires, arrêtée à 1500 fr., est mise à la charge du recourant.
3.
Le canton du Valais versera au recourant une indemnité de 1500 fr. à titre de dépens réduits pour la procédure devant le Tribunal fédéral.
4.
Le recourant versera à l'intimé une indemnité de 1000 fr. à titre de dépens réduits pour la procédure devant le Tribunal fédéral.
5.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du Valais, Cour pénale I.
Lausanne, le 8 juillet 2021
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
La Présidente : Jacquemoud-Rossari
Le Greffier : Tinguely