Faits :
A.
Par jugement du 17 janvier 2018, le Tribunal criminel de l'arrondissement de Lausanne a condamné X._, pour contrainte sexuelle et viol, à une peine privative de liberté de cinq ans, ainsi qu'à 40 heures de travail d'intérêt général. Il a suspendu l'exécution de ces peines au profit d'une mesure thérapeutique institutionnelle.
B.
Par jugement du 14 août 2018, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a rejeté l'appel formé par X._ ainsi que l'appel joint formé par le ministère public contre ce jugement et a intégralement confirmé celui-ci.
La cour cantonale a retenu les faits suivants.
B.a. X._, ressortissant serbe, est né en 1994 en Allemagne. Il présente une surdité sévère depuis la naissance. En Allemagne, il a fréquenté une école pour enfants présentant un retard de développement. Sa famille a été expulsée en 2002 et a émigré en Suisse en 2003. Dès avril 2004, X._ a été scolarisé à l'Ecole P._. Un important retard de développement et des difficultés non négligeables de communication y ont été observés, ainsi que des problèmes dans le rapport que l'intéressé entretenait avec la sexualité. X._ s'y est régulièrement entretenu avec la psychologue scolaire et a bénéficié d'un traitement psychomoteur et logopédique. Il a aussi été suivi par le Service de protection de la jeunesse. En 2007, il a entamé un traitement psychothérapeutique familial avec le Dr C._. Ce dernier a par la suite revu X._ lors de différents entretiens durant lesquels la problématique de sa sexualité a été abordée. Le prénommé a mis fin à ce suivi thérapeutique en 2014. Depuis cette même année, il perçoit une rente de l'AI. Il est en outre au bénéfice d'une curatelle de portée générale.
L'extrait de son casier judiciaire ne comprend aucune inscription. Il ressort cependant du dossier que X._ a été condamné pour actes d'ordre sexuel avec des enfants par le Tribunal des mineurs en 2009 et 2010, pour des faits s'étant déroulés entre 2007 et 2009. L'intéressé a aussi été condamné en 2013 pour actes d'ordre sexuel avec des enfants et contrainte sexuelle, pour des faits remontant à 2012. Une enquête est enfin en cours contre le prénommé, dans le canton de Berne, pour actes d'ordre sexuel avec des enfants ou contrainte sexuelle.
B.b. A Lausanne, dans la cave d'un immeuble, au cours d'un ou deux épisodes distincts, entre 2006 et 2009, X._ a caressé à même la peau les seins de D._, née en 1992. Passant outre les signes de refus de cette dernière, il l'a contrainte à subir une sodomie. Ensuite, X._ a poussé B._ à faire de même avant de faire défense à la prénommée de parler à qui que ce soit de ce qui s'était passé, sous peine de représailles. X._ a été libéré de ces faits en raison de leur prescription.
A Lausanne, X._, usant de l'ascendant qu'il avait sur B._ et de la peur qu'il lui inspirait, a emmené ce dernier près d'un local à poubelles en le tenant par le bras, lui déclarant qu'il avait "envie de sexe", puis l'a contraint à subir une sodomie.
A Lausanne, entre 2004 et 2009, X._ a contraint E._, née en 1992, à subir une pénétration vaginale, en exerçant sur elle des pressions d'ordre psychique et en usant de l'ascendant qu'il avait sur elle. Il a été libéré de ces faits en raison de leur prescription.
A Lausanne, à plusieurs reprises entre 2004 et 2009, X._ a contraint F._, née en 1997, à lui prodiguer des fellations et à le masturber, en la menaçant notamment de la frapper si elle refusait de s'exécuter ou si elle parlait de ce qui s'était passé à des tiers.
A Lausanne, à plusieurs reprises entre 2004 et 2009, X._, passant outre les signes de refus de G._, née en 1994, a contraint celle-ci à subir des pénétrations vaginales, en exerçant sur elle des pressions d'ordre psychique et en usant de l'ascendant qu'il avait sur elle.
A Lausanne, entre 2004 et 2009, X._ a, à plusieurs reprises, contraint H._, née en 1995, à lui prodiguer des fellations, en exerçant sur elle des pressions d'ordre psychique et en usant de l'ascendant qu'il avait sur elle. Durant la même période, entre Lausanne et Genève, à l'occasion d'un transport en bus scolaire, passant outre les signes de refus de la prénommée et profitant de la peur qu'il lui inspirait, X._ a contraint celle-ci à lui prodiguer une fellation et à le masturber à deux reprises.
A Renens, en 2014, à au moins sept reprises, X._ a contraint I._ à subir ou à effectuer des actes d'ordre sexuel, principalement des fellations et des sodomies, en usant de menaces et de pressions d'ordre psychique ainsi qu'en profitant de la peur qu'il lui inspirait.
A Pully, en 2014, au cours d'un trajet en voiture, X._ a sorti son sexe en érection devant J._ puis, alors que cette dernière lui demandait de se rhabiller, a pris la main de la prénommée pour la placer sur son sexe, avant de se masturber jusqu'à éjaculation.
B.c. En cours d'instruction, X._ a été soumis à une première expertise psychiatrique. Les Drs K._ et L._, médecins auprès du Département de psychiatrie du CHUV, ont rendu un rapport daté du 24 novembre 2015, dont il ressort notamment que l'intéressé présente un retard du développement mental, dans le contexte d'une surdité-mutité bilatérale congénitale, survenue dans un milieu, notamment familial, carencé. Selon la classification internationale, celui-ci souffrait d'un retard mental léger à moyen avec troubles du contrôle des impulsions, notamment sur le plan sexuel, ainsi que d'une surdi-mutité. Les experts n'ont pas mis en évidence d'éléments de nature pathologique susceptibles de participer à une réduction des capacités de X._ à comprendre l'illicéité de ses actes. Par contre, les difficultés qu'il présentait pour gérer ses pulsions sexuelles avaient pu participer à une légère réduction de ses capacités volitives, de sorte que la responsabilité pénale était légèrement diminuée sur le plan psychiatrique mais devait être considérée comme entière s'il devait être avéré que le prénommé avait filmé certains de ses agissements. Les experts ont par ailleurs considéré qu'il appartenait à la justice de déterminer si le trouble mental dont souffrait l'intéressé était grave ou non. L'expert K._ a en outre expliqué que ce trouble entraînait une altération fonctionnelle manifeste, notamment par le fait que X._ avait besoin d'une rente de l'AI et d'une curatelle de portée générale.
B.d. X._ été soumis à une seconde expertise psychiatrique, réalisée par le Dr M._, psychiatre et psychothérapeute FMH, qui a rendu un rapport daté du 21 décembre 2016. Il en ressortait que celui-ci souffrait de surdité neurosensorielle bilatérale, de retard mental léger et de trouble de la personnalité, de type personnalité dyssociale. Lors des débats de première instance, cet expert a maintenu son diagnostic, qu'il a qualifié de "limite", malgré l'appréciation divergente de l'expert K._.
B.e. Selon un rapport de comportement du Service pénitentiaire de la prison N._ du 4 janvier 2018, X._ n'a pas fait l'objet de sanctions disciplinaires et adopte un bon comportement général. D'après un rapport du Service médical de la prison daté du même jour, l'intéressé bénéficiait en outre d'un suivi thérapeutique volontaire, assuré par une psychologue, une infirmière référente et un psychiatre. X._ investissait ce cadre thérapeutique de manière adéquate et l'alliance thérapeutique qui avait pu s'instaurer avec les thérapeutes avait permis un travail psychoéducatif approfondi et ouvert la possibilité d'un travail plus introspectif.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement du 14 août 2018, en concluant, avec suite de frais et dépens, principalement à sa réforme en ce sens qu'il est libéré des chefs de prévention relatifs aux événements concernant B._, qu'aucune mesure thérapeutique institutionnelle n'est instaurée mais qu'il est condamné à un traitement ambulatoire au sens de l'art. 14de la loi fédérale régissant la condition pénale des mineurs (DPMin; RS 311.1). Subsidiairement, il conclut à son annulation et au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.
Considérant en droit :
1.
Le recourant soutient que l'audition par commission rogatoire de l'intimé ne serait pas exploitable car ce dernier ne se serait pas vu signifier les droits et obligations idoines après l'avoir mis en cause concernant l'agression sexuelle subie.
1.1. La cour cantonale a indiqué à cet égard que l'intimé avait été entendu à une reprise, par voie de commission rogatoire, au Kosovo. L'intéressé avait été entendu en qualité de personne appelée à donner des renseignements au sens de l'art. 178 CPP et non comme témoin. En fin d'audition, l'intimé avait fait état de l'agression qu'il avait subie de la part du recourant, avait déposé plainte et émis des prétentions civiles.
1.2. Aux termes de l'art. 178 let. a CPP, est entendu en qualité de personne appelée à donner des renseignements quiconque s'est constituée partie plaignante. L'art. 180 CPP dispose que les personnes appelées à donner des renseignements au sens de l'art. 178 let. b à g CPP ne sont pas tenues de déposer; au surplus, les dispositions concernant l'audition de prévenus leur sont applicables par analogie (al. 1). La partie plaignante est tenue de déposer devant le ministère public, devant les tribunaux et devant la police si l'audition est effectuée sur mandat du ministère public. Au surplus, les dispositions concernant les témoins sont applicables par analogie, à l'exception de l'art. 176 CPP (al. 2). Selon l'art. 181 CPP, au début de l'audition, les autorités pénales attirent l'attention des personnes appelées à donner des renseignements sur leur obligation de déposer ou sur leur droit de refuser de déposer ou de témoigner (al. 1). Les autorités pénales attirent l'attention des personnes appelées à donner des renseignements qui ont l'obligation de déposer ou qui s'y déclarent prêtes sur les conséquences pénales possibles d'une accusation calomnieuse, de déclarations visant à induire la justice en erreur ou d'une entrave à l'action pénale (al. 2).
1.3. En l'espèce, il apparaît que l'intimé a été entendu par voie de commission rogatoire en qualité de personne appelée à donner des renseignements - et non de témoin - car il était alors suspecté "pour acte pénal, menace et contrainte sexuelle" (cf. PV d'audition 22, p. 1). Avant le début de l'audition, l'intéressé s'est notamment vu signifier - par les autorités kosovares - qu'il avait l'obligation de dire la vérité, que, à défaut, il s'exposait à des poursuites pénales, mais qu'il pouvait refuser de répondre à une question s'il craignait de s'incriminer (cf. Idem, p. 2). Peu importe que l'intimé eût, en cours d'audition, pu être entendu en qualité de personne appelée à donner des renseignements non plus eu égard aux soupçons qui pesaient sur lui mais en raison de sa constitution de partie plaignante contre le recourant. En effet, si l'intimé a débuté l'audition en sachant qu'il n'avait pas l'obligation de déposer contre lui-même ni de déposer ou collaborer (cf. art. 113 al. 1 cum art. 180 al. 1 CPP), il a également été rendu attentif aux conséquences pénales d'un mensonge. Partant, contrairement à ce que suggère le recourant, l'intimé ne pouvait, lorsqu'il l'a mis en cause et a déposé plainte, croire qu'il lui était loisible de mentir sans s'exposer à des conséquences sur le plan pénal. Celui-ci n'avait aucune raison de penser que l'avertissement donné à cet égard avant le début de l'audition perdait sa validité, de sorte qu'il n'était pas nécessaire d'interrompre l'audition pour, de surcroît, rendre l'intéressé attentif aux obligations découlant de l'art. 181 al. 2 CPP. Il n'était pas davantage nécessaire, en raison des déclarations de l'intimé mettant en cause le recourant et emportant constitution de partie plaignante, de l'avertir - sur la base de l'art. 177 al. 1 CPP - de la punissabilité d'un faux témoignage au sens de l'art. 307 CP (cf. arrêts 6B_971/2017 du 23 juillet 2018 consid. 2.2.2; 6B_98/2016 du 9 septembre 2016 consid. 2.4.2). En définitive, compte tenu de l'avertissement donné à l'intimé avant le début de l'audition, la mise en cause du recourant et la constitution de l'intéressé en partie plaignante ne rendait pas nécessaire, durant celle-ci, une information relative à un éventuel changement de statut procédural ou à l'obligation de dire la vérité sous peine de poursuites pénales. Le grief doit être rejeté.
2.
Le recourant soutient que l'audition de l'intimé par voie de commission rogatoire ne pourrait lui être opposée car son droit de participer à l'administration de la preuve n'aurait pas été respecté.
2.1. Aux termes de l'art. 147 CPP, les parties ont le droit d'assister à l'administration des preuves par le ministère public et les tribunaux et de poser des questions aux comparants (al. 1 1re phrase). Les preuves administrées en violation de cet article ne sont pas exploitables à la charge de la partie qui n'était pas présente (al. 4). Selon l'art. 148 al. 1 CPP, lorsque l'administration de preuves a lieu à l'étranger par commission rogatoire, le droit de participer des parties est satisfait lorsque les parties peuvent adresser des questions à l'autorité étrangère requise (let. a), qu'elles peuvent consulter le procès-verbal de l'administration des preuves effectuée par commission rogatoire (let. b) et qu'elles peuvent poser par écrit des questions complémentaires (let. c). L'al. 2 de cette disposition précise que l'art. 147 al. 4 CPP est applicable à cet égard.
La partie ou son conseil juridique peut renoncer à participer à l'administration d'une preuve. La preuve qui n'a pas été administrée en présence de la partie ou de son conseil juridique pourra être utilisée à son encontre lorsqu'aucune requête tendant à une confrontation n'a été déposée en temps utile. Le prévenu doit requérir la confrontation et son silence à cet égard permet de déduire qu'il y a renoncé (arrêts 6B_710/2014 du 23 novembre 2015 consid. 2.2; 6B_1080/2013 du 22 octobre 2014 consid. 2.2 et les références citées).
2.2. La cour cantonale a exposé que le recourant n'avait pas demandé à pouvoir poser des questions complémentaires à l'intimé après que ce dernier l'eut mis en cause durant son audition par voie de commission rogatoire. L'intéressé n'avait pas non plus requis l'audition de l'intimé à l'occasion des débats de première instance. Ce dernier y avait été cité à comparaître en qualité de partie plaignante mais ne s'était pas présenté à l'audience. Au terme de l'instruction, le recourant avait renoncé à formuler d'autres réquisitions et n'avait en particulier requis aucune audition supplémentaire. Selon l'autorité précédente, en n'ayant jamais demandé à pouvoir poser des questions à l'intimé, en particulier au cours des débats de première instance, alors que l'absence de l'intimé était manifeste, puis à l'occasion des débats d'appel, le recourant avait clairement exprimé sa renonciation à interroger celui-ci. Le recourant ne pouvait en conséquence se prévaloir de sa bonne foi lorsqu'il demandait le retranchement du dossier de l'audition de l'intimé.
2.3. En l'espèce, le seul fait que le recourant n'eût pas demandé à pouvoir poser à l'intimé des questions complémentaires par voie de commission rogatoire après l'audition tenue au Kosovo ne pouvait en soi être interprété comme une renonciation à son droit de participer à l'administration des preuves ou aux garanties relatives à un procès équitable découlant de l'art. 6 CEDH. On ne peut non plus déduire une telle renonciation de l'absence de réquisition, de la part du recourant, de l'audition de l'intimé avant les débats de première instance, dès lors que ce dernier y avait été cité à comparaître. Il apparaît cependant que le recourant n'a pas, après avoir constaté l'absence de l'intimé au cours de ces débats, requis son audition ni demandé à pouvoir lui poser des questions par voie de commission rogatoire. Cela ne l'empêchait pas de le faire dans le cadre de la procédure d'appel. Or, force est de constater que le recourant n'a manifesté aucune volonté en ce sens. Il n'a requis l'administration d'aucune preuve dans sa déclaration d'appel (cf. pièce 245/1 du dossier cantonal), sans pouvoir partir du principe que l'intimé serait d'office cité à comparaître aux débats par la cour cantonale.
Par ailleurs, dans sa déclaration d'appel, le recourant n'a nullement indiqué qu'il aurait souhaité poser des questions complémentaires à l'intimé ou lui être confronté, mais a uniquement cherché à démontrer que l'audition de l'intéressé n'aurait pas dû être exploitée par le tribunal de première instance (cf. pièce 245/1 du dossier cantonal, p. 5 s.). Compte tenu de ce qui précède et contrairement à ce qui prévalait dans l'arrêt 6B_947/2015 du 29 juin 2017 auquel le recourant se réfère, il apparaît que ce dernier ne s'est pas uniquement abstenu de poser des questions à l'intimé par voie de commission rogatoire tout en réclamant son audition en sa présence, mais qu'il n'a aucunement cherché à pouvoir lui poser des questions, non plus qu'à lui être confronté. Le recourant n'a en l'occurrence pas cherché à faire valoir son droit de participer à l'administration de la preuve, mais a seulement cherché à écarter celle-ci du dossier. La cour cantonale pouvait ainsi à bon droit considérer qu'il avait renoncé à ses droits découlant des 147 et 148 CPP ainsi que 6 CEDH. Elle n'avait pas, en conséquence, à examiner si la preuve concernée pouvait être exploitée au regard des exigences conventionnelles en matière de preuve à charge, à l'administration de laquelle le prévenu ne peut prendre part (cf. concernant ces garanties l'arrêt 6B_663/2014 du 22 décembre 2017 consid. 7.2.2 et les références citées). En définitive, l'audition de l'intimé était exploitable et pouvait être opposée au recourant. Le grief doit être rejeté.
3.
Le recourant reproche à la cour cantonale d'avoir apprécié les preuves et établi les faits de manière arbitraire concernant les événements impliquant l'intimé. Il se plaint en outre, à cet égard, d'une violation de la présomption d'innocence.
3.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les constatations de fait de la décision entreprise (art. 105 al. 1 LTF), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. Une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation mais aussi dans son résultat (ATF 143 IV 241 consid. 2.3.1 p. 244). En matière d'appréciation des preuves et d'établissement des faits, il n'y a arbitraire que lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle tire des conclusions insoutenables (ATF 143 IV 500 consid. 1.1 p. 503; 140 III 264 consid. 2.3 p. 266 et les références citées). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 142 III 364 consid. 2.4 p. 368 et les références citées). La présomption d'innocence, garantie par les art. 10 CPP, 32 al. 1 Cst., 14 par. 2 Pacte ONU II et 6 par. 2 CEDH, ainsi que son corollaire, le principe "in dubio pro reo", concernent tant le fardeau de la preuve que l'appréciation des preuves au sens large (ATF 127 I 38 consid. 2a p. 40 s.; arrêt 6B_804/2017 du 23 mai 2018 consid. 2.2.3.1 destiné à la publication). En tant que règle sur le fardeau de la preuve, elle signifie, au stade du jugement, que le fardeau de la preuve incombe à l'accusation et que le doute doit profiter au prévenu. Comme règle d'appréciation des preuves (sur la portée et le sens précis de la règle sous cet angle, cf. arrêt 6B_804/2017 précité consid. 2.2.3.3 destiné à la publication), la présomption d'innocence signifie que le juge ne doit pas se déclarer convaincu de l'existence d'un fait défavorable à l'accusé si, d'un point de vue objectif, il existe des doutes quant à l'existence de ce fait. Il importe peu qu'il subsiste des doutes seulement abstraits et théoriques, qui sont toujours possibles, une certitude absolue ne pouvant être exigée. Il doit s'agir de doutes sérieux et irréductibles, c'est-à-dire de doutes qui s'imposent à l'esprit en fonction de la situation objective. Lorsque l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe "in dubio pro reo", celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (ATF 143 IV 500 consid. 1.1 p. 503; 138 V 74 consid. 7 p. 82; arrêt 6B_804/2017 précité consid. 2.2.3.3 destiné à la publication).
3.2. La cour cantonale a fait sienne l'appréciation des preuves effectuée par le tribunal de première instance. Il en ressortait que les déclarations de l'intimé étaient crédibles, car ce dernier ne s'était pas montré vindicatif, n'avait pas cherché à accabler le recourant et avait fini par dénoncer celui-ci de manière spontanée au terme d'un long interrogatoire. L'intimé avait en outre décrit les événements avec précision et de manière crédible, avait vécu ces révélations comme un soulagement et s'était de surcroît auto-incriminé en avouant son implication dans les actes commis au préjudice de D._. Selon l'autorité précédente, cette appréciation était fondée sur l'analyse des images de l'audition filmée de l'intimé, lesquelles faisaient ressortir en particulier l'état d'esprit de l'intéressé, la qualité de son récit, les émotions exprimées et l'absence de dissimulation concernant les événements qui l'incriminaient. Les déclarations en question étaient convaincantes et avaient été corroborées par D._ pour ce qui la concernait. L'absence de prédisposition homosexuelle chez le recourant n'excluait aucunement l'acte unique révélé par l'intimé, selon lequel l'intéressé, "à la sexualité débridée et adepte de la sodomie, excité par les images d'une revue pornographique et ne disposant pas immédiatement d'une femme" pour assouvir son désir, avait soumis celui-ci à un acte d'ordre sexuel.
3.3. Le recourant développe une argumentation purement appellatoire et, partant, irrecevable, par laquelle il oppose sa propre appréciation des déclarations de l'intimé à celle de la cour cantonale, sans démontrer en quoi celle-ci serait arbitraire. Il ne démontre en particulier aucunement quelle constatation insoutenable aurait été tirée par l'autorité précédente du récit livré par l'intimé. Pour le reste, contrairement à ce que suggère le recourant, la cour cantonale n'a pas établi les faits sur la base de considérations morales relatives à son comportement sexuel. On comprend de la motivation de l'autorité précédente que le comportement que lui prêtait l'intimé correspondait à sa tendance à imposer à autrui des actes d'ordre sexuel, y compris en recourant à la sodomie, ce qui n'est pas contesté par le recourant. Pour le reste, on ne voit pas en quoi l'hétérosexualité alléguée par le recourant ferait apparaître comme arbitraire les constatations de la cour cantonale s'agissant de l'agression de l'intimé. Le grief doit être rejeté dans la mesure où il est recevable.
4.
Le recourant fait grief à la cour cantonale d'avoir ordonné l'instauration en sa faveur d'une mesure thérapeutique institutionnelle.
4.1. Selon l'art. 59 al. 1 CP, lorsque l'auteur souffre d'un grave trouble mental, le juge peut ordonner un traitement institutionnel si l'auteur a commis un crime ou un délit en relation avec ce trouble et s'il est à prévoir que cette mesure le détournera de nouvelles infractions en relation avec ce trouble.
Le prononcé d'une mesure thérapeutique institutionnelle selon l'art. 59 CP suppose un grave trouble mental au moment de l'infraction, lequel doit encore exister lors du jugement. Selon la jurisprudence, toute anomalie mentale du point de vue médical ne suffit pas. Seuls certains états psychopathologiques d'une certaine importance et seules certaines formes relativement lourdes de maladies mentales au sens médical peuvent être qualifiés d'anomalies mentales au sens juridique (arrêts 6B_31/2015 du 26 mai 2015 consid. 2.1; 6B_784/2010 du 2 décembre 2010 consid. 2.1). En d'autres termes, il faut que la structure mentale de l'intéressé s'écarte manifestement de la moyenne par rapport aux autres sujets de droit, mais plus encore par rapport aux autres criminels (arrêt 6B_372/2012 du 27 septembre 2012 consid. 2.1). La référence à la gravité du trouble mental ne correspond pas à une description quantitative du dérangement psychique, mais signifie uniquement que le trouble mental doit être significatif sur le plan psychiatrique comme sur le plan juridique (arrêt 6B_31/2015 précité consid. 2.1 et les références citées; 6B_77/2012 du 18 juin 2012 consid. 2.1.2).
Pour ordonner l'une des mesures prévues aux art. 59 à 61, 63 et 64 CP, le juge doit se fonder sur une expertise. Celle-ci doit se déterminer sur la nécessité et les chances de succès d'un traitement, la vraisemblance que l'auteur commette d'autres infractions et la nature de celles-ci, ainsi que sur les possibilités de faire exécuter la mesure (art. 56 al. 3 CP). L'expert se prononce sur l'ensemble des conditions de fait de la mesure, étant gardé à l'esprit qu'il incombe au juge de déterminer si une mesure doit être ordonnée et, cas échéant, laquelle. En effet, ce n'est pas à l'expert, mais bien au juge qu'il appartient de résoudre les questions juridiques qui se posent, dans le complexe de faits faisant l'objet de l'expertise (cf. arrêts 6B_39/2018 du 5 juillet 2018 consid. 1.1.2; 6B_1397/2017 du 26 avril 2018 consid. 1.1.3; 6B_346/2016 du 31 janvier 2017 consid. 3.2).
4.2. Le recourant conteste tout d'abord souffrir d'un grave trouble mental.
4.2.1. L'autorité précédente a exposé que les experts K._ et L._ avaient diagnostiqué un retard mental léger à moyen avec troubles du contrôle des impulsions, notamment sur le plan sexuel, ainsi qu'une surdi-mutité. A la question de savoir si le recourant présentait un trouble mental pouvant être considéré comme grave, les deux prénommés avaient répondu positivement en confirmant leur diagnostic. Ils avaient par ailleurs qualifié le risque de récidive d'élevé, avaient souligné qu'un suivi ambulatoire pourrait ne pas se révéler suffisant et avaient écarté une mesure de traitement institutionnel uniquement parce qu'une structure adaptée à la complexité de la situation du recourant n'existait pas, à leur connaissance, en Suisse romande. L'expert M._ avait pour sa part posé le diagnostic de retard mental léger et de trouble de la personnalité de type personnalité dyssociale. Selon lui, le manque de contrôle des pulsions sexuelles ne constituait qu'un aspect du manque de contrôle, l'autre résidant dans l'absence de respect des personnes et des règles malgré le prononcé de sanctions pénales. L'expert avait qualifié ce trouble de manifeste et de grave. Il avait recommandé une mesure thérapeutique institutionnelle en relevant qu'à défaut le risque de récidive serait particulièrement élevé. Interrogé lors des débats de première instance, il avait confirmé son diagnostic ainsi que ses conclusions et avait préconisé que la mesure soit mise en oeuvre à O._. Au cours de ces débats, les experts M._ et K._ avaient été entendus contradictoirement et avaient pour l'essentiel confirmé leur avis antérieur. L'expert K._ n'avait pas souscrit au diagnostic de l'expert M._, lequel avait maintenu celui-ci tout en le relativisant. Malgré ces dissensions concernant le diagnostic, ces experts avaient préconisé un placement institutionnel pour pallier le risque de récidive découlant du trouble important dont souffrait le recourant. L'expert K._ avait exposé que ce trouble entraînait chez l'intéressé une altération fonctionnelle manifeste, précisant qu'il existait socialement une inadaptation de sa sexualité. Dans son rapport, cet expert avait expliqué que ce trouble s'accompagnait de divers facteurs participant à l'accroissement du risque de récidive, tout en relevant des difficultés et des limitations liées à la surdité, des difficultés d'appréhension et de compréhension des situations complexes, des problèmes de communication, une grande immaturité ainsi que des carences de mentalisation, de symbolisation et d'importants troubles du comportement, avec notamment des difficultés dans la gestion de la frustration ou des pulsions sexuelles. Pour la cour cantonale, le trouble dont souffrait le recourant avait engendré une grave délinquance sexuelle depuis une décennie, laquelle s'était poursuivie malgré plusieurs condamnations pénales et nonobstant toutes les mesures d'encadrement prises pour tenter de la juguler.
4.2.2. Le recourant reproche à la cour cantonale d'avoir arbitrairement retenu qu'il souffrait, selon les experts, d'un grave trouble mental. Or, si savoir quel est l'état psychique du délinquant et de quels troubles il est atteint relève de l'établissement des faits, savoir si les troubles retenus sont ou non constitutifs d'un grave trouble mental suffisant pour appliquer l'art. 59 CP constitue une question de droit (cf. arrêt 6B_1062/2009 du 3 novembre 2010 consid. 7.1 non publié aux ATF 137 IV 59). Il ne s'agit donc pas, en l'occurrence, d'examiner si les experts ont qualifié le trouble mental du recourant de "grave" au sens de l'art. 59 CP, mais de se demander si le diagnostic posé permet, d'un point de vue juridique, de conclure à la présence d'un grave trouble mental se trouvant en relation avec les infractions commises.
Les experts K._ et L._ ont posé le diagnostic de retard mental avec trouble du contrôle des impulsions notamment sur le plan sexuel. Interrogé lors des débats de première instance, l'expert K._, après avoir rappelé qu'il ne lui appartenait pas de définir si l'affection du recourant devait être qualifiée de "grave trouble mental", a indiqué que celle-ci était suffisamment importante pour entraîner une "altération fonctionnelle manifeste" (cf. jugement du 17 janvier 2018, p. 21). Fournissant néanmoins un indice concernant son appréciation de la gravité du trouble mental d'un point de vue juridique, le prénommé a ajouté que "s'il existait une structure adaptée [au recourant], nous aurions été favorables à la mise en place d'un traitement institutionnel" (cf. Idem, p. 22).
L'expert M._ a quant à lui posé le diagnostic de retard mental et de trouble de la personnalité de type personnalité dyssociale. Il a précisé que cette affection était à l'origine des condamnations antérieures du recourant et le poussait à commettre des "actes de contrainte sexuelle, de menace et de viol de manière répétée malgré les sanctions prononcées à plusieurs reprises", ou encore que ses troubles étaient "sévères" d'un point de vue psychiatrique puisqu'aucun traitement ni mesure n'avait pu amender l'intéressé (cf. pièce 123 du dossier cantonal, p. 11 et 15). L'expert M._ a toutefois par la suite considéré que le trouble de la personnalité diagnostiqué ne devait pas être considéré comme grave ou sévère (cf. jugement du 17 janvier 2018, p. 28).
Ainsi, quelle que soit la qualification exacte du trouble mental dont souffre le recourant, à propos de laquelle les experts ne se sont pas accordés, l'existence dudit trouble n'est pas contestée. Indépendamment de la sévérité de ce trouble sur une échelle médicale, sur laquelle les experts K._ et M._ ont admis qu'il était malaisé de situer l'affection du recourant, il apparaît que celui-ci est suffisamment grave pour entraver l'intéressé dans son fonctionnement, pour lui interdire une maîtrise de ses pulsions sexuelles et pour le pousser, depuis plus d'une décennie, à commettre des infractions à caractère sexuel. L'état du recourant a par ailleurs conduit les experts à considérer qu'il existait un risque de récidive élevé s'agissant d'actes de même nature que ceux pour lesquels celui-ci avait été condamné. Dans ces conditions, la cour cantonale pouvait, sans violer le droit fédéral, considérer que l'affection dont souffre le recourant s'avère suffisamment prégnante et significative sur le plan médical, de même que sur le plan juridique, pour être qualifiée de trouble mental grave au sens de l'art. 59 CP. Le grief doit être rejeté.
4.3. Le recourant soutient ensuite qu'une mesure thérapeutique institutionnelle ne pourrait être instaurée en raison de l'absence d'établissement approprié.
4.3.1. Le traitement institutionnel s'effectue dans un établissement psychiatrique approprié ou dans un établissement d'exécution des mesures (art. 59 al. 2 CP). Il s'effectue dans un établissement fermé tant qu'il y a lieu de craindre que l'auteur ne s'enfuie ou ne commette de nouvelles infractions. Il peut aussi être effectué dans un établissement pénitentiaire au sens de l'art. 76 al. 2 CP, dans la mesure où le traitement thérapeutique nécessaire est assuré par du personnel qualifié (art. 59 al. 3 CP). La question de savoir si le placement doit s'effectuer en milieu fermé ou non relève, à l'instar du choix de l'établissement où s'effectuera la mesure, de la compétence de l'autorité d'exécution. Cela étant, si un placement en milieu fermé apparaît déjà nécessaire au moment du prononcé du jugement, le juge peut et doit l'indiquer dans les considérants - mais non dans le dispositif - en traitant des conditions de l'art. 59 al. 3 CP (ATF 142 IV 1 consid. 2.4.4 p. 7 s. et consid. 2.5 p. 10 s.).
En vertu de l'art. 56 al. 5 CP, en règle générale, le juge n'ordonne une mesure que si un établissement approprié est à disposition. Cette disposition vise à éviter que le juge n'ordonne une mesure sans s'assurer au préalable de l'existence d'une institution susceptible de l'exécuter (arrêt 6B_27/2018 du 30 mai 2018 consid. 4.1).
4.3.2. La cour cantonale a exposé que l'expert M._, qui maîtrise la langue des signes et connaît le milieu des sourds, avait mené des investigations fouillées pour trouver un établissement approprié. Il avait désigné, après une vérification auprès de l'Office d'exécution des peines, l'EMS O._, assistée par le Service Q._, ainsi qu'un psychiatre de la région du Nord vaudois accompagné d'un interprète en langue des signes. Il avait en outre précisé que le risque de récidive rendait indispensable une mesure institutionnelle, les adaptations nécessaires devant être effectuées. Ainsi, l'EMS proposé, renforcé par des interventions extérieures à la fois médicales et spécialisées dans le mode de communication spécifique du recourant constituait un établissement d'exécution des mesures approprié. Selon la cour cantonale, dès lors qu'il existait un risque de récidive, le traitement pouvait de toute manière être effectué dans un établissement pénitentiaire, si le traitement thérapeutique nécessaire était assuré par du personnel qualifié. Le suivi mis en place en détention depuis 2015 fonctionnait, comme en attestait le rapport du Service médical de la prison N._ du 4 janvier 2018, qui relevait notamment que l'intéressé consultait une psychologue, une infirmière référente et un psychiatre, que celui-ci investissait ce cadre de manière adéquate et que l'alliance thérapeutique instaurée avait permis un travail psychoéducatif approfondi et ouvert la possibilité d'un travail plus introspectif.
4.3.3. Le recourant tire argument des indications des experts K._ et L._, lesquels ont relevé ce qui suit dans leur rapport (cf. pièce 68 du dossier cantonal, p. 25) :
"A notre connaissance, il n'existe pas en Suisse romande de structure institutionnelle thérapeutique adaptée à la complexité de la situation [du recourant] et nous ne recommandons, pour ce motif, pas de mesure de traitement institutionnel."
Ces experts n'ont cependant pas précisé quelle caractéristique du recourant exclurait son placement dans l'un ou l'autre des établissements disponibles en Suisse romande, voire en d'autres parties du pays. L'expert M._ a quant à lui fait état, dans son rapport, des démarches effectuées afin de trouver un établissement adéquat. Il a conclu que l'EMS O._ pourrait notamment répondre aux besoins du recourant, moyennant l'appui du Service Q._ (cf. pièce 123 du dossier cantonale, p. 13 s.). On ne voit donc pas en quoi la cour cantonale aurait versé dans l'arbitraire en retenant qu'un établissement approprié existait a priorien Suisse. Le recourant n'explique pas, par ailleurs, pourquoi - tant que subsiste un risque de récidive qualifié - la mesure ne pourrait pas être exécutée dans un établissement pénitentiaire, le traitement médical et psychiatrique dont il bénéficie actuellement en détention produisant, selon la cour cantonale, des effets positifs.
Compte tenu de ce qui précède, il n'apparaît pas que le prononcé de la mesure thérapeutique institutionnelle pourrait, a prioriet avant même le placement du recourant dans un établissement, occasionner une violation des art. 3 et 5 CEDH. Au demeurant, on ne saurait considérer que le recourant, atteint de surdi-mutité, serait incapable à l'avenir de se plaindre d'un éventuel traitement inadéquat, dès lors que cette affection ne l'empêche pas de communiquer avec des tiers, notamment avec le personnel médical et psychiatrique le prenant en charge. Le grief doit ainsi être rejeté.
4.4. Le recourant reproche enfin à la cour cantonale de ne pas avoir préféré l'instauration d'un traitement ambulatoire au sens de l'art. 14 DPMin à celle d'une mesure thérapeutique institutionnelle.
Comme l'a relevé l'autorité précédente, à supposer que les conditions d'un traitement ambulatoire au sens de l'art. 14 DPMin fussent remplies, l'existence d'un risque de récidive élevé - dont l'intéressé ne conteste pas l'existence - commandait l'instauration d'une mesure thérapeutique institutionnelle. A cet égard, l'expert K._ a certes accordé sa préférence à une prise en charge "essentiellement ambulatoire" (cf. jugement du 17 janvier 2018, p. 27), tout en relevant qu'un tel suivi pourrait ne pas se révéler "suffisant pour prévenir une récidive" (cf. pièce 68 du dossier cantonal, p. 25). L'expert M._ a pour sa part estimé qu'une prise en charge ambulatoire ne serait pas à même de diminuer le risque de récidive. Dès lors, peu importe que le recourant n'eût pas commis d'infraction durant l'une des périodes où il était assisté par un thérapeute, le risque de récidive actuel justifiant l'instauration d'une mesure à titre de l'art. 59 CP. Le grief doit être rejeté.
5.
Le recours doit être rejeté dans la mesure où il est recevable. Comme il était dénué de chances de succès, la demande d'assistance judiciaire doit être rejetée (art. 64 al. 1 LTF). Le recourant, qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF), dont le montant sera fixé en tenant compte de sa situation financière, laquelle n'apparaît pas favorable. L'intimé, qui n'a pas été invité à se déterminer, ne saurait prétendre à des dépens.
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'200 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 23 janvier 2019
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
Le Greffier : Graa