Faits :
A.
Par jugement du 13 février 2020, rectifié par prononcé présidentiel du 17 février 2020, le Tribunal criminel de l'arrondissement de La Côte a libéré A._ des chefs de prévention de lésions corporelles graves et de menaces, l'a condamné pour tentative de meurtre, accès indu à un système informatique, dommages à la propriété, injure, contrainte, tentative de contrainte, dénonciation calomnieuse et atteinte intentionnelle à l'état de sécurité d'un véhicule à une peine privative de liberté de huit ans, sous déduction de 498 jours de détention provisoire et de 186 jours d'exécution anticipée de peine, ainsi qu'à une peine pécuniaire de 20 jours-amende, le montant du jour-amende étant fixé à 30 francs. Il a en outre ordonné un traitement institutionnel en faveur de A._ portant sur un suivi psychiatrique régulier associé à la prise d'un traitement médicamenteux.
B.
Par jugement du 10 juillet 2020, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a très partiellement admis l'appel de A._ contre le jugement du tribunal criminel et l'a modifié en ce sens qu'elle l'a libéré du chef de prévention d'accès indu à un système informatique. Elle a confirmé le jugement de première instance pour le surplus.
En résumé, elle a retenu les faits suivants:
B.a. A._, né en 1993 à U._ (BE), a été soumis à une expertise psychiatrique, laquelle a été confiée au Dr B._. Celui-ci a déposé un rapport le 12 février 2019 avec la Dresse C._ puis un rapport complémentaire le 14 juin 2019 et a été entendu à l'audience de jugement du 13 février 2020. Il en ressort notamment que A._ souffre de schizophrénie hébéphrénique qualifiée de grave. Les experts ont conclu à une diminution moyenne de la responsabilité ainsi qu'à un risque de récidive s'agissant d'infractions contre la vie et l'intégrité physique. Ils ont préconisé la mise en oeuvre d'un traitement psychopharmacologique associé à un suivi psychiatrique ambulatoire.
B.b. Au début du mois de novembre 2017, A._ s'est lié d'amitié avec D._, de 12 ans son aînée. Ils ont dormi l'un chez l'autre à plusieurs reprises, dans des chambres séparées, au terme de soirées passées ensemble. Le prénommé a manifesté le désir d'entretenir avec D._ une relation sentimentale, voire d'emménager chez elle, mais celle-ci n'a pas donné suite à ces avances, lui signifiant clairement qu'elle souhaitait uniquement son amitié. A._ n'a pas accepté d'être éconduit et, dès février 2018, a cherché par divers moyens à imposer sa présence quotidienne à D._. Il a effectué de multiples réparations sur la voiture de D._, pour une valeur qu'il a estimée à 4'000 francs. Entre le mois de février et le 7 mars 2018, il a immobilisé la voiture de D._ en invoquant diverses réparations. Il lui a servi de chauffeur entre son domicile et son travail durant cette période, dormant alors chez elle. Dans ce contexte, il a notamment adopté les comportements suivants.
B.c. Le 7 mars 2018 vers 3 heures du matin, A._ a tenté d'obtenir que D._ signe une reconnaissance de dette d'un montant de 4'000 fr. au titre de réparations effectuées sur sa voiture, menaçant à défaut de conserver le véhicule. Il a également tenté de la convaincre d'entretenir des relations sexuelles avec lui moyennant la réduction du montant réclamé, insistant lourdement. Inquiète en raison du montant réclamé qu'elle ne pouvait pas rembourser en une fois et ne souhaitant plus être confrontée directement à A._, D._ a partiellement cédé à ses pressions, lui remettant un acompte de 500 fr. afin de récupérer son véhicule.
B.d. Le 7 mars 2018 également, A._ a transmis à D._, par la messagerie WhatsApp, deux photographies d'elle dénudée provenant de son cloud, l'une d'elle étant accompagnée de l'inscription "la belle salope qui peut combler vos soirées". Il a expliqué mensongèrement avoir vu ces photos sur un site Internet dont il a inventé l'existence.
B.e. Se faisant passer pour l'administrateur de ce site Internet, A._ a ensuite contraint D._ à lui fournir de nouvelles photos la représentant en sous-vêtements, sous prétexte de l'identifier formellement avant d'effacer les images compromettantes du site Internet.
B.f. Le 10 mars 2018 à V._, A._ a une nouvelle fois exigé que D._ signe la reconnaissance de dette le soir même, respectivement qu'elle s'acquitte du solde réclamé avant la fin du mois. Il s'est ensuite rendu sur le lieu de travail de D._ sans la prévenir et lui a soumis un document pour signature. Malgré ces tentatives d'intimidation, elle n'a pas obtempéré.
B.g. Dans la nuit du 11 au 12 mars 2018 à W._ (VD), A._ a crevé deux pneus du véhicule de D._, ainsi que deux pneus du véhicule de E._ garé à proximité.
B.h. Le 13 mars 2018, A._ s'est adressé à D._ au travers d'un groupe WhatsApp, exigeant qu'elle débloque son contact et précise comment régler sa dette, faute de quoi elle allait "beaucoup perdre dans (son) travail, (sa) voiture et (son) cheval"; il en irait en outre de même si elle en parlait à "F._". D._ a été effrayée par ces propos mais n'a pas cédé à ces exigences.
B.i. Dans la nuit du 13 au 14 mars 2018 à X._ (F), A._ a sectionné le flexible de frein AVD de la voiture de D._, créant un important risque d'accident en cas de conduite du véhicule. Le 14 mars 2018, alors qu'elle circulait à bord de son véhicule, D._, constatant que les freins ne répondaient plus, a rapidement dû se diriger vers le garage le plus proche.
B.j. Le 18 mars 2018, A._ a porté plainte, accusant mensongèrement D._ de s'être appropriée sans droit une paire de skis qu'il avait entreposée chez elle et de l'avoir accusé d'un comportement contraire à l'honneur en prétendant qu'il se serait emparé sans droit des clés de son domicile et qu'il aurait récupéré ses skis quelques jours plus tôt.
L'instruction a permis d'établir que A._ s'était bien approprié illégitimement les clés du domicile de D._ dans le dessein de lui nuire et qu'il avait lui-même récupéré sa paire de skis. Dès lors, la plainte déposée a fait l'objet d'un classement en faveur de D._.
B.k. Le 31 mars 2018, A._ a pris le volant en direction du domicile de D._ à X._ (F), armé d'un couteau appartenant à sa mère, dont la lame mesurait 11,4 cm, et équipé notamment d'une combinaison de peintre blanche avec une capuche et de surchaussures, de deux foulards achetés quelques heures auparavant et d'une boîte de gants en nitrile. Il a éteint son téléphone portable à 20h46 avant de franchir la frontière au poste de Y._ (GE), situé à 12 km de sa destination. Il est arrivé à cet endroit peu avant 21 heures, qui était l'heure à laquelle D._ arrivait habituellement chez elle. Après être entré dans l'immeuble au moyen d'une clé qu'il avait préalablement subtilisée, il a revêtu la combinaison intégrale et une paire de gants, s'est dissimulé le visage avec un foulard et a attendu D._ dans le hall plongé dans l'obscurité. D._ est entrée dans le hall vers 21 heures. A._ l'a alors immédiatement poussée contre un mur et lui a asséné au moins 19 coups de couteau, frappant au visage et à la gorge, puis aux mains, à la tête et à la nuque alors qu'il plaquait sa main gauche sur la bouche pour l'empêcher de hurler et qu'elle tentait de se débattre et de se protéger, jusqu'à ce qu'elle s'écroule au sol. Il lui a alors encore administré des coups de pied au visage, à la tête et sur le haut du corps. Ayant remarqué la présence d'un voisin alerté par les cris de D._, il a saisi celle-ci par les cheveux et l'a emmenée de force à l'extérieur de l'immeuble. Un tiers est intervenu et A._ a abandonné D._ ensanglantée sur place pour prendre la fuite.
Hospitalisée en France du 31 mars au 11 avril 2018, D._ a porté plainte le 1er avril 2018 auprès de la Gendarmerie nationale française.
C.
A._ forme un recours en matière pénale contre le jugement cantonal auprès du Tribunal fédéral. Il conclut, avec suite de frais et dépens, principalement à sa réforme en ce sens qu'il est condamné à une peine privative de liberté de trois ans et qu'un traitement ambulatoire portant sur un suivi psychiatrique régulier et associé à la prise d'un traitement médicamenteux est ordonné en sa faveur. Subsidiairement, il conclut à l'annulation du jugement entrepris et au renvoi de la cause à la Cour d'appel pénale du Tribunal cantonal vaudois. Il sollicite en outre le bénéfice de l'assistance judiciaire.

Considérant en droit :
1.
Invoquant une violation de l'<ref-law>, le recourant s'en prend au prononcé de la mesure thérapeutique institutionnelle. Il ne conteste pas le principe même du prononcé d'une mesure mais soutient qu'un traitement ambulatoire, comme l'a préconisé l'expert, doit être prononcé en lieu et place d'un traitement institutionnel.
1.1. Aux termes de l'<ref-law>, une mesure doit être ordonnée si une peine seule ne peut écarter le danger que l'auteur commette d'autres infractions, si l'auteur a besoin d'un traitement ou que la sécurité publique l'exige, et si les conditions prévues aux art. 59 à 61, 63 ou 64 sont remplies (al. 1). Le prononcé d'une mesure suppose que l'atteinte aux droits de la personnalité qui en résulte pour l'auteur ne soit pas disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité (al. 2). L'<ref-law> rappelle que si plusieurs mesures s'avèrent appropriées, mais qu'une seule est nécessaire, le juge ordonne celle qui porte à l'auteur les atteintes les moins graves. Si plusieurs mesures s'avèrent nécessaires, le juge peut les ordonner conjointement.
Pour ordonner une des mesures prévues aux art. 59 à 61, 63 et 64 CP, le juge doit se fonder sur une expertise. Celle-ci doit se déterminer sur la nécessité et les chances de succès d'un traitement, la vraisemblance que l'auteur commette d'autres infractions et la nature de celles-ci, ainsi que sur les possibilités de faire exécuter la mesure (<ref-law>). Dans ce cadre, l'expert devra se prononcer, en particulier, sur la forme du traitement et la mesure qui lui semble la plus appropriée (cf. sous l'ancien droit: <ref-ruling> consid. 3b p. 128; plus récemment arrêts 6B_993/2020 du 13 octobre 2020 consid. 1.1; 6B_39/2018 du 5 juillet 2018 consid. 1.1.2). Il incombe cependant au juge de déterminer si une mesure doit être ordonnée et, cas échéant, laquelle. En effet, ce n'est pas à l'expert, mais bien au juge qu'il appartient de résoudre les questions juridiques qui se posent, dans le complexe de faits faisant l'objet de l'expertise (arrêts 6B_993/2020 précité consid. 1.1; 6B_893/2019 du 10 septembre 2019 consid. 1.1 et les références citées).
Le juge apprécie en principe librement une expertise et n'est pas lié par les conclusions de l'expert. Toutefois, il ne peut s'en écarter que lorsque des circonstances ou des indices importants et bien établis en ébranlent sérieusement la crédibilité. Il est alors tenu de motiver sa décision de ne pas suivre le rapport d'expertise. Inversement, si les conclusions d'une expertise judiciaire apparaissent douteuses sur des points essentiels, le juge doit recueillir des preuves complémentaires pour tenter de dissiper ses doutes. A défaut, en se fondant sur une expertise non concluante, il pourrait commettre une appréciation arbitraire des preuves et violer l'art. 9 Cst. (<ref-ruling> consid. 2.3.1 p. 53 et les références citées; arrêt 6B_893/2019 du 10 septembre 2019 consid. 1.1).
1.2. Selon l'<ref-law>, lorsque l'auteur souffre d'un grave trouble mental, le juge peut ordonner un traitement institutionnel si l'auteur a commis un crime ou un délit en relation avec ce trouble (let. a) et s'il est à prévoir que cette mesure le détournera de nouvelles infractions en relation avec ce trouble (let. b). Cette dernière condition est réalisée lorsque, au moment de la décision, il est suffisamment vraisemblable qu'un traitement institutionnel entraînera dans les cinq ans de sa durée normale une réduction nette du risque de récidive (<ref-ruling> consid. 3.2.4 p. 9; <ref-ruling> consid. 3.4.1 p. 321 s.).
Aux termes de l'<ref-law>, lorsque l'auteur souffre d'un grave trouble mental, est toxico-dépendant ou souffre d'une autre addiction, le juge peut ordonner un traitement ambulatoire au lieu d'un traitement institutionnel, si l'auteur a commis un acte punissable en relation avec son état (let. a) et s'il est à prévoir que ce traitement le détournera de nouvelles infractions en relation avec son état (let. b).
1.3. Le recourant reproche à la cour cantonale de ne pas avoir suivi l'expertise quant au choix de la mesure et de ne pas avoir suffisamment motivé sa décision à cet égard.
1.3.1. Il convient tout d'abord de relever que, contrairement à ce que prétend le recourant, la cour cantonale ne s'est pas écartée d'avis médicaux d'expert, concernant par exemple le diagnostic ou le traitement médical approprié, mais a décidé de ne pas suivre les recommandations de l'expert s'agissant du choix de la mesure, ce qui - sur le principe - n'est pas critiquable (cf. supra consid. 1.1, notamment arrêt 6B_893/2019 du 10 septembre 2019 consid. 1.4).
1.3.2. En l'espèce, dans son rapport du 12 février 2019, s'agissant du risque de récidive, l'expert a précisé que le parcours de vie du recourant, y compris s'agissant des événements en cause, révélait la présence de phases d'excitation sévère avec une agressivité de plus en plus importante qui contrastaient avec un émoussement global de l'affect. Ces phases d'excitation et d'agressivité survenaient de manière imprévisible et le recourant présentait alors une humeur sombre, exprimait du ressentiment et se montrait menaçant, allant jusqu'à l'agression d'une personne proche de son entourage qu'il pouvait investir très fortement jusque-là. Ce tableau clinique était très évocateur d'une schizophrénie hébéphrénique, à savoir d'une forme de schizophrénie dans laquelle le risque hétéro-agressif était très élevé. Dans son rapport d'expertise, l'expert a confirmé qu'en raison de sa pathologie psychiatrique caractérisée par des phases d'irritabilité et d'agressivité, le recourant présentait le risque de commettre de nouvelles infractions sous forme d'agression physique envers autrui mettant en danger leur sécurité. Dans son complément d'expertise, il a précisé que le recourant présentait un risque de récidive faible à moyen pour autant qu'un suivi psychiatrique régulier soit instauré, l'intéressé n'ayant jamais commis d'infraction sous la forme d'une agression physique envers autrui avant celle du 31 mars 2018, que l'on pouvait expliquer par son contexte.
S'agissant des possibilités de traitement, l'expert a relevé qu'un traitement médicamenteux associé à un suivi psychiatrique permettait d'améliorer la fréquence et l'intensité des exacerbations d'agressivité mais sans pouvoir les réduire complétement. Le risque de récidive était ainsi amélioré en cas de prise en charge psychopharmacologique de type antipsychotique et de suivi psychiatrique mais persistait.
Dans son complément d'expertise, l'expert a retenu qu'un traitement ambulatoire était plus adapté qu'un traitement institutionnel qui n'apportait pas de plus-value médicale. Il a relevé que l'agression du 31 mars 2018 avait été commise dans un contexte de blessure occasionnée par un sentiment d'abandon et de rejet par la plaignante, que celle-ci lui avait imposé une distance qui avait renforcé un vécu persécutoire, qu'il fallait tenir compte du contexte particulier dans l'explication de l'acte, que le recourant était prêt à se soumettre au traitement recommandé et que le cadre d'une institution spécialisée ne semblait fournir un bénéfice supplémentaire que dans les cas où la conscience des troubles était abolie et où la compliance thérapeutique était douteuse.
Au cours des débats de première instance, l'expert a relevé que la schizophrénie hébéphrénique était très difficile à soigner, les médicaments antipsychotiques étant efficaces dans 40% des cas. L'expert a préconisé "pour l'heure" un traitement ambulatoire, estimant qu'un traitement institutionnel n'apportait aucune plus-value médicale au traitement dès lors que le recourant acceptait de se soigner; à l'inverse, un traitement institutionnel pouvait mettre en péril les chances de rétablissement. Il a précisé que le traitement ambulatoire était préconisé " pour l'heure " car c'était la première fois qu'il était mis en place pour le recourant et l'absence de recul et d'antécédents interdisait que l'on soit sûr de son efficacité à l'avenir, une période de 6 à 12 mois étant requise pour apprécier l'efficacité du traitement. L'expert a indiqué ne pas identifier la plus-value et la pertinence à admettre l'expertisé en milieu hospitalier, l'arsenal thérapeutique existant permettant de s'assurer que le patient suive sa médication, qu'il acceptait et qui pouvait être administrée en ambulatoire.
Dans le cadre de l'expertise, les spécialistes ont ainsi relevé que le recourant nécessitait un suivi psychiatrique régulier associé à la prise d'un traitement médicamenteux, qui pouvait s'effectuer en ambulatoire et ne nécessitait pas d'être institutionnalisé. Ils ont toutefois également rapporté que l'expertisé, malgré un traitement médicamenteux et un suivi psychiatrique bien conduits, présentait le risque de commettre de nouvelles infractions du genre de celles énumérées à l'<ref-law> en raison de sa pathologie psychiatrique sévère, se caractérisant par l'existence de phases imprévisibles d'excitation et d'irritabilité pouvant aller jusqu'au meurtre ou à des actes d'agression. Dans son complément d'expertise, l'expert a relevé qu'il n'y avait pas d'argument pour affirmer qu'une mesure telle que celle prévue à l'<ref-law> serait vouée à l'échec.
1.3.3. Contrairement à ce que soutient le recourant, la cour cantonale a suffisamment motivé sa décision de ne pas suivre l'avis de l'expert s'agissant du choix de la mesure. En effet, d'une part, elle a relevé que l'expert préconisait un traitement ambulatoire au lieu d'un traitement institutionnel au motif que les actes reprochés étaient intervenus dans un contexte particulier et que le recourant avait conscience de son trouble et adhérait au traitement. Or, elle a considéré, à l'instar du tribunal de première instance, que l'expertise n'était pas convaincante sur ce point dès lors que l'agression du 31 mars 2018 ne présentait aucune particularité, le recourant et la victime n'entretenant en particulier pas de relation amoureuse. A cet égard, elle a relevé que le modus operandi du recourant suivait une méthode déjà éprouvée à l'encontre de son ancienne compagne G._ et de son amie de longue date H._. Ainsi, dès que la première lui avait signifié la fin de leurs relations, le recourant avait fait preuve de violences verbales, l'avait harcelée téléphoniquement et par lettre et avait ouvert une poursuite à son encontre. La cour cantonale en a dès lors déduit que le recourant réagissait mal lorsqu'il se sentait rejeté, ce qui se reproduirait nécessairement à l'avenir puisqu'il était encore jeune. En outre, elle a relevé que, si le recourant avait confirmé qu'il bénéficiait d'un suivi thérapeutique régulier, la compliance thérapeutique était incertaine dès lors que l'intéressé avait déclaré, aux débats d'appel, qu'il ne prenait aucun médicament en raison d'effets secondaires sur son coeur et sa tension artérielle. D'autre part, la cour cantonale a relevé, à l'instar du tribunal de première instance, que c'était à la lumière des aspects médicaux découlant de la mesure que l'expert avait préconisé un traitement ambulatoire, sans toutefois tenir compte des aspects sécuritaires liés à la situation, en particulier du risque de récidive élevé, compris entre 25% et 50%, qui concernait en outre les infractions les plus graves dirigées contre la vie, le recourant s'étant rendu coupable de tentative de meurtre. La cour cantonale a donc conclu que le traitement ambulatoire préconisé par l'expert était insuffisant à prévenir le risque de récidive présenté par le recourant.
Il s'ensuit que le grief tiré du défaut de motivation doit donc être rejeté.
1.4. Le recourant reproche à la cour cantonale d'avoir retenu, contrairement à l'expert, que le contexte de l'infraction ne présentait aucune particularité et qu'il réagissait mal lorsqu'il se sentait rejeté, ce qui se reproduirait à l'avenir. Il soutient que cette affirmation ne reposerait sur aucun élément probant.
Cette argumentation ne peut être suivie. En effet, la cour cantonale s'est fondée sur le témoignage de G._, ancienne concubine du recourant, qui a notamment décrit celui-ci comme manipulateur et capable de violences verbales dès qu'elle l'avait quitté (cf. PV d'audition n° 4; <ref-law>) et le témoignage de H._, une amie de longue date du recourant ainsi que sur des échanges de messages entre les intéressés (cf. PV d'audition n° 7; <ref-law>).
Pour le surplus, contrairement à ce que soutient le recourant, le fait que ces éléments ne ressortiraient pas de l'expertise n'est pas pertinent, dès lors que ce n'est pas le rôle de l'expert mais bien du juge d'établir les faits (cf. not. arrêt 6B_276/2018 du 24 septembre 2018 consid. 1.4.1). La jurisprudence prévoit d'ailleurs que le juge n'est pas lié par les conclusions de l'expert s'il y a une contradiction entre les faits établis dans le cadre de la procédure et ceux retenus dans l'expertise (<ref-ruling> consid. 1c p. 145 ss; <ref-ruling> consid. 3a p. 130; arrêts 6B_276/2018 du 24 septembre 2018 consid. 1.2.2; 6P.234/2006 du 28 février 2007 consid. 6.3; JEAN-MARC VERNIORY, in Commentaire romand, Code de procédure pénale, 2e éd., 2019, n° 41 ad <ref-law>).
En définitive, le recourant ne démontre pas que la cour cantonale aurait versé dans l'arbitraire (cf. art. 97 al. 1 et 105 al. 1 LTF) en retenant que le contexte de l'agression n'était pas particulier et que le recourant réagissait mal quand il se sentait rejeté. Le grief est rejeté dans la mesure où il est recevable.
1.5. Le recourant fait grief à la cour cantonale d'avoir retenu que le traitement ambulatoire serait insuffisant en raison de l'interruption momentanée de son traitement pour des problèmes cardiaques et de tension artérielle.
Contrairement à ce que prétend le recourant, la cour cantonale n'a pas fondé sa décision sur ce seul motif (cf. supra consid. 1.3.3). Elle a cependant relevé, à juste titre, que le fait qu'il ne prenait actuellement pas ses médicaments tendait à montrer que, contrairement à ce qu'avait retenu l'expert, la compliance thérapeutique était douteuse, ce qui peut constituer - selon les dires de l'expert lui-même - un cas dans lequel le cadre d'une institution spécialisée pourrait fournir un bénéfice supplémentaire (cf. supra consid. 1.3.2). Le grief du recourant doit être rejeté.
1.6. Le recourant soutient ensuite que le choix de l'expert prendrait " clairement en compte le risque de récidive ". Ce faisant, il oppose sa propre appréciation de l'expertise à celle opérée par la cour cantonale, sans démontrer en quoi celle-ci serait arbitraire. Au demeurant, il ressort du rapport d'expertise du 12 février 2019 que l'expert a conclu que, malgré un traitement médicamenteux et un suivi psychiatrique, le recourant présentait un risque de commettre de nouvelles infractions du genre de celles énumérées à l'<ref-law>. Il a également précisé qu'il ne pouvait pas garantir le succès du traitement en raison d'une absence de recul, le traitement médicamenteux n'étant efficace que dans 40% des cas. Il est cependant arrivé à la conclusion qu'un traitement ambulatoire était suffisant d'un point de vue médical pour soigner le recourant, parce que celui-ci adhérait au traitement et que le contexte de l'agression serait particulier - ce qui ne ressort pas des faits retenus sans arbitraire par l'autorité précédente (cf. supra consid. 1.4 et 1.5). Dans ces conditions, la cour cantonale pouvait considérer que, par rapport à la mesure qu'il avait préconisée, l'expert n'avait pas suffisamment tenu compte des aspects sécuritaires liés à la situation du recourant.
Il s'ensuit que la cour cantonale n'a pas violé le droit fédéral en considérant que l'expertise n'était pas convaincante sur la question du traitement proposé.
1.7. Il convient d'examiner si les conditions permettant l'instauration d'une mesure à titre de l'<ref-law> étaient remplies en l'espèce.
Le recourant reconnaît qu'il souffre d'un grave trouble mental et qu'il a commis un crime ou un délit en relation avec ce trouble (<ref-law>). En outre, il ne conteste pas en tant que tel l'existence d'un risque de récidive élevé concernant les infractions les plus graves contre la vie, retenu par la cour cantonale, étant par ailleurs rappelé que celle-ci a considéré sans arbitraire que le contexte de l'agression du 31 mars 2018 ne présentait aucune particularité et pouvait se reproduire et que la compliance thérapeutique du recourant n'était pas certaine.
Par ailleurs, l'expert n'a pas indiqué qu'une mesure à titre de l'<ref-law> ne pourrait être exécutée avec succès, celui-ci ayant notamment relevé qu'il n'y avait pas d'argument pour affirmer qu'une telle mesure serait vouée à l'échec (cf. complément d'expertise du 14 juin 2019, p. 6).
On peut, de surcroît, relever que la privation de liberté inhérente à l'exécution d'une mesure thérapeutique institutionnelle n'apparaît pas de nature à compromettre le succès du traitement, puisque l'expert a par ailleurs estimé que le traitement ambulatoire tel qu'il le proposait ne serait pas entravé par l'éventuelle exécution simultanée d'une peine privative de liberté (cf. rapport d'expertise du 12 février 2019, p. 13).
Compte tenu de ce qui précède, il apparaît que les conditions de l'<ref-law> sont réalisées.
1.8. Le recourant soutient encore que l'instauration d'une mesure thérapeutique institutionnelle violerait le principe de proportionnalité.
1.8.1. Sous l'angle du principe de subsidiarité découlant de l'<ref-law>, il convient de relever que l'argumentation du recourant repose sur la prémisse selon laquelle tant une mesure thérapeutique institutionnelle qu'un traitement ambulatoire pouvaient être envisagés. Les conditions au prononcé d'une mesure à titre de l'<ref-law> ne sont toutefois pas remplies en l'espèce, dès lors que la cour cantonale a considéré - sans violer le droit fédéral - qu'un tel traitement était insuffisant pour prévenir le risque de récidive présenté par le recourant.
1.8.2. Pour le surplus, c'est en vain que le recourant invoque le fait qu'il est âgé de 26 ans et que le prononcé d'un traitement institutionnel " reviendrait de fait à le maintenir potentiellement en détention pour un bon nombre d'années indéterminé, portant ainsi gravement atteinte à ses droits fondamentaux ".
En effet, compte tenu du risque de récidive élevé portant sur des infractions graves contre la vie ou l'intégrité corporelle, que seule une mesure institutionnelle au sens de l'<ref-law> semble en mesure de contenir, la cour cantonale pouvait, sans violer le principe de proportionnalité (cf. <ref-law> et 36 al. 3 Cst.), considérer que l'atteinte aux droits du recourant est dans un rapport raisonnable avec le but de la mesure.
1.9. Au vu de ce qui précède, la cour cantonale n'a pas violé le droit fédéral en instaurant une mesure thérapeutique institutionnelle en faveur du recourant. Le grief doit être rejeté.
2.
Invoquant une violation des art. 47, 49 et 19 al. 2 CP, le recourant soutient que la peine de huit ans qui lui a été infligée est disproportionnée.
2.1. Selon l'<ref-law>, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2). La culpabilité doit être évaluée en fonction de tous les éléments objectifs pertinents, qui ont trait à l'acte lui-même, à savoir notamment la gravité de la lésion, le caractère répréhensible de l'acte et son mode d'exécution. Du point de vue subjectif, sont pris en compte l'intensité de la volonté délictuelle ainsi que les motivations et les buts de l'auteur. A ces composantes de la culpabilité, il faut ajouter les facteurs liés à l'auteur lui-même, à savoir les antécédents (judiciaires et non judiciaires), la réputation, la situation personnelle (état de santé, âge, obligations familiales, situation professionnelle, risque de récidive, etc.), la vulnérabilité face à la peine, de même que le comportement après l'acte et au cours de la procédure pénale (<ref-ruling> consid. 6 p. 66 s. et les références citées).
Pour fixer la peine, le juge dispose d'un large pouvoir d'appréciation. Il y a toutefois violation du droit fédéral lorsque le juge sort du cadre légal, se fonde sur des critères étrangers à l'<ref-law>, omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 1.2 p. 319; <ref-ruling> consid. 5.6 p. 61). L'exercice de ce contrôle suppose que le juge exprime, dans sa décision, les éléments essentiels relatifs à l'acte ou à l'auteur dont il tient compte, de manière à ce que l'on puisse constater que tous les aspects pertinents ont été pris en considération et comment ils ont été appréciés, que ce soit dans un sens aggravant ou atténuant (<ref-law>; <ref-ruling> consid. 1.2 p. 319). Le juge peut passer sous silence les éléments qui, sans abus du pouvoir d'appréciation, lui apparaissent non pertinents ou d'une importance mineure. La motivation doit justifier la peine prononcée, en permettant de suivre le raisonnement adopté. Un recours ne saurait toutefois être admis simplement pour améliorer ou compléter un considérant lorsque la décision rendue apparaît conforme au droit (<ref-ruling> consid. 1.2 p. 319; <ref-ruling> consid. 5.6 p. 61; arrêt 6B_1457/2020 du 15 avril 2021 consid. 1.1).
Aux termes de l'<ref-law>, si, en raison d'un ou de plusieurs actes, l'auteur remplit les conditions de plusieurs peines de même genre, le juge le condamne à la peine de l'infraction la plus grave et l'augmente dans une juste proportion. Il ne peut toutefois excéder de plus de la moitié le maximum de la peine prévue pour cette infraction. Il est en outre lié par le maximum légal de chaque genre de peine.
2.2. Selon l'<ref-law>, le juge atténue la peine si, au moment d'agir, l'auteur ne possédait que partiellement la faculté d'apprécier le caractère illicite de son acte ou de se déterminer d'après cette appréciation.
Le juge dispose d'un large pouvoir d'appréciation lorsqu'il détermine l'effet de la diminution de la responsabilité sur la faute (subjective) au vu de l'ensemble des circonstances. Il peut appliquer l'échelle habituelle: une faute (objective) très grave peut être réduite à une faute grave à très grave en raison d'une diminution légère de la responsabilité. La réduction pour une telle faute (objective) très grave peut conduire à retenir une faute moyenne à grave en cas d'une diminution moyenne et à une faute légère à moyenne en cas de diminution grave. Sur la base de cette appréciation, le juge doit prononcer la peine en tenant compte des autres critères de fixation de celle-ci. Un tel procédé permet de tenir compte de la diminution de la responsabilité sans lui attribuer une signification excessive (ATF <ref-ruling> consid. 5.6 p. 62; arrêt 6B_892/2020 du 16 février 2021 consid. 10.4.1 et les références citées).
En bref, le juge doit procéder comme suit en cas de diminution de la responsabilité pénale: dans un premier temps, il doit décider, sur la base des constatations de fait de l'expertise, dans quelle mesure la responsabilité pénale de l'auteur est restreinte sur le plan juridique et comment cette diminution se répercute sur l'appréciation de la faute. La faute globale doit être qualifiée et, au regard de l'<ref-law>, le juge doit expressément mentionner le degré de gravité à prendre en compte. Dans un deuxième temps, il lui incombe de déterminer la peine hypothétique qui correspond à cette faute. La peine ainsi fixée peut ensuite être, le cas échéant, modifiée en raison de facteurs liés à l'auteur (Täterkomponente) ainsi qu'en raison d'une éventuelle tentative selon l'<ref-law> (ATF <ref-ruling> consid. 5.7 p. 62 s.; arrêt 6B_892/2020 précité consid. 10.4.1).
2.3. Le recourant soutient que sa peine serait exagérément sévère par comparaison avec d'autres affaires portées devant la Cour d'appel pénale du Tribunal cantonal vaudois.
Dans la mesure où le recourant cite des jugements du Tribunal cantonal vaudois, ceux-ci n'ont pas fait l'objet d'un contrôle par le Tribunal fédéral si bien qu'il ne peut en tirer aucun argument.
Pour le surplus, comme le Tribunal fédéral a eu l'occasion de le rappeler à maintes reprises, la comparaison d'une peine d'espèce avec celle prononcée dans d'autres cas concrets est d'emblée délicate, compte tenu des nombreux paramètres qui interviennent dans la fixation de la peine. Il ne suffit d'ailleurs pas que le recourant puisse citer un ou deux cas où une peine particulièrement clémente a été fixée pour prétendre à un droit à l'égalité de traitement. Les disparités en cette matière s'expliquent normalement par le principe de l'individualisation des peines, voulu par le législateur. Elles ne suffisent pas en elles-mêmes pour conclure à un abus du pouvoir d'appréciation (<ref-ruling> consid. 6.3.2 p. 70 et les arrêts cités). La comparaison est généralement stérile, dès lors qu'il existe presque toujours des différences entre les circonstances, objectives et subjectives, que le juge doit prendre en considération dans chacun des cas (arrêt 6B_963/2019 du 8 octobre 2019 consid. 3.3.1 et la référence citée).
Le recourant ne démontre pas en quoi les circonstances concrètes de son cas, y compris les circonstances personnelles, seraient similaires aux cas qu'il cite si bien que les comparaisons invoquées sont sans pertinence.
2.4. Le recourant fait valoir qu'il a exprimé des remords tout au long de la procédure et qu'il a présenté des excuses à la victime. Dans la mesure où la cour cantonale a notamment relevé, à sa décharge, qu'il avait exprimé des regrets et qu'il avait adhéré aux conclusions civiles de la victime, le grief du recourant apparaît sans fondement.
2.5. Le recourant soutient que, compte tenu de l'ensemble des circonstances, en particulier de sa diminution moyenne de responsabilité, la cour cantonale aurait dû considérer que sa faute était subjectivement moyenne.
La cour cantonale a confirmé la peine privative de liberté de huit ans, prononcée par les premiers juges. Ces derniers avaient considéré que la peine pour une personne pleinement responsable serait une peine privative de liberté de 14 ans, les faits étant objectivement d'une gravité très importante. On comprend de la motivation du jugement que la cour cantonale a également considéré que la faute (objective) du recourant était très grave, celui-ci s'étant rendu coupable d'une tentative de meurtre à la limite de la tentative d'assassinat. Il avait minutieusement préparé son agression et avait agi avec beaucoup de sang froid. L'agression avait été extrêmement violente, le recourant assénant au moins 19 coups de couteau à la victime, en particulier au visage et à la gorge, jusqu'à ce qu'elle s'écroule au sol. Il l'avait alors frappée au visage, à la tête et sur le haut du corps, puis l'avait traînée par les cheveux hors de l'immeuble. Ce n'était d'ailleurs qu'à l'intervention d'un tiers qu'il avait pris la fuite, abandonnant sa victime sur place. Le recourant avait occasionné de très lourdes lésions à la victime. Cette infraction entrait par ailleurs en concours avec de nombreuses autres infractions, dont la contrainte et la tentative de contrainte, chacune commise à deux reprises. La cour cantonale a retenu, à l'instar des premiers juges, que le recourant avait agi de manière particulièrement répréhensible dans le cadre de toutes ces infractions.
La cour cantonale a tenu compte, à décharge du recourant, de la diminution moyenne de sa responsabilité au moment des faits, retenue par l'expert, et a donc conclu que c'était une faute moyenne à grave qui devait être prise en compte. Elle a fixé la peine privative de liberté à six ans pour la tentative de meurtre et l'a augmenté de 24 mois afin de tenir compte des multiples autres infractions.
Cette appréciation est conforme à la jurisprudence (cf. supra consid. 2.2). La cour cantonale n'a dès lors pas violé le droit fédéral en retenant une faute moyenne à grave. Le grief du recourant est rejeté.
2.6. En définitive, le recourant n'invoque aucun élément important propre à modifier la peine, qui aurait été omis ou pris en considération à tort par la cour cantonale. Au vu des circonstances, en particulier de la violence dont a fait preuve le recourant envers la victime, il n'apparaît pas que la peine privative de liberté de huit ans, fixée dans le cadre légal, soit exagérément sévère au point de constituer un abus du pouvoir d'appréciation.
3.
Compte tenu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Comme le recourant est dans le besoin et que ses conclusions ne paraissaient pas d'emblée vouées à l'échec, sa demande d'assistance judiciaire doit être admise (<ref-law>). Par conséquent, il y a lieu de le dispenser des frais judiciaires et d'allouer une indemnité à son mandataire, désigné comme avocat d'office (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est admise. Me Basile Casoni est désigné comme conseil d'office et une indemnité de 3'000 fr. lui est allouée à titre d'honoraires, à payer par la caisse du Tribunal fédéral.
3.
Il n'est pas perçu de frais judiciaires.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 5 mai 2021
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
La Présidente : Jacquemoud-Rossari
La Greffière : Thalmann