Faits:
A. Ressortissant chilien né en 1971, X._ est entré en Suisse le 14 juillet 1980 avec sa famille et a obtenu, le 13 novembre 1981, le statut de réfugié. Il a ensuite été mis au bénéfice d'une autorisation d'établissement.
Sur le plan médical, X._ souffre de psychose schizophrénique de type hébéphrénique tendant à la chronicité et d'addiction à l'alcool ainsi qu'aux stupéfiants. Il bénéficie d'une rente entière de l'assurance-invalidité. Il a en outre été placé sous tutelle par décision du 3 décembre 1992 de la Justice de paix du cercle de Lausanne.
B. Durant son séjour en Suisse, X._ a fait l'objet des condamnations et mesures pénales suivantes:
- En 1989, le Tribunal des mineurs de Lausanne l'a condamné à une peine privative de liberté de huit mois pour brigandage, vol en bande, vol par métier, dommages à la propriété, escroquerie, violation de domicile, violences ou menace contre les autorités et les fonctionnaires, utilisation d'un cycle ou cyclomoteur sans droit, cession de véhicule à moteur à un conducteur sans permis de conduire, violation des règles de la circulation routière, contravention et délit contre la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup; RS 812.121), violation des devoirs en cas d'accident et pour circulation sans permis de conduire avec un cyclomoteur.
- En 1991, le Tribunal cantonal vaudois a ordonné une mesure d'internement à l'égard de l'intéressé pour vol par métier, violation de domicile, contravention à la LStup et obtention frauduleuse d'une prestation.
- En 1994, le Juge de Police d'Estavayer-le-Lac l'a condamné à une peine privative de liberté de trente jours pour vol, dommages à la propriété, violation de domicile et contravention à la LStup.
- En 2000, X._ a été reconnu coupable de lésions corporelles simples et de violence ou menace contre les autorités et les fonctionnaires et a été condamné par le Juge d'instruction de Lausanne à huitante-huit jours de peine privative de liberté.
- En 2002, le Juge d'instruction de Lausanne l'a condamné à une peine privative de liberté avec sursis de quinze jours pour vol et contravention à la LStup.
- En décembre 2006, le Tribunal d'arrondissement de Lausanne l'a condamné à une peine privative de liberté de deux ans et six mois, assortie de la poursuite d'un traitement psychothérapeutique ambulatoire, pour remise à des enfants de substances nocives, vol et tentative de vol, dommage à la propriété, injure, violation de domicile, actes d'ordre sexuel avec des enfants, viol, violence ou menace contre les autorités et les fonctionnaires, contravention à la LStup et infraction à la loi fédérale du 20 juin 1997 sur les armes, les accessoires d'armes et les munitions (LArm; RS 514.54). Il a en outre révoqué le sursis accordé en 2002. Ce jugement a été partiellement réformé par la Cour de cassation pénale du Tribunal cantonal vaudois, qui a réduit la quotité de la peine privative de liberté à deux ans et cinq mois et l'a assortie d'une amende de deux cents francs. Les infractions contre l'intégrité sexuelle commises par X._ portaient non seulement sur la commission d'un viol, mais également sur des relations sexuelles entretenues à plusieurs reprises avec une mineure, que l'intéressé savait âgée de moins de quinze ans.
- Par jugement du 28 février 2008, le Juge d'application des peines a refusé de mettre X._ au bénéfice d'une libération conditionnelle, considérant, en substance, que celui-ci se trouvait dans le déni de l'agression sexuelle et que de nouveaux débordements comportementaux étaient susceptibles de se produire en cas de libération. Le 1er décembre 2008, X._ a été libéré.
- Par ordonnance du 26 juillet 2010, le Juge d'instruction de Lausanne a condamné X._ à une peine privative de liberté de quarante jours pour vol et contravention à la LStup. Le 4 février 2011, le Juge d'application des peines a levé l'injonction de traitement ordonnée en 2005 à l'égard de l'intéressé.
C. En avril 2005, X._, qui souhaitait se rendre au Chili, a sollicité de l'Office fédéral des migrations l'ouverture d'une procédure de renonciation au statut de réfugié. Par décision du 2 septembre 2011, l'Office fédéral des migrations a révoqué l'asile accordé à X._, en raison du comportement délictueux de celui-ci, et lui a retiré sa qualité de réfugié, les circonstances à l'origine de l'octroi de son statut ayant pris fin.
D. Le 14 novembre 2011, le Service de la population du canton de Vaud (ci-après: le Service cantonal) a signifié à X._ qu'il entendait proposer au département compétent de prononcer la révocation de son autorisation d'établissement ainsi que son renvoi de Suisse, et à l'Office fédéral des migrations d'adopter à son encontre une mesure d'interdiction d'entrée en Suisse. Le Département de l'économie du canton de Vaud (ci-après: le Département de l'économie) y a procédé par décision du 13 février 2012 et imparti à l'intéressé un délai immédiat pour quitter la Suisse, après que celui-ci eut produit un rapport médical établi à son attention par le chef de clinique auprès de l'Unité de psychiatrie mobile du Département de psychiatrie du Centre hospitalier universitaire vaudois, d'où il ressort qu'en dépit de son évolution favorable sur les plans tant psychique, social que légal, X._ n'en présente pas moins "une pathologie psychiatrique grave" ainsi qu'une "importante vulnérabilité à tous les facteurs de stress", susceptibles de générer une décompensation du trouble psychique en cas de rupture du cadre mis en place.
X._ a recouru contre cette décision auprès de la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: le Tribunal cantonal). Il a produit, à l'appui de son recours, un certificat médical établi par le médecin chef du Service de psychiatrie générale du Département de psychiatrie du Centre hospitalier universitaire vaudois, qui fait état d'un "risque de décompensation rapide de la situation psychiatrique" de X._ ainsi que d'un "risque vital non négligeable" en cas d'expulsion de celui-ci.
E. Par arrêt du 28 juin 2012, le Tribunal cantonal a rejeté le recours de X._ contre la décision du 13 février 2012 et accordé à son défenseur d'office une indemnité de 3'218 fr. 40. Il a jugé que X._ s'était rendu coupable d'une grave infraction contre l'intégrité sexuelle et avait été condamné à une peine privative de liberté de longue durée au sens des art. 62 al. 2 et 63 al. 2 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20). Le risque de récidive élevé reconnu par les autorités pénales suffisait à admettre que la présence en Suisse du recourant constituait une menace très grave pour l'ordre public. Par ailleurs, l'intérêt public à son éloignement de Suisse devait prévaloir sur l'intérêt de X._ à demeurer dans le pays, où il bénéficie d'un environnement stable et de la présence de ses proches.
F. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de dépens, principalement, de réformer l'arrêt attaqué en ce sens que l'autorisation d'établissement soit maintenue et que l'indemnité allouée à son conseil soit portée à 7'410 fr. Il conclut, subsidiairement, à la réforme de l'arrêt attaqué en ce sens que celui-ci vaille uniquement avis comminatoire au sens de l'art. 96 LEtr et que l'indemnité allouée à son conseil soit portée à 7'410 fr. Il sollicite en outre sa mise au bénéfice de l'assistance judiciaire. Il a persisté dans ses motifs et conclusions dans sa détermination du 26 novembre 2012. Le chef du Département de l'économie se rallie aux considérants de l'arrêt attaqué. Le Service cantonal et le Tribunal cantonal, lequel se réfère aux considérants de l'arrêt attaqué, renoncent à se déterminer sur le recours. L'Office fédéral des migrations conclut au rejet de celui-ci.
Par ordonnance présidentielle du 4 septembre 2012, le Tribunal fédéral a admis la requête d'effet suspensif formée par X._.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (cf. <ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (cf. <ref-ruling> consid. 1 p. 43).
1.1 Dans le même acte, le recourant conteste à la fois la révocation de son autorisation d'établissement et la fixation des dépens en faveur de son conseil nommé d'office.
1.2 D'après l'<ref-law>, a qualité pour former un recours en matière de droit public quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire, est particulièrement atteint par la décision attaquée et a un intérêt digne de protection à son annulation ou sa modification.
Constitue un intérêt digne de protection, au sens de l'art. 89 al. 1 let. c LTF, tout intérêt pratique ou juridique à demander la modification ou l'annulation de la décision attaquée. Il consiste donc dans l'utilité pratique que l'admission du recours apporterait au recourant, en lui évitant de subir un préjudice de nature économique, idéale, matérielle ou autre que la décision attaquée lui occasionnerait. Cet intérêt doit être direct et concret; en particulier, le recourant doit se trouver, avec la décision entreprise, dans un rapport suffisamment étroit, spécial et digne d'être pris en considération. Il doit être touché dans une mesure et avec une intensité plus grande que l'ensemble des administrés (cf. <ref-ruling> consid. 2.1.2 p. 164).
1.3 En tant qu'il a trait à la fixation de l'indemnité en faveur de son avocat, le recourant perd de vue en l'espèce qu'il n'est nullement touché par la décision qui refuse d'octroyer des dépens à hauteur de 7'410 fr. à son mandataire. Il ne dispose pas même d'un intérêt de fait à voir son avocat bénéficier d'une indemnité, dans la mesure où il pourrait ultérieurement être appelé à rembourser le montant de l'aide dont il a bénéficié par ce biais. Il peut encore moins se prévaloir d'un intérêt juridique. En effet, lorsqu'un défenseur d'office est désigné à la partie indigente, il se crée un rapport juridique de droit public entre l'Etat et l'avocat désigné, qui confère à ce dernier une prétention à être indemnisé aux conditions prévues par le droit cantonal. Le défenseur d'office n'a pas le droit de se faire indemniser par la partie indigente et n'est en particulier pas autorisé à lui demander un complément de l'indemnisation qu'il reçoit de l'Etat; un versement par la partie indigente est exclu même si l'indemnité de l'Etat ne correspond pas à l'entier des honoraires. Un défenseur d'office qui violerait ces règles serait passible d'une procédure disciplinaire (cf. <ref-ruling> consid. 3b p. 325 s.). Le bénéficiaire de l'assistance judiciaire demeure étranger au rapport entre le défenseur et l'Etat; seul l'avocat dispose ainsi d'un intérêt juridiquement protégé à se plaindre d'une indemnité trop faible devant le Tribunal fédéral. La jurisprudence énonçant ce principe est constante (cf. <ref-ruling> consid. 2 p. 363; arrêts 2D_50/2010 du 10 novembre 2010 consid. 2; 5D_88/2008 du 14 août 2008 consid. 1). En l'espèce, il ne fait aucun doute que c'est le recourant qui a agi par le biais de son avocat et non ce dernier, en son nom propre.
Par conséquent, le recours en matière de droit public ne peut qu'être déclaré irrecevable en tant qu'il concerne la contestation relative à la fixation des dépens en faveur de l'avocat du recourant.
1.4 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Il l'est en revanche contre les décisions révoquant, comme en l'espèce, une autorisation d'établissement ou constatant qu'une autorisation de ce type est caduque, parce qu'il existe en principe un droit au maintien de cette autorisation (cf. <ref-ruling> consid. 1.2.1 p. 4). Pour le surplus, l'arrêt attaqué est une décision finale (cf. <ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF). Déposé en temps utile compte tenu des féries (cf. art. 46 al. 1 let. b et 100 al. 1 LTF) et dans les formes prescrites (cf. <ref-law>) par le destinataire de l'arrêt attaqué qui a qualité pour recourir au sens de l'<ref-law>, le recours en matière de droit public est par conséquent recevable.
1.5 Saisi d'un recours en matière de droit public, le Tribunal fédéral contrôle librement le respect du droit fédéral, qui comprend les droits de nature constitutionnelle (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>.
1.6 Aucun fait nouveau ni preuve nouvelle ne peut être présenté (cf. <ref-law>). Les courriers datés des 27 août, 29 août et 30 août 2012 produits à l'appui du recours sont des moyens de preuve nouveaux et par conséquent irrecevables.
2. Invoquant l'<ref-law>, le recourant reproche au Tribunal cantonal d'avoir arbitrairement établi les faits et apprécié les preuves du dossier. Invoquant de surcroît une violation de son droit d'être entendu garanti à l'art. 29 al. 2 Cst., il soutient que l'instance précédente n'est pas entrée en matière sur des faits qu'il a allégués, ni n'a indiqué les raisons pour lesquelles elle les a écartés, respectivement ignorés.
2.1 Le Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. <ref-law>). Selon l'<ref-law>, le recours peut critiquer les constatations de fait à la double condition que les faits aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> et que la correction du vice soit susceptible d'influer sur le sort de la cause, ce que le recourant doit rendre vraisemblable par une argumentation claire et circonstanciée répondant aux exigences des art. 42 al. 2 et 106 al. 2 LTF (cf. <ref-ruling> consid. 1.2 p. 511). La notion de "manifestement inexacte" figurant à l'<ref-law> correspond à celle d'arbitraire au sens de l'art. 9 Cst. (cf. <ref-ruling> consid. 7.1 p. 51; <ref-ruling> consid. 4.2 p. 560).
Lorsque le recourant - comme c'est le cas en l'espèce - s'en prend à l'appréciation des preuves et à l'établissement des faits, la décision n'est arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (cf. ATF <ref-ruling> consid. 4.2 p. 560; <ref-ruling> consid. 4.3 p. 62; <ref-ruling> consid. 2.1 p. 9).
2.2 Le recourant fait grief aux juges cantonaux d'avoir dressé un "portrait biaisé" de lui (cf. recours, p. 17) et de l'avoir dépeint comme un "individu dangereux" (cf. recours, p. 18) sur un mode appellatoire, se bornant à substituer son avis aux constatations de l'arrêt attaqué. Ce faisant, il ne se conforme pas aux exigences accrues de motivation de l'<ref-law>. Invoquant son droit d'être entendu, le recourant reproche encore à l'instance précédente de ne pas avoir "tenu compte de tous les éléments pertinents (en particulier, la période après décembre 2008) - pourtant valablement allégués et prouvés par pièces" (cf. recours, p. 20). Formulé de manière aussi succincte, ce grief ne répond pas non plus aux exigences de motivation de l'art. 106 al. 2 LT. Ces deux griefs sont par conséquent irrecevables.
3.1 Selon l'art. 63 al. 2 LEtr, l'autorisation d'établissement d'un étranger qui, comme le recourant, séjourne en Suisse légalement et sans interruption depuis plus de quinze ans ne peut être révoquée que si celui-ci attente de manière très grave à la sécurité et l'ordre publics en Suisse ou à l'étranger, les met en danger ou représente une menace pour la sécurité intérieure ou extérieure de la Suisse (cf. art. 63 al. 1 let. b LEtr) ou s'il a été condamné à une peine privative de liberté de longue durée ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 CP (cf. art. 62 let. b LEtr). L'énumération des cas de révocation est alternative, si bien qu'il suffit que l'un soit donné pour que la condition objective de révocation de l'autorisation soit remplie (cf. arrêts 2C_881/2012 du 16 janvier 2013 consid. 4.1; 2C_265/2011 du 27 septembre 2011 consid. 5.1).
3.2 Selon la jurisprudence, la peine privative de liberté dont a été frappé un étranger est considérée comme de longue durée, au sens de l'art. 62 let. b LEtr, lorsqu'elle dépasse un an d'emprisonnement (cf. <ref-ruling> consid. 4.5 p. 383; arrêt 2C_881/2012 du 16 janvier 2013 consid. 4.2). Cette durée doit impérativement résulter d'un seul jugement pénal, l'addition de plusieurs peines plus courtes totalisant plus d'une année n'étant pas admissible (cf. <ref-ruling> consid. 2.3.6 p. 302).
Ce motif de révocation est rempli au regard de la condamnation du recourant à une peine d'emprisonnement de deux ans et cinq mois en date du 7 mai 2007.
3.3 Selon la jurisprudence, une personne attente "de manière très grave" à la sécurité et à l'ordre publics lorsque ses actes lèsent ou compromettent des biens juridiques particulièrement importants comme l'intégrité corporelle, physique ou sexuelle (cf. <ref-ruling> consid. 3.3 p. 303; arrêts 2C_238/2012 du 30 juillet 2012 consid. 3.3.1; 2C_117/2012 du 11 juin 2012 consid. 4.4.2). Par analogie, des violations de moindre gravité peuvent, considérées dans leur ensemble, être qualifiées de "très graves" (cf. <ref-ruling> consid. 3 p. 302 ss).
Ce motif de révocation est également réalisé au regard des multiples infractions graves contre ou mettant en danger l'intégrité corporelle ou sexuelle des personnes (remise de substances nocives et actes d'ordre sexuel avec des enfants, viol, lésions corporelles simples, violations de la LStup) commises par le recourant. A cela s'ajoutent les très nombreuses condamnations pénales entre 1989 à 2010 dont il a fait l'objet, restées sans effet, qui dénotent son incapacité durable à observer l'ordre juridique suisse.
3.4 Par conséquent, les conditions permettant de prononcer la révocation de l'autorisation d'établissement du recourant sont réunies tant au regard des art. 62 let. b et 63 al. 1 let. b visés par l'art. 63 al. 2 LEtr.
4. Le recourant se plaint de la violation de l'art. 8 CEDH.
4.1 Un étranger peut se prévaloir de l'art. 8 CEDH, qui garantit le respect de sa vie privée et familiale, pour s'opposer à une éventuelle séparation de sa famille. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse soit étroite et effective (cf. <ref-ruling> consid. 1.3.1 p. 145; <ref-ruling> consid. 3.1 p. 285 et les arrêts cités). Les relations familiales qui peuvent fonder, en vertu de l'art. 8 par. 1 CEDH, un droit à une autorisation de police des étrangers sont avant tout les rapports entre époux ainsi qu'entre parents et enfants mineurs vivant ensemble (cf. <ref-ruling> consid. 1d/aa p. 65). Un étranger majeur ne peut se prévaloir de cette disposition que s'il se trouve dans un état de dépendance particulier par rapport à des membres de sa famille résidant en Suisse en raison, par exemple, d'un handicap (physique ou mental) ou d'une maladie grave (cf. <ref-ruling> consid. 2 p. 13 s.; <ref-ruling> consid. 1d p. 261; arrêt 2C_432/2011 du 13 octobre 2011 consid. 3.2) ou, dans des cas exceptionnels, s'il a tissé des liens sociaux ou professionnels spécialement intenses avec la Suisse, dépassant ceux qui résultent d'une intégration ordinaire (cf. ATF <ref-ruling> consid. 3.2 et 3.3 p. 286 ss).
4.2 Le recourant est majeur, célibataire et sans enfant. Dans l'arrêt attaqué, l'instance précédente a nié l'existence d'une relation de dépendance entre le recourant et sa mère ainsi que l'importance du lien qui l'unit à sa compagne suisse. Le recourant n'a pas réussi à démontrer que ces faits auraient été établis de façon manifestement inexacte (cf. consid. 2 ci-dessus), de sorte qu'il ne peut se prévaloir des garanties de l'art. 8 CEDH. Le grief est rejeté.
5. Invoquant l'art. 96 LEtr, le recourant se plaint du résultat de la pesée des intérêts effectuée par l'Instance précédente.
5.1 La révocation de l'autorisation d'établissement ne se justifie que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître la mesure comme proportionnée (cf. arrêts 2C_881/2012 du 16 janvier 2013 consid. 5.1; 2C_265/2011 du 27 septembre 2011 consid. 6.1). Exprimé de manière générale à l'art. 5 al. 2 Cst. et découlant plus spécifiquement de l'art. 96 LEtr, ce principe exige que la mesure prise par l'autorité soit raisonnable et nécessaire pour atteindre le but d'intérêt public ou privé poursuivi (cf. <ref-ruling> consid. 3.2 p. 91 s.; <ref-ruling> consid. 4.2 p. 380). C'est au regard de toutes les circonstances de l'espèce qu'il convient de trancher la question de la proportionnalité de la mesure de révocation. Lors de cet examen, il y a lieu de prendre en considération la gravité de la faute commise, le degré d'intégration, la durée du séjour en Suisse, ainsi que le préjudice que l'intéressé et sa famille auraient à subir du fait de la mesure (cf. <ref-ruling> consid. 4.3 p. 381; arrêt 2C_881/2012 du 16 janvier 2013 consid. 5.1). La peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à procéder à la pesée des intérêts (cf. arrêts 2C_881/2012 du 16 janvier 2013 consid. 5.1; 2C_265/2011 du 27 septembre 2011 consid. 6.1.1). La durée de présence en Suisse d'un étranger constitue un autre critère très important. Plus cette durée est longue, plus les conditions pour prononcer l'expulsion administrative doivent être appréciées restrictivement (cf. <ref-ruling> consid. 4.4 et 4.5 p. 382 s.; arrêt arrêts 2C_881/2012 précité, consid. 5.1).
5.2 Le recourant reproche à l'Instance précédente d'avoir donné à ses condamnations pénales un poids décisif, sans avoir suffisamment tenu compte de son état de santé déficient, de sa bonne intégration et de ses liens profonds avec la Suisse, de son absence d'attaches particulières avec son pays d'origine ainsi que de la relation qu'il a avec sa famille, en particulier sa mère, en Suisse. Il réitère à cet effet les arguments qu'il avait déjà exposés en instance précédente: le risque de récidive doit être écarté, dans la mesure où sa pathologie est prise en charge de façon adéquate. De plus, il a en Suisse sa famille, en particulier sa mère, dont la santé est "intimement liée au sort, ainsi qu'au bien-être, du recourant" (cf. recours, p. 28), de même que sa compagne. Ses liens avec son pays d'origine sont par ailleurs "inexistants" (cf. recours, p. 28). Enfin, le risque de décompensation serait "plus que patent" en cas d'expulsion, entraînant un risque de "clochardisation et une désinsertion sociale" (cf. recours, p. 29).
5.3 La pesée des intérêts opérée par l'instance précédente n'est pas critiquable. A juste titre, elle a tenu compte des condamnations pénales dont le recourant a fait l'objet en Suisse, très nombreuses ainsi que régulières, qui s'étendent sur une période allant de 1989 à 2010. Ces infractions ne sauraient être banalisées en tant qu'elles impliquent fréquemment le recours à la violence physique, sexuelle ou verbale (remise de substances nocives et actes d'ordre sexuel avec des enfants, viol, lésions corporelles simples, violations de la LStup, violences ou menaces; cf. supra consid. 3.3). Par ailleurs, comme le fait remarquer à juste titre l'instance précédente, le risque de récidive émanant de la personne du recourant ne doit pas être minimisé. Ni les peines dont il a dû s'acquitter, ni les sursis et mesures prononcés à son égard n'ont eu le moindre effet dissuasif sur lui. L'encadrement et la prise en charge adéquate de sa pathologie depuis 2008, tels qu'il les revendique (cf. recours, p. 30), ne l'ont en effet pas détourné de ses agissements criminels; en témoigne sa condamnation, en 2010, pour vol et contravention à la LStup. Le risque de "débordements comportementaux", mis en exergue dans le jugement du 28 février 2008 par le juge d'application des peines (cf. arrêt attaqué, p. 4), demeure dès lors d'autant plus présent qu'il s'est d'ores et déjà concrétisé. Enfin, si l'appui et l'entourage du recourant par ses proches peuvent en général être considérés comme des facteurs de stabilité diminuant le risque de récidive pénale, cet encadrement n'a cependant pas déployé les effets escomptés sur le comportement du recourant.
Par ailleurs, bien que ce dernier soit arrivé très jeune en Suisse et y ait passé toute son adolescence, il ne s'y est pas intégré. Hormis les infractions pénales dont il s'est rendu responsable, le recourant n'a pas démontré s'être créé des liens sociaux d'une intensité particulière en Suisse, ce qui plaide en défaveur de l'existence d'attaches fortes avec la Suisse.
5.4 Enfin, l'instance précédente a dûment pris en compte l'intérêt de la mère du recourant au maintien d'une vie familiale stable. D'après les constatations de fait de l'arrêt attaqué, la mère du recourant n'est pas capable de suivre son fils à l'étranger. Cela n'empêche pas que l'intérêt de la mère du recourant à mener sa vie familiale en Suisse aux côtés de son fils doit céder le pas à l'intérêt public à voir celui-ci quitter la Suisse. Celle-ci pourra maintenir des contacts réguliers par téléphone, lettres, messagerie électronique, vidéos à distance ou lui rendre visite. Le recourant pourra quant à lui venir voir sa famille à la faveur de séjours touristiques. Il en va de même de la compagne du recourant.
Il est vrai que l'intégration du recourant dans son pays d'origine avec lequel il n'a pas d'attaches particulières sera difficile. Force est toutefois de constater qu'il en parle la langue (cf. arrêt attaqué, consid. 3/c p. 13) et a déjà manifesté son intérêt à retourner au Chili en demandant à ce qu'il soit mis fin à son statut de réfugié (cf. arrêt attaqué, let. b p. 3; supra "Faits", let. C). Son retour aura des conséquences sur sa situation personnelle et médicale. Le recourant souffre en effet d'une grave atteinte à sa santé psychique. Cet état de santé a donné lieu à une décision d'octroi de rente d'invalidité complète de la part de l'assurance invalidité. L'encadrement psychiatrique et psychologique du recourant au Chili ne sera certes pas forcément identique à celui dont il bénéficie en Suisse. Il n'en demeure toutefois pas moins qu'à l'instar des autres pays de la région sud-américaine, le Chili n'est pas dépourvu de moyens en hôpitaux psychiatriques, psychiatres, infirmiers en soins psychiatriques, psychologues et travailleurs sociaux, ainsi que cela ressort de l'Atlas 2001 des ressources consacrées à la santé mentale dans le monde publié par l'Organisation mondiale de la santé (cf. http://www.who.int/mental_health/publications/fr/index.html).
Il résulte de ce qui précède qu'en dépit des difficultés d'intégration du recourant dans son pays d'origine, l'extrême gravité des actes et la culpabilité particulièrement lourde de ce dernier, actuellement majeur, célibataire et sans enfant, l'emportent sur son intérêt privé à rester en Suisse. En résumé, la délinquance chronique affichée par le recourant l'emporte.
5.5 Dans ces conditions, en faisant primer l'intérêt public à éloigner le recourant sur l'intérêt privé de celui-ci et de sa famille à pouvoir vivre ensemble en Suisse, l'Instance précédente n'a pas violé l'art. 96 LEtr.
6. Le recourant estime être victime d'une décision contraire au principe de la bonne foi. Il fait valoir que le Service cantonal a renoncé à révoquer son autorisation d'établissement alors qu'il était au courant de sa condamnation de décembre 2006. Il soutient que, dans ces conditions, le Service cantonal ne pouvait pas, sans adopter un comportement contradictoire, annoncer au département compétent son intention de révoquer ladite autorisation en novembre 2011 seulement, sur la base des faits ayant donné lieu à cette condamnation.
6.1 Aux termes de l'art. 5 al. 3 Cst., les organes de l'Etat et les particuliers doivent agir conformément aux règles de la bonne foi. Cela implique notamment qu'ils s'abstiennent d'adopter un comportement contradictoire ou abusif. De ce principe découle notamment, en vertu de l'art. 9 Cst., le droit de toute personne à la protection de sa bonne foi dans ses relations avec l'Etat (cf. <ref-ruling> consid. 5.2 p. 72 s.; <ref-ruling> consid. 5.2 p. 261). Le principe de la bonne foi protège le citoyen dans la confiance légitime qu'il met dans les assurances reçues des autorités, lorsqu'il a réglé sa conduite d'après des décisions, des déclarations ou un comportement déterminé de l'administration (cf. <ref-ruling> consid. 6.1 p. 636).
6.2 L'argumentation du recourant tombe à faux. Le Service cantonal ne lui a à aucun moment donné des assurances formelles quant au maintien de son autorisation d'établissement, dont il pourrait se prévaloir au titre de la protection de la bonne foi. De surcroît, le recourant n'a pas établi avoir pris des dispositions auxquelles il ne saurait renoncer sans subir un préjudice. Par conséquent, le grief tiré de l'art. 9 Cst. est rejeté.
7. Les considérants qui précèdent conduisent au rejet du recours dans la mesure où il est recevable. Succombant, le recourant doit supporter les frais judiciaires (cf. <ref-law>). Il a sollicité sa mise au bénéfice de l'assistance judiciaire. Le recours se révélant d'emblée dénué de chances de succès (cf. <ref-ruling> consid. 7.1 p. 2), la requête d'assistance judiciaire est rejetée (cf. <ref-law>). Succombant, le recourant doit supporter les frais de la procédure fédérale (<ref-law>). Il n'est pas alloué de dépens (cf. art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au Département de l'économie du canton de Vaud, Secrétariat général, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 6 mars 2013
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Dubey