Faits:
A. Ressortissant français né en 1969, X._ est arrivé en Suisse avec sa mère à l'âge d'un an en 1970. Il a été mis au bénéfice d'une autorisation d'établissement en 1973. Il s'est marié à deux reprises, aucun enfant n'étant né de ces unions.
X._ a été placé jusqu'à l'âge de cinq ans dans différentes familles d'accueil, puis jusqu'à l'âge de seize ans dans des écoles et foyers pour jeunes. Un apprentissage d'électricien, débuté en 1986, a été interrompu en raison de son placement en maison d'éducation au travail. En 1992, il a été grièvement blessé par balles dans le cadre d'une agression, qui lui a laissé de graves séquelles. Il a dû interrompre une formation de mécanicien en 1994 en raison de ses problèmes de santé. Depuis 2002, il perçoit une rente de l'assurance-invalidité.
B. Durant son séjour en Suisse, X._ a fait l'objet des condamnations pénales suivantes:
- En 1986, le Tribunal des mineurs vaudois a ordonné son placement en maison d'éducation, après l'avoir reconnu coupable notamment de brigandage, de menaces, d'infractions à la loi sur la circulation routière et d'infraction à la loi sur la protection des animaux.
- En 1990, le Procureur de Bellinzone l'a condamné à vingt jours d'emprisonnement avec sursis pour délit manqué de vol.
- Par jugement rendu en mars 1991 et confirmé sur appel en 1993, le Tribunal d'arrondissement de Zurich a condamné l'intéressé à dix-huit mois d'emprisonnement avec sursis pour vol, recel, lésions corporelles répétées et entrave à l'action pénale.
- En juillet 1991, le Juge d'instruction du Bas-Valais l'a condamné à dix jours d'arrêts et à une amende de 100 fr., avec sursis, pour conduite sans permis.
- En 1994, le Tribunal correctionnel du district de Vevey l'a condamné à deux ans d'emprisonnement et a révoqué les sursis accordés en 1990 et 1991 pour lésions corporelles simples commises au moyen d'une arme et d'un objet dangereux, vols, crime manqué de vol, dommages à la propriété, injures, violence et menaces contre les fonctionnaires, ivresses au guidon d'une moto et conduite d'une moto non assurée en responsabilité civile.
- En 2000, le Tribunal de district de Martigny/St-Maurice a condamné l'intéressé à vingt-deux mois d'emprisonnement pour lésions corporelles simples, mise en danger de la vie d'autrui, violation des règles de la circulation routière, conduite d'un véhicule défectueux et délit contre la loi sur les armes.
- En 2005, le Tribunal cantonal valaisan l'a condamné à onze mois d'emprisonnement pour crime contre la loi fédérale sur les stupéfiants.
- En mars 2006, la Cour d'assises du canton de Neuchâtel l'a condamné à huit ans et un mois de réclusion pour brigandage en bande et délit contre la loi sur les armes, peine complémentaire au jugement de 2005.
- En novembre 2006, le Ministère public du canton de Neuchâtel l'a condamné à trente jours d'emprisonnement pour rixe.
X._ a été libéré conditionnellement le 10 février 2010. Il s'est depuis lors mis en couple avec Y._, a trouvé une activité en adéquation avec son état de santé dans un atelier de tatouage lausannois, et bénéficie d'un encadrement tant médical que physio- et psychothérapeutique. Dans un rapport du 15 juillet 2011, la Fondation vaudoise de probation a émis l'avis que les éléments susmentionnés suffiraient à détourner X._ de la commission de nouveaux délits.
C. Après avoir été auditionné par la police municipale de Lausanne et par le Service de la population du canton de Vaud (ci-après: le Service cantonal), X._ a vu son autorisation d'établissement révoquée par décision du Département de l'intérieur du canton de Vaud du 17 novembre 2011, qui a aussi prononcé son renvoi immédiat de Suisse. Par arrêt du 16 août 2012, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours formé par X._ à l'encontre de la décision du 17 novembre 2011 et a confirmé celle-ci.
D. Agissant par la voie du recours en matière de droit public contre l'arrêt du 16 août 2012, X._ demande au Tribunal fédéral, principalement, son annulation et le renvoi de la cause à l'autorité cantonale de dernière instance pour nouvelle décision au sens des considérants; subsidiairement, il conclut à ce que la décision de révocation et de renvoi de Suisse soit annulée. Le Tribunal cantonal, le Service cantonal, le Chef du Département cantonal et l'Office fédéral des migrations proposent le rejet du recours.
Par ordonnance présidentielle du 25 septembre 2012, le Tribunal fédéral a admis la requête d'effet suspensif formée par le recourant.

Considérant en droit:
1. 1.1 Le recours en matière de droit public est recevable contre les décisions révoquant une autorisation d'établissement, parce qu'il existe en principe un droit au maintien d'une telle autorisation (<ref-ruling> consid. 1.2 p. 4; art. 83 let. c ch. 2 LTF e contrario). Pour le surplus, s'en prenant à l'arrêt du Tribunal cantonal du 16 août 2012, le recours est dirigé contre une décision finale (<ref-law>) rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF); en outre, il a été déposé en temps utile (<ref-law>) et dans les formes prescrites (<ref-law>) par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>). Par conséquent, il convient d'entrer en matière.
1.2 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Aux termes de cet alinéa, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant.
1.3 En outre, le Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ceux-ci n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 7.1 p. 51; <ref-ruling> consid. 4.2 p. 560) - ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente (cf. <ref-law>), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergeant de celui qui est contenu dans l'acte attaqué. Les faits et les critiques invoqués de manière appellatoire sont irrecevables (<ref-ruling> consid. 3 p. 104). Aucun fait nouveau ni preuve nouvelle ne peut en principe être présenté devant le Tribunal fédéral (<ref-law>).
En tant que le recourant se plaint d'une constatation manifestement inexacte, et donc arbitraire, des faits notamment en relation avec l'influence de ses précédentes et actuelle compagnes sur la commission d'infractions et l'absence passagère de récidives à la suite de sa condamnation pénale de 1994, ses arguments s'épuisent en des critiques vagues et appellatoires. Celles-ci sont impropres à laisser apparaître comme arbitraires les constatations des faits ou leur appréciation par le Tribunal cantonal; le risque de récidive pénale sera pour le surplus abordé sous l'angle des griefs au fond (consid. 4 infra).
2. Le recourant reproche aux autorités cantonales d'avoir, à la faveur d'une appréciation anticipée des preuves arbitraire et contraire à son droit d'être entendu, rejeté ses requêtes d'instruction complémentaire visant à ce que lui et sa nouvelle compagne soient auditionnés. Ces auditions auraient permis aux juges cantonaux de mieux apprécier la vie quotidienne du couple et le caractère profond de leur relation, les conséquences néfastes d'un retour du recourant en France et la question du risque de récidive.
2.1 Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. comprend notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 2.3 p. 282; <ref-ruling> consid. 3.1 p. 277). Ce droit ne s'oppose pas à ce que l'autorité mette un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 5.2 p. 236 s.; <ref-ruling> consid. 5.3 p. 148). En outre, les garanties minimales en matière de droit d'être entendu découlant de l'art. 29 al. 2 Cst. ne comprennent en principe pas le droit d'être entendu oralement (ATF <ref-ruling> consid. 5.3 p. 148; arrêt 2C_382/2011 du 16 novembre 2011 consid. 3.3).
2.2 En l'espèce, le recourant ne se prévaut d'aucune disposition de droit cantonal lui conférant des garanties supérieures à l'art. 29 al. 2 Cst. (cf. arrêt 2C_382/2011 précité, consid. 3.3 e contrario). Il n'invoque par ailleurs aucune circonstance particulière qui eût obligé les autorités cantonales de tenir des débats. La prétendue simplicité avec laquelle une audience aurait pu être organisée sur le plan cantonal n'y change rien. Les juges cantonaux se sont déclarés suffisamment renseignés pour trancher le litige sans devoir procéder aux actes d'instruction requis par le recourant. S'agissant de la situation personnelle de ce dernier et des conséquences de son renvoi en France, ils se sont fondés sur l'audition de police de l'intéressé du 20 décembre 2010, ses déterminations du 18 juillet 2011 devant le Service cantonal et les arguments développés dans le cadre du recours cantonal. L'arrêt querellé tient de plus dûment compte des pièces produites par le recourant en particulier en lien avec sa situation médicale et professionnelle, ainsi que de la détermination détaillée de sa compagne au sujet de leur vie affective. Le Tribunal cantonal n'est ainsi pas tombé dans l'arbitraire (cf., pour cette notion, ATF <ref-ruling> consid. 4 p. 560; <ref-ruling> consid. 2.1 p. 211) en considérant que l'ensemble de ces éléments lui permettaient de renoncer à l'audition du recourant et de sa compagne.
3. Le litige porte sur le point de savoir si, compte tenu des condamnations pénales que le recourant a subies à partir de 1986, la révocation de l'autorisation d'établissement est conforme au droit. Tout en admettant que les infractions pénales commises ont été graves, le recourant conteste l'existence d'un risque de récidive caractérisé depuis sa libération conditionnelle en 2010 et se prévaut d'un cadre de vie stabilisé, de son très long séjour en Suisse, ainsi que des répercussions d'un retour forcé en France sur sa situation et son état de santé fragile.
4. 4.1 En sa qualité de ressortissant français exerçant actuellement une activité professionnelle à temps réduit en Suisse, le recourant peut se prévaloir de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses États membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681).
Cela étant, l'ALCP ne réglemente pas en tant que tel le retrait de l'autorisation d'établissement UE/AELE, de sorte que c'est l'art. 63 LEtr qui est applicable (cf. art. 2 al. 2 LEtr et 23 al. 2 de l'ordonnance fédérale du 22 mai 2002 sur l'introduction progressive de la libre circulation des personnes entre, d'une part, la Confédération suisse et, d'autre part, l'Union européenne et ses Etats membres, ainsi qu'entre les Etats membres de l'Association européenne de libre-échange [OLCP; RS 142.203]). Dès lors qu'il constitue une limite à la libre circulation des personnes, le retrait de l'autorisation d'établissement doit néanmoins être conforme aux exigences de l'ALCP (arrêts 2C_238/2012 du 30 juillet 2012 consid. 2.1; 2C_980/2011 du 22 mars 2012 consid. 3.3).
4.2 Selon l'art. 63 al. 2 LEtr, l'autorisation d'établissement d'un étranger qui séjourne en Suisse légalement et sans interruption depuis plus de quinze ans ne peut être révoquée que si l'intéressé attente de manière très grave à la sécurité et l'ordre publics en Suisse ou à l'étranger, les met en danger ou représente une menace pour la sécurité intérieure ou extérieure de la Suisse (art. 63 al. 1 let. b LEtr) ou s'il a été condamné à une peine privative de liberté de longue durée - soit à une peine dépassant un an d'emprisonnement (<ref-ruling> consid. 4.2 p. 380 s.) - ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 CP (art. 62 let. b LEtr; cf. arrêt 2C_466/2012 du 14 novembre 2012 consid. 2).
En l'espèce, il n'est pas contesté que le recourant remplit, de par ses nombreuses condamnations pénales, dont - parmi bien d'autres - celles de 2000 et de mars 2006 lui ont valu des peines privatives de liberté de vingt-deux mois, respectivement de huit ans et un mois, les motifs permettant de révoquer son autorisation d'établissement, au sens des art. 63 al. 1 let. b et al. 2, ainsi que 62 let. b LEtr.
4.3 Comme l'ensemble des droits octroyés par l'ALCP, le droit de séjour découlant de l'<ref-law> ne peut toutefois être limité que par des mesures d'ordre ou de sécurité publics, au sens de l'<ref-law>.
4.3.1 Conformément à la jurisprudence, les limites posées au principe de la libre circulation des personnes doivent s'interpréter de manière restrictive. Ainsi, le recours par une autorité nationale à la notion d'"ordre public" pour restreindre cette liberté suppose, en dehors du trouble de l'ordre social que constitue toute infraction à la loi, l'existence d'une menace réelle et d'une certaine gravité affectant un intérêt fondamental de la société. Des motifs de prévention générale détachés du cas individuel ne sauraient donc les justifier (cf. <ref-ruling> consid. 3.4.1 p. 183 et l'arrêt de la Cour de Justice du 26 février 1975, 67/74 Bonsignore, Rec. 1975 p. 297 pts 6 et 7). D'après l'art. 3 par. 2 de la directive 64/221/CEE, la seule existence de condamnations pénales (antérieures) ne peut automatiquement motiver de telles mesures. Les autorités nationales sont tenues de procéder à une appréciation spécifique, portée sous l'angle des intérêts inhérents à la sauvegarde de l'ordre public, qui ne coïncide pas nécessairement avec les appréciations à l'origine des condamnations pénales. Autrement dit, ces dernières ne peuvent être prises en considération que si les circonstances les entourant laissent apparaître l'existence d'une menace actuelle pour l'ordre public (<ref-ruling> consid. 4.2 p. 20; <ref-ruling> consid. 4.3 p. 24).
Selon les circonstances, la jurisprudence de la Cour de Justice admet néanmoins que le seul fait du comportement passé de la personne concernée puisse réunir les conditions de pareille menace actuelle (<ref-ruling> consid. 3.4.1 p. 184, et l'arrêt de la Cour de Justice du 27 octobre 1977 C-30/77 Bouchereau, Rec. 1977 p. 1999 pt 29). Dans ce cas, il ne doit pas être établi avec certitude que l'étranger commettra d'autres infractions à l'avenir; inversement, ce serait aller trop loin que d'exiger que le risque de récidive soit nul pour que l'on renonce à une telle mesure. Compte tenu de la portée que revêt le principe de la libre circulation des personnes, ce risque ne doit, en réalité, pas être admis trop facilement. Il faut bien plutôt l'apprécier en fonction de l'ensemble des circonstances du cas et, en particulier, de la nature et de l'importance du bien juridique menacé, ainsi que de la gravité de l'atteinte qui pourrait y être portée. L'évaluation du risque de récidive sera plus rigoureuse si le bien juridique menacé est important (cf. <ref-ruling> consid. 4.2 p. 20; <ref-ruling> consid. 3.3 p. 499 s.; arrêts 2C_201/2012 du 20 août 2012 consid. 2.3).
Les mesures d'éloignement sont soumises à des conditions d'autant plus strictes que l'intéressé a séjourné longtemps en Suisse. Le renvoi d'étrangers vivant depuis très longtemps en Suisse, voire de ceux qui y sont nés et y ont passé toute leur existence (étrangers de la "seconde génération"), n'est cependant exclu ni par l'ALCP, ni par la CEDH (<ref-ruling> consid. 4.4 p. 189 s. et les références; arrêt 2C_238/2012 du 30 juillet 2012 consid. 2.3).
Pour évaluer la menace que représente un étranger condamné pénalement, le Tribunal fédéral se montre particulièrement rigoureux - en suivant en cela la pratique de la Cour européenne des droits de l'homme - en présence d'infractions à la législation sur les stupéfiants, d'actes de violence criminelle et d'infractions contre l'intégrité sexuelle (arrêts 2C_238/2012 du 30 juillet 2012 consid. 2.3; 2C_221/2012 du 19 juin 2012 consid. 3.3.2; 2C_492/2011 du 6 décembre 2011 consid. 4.1).
4.3.2 La Cour de céans a confirmé récemment la révocation de l'autorisation d'établissement d'un ressortissant portugais né en Suisse et ne maîtrisant pas la langue de son pays d'origine, qui avait été condamné à six reprises, notamment pour trafic de drogue, à des peines privatives de liberté totalisant quatre ans environ (arrêt 2C_401/2012 du 18 septembre 2012 consid. 3). Le Tribunal fédéral a fait de même s'agissant d'un ressortissant italien né en Suisse, qui avait en particulier été condamné à deux reprises pour violation de la LStup, dont une grave, à une peine avec sursis de trois ans (arrêt 2C_38/2012 du 1er juin 2012 consid. 4 et 5). Le retrait du permis d'établissement a également été confirmé par rapport à un ressortissant autrichien né en Suisse et souffrant d'alcoolisme, qui avait été, en l'espace de seize ans, condamné à six peines privatives de liberté variant entre 21 jours et 21 mois pour avoir commis de nombreux vols et dommages à la propriété; si le recourant n'avait pas perpétré d'actes violents, d'ordre sexuel ou en matière de stupéfiants, les récidives justifiaient la révocation de son permis, étant précisé qu'un risque de réitération subsistait en dépit de sa libération conditionnelle (arrêt 2C_839/2011 du 28 février 2012 consid. 3.1 et 3.2). En outre, une menace suffisamment grave à l'ordre public, justifiant la révocation d'une autorisation d'établissement, a été retenue en rapport avec un ressortissant portugais vivant en Suisse depuis quinze ans qui, ayant occupé les forces de l'ordre pour vols, voies de fait et infractions à la LStup depuis l'âge de douze ans, avait été condamné à l'âge adulte à dix-huit mois d'emprisonnement avec sursis pour infraction grave à la LStup, puis à une peine privative de liberté de trente-deux mois pour infraction grave à la LStup et blanchiment d'argent (arrêt 2C_242/2011 du 23 septembre 2011 consid. 3 et 4).
4.3.3 Tel qu'il résulte de l'arrêt querellé, le recourant n'a cessé, depuis l'âge de seize ans, d'occuper les forces de l'ordre et les tribunaux pénaux. Entre 1986 et 2006, il a en effet été condamné à neuf reprises à des peines privatives de liberté d'une durée totale supérieure à quatorze ans. Or, tant la multiplication des infractions que la durée totale des condamnations pénales, qui n'a fait que croître au fil du temps, confirment la gravité des actes commis par le recourant, étant précisé que la majeure partie d'entre eux a été perpétrée alors que l'intéressé était déjà adulte, de sorte à exclure l'application de la jurisprudence Emre Emrah c. Suisse à sa situation (Cour EDH, arrêt du 22 mai 2008, req. 42034/04).
Parmi les forfaits retenus figurent des infractions qui, selon la jurisprudence du Tribunal fédéral, représentent une atteinte très grave à la sécurité et à l'ordre publics, en tant qu'elles lèsent ou compromettent l'intégrité corporelle ou la santé des personnes (cf. arrêt 2C_117/2012 du 11 juin 2012 consid. 4.4.2; <ref-ruling> consid. 3.3 p. 303). En particulier, le recourant a été condamné à plusieurs reprises pour avoir usé de violence et/ou infligé des lésions corporelles à autrui, notamment à l'aide d'une arme ou d'un objet dangereux (cf. condamnations de mars 1991, 1994, 2000, mars et novembre 2006 [brigandage et rixe]). Il ressort du jugement pénal relatif au brigandage perpétré que "l'accumulation de délits marqués, pour la plupart, par une certaine violence, ne manque pas de susciter de réelles interrogations sur la capacité du prévenu de mener une vie sociale ordinaire" et que ladite infraction "impliquait bien davantage de calcul et de froide résolution que d'impulsivité", de manière à limiter l'impact du trouble de la personnalité constaté sur la responsabilité pénale de l'intéressé (cf. jugement du 30 mars 2006, p. 55 s.). A ces infractions s'ajoute la condamnation du recourant, en 2005, à une peine de prison de onze mois pour crime contre la LStup.
Compte tenu de la gravité et de la fréquence des infractions commises par le recourant, qui a récidivé en dépit des très lourdes condamnations et malgré les avertissements prononcés à son encontre (sursis pénaux accordés en 1990 ainsi qu'en mars et juillet 1991), on peut retenir un risque de récidive concret et, par là même, une menace actuelle pour l'ordre public, de sorte à justifier la limitation de son droit à la libre circulation.
4.3.4 Les points positifs que le recourant avance pour obtenir l'annulation de la décision confirmant la révocation de son permis d'établissement ne sont pas de nature à affaiblir la menace actuelle pour l'ordre public qu'il représente. Ainsi, le recours s'épuise - sans en démontrer le caractère arbitraire - en des critiques appellatoires à l'encontre de l'appréciation du rapport psychothérapeutique du 3 février 2012 faite par les juges cantonaux, alors que, du propre aveu du recourant, l'arrêt attaqué tient compte, outre de la persistance de certains symptômes déstabilisateurs, de l'évolution favorable signalée dans ce rapport. En outre, l'argument du recourant, qui fait écho au rapport de probation du 15 juillet 2011, selon lequel il a adopté un comportement "exemplaire" depuis sa libération conditionnelle au 10 février 2010, doit être relativisé. Durant une telle phase, les autorités pénales ont en effet coutume de maintenir un certain contrôle sur le délinquant, en assortissant cette période d'une assistance de probation et/ou de règles de conduite et une récidive serait susceptible de déboucher immédiatement sur la révocation de la liberté conditionnelle. Du reste, l'octroi quasi-automatique de la liberté conditionnelle en droit pénal en fait un critère non décisif pour apprécier la dangerosité pour l'ordre public de celui qui en bénéficie (cf. arrêts 2C_401/2012 du 18 septembre 2012 consid. 3.5.4; 2C_201/2012 du 20 août 2012 consid. 3.3.2).
4.4 Par conséquent et contrairement à ce que prétend le recourant, c'est à bon droit que le Tribunal cantonal a, en suivant la décision du Département cantonal, retenu que le risque de récidive devait être considéré comme restant très important et d'actualité.
5. En tant que le recourant se prévaut aussi de la violation de l'art. 8 CEDH, sa motivation apparaît insuffisante au regard de l'<ref-law>. Au demeurant, on peut se demander sous quel angle il pourrait invoquer cette disposition. En ce qui concerne la relation avec sa nouvelle compagne, l'intéressé, qui n'a pas d'enfants, n'a pas fait état de projets concrets de mariage; de plus, cette relation, nouée peu avant la libération conditionnelle du recourant, apparaît trop récente pour tomber sous le coup de la protection de la vie familiale. Quoi qu'il en soit, le point de savoir si le recourant peut se prévaloir de l'art. 8 CEDH n'a pas à être tranché définitivement, dès lors qu'une ingérence dans l'exercice du droit au respect de la vie privée et familiale suppose en tout état une pesée des intérêts qui se confond avec l'examen de la proportionnalité requis par l'art. 96 al. 1 LEtr (cf. <ref-ruling> consid. 4.3 p. 381; arrêts 2C_141/2012 du 30 juillet 2012 consid. 3.2; 2C_265/2011 précité, consid. 6.1.2), qui sera traité ci-après (consid. 6 infra).
6. 6.1 Le principe de la proportionnalité découle notamment de l'art. 96 LEtr, applicable aussi au domaine régi par l'ALCP (cf. art. 2 al. 2 LEtr; cf. arrêt 2C_1045/2011 du 18 avril 2012 consid. 2.1). Il implique notamment de prendre en compte la durée du séjour en Suisse, l'âge d'arrivée dans ce pays, les relations sociales, familiales et professionnelles, le niveau d'intégration et les conséquences d'un renvoi. L'autorisation d'établissement d'un étranger qui réside de longue date en Suisse ne peut être révoquée qu'avec retenue (<ref-ruling> consid. 4.4 et 4.5 p. 382 s.; arrêt 2C_265/2011 précité, consid. 6.1.1).
En cas d'activité pénale grave ou répétée, une telle révocation n'est toutefois pas exclue, même si l'étranger est né en Suisse où il a passé toute son existence (cf. consid. 4.3.1 supra; arrêts 2C_201/2012 du 20 août 2012 consid. 4.1; 2C_238/2012 du 30 juillet 2012 consid. 4.2). A titre indicatif, la jurisprudence considère que l'étranger qui n'a séjourné que peu de temps en Suisse et qui a été condamné à une peine privative de liberté de deux ans ou plus ne peut, sauf circonstances tout à fait particulières, plus bénéficier d'un titre de séjour en Suisse, même lorsqu'on ne peut pas ou difficilement exiger de son éventuelle épouse suisse qu'elle quitte son pays (<ref-ruling> consid. 4.3 et 4.4 p. 381 ss; arrêt 2C_643/2012 du 18 septembre 2012 consid. 3.3).
6.2 Il résulte des constatations des premiers juges que l'intimé est arrivé en Suisse à l'âge d'un an, qu'il y a passé toute sa vie et qu'il y possède toutes ses attaches, soit sa mère, son beau-père, son frère et sa nouvelle compagne. Percevant une rente AI en raison des séquelles de l'agression subie en 1992, le recourant a, dès le 1er mars 2010 (<ref-law>), commencé une activité à 30% dans un atelier de tatouage. Au vu de ces éléments, le Tribunal cantonal a, à bon droit, retenu les "difficultés auxquelles le recourant serait confronté en cas de renvoi en France", en particulier compte tenu de sa "fragilité physique et psychique" et de l'encadrement médical déjà mis en place en Suisse.
Les premiers juges ont toutefois correctement contrebalancé les éléments plaidant en faveur d'un maintien du permis d'établissement du recourant avec le fait que ce délinquant multirécidiviste a été condamné à neuf reprises depuis 1986 pour un total de quatorze ans et six mois de peine privative de liberté, y compris pour des actes violents, de sorte à apparaître imperméable à la sanction; ce, en dépit des avertissements reçus (sursis), de ses liens familiaux et sociaux en Suisse et, comme il ressort de l'état de fait, des séquelles médicales découlant de l'agression subie en 1992 déjà. Ayant passé plus d'un tiers de son séjour en Suisse en détention, il ne saurait ainsi se considérer comme particulièrement intégré, étant précisé que sa libération conditionnelle en février 2010 et que les éléments favorables signalés depuis lors (activité professionnelle, traitements médicaux entrepris, vie de couple, volonté de se reconstruire) sont trop récents pour y accorder un poids décisif. Par ailleurs, les juges cantonaux ont également tenu compte, à juste titre, de la proximité géographique de la Suisse avec le pays d'origine de l'intéressé (la France), dont il maîtrise la langue, et qui lui permettrait de maintenir des liens avec ses proches. S'ajoute à cela la possibilité pour le recourant de bénéficier en France, pays disposant notoirement d'un réseau de soins et social développé, d'une prise en charge médicale comparable aux traitements initiés en Suisse.
6.3 Compte tenu de l'ensemble des circonstances, il n'apparaît pas qu'en faisant primer l'intérêt public à éloigner le recourant sur l'intérêt privé de celui-ci à pouvoir vivre en Suisse, le Tribunal cantonal ait méconnu l'art. 96 LEtr et, en tant qu'applicable, l'art. 8 CEDH. Bien que la révocation de l'autorisation d'établissement d'un étranger dit de la "deuxième génération" présente une mesure sévère qui doit demeurer l'exception, l'appréciation des autorités cantonales, étant en particulier donné le mépris total dont a fait preuve le recourant vis-à-vis de l'ordre juridique suisse pendant vingt années, reste dans les limites admises par le droit fédéral et la CEDH.
En lui impartissant un nouveau délai de départ de Suisse, les autorités seront néanmoins tenues de consentir un temps raisonnable au recourant pour lui permettre, le cas échéant avec l'aide de ses médecins et thérapeutes traitants, de mettre en place un cadre de soins adéquat au nouveau lieu de séjour qu'il se constituera après avoir quitté la Suisse.
7. Les considérants qui précèdent conduisent au rejet du recours, dans la mesure où il est recevable. Les frais seront mis à la charge du recourant, qui succombe (art. 65 al. 2 et 3 et 66 al. 1 LTF). Il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Chef du Département de l'intérieur, au Service de la population et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral des migrations.
Lausanne, le 26 janvier 2013
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Chatton