Faits:
A. X._, ressortissant italien né en 1953, a vécu en Suisse dès l'âge de vingt-six ans comme saisonnier puis, à la suite de son mariage, au bénéfice d'un permis de séjour puis d'établissement.
Le 5 novembre 2003, le prénommé a été condamné par la Cour d'assises de Neuchâtel à une peine de onze ans de réclusion pour le meurtre de son épouse.
Le 29 septembre 2008, le Service des migrations du canton de Neuchâtel a révoqué l'autorisation d'établissement de X._.
B. Contre cette décision, X._ a recouru au Département de l'économie du canton de Neuchâtel (ci-après: le Département cantonal), qui l'a débouté le 10 juillet 2009. Comme l'autorité de première instance, le Département cantonal a fondé son jugement sur la gravité des infractions pénales, en complétant cette motivation par la mention d'autres poursuites pénales auxquelles l'accusé s'était exposé avant sa condamnation par la Cour d'assises, soit un rapport de police pour voies de fait et lésions corporelles et une amende pour lésions corporelles simples.
Le 14 septembre 2009, X._ a porté sa cause devant le Tribunal administratif du canton de Neuchâtel (devenu entre-temps la Cour de droit public du Tribunal cantonal du canton de Neuchâtel; ci-après: le Tribunal cantonal), lequel a rejeté son recours par arrêt du 9 mars 2011. Le Tribunal cantonal s'est fondé en particulier sur l'art. 5 de l'annexe I de l'accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681), en mettant en évidence la nécessité de procéder à une appréciation rigoureuse du risque de récidive eu égard à l'importance du bien juridique menacé. Il s'est largement fondé sur l'expertise (à laquelle il sera fait référence dans la partie "Droit" ci-après en tant que nécessaire) réalisée en 2008 avant l'octroi de la libération conditionnelle. Le Tribunal cantonal a aussi relevé que X._, "après avoir épousé en décembre 2009 son amie brésilienne, selon une relation asymétrique du type même de celle qui est, selon les experts, susceptible de générer une situation dangereuse, [...] se refuse à admettre que son mode de pensée, dans ses rapports de couple, peut constituer un danger. Il rejette sur des circonstances extérieures le fait qu'il ait tué son épouse et refuse toute introspection pour tenter de déterminer ce qui, en lui, l'a poussé à l'acte, y compris dans le domaine réputé à risque de ses rapports sentimentaux [...]. La règle de conduite impartie pour sa libération conditionnelle qui lui imposait une thérapie de couple, préconisée par le Service pénitentiaire, commission de dangerosité, dans un rapport du 21 août 2009, n'a été suivie qu'après son mariage, en décembre 2009, et le 17 mai 2010, il a demandé qu'elle soit modifiée pour ne plus devoir se pencher sur les circonstances de son acte en présence de son épouse".
C. Par écriture parvenue au Tribunal fédéral le 12 avril 2011, X._ forme un recours en matière de droit public. Il conclut préalablement à l'octroi de l'effet suspensif, lequel a été prononcé par le Président de la IIe Cour de droit public le 13 avril 2011. Sur le fond, il conclut à l'annulation de l'arrêt du Tribunal cantonal et, implicitement, au maintien de son autorisation d'établissement, le tout sous suite de frais et dépens.
Le Département cantonal et le Tribunal cantonal ont renoncé à formuler des observations sur le recours. L'Office fédéral des migrations a conclu à son rejet.
Considérant en droit:
1. 1.1 Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral, ni le droit international ne donnent droit. D'après la jurisprudence, il suffit qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte (ATF 136 II 177 consid. 1.1 p. 179).
1.2 Depuis l'entrée en vigueur, le 1er juin 2002, de l'ALCP, le recourant peut en principe, du seul fait de sa nationalité italienne, en déduire un droit à une autorisation de séjour en Suisse, notamment aux fins d'y exercer une activité économique (dépendante ou indépendante), d'y rechercher un emploi, voire même, à certaines "conditions préalables", d'y vivre sans exercer d'activité économique (cf. art. 2 par. 1 et 2 annexe I ALCP, ATF 131 II 339 consid. 1.2 p. 343). En effet, le champ d'application personnel et temporel de l'ALCP ne dépend pas du moment auquel un ressortissant communautaire arrive ou est arrivé en Suisse, mais seulement de l'existence d'un droit de séjour garanti par cette convention au moment déterminant, soit lorsque le droit litigieux est exercé (cf. ATF 134 II 10 consid. 2 p. 13). Le motif d'irrecevabilité prévu à l'art. 83 let. c ch. 2 LTF n'est donc pas opposable au recourant, sans toutefois que cela ne préjuge de l'existence effective du droit litigieux à une autorisation de séjour, ce point étant examiné avec le fond de la cause (cf. ATF 131 II 339 consid. 1.2 p. 343 et les références citées).
1.3 Les autres conditions de recevabilité étant réunies, il y a lieu d'entrer en matière.
1.4 Aucun fait nouveau ni preuve nouvelle ne peut être présenté, à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF). En l'occurrence, les pièces nouvelles versées en cause ne seront donc pas prises en considération par le Tribunal fédéral. Il en va de même des faits nouvellement allégués.
2. Le recourant se plaint d'une constatation arbitraire des faits.
2.1 L'examen du Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (art. 105 al. 1 LTF), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (ATF 134 V 53 consid. 4.3 p. 62) - ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente (cf. art. 97 al. 1 LTF), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergeant de celui qui est contenu dans l'acte attaqué. En particulier, le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire portant sur l'état de fait ou sur l'appréciation des preuves et se fonde sur les faits ressortant de l'arrêt querellé (cf. ATF 135 II 313 consid. 5.2.2 p. 322). La partie recourante est autorisée à attaquer des constatations de fait ainsi irrégulières si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Lorsque de tels griefs sont soulevés, l'art. 106 al. 2 LTF prévoit pour la motivation du recours des exigences qualifiées. La partie recourante doit ainsi indiquer, dans l'acte de recours lui-même, quel droit constitutionnel aurait été violé et montrer, par une argumentation circonstanciée, en quoi consiste sa violation (cf. ATF 134 I 83 consid. 3.2 p. 88; 134 III 186 consid. 5 p. 187; 133 II 249 consid. 1.4.2 p. 254).
2.2 En l'espèce, le recourant discute d'abord la lecture que le Tribunal cantonal a faite de la seconde expertise psychiatrique datant de 2008. Il procède ce faisant de façon purement appellatoire, non conforme aux exigences de l'art. 106 al. 2 LTF, en se bornant à substituer son appréciation de ce moyen de preuve à celle de l'autorité précédente. Il fait de même s'agissant de la portée à reconnaître à ses propres déclarations dans le cours de la procédure, qui n'auraient pas été appréciées correctement par le Tribunal cantonal. Son grief est donc irrecevable.
3. 3.1 Tel qu'il est garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuve pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (ATF 136 I 265 consid. 3.2 p. 272; 135 II 286 consid. 5.1 p. 293; 129 II 497 consid. 2.2 p. 504 s. et les arrêts cités). L'autorité peut cependant renoncer à procéder à des mesures d'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (ATF 130 II 425 consid. 2.1 p. 429; 125 I 127 consid. 6c/cc in fine p. 135; 124 I 208 consid. 4a p. 211 et les arrêts cités).
3.2 Sous couvert d'appréciation arbitraire des preuves, le recourant fait valoir que celles-ci n'étaient pas complètes, la situation ayant évolué depuis sa sortie de prison et le mariage intervenu le 8 décembre 2009, la dernière expertise remontant à 2008. En argumentant de la sorte, le recourant reproche en réalité au Tribunal cantonal de ne pas avoir administré de moyens de preuve complémentaires. Il s'agirait alors de violation de son droit d'être entendu, éventuellement dans sa composante relative à l'appréciation anticipée des preuves. Toutefois, le recourant n'allègue ni ne démontre que ces moyens de preuve ont été proposés valablement en procédure cantonale; il n'expose pas davantage en quoi, si tel a été le cas, la décision de ne pas y donner suite serait arbitraire.
Faute de motivation adéquate (cf. art. 106 al. 2 LTF), il n'y a donc pas à donner suite au grief du recourant qui se révèle irrecevable.
4. Le recourant s'en prend également au refus, par l'autorité de première instance, d'administrer des preuves relatives à l'évolution des entretiens de couple auxquels il se soumet. Comme il le relève lui-même, cette requête a été rejetée au motif que le Service des migrations n'était plus saisi de la cause à ce moment. Il est dès lors singulier de se plaindre d'un tel comportement ou d'une telle omission dans un recours dirigé contre l'arrêt ultérieur du Tribunal cantonal, la saisine de ce dernier ayant un effet dévolutif entraînant le dessaisissement de l'instance précédente. Le grief, qui se rapporte au comportement d'une autre autorité que celle ayant rendu l'arrêt entrepris, est donc irrecevable.
5. 5.1 Aux termes de son art. 2 al. 2, la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20) n'est applicable aux ressortissants des Etats membres de la Communauté européenne, aux membres de leur famille et aux travailleurs détachés par un employeur ayant son siège ou son domicile dans un de ces Etats que dans la mesure où l'ALCP n'en dispose pas autrement ou lorsque ladite loi contient des dispositions plus favorables. Comme l'ensemble des droits octroyés par l'ALCP, le droit de demeurer en Suisse pour y exercer une activité lucrative ne peut être limité que par des mesures d'ordre ou de sécurité publics, au sens de l'art. 5 par. 1 annexe I ALCP, dont le cadre et les modalités sont définis par les trois directives citées - dont la plus importante est la directive 64/221/CEE -, ainsi que par la jurisprudence y relative de la Cour de justice des Communautés européennes (ci-après: la Cour de justice ou CJCE) rendue avant la signature de l'accord le 21 juin 1999 (cf. art. 5 par. 2 annexe I ALCP en relation avec l'art. 16 al. 2 ALCP; au sujet de la prise en considération des arrêts de la Cour de justice postérieurs à cette date, cf. ATF 130 II 1 consid. 3.6 p. 9 ss, 113 consid. 5.2 p. 119 s. et les références citées). Conformément à la jurisprudence de la Cour de justice, les limites posées au principe de la libre circulation des personnes doivent s'interpréter de manière restrictive. Ainsi, le recours par une autorité nationale à la notion d'"ordre public" pour restreindre cette liberté suppose, en dehors du trouble de l'ordre social que constitue toute infraction à la loi, l'existence d'une menace réelle et d'une certaine gravité affectant un intérêt fondamental de la société (cf. ATF 130 II 176 consid. 3.4.1 p. 182; 129 II 215 consid. 7.3 p. 222 et les arrêts cités de la CJCE). D'après l'art. 3 par. 2 de la directive 64/221/CEE, la seule existence de condamnations pénales (antérieures) ne peut automatiquement motiver de telles mesures. Les autorités nationales sont tenues de procéder à une appréciation spécifique, portée sous l'angle des intérêts inhérents à la sauvegarde de l'ordre public, qui ne coïncide pas nécessairement avec les appréciations à l'origine des condamnations pénales. Autrement dit, ces dernières ne peuvent être prises en considération que si les circonstances les entourant laissent apparaître l'existence d'une menace actuelle pour l'ordre public (ATF 134 II 10 consid. 4.3 p. 24 qui souligne le "rôle déterminant" du risque de récidive). Selon les circonstances, la jurisprudence admet néanmoins que le seul fait du comportement passé de la personne concernée puisse réunir les conditions de pareille menace actuelle (ATF 130 II 176 consid. 3.4.1 p. 183 s.). Dans ce cas, il ne doit pas être établi avec certitude que l'étranger commettra d'autres infractions à l'avenir; inversement, ce serait aller trop loin que d'exiger que le risque de récidive soit nul pour que l'on renonce à une telle mesure. Compte tenu de la portée que revêt le principe de la libre circulation des personnes, ce risque ne doit, en réalité, pas être admis trop facilement. Il faut bien plutôt l'apprécier en fonction de l'ensemble des circonstances du cas et, en particulier, de la nature et de l'importance du bien juridique menacé, ainsi que de la gravité de l'atteinte qui pourrait y être portée (ATF 130 II 493 consid. 3.3 p. 499 s.). L'évaluation du risque de récidive sera d'autant plus rigoureuse que le bien juridique menacé est important (cf. ATF 130 II 176 consid. 4.3.1 p. 185 s.).
5.2 En l'occurrence, le recourant a été condamné le 5 novembre 2003 à onze ans de réclusion pour le meurtre de son épouse. Le bien juridique lésé à cette occasion est extrêmement important et la société ne peut s'accommoder en ce domaine d'un risque non négligeable de récidive. Il suffit donc que des indices laissent à penser que la réitération d'un acte de cette nature puisse se produire pour que les conditions conventionnelles autorisant le renvoi soient remplies. En ce sens, le Tribunal cantonal a soigneusement mis en évidence les éléments de fait qui permettent d'accréditer l'existence d'un tel risque de récidive. On relèvera en particulier la présence de troubles histrioniques avec composante perverse qui sont susceptibles de conduire à un nouveau passage à l'acte dans une relation sentimentale de type dominant-dominé dans laquelle sa partenaire sortirait du rôle de soumission qu'elle avait préalablement accepté. Le second expert, commis avant l'octroi de la libération conditionnelle et dont les propos sont repris par le Tribunal cantonal, a ainsi confirmé que le recourant n'avait pas évolué sur le plan thérapeutique et qu'il s'enferrait dans des systèmes de déni et de projection. Le Tribunal cantonal précise encore: "L'expert a relevé que les mesures thérapeutiques resteraient sans effet en raison de son manque de capacité d'introspection et d'empathie, parce qu'il était si persuadé que la même situation 'accidentelle' que celle qui l'avait poussé au meurtre ne se présenterait plus qu'il ne pouvait même pas essayer de se l'imaginer et d'y trouver des solutions. L'expert a relevé que le couple formé par le recourant et sa nouvelle compagne s'orientait sur une position asymétrique inquiétante et constitutive d'un danger certain, et a préconisé la mise en place d'une thérapie de couple. La réaction du recourant face à ces mesures confirme ces constatations." S'exprimant au sujet de cette seconde expertise psychiatrique dans le document intitulé "Objections et remarques" joint à son recours au Tribunal cantonal, le recourant a précisé qu'"aujourd'hui je me permets une fois de plus, de vous présenter mes excuses même si je pense ne pas avoir si tort que cela". L'autorité précédente en a déduit que ces propos sont significatifs "du peu de cas qu'il fait des conséquences de son acte et de ses implications sur le plan social et de l'ordre public".
De telles circonstances remplissent de toute évidence la condition de l'art. 5 par. 1 annexe I ALCP s'agissant en particulier de la gravité des actes reprochés au recourant et du risque de récidive. Il existe donc bien un motif de renvoi de Suisse fondé sur cette norme. Le grief correspondant doit, partant, être rejeté.
6. Le recourant conteste le résultat de la pesée d'intérêts opérée par le Tribunal cantonal entre l'intérêt public à le voir quitter la Suisse et son intérêt privé à y demeurer. Le grief doit également être rejeté. Outre qu'il se fonde sur nombre de circonstances dont on ne trouve pas trace dans le jugement entrepris et qui ne peuvent être prises en compte par le Tribunal fédéral - indépendamment de ce qu'elles ne sont d'ailleurs pas du tout établies -, le recourant met en évidence des faits essentiellement de nature économique qui ne sont pas susceptibles de contre-balancer l'acte gravissime qui lui est reproché. L'autorité précédente a pour le reste relevé que, jusqu'à l'âge de 26 ans, le recourant a vécu en Italie, pays où il s'est marié et a travaillé. Il avait d'ailleurs lui-même envisagé d'y retourner dans le cadre de sa libération conditionnelle pour y trouver du travail. C'est de même vers ce pays qu'il s'était dirigé une première fois lors du départ de son épouse et là encore qu'il voulait se rendre après le meurtre. Toutes ces circonstances démontrent qu'il n'y a rien d'insupportable pour lui d'être renvoyé vers cet Etat. Le grief doit donc être rejeté.
7. Le recours doit ainsi être rejeté dans la mesure de sa recevabilité. Le recourant, qui succombe, supportera les frais judiciaires (cf. art. 66 al. 1 LTF). Il n'est pas alloué de dépens (cf. art. 68 al. 1 a contrario LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Service des migrations, au Département de l'économie et au Tribunal cantonal du canton de Neuchâtel, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 26 juillet 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Vianin