Faits:
A. Par arrêt du 20 septembre 2007, la Cour criminelle du Tribunal cantonal jurassien a condamné X._ pour délit manqué de meurtre, incendies intentionnels, menaces, infractions à la LStup et à la LCR et dommages à la propriété d'importance mineure, à une peine privative de liberté de 5 ans, sous déduction de la détention préventive. Elle a également ordonné son internement (<ref-law>).
B. B.a Dans le cadre de l'exécution de sa peine privative de liberté, X._ a été placé dès le 5 juin 2007 aux établissements pénitentiaires de Thorberg après avoir séjourné dans la prison régionale de Berne. Il a ensuite été transféré à l'établissement d'exécution des peines de Bellevue (ci-après : EEP Bellevue), à Gorgier (NE), dès le 11 juin 2009.
B.b Par requête du 29 octobre 2009, le Service juridique, Exécution des peines et mesures, a saisi la Cour criminelle du Tribunal cantonal jurassien, conformément à l'<ref-law>, aux fins de décider de l'octroi éventuel de la libération conditionnelle en faveur de X._ dès le 6 mars 2010. Il précisait qu'à cette date, X._ aurait atteint les deux tiers de sa peine dont la fin était fixée au 6 novembre 2011.
C. Par arrêt du 22 février 2010, la Cour criminelle a refusé d'accorder à X._ la libération conditionnelle de la peine privative de liberté.
D. Le 30 août 2010, le Tribunal fédéral a admis le recours formé par X._ et a renvoyé la cause à l'autorité cantonale pour qu'elle recueille l'avis d'une commission composée de représentants des autorités de poursuite pénale, des autorités d'exécution et des milieux de la psychiatrie (ci-après : la commission interdisciplinaire ou la commission) et qu'elle rende une nouvelle décision (arrêt 6B_332/2010 du 30 août 2010).
E. Dans le cadre de la reprise de l'instruction, des rapports complémentaires ont été requis à l'EEP Bellevue et à la commission interdisciplinaire.
Le 16 novembre 2010, la Cour criminelle du Tribunal cantonal jurassien a une nouvelle fois refusé la libération conditionnelle de la peine privative de liberté.
F. X._ a déposé un recours en matière pénale au Tribunal fédéral contre l'arrêt cantonal. Il conclut à son annulation et au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il a également requis l'assistance judiciaire.
L'autorité cantonale a renoncé à se déterminer et le Ministère public a conclu au rejet du recours.

Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1, 497 consid. 3).
1.1 Le recours en matière pénale peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Selon l'<ref-law>, l'acte de recours doit indiquer les motifs (al. 1), lesquels doivent exposer succinctement en quoi l'acte attaqué viole le droit (al. 2). Pour satisfaire à cette obligation de motiver, le recourant doit discuter les motifs de la décision entreprise et indiquer précisément en quoi il estime que l'autorité précédente a méconnu le droit. Il n'est pas indispensable qu'il indique expressément les dispositions légales - le numéro des articles de loi - ou qu'il désigne expressément les principes non écrits de droit qui auraient été violés; il suffit qu'à la lecture de son exposé, on comprenne clairement quelles règles de droit auraient été, selon lui, transgressées par l'autorité cantonale (<ref-ruling> consid. 3.3 et les arrêts cités; <ref-ruling> consid. 2.1).
Toutefois, si le recourant se plaint de la violation de droits fondamentaux, il doit indiquer précisément quelle disposition constitutionnelle a été violée et démontrer par une argumentation précise en quoi consiste la violation. Le Tribunal fédéral n'examine en effet de tels griefs que s'ils ont été invoqués et motivés (<ref-law>), c'est-à-dire s'ils ont été expressément soulevés et exposés de façon claire et détaillée (<ref-ruling> consid. 4.2.3; <ref-ruling> consid. 1.3.1; <ref-ruling> consid. 2.2).
Lorsqu'il statue sur un recours en matière pénale, le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Aux termes de l'<ref-law>, le recourant ne peut critiquer les constatations de fait que si elles ont été établies de façon manifestement inexacte, à savoir arbitraire au sens de l'art. 9 Cst., ou en violation du droit au sens de l'<ref-law> et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause. Le recourant qui soutient que les faits ont été constatés arbitrairement doit le démontrer, par une argumentation répondant aux exigences de l'<ref-law> (<ref-ruling> consid. 4.1.2).
En l'espèce, le recourant expose sur une vingtaine de pages sa propre version des faits pertinents, sans invoquer de manière précise ni violation du droit ni arbitraire. Il n'y a donc pas lieu de tenir compte de ces développements appellatoires. Dans la partie de son recours intitulée "Droit et discussion" il présente pêle-mêle des moyens de différente nature, en les formulant de telle manière qu'on ne peut toujours distinguer s'il conteste les constatations de fait ou l'application du droit. On se limitera, en conséquence, à traiter les griefs qui n'apparaissent pas d'emblée irrecevables pour ce motif.
1.2 L'arrêt attaqué a été rendu à la suite d'un arrêt de renvoi du Tribunal fédéral. Dans un tel cas, selon un principe juridique reconnu, l'autorité cantonale à laquelle une affaire est renvoyée est tenue de fonder sa nouvelle décision sur les considérants de droit de l'arrêt du Tribunal fédéral; sa cognition est limitée par les motifs de l'arrêt de renvoi, en ce sens qu'elle est liée par ce qui a déjà été tranché définitivement par le Tribunal fédéral. Saisi d'un recours contre la nouvelle décision, le Tribunal fédéral est aussi lié par son arrêt de renvoi (<ref-ruling> consid. 2-2.1 et les arrêts cités); il ne saurait se fonder sur des motifs qu'il avait écartés ou dont il avait fait abstraction dans sa précédente décision (<ref-ruling> consid. 2 p. 95).
Quant aux parties, dans un recours de droit fédéral dirigé contre la nouvelle décision cantonale, elles sont uniquement admises à faire valoir que l'autorité cantonale ne s'est pas conformée à l'arrêt de renvoi (<ref-ruling> consid. 4a; <ref-ruling> consid. 2 p. 95). En revanche, elles ne peuvent plus soulever des moyens que le Tribunal fédéral avait expressément rejetés dans l'arrêt de renvoi (<ref-ruling> consid. 4.2) ou qu'il n'avait pas eu à examiner, les parties ayant omis de les invoquer dans la première procédure de recours, alors qu'elles pouvaient - et devaient - le faire (arrêt 2C_184/2007 du 4 septembre 2007, consid. 3.1; <ref-ruling> consid. 2 p. 95/96).
En l'occurrence, le recourant méconnaît ces principes lorsqu'il dénonce le manque d'indépendance du Dr B._ au motif qu'il a fonctionné comme expert judiciaire à la fois dans la procédure qui a conduit le Tribunal cantonal jurassien à prononcer son internement en septembre 2007 et dans la présente procédure de libération conditionnelle. Ces circonstances ressortaient déjà de l'arrêt cantonal du 22 février 2010 (p. 3). Si le recourant entendait se plaindre de cette double intervention, il devait le faire dans le recours en matière pénale qu'il a formé contre ce premier arrêt. Dès lors qu'il n'avait pas dénoncé de violation du droit fédéral pour ce motif, le Tribunal fédéral n'avait pas à examiner cette question dans l'arrêt de renvoi. Le recourant ne peut y revenir dans la présente procédure. Son grief est ainsi irrecevable.
2. Le recourant se plaint de ce que la cour cantonale n'ait pas entendu oralement la commission interdisciplinaire et qu'elle se soit contentée d'un rapport écrit.
2.1 Au vu du pouvoir d'examen limité de la cour de céans (cf. consid. 1.2), celle-ci s'en tiendra à vérifier si les juges précédents se sont conformés aux instructions données dans l'arrêt de renvoi. A cet égard, il faut distinguer les règles de droit rappelées par le Tribunal fédéral qui lient l'autorité cantonale des simples indications ou recommandations qui n'ont aucun caractère contraignant pour le juge inférieur du moment que celui-ci respecte l'esprit des instructions reçues (cf. <ref-ruling> consid. 2b).
2.2 En l'espèce, dans l'arrêt de renvoi du 30 août 2010, il est certes question d'une audition de la commission interdisciplinaire. Cela étant, il importait au Tribunal fédéral de connaître l'opinion de dite commission afin de conférer au pronostic et à la décision de libération conditionnelle une assise plus large. Les juges cantonaux étaient donc libres de recueillir l'avis de la commission par un autre moyen. En se fondant sur un rapport écrit, l'autorité précédente a rempli l'objectif qui avait été fixé dans l'arrêt de renvoi et s'est conformée à l'esprit des instructions. Le grief est dès lors infondé.
3. Le recourant s'en prend au contenu du rapport de la commission interdisciplinaire qu'il juge inconsistant. Selon lui, en se fondant sur ce document, la cour cantonale a enfreint l'<ref-law> et le droit à une décision motivée découlant du droit d'être entendu garanti par l'art. 29 al. 2 Cst.
3.1 Il convient d'examiner en premier lieu si la commission interdisciplinaire est liée par le droit d'être entendu.
L'art. 35 al. 2 Cst. dispose que quiconque assume une tâche de l'Etat est tenu de respecter les droits fondamentaux et de contribuer à leur réalisation. Cette disposition s'adresse en premier lieu aux organes de l'Etat mais aussi aux particuliers qui assument, sur délégation de l'Etat, une tâche publique (<ref-ruling> consid. 5.2; <ref-ruling> consid. 4b p. 88 ss).
Tel est précisément le cas de la commission d'experts prévue à l'<ref-law>. En effet, celle-ci assume une tâche étatique et rend une recommandation qui, même si elle ne constitue pas une décision au sens formel qui lie l'autorité compétente, joue un rôle important. Le caractère pluridisciplinaire de la commission donne au préavis qu'elle émet un poids déterminant et l'autorité de décision s'en écartera difficilement. La commission doit ainsi respecter les garanties minimales essentielles. A ce titre, le Tribunal fédéral a déjà reconnu que le détenu pouvait récuser les membres de la commission (<ref-ruling> consid. 5). En raison du caractère décisif du préavis dans la procédure de libération conditionnelle, il faut également admettre que l'intéressé a le droit d'obtenir une décision motivée qui lui permette de comprendre la décision et, le cas échéant, d'exercer son droit de recours, étant précisé que celui-ci s'exercera non pas contre la recommandation de la commission mais contre la décision de l'autorité compétente au sens de l'<ref-law> (cf. MARTIN WIRTHLIN, Die Kommissionen nach Art. 62d Abs. 2 StGB und die Gehörrechte der betroffenen Straftäter in : Jusletter 26.Februar 2007, note 2; MARIANNE HEER, Commentaire bâlois, I, 2ème éd., 2007, n. 30 ad <ref-law>; arrêt du 9 mars 2005 du Tribunal cantonal bâlois publié in : Plädoyer 6/2006 p. 79 ss consid. 11f; cf. aussi HEER/WIPRÄCHTIGER, Ausgewählte Fragen bei der Entlassung, in : Brennpunkt Strafvollzug, 2002, p. 52 ss, 70-71). Il suffit que la commission mentionne les motifs qui l'ont guidée et sur lesquels elle a fondé sa décision (cf. <ref-ruling> consid. 2.2.1 p. 188; <ref-ruling> consid. 3.3 et les arrêts cités).
Quant à l'<ref-law>, il prévoit que l'autorité compétente prend la décision de libération conditionnelle sur la base d'une expertise indépendante, après avoir entendu une commission composée de représentants des autorités de poursuite pénale, des autorités d'exécution et des milieux de la psychiatrie. Cette disposition ne formule aucune exigence quant au contenu de l'avis de la commission interdisciplinaire.
3.2 En l'espèce, la commission a préavisé négativement la libération conditionnelle du recourant. Dans son rapport, elle mentionne n'avoir aucun motif pertinent de s'écarter de l'expertise réalisée en janvier 2010 par le Dr B._ qui fait état d'un risque important que l'intéressé commette de nouveaux délits similaires à ceux déjà perpétrés. Elle relève que le recourant présente toujours une problématique psychiatrique complexe qui n'a pas évolué de manière significative depuis le début de son incarcération car il n'a entrepris aucun travail sur le délit et ne souhaite pas s'engager dans une thérapie. Même si cette motivation est succincte, elle permet à son destinataire de comprendre les motifs qui ont guidé la commission. Le grief tiré de l'art. 29 al. 2 Cst. est ainsi infondé.
Par ailleurs, on ne saurait y voir une violation de l'<ref-law>, la commission s'étant prononcée sur la question du pronostic et partant, de la libération conditionnelle, comme le prévoit cette disposition.
4. Le recourant conteste le refus de sa libération conditionnelle.
4.1 4.1.1 Aux termes de l'<ref-law>, l'exécution d'une peine privative de liberté précède l'internement. Les dispositions relatives à la libération conditionnelle de la peine privative de liberté (art. 86 à 88 CP) ne sont pas applicables. L'alinéa 3 de cette disposition prévoit que, si, pendant l'exécution de la peine privative de liberté, il est à prévoir que l'auteur se conduira correctement en liberté, le juge fixe la libération conditionnelle de la peine privative de liberté au plus tôt au jour où l'auteur a exécuté deux tiers de sa peine privative de liberté ou quinze ans en cas de condamnation à vie. Au demeurant, l'art. 64a est applicable.
4.1.2 Selon l'<ref-law>, l'auteur est libéré conditionnellement dès qu'il est à prévoir qu'il se conduira correctement en liberté. Le délai d'épreuve est de deux à cinq ans. Une assistance de probation peut être ordonnée et des règles de conduite peuvent lui être imposées pour la durée de la mise à l'épreuve.
La libération conditionnelle de l'internement au sens de l'<ref-law> dépend d'un pronostic favorable. L'examen de ce pronostic est effectué de manière plus stricte que lors de l'examen de la même question concernant les mesures thérapeutiques institutionnelles (cf. <ref-law>). La libération conditionnelle aura lieu s'il est "à prévoir", c'est-à-dire s'il existe une forte probabilité que le condamné se conduise bien en liberté. La garantie de la sécurité publique doit être assurée avec une probabilité aussi élevée que les enjeux soulevés par la libération conditionnelle, sans qu'une sécurité absolue ne puisse jamais être tout à fait garantie (<ref-ruling> consid. 2.1.1 et les réf. citées). La condition de la prévisibilité d'une conduite correcte en liberté doit être appréciée par rapport aux seules infractions énumérées à l'<ref-law>. Les autres comportements, qui n'entrent pas dans les prévisions de cette dernière disposition, sont irrelevants (<ref-ruling> consid. 1.1.2.2 p. 54).
4.1.3 Le pronostic doit être posé en tenant compte du comportement du condamné dans son ensemble et plus particulièrement de sa collaboration face aux traitements prescrits par les médecins, de la prise de conscience des actes à la base de sa condamnation, de ses aptitudes sociales et, notamment, de ses capacités à vivre en communauté et à résoudre des conflits potentiels. Il est difficile d'évaluer, à sa juste valeur, la dangerosité d'un détenu, dès lors que celui-ci évolue précisément dans un milieu conçu aux fins de le neutraliser (<ref-ruling> consid. 2.1.2 et les réf. citées).
L'autorité doit décider de la libération conditionnelle d'une peine privative de liberté précédant l'internement au sens de l'<ref-law> en se fondant sur un rapport de la direction de l'établissement, une expertise indépendante, l'audition d'une commission composée de représentants des autorités de poursuite pénale, des autorités d'exécution et des milieux de la psychiatrie et l'audition de l'auteur (cf. <ref-law>; <ref-ruling> consid. 2.2.2).
Dans l'émission du pronostic, l'autorité compétente dispose d'un large pouvoir d'appréciation, de sorte que le Tribunal fédéral n'intervient que si elle l'a excédé ou en a abusé, notamment lorsqu'elle a omis de tenir compte de critères pertinents et s'est fondée exclusivement sur les antécédents du condamné (<ref-ruling> consid. 2.3 p. 204).
4.2 La cour cantonale a constaté les faits suivants. Les établissements de Thorberg ont, dans un rapport du 12 janvier 2010, observé que, durant son séjour, le recourant s'était signalé par une attitude de refus du travail et des activités proposées pour le temps libre. Il avait notamment fait l'objet de huit sanctions disciplinaires liées à son refus de travailler, à un comportement injurieux envers le personnel médical ou à la consommation de cannabis.
Les directeurs de l'EEP Bellevue ont émis, le 28 octobre 2009, un préavis négatif à la libération conditionnelle en relevant que l'intéressé avait d'abord refusé de travailler, avant d'obtempérer passivement tout en cherchant régulièrement une dispense médicale qu'il avait finalement obtenue sous la forme d'un arrêt de travail à 50 % établi par son médecin personnel. Il ne participait pas aux activités socio-culturelles, éducatives ou sportives. S'il se montrait généralement respectueux avec les collaborateurs et la direction de l'établissement, sa relation avec ses codétenus était empreinte de réserve et rarement observable. En outre, l'intéressé n'évoluait que peu et n'avait aucun projet de réinsertion. Dans un nouveau rapport daté du 11 février 2010, le directeur de Bellevue a confirmé ces constatations, ajoutant que le recourant avait manqué de respect à l'équipe de cuisine et avait été sanctionné pour consommation de cannabis. Il a encore précisé que, vu l'absence d'évolution, une demande de transfert dans un autre établissement était en cours. Enfin, plus récemment, le 14 octobre 2010, l'EEP Bellevue a noté que, si le recourant s'était généralement montré sous un meilleur angle depuis le mois de février 2010, notamment dans son comportement au travail, il persistait à ne pas observer les règles de l'établissement, spécialement en ce qui concerne la consommation de cannabis, ce qui lui avait valu récemment trois sanctions disciplinaires.
Quant à l'expert psychiatre, il a, dans son rapport du 26 janvier 2010, posé le diagnostic de trouble schizotypique et relevé que ce trouble n'avait pas évolué de manière significative depuis mars 2007. Il a émis un pronostic global défavorable chez un sujet présentant un risque élevé de commettre, à moyen terme, des nouveaux délits graves contre l'intégrité ou la vie, similaires à ceux qu'il a déjà commis et de s'engager dans un projet de vengeance à l'égard de son ex-épouse.
Dans son rapport du 25 octobre 2010 , la commission interdisciplinaire a préavisé négativement la libération conditionnelle pour les motifs repris au considérant 3.2 ci-dessus.
Se fondant sur ces constatations, la cour cantonale a considéré que les efforts des différents thérapeutes qui étaient intervenus durant l'exécution de la peine n'avaient pas abouti à une amélioration concrète du trouble de la personnalité du recourant. Selon elle, les nombreuses sanctions disciplinaires qui lui ont été infligées pour des comportements impolis, pour détention et consommation de stupéfiants ainsi que son défaut d'intégration au sein des différents établissements pénitentiaires constituent des éléments qui pèsent en défaveur du recourant. Elle a ajouté que, bien qu'il ait connaissance du rôle aggravant de la consommation de cannabis, il continue à s'y adonner, ce qui montre qu'il refuse de reconnaître sa dangerosité. D'une manière générale, le recourant persiste d'ailleurs dans le déni et n'a pas de réelle volonté d'amendement. La cour cantonale a conclu que le recourant ne serait pas en mesure de se conduire correctement en liberté et de réussir à se réinsérer socialement sans risque sérieux pour la sécurité d'autrui.
5. Il convient d'examiner en premier lieu les critiques dirigées contre les constatations de faits opérées par l'autorité cantonale.
5.1 Le recourant méconnaît les exigences de motivation énoncées ci-dessus (cf. consid. 1.1) lorsqu'il fait grief aux juges précédents de ne pas s'être écartés "des propositions théoriques et spéculatives" de l'expertise judiciaire. Il lui appartenait en effet de dénoncer précisément les faits qu'il estimait être établis de manière manifestement inexacte ou en violation du droit et d'exposer leur incidence sur l'issue du litige, ce qu'il s'abstient de faire. Sa critique est ainsi irrecevable. Il en va de même dans la mesure où il s'en prend aux constatations relatives au risque élevé de récidive. Il se contente d'opposer sa propre appréciation des preuves à celle de l'autorité précédente, ce qui constitue une démarche appellatoire et partant, irrecevable (<ref-ruling> consid. 4.2.3).
5.2 Le recourant reproche à la cour cantonale de s'être fondée sur l'expertise judiciaire pour constater que sa consommation de cannabis aggravait le risque de récidive. Il lui oppose l'expertise privée établie par le Dr C._ qui serait d'un avis contraire sur ce point.
5.2.1 Selon la jurisprudence, l'expertise privée n'a pas la même valeur probante qu'une expertise judiciaire (<ref-ruling> consid. 3c). Elle n'est considérée que comme un simple allégué de partie (arrêt 4P.145/2005 du 21 septembre 2005 consid. 4, non publié in <ref-ruling>; <ref-ruling> consid. 3f/bb p. 82. On ne saurait ainsi remettre en cause une expertise ordonnée par l'administration ou le juge et procéder à de nouvelles investigations du seul fait qu'un ou plusieurs médecins traitants ont une opinion contradictoire. Il n'en va différemment que s'ils font état d'éléments objectivement vérifiables ayant été ignorés dans le cadre de l'expertise et qui sont suffisamment pertinents pour remettre en cause les conclusions de l'expert (arrêt 6B_302/2008 du 11 août 2008 consid. 2.1).
Lorsque l'autorité cantonale se rallie au résultat d'une expertise, le Tribunal fédéral n'admet le grief d'appréciation arbitraire des preuves que si l'expert n'a pas répondu aux questions, si ses conclusions sont contradictoires ou si, de quelqu'autre manière, l'expertise est entachée de défauts à ce point évidents et reconnaissables, même en l'absence de connaissances ad hoc, qu'il n'était tout simplement pas possible de les ignorer. Il ne lui appartient pas de vérifier que toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite à examiner si l'autorité cantonale pouvait, sans arbitraire, faire siennes les conclusions de l'expertise (<ref-ruling> consid. 2 in fine p. 86).
5.2.2 L'autorité précédente a d'abord relevé que l'expertise judiciaire contenait un condensé complet des renseignements tirés du dossier et des entretiens avec l'expertisé et avec les différents thérapeutes de celui-ci. L'expert a décrit précisément le résultat de ses observations et évaluations. Son rapport comporte une discussion de l'ensemble des renseignements recueillis et une appréciation motivée des diagnostics retenus et du risque de dangerosité. A l'inverse, les juges cantonaux ont constaté que l'expertise privée était sommaire et se limitait, sur le point contesté, à affirmer qu'il n'était pas démontré que la consommation de cannabis pourrait faciliter le passage à l'acte. Elle était au surplus contradictoire puisque l'expert privé soutenait également qu'en cas de libération du recourant, il serait nécessaire de contrôler l'abstinence de toute consommation de cannabis, "connaissant l'hypothèse [...] que cette substance peut induire ou amplifier un vécu paranoïaque". Selon la cour cantonale, cette dernière remarque démontrait la pertinence des conclusions de l'expert judiciaire relativement à la tendance du cannabis à favoriser les processus de désorganisation psychotique de la pensée et du comportement.
Ainsi, la cour cantonale a expliqué, de manière convaincante, pour quels motifs elle s'écartait des conclusions de l'expert privé. Or, ce dernier n'allègue pas d'arbitraire à ce sujet, ni ne démontre en quoi l'autorité cantonale aurait apprécié de manière insoutenable l'expertise judiciaire et le rapport du Dr C._. Il ne dit pas en quoi celui-ci serait suffisamment complet et pertinent pour remettre en cause l'expertise judiciaire. En particulier, il ne démontre pas que les juges précédents ont versé dans l'arbitraire en relevant que l'expertise privée était contradictoire sur le point litigieux. Par conséquent, faute de motivation suffisante, le grief est irrecevable.
5.3 Le recourant prétend que l'arrêt attaqué ne contient aucune constatation sur la prévisibilité qu'il commette une des infractions prévues à l'<ref-law>. Le grief tombe à faux dès lors que les juges précédents ont retenu que, selon l'expert, il existe un risque important que le recourant commette à nouveau des infractions graves, similaires à celles pour lesquelles il a été condamné.
6. Le recourant se plaint d'une violation de l'<ref-law>. Il estime que la cour cantonale a posé un pronostic défavorable en se fondant sur des critères non pertinents et en ignorant des éléments importants.
6.1 Se référant en particulier à l'<ref-ruling> consid. 5b/ee, le recourant prétend que le refus de reconnaître les actes ayant conduit à la condamnation ne devait pas être interprété comme un élément défavorable.
Selon la jurisprudence citée (cf. aussi arrêt 6B_755/2007 du 8 janvier 2008 consid. 2.4 et les auteurs cités), la libération conditionnelle n'est pas subordonnée à une reconnaissance des actes ou de l'illicéité des actes ayant conduit à la condamnation. Il s'agit toutefois d'un indice qui peut permettre de poser un pronostic sur le comportement futur du condamné en liberté.
En l'espèce, le recourant ne peut rien déduire en sa faveur de cette jurisprudence car l'autorité précédente ne lui a pas reproché, en soi, de ne pas avoir reconnu les infractions commises. Elle a constaté qu'il se cantonnait dans une attitude de déni général. Il niait non seulement avoir commis les actes pour lesquels il avait été condamné, mais ne reconnaissait pas non plus l'existence de son trouble psychique ni le caractère aggravant de sa consommation de cannabis sur sa dangerosité. En l'occurrence, l'autorité cantonale a déduit de ces éléments un défaut de prise de conscience, respectivement d'amendement qui laisse entrevoir un risque de récidive, ce qui constitue un élément pertinent pour juger de la libération conditionnelle.
6.2 Le recourant reproche à la cour cantonale d'avoir écarté l'avis de la psychologue D._ et du Dr E._ qui lui étaient favorables. Dans la longue discussion des critères dont elle a tenu compte pour statuer sur la libération conditionnelle, la cour cantonale a constaté que, selon la psychologue D._, le recourant avait progressé durant sa prise en charge aux établissements de Thorberg. Elle a toutefois estimé que cette appréciation devait être accueillie avec la plus grande réserve pour différents motifs. En premier lieu, cet avis était contredit par les différents rapports des établissements de Thorberg et les nombreuses sanctions disciplinaires qui y avaient été prononcées. Par ailleurs, selon l'expert judiciaire, la psychologue s'était contentée d'adhérer au point de vue du recourant, ce qui rendait ses conclusions non pertinentes. La cour cantonale a encore fait état de l'avis du Dr E._, qui a suivi l'intéressé à l'EEP Bellevue. Selon les magistrats précédents, ce médecin n'avait pu faire aucun travail centré sur les délits. Il estimait qu'il n'y avait pas de volonté de grand changement chez le recourant et que son suivi s'apparentait plus à un accompagnement portant sur l'intégration en prison que sur une thérapie. Son appréciation plus récente faisait état d'une alliance thérapeutique satisfaisante mais le médecin soulignait que le recourant ne s'ouvrait que difficilement, prétextant régulièrement qu'il était innocent.
On ne saurait ainsi reprocher à la cour cantonale d'avoir occulté les avis du Dr E._ et de la psychologue D._ qui ont été repris dans son arrêt. Le grief est ainsi infondé.
6.3 Contrairement à ce que prétend le recourant, son comportement pendant l'exécution, qu'il concerne son refus de travailler, les sanctions disciplinaires reçues ou encore son manque de participation aux activités sociales, constituent des éléments pertinents et défavorables. S'il est exact qu'il ne faut pas donner de signification excessive aux petits incidents inhérents à l'exécution d'une peine en milieu carcéral (MARIANNE HEER, op. cit., n. 22 ad <ref-law>; QUELOZ/BROSSARD, Commentaire romand, note 7, p. 656), les événement retenus dans le cas particulier, de par leur nature, leur durée et leur nombre, sont révélateurs d'une dangerosité persistante.
6.4 En définitive, la cour cantonale s'est fondée sur des éléments objectifs et pertinents et n'en a omis aucun. Par ailleurs, au vu des critères retenus, le pronostic quant au comportement futur du recourant ne peut être que défavorable. Aucune circonstance ne vient en effet suffisamment contrebalancer son grave trouble de la personnalité, son absence d'évolution significative, son comportement en détention qui lui a valu de nombreuses sanctions disciplinaires, son manque d'intégration au sein des établissements pénitentiaires et l'absence de volonté d'amendement. C'est donc sans abuser de son pouvoir d'appréciation que la cour cantonale a émis un pronostic défavorable.
7. Le recourant estime que l'autorité précédente devait le libérer conditionnellement tout en ordonnant des mesures contraignantes, telles qu'un suivi thérapeutique hebdomadaire. Cette mesure était suffisante selon lui, ce d'autant plus qu'il ne représente aucune menace pour l'ordre public. Par cette argumentation, il dénonce implicitement une violation du principe de la proportionnalité.
7.1 Le pronostic doit être posé en tenant compte du principe de la proportionnalité (art. 5 al. 2 Cst. et 56 al. 2 CP) selon lequel l'atteinte aux droits de la personnalité qui résulte pour l'auteur d'une mesure ne doit pas être disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité. Cette disposition postule de la sorte la pesée à effectuer entre l'atteinte aux droits inhérente à la mesure ordonnée et la dangerosité de l'auteur. Présente un caractère de dangerosité le délinquant dont l'état mental est si gravement atteint qu'il est fortement à craindre qu'il commette de nouvelles infractions. Lors de l'examen du risque de récidive, il convient de tenir compte de l'imminence et de la gravité du danger, ainsi que de la nature et de l'importance du bien juridique menacé. Lorsque des biens juridiques importants, tels que la vie ou l'intégrité corporelle, sont mis en péril, il faut se montrer moins exigeant quant à l'imminence et à la gravité du danger que lorsque des biens de moindre valeur, tels que la propriété ou le patrimoine, sont menacés (<ref-ruling> consid. 2a p. 5 et les arrêts cités). Le pronostic doit également tenir compte de la durée de la privation de liberté déjà subie par l'auteur. Il est ainsi manifeste que, dans la pesée des intérêts opérée par le législateur, le droit à la liberté personnelle d'un auteur qui présente une dangerosité susceptible de justifier un internement ne l'emporte jamais sur l'intérêt public à la sécurité des personnes (arrêt 6B_854/2010 du 5 mai 2011 consid. 1.2 destiné à publication et les réf. citées).
7.2 Dans le cas particulier, compte tenu du trouble de la personnalité dont souffre le recourant, du risque important qu'il commette de nouvelles infractions graves similaires à celles déjà commises, l'atteinte à ses droits de la personnalité est justifiée. Il faut souligner que le risque de récidive concerne la commission d'actes graves susceptibles de porter atteinte à l'intégrité physique ou à la vie de personnes.
Le recourant ne saurait prétendre qu'un suivi médical suffirait à écarter tout risque de récidive. La cour cantonale a en effet constaté d'une manière qui lie le Tribunal fédéral (<ref-law>) qu'il refusait de prendre conscience de son trouble psychique et de la nécessité d'une médication, ce qui rendait tout suivi médical illusoire en cas de libération. L'intéressé a d'ailleurs spontanément confirmé ce refus en séance du 22 février 2010 et n'a jamais exprimé le souhait de mettre fin à sa consommation de cannabis, puisqu'il refuse d'admettre qu'il s'agit d'un facteur aggravant sa dangerosité. Ce n'est que sur question de son mandataire qu'il a admis qu'il pourrait se soumettre à un traitement aux neuroleptiques et à des mesures d'accompagnement en cas de libération. Il n'a pas renouvelé cet engagement aux débats du 16 novembre 2010.
Dans ces conditions, aucune autre mesure que la poursuite de l'exécution de la peine privative de liberté ne paraît envisageable pour préserver la sécurité publique. Le grief tiré de la violation du principe de la proportionnalité est par conséquent infondé.
8. Le recourant a requis le bénéfice de l'assistance judiciaire. Les revenus dont il dispose et les conclusions qu'il a prises, qui n'étaient pas vouées à l'échec, justifient qu'il soit fait droit à sa requête (<ref-law>). Il peut, en conséquence, être dispensé des frais judiciaires, bien qu'il succombe sur le fond. La complexité de la cause et les intérêts en jeu justifient qu'un avocat d'office lui soit désigné (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire du recourant est admise et Me Pascal Junod, avocat à Genève, lui est désigné comme avocat d'office.
3. Une indemnité de 3'000 fr. est allouée à Me Pascal Junod par la caisse du Tribunal fédéral, au titre de l'assistance judiciaire.
4. Il n'est pas perçu de frais judiciaires.
5. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Jura, Cour criminelle.
Lausanne, le 5 août 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Mathys Rey-Mermet