Faits:
A. Par jugement du 11 novembre 2010, la Cour d'assises du canton de Neuchâtel a condamné X._ à une peine privative de liberté de douze ans, sous déduction de la détention préventive, pour tentative de meurtre sur la personne de sa femme et tentative d'assassinat sur la personne de sa fille.
En bref, elle a retenu que, dans la soirée du 15 juin 2009, X._ s'est violemment disputé avec sa femme. Lorsque celle-ci est sortie de leur appartement, il l'a rejointe dans les escaliers et l'a frappée d'abord à mains nues puis avec la perche en bois munie d'un crochet métallique destinée à ouvrir la trappe du galetas. Après l'intervention d'un voisin qui a secouru l'épouse, X._ est rentré dans l'appartement, s'est emparé de sa fille Z._, âgée d'un peu moins de sept ans. Il lui a passé un bras autour du cou en l'empêchant de crier, lui a annoncé "tu vas mourir, ma belle" avant de la précipiter du balcon situé au troisième étage, à environ dix mètres du sol. La chute de l'enfant a été amortie par une toile de store puis par des buissons, de sorte que la fillette s'en est tirée avec un fémur et une côte fracturés. De son côté, l'épouse a souffert de nombreuses blessures et hématomes, notamment à la tête, ainsi que d'une double fracture du poignet gauche.
B. Statuant le 10 mars 2011, la Cour de cassation pénale du Tribunal cantonal neuchâtelois a rejeté le recours formé par le condamné. Elle a en particulier jugé non crédible la version des faits de celui-ci; il soutenait qu'il n'avait pas jeté sa fille du balcon mais qu'elle s'était lancée elle-même dans le vide.
C. Contre l'arrêt cantonal, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale. En outre, il sollicite l'assistance judiciaire.

Considérant en droit:
1. Le Tribunal fédéral examine d'office la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 103).
1.1 Le recours au Tribunal fédéral s'exerce par le dépôt d'un mémoire motivé, dans un délai de trente jours dès la notification de la décision attaquée (cf. art. 42 et 100 LTF). Les écritures déposées après l'échéance de ce délai sont irrecevables.
En l'espèce, l'arrêt attaqué a été notifié au recourant le 14 mars 2011. Il disposait, pour faire valoir tous ses moyens, d'un délai échéant le mercredi 13 avril 2011. Ainsi, le recours en matière pénale déposé par son mandataire à cette date l'a été en temps utile. En revanche, le courrier envoyé par le recourant le 14 avril 2011 et les pièces annexées sont tardifs et par conséquent irrecevables.
1.2 Le recourant conclut uniquement à l'annulation de la décision attaquée et au renvoi de la cause à l'autorité cantonale. Une telle conclusion n'est, en principe, pas suffisante (cf. <ref-ruling> consid. 1.3, p. 383; v. aussi spécifiquement pour le recours en matière pénale: arrêt 6B_78/2009 du 22 septembre 2009, consid. 7.2.1). Les motifs du recours permettent cependant de comprendre que le recourant voudrait, en réalité, être acquitté des infractions de tentative d'assassinat et de tentative de meurtre. Cela suffit pour répondre aux exigences de forme déduites de l'art. 42 al. 1 et 2 LTF (cf. <ref-ruling> consid. 2, p. 135).
1.3 Outre les conclusions, le mémoire de recours doit contenir les motifs à l'appui de celles-ci (<ref-law>). Les motifs doivent exposer succinctement en quoi l'acte attaqué viole le droit (<ref-law>). Pour satisfaire à cette obligation, le recourant doit discuter les motifs de la décision entreprise et indiquer précisément en quoi il estime que l'autorité précédente a méconnu le droit. Il faut qu'à la lecture de son exposé, on comprenne clairement quelles règles de droit auraient été, selon lui, transgressées par l'autorité cantonale (cf. <ref-ruling> consid. 2.1 p. 245 s.; <ref-ruling> consid. 3.3 p. 60). Selon la jurisprudence, un mémoire de recours ne satisfait pas aux exigences minimales fixées à l'<ref-law> lorsque sa motivation reprend mot pour mot l'argumentation déjà développée devant la juridiction inférieure et que, partant, le recourant n'indique pas - même succinctement - en quoi les motifs de la décision entreprise méconnaissent le droit selon lui. Le recourant ne saurait se contenter de renvoyer aux actes cantonaux ou de reproduire la critique déjà présentée dans la procédure cantonale (<ref-ruling> consid. 2.1-2.3 p. 246 s.).
1.4 Les griefs de violation des droits fondamentaux sont en outre soumis à des exigences de motivation accrues (cf. <ref-law>; <ref-ruling> consid. 1.4 p. 287). Cela vaut en particulier pour le grief d'arbitraire dans l'établissement des faits, qui revient à invoquer une violation de l'art. 9 Cst. S'il entend soulever un tel grief, le recourant ne peut se borner à critiquer simplement les faits retenus, en opposant sa propre appréciation des preuves à celle de l'autorité cantonale. Sous peine d'irrecevabilité, il doit, sur chacun des points contestés, démontrer, pièces à l'appui, que la décision attaquée est arbitraire (sur la notion d'arbitraire, notamment dans l'appréciation des preuves, v. <ref-ruling> consid. 4.2 p. 560 et arrêts cités).
2. Dans un premier moyen intitulé "violation de la présomption d'innocence", le recourant soutient que l'instruction a été menée uniquement à charge.
2.1 L'argumentation présentée est particulièrement confuse et la cour de céans se limitera à traiter les critiques intelligibles et suffisamment motivées (art. 42 al. 1 et 2 LTF). En tant qu'elles portent purement sur l'instruction, elles sont irrecevables, seul l'arrêt de la Cour de cassation pouvant faire l'objet d'un recours en matière pénale (cf. <ref-law>).
Au demeurant, lorsque le recourant prétend que les policiers auraient expliqué à certains témoins, avant de les auditionner, qu'il avait jeté sa fille du balcon, il se fonde sur des faits nouveaux et partant irrecevables (<ref-law>). Il n'allègue pas d'autres circonstances démontrant que les autorités l'auraient, en violation de la présomption d'innocence, traité d'emblée en coupable (sur les effets de la présomption d'innocence avant le jugement : cf. BERNARD CORBOZ, In dubio pro reo in : RSJ 1993 p. 403 ss, 406). Par ailleurs, on ne saurait non plus parler d'une instruction menée exclusivement à charge puisqu'il ressort du dossier que l'occasion lui a été donnée, au cours de la procédure cantonale, de faire administrer des moyens de preuve qui ont été mis en oeuvre, étant précisé que le refus de certains moyens requis (reconstitution des faits, expertise de crédibilité et nouvelle expertise psychiatrique) n'était pas critiquable, comme on le verra au considérant suivant. Enfin, si les témoins entendus ont fait des déclarations qui se sont révélées défavorables au recourant, cela ne signifie nullement que l'instruction ait été menée exclusivement à charge.
3. Le recourant dénonce une violation de son droit d'être entendu au motif que différents moyens de preuve lui ont été refusés.
3.1 Le droit d'être entendu comporte notamment le droit à l'administration de preuves valablement offertes. En principe, l'autorité doit donner suite aux réquisitions de preuves présentées en temps utile et dans les formes prescrites. Il n'y a toutefois pas violation de ce droit, lorsque la mesure probatoire refusée est inapte à établir le fait à prouver, lorsque ce fait est sans pertinence ou lorsque, sur la base d'une appréciation non arbitraire des preuves dont elle dispose déjà, l'autorité parvient à la conclusion que les faits pertinents sont établis et que le résultat, même favorable au requérant, de la mesure probatoire sollicitée, ne pourrait pas modifier sa conviction (<ref-ruling> consid. 5.3).
3.2 Le recourant reproche aux juges précédents d'avoir nié la nécessité d'une reconstitution des faits.
3.2.1 La cour cantonale a relevé que le grief du recourant était difficilement compréhensible. Il semblait vouloir prouver par l'administration du moyen requis que la chute de l'enfant n'avait pas pu être freinée par un store, ce qui n'était pas déterminant puisque personne ne contestait ni la chute depuis le balcon ni la survie de l'enfant.
3.2.2 Par cette motivation, les magistrats cantonaux ont rejeté le moyen de preuve au motif que le recourant n'avait pas démontré en quoi il pouvait modifier la conviction du tribunal sur le déroulement des faits. Devant le Tribunal fédéral, le recourant affirme que la reconstitution des faits aurait permis de démontrer d'une part comment l'enfant aurait pu elle-même enjamber seule le balcon et, d'autre part que, de l'endroit où il se trouvait, il était en mesure de la voir accomplir ce geste. Ce faisant, il tente d'exposer en quoi une reconstitution des faits serait utile sans démontrer qu'il en aurait déjà fait part à l'autorité précédente qui aurait omis d'en tenir compte de manière arbitraire. Un tel grief ne répond nullement aux exigences de motivation déduites de l'<ref-law>. Il est par conséquent irrecevable.
3.3 Le recourant s'en prend au refus de la Cour de cassation de n'avoir pas ordonné une contre-expertise psychiatrique. Il explique qu'il prenait des antidépresseurs à l'époque des faits et que l'expertise administrée est lacunaire au sujet de l'influence de cette médication sur ses actes.
3.3.1 Le recourant invoque l'<ref-law> à l'appui de son argumentation. Or cette disposition prévoit la mise en oeuvre d'une expertise s'il existe une raison sérieuse de douter de la responsabilité de l'auteur, mais ne confère pas un droit à une contre-expertise lorsque l'intéressé considère l'expertise lacunaire (<ref-ruling> consid. 1b). Tel que formulé, le grief soulevé relève du droit à l'administration des preuves découlant de l'art. 29 al. 2 Cst.
3.3.2 Concernant plus particulièrement l'appréciation du résultat d'une expertise, le juge n'est en principe pas lié par ce dernier. Mais s'il entend s'en écarter, il doit motiver sa décision et ne saurait, sans motifs déterminants, substituer son appréciation à celle de l'expert, sous peine de verser dans l'arbitraire. En d'autres termes, le juge qui ne suit pas les conclusions de l'expert n'enfreint pas l'art. 9 Cst. lorsque des circonstances bien établies viennent en ébranler sérieusement la crédibilité (<ref-ruling> consid. 4 p. 57 s.; <ref-ruling> consid. 2 p. 86). Tel est notamment le cas lorsque l'expertise contient des contradictions et qu'une détermination ultérieure de son auteur vient la contredire sur des points importants, ou lorsqu'elle se fonde sur des pièces et des témoignages dont le juge apprécie autrement la valeur probante ou la portée (<ref-ruling> consid. 3a in fine p. 130). Si, en revanche, les conclusions d'une expertise judiciaire apparaissent douteuses sur des points essentiels, celui-ci doit recueillir des preuves complémentaires pour tenter de dissiper ses doutes. A défaut, en se fondant sur une expertise non concluante, il pourrait commettre une appréciation arbitraire des preuves et violer l'art. 9 Cst. (<ref-ruling> consid. 1c p. 146). La nécessité d'une nouvelle expertise dépend ainsi d'une appréciation de celle versée au dossier et des autres éléments de preuves.
3.3.3 La cour cantonale a relevé que le recourant devait formuler sa requête tendant à l'administration d'une contre-expertise à l'ouverture des débats de la Cour d'assises, ce qu'il s'était abstenu de faire. Par ailleurs, elle a constaté que l'expert avait traité des effets des antidépresseurs sur l'auteur et qu'il n'y avait pas lieu de douter de ses compétences pour traiter cette question, puisqu'il s'agissait de médicaments qu'il pourrait être amené à prescrire en tant que psychiatre. A défaut de doute sur la valeur probante de l'expertise, la cour cantonale a estimé qu'il n'y avait aucune raison de s'écarter des conclusions du rapport ou d'ordonner une nouvelle expertise.
3.3.4 Si l'on doit considérer que le raisonnement de la cour cantonale est fondé sur une double motivation, soit une requête tardive d'une part, et l'absence de nécessité d'une nouvelle expertise d'autre part, il incombait au recourant de se conformer à l'exigence de recevabilité posée par la jurisprudence en attaquant chacune de ces motivations alternatives (<ref-ruling> consid. 6.3 p. 120 s.).
Dans sa seconde motivation, l'autorité cantonale a procédé à une appréciation anticipée du moyen de preuve requis, ce qui ne viole pas le droit d'être entendu du recourant (cf. consid. 3.1). En admettant que, sur ce point, le recourant se plaigne d'arbitraire, son moyen serait de toute façon irrecevable (<ref-law>). En effet, le recourant ne pouvait se limiter à mettre en doute les compétences de l'expert, sans motiver ce soupçon autrement qu'en lui opposant ses propres connaissances en pharmacologie, étayées par des citations empruntées à la littérature médicale. Il devait au contraire montrer par une argumentation précise, que l'expertise était entachée de l'un des défauts énoncés au consid. 3.3.2 et que ce défaut la rendait douteuse au point que la mise en oeuvre d'une nouvelle expertise était nécessaire.
Dès lors que la seconde motivation de la cour cantonale résiste à la critique, il n'y a pas lieu d'examiner la première motivation reposant sur la tardiveté de la requête (<ref-ruling> consid. 7 p. 228; <ref-ruling> consid. 6 p. 20 et les références citées).
3.4 Le recourant fait grief à la cour cantonale d'avoir refusé une expertise de crédibilité de l'enfant.
3.4.1 Selon la jurisprudence, le juge doit recourir à un expert lorsqu'existent des doutes sérieux quant à la capacité de déposer du témoin et que l'appréciation de la qualité de son témoignage ne peut se faire sans des connaissances psychologiques ou psychiatriques (<ref-ruling> consid. 1c p. 31 s.).
Pour déterminer s'il y a lieu d'ordonner une expertise de crédibilité d'un enfant, il faut prendre en considération, selon les circonstances spécifiques du cas, un certain nombre d'éléments, parmi lesquels le degré de compréhensibilité, de cohérence et de crédibilité des dépositions à examiner. Il faut également observer dans quelle mesure ses déclarations sont compatibles avec les autres éléments de preuve recueillis. L'âge de l'auteur de la déposition, son degré de développement et son état de santé psychique de même que la portée de ses déclarations eu égard à l'ensemble des preuves administrées entrent également en considération. Une expertise de crédibilité effectuée par un spécialiste peut notamment s'imposer s'agissant de déclarations d'un petit enfant, qui sont fragmentaires ou difficiles à interpréter, lorsqu'il existe des indices sérieux de troubles psychiques ou encore lorsque des éléments concrets donnent à penser que la personne interrogée a été influencée par un tiers (<ref-ruling> consid. 2.4 p. 184 et les références citées; arrêt 6B_298/2010 du 30 novembre 2011 consid. 2.2). Si les déclarations d'un enfant sont claires et compréhensibles sans que des connaissances psychologiques spécifiques soient nécessaires à leur interprétation, le juge n'a pas à mettre en oeuvre une expertise de crédibilité (arrêt 6P.2/2005 du 11 février 2005 consid. 4.1).
3.4.2 En l'occurrence, l'arrêt attaqué retient, par renvoi aux constatations des premiers juges, que, immédiatement après les faits, la fillette a rapporté aux ambulanciers que son père l'avait jetée par le balcon. Elle n'a ensuite pas varié dans son récit qu'elle a répété le lendemain au pédiatre, deux jours plus tard aux enquêteurs et, dans les semaines suivantes, aux deux psychologues et psychothérapeutes A._ et B._. Au cours des 40 séances qu'elle a suivies avec celle-ci, la fillette n'est jamais revenue sur sa version des faits. La cour cantonale a relevé que le récit de l'enfant n'était pas stéréotypé; elle a raconté les évènements dans ses propres termes accompagnés de gestes expressifs. Les sentiments manifestés au moment de son récit, soit l'incompréhension, la tristesse et la colère étaient compatibles avec les faits relatés. Selon la psychologue A._, l'émotion de terreur exprimée lors des séances ne pouvait être ni suggérée ni simulée. Aucun des professionnels de la santé qui a examiné l'enfant n'a d'ailleurs perçu le moindre signe permettant de douter de la véracité des dires de celle-ci. Au recourant qui avançait que l'enfant avait été influencée par sa mère, la cour cantonale a rétorqué que la fillette n'avait pas eu de contacts avec sa mère avant ses premières déclarations aux ambulanciers. Elle a pu la voir ensuite, juste avant d'être transportée à l'hôpital, mais la brièveté de ce contact n'a pas pu permettre à la mère de suggérer un récit qui aurait été choquant pour la fillette, surtout s'il ne correspondait pas à la réalité.
Au vu de ces éléments, on ne saurait reprocher à la cour cantonale d'avoir qualifié le témoignage de Z._, âgée de six ans et huit mois au moment des faits, de crédible et cohérent, et d'avoir en conséquence renoncé à ordonner une expertise de crédibilité. Contrairement à ce que prétend le recourant, la psychologue B._ n'a pas préconisé la mise en oeuvre d'une expertise de crédibilité mais a simplement répondu par l'affirmative à la question de savoir si une telle expertise pourrait amener d'autres éléments de fait. Elle a toutefois également affirmé qu'elle n'avait pas eu de doute face au récit de l'enfant et qu'à l'inverse, la version des faits du père était invraisemblable. Le recourant n'explique d'ailleurs pas précisément en quoi la déposition de la victime ne serait pas crédible mais se contente d'exposer en quoi la sienne pourrait l'être. Mal fondé, son grief doit être rejeté.
4. Se plaignant d'arbitraire dans la constatation des faits, le recourant conteste avoir précipité sa fille du balcon. Il soutient qu'il l'a vue sauter dans le vide et explique ce geste par la frayeur qu'elle a éprouvée devant la dispute de ses parents.
4.1 Les juges précédents, se ralliant à l'appréciation des preuves faite en première instance, ont constaté qu'ils se trouvaient en présence de deux versions des faits contradictoires, celle du père et celle de l'enfant. Ils ont accordé foi aux déclarations de celle-ci qui a toujours dit que son père l'avait jetée du balcon. Ils ont estimé qu'elles présentaient une crédibilité particulièrement élevée pour les motifs énoncés plus haut (cf. consid. 3.3.2 supra).
Par ailleurs, ils ont relevé que les premiers juges avaient considéré que la version des faits de l'accusé était peu vraisemblable et que, dans son pourvoi en cassation, celui-ci ne s'en prenait pas à leur appréciation d'une manière conforme aux exigences de motivation déduites du droit de procédure cantonale; dans cette mesure, sa critique a été jugée irrecevable.
4.2 Dans son recours au Tribunal fédéral, le recourant ne discute pas le motif d'irrecevabilité adopté par l'autorité cantonale. Pour le reste, il reprend pour l'essentiel littéralement l'argumentation qu'il a développée dans son pourvoi en cassation cantonal. ll se borne à exposer à nouveau sa propre vision de l'ensemble du litige dans une démarche de nature purement appellatoire, comme la Cour de cassation l'avait d'ailleurs déjà relevé à propos de certaines de ses critiques (cf. consid. 7, p. 6), qu'il reprend néanmoins telles quelles. Il ne dit pas en quoi les juges cantonaux se seraient manifestement mépris sur le sens et la portée des preuves retenues, en quoi leurs déductions à partir des éléments recueillis seraient insoutenables. En définitive, il n'y a pas lieu d'entrer en matière sur ce grief, faute d'une argumentation topique, répondant à la motivation retenue par l'autorité précédente (<ref-law>; cf. supra consid. 1.4).
5. S'en prenant à sa condamnation pour tentative de meurtre, le recourant conteste avoir agi par dol éventuel.
5.1 Il y a dol éventuel lorsque l'auteur tient pour possible la réalisation de l'infraction et l'accepte au cas où celle-ci se produirait (<ref-law>; <ref-ruling> consid. 2.3.2 p. 156). Il faut donc qu'il existe un risque qu'un dommage puisse résulter de l'infraction, mais encore que l'auteur sache que ce danger existe (Wissensmoment) et qu'il s'accommode de ce résultat (Willensmoment), même s'il préfère l'éviter (cf. la distinction entre dol éventuel et négligence consciente : <ref-ruling> consid. 4.1 p. 16; <ref-ruling> consid. 5a p. 3).
Déterminer ce qu'une personne a su, envisagé, voulu ou accepté relève du contenu de la pensée, à savoir de faits "internes", qui, en tant que faits (<ref-ruling> consid. 2.3.2 p. 156), lient la Cour de droit pénal (<ref-law>), à moins qu'ils n'aient été établis de façon arbitraire. Toutefois, la question de savoir si les éléments extérieurs retenus en tant que révélateurs du contenu de la conscience et de la volonté autorisent à admettre que l'auteur a agi par dol éventuel relève du droit (<ref-ruling> consid. 2.3.2 p. 156; <ref-ruling> consid. 3c p. 252). Parmi les éléments extérieurs permettant de conclure que l'auteur s'est accommodé du résultat dommageable pour le cas où il se produirait figurent notamment la probabilité (connue par l'auteur) de la réalisation du risque et l'importance de la violation du devoir de prudence. Plus celles-ci sont grandes, plus sera fondée la conclusion que l'auteur, malgré d'éventuelles dénégations, avait accepté l'éventualité de la réalisation du résultat dommageable. Peuvent également constituer des éléments extérieurs révélateurs les mobiles de l'auteur et la manière dont il a agi (<ref-ruling> consid. 4.1 p. 16; <ref-ruling> consid. 3c in fine p. 252).
5.2 Pour le recourant, les faits retenus par la Cour de cassation ne permettaient de conclure ni à l'existence d'un danger de mort ni qu'il connaissait l'existence de ce danger et s'en était accommodé.
En l'espèce, il ressort de l'arrêt attaqué que le recourant s'est violemment disputé avec sa femme. Alors qu'elle avait fui dans l'escalier, il l'a rejointe et l'a frappée d'abord à mains nues, puis avec une perche en bois munie d'un crochet métallique. Les coups ont été portés avec une extrême violence et pendant une "certaine durée". Le recourant savait par ailleurs que la santé de sa femme était "plutôt fragile", sans que l'arrêt attaqué ne donne de plus amples précisions sur ce point. L'épouse a souffert de nombreuses blessures et hématomes, notamment à la tête, et d'une double fracture au poignet. On ignore, au vu des faits retenus, si elle a été atteinte à la tête par la perche ou seulement par les poings de son agresseur. Dans ces circonstances, force est d'admettre que, comme le soutient le recourant, les faits constatés ne permettent pas de considérer d'une part qu'il y ait eu un risque de décès et, d'autre part, que le recourant avait conscience de ce risque et s'en était accommodé. En effet, le seul fait de frapper une personne avec les poings puis avec une perche de bois prolongée d'un crochet métallique, sans autre précision quant aux parties du corps atteintes par la perche et le crochet, au nombre des coups, à la durée de l'agression, à la position de la victime et au poids de l'instrument utilisé ne suffit pas à démontrer les éléments du dol éventuel. Le dol éventuel ne peut pas non plus se déduire du fait que le recourant a ensuite précipité sa fille du balcon avec une intention homicide. Il aurait pu en aller autrement par exemple s'il avait été établi que la victime souffrait de problèmes de santé tels qu'elle était particulièrement vulnérable à ce type d'agression et que l'auteur en était conscient ou que le recourant s'était acharné en particulier sur la tête de sa victime ou sur d'autres parties vitales du corps.
La cour cantonale a donc violé le droit fédéral en admettant que les éléments du dol éventuel étaient réunis. Aussi, l'arrêt attaqué doit être annulé sur ce point. Les différents griefs que le recourant soulève au sujet des faits constatés aux p. 18-25 de son recours deviennent dans cette mesure sans objet. Il appartiendra aux autorités cantonales d'examiner à nouveau, en complétant les constatations de fait, s'il y a eu un risque de décès, si le recourant devait prévoir que son comportement pouvait entraîner une issue fatale et s'il s'en est accommodé.
6. En définitive, le recours est admis partiellement, l'arrêt attaqué est annulé en ce qui concerne la condamnation pour tentative de meurtre par dol éventuel et la cause est renvoyée à la cour cantonale pour qu'elle statue à nouveau, sans qu'il y ait lieu de demander d'observations (<ref-ruling> consid. 3.4.2). Pour le surplus, le recours est rejeté dans la mesure où il est recevable.
Le recourant obtient partiellement gain de cause. Il peut prétendre à une indemnité de dépens réduite (<ref-law>), ce qui rend sa demande d'assistance judiciaire sans objet dans cette mesure. Elle est rejetée pour le surplus, le recours étant dénué de chances de succès en ce qui concerne les autres griefs (<ref-law>). Le recourant supporte des frais réduits en raison de l'issue de la cause et de sa situation financière (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis partiellement, l'arrêt attaqué est annulé en ce qui concerne la condamnation pour tentative de meurtre par dol éventuel et la cause est renvoyée à la cour cantonale pour qu'elle statue à nouveau. Pour le surplus, le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire du recourant est rejetée dans la mesure où elle n'est pas sans objet.
3. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le canton de Neuchâtel versera à Me Freddy Rumo, mandataire du recourant, une indemnité de 1'500 fr. à titre de dépens.
5. Le présent arrêt est communiqué aux parties et à la Cour de cassation pénale du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 7 juin 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Mathys Rey-Mermet