Faits:
A.a X._ est né au Maroc en 1975. Il a connu Y._, née en 1978, en 2008, lors d'un voyage en Suisse, où ses deux s?urs s'étaient installées. Une relation intime s'est rapidement nouée entre eux et ils se sont mariés au Maroc en avril 2009. Ce n'est toutefois qu'au mois de février 2010 que X._ a pu rejoindre son épouse en Suisse. L'enfant Z._ est née de leur union en septembre 2009.
A.b Le couple a rencontré des difficultés peu de temps après l'arrivée de X._ en Suisse. Une première séparation a eu lieu vers la fin du mois de mars, mais les époux se sont réconciliés à l'approche de leur anniversaire de mariage. Une nouvelle dispute a éclaté le 26 avril 2010 et Y._ a requis des mesures protectrices de l'union conjugale le 29 avril 2010. Le 17 mai 2010, le Président du Tribunal de l'arrondissement de Lausanne a ratifié une convention partielle par laquelle les époux s'étaient mis d'accord de vivre séparés. La garde de l'enfant était confiée à la mère et le père bénéficiait d'un droit de visite. La jouissance de l'appartement conjugal était attribuée à Y._ et X._ s'était engagé à ne pas s'en approcher à moins de 500 mètres et à ne pas importuner son épouse, en particulier à ne pas lui téléphoner.
A.c Le 21 juin 2010, X._ a rencontré son épouse dans un magasin. A cette occasion, il l'a injuriée et l'a menacée de mort. Le 27 juin suivant, alors que X._ ramenait sa fille à son épouse à la fin d'un week-end, il a à nouveau insulté cette dernière. Il a par ailleurs pris contact avec elle par téléphone à de nombreuses reprises, malgré son engagement de ne pas le faire, et il s'est rendu dans son immeuble en dépit de l'interdiction de périmètre.
A.d Le 2 juillet 2010, X._ a cherché à atteindre son épouse par téléphone à vingt-quatre reprises. Il utilisait le prétexte du droit de visite pour entrer en contact avec elle. Ce même jour, il a eu un contact téléphonique avec une amie qui lui a dit que son épouse lui avait affirmé que "X._ n'était plus dans son c?ur". Ce dernier a été abattu par cette nouvelle. En quittant son travail dans un restaurant vers 14 heures, il a emporté un couteau de cuisine et s'est rendu directement dans l'immeuble de son épouse. Il a passé l'après-midi dans l'appartement de son voisin d'où il a guetté par la fenêtre en espérant voir Y._ rentrer de son travail. Il a par ailleurs eu un contact téléphonique avec celle-ci, qui lui a dit qu'il pourrait prendre sa fille le lendemain pour exercer son droit de visite, mais elle lui a précisé qu'elle ne souhaitait pas le rencontrer. Insatisfait de cette réponse, il a décidé d'attendre son épouse et a téléphoné à son employeur pour lui dire qu'il arriverait en retard à son travail qu'il devait reprendre à 18 heures.
Y._ est rentrée chez elle peu avant 18 heures 30. Elle a entendu qu'un couple se disputait violemment dans l'appartement de son voisin et elle a téléphoné à la police à 18 heures 28 minutes et 10 secondes pour qu'elle envoie une patrouille. Elle a proposé à son interlocuteur de regarder le numéro de l'appartement dans lequel la dispute se passait et a posé son téléphone mobile. En sortant de chez elle, elle s'est retrouvée nez à nez avec son époux qui était dans le corridor. Celui-ci a bondi dans l'appartement de son épouse qui a tenté de l'en empêcher. Par la suite, des cris et des bruits de lutte ont été entendus ainsi que des appels au secours avant que l'enregistrement de l'appel téléphonique à la police ne prenne fin à 18 heures 30 minutes et 53 secondes. L'instruction a permis d'établir que X._ a sorti le couteau de cuisine qu'il avait emporté et a poignardé son épouse d'au moins 30 coups. Il a fini par l'égorger, lui infligeant une profonde blessure au niveau du cou. Il a ensuite laissé son épouse sur place alors même qu'il l'avait entendue râler. Il a téléphoné à la police à 18 heures 35 minutes et 32 secondes pour annoncer qu'il avait tué sa femme. Il ressort également de l'enregistrement qu'il parle avec des tiers auxquels il déclare qu'il l'a tuée parce qu'elle lui avait causé beaucoup de soucis.
A l'arrivée des secours, Y._ était en arrêt cardiorespiratoire. Elle a été transportée au CHUV où elle a été réanimée. Son pouls a été récupéré à trois reprises, mais elle est décédée à 20 heures 05 d'une hémorragie massive. Il ressort du rapport d'autopsie du 4 janvier 2011 que 69 lésions ont été provoquées par un instrument tranchant, deux d'entre elles ont entraîné une section partielle des veines jugulaires communes, une touchait le foie, plusieurs intéressaient la face palmaire des mains et 32 étaient superficielles. Une fracture du nez, des ecchymoses du cuir chevelu, du visage et des membres ainsi qu'un hématome diffus du cuir chevelu et des muscles temporaux ont été constatés.
B. Par jugement du 20 janvier 2012, le Tribunal criminel de l'arrondissement de Lausanne a condamné X._ pour assassinat, injure et menaces qualifiées à 20 ans de peine privative de liberté, sous déduction de la détention subie avant jugement, il a pris acte, pour valoir jugement, de la transaction en vertu de laquelle X._ devait immédiatement payer à Z._ la somme de 110'000 francs, avec intérêts à 5% l'an dès le 2 juillet 2010, la ratification par l'autorité tutélaire étant réservée, et il a alloué des sommes, à titre de tort moral, de 40'000 francs, respectivement trois fois 20'000 francs, aux autres parties plaignantes, le tout avec suite de frais et dépens.
C. La Cour d'appel pénale du Tribunal cantonal vaudois, saisie d'un appel du condamné, a confirmé cette décision par jugement du 21 mai 2012.
D. X._ interjette un recours en matière pénale au Tribunal fédéral. Il conclut à la réforme du jugement entrepris en ce sens que sa peine soit réduite. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.
Il n'a pas été ordonné d'échange d'écritures.
Considérant en droit:
1. Le recourant conteste la peine prononcée à son encontre. Il fait valoir que des éléments essentiels n'ont pas été pris en compte et que l'autorité cantonale a abusé de son pouvoir d'appréciation.
1.1 Selon l'art. 47 CP, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
1.1.1 La culpabilité de l'auteur doit être évaluée en fonction de tous les éléments objectifs pertinents, qui ont trait à l'acte lui-même, à savoir notamment la gravité de la lésion, le caractère répréhensible de l'acte et son mode d'exécution (objektive Tatkomponente). Du point de vue subjectif, sont pris en compte l'intensité de la volonté délictuelle ainsi que les motivations et les buts de l'auteur (subjektive Tatkomponente). A ces composantes de la culpabilité, il faut ajouter les facteurs liés à l'auteur lui-même (Täterkomponente), à savoir les antécédents, la réputation, la situation personnelle (état de santé, âge, obligations familiales, situation professionnelle, risque de récidive, etc.), la vulnérabilité face à la peine, de même que le comportement après l'acte et au cours de la procédure pénale (ATF 134 IV 17 consid. 2.1 p. 19 s.; 129 IV 6 consid. 6.1 p. 20; arrêt 6B_759/2011 du 19 avril 2012 consid. 1.1).
1.1.2 L'art. 47 CP confère un large pouvoir d'appréciation au juge. Par conséquent, celui-ci ne viole le droit fédéral en fixant la peine que s'il sort du cadre légal, s'il se fonde sur des critères étrangers à l'art. 47 CP, s'il omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (ATF 136 IV 55 consid. 5.6 p. 61; 134 IV 17 consid. 2.1 p. 19 s.).
L'exercice de ce contrôle suppose que le juge exprime, dans sa décision, les éléments essentiels relatifs à l'acte ou à l'auteur qu'il prend en compte, de manière à ce que l'on puisse constater que tous les aspects pertinents ont été pris en considération et comment ils ont été appréciés, que ce soit dans un sens aggravant ou atténuant (art. 50 CP). Il peut passer sous silence les éléments qui, sans abus du pouvoir d'appréciation, lui apparaissent non pertinents ou d'une importance mineure. La motivation doit cependant justifier la peine prononcée, en permettant de suivre le raisonnement adopté même si le juge n'est pas tenu d'exprimer en chiffres ou en pourcentages l'importance qu'il accorde à chacun des éléments qu'il cite (ATF 127 IV 101 consid. 2c p. 104 s.; arrêt 6B_49/2012 du 5 juillet 2012 consid. 1.1; 6B_485/2011 du 1er décembre 2011 consid. 1.3).
1.2 La cour cantonale a relevé que l'atteinte à la vie était très grave. Le mode d'exécution était d'une extrême brutalité, le recourant s'étant acharné sur son épouse, mutilant son visage et son corps de 69 lésions, sous les yeux de leur fille de dix mois. L'épouse du recourant n'avait pas eu un comportement pouvant expliquer l'acte de ce dernier, qui avait conservé jusqu'à son geste fatal une pleine liberté de choix entre un comportement licite et un autre interdit par la loi. Dans ces conditions, la faute du recourant était objectivement très lourde. Le comportement de l'intéressé lors de la procédure n'avait pas été particulièrement exemplaire. En effet, il avait démontré une prise de conscience partielle de la gravité de ses actes, mettant la faute sur son épouse qui, par son comportement blâmable à son égard, aurait déclenché en lui un profond désarroi. Par ailleurs, sa version des événements avait varié en cours de procédure, laissant toutefois à chaque fois entendre que son épouse l'avait provoqué le jour des faits. Il avait également nié jusqu'au bout avoir menacé son épouse le 21 juin 2010 et l'avoir injuriée le 27 juin 2010. Interpellé à l'audience d'appel, il avait surtout fait état des conséquences de ses actes pour lui-même, ne démontrant toujours pas clairement regretter d'avoir pris la vie de son épouse. Il convenait également de tenir compte du concours d'infractions. A décharge, il convenait de prendre en compte le fait que le recourant avait entrepris volontairement un traitement thérapeutique et avait signé des reconnaissances de dettes en faveur des parties plaignantes. Sur le plan personnel si, au moment des faits, il avait rompu avec son épouse, il avait cependant une activité professionnelle, pouvait voir sa fille dans le cadre de son droit de visite et avait un réseau social. Selon les psychiatres, sa responsabilité était pleine et entière. Au vu de ces éléments, la peine privative de liberté de 20 ans devait être confirmée.
1.3 Le recourant fait valoir que la cour cantonale n'a pas mentionné, dans le cadre de la fixation de la peine, le contexte relationnel très délicat avec son épouse et son état dépressif, alors même qu'elle avait admis ces éléments, dont elle aurait dû tenir compte à décharge. L'autorité précédente avait ainsi violé les art. 47 et 50 CP, ainsi que l'interdiction de l'arbitraire prévue par l'art. 9 Cst.
1.3.1 La cour cantonale a constaté que le recourant était déprimé, pleurait beaucoup, souhaitait reprendre la vie commune et était dans l'incertitude quant à son statut en Suisse. Elle a cependant retenu que la situation de l'intéressé n'avait rien d'exceptionnel et que si elle n'était pas heureuse, elle n'était pas de nature à créer une situation de désespoir durable (cf. jugement du 21 mai 2012 consid. 3.3.2 p. 26), ce que le recourant ne conteste pas.
1.3.2 Si la cour cantonale n'a pas repris, pour déterminer la culpabilité du recourant, toutes ses constatations relatives à l'état de celui-ci, elle n'a cependant pas ignoré ces éléments. Dans le cadre de la fixation de la peine, elle a expressément mentionné la situation personnelle du précité et en particulier ses relations avec son épouse puisqu'elle a relevé que les intéressés avaient rompu. Elle a relativisé cette circonstance en ajoutant que le recourant avait un travail et disposait d'un réseau social. Il apparaît en effet, à cet égard, que même si l'épouse du recourant avait déposé plainte contre son mari, la situation conjugale de l'intéressé n'était pas plus délicate que celle d'un grand nombre de couples qui se séparent.
1.3.3 De plus, il ressort de l'expertise psychiatrique réalisée dans le cadre de la procédure qu'aucun diagnostic psychiatrique constitué selon la classification internationale des maladies (CIM-10) ne pouvait être retenu. Il n'existait aucun élément faisant évoquer chez le recourant la présence, notamment, d'un trouble psychotique, d'un trouble de l'humeur ou d'un trouble anxieux. L'intéressé avait en outre conservé la faculté d'apprécier le caractère illicite de ses actes et de se déterminer d'après cette appréciation. La cour cantonale a par ailleurs considéré que le geste du recourant ne résultait pas du fait qu'il avait été déçu en amour, mais qu'il n'avait pas accepté la séparation et le fait d'être éconduit et qu'il avait voulu se venger (cf. jugement du 21 mai 2012 consid. 6.3 p. 33), ce que le recourant ne conteste pas. La cour cantonale n'a dès lors pas retenu que le recourant avait agi parce qu'il était déprimé et cet élément n'a dès lors pas joué un rôle déterminant dans la commission de l'infraction. La déprime du recourant ne peut d'ailleurs aucunement expliquer l'incroyable déchaînement de violence dont celui-ci a fait preuve en donnant au moins trente coups de couteau à son épouse, qui ont causé de multiples lésions. Au vu de ces circonstances, cet élément ne saurait influer sur la peine. Le grief doit être rejeté.
1.4 Le recourant reproche à la cour cantonale de ne pas avoir tenu compte, à décharge, des considérations du Dr B._, psychiatre consultant aux Etablissements pénitentiaires de Bellechasse, selon lesquelles il se trouvait dans un "état spécial dissocié" au moment des faits.
1.4.1 Avant d'examiner si un tel état était, le cas échéant, de nature à constituer un élément qui devait être pris en compte à décharge dans le cadre de la fixation de la peine, il faut préalablement que l'existence même de cet état ait été constatée, en fait, par la cour cantonale. En effet, le Tribunal fédéral est lié par les constatations cantonales (art. 105 al. 1 LTF), à moins que les faits aient été établis en violation du droit ou de manière manifestement inexacte, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. (cf. ATF 137 I 58 consid. 4.1.2 p. 62; sur la notion d'arbitraire, voir ATF 138 I 49 consid. 7.1 p. 51; 138 V 74 consid. 7 p. 82). Un tel moyen doit avoir été invoqué et motivé de manière claire et détaillée par le recourant (art. 106 al. 2 LTF; ATF 134 I 83 consid. 3.2 p. 88); les critiques de nature appellatoire sont irrecevables (ATF 137 IV 1 consid. 4.2.3 p. 5; 137 II 353 consid. 5.1 p. 365).
1.4.2 La cour cantonale a considéré que les déclarations du Dr B._ ne pouvaient être prises en compte au regard de la relation thérapeutique le liant au recourant, du fait qu'il n'avait pas eu accès au dossier, qu'il se basait sur la seule version de son patient et qu'il ne faisait pas état d'éléments objectivement vérifiables qui auraient été ignorés par les experts judiciaires et seraient suffisamment pertinents pour remettre en cause les conclusions de l'expertise.
Le recourant ne critique pas les motifs avancés par la cour cantonale pour écarter les considérations du Dr B._, en particulier, qu'il n'avait pas eu accès au dossier - ce qui était pourtant essentiel pour poser un diagnostic fiable - et qu'il ne faisait pas état d'éléments objectivement vérifiables ignorés par les experts. Le recourant ne démontre pas au moyen d'une argumentation répondant aux exigences de motivation de l'art. 106 al. 2 LTF que l'autorité précédente aurait arbitrairement écarté les déclarations du Dr B._ et il ne peut en être tenu compte. Le grief est irrecevable. Au demeurant, le recourant n'explique pas en quoi aurait consisté cet "état spécial dissocié" et pourquoi il constituait un élément à prendre en compte à décharge dans le cadre de la fixation de la peine.
Le recourant ne critique pas les motifs avancés par la cour cantonale pour écarter les considérations du Dr B._, en particulier, qu'il n'avait pas eu accès au dossier - ce qui était pourtant essentiel pour poser un diagnostic fiable - et qu'il ne faisait pas état d'éléments objectivement vérifiables ignorés par les experts. Le recourant ne démontre pas au moyen d'une argumentation répondant aux exigences de motivation de l'art. 106 al. 2 LTF que l'autorité précédente aurait arbitrairement écarté les déclarations du Dr B._ et il ne peut en être tenu compte. Le grief est irrecevable. Au demeurant, le recourant n'explique pas en quoi aurait consisté cet "état spécial dissocié" et pourquoi il constituait un élément à prendre en compte à décharge dans le cadre de la fixation de la peine.
1.5 1.5.1 Le recourant reproche à la cour cantonale d'avoir arbitrairement considéré que sa prise de conscience n'était pas complète. Il avait expliqué avoir éprouvé des regrets, qu'il n'avait toutefois pas su exprimer. Le Dr B._ avait également indiqué qu'il avait mesuré la gravité de ses actes et que ses regrets étaient authentiques. Force était en outre d'envisager qu'il fallait plus que dix mois pour s'accepter comme l'auteur d'un tel acte. De plus, en l'absence d'une véritable prise de conscience, il était paradoxal de retenir comme élément à décharge la signature de reconnaissances de dettes en faveur des plaignants et il convenait de souligner qu'il avait commencé à régler les prétentions civiles admises.
1.5.2 A l'appui de sa constatation selon laquelle la prise de conscience du recourant n'était pas complète, la cour cantonale a relevé que, dans le cadre de son appel, l'intéressé avait persisté à minimiser ses actes en se retranchant derrière un profond désarroi nullement établi et que les circonstances ne pouvaient en aucun cas justifier.
Par son argumentation, le recourant se borne à opposer sa propre appréciation des preuves à celle de l'autorité cantonale de manière appellatoire et, partant, irrecevable. Il ne conteste pas qu'il a persisté en appel à minimiser ses actes et ne démontre pas par une argumentation conforme aux exigences de motivation de l'art. 106 al. 2 LTF en quoi, au vu de cette circonstance, il était arbitraire de considérer que sa prise de conscience n'était pas complète, mais uniquement partielle. Le fait de considérer que le recourant minimise ses actes n'est par ailleurs pas contradictoire avec celui d'admettre qu'il a signé des reconnaissances de dettes. Tel pourrait être le cas si une absence totale de prise de conscience avait été retenue. Le grief doit être rejeté dans la mesure où il est recevable.
1.6 Le recourant relève que la cour cantonale a considéré que la réalité de son amnésie quant à ses actes pouvait rester indécise. Il fait valoir qu'à l'appui de cette opinion, qui néglige selon lui le principe selon lequel le doute doit profiter à l'accusé, l'autorité précédente avait insisté sur son attitude prétendument critiquable durant l'instruction. Elle avait considéré qu'il n'avait invoqué son amnésie qu'après avoir été confronté à l'appel téléphonique de son épouse à la police, ce qui était toutefois inexact puisqu'il avait passé aux aveux avant d'avoir entendu celui-ci. L'autorité cantonale avait ainsi mal appliqué l'art. 47 CP, procédant à une appréciation arbitraire et fausse d'un élément de fait.
La cour cantonale n'a pas retenu que le recourant avait avoué son crime seulement après avoir été confronté à l'enregistrement de l'appel téléphonique de son épouse, mais uniquement qu'il avait invoqué son amnésie après l'avoir entendu. Il n'est pas contesté que le recourant a lui-même appelé la police et avoué avoir tué son épouse immédiatement après son geste, et non pas seulement en cours de procédure. Aucun arbitraire dans l'appréciation des preuves ou l'établissement des faits ne peut être retenu à cet égard. L'autorité n'a par ailleurs pas invoqué l'amnésie du recourant comme élément à charge dans le cadre de la fixation de la peine. Le recourant ne peut donc en tirer aucun argument pour démontrer une violation de l'art. 47 CP et réclamer une réduction de sa peine. Enfin, autant qu'il invoque une violation du principe in dubio pro reo, le recourant ne développe aucune argumentation recevable à cet égard. Le grief doit être rejeté dans la mesure où il est recevable.
1.7 En définitive, le recourant ne cite aucun élément important, propre à modifier la peine, qui aurait été omis ou pris en considération à tort par la cour cantonale, qui a mentionné les différentes circonstances tant favorables que défavorables, qui fondaient la peine prononcée (cf. supra consid. 1.2). Il y a lieu de s'y référer. Au vu de l'ensemble de celles-ci, la faute du recourant doit être considérée comme très grave. L'intéressé s'est rendu coupable d'un assassinat, dont le minimum de la peine légale est de dix ans et le maximum la privation de liberté à vie, ainsi que d'injure et menaces qualifiées, qui entrent en concours. Dès lors, la peine privative de liberté de vingt ans, qui se situe dans le cadre légal, n'apparaît pas sévère au point de constituer un abus du large pouvoir d'appréciation dont disposait la cour cantonale. Les griefs de violation des art. 47 et 50 CP, ainsi que d'arbitraire, doivent être rejetés.
2. Le recours est rejeté dans la mesure où il est recevable. Le recourant a requis le bénéfice de l'assistance judiciaire. Comme ses conclusions étaient dépourvues de chances de succès, celle-ci ne peut être accordée (art. 64 al. 1 LTF). Le recourant devra donc supporter les frais (art. 66 al. 1 LTF), dont le montant sera toutefois arrêté en tenant compte de sa situation financière.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1'600 francs, sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 1er novembre 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
Le Greffier: Rieben