Faits: A. Par arrêt du 18 juin 2008, la Cour criminelle du Tribunal cantonal de la République et canton du Jura a reconnu X._ coupable de brigandage qualifié et d'utilisation frauduleuse d'un ordinateur en relation avec des faits qui se sont produits le 12 novembre 2002 à Hunzenschwil et Neuenhof ainsi que d'un brigandage qualifié commis le 25 novembre 2002 à St-Margrethen. Elle l'a condamné à une peine privative de liberté de deux ans et demi, complémentaire à celle de deux ans de réclusion prononcée le 17 mars 2005 pour complicité de brigandage qualifié commis à Courrendlin les 27/28 novembre 2002. La Cour criminelle du Tribunal cantonal a en revanche libéré A._ des chefs d'infraction de brigandage qualifié et d'utilisation frauduleuse d'un ordinateur en relation avec les faits qui se sont produits le 12 novembre 2002 à Hunzenschwil et Neuenhof. La décision du 18 juin 2008 repose, en bref, sur les éléments suivants. A.a Le 12 novembre 2002, peu après 5 heures du matin, alors qu'il se rendait à son travail à la poste d'Hunzenschwil, B._ a été intercepté et maîtrisé par deux individus masqués au moment même où il ouvrait la porte de service. Il a été poussé à l'intérieur du local et ligoté. Le même sort a été réservé à C._, D._ et E._. Les employés ont été délestés de leurs valeurs et, sous la menace, contraints de communiquer le code de leur carte de crédit. Le même jour, à 6h24 et 6h25, il a été retiré, au moyen des postcards volées à D._, deux fois 1'000 francs, à un bureau postal à Neuenhof. A.b Le 25 novembre 2002 vers 23 heures, alors que F._ s'apprêtait à quitter sa voiture qu'elle avait parquée à St-Margrethen, un inconnu a ouvert la porte côté conducteur et l'a sommée de se déplacer sur le siège passager en la menaçant avec une arme. Au même moment, une autre personne s'est installée sur le siège arrière et le conducteur a déplacé l'automobile sur une place de parc à Untervaz, localité située à quelque 73,5 kilomètres de St-Margrethen et 11 kilomètres de Coire, pour dévaliser la victime avant de l'enfermer dans le coffre de sa voiture. A.c La Cour criminelle du Tribunal cantonal jurassien a admis la culpabilité de X._ en se fondant sur la surveillance rétroactive des téléphones portables utilisés, sur le défaut d'explication plausible et pertinente par le précité concernant la localisation de son propre appareil sur les lieux des infractions et sur sa situation financière précaire. A.d Le 23 mars 2009, le Tribunal fédéral a rejeté le recours formé par X._ contre l'arrêt du 18 juin 2008, notamment pour violation du principe in dubio pro reo (arrêt 6B_722/2008). B. Par arrêt du 1er octobre 2010, la Cour de cassation du Tribunal cantonal jurassien, statuant sur une demande de révision de X._ et du Ministère public, a annulé l'arrêt du 18 juin 2008 en tant qu'il déclarait l'intéressé coupable des infractions de brigandage qualifié et d'utilisation frauduleuse d'un ordinateur en relation avec les faits qui se sont produits le 12 novembre 2002 à Hunzenschwil et Neuenhof et en tant qu'il libérait A._ de celles-ci. La cause a été renvoyée à la Cour criminelle pour nouveau jugement. La Cour de cassation du Tribunal cantonal s'est fondée, d'une part, sur une lettre de A._, adressée le 26 août 2008 au Président de la Cour criminelle, dans laquelle il déclare que le 12 novembre 2002, il était en possession du téléphone portable de X._ et, d'autre part, sur une déclaration signée par A._ le 27 mai 2009 dans laquelle il reconnaît avoir participé au brigandage d'Hunzenschwil et avoir utilisé le téléphone portable précité ce jour-là. La Cour de cassation a considéré que même si A._ était revenu sur cette déclaration en contestant devant elle avoir participé au brigandage d'Hunzenschwil et avoir été en possession du téléphone portable de X._ le jour des faits, ces éléments remettaient en cause de manière sérieuse la participation de l'intéressé au brigandage. C. A une date indéterminée, mais postérieure à l'audience devant la Cour de cassation, A._ a juré, lors d'un entretien téléphonique enregistré par X._, que celui-ci n'était pas présent à la poste d'Hunzenschwil. D. D.a Lors de l'audience du 1er décembre 2011 devant le Tribunal pénal du Tribunal de première instance, A._ a nié toute participation au brigandage d'Hunzenschwil et a déclaré ne pas avoir été en possession du téléphone portable de X._ le jour des faits. Il a expliqué que celui-ci allait très mal à la suite de sa condamnation et qu'il était prêt à se sacrifier pour qu'il se sente mieux. Il était alors en prison et il s'était dit qu'il pourrait y rester cinq ou six mois de plus. X._ le contactait constamment par téléphone et les déclarations qu'il avait faites avaient pour but d'en finir, d'avoir la paix et de le calmer. Il assurait cependant que X._ n'avait pas commis le brigandage car lorsqu'ils s'étaient rendu à Hunzenschwil par la suite, ils avaient eu de la peine à trouver la poste. Il avait signé la déclaration dans laquelle il avouait sa participation au brigandage après avoir été informé des conséquences pénales de celles-ci, auxquelles il n'avait cependant pas cru. X._ a quant à lui nié toute participation au brigandage. Il avait prêté son téléphone portable à A._ et lui-même avait passé la soirée avec la s?ur de celui-ci. D.b Par jugement du 2 décembre 2011, le Tribunal pénal du Tribunal de première instance a derechef déclaré X._ coupable de brigandage qualifié et d'utilisation frauduleuse d'un ordinateur et l'a condamné à la peine privative de liberté de deux ans et demi à titre de peine complémentaire à celle prononcée le 17 mars 2005. E. Saisie d'un appel du condamné, la Cour pénale du Tribunal cantonal jurassien a confirmé cette décision par jugement du 23 mars 2012. F. X._ interjette un recours en matière pénale au Tribunal fédéral contre cette décision. Il conclut à son acquittement du chef des infractions de brigandage qualifié et utilisation frauduleuse d'un ordinateur pour les faits commis à Hunzenschwil et Neuenhof et à ce que la peine prononcée en relation avec les faits qui se sont produits à St-Margrethen soit réduite à une année, avec sursis et délai d'épreuve de 2 ans, le tout sous suite de frais et dépens. Subsidiairement, il conclut au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants. Il sollicite en outre l'octroi de l'assistance judiciaire. Il n'a pas été ordonné d'échange d'écritures.