Faits:
A. Par jugement par défaut du 20 mai 2010, publié dans la Feuille officielle cantonale, le Tribunal de police du district de Neuchâtel a acquitté X._ et Y._. Celui-là était accusé de faux dans les certificats, subsidiairement violation de l'art. 118 LEtr, et d'escroquerie, celle-ci d'escroquerie.
Le 29 août 2011, les prénommés ont adressé au Tribunal de police une demande d'indemnité fondée sur l'<ref-law>.
Par décision du 31 août 2011, le tribunal a rejeté la demande d'indemnité.
B. Par jugement du 23 mars 2012, la Cour pénale du Tribunal cantonal neuchâtelois a admis l'appel de X._ et Y._, annulé la décision du 31 août 2011, et transmis la demande d'indemnité du 29 août 2011 au Département de la justice, de la sécurité et des finances du canton de Neuchâtel. En substance, la cour a considéré que la demande d'indemnité était régie par l'ancien art. 272 du Code de procédure pénale neuchâtelois (CPP/NE), qui renvoyait aux art. 11 et 21 de la Loi cantonale sur la responsabilité des collectivités publiques et de leurs agents (LResp/NE). La compétence pour traiter la demande d'indemnité relevait du département et non du tribunal de police. Il se justifiait dans ces conditions d'annuler la décision du tribunal de police et de transmettre la demande au département.
C. X._ et Y._ forment un recours en matière pénale au Tribunal fédéral contre ce jugement et concluent, sous suite de dépens, principalement à ce que le Tribunal fédéral statue au fond sur la demande d'indemnité du 29 août 2011, subsidiairement à l'annulation du jugement et au renvoi en instance cantonale. Ils forment par ailleurs un recours constitutionnel subsidiaire dans lequel ils prennent des conclusions identiques.
Le ministère public a conclu au rejet du recours. La cour cantonale ne s'est pas déterminée.

Considérant en droit:
1. 1.1 Le jugement attaqué ne statue pas sur le sort des prétentions en indemnisation émises par les recourants mais transmet la cause à une autorité administrative (un département cantonal) comme objet de sa compétence. Autrement dit, le jugement attaqué revient à dénier la compétence de la juridiction pénale. Le refus de compétence constitue une décision finale au sens de l'<ref-law> (cf. BERNARD CORBOZ, Commentaire de la LTF, 2009, no 13 ad <ref-law>).
La question de la compétence dépend de l'application ou non du CPP. Il s'agit d'une question de droit fédéral. Le recours en matière pénale est ouvert (cf. <ref-law>) et la Cour de droit pénal est compétente pour en traiter (art. 33 let. b et c RTF).
1.2 Le recours en matière pénale étant ouvert, le recours constitutionnel subsidiaire, qui reprend une argumentation similaire, est irrecevable (cf. <ref-law>).
1.3 Le jugement attaqué est limité à la question de la compétence. Cela définit et limite l'objet du recours. Il en découle que les conclusions en réforme portant sur les prétentions en indemnité et les griefs y relatifs sont irrecevables. La question de la compétence est traitée au regard de la conclusion en annulation prise dès lors qu'en cas d'admission du recours, la cour de céans n'aurait d'autre choix que d'annuler le jugement attaqué et de renvoyer la cause à l'autorité cantonale pour qu'elle entre en matière.
2. 2.1 Les recourants ont bénéficié d'un jugement d'acquittement rendu en 2010. Ils ont déposé une demande d'indemnisation en août 2011. Ils y font valoir le préjudice économique subi à raison de la procédure pénale, invoquant notamment une indemnité de 10'000'000 de fr. à titre d'incapacité de gain et d'atteinte à l'avenir économique (cf. décision du 31 août 2011 p. 3).
2. 2.1 Les recourants ont bénéficié d'un jugement d'acquittement rendu en 2010. Ils ont déposé une demande d'indemnisation en août 2011. Ils y font valoir le préjudice économique subi à raison de la procédure pénale, invoquant notamment une indemnité de 10'000'000 de fr. à titre d'incapacité de gain et d'atteinte à l'avenir économique (cf. décision du 31 août 2011 p. 3).
2.2 2.2.1 Le Tribunal fédéral s'est récemment penché sur le droit applicable à l'indemnisation du prévenu acquitté dans un cas où la procédure en indemnisation était pendante au moment de l'entrée en vigueur du CPP le 1er janvier 2011 (cf. arrêts 6B_428/2011 du 21 novembre 2011 consid. 2.2.2 et 6B_618/2011 du 22 mars 2012 consid. 1.2.2). Il a jugé que les règles relatives à l'indemnisation du prévenu acquitté relèvent, en tant qu'elles définissent une responsabilité et ses conséquences financières, du droit matériel, à l'instar des autres règles semblables (v. p. ex.: <ref-law>; art. 3 ss de la Loi sur la responsabilité de la Confédération, des membres de ses autorités et de ses fonctionnaires [LRCF; RS 170.32]). Or, ni le texte de l'<ref-law>, ni le principe général qu'il transcrit n'imposent, à eux seuls, une application systématique immédiate du nouveau CPP aux règles de droit matériel contenues dans celui-ci. Pour ces dernières, la norme est, au contraire, en règle générale, la non-rétroactivité (cf. <ref-law>; v. aussi dans le domaine spécifique du droit de la responsabilité: art. 882 al. 1 des dispositions transitoires du Code des obligations fédéral du 14 juin 1881; RO 5 577 spéc. 775), à défaut d'une règle contraire spécifique (cf. <ref-law>). En l'absence de toute réglementation inter-temporelle expresse dans le nouveau CPP, l'application de l'ancien droit cantonal - pour peu qu'il réglât déjà ces questions de droit matériel - se justifie, en outre, aussi lorsque les actes de procédure qui fondent la prétention en indemnisation ont été effectués sous l'empire de l'ancien droit formel, en raison des rapports existant entre ce régime juridique et la prétention en cause (v. en ce sens: NIKLAUS SCHMID, Übergangsrecht der Schweizerischen Strafprozessordnung, 2010, no 357 p. 100, no 369 p. 103 et no 373 p. 104).
2.2.2 Comme déjà évoqué, les arrêts précités ont traité de situations où la procédure en indemnisation était pendante au moment de l'entrée en vigueur du CPP le 1er janvier 2011. Le cas d'espèce est quelque peu différent dès lors que la procédure pénale s'est achevée en 2010 et que la demande d'indemnisation a été introduite en 2011. Il n'en reste pas moins que la jurisprudence précitée, plus spécifiquement son dernier développement, s'applique au présent cas de figure. Pour les motifs indiqués, il se justifie de soumettre à l'ancien droit cantonal matériel les prétentions en indemnisation résultant d'actes de procédure entièrement opérés sous l'ancien droit formel, autrement dit les actes opérés selon les règles cantonales de procédure. C'est en vain que les recourants invoquent la protection de leur bonne foi à cet égard. Comme indiqué dans les arrêts précités, la non-rétroactivité prévaut en général pour le droit matériel. Les recourants ne devaient donc pas s'attendre à ce que le CPP gouverne un régime de responsabilité pour des actes antérieurs à son entrée en vigueur.
2.2.3 Il découle de ce qui précède que les prétentions en indemnisation sont uniquement soumises aux anciennes règles cantonales matérielles lorsque, comme en l'espèce, la procédure pénale s'est déroulée sous l'égide des anciennes règles cantonales de procédure. Le CPP est inopérant s'agissant du droit matériel.
2.3 Cela étant, si le CPP ne régit pas les prétentions d'un point de vue matériel, son application ne saurait néanmoins être battue en brèche depuis le 1er janvier 2011 pour ce qui concerne les règles de procédure et de compétence. A cet égard, le CPP est exclusif depuis cette date. Il s'ensuit que les règles cantonales de procédure et de compétence sont inapplicables, quand bien même les prétentions litigieuses restent soumises d'un point de vue matériel au droit cantonal.
La compétence pour statuer sur les prétentions en indemnisation revient à l'autorité pénale (<ref-law>). Lorsque les prétentions ne sont pas traitées avec le jugement pénal, il faut envisager une procédure indépendante au sens des <ref-law>, laquelle relève selon l'<ref-law> de l'autorité pénale qui eût été compétente pour rendre le jugement de première instance (cf. par analogie pour la procédure applicable au tiers lésé, NIKLAUS SCHMID, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, no 10 in fine ad <ref-law>; arrêt 6B_618/2011 du 22 mars 2012 consid. 1.3).
Il résulte de ce qui précède que c'est à tort que la cour cantonale a exclu la compétence de la juridiction pénale et renvoyé la cause à un département cantonal comme objet de sa compétence. Le recours doit être admis, la décision annulée et la cause renvoyée à l'autorité cantonale pour nouvelle décision.
3. Les recourants obtiennent gain de cause dans la mesure où leur recours est recevable. Il est statué sans frais (art. 66 al. 1 et 4 LTF). Les recourants peuvent prétendre à une indemnité de dépens, à la charge du canton de Neuchâtel (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis dans la mesure où il est recevable, le jugement attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision au sens des considérants.
2. Il n'est pas perçu de frais judiciaires.
3. Le canton de Neuchâtel versera la somme de 2'000 fr. aux recourants, solidairement entre eux, à titre de dépens pour la procédure devant le Tribunal fédéral.
4. Le présent arrêt est communiqué aux parties et à la Cour pénale du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 10 septembre 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Livet