Faits:
A. Dans le canton de Neuchâtel, les communes ont versé à l'Etat, pour les enfants handicapés scolarisés en école spécialisée, par jour et par enfant, une contribution de 5 francs jusqu'en 1983, augmentée à 8 francs jusqu'en 1991, puis à 10 francs dès 1992. Cette contribution n'a jamais été contestée par les communes.
B. En adoptant, le 1er septembre 2004 (dans le cadre des modifications législatives rendues nécessaires par la nouvelle répartition des tâches entre cantons et communes et par l'abrogation de l'art. 19 LAI avec effet au 1er janvier 2008), le nouvel art. 3 de la loi du 22 novembre 1967 sur l'aide financière aux établissements spécialisés pour enfants et adolescents du canton (LESEA; RSNE 830.10), qui prévoit que les frais d'exploitation inhérents à la prise en charge d'enfants ou d'adolescents domiciliés dans le canton sont supportés par l'Etat, le Grand Conseil a exprimé la volonté de transférer intégralement le subventionnement des établissements spécialisés au canton. Cette disposition est entrée en vigueur le 1er janvier 2005.
C. Le 20 août 2008, vu la loi sur l'organisation scolaire du 28 mars 1984 (LOS; RSNE 410.10), le Conseil d'Etat de la République et Canton de Neuchâtel a adopté une modification de l'arrêté fixant les modalités de subventionnement des dépenses scolaires (scolarité obligatoire) du 20 décembre 2000 (RSNE 410.106) comme suit:
"Elèves en écoles spécialisées art. 5a (nouveau).-
1 La participation des communes aux frais de scolarisation de leurs ressortissants en école spécialisée est égale aux dépenses qu'elles engagent pour les élèves en âge de scolarité obligatoire au sens de la législation scolaire.
2 Le montant de la participation communale est déterminé annuellement sur la base de la dernière version disponible des données publiées par l'Office fédéral de la statistique relativement aux dépenses publiques d'éducation, en tenant compte des éléments suivants:
a) des charges de personnel assumées par les communes, déduction faite des subventions cantonales sur les traitements;
b) du coût du soutien pédagogique spécialisé anciennement cofinancé par l'AI, le canton et les communes."
L'arrêté est entré en vigueur le 18 août 2008. Il a été publié dans la Feuille officielle du Canton de Neuchâtel du 22 août 2008.
D. Agissant par la voie du recours en matière de droit public, les communes de La Chaux-de-Fonds, du Locle et de Neuchâtel ont requis et obtenu du Tribunal fédéral l'annulation de l'art. 5a de l'arrêté du 20 décembre 2000 dans sa version de 2008, en particulier parce qu'il était contraire à la loi sur l'aide financière aux établissements spécialisés pour enfants et adolescents du canton, dans sa teneur en vigueur depuis le 1er janvier 2005 (arrêt 2C_692/2008 du 24 février 2009, partiellement publié in: ATF 135 II 156).
E. Par mémoires de demande des 29 juin, 6 juillet et 8 juillet 2010, les communes de Neuchâtel, de la Chaux-de-Fonds, du Locle et de Val-de-Travers ont ouvert action devant le Tribunal administratif du canton de Neuchâtel (actuellement la Cour de droit public du Tribunal cantonal; ci-après: le Tribunal cantonal) contre l'Etat de Neuchâtel en paiement du montant de, respectivement, 252'940,80 fr., 455'648,40 fr., 92'015,20 fr. et 79'284,40 fr., avec intérêts à 5% dès le 30 avril 2009. Ces montants représentaient les versements indus, selon elles, opérés en 2005, 2006 et 2007 en faveur de l'Etat et à sa demande au titre de "subsides scolaires complémentaires à l'AI" faute de base légale, constitutifs d'un enrichissement sans cause et donc sujets à restitution. Le litige portait donc sur des montants versés avant la modification, le 20 août 2008, de l'arrêté du 20 décembre 2000 ayant donné lieu à l'arrêt du Tribunal fédéral du 24 février 2009, mais après l'entrée en vigueur de la LESEA, le 1er janvier 2005.
F. Le 14 novembre 2011, le Tribunal cantonal a rejeté l'action. Après avoir relevé "qu'il semble" que depuis le 1er janvier 2005, la perception par l'Etat auprès des communes des contributions en cause en l'espèce était dépourvue de base légale expresse (consid. 5a), il a estimé que l'exécution spontanée et sans réserve d'une obligation que les communes auraient pu contester en temps utile et dont l'illégalité a été constatée ultérieurement faisait obstacle à la mise en oeuvre de l'art. 62 CO et donc à la restitution de l'enrichissement sans cause. Selon lui, en payant chaque année et sans réserve, jusqu'en 2008 (pour 2007) les contributions litigieuses, fondées sur une longue pratique, les communes avaient manifesté leur accord avec le financement qui leur était demandé et facturé. Elles ne pouvaient par conséquent pas invoquer le fait d'avoir été dans l'erreur, à supposer même que l'on re-
tienne qu'elles n'avaient à l'époque pas conscience de l'illégalité qu'elles estimaient pouvoir déduire de l'arrêt du Tribunal fédéral du 24 février 2009.
G. Agissant par la voie du recours en matière de droit public, les communes de Neuchâtel, de la Chaux-de-Fonds, du Locle et de Val-de-Travers demandent au Tribunal fédéral de condamner l'Etat de Neuchâtel à leur restituer les montants versés à tort pour les années 2005, 2006 et 2007.
Se référant pour l'essentiel à sa détermination dans la procédure cantonale, l'Etat de Neuchâtel conclut au rejet du recours, alors que le Tribunal cantonal conclut au rejet du recours en se référant aux motifs de l'arrêt attaqué.
Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF). Il contrôle librement la recevabilité des recours qui lui sont soumis (ATF 134 III 379 consid. 1 p. 381 et la jurisprudence citée). Toutefois, conformément à l'art. 42 al. 1 et 2 LTF, dans la mesure où elles ne sont pas immédiatement données, le recourant doit exposer en quoi les conditions de recevabilité sont réunies, en particulier en quoi il a qualité pour recourir, sous peine d'irrecevabilité (ATF 133 II 353 consid. 1 p. 356 et les références citées; arrêt 1C_20/2009 du 30 janvier 2009).
2. D'après l'art. 89 al. 1 LTF, la qualité pour former un recours en matière de droit public est reconnue à quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire, est particulièrement atteint par la décision ou l'acte normatif attaqué, et a un intérêt digne de protection à son annulation ou à sa modification. A l'origine, cette disposition a été prévue pour des particuliers. Cependant, une collectivité publique peut aussi s'en prévaloir dans certaines hypothèses (ATF 134 V 54 consid. 2.3.3.1 p. 58; 133 II 400 consid. 2.4.1 p. 406; 133 I 140 consid. 13.1 p. 143). Elle peut fonder sa qualité pour recourir sur l'art. 89 al. 1 LTF si l'acte attaqué l'atteint de la même manière qu'un particulier ou de façon analogue, dans sa situation matérielle (patrimoine administratif ou financier) ou juridique et qu'elle a un intérêt digne de protection à son annulation ou à sa modification (arrêt 2C_609/2007 du 27 novembre 2008, consid. 1.3; ATF 133 II 400 consid. 2.4.2 p. 406). Il en va ainsi lorsque son patrimoine financier est touché par la perception d'une contribution (ATF 133 I 140 consid. 1.3.3 p. 143 s.) ou la condamnation à payer des dommages-intérêts fondés sur une responsabilité de droit civil ou sur des fondements analogues (ATF 135 II 156 consid. 3). Une collectivité publique peut également faire valoir un intérêt public digne de protection dans l'accomplissement de ses prérogatives de puissance publique par exemple en tant que créancière d'un émolument (arrêt 2C_712/2008 du 24 décembre 2008, consid. 1.3.2; ATF 119 Ib 389 consid. 2e p. 391) ou bénéficiaire d'une subvention (ATF 122 II 382 consid. 2b p. 383).
En l'espèce, les communes sont directement touchées dans leur patrimoine par le fait d'avoir versé, potentiellement sans cause valable, des sommes importantes à l'Etat de Neuchâtel, dits montants étant originairement directement liés à l'accomplissement d'une tâche publique (ATF 135 II 156, consid. 3; 134 II 45 consid. 2.2.1). C'est une question de fond et non de recevabilité de savoir si, concrètement, le droit à la restitution est fondé.
3. Le renvoi à des écritures antérieures ne remplit pas les conditions de motivation de l'art. 42 LTF et constitue un procédé irrecevable devant le Tribunal fédéral (arrêt 9C_331/2010 du 15 octobre 2010 consid. 1.1; ATF 131 II 384). Les observations du Conseil d'Etat du 19 août 2010 sont par conséquent irrecevables.
4. Sauf dans les cas cités expressément par l'art. 95 de la loi du 17 juin 2005 sur le Tribunal fédéral (LTF; RS 173.110), le recours en matière de droit public ne peut pas être formé pour violation du droit cantonal en tant que tel. En revanche, il est toujours possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit constitutionnel fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. (ATF 135 III 513 consid. 4.3 p. 521s.) ou encore une violation du droit constitutionnel cantonal (art. 95 let. c LTF). Il appartient toutefois au recourant d'invoquer ce grief et de le motiver d'une manière suffisante (cf. art. 106 al. 2 LTF, ATF 136 I 65 consid. 1.3.1 p. 68). L'acte de recours doit donc, sous peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation (ATF 135 III 232 consid. 1.2 p. 234). En particulier, il doit préciser en quoi l'acte attaqué serait arbitraire, ne reposerait sur aucun motif sérieux et objectif, apparaîtrait insoutenable ou heurterait gravement le sens de la justice (ATF 133 II 396 consid. 3.2 p. 400).
5. Devant le Tribunal fédéral, les communes font valoir une violation du droit d'être entendu d'une part, "parce que la Cour cantonale n'a pas tenu compte d'une jurisprudence du Tribunal fédéral sans exposer pourquoi", et, d'autre part, parce qu'elle n'a pas examiné un point de droit essentiel. Elles estiment au surplus que l'arrêt attaqué constitue une violation de l'art. 5 Cst. et qu'il est arbitraire (art. 9 Cst). En réalité, tous ces griefs se confondent dans la question de savoir si les art. 62 ss CO fondent un droit à obtenir répétition des montants versés selon elles à tort à l'Etat.
5.1 Aux termes de l'art. 62 al. 1et 2 CO, celui qui, sans cause légitime, s'est enrichi aux dépens d'autrui, est tenu à restitution. La restitution est due, en particulier, de ce qui a été reçu sans cause valable, en vertu d'une cause qui ne s'est pas réalisée, ou d'une cause qui a cessé d'exister. Selon l'art. 63 CO, cependant, celui qui a payé volontairement ce qu'il ne devait pas ne peut le répéter s'il ne prouve qu'il a payé en croyant, par erreur, qu'il devait ce qu'il a payé. L'art. 62 CO exprime le principe. Il a une portée générale et s'applique à tous les cas d'enrichissement illégitime, sans égard à leur origine. Il indique positivement à quelles conditions l'enrichi "est tenu à restitution". L'art. 63 CO est une règle spéciale qui limite le principe au seul cas où l'enrichissement résulte d'une prestation faite à tort par l'appauvri. Il indique négativement à quelles conditions l'appauvri peut être dans ce cas privé de sa créance en répétition (cf. PIERRE TERCIER, Le droit des obligations, 4e éd., ch. 1821 s., p. 369).
La jurisprudence et la doctrine (ATF 135 II 274 consid. 3.1; 124 II 570 consid. 4b avec références; arrêt 2C_114/2011 du 26 août 2011, consid. 2.1; cf. récemment: HERMANN SCHULIN, Obligationenrecht I, Basler Kommentar, 5e éd., Bâle 2011, ch. 2 ad art. 62 CO) admettent que les règles de droit privé relatives à l'enrichissement illégitime valent de manière analogue en droit administratif en tant que principe général du droit. Dès lors que l'on soumet l'obligation de restituer aux art. 62 ss CO, il convient en principe d'appliquer ces dispositions avec leurs avantages et inconvénients respectifs pour l'enrichi et le lésé, sans en dénaturer le sens ou la portée, quand bien même elles s'in- ncorporent dans un système régi en partie par le droit public (ATF 130 V 414 consid. 3.3). Ce principe n'interdit toutefois pas de tenir compte des spécificités du droit public. En cette matière, on considère qu'une prestation n'est pas effectuée sans motif juridique lorsqu'elle repose sur une décision matériellement erronée mais entrée en force, dans la mesure toutefois où il n'existe aucun motif de revenir sur ce prononcé (cf. arrêts 2C_114/2011 du 26 août 2011, consid. 2; 2A.18/2007 du 8 août 2007, consid. 3.3).
C'est à la lumière de ces règles qu'il faut trancher la présente cause et, en particulier, examiner si les versements litigieux reposaient sur une base légale de droit cantonal. En effet ni les recourantes ni le Conseil d'Etat ne soutiennent que les versements litigieux auraient fait l'objet de décisions formelles de droit cantonal entrées en force.
5.2 Dans l'arrêt 2C_692/2008 du 24 février 2009, procédant à un contrôle abstrait de constitutionnalité, le Tribunal fédéral a annulé l'art. 5a de l'arrêté fixant les modalités de subventionnement des dépenses scolaires. L'annulation de cette base légale n'est d'aucun secours pour les recourantes, puisqu'elle visait la modification de l'arrêté par le Conseil d'Etat du 20 août 2008 et que le présent litige porte sur les versements effectués par les communes pour la participation aux frais relatifs aux années 2005, 2006 et 2007. Contrairement à ce que semble penser le Tribunal cantonal (arrêt attaqué, consid. 6a), le cas d'espèce n'est par conséquent pas celui d'un changement de pratique obtenu par un recourant dont voudrait bénéficier un autre justiciable qui n'a rien contesté lui-même en temps utile (sur cette question: ATF 102 Ib 45; PIERRE MOOR/ETIENNE POLTIER, Droit administratif, vol II, 3e éd., Berne 2011, p. 168).
5.3 A la question - seule déterminante en l'espèce - de savoir si le droit cantonal contenait, pour les années 2005, 2006 et 2007, une base légale justifiant la perception, respectivement le versement par les communes des participations aux frais, sous forme de "subsides scolaires complémentaires à l'AI", le Tribunal cantonal a répondu "qu'il ne paraît pas exclu a priori de déduire de ces dispositions (note: art. 28 et 32 LOS/NE), implicitement, le principe du partage des responsabilités financières. Quoi qu'il en soit, il n'est en tout cas pas possible de considérer comme établi, d'emblée, que les contributions litigieuses ont été versées sans cause valable." (arrêt attaqué, consid. 6b, p. 6 s.).
5.3.1 Une décision est arbitraire lorsqu'elle contredit clairement la situation de fait, lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou lorsqu'elle heurte d'une manière choquante le sentiment de la justice et de l'équité (ATF 132 III 209 consid. 2.1 p. 211). A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs ou en violation d'un droit certain. De plus, il ne suffit pas que les motifs de l'arrêt attaqué soient insoutenables, encore faut-il que ce dernier soit arbitraire dans son résultat. Il n'y a en outre pas arbitraire du seul fait qu'une autre solution que celle de l'autorité intimée paraît concevable, voire préférable (ATF 137 I 1 consid. 2.4 p. 5).
5.3.2 Le nouvel art. 3 LESEA, qui, selon l'arrêt 2C_692/2008 du 24 février 2009 a pour but de mettre le domaine de l'enseignement spécialisé intégralement à charge du canton, est entré en vigueur le 1er janvier 2005. Jusqu'au prononcé de l'arrêt du 24 février 2009, la portée de l'art. 3 LESEA n'était pas claire, d'autant moins que la suppression de la participation de la Confédération découlant de la LAI ne devenait effective qu'au 1er janvier 2008. Par conséquent, il n'est pas arbitraire de considérer que l'entrée en vigueur de l'art. 3 LESEA n'a pas entraîné de modification de la répartition financière telle qu'elle avait lieu depuis des décennies entre canton et communes avant la suppression de l'aide de la Confédération en 2008 et de retenir, comme l'a jugé l'instance précédente au vu des art. 28 et 32 LOS/NE, que les contributions n'ont pas été versées sans cause valable entre 2005 et 2007.
Les conditions donnant droit à restitution des montants litigieux ne sont par conséquent pas réunies.
6. Les considérants qui précèdent conduisent au rejet du recours. Succombant dans l'exercice de leurs attributions officielles dans une affaire mettant en cause leur intérêt patrimonial, les communes recourantes doivent supporter un émolument judiciaire, solidairement entre elles (art. 66 al. 4 et 5 LTF). Elles n'ont pas droit à des dépens (art. 68 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 10'000 fr., sont mis à charge des communes recourantes solidairement entre elles.
3. Le présent arrêt est communiqué aux recourantes, au Conseil d'Etat et au Tribunal cantonal de la République et canton de Neuchâtel.
Lausanne, le 19 avril 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Dubey