Faits: A. A._, ressortissante cambodgienne née en 1967, est arrivée en Suisse en 1979 avec ses parents, demandeurs d'asile. Elle a épousé en 1989 B._, ressortissant pakistanais avec qui elle a eu deux enfants, nés en 1994 et 1995. Le 18 mars 2006, elle a déposé une demande de naturalisation pour elle et ses deux enfants. Le 8 septembre 2008, le Conseil communal de Bevaix (commune de résidence) a rendu un préavis favorable fondé sur un rapport de police faisant état de l'absence de poursuite et d'un préavis positif de la commission de naturalisation retenant que la requérante était bien intégrée. Le 17 mars 2009, l'Office fédéral des migrations (ODM) a délivré l'autorisation fédérale. Le 14 avril 2009, le Conseil communal de Bevaix lui a accordé, ainsi qu'à ses deux enfants la naturalisation communale. Le 19 août 2009, la Commission des naturalisations du département cantonal de la justice, de la sécurité et des finances a fait savoir à A._ que sa demande était suspendue car l'intéressée n'était pas en règle dans le paiement de ses impôts: au 19 juin 2009, elle devait encore 7'690 fr. pour 2007 et 6'353 fr. pour 2008. Le 30 septembre 2009, l'intéressée répondit que l'impôt 2008 avait été entièrement payé et qu'un paiement échelonné jusqu'au 31 décembre 2011 avait été accordé par l'office de perception pour l'impôt 2007. Elle joignait des justificatifs. Par décision du 22 décembre 2009, le Conseil d'Etat neuchâtelois a rejeté la demande de naturalisation en raison du retard dans le paiement des contributions publiques. B. Par arrêt du 14 avril 2011, la Cour de droit public du Tribunal cantonal neuchâtelois a rejeté le recours formé par A._. Le Conseil d'Etat n'avait pas établi l'existence d'actes de défaut de biens, le défaut de paiement de l'impôt 2009 n'était pas démontré et le solde de l'impôt 2008 (intérêts moratoires) avait été réglé le 15 décembre 2009. En dépit de ces lacunes dans l'instruction de la cause, la recourante reconnaissait qu'elle n'était pas à jour dans le paiement de l'impôt 2007. Cela suffisait pour confirmer la décision de refus de naturalisation. C. Par acte du 13 mai 2011, A._ forme un recours en matière de droit public par lequel elle demande l'annulation de l'arrêt cantonal et le renvoi de la cause à l'autorité inférieure pour nouvelle décision au sens des considérants. Elle se plaint d'arbitraire et d'une violation du principe de la bonne foi. La recourante a par la suite demandé une réduction du montant de l'avance de frais, voire des facilités de paiement. La cour cantonale se réfère à son arrêt et conclut au rejet du recours. Le Conseil d'Etat ne s'est pas déterminé.