Faits:
A. A._ est né le 11 janvier 1950 en Algérie; Il a épousé B._ et a cinq enfants, nés en Algérie entre 1979 et 1992. Il a appartenu au Front Islamique du Salut (FIS) jusqu'à sa dissolution officielle en 1992, année où il a quitté l'Algérie après avoir été brièvement emprisonné. Après un passage au Maroc et en Italie, il a demandé l'asile en Suisse en 1995; l'année suivante, il a obtenu avec sa famille le statut de réfugié. Il a exercé divers emplois et bénéficie, depuis 2004, d'une rente AI.
Le 7 mars 2007, les époux A._ et B._ ont demandé la naturalisation, relevant que leurs enfants avaient déjà acquis la nationalité suisse. Le Conseil général de la commune de Marly leur a accordé le droit de cité communal le 28 mai 2008. L'autorisation fédérale a été délivrée le 6 janvier 2009 par l'Office fédéral des migrations (ODM). Le 12 mars 2009, les époux A._ et B._ ont été entendus par la Commission des naturalisations du Grand Conseil fribourgeois. Interrogé sur son activité au sein du FIS, A._ a précisé qu'il était le secrétaire général du bureau exécutif à Oran, chargé de la coordination du parti et de la concrétisation des idées de ses membres. Il a décrit le FIS comme un parti politique dont le but était de combattre la corruption et de démocratiser le pays. Les forces politiques en place en 1992 l'avaient déclaré organisation terroriste et avaient tué plusieurs de ses membres. Il n'avait plus aucun contact avec le FIS.
Par décision du 18 juin 2009, le Grand Conseil a refusé la naturalisation des époux A._ et B._. Il a considéré que le FIS militait pour la création d'un état islamique, assimilant notamment la démocratie à l'athéisme. Cette idéologie était incompatible avec les principes fondamentaux et l'ordre juridique en Suisse.
B. Les époux A._ et B._ ont saisi le Tribunal cantonal fribourgeois, en demandant l'assistance judiciaire. Par arrêt du 29 juin 2010 la Ie Cour administrative a déclaré sans objet le recours de B._, celle-ci ayant entretemps été naturalisée à titre individuel par décision du Grand Conseil du 12 janvier 2010. Le recours de A._ a été rejeté. Selon l'art. 6 let. f et g de la loi sur le droit de cité fribourgeois (LDCF, RS/FR 114.1.1), le requérant devait jouir d'une bonne réputation et remplir les conditions d'intégration, notamment en respectant les principes constitutionnels fondamentaux et le mode de vie en Suisse (art. 6a let. c LDCF). Le FIS faisait partie des groupes extrémistes violents algériens qui, depuis sa création, rejetait les valeurs démocratiques; certains de ses membres avaient troublé l'ordre en Algérie. Le recourant n'avait manifesté ni recul, ni regrets à propos de la dérive du FIS. Le refus de naturalisation n'était pas discriminatoire.
C. Par acte du 2 août 2010, A._ forme un recours constitutionnel subsidiaire par lequel il demande l'annulation de l'arrêt du Tribunal cantonal et le renvoi de la cause au Grand Conseil afin qu'il octroie le droit de cité fribourgeois au recourant.
La cour cantonale conclut au rejet du recours, en relevant que le recourant ne se serait jamais distancié du FIS et de ses agissements. Le Grand Conseil conclut au rejet du recours. Le recourant a déposé des observations complémentaires, produisant une lettre du 18 juin 2009 adressée à la Commission des grâces du canton de Fribourg, dans laquelle il exprime ses regrets et affirme ne plus suivre l'idéologie du FIS.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 LTF) n'est pas ouvert contre les décisions relatives à la naturalisation ordinaire (art. 83 let. b LTF). Le recours constitutionnel subsidiaire est par conséquent ouvert (art. 113 LTF).
1.1 A qualité pour former un tel recours celui qui a pris part à la procédure devant l'autorité précédente (art. 115 let. a LTF) et a un intérêt juridique à l'annulation ou à la modification de la décision attaquée (art. 115 let. b LTF). Le recourant peut se prévaloir d'un intérêt juridique protégé dans la mesure où il se prévaut d'un droit constitutionnel dont il est titulaire (art. 116 LTF), en l'occurrence l'interdiction de la discrimination (art. 8 al. 2 Cst.; ATF 135 I 265 consid. 1.3 p. 269-270 et les arrêts cités).
1.2 Le recours prévu à l'art. 113 LTF peut être formé pour violation des droits constitutionnels (art. 116 LTF). Aux termes de l'art. 106 al. 2 LTF, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant (ATF 133 II 249 consid. 1.4.2 p. 254; 133 III 393 consid. 6 p. 397). L'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation. Le Tribunal fédéral n'a donc pas à vérifier d'office si l'arrêt entrepris est en tous points conforme au droit, mais n'examine que les griefs d'ordre constitutionnel dûment invoqués et suffisamment motivés dans l'acte de recours (art. 106 al. 2 LTF en corrélation avec l'art. 117 LTF; cf. ATF 130 I 258 consid. 1.3 p. 261/262 et les références).
1.3 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 118 al. 1 LTF). Il ne peut s'en écarter que si ceux-ci ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 116 LTF, et si la correction du vice est susceptible d'influer sur le sort de la cause (cf. art. 97 al. 1 LTF). C'est au recourant qu'il appartient de le démontrer, par une argumentation répondant elle aussi aux exigences de l'art. 42 al. 2 LTF, respectivement de l'art. 106 al. 2 LTF (ATF 133 II 249 consid. 1.4.3 p. 254 s.).
2. Le recourant invoque uniquement le principe de non-discrimination. Sa naturalisation aurait été refusée en raison de sa participation au FIS, et par conséquent en raison de ses opinions politiques fondées sur un strict respect des valeurs de l'islam, sans tenir compte de sa situation concrète et actuelle. Rien ne laisserait penser que son attitude serait incompatible avec les conceptions fondamentales de l'Etat de droit démocratique. Il ressortirait au contraire du dossier que le recourant est de bonne réputation et bien intégré, qu'il respecte les principes fondamentaux du droit suisse et partage le mode de vie des citoyens helvétiques.
2.1 Selon l'art. 8 al. 2 Cst. nul ne doit subir de discrimination du fait notamment de son origine, de sa race, de son sexe, de son âge, de sa langue, de sa situation sociale, de son mode de vie, de ses convictions religieuses, philosophiques ou politiques ni du fait d'une déficience corporelle, mentale ou psychique. La discrimination est une forme qualifiée d'inégalité de traitement. Elle n'est donc pas réalisée du simple fait d'une inégalité injustifiée. Il y a discrimination au sens de cette disposition lorsqu'une personne est traitée comme un être inférieur ou lorsqu'elle subit un traitement différent sur la seule base de son appartenance à un groupe déterminé qui, dans la réalité historique ou dans la réalité sociale actuelle, a tendance à se trouver exclu (ATF 135 I 49 consid. 4.1 p. 53), lui faisant ainsi subir un traitement d'humiliation ou d'exclusion sur la seule base de critères liés à son identité. Cela n'exclut pas de manière absolue que l'on puisse faire référence à des critères tels que la race, le sexe, la situation sociale ou les convictions religieuses ou politiques. Le fait de se fonder sur l'un de ces critères implique une présomption de différenciation illicite, laquelle peut être renversée par une justification suffisante, fondée sur des motifs objectifs et soumise à une obligation de motiver particulièrement stricte (ATF 134 I 49 consid. 3.1 p. 53; 129 I 217 consid. 2.1 p. 223-224).
2.2 La jurisprudence a ainsi considéré qu'un refus de naturalisation fondée sur la seule origine des requérants, sans autre justification, était discriminatoire (ATF 129 I 217). Le simple port du foulard, en tant que symbole religieux, ne permettait pas non plus de refuser une naturalisation car il ne traduisait pas en soi une attitude de manque de respect à l'égard des valeurs démocratiques et constitutionnelles (ATF 134 I 49). L'exclusion de la naturalisation pour une personne handicapée dépendant de l'aide sociale constitue, elle aussi, une discrimination inadmissible (ATF 135 I 49).
2.3 En l'occurrence, le recourant n'a pas été refusé à la naturalisation en raison de sa seule religion; il n'invoque d'ailleurs pas la liberté religieuse garantie à l'art. 15 Cst. Comme le relève la cour cantonale, son épouse, de même origine et également musulmane, a été naturalisée, ainsi que leurs enfants. Le refus du Grand Conseil se fonde sur le motif que le FIS, auquel le recourant a appartenu jusqu'en 1992, soutenait des conceptions antidémocratiques et contraires à la notion d'Etat de droit.
2.4 Il est douteux que l'on puisse considérer le FIS, en tant que parti politique, comme un groupe plus ou moins déterminable de personnes susceptibles en tant que telles d'être socialement dénigrées et rabaissées ou menacées d'exclusion en raison de préjugés stéréotypés (ATF 135 I 49 consid. 4.3 p. 55 et les références). Cette question peut toutefois demeurer indécise, car les motifs retenus par le Grand Conseil, puis par la cour cantonale, ne sont pas de nature discriminatoire. En effet, comme cela est relevé ci-dessous, le refus de naturalisation n'est pas fondé sur la seule appartenance du recourant au FIS, mais sur le fait qu'il n'a jamais, au cours de la procédure, pris ses distances avec la doctrine extrémiste et les activités terroristes qui peuvent être attribuées à ce mouvement.
2.5 La décision du Grand Conseil et l'arrêt cantonal retiennent que le Front Islamique de Salut est une formation politique algérienne créée en 1989, prônant la création d'un Etat fondé sur le strict respect des valeurs de l'Islam. Selon la doctrine de ce parti, la notion de démocratie est assimilée à l'athéisme et les partis en contradiction avec l'islam sont condamnés. Avant le premier tour des élections législatives au mois de décembre 1991, certains dirigeants de ce parti évoquaient, en cas d'obtention de la majorité, l'interdiction des partis laïcs et socialiste. Le FIS a remporté 47% des votes lors du premier tour des élections législatives en décembre 1991. L'intervention de l'armée a mis fin au processus électoral et le FIS a été dissous au mois de mars 1992. Désormais dans la clandestinité, la mouvance islamiste hésite entre une option politique (négociations avec le pouvoir) et une voie radicale (violence terroriste, prônée et pratiquée par des éléments plus ou moins contrôlés comme le groupe islamique armé G.I.A.). Le Conseil fédéral a ainsi été amené, au mois d'octobre 2002, à interdire à des dirigeants du FIS vivant en Suisse de faire de la propagande et de prôner, justifier ou soutenir l'usage de la violence depuis le territoire suisse, activités mettant en péril les relations de la Suisse avec l'étranger. Dans son rapport du 25 août 2004 sur l'extrémisme (FF 2004 4693), le Conseil fédéral range le FIS aux côtés des mouvements d'extrémisme religieux ralliés à l'idéologie violente prônée par les Frères musulmans, préconisant une interprétation stricte de la charia (p. 4727-4729) et rejetant par définition les valeurs fondamentales de la démocratie libérale et de l'Etat de droit (p. 4701).
2.6 Le recourant ne remet pas en cause ces faits, souverainement constatés par les autorités précédentes. Il ne nie pas non plus que la doctrine du FIS est effectivement incompatible avec les conceptions fondamentales d'un Etat de droit démocratique. Son argumentation consiste à soutenir que son ancienne appartenance au FIS ne permettait pas de retenir qu'il ne serait pas intégré ou de bonne réputation au sens des art. 6 et 6a LDCF. Le recourant ne se plaint pas d'arbitraire dans l'application de ces dernières dispositions, mais uniquement d'une discrimination prohibée par l'art. 8 al. 2 Cst. Or, de ce seul point de vue, l'arrêt attaqué ne prête pas le flanc à la critique.
2.7 Le Grand Conseil ne s'est en effet pas limité à des reproches généraux à l'endroit du FIS. Il a aussi retenu que le recourant en avait fait partie non pas en tant que simple membre ou sympathisant, mais en tant que cadre, soit secrétaire général du bureau exécutif à Oran, et membre d'une assemblée consultative. Le recourant prétend dans son recours qu'il n'aurait été que secrétaire du bureau exécutif d'une commune et qu'il n'aurait jamais été membre "de l'ensemble constitutif d'Oran". Lors de son audition du 12 mars 2009, le recourant a toutefois clairement déclaré qu'il exerçait la fonction de secrétaire général et qu'à ce titre, il s'occupait de la coordination du parti, examinait les idées des membres et les mettait ensemble afin de les concrétiser. On peut donc raisonnablement en déduire qu'il devait à tout le moins soutenir les thèses principales du FIS.
2.8 La cour cantonale n'a pas non plus méconnu que l'appartenance du recourant au FIS remonte à 1992 et qu'il pourrait, depuis lors, s'en être distancé. Il a toutefois conclu par la négative en se fondant, à ce sujet également, sur les pièces du dossier. En effet, lors de son audition, le recourant a présenté le FIS comme un simple parti politique d'opposition, comparable à un "parti démocratique" en Suisse, et dont l'objectif était de combattre la corruption et démocratiser le pays. Rendu attentif au fait que sa participation au FIS était problématique dans l'optique d'une naturalisation, le recourant a confirmé que le FIS avait été injustement accusé des évènements qui lui étaient reprochés, et avait lui-même été victime de la corruption. Il ressort clairement de ces déclarations qu'en dépit du temps écoulé, le recourant n'a manifestement pas pris conscience de l'incompatibilité qui pouvait exister entre les thèses extrémistes soutenues par le FIS et le respect des valeurs démocratiques que l'on est en droit d'attendre de la part d'un candidat à la naturalisation.
2.9 Dans son mémoire complémentaire, le recourant relève qu'il a, le 18 juin 2009, adressé une lettre au Président de la Commission des grâces du canton de Fribourg, dans laquelle il affirme ne plus suivre l'idéologie de son ancien parti et exprime ses regrets "d'avoir suivi la voie du FIS". Cette pièce n'a toutefois pas été évoquée par le recourant dans son recours cantonal, de sorte que l'argument, nouveau, est irrecevable (art. 99 al. 1 et 117 LTF). Il apparaît au surplus que la lettre du recourant, adressée à une autorité incompétente, est datée du même jour que la décision du Grand Conseil fribourgeois refusant la naturalisation, après que le recourant ait pris connaissance du préavis négatif de la Commission des naturalisations. On peut dès lors y voir une démarche dictée par les circonstances, qui ne permet pas de revenir sur la conviction que se sont forgée les instances précédentes en se fondant sur les premières déclarations de l'intéressé, sans doute plus spontanées.
2.10 En définitive, le refus de naturalisation ne vient pas sanctionner la seule appartenance du recourant à un groupe particulier, voire, comme le prétend le recourant, ses seules convictions religieuses. La décision attaquée échappe ainsi au grief de discrimination.
3. Le recours doit par conséquent être rejeté, dans la mesure où il est recevable. conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge du recourant, qui succombe.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 1000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Grand Conseil et au Tribunal cantonal du canton de Fribourg, Ie Cour administrative.
Lausanne, le 25 janvier 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Fonjallaz Kurz