Faits:
A. Le 15 avril 2010, l'initiative populaire cantonale "Genève-Plage pour tous" a été déposée par l'association "A._" auprès du Service des votations et élections du canton de Genève (ci-après: SVE). La récolte de signatures a eu lieu du 23 avril au 23 août 2010.
Ayant appris que des étudiants avaient été engagés contre rémunération pour récolter des signatures, le SVE s'est adressé le 30 juin 2010 à A._, par sa représentante B._, en lui rappelant que ce procédé était interdit par la réglementation genevoise sur les droits politiques et en lui ordonnant d'y mettre un terme immédiat.
B. A._ et B._ ont saisi le Tribunal administratif genevois d'un recours contre cette décision, en soutenant que le SVE n'avait pas de compétence pour rendre une telle injonction et que celle-ci violait le principe de la bonne foi, le chef du SVE ayant, au mois d'avril 2010, confirmé la possibilité d'engager du personnel rémunéré à l'heure pour récolter des signatures.
C. Par arrêt du 21 septembre 2010, le Tribunal administratif a constaté la nullité de la décision du 30 juin 2010. Selon la loi, le SVE était chargé d'approuver préalablement les listes et, après la collecte de signatures, de contrôler la qualité d'électeur des signataires et d'annuler les signatures obtenues de manière irrégulière. En revanche, il n'était pas compétent pour intervenir durant la récolte et interdire certains procédés; il ne pouvait qu'attirer l'attention des initiants quant aux conséquences d'un tel procédé sur la validité des signatures. Le recours a été déclaré irrecevable pour le surplus.
D. Par acte du 3 novembre 2010, le Conseil d'Etat du canton de Genève agissant par la Chancelière d'Etat, forme un recours en matière de droit public par lequel il demande au Tribunal fédéral de constater la validité de la décision du SVE du 30 juin 2010, et de renvoyer la cause au Tribunal administratif.
Le Tribunal administratif persiste dans le dispositif et les considérants de son arrêt. A._ et B._ concluent à l'irrecevabilité du recours, subsidiairement à son rejet; ils demandent également, sur le fond, que les dispositions pertinentes de la loi genevoise sur l'exercice des droits politiques soient déclarées inconstitutionnelles.
Dans ses observations complémentaires, le Conseil d'Etat persiste dans ses conclusions.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis.
1.1 Le Conseil d'Etat forme un recours de droit public fondé sur l'art. 82 let. a LTF. A juste titre, il ne se fonde pas sur l'art. 82 let. c LTF (recours pour violation des droits politiques), car l'Etat n'est pas en tant que tel titulaire des droits politiques, et n'aurait donc pas qualité pour agir au regard de l'art. 89 al. 3 LTF. Seul est dès lors envisageable le recours ordinaire pour violation des garanties constitutionnelles (ATF 136 I 404 consid. 1.1.2 p. 407).
1.2 Le Conseil d'Etat entend fonder sa qualité pour agir sur l'art. 89 al. 1 LTF. Il estime que l'arrêt attaqué empêcherait le service compétent d'intervenir pour exiger le respect des prescriptions légales en matière de récolte de signatures, de sorte que l'Etat se verrait entravé dans l'exercice de la puissance publique.
1.2.1 Selon la disposition spécifique de l'art. 89 al. 2 let. c, les collectivités publiques ont qualité pour agir lorsqu'elles invoquent la violation de garanties qui leur sont reconnues par la constitution cantonale ou fédérale. Cette disposition ouvre notamment aux communes la voie du recours pour violation de leur autonomie (ATF 135 I 302 consid. 1.1 p. 304), mais ne permet pas à un canton de recourir, comme en l'espèce, contre une décision de sa propre juridiction administrative qui le désavouerait (ATF 133 II 400 consid. 2.4.1 p. 405).
1.2.2 Selon la disposition générale de l'art. 89 al. 1 LTF, a qualité pour former un recours en matière de droit public quiconque a pris part à la procédure devant l'autorité précédente (let. a), est particulièrement atteinte par l'acte attaqué (let. b) et a un intérêt digne de protection à son annulation ou à sa modification (let. c). Cette disposition concerne en premier lieu le droit de recours des particuliers, mais une corporation de droit public peut également l'invoquer lorsqu'elle est atteinte par l'acte attaqué de la même manière qu'un particulier, ou lorsqu'elle est touchée dans ses prérogatives de puissance publique (ATF 136 I 265 consid. 1.4; 136 II 383 consid. 2.3 e 2.4; 135 I 43 consid. 1.3; 135 II 12 consid.1.2.1).
1.2.3 En l'occurrence, le SVE est intervenu en tant que service de la Chancellerie d'Etat, autorité chargée de l'application de la loi cantonale sur l'exercice des droits politiques (LEDP, RS/GE A 5 05). L'arrêt attaqué dénie à l'administration un tel droit d'intervention, et porte ainsi atteinte à l'exercice d'une compétence relevant de la puissance publique (ATF 135 II 12 consid. 1.2 p 15). Conformément à la jurisprudence, le canton concerné agit par l'intermédiaire de son Conseil d'Etat (même arrêt, consid. 1.2.3), représenté en l'occurrence par la Chancelière d'Etat.
1.3 Il y a donc lieu d'entrer en matière, le recours étant formé dans le délai utile (art. 100 al. 1 LTF) contre un arrêt final (art. 90 LTF) de l'autorité de dernière instance cantonale.
1.4 Bien que les parties n'évoquent pas cette question, l'initiative "Genève-Plage pour tous" n'a finalement pas abouti, de nombreuses signatures ayant été invalidées pour d'autres motifs. Cela a fait l'objet d'une décision formelle, de sorte que le recours, qui porte sur le droit d'intervention du SVE en cours de récolte, pourrait apparaître sans objet. Toutefois, compte tenu de la nature de l'intervention litigieuse du SEV et de la durée du délai de récolte des signatures, un contrôle judiciaire en temps utile ne serait pratiquement pas possible, de sorte qu'il y a lieu, sous cet angle également, d'entrer en matière.
2. Sur le fond, le Conseil d'Etat se plaint d'arbitraire dans l'application des 91 al. 3 let. c et 183 LEDP, ainsi que de l'art. 1 du règlement d'application de la LEDP (REDP, RS/GE A 5 05.01), dispositions dont la teneur est la suivante:
art. 91 LEDP (contrôle des signatures)
1 Après le dépôt au service des votations et élections des référendums et initiatives, celui-ci fait vérifier sans frais la qualité d'électeur des signataires, dans le plus bref délai.
2 Le service des votations et élections certifie que les listes ont été déposées dans les délais légaux.
3 Les inscriptions sur les listes sont annulées lorsqu'elles proviennent d'électeurs :
a) non inscrits dans le canton ou la commune;
b) dont l'identité ne peut être déterminée;
c) dont la signature a été obtenue en contravention de l'article 183, lettre d, 3°, ou par d'autres procédés réprimés par la loi.
c) dont la signature a été obtenue en contravention de l'article 183, lettre d, 3°, ou par d'autres procédés réprimés par la loi.
... art. 183 LEDP (sanctions pénales; dispositions générales)
Est passible de l'amende, s'il n'y a pas lieu à application des dispositions du code pénal, quiconque:
Est passible de l'amende, s'il n'y a pas lieu à application des dispositions du code pénal, quiconque:
... d) concernant diverses opérations :
... d) concernant diverses opérations :
... 3° procède ou fait procéder, moyennant rétribution, à la quête de signatures en matière de référendum ou d'initiative.
... 3° procède ou fait procéder, moyennant rétribution, à la quête de signatures en matière de référendum ou d'initiative.
... Quant à l'art. 1 REDP, il prévoit que la Chancellerie d'Etat est chargée de l'application de la loi et du règlement.
Le Conseil d'Etat relève que le SVE est le service chargé au sein de la Chancellerie d'appliquer la législation en matière de droits politiques. Cela lui permettait d'intervenir immédiatement à l'encontre d'un procédé illicite sans attendre le contrôle final des signatures, conformément au principe de la bonne foi et à l'obligation de protéger la libre formation de la volonté des citoyens. En limitant l'intervention du SVE à l'issue de la récolte de signatures, il n'y aurait d'autre choix que d'invalider l'ensemble des signatures concernées. Seuls les vices les plus graves pourraient entraîner la nullité d'une décision, ce qui ne serait pas le cas en l'espèce compte tenu des compétences générales du SVE. L'arrêt cantonal considère que l'intervention du SVE ne se situait pas dans le cadre d'une opération électorale, et que le recours était dès lors irrecevable. La cour cantonale devait dès lors se limiter à cette déclaration d'irrecevabilité, et ne pouvait prononcer la nullité de la décision attaquée.
2.1 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (ATF 136 I 1 consid. 2.4 p. 5 et la jurisprudence citée), ce qu'il appartient au recourant de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 134 I 263 consid. 3.1 p. 265; 133 I 149 consid. 3.1 p. 153 et la jurisprudence citée).
2.2 Les dispositions invoquées par le Conseil d'Etat prévoient d'une part qu'est punissable celui qui procède ou fait procéder, moyennant rétribution, à la quête de signatures en matière de référendum ou d'initiative et, d'autre part, que le contrôle des signatures a lieu après le dépôt des listes. Il en ressort également clairement que le SVE constitue l'autorité de surveillance en matière de droits politiques (art. 1 REDP). Ainsi s'il doit, à l'issue de la récolte de signatures, sanctionner les procédés illicites, à plus forte raison peut-il le faire en cours de récolte: la situation s'en trouve clarifiée immédiatement, et cela permet aux initiants de poursuivre leur démarche de manière régulière. Cela peut en outre leur éviter les sanctions pénales prévues à l'art. 183 LDP. Une telle intervention a donc lieu dans le cadre des attributions générales du SVE, qui est de garantir la liberté de vote et la formation de la volonté des citoyens. Elle est en outre à l'avantage des initiants. Comme le relève le Conseil d'Etat, l'autorité pourrait au demeurant se voir reprocher d'agir contrairement à la bonne foi en renonçant à intervenir immédiatement et en sanctionnant après coup un procédé illicite reconnaissable d'emblée.
L'arrêt attaqué, fondé sur une lecture purement littérale de la réglementation cantonale, perd de vue l'esprit et le but de cette dernière et apparaît par conséquent arbitraire, dans ses motifs comme dans son résultat.
2.3 Une décision administrative est nulle lorsqu'elle est entachée d'un vice grave et manifeste (MOOR/POLTIER, Droit administratif, vol. II, Berne 2011 p. 366 ss). Tel peut être le cas lorsque l'autorité qui rend la décision n'a pas de compétence pour ce faire, sauf si elle dispose de compétences générales dans le domaine en cause ou si la reconnaissance de la nullité apparaît incompatible avec la sécurité du droit (ATF 132 II 21 consid. 3.1 p. 27 et les arrêts cités). Comme cela est relevé ci-dessus, l'autorité peut intervenir en vertu de la compétence générale dont elle dispose, même en l'absence d'une base légale expresse, lorsqu'il s'agit de garantir la liberté de vote et de prévenir les procédés illicites dans ce domaine. La reconnaissance d'un cas de nullité est donc elle aussi constitutive d'arbitraire.
3. Le recours doit par conséquent être admis et l'arrêt attaqué annulé, sans qu'il y ait lieu de se prononcer sur le fond. La cause doit être renvoyée à la cour cantonale (actuellement la Chambre administrative de la Cour de justice), à qui il appartiendra de statuer à nouveau. Elle devra s'interroger sur l'existence d'un intérêt actuel au recours, puis sur sa recevabilité et, le cas échéant, sur les griefs soulevés au fond par les intimés. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge solidaire des intimés. Il n'est pas alloué de dépens (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à la Chambre administrative de la Cour de justice du canton de Genève pour nouvelle décision au sens des considérants.
2. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge solidaire des intimées l'Association A._ et B._.
3. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué aux parties et à la Chambre administrative de la Cour de justice du canton de Genève.
Lausanne, le 9 juin 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Fonjallaz Kurz