Faits:
A. Le 25 novembre 2008, le Grand Conseil vaudois a adopté un décret relatif à la nouvelle classification des fonctions et à la nouvelle politique salariale de l'Etat de Vaud (DecFO, RS/VD 172.320). Entré en vigueur le 1er juillet 2009, ce décret prévoit notamment la création d'une commission de recours chargée de traiter les contestations liées au niveau des postes (ci-après: la commission), avec un recours possible au Tribunal de prud'hommes de l'administration cantonale (ci-après: le TriPAC). Au mois de décembre 2008, l'Etat de Vaud a adressé à ses collaborateurs des avenants à leur contrat de travail précisant notamment le niveau de fonction, avec effet au 1er janvier 2008. Le décret ayant fait l'objet d'un recours à la Cour constitutionnelle cantonale, assorti de l'effet suspensif, la commission n'a pas encore été constituée. Le Service du personnel de l'Etat de Vaud (ci-après: le SPEV) a donc fait savoir que les recours devaient lui être remis "pour adresse", et qu'ils seraient enregistrés auprès du TriPAC, dans l'attente de l'issue du recours auprès de la Cour constitutionnelle. De nombreux recours, destinés à la commission, ont ainsi été adressés, soit au SPEV, soit directement auprès du TriPAC.
Au mois de mars 2009, le SPEV a remis aux chefs de service de l'Etat de Vaud une liste des quelque 1100 personnes qui avaient saisi la commission, par son intermédiaire. Après avoir saisi le Préposé à la protection des données et à l'information (ci-après: le Préposé), la Fédération des sociétés de fonctionnaires vaudois (FSF) a demandé au Président du Conseil d'Etat, le 14 mai 2009, de constater l'illicéité de la liste de recourants établie par le SPEV, d'ordonner la destruction de cette liste et d'en interdire l'utilisation, de détruire les copies de recours en mains du SPEV et de mettre un terme au traitement officieux des recours. Le Chef du SPEV a rejeté ces conclusions.
B. Par décision du 27 juillet 2009, le Préposé a demandé au SPEV de détruire les éventuelles copies qu'il détenait de recours adressés à la commission, et d'informer les autorités d'engagement qu'elles devaient faire disparaître toute mention, dans les dossiers personnels des collaborateurs, des recours qui avaient été retirés. En tant qu'autorité chargée de réceptionner les recours, le SPEV était habilité à ouvrir le courrier, à enregistrer les dates de réception et à établir des listes à ce sujet. Il pouvait aussi, conformément à l'art. 7 al. 3 de la loi vaudoise sur la procédure administrative (LPA/VD, RS/VD 173.36), informer les autorités d'engagement (en principe les chefs de service), puisqu'il s'agissait des autorités appelées à participer à la procédure. La mention d'un recours dans les dossiers personnels était aussi admissible, sauf pour les recours qui avaient été retirés. L'éventuelle détention de copies de recours était inutile au SPEV, car celui-ci n'était pas compétent pour les traiter. Les autres conclusions de la FSF ont été écartées.
C. La FSF a saisi la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: la CDAP) qui, par arrêt du 20 janvier 2010, a réformé la décision du Préposé en ordonnant au SPEV de détruire les copies de recours retirés (I), en ordonnant au SPEV et aux autorités d'engagement de détruire les listes de recours retirés (II) et en demandant au SPEV d'informer les autorités d'engagement qu'elles devaient faire disparaître des dossiers personnels toute mention des recours retirés. La réception des recours et la transmission d'une liste de recourants aux autorités intimées étaient couvertes par la LPA/VD et non par la loi cantonale sur la protection des données (LPrD, RS/VD 172.65). La détention par le SPEV de copies des recours non retirés était également soumise à la LPA/VD, de sorte que le préposé n'était pas compétent pour en ordonner la destruction. S'agissant en revanche des recours retirés, la procédure administrative avait pris fin de sorte que la LPrD s'appliquait. Les données relatives au dépôt d'un recours n'étaient pas des données sensibles. La possession par le SPEV de copies de recours retirés ne se justifiait pas, pas plus que la conservation d'une liste de recours retirés et la mention correspondante dans les dossiers personnels et les listes détenues par les autorités d'engagement.
D. Par acte du 3 mars 2010, la Fédération des sociétés de fonctionnaires vaudois forme un recours de droit public et un recours constitutionnel subsidiaire. Elle conclut à l'annulation de l'arrêt cantonal et au renvoi de la cause à la CDAP. Subsidiairement, elle reprend les conclusions soumises à l'instance précédente.
La CDAP conclut au rejet du recours en se référant à son arrêt. Le Préposé a confirmé ses prises de position précédentes. Le SPEV conclut au rejet du recours.
Considérant en droit:
1. Le recours en matière de droit public est ouvert, conformément à l'art. 82 let. a LTF, contre les décisions rendues dans les causes de droit public. Tel est le cas de la présente cause en tant qu'elle porte sur l'application de la législation cantonale sur la protection des données, et les rapports de cette dernière avec le droit de procédure administrative.
1.1 La contestation a certes pour cadre général les contestations relatives aux nouvelles classifications des fonctions et aux avenants proposés par l'Etat de Vaud aux contrats de travail. L'art. 83 let. g LTF n'en est pas pour autant applicable, car la décision de première instance a été rendue par le Préposé cantonal à la protection des données et a trait exclusivement à cette matière.
1.2 La FSF a participé à la procédure devant le Tribunal cantonal (art. 89 al. 1 let. a LTF). Selon la jurisprudence, une association peut agir par la voie du recours en matière de droit public en vue de sauvegarder les intérêts de ses membres, quand bien même elle n'est pas elle-même directement touchée par l'acte entrepris. Il faut notamment qu'elle ait la personnalité juridique et que la défense des intérêts de ceux-ci figure parmi ses buts statutaires. En outre, ses membres doivent être personnellement touchés par l'acte litigieux, du moins en majorité ou en grand nombre (ATF 130 I 26 consid. 1.2.1 p. 30 et la jurisprudence citée). En tant qu'organisation faîtière, la FSF a pour membres des associations d'employés de l'administration ou d'institutions parapubliques. Elle a pour but la défense et la promotion des intérêts des salariés de l'Etat de Vaud. Compte tenu du nombre de recours déposés (ou retirés) dans le cadre des changements de classifications salariales, il est vraisemblable que les associations membres de la FSF auraient elles-même qualité pour recourir. C'est du moins ce que retient l'arrêt attaqué, et rien ne permet de mettre en doute cette appréciation. La recourante peut donc se voir reconnaître la qualité pour agir.
1.3 Pour le surplus, le recours a été interjeté dans les formes et le délai utiles contre un arrêt final rendu en dernière instance cantonale. Il est recevable en tant que recours en matière de droit public, ce qui rend irrecevable le recours constitutionnel subsidiaire (art. 113 LTF).
2. Dans son argumentation principale, la recourante estime que la CDAP n'avait pas à appliquer la LPA/VD aux recours encore pendants: le SPEV n'était pas une autorité judiciaire, mais une simple "boîte à lettres" de l'autorité compétente, soit la future commission instituée par le décret. En refusant d'appliquer la LPrD, la cour cantonale aurait violé "un droit constitutionnel de la recourante et ceci sans base légale, ni intérêt public et sans prendre en compte le principe de la proportionnalité".
2.1 Appelé à revoir, comme en l'espèce, l'application faite d'une norme cantonale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable ou en contradiction manifeste avec la situation effective, ou encore si elle a été adoptée sans motifs objectifs et en violation d'un droit certain. En outre, il ne suffit pas que les motifs de la décision critiquée soient insoutenables, encore faut-il que cette dernière soit arbitraire dans son résultat (ATF 135 V 2 consid. 1.3 p. 4; 134 II 124 consid. 4.1 p. 133; 133 II 257 consid. 5.1 p. 260), ce qu'il revient à la recourante de démontrer conformément aux exigences de motivation déduites de l'art. 106 al. 2 LTF (ATF 133 II 396 consid. 3.2 p. 400).
2.2 Selon l'art. 3 al. 3 let. b LPrD, la loi ne s'applique pas aux procédures civiles, pénales ou administratives. Comme le relève la recourante elle-même, cette exclusion a pour but d'éviter un concours entre les normes générales sur la protection des données et les dispositions spécifiques du droit cantonal de procédure administrative, en l'occurrence la LPA/VD qui contient ses propres règles, en particulier sur la communication aux parties ou entre autorités (art. 7 et 31 LPA/VD), sur le droit d'être entendu (art. 33 ss LPA/VD), les échanges d'écritures (art. 81 LPA/VD), l'obligation de collaborer à l'établissement des faits (art.30 LPA /VD) les communications à la presse (art. 38 LPA/VD) et la notification des décisions (art. 44 LPA/VD). Cette exception correspond à celle de l'art. 2 al. 2 let. c LPD, instituée pour les mêmes motifs (cf. ROSENTHAL/JÖHRI Handkommentar zum DSG, Zurich 2008, n° 32 ad art. 2; Basler Kommentar DSG, 2ème éd. 2006, n° 27 ad art. 2).
2.3 La CDAP a considéré que le dépôt du mémoire de recours marquait l'ouverture de la procédure et la litispendance. La recourante ne conteste pas cette appréciation. Celle-ci suffit pour justifier l'application de la LPA et d'exclure, en conséquence, celle de la LPrD. Dans cette optique, dès l'instant où une procédure de recours administratif était pendante, peu importait quelle autorité était habilitée à recevoir les recours pour le compte de la commission. Peu importe également que le SPEV ait agi comme simple boîte aux lettres ou comme autorité administrative disposant de certaines compétences.
L'arrêt attaqué, qui refuse d'appliquer la LPrD aux procédures pendantes, apparaît conforme au texte et au but de la réglementation et ne souffre par conséquent d'aucun arbitraire. Les prétentions découlant de la LPrD ne pouvait dès lors, logiquement, se rapporter qu'aux procédures définitivement terminées, en particulier par un retrait du recours. L'argumentation principale de la recourante doit par conséquent être écartée.
2.4 La recourante invoque également en vain les dispositions constitutionnelles relatives à la protection de la sphère privée (art. 13 al. 2 Cst. et 15 Cst./VD), ainsi que les principes de la séparation des pouvoirs et de l'égalité de traitement. Son argumentation se rapporte à l'application qu'a faite le SPEV de l'art. 7 LPA/VD. Or, comme cela est relevé ci-dessus, c'est sans arbitraire que la cour cantonale a restreint son examen à la LPrD et refusé d'examiner la contestation sous l'angle de la LPA/VD, dès lors que cette question n'était pas de la compétence du préposé à la protection des données. Le grief de la recourante est dès lors irrecevable (faute de décision de dernière instance cantonale) en tant qu'il concerne les procédures pendantes, et sans objet en tant qu'il concerne les recours retirés, puisque la recourante a obtenu gain de cause sur ce point.
Contrairement à ce que soutient la recourante, les personnes intéressées ne sont pas privées de tout moyen pour mettre fin à un traitement prétendument illicite de données; ils doivent pour ce faire s'adresser en premier lieu à l'autorité saisie de la cause, soit le TriPAC tant que la commission n'est pas constituée. Seule cette autorité est actuellement à même de décider si l'établissement et la transmission de certaines données étaient ou non justifiés par les besoins de la procédure pendante devant elle.
3. Sur le vu de ce qui précède, le recours doit être rejeté, dans la mesure où il est recevable. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge de la recourante, qui succombe. Il n'est pas alloué de dépens (art. 68 al. 3).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge de la recourante. Il n'est pas alloué de dépens.
3. Le présent arrêt est communiqué au mandataire de la recourante, au Service du personnel de l'Etat de Vaud, au Préposé à la protection des données et à l'information du canton de Vaud et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 21 juin 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz