Faits:
A. Le 10 mars 2009, Y._ a déposé plainte pénale contre Z._ pour gestion déloyale. Il lui reprochait d'avoir, en sa qualité de directeur de X._ SA (X._), conseillé des investissements dans des fonds Madoff en percevant des rémunérations excessives et en attestant faussement de la diversité des placements. Il en était résulté pour le plaignant une perte de 100'000 fr.
Le 18 mai 2010, une perquisition a eu lieu dans les locaux de X._ et de nombreux documents ont été saisis sous forme électronique. Après avoir donné à X._ l'occasion de se déterminer, le Ministère public genevois a décidé, par deux ordonnances du 17 octobre 2011, de verser au dossier les documents suivants:
1 fichier "xxx" présentant des notes et commentaires sur les ventes de 2005 à 2008 en fonction des questions des clients et des réponses de X._ (document désigné par X._ sous lettre A, selon elle inutile à l'enquête);
8 fichiers relatifs au fonds "yyy" (documents désignés par X._ sous lettre B, établis à l'attention d'avocats américains).
B. X._ a recouru contre ces deux décisions en relevant que la pièce A ne concernait pas Y._ ou sa société et mentionnait des secrets d'affaires, et que les pièces B dataient de 2009 alors que l'infraction avait été commise en 2008; elles avaient été établies à l'attention d'avocats américains et étaient couvertes par le secret professionnel.
Par arrêt du 30 décembre 2011, la Chambre pénale de recours de la Cour de justice genevoise a partiellement admis le recours concernant le document A. Celui-ci portait sur des opérations identiques à celle qui avait abouti au dépôt de la plainte, et permettait de comprendre la pratique de X._ dans le domaine de la gestion des fonds. Toutefois, le Ministère public devait caviarder les noms des personnes ayant pris part aux transactions. Une copie non caviardée - non accessible aux parties - devait toutefois être conservée. Les documents B concernaient en partie des faits survenus pendant la période pénale et leurs auteurs s'étaient vraisemblablement fondés sur les informations recueillies avant mars 2009. X._ n'étant pas prévenue, et les pièces n'ayant pas été saisies auprès d'un avocat, le secret professionnel n'était pas opposable à la saisie.
C. Par acte du 17 février 2012, X._ SA forme un recours en matière pénale. Elle demande l'annulation de l'arrêt cantonal dans la mesure où il rejette son recours concernant les documents B. Elle conclut au refus de la mise sous séquestre de ces documents et à leur restitution, voir leur destruction. Subsidiairement, elle conclut au renvoi de la cause à la Cour de justice pour nouvelle décision dans le sens des considérants. La recourante a requis l'effet suspensif, qui a été accordé par ordonnance du 19 mars 2012.
La Chambre pénale persiste dans sa position. Le Procureur général s'en remet à l'appréciation du Tribunal fédéral. Z._ appuie les conclusions du recours. Y._ conclut au rejet du recours. Au terme d'un second échange d'écritures, les parties ont persisté dans leurs conclusions.
Considérant en droit:
1. Le recours en matière pénale, au sens de l'art. 78 al. 1 LTF, est ouvert contre une décision de séquestre prise au cours de la procédure pénale, et confirmée en dernière instance cantonale (art. 80 LTF).
1.1 En tant qu'elle prétend à la restitution de documents saisi en ses mains et qu'elle a participé à la procédure devant l'instance précédente, la recourante a qualité pour agir (art. 81 al. 1 LTF).
1.2 La décision par laquelle le juge ordonne ou maintient un séquestre pénal constitue à l'égard des parties une simple décision incidente (ATF 136 IV 92; 128 I 129 consid. 1 p. 131; 126 I 97 consid. 1b p. 100 et les références) attaquable aux conditions restrictives l'art. 93 LTF. Il en va différemment lorsque le recourant n'est pas partie à la procédure pénale, et ne peut donc plus intervenir par la suite. En outre, la condition du préjudice irréparable est réalisée lorsque le recourant se prévaut, comme en l'espèce, d'un secret professionnel. Il y a donc lieu d'entrer en matière.
1.3 Le Tribunal fédéral examine librement l'interprétation et l'application des conditions posées par le droit fédéral pour les atteintes aux droits fondamentaux (art. 95 let. a LTF; cf. ATF 128 II 259 consid. 3.3 p. 269). La décision relative aux mesures de contrainte ne constitue pas une décision sur mesures provisionnelles au sens de l'art. 98 LTF. La limitation des griefs prévue par cette disposition, de même que le principe d'allégation au sens de l'art. 106 al.2 LTF (qui va au-delà de l'obligation de motiver posée à l'art. 42 al. 2 LTF), ne s'appliquent donc pas. Cela vaut également pour le séquestre d'objets ou de valeurs patrimoniales (ATF 129 I 103 consid. 2 p. 105 ss). Le Tribunal fédéral examine librement l'admissibilité de la mesure malgré son caractère provisoire compte tenu de la gravité de l'atteinte et afin d'assurer le respect des garanties de la CEDH (art. 36 et 190 Cst.; cf. ATF 131 I 333 consid. 4 p. 339; 425 consid. 6.1 p. 434 et les références). S'agissant en revanche de l'application de notions juridiques indéterminées, le Tribunal fédéral respecte la marge d'appréciation qui appartient aux autorités compétentes (cf. ATF 136 IV 97 consid. 4 p. 100 et les références).
2. Reprenant les griefs soumis à l'instance précédente, la recourante invoque les art. 197 et 263 CPP, 13 al. 1 et 26 al. 1 Cst., 8 par. 1 CEDH et 17 ch. 1 Pacte ONU II. Elle estime qu'il n'y aurait pas de connexité suffisante entre les infractions poursuivies et les documents séquestrés, dans la mesure où ceux-ci sont postérieurs au 31 décembre 2008 alors que l'infraction poursuivie aurait été commise en 2008 et que le prévenu a quitté X._ en juillet 2008. Les notes et commentaires établis ultérieurement par d'autres employés de X._ ne pourraient servir à reconstituer après-coup la volonté des parties.
2.1 Le séquestre contesté est fondé sur l'art. 263 CPP, disposition selon laquelle les objets et les valeurs patrimoniales appartenant au prévenu ou à des tiers peuvent être séquestrés notamment lorsqu'il est probable qu'ils seront utilisés comme moyens de preuve (let. a). Une telle mesure est fondée sur la vraisemblance (ATF 126 I 97 consid. 3d/aa p. 107 et les références citées); comme cela ressort de l'art. 263 al. 1 CPP, une simple probabilité suffit car la saisie se rapporte à des faits non encore établis, respectivement à des prétentions encore incertaines. L'autorité doit pouvoir décider rapidement du séquestre provisoire (cf. art. 263 al. 2 CPP), ce qui exclut qu'elle résolve des questions juridiques complexes ou qu'elle attende d'être renseignée de manière exacte et complète sur les faits avant d'agir (ATF 116 Ib 96 consid. 3a p. 99). S'agissant en particulier d'un séquestre probatoire portant sur de simples documents, il n'y a pas lieu de se montrer trop exigeant quant au lien de connexité avec l'infraction (LEMBO/JULEN BERTHOD, Commentaire romand CPP n° 26 ad art. 263): il suffit que l'objet du séquestre ait un rapport avec l'infraction (cf. ATF 137 IV 189 consid, 5.1 p. 195; 124 IV 313 consid. 4 p. 316; 115 II 517 consid. 7d p. 534) et présente une utilité potentielle pour l'enquête en cours.
2.2 Comme le relève le Ministère public dans sa décision de séquestre, les documents litigieux ne se rapportent que très partiellement à des faits postérieurs à 2008. Ils permettent de comprendre l'historique du fonds litigieux sur plusieurs années, avec une vue d'ensemble du fonds et du travail effectué par les employés de X._. L'un des fichiers est un tableau résumé des contacts entre X._ et Bernard Madoff entre 1997 et 2008. Trois autres fichiers montrent concrètement le travail des vendeurs du fonds, y compris les questions des clients et les réponses apportées; cela peut permettre une comparaison avec la pratique suivie par le prévenu. Les deux derniers fichiers montrent l'activité sur le fonds par une juriste de la société. Les pièces saisies apparaissent ainsi à tout le moins en rapport avec les infractions poursuivies et de nature à renseigner l'autorité de poursuite sur le mode de gestion du fonds, sur les rapports entre les employés de la recourante et les clients investisseurs, ainsi que sur la réaction de l'établissement et les mesures mises en place après la découverte de la fraude de Madoff. Cela suffit pour admettre la pertinence de ces moyens de preuve. Le grief doit par conséquent être rejeté.
3. La recourante se prévaut ensuite de la protection de sa sphère privée et du secret professionnel de l'avocat. Elle relève que les documents séquestrés étaient destinés à ses avocats américains, chargés de la défense de ses intérêts dans des procédures civiles. La correspondance avec l'avocat serait protégée, y compris lorsque les documents se trouvent encore en possession du client. Malgré le texte de l'art. 264 al. 1 CPP, cette protection ne serait pas limitée au prévenu puisque cela permettrait la saisie de pièces avant la mise en prévention, ou l'utilisation dans une procédure civile de pièces saisies en mains d'un client non prévenu, alors que l'art. 160 CPC ne l'autorise pas. La recourante relève qu'une modification du CPP serait en cours afin d'harmoniser la protection du secret en procédure civile et pénale.
3.1 Selon l'art. 264 al. 1 CPP, "quels que soient l'endroit où ils se trouvent et le moment où ils ont été conçus, ne peuvent être séquestrés": (let. a) la correspondance échangée entre le prévenu et son défenseur. Cette restriction concrétise le droit du prévenu de communiquer en tout temps et sans surveillance avec son avocat, droit qui découle de l'art. 6 par. 3 let. c CEDH et 8 al. 1 Cst. (LEMBO/JULEN BERTHOD, Commentaire romand CPP, n° 4 ad art. 264). En dépit de l'interprétation proposée par la recourante, le texte légal actuel limite la protection de la correspondance aux relations entre le prévenu et son avocat. Elle peut certes s'étendre aux personnes suspectées mais non - encore - prévenues (personnes appelées à donner des renseignements au sens de l'art. 178 let. d et g CPP), au co-prévenu ou au représentant de l'entreprise prévenue (op. cit., n° 5 ad art. 264) mais ne s'applique pas à un simple témoin. Le Message concernant la loi fédérale sur l'adaptation de dispositions de procédure relatives au secret professionnel des avocats (FF 2011 7509) précise d'ailleurs que, selon le droit actuel de procédure pénale, le défenseur d'une tierce personne impliquée dans la procédure pénale ne voit pas sa correspondance avec son client protégée (FF 2011 7511).
Tel qu'il est actuellement rédigé, l'art. 264 al. 1 CPP ne saurait s'appliquer à une société qui, en tant qu'ancien employeur du prévenu, n'est pas inquiétée dans le cadre de la procédure pénale.
3.2 Le droit fédéral institue un secret professionnel absolu de l'avocat dont la violation est passible des peines prévues par l'art. 321 CP. L'art. 13 de la loi fédérale sur la libre circulation des avocats (LLCA; RS 935.61) prévoit en particulier que l'avocat est soumis au secret professionnel pour toutes les affaires qui lui sont confiées par ses clients dans l'exercice de sa profession; cette obligation n'est pas limitée dans le temps et est applicable à l'égard des tiers (al 1; ATF 136 III 296 consid. 2 p. 299). Le secret professionnel couvre tous les faits et documents confiés à l'avocat qui présentent un rapport certain avec l'exercice de sa profession. Cette protection trouve sa raison d'être dans le rapport de confiance particulier liant l'avocat et son client, qui doit pouvoir se fier entièrement à la discrétion de son mandataire (ATF 117 Ia 341 consid. 6a/bb p. 349).
Cette protection n'est, elle non plus, d'aucun secours à la recourante. Les pièces litigieuses ont été saisies en ses propres mains, avant même leur communication aux avocats américains censés la défendre dans le cadre de procédures civiles. Or, la protection découlant du secret professionnel de l'avocat ne s'étend qu'aux documents ou renseignements dont ce dernier a reçu la maîtrise; l'avocat ne peut répondre des documents que son client a conservés par devers lui ou qu'il a remis à des tiers (arrêt 1P.163/1993 du 18 octobre 1993 consid. 3c publié in SJ 1994 p. 106). En l'occurrence, les renseignements n'ont pas été "confiés" à un avocat, et celui-ci ne saurait être tenu au secret puisqu'il n'en a pas pris connaissance.
3.3 Comme le relève la cour cantonale, la recourante ne peut se prévaloir que de la protection générale de sa sphère privée et du droit au secret de sa correspondance, tel qu'il découle notamment des art. 8 CEDH, 13, 29 et 32 al. 2 Cst. La saisie litigieuse porte certes atteinte au respect de la sphère privée et de la correspondance. Une telle atteinte est toutefois admissible au regard des dispositions précitées, pourvu qu'elle repose sur une base légale, intervienne pour des motifs d'intérêt public et respecte le principe de la proportionnalité.
La recourante ne conteste pas l'existence d'une base légale, en l'espèce l'art. 263 al. 1 let. a CPP relatif au séquestre probatoire. La cour cantonale retient par ailleurs à juste titre l'existence d'un intérêt public à la manifestation de la vérité, dans la mesure où comme on l'a vu, les documents saisis présentent à tout le moins une utilité potentielle pour l'enquête. La cour cantonale retient également que le séquestre ne cause aucun dommage à la recourante et qu'aucune autre mesure moins incisive ne permettrait d'aboutir au même résultat. Or, la recourante ne soulève aucun grief à l'encontre de cette appréciation.
Enfin, la mesure de séquestre n'empêche pas la recourante de conférer librement avec les avocats chargés de la défendre aux Etats-Unis et de leur fournir les mêmes renseignements que ceux qui ont été par ailleurs versés à la procédure pénale.
4. Sur le vu de ce qui précède, le recours doit être rejeté. Conformément aux art. 66 al. 1 et 68 al. 2 LTF, les frais judiciaires sont mis à la charge de la recourante qui succombe, de même qu'une indemnité de dépens allouée à l'intimé Y._.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Une indemnité de dépens de 2'000 fr. est allouée à l'intimé Y._, à la charge de la recourante.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de la recourante.
4. Le présent arrêt est communiqué aux parties, au Ministère public de la République et canton de Genève et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 5 juillet 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz