Faits:
A. Le 10 mars 2009, B._ a déposé plainte pénale contre A._, notamment pour gestion déloyale. Il lui reprochait d'avoir, en sa qualité de directeur de C._, conseillé des investissements dans des fonds Madoff en percevant des rémunérations excessives et en attestant faussement de la diversité de ces placements. Il en était résulté pour le plaignant une perte des montants investis le 24 juillet 2007 dans des parts du fonds D._. A._ a été inculpé le 21 août 2009 de gestion déloyale aggravée.
Par courrier du 2 novembre 2011, réitéré le 10 janvier 2012, le prévenu a requis le séquestre de tout document concernant le fonds E._, couvrant la période allant du début 1999 à la fin 2002, alors en possession de la banque F._ et actuellement en main de la banque G._. Le 4 janvier 2012, il a requis la mise en oeuvre d'une expertise destinée à vérifier l'authenticité de notes manuscrites que B._ avait prétendument prises lors d'une réunion du 28 mai 2008 et que celui-ci avait produites à l'audience d'instruction du 11 octobre 2011. Il demandait en outre la production du cahier dont provenait la page contenant ces notes manuscrites. Le 5 janvier 2012, A._ a encore sollicité l'audition comme témoins des clients de la société H._ - gérée par B._ - qui détenaient des positions dans le fonds D._ en date du 10 décembre 2008.
Par décision du 23 janvier 2012, complétée le 27 janvier 2012, le Ministère public a refusé d'ordonner les actes d'instruction requis.
B. Par arrêt du 27 février 2012, la Chambre pénale de recours de la Cour de justice de Genève a déclaré irrecevables, après les avoir joints, les trois recours formés par A._ contre ces refus d'instruire. Selon l'art. 394 let. b CPP, le rejet d'une réquisition de preuve ne pouvait pas faire l'objet d'un recours lorsque la réquisition pouvait sans préjudice être renouvelée devant le tribunal. En l'occurrence, rien ne permettait de redouter une altération ou une disparition des pièces requises. L'audition des témoins pourrait également être ordonnée par le juge du fond, sans préjudice pour le recourant.
C. Agissant par la voie de trois recours en matière pénale, A._ demande au Tribunal fédéral d'annuler cet arrêt et de renvoyer la cause à la Chambre pénale de recours pour nouvelle décision dans le sens des considérants.
La Cour de justice se réfère à son arrêt, sans observations. Le Ministère public s'en rapporte à l'appréciation du Tribunal fédéral. B._ conclut à l'irrecevabilité ainsi qu'au rejet des recours.
Considérant en droit:
1. Dirigés contre un même arrêt et soulevant des griefs similaires, les trois recours doivent être joints afin qu'il soit statué par un seul arrêt.
Les recours sont dirigés contre une décision d'irrecevabilité prise en dernière instance cantonale; sur le fond, la contestation porte sur le refus de procéder à diverses mesures d'instruction et au séquestre de documents bancaires. Les recours sont dès lors recevables comme recours en matière pénale selon les art. 78 ss LTF. Le recourant a qualité, selon l'art. 81 al. 1 let. a et b ch. 1 LTF, pour contester l'irrecevabilité de ses recours cantonaux.
1.1 Les décisions par lesquelles le Ministère public rejette les réquisitions de preuves formulées par le recourant constituent des décisions incidentes. ll en va de même de l'arrêt attaqué qui en partage la nature (cf. arrêts 1B_349/2012 du 21 juin 2012 consid. 2 et 4A_712/2011 du 13 février 2012 consid. 2.1). Il ne s'agit pas d'une décision séparée portant sur la compétence ou sur une demande de récusation, de sorte que l'art. 92 LTF n'est pas applicable. Le recours en matière pénale n'est donc recevable qu'aux conditions de l'art. 93 al. 1 LTF, soit si la décision attaquée peut causer un préjudice irréparable (art. 93 al. 1 let. a LTF) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (art. 93 al. 1 let. b LTF). Cette dernière hypothèse n'entre pas en considération en l'espèce. Quant à l'art. 93 al. 1 let. a LTF, il suppose, en matière pénale, que le recourant soit exposé à un dommage de nature juridique, qui ne puisse pas être réparé ultérieurement par un jugement final ou une autre décision qui lui serait favorable (ATF 137 IV 172 consid. 2.1 p. 173).
1.2 Les décisions relatives à l'administration des preuves ne sont en principe pas de nature à causer un dommage irréparable puisqu'il est normalement possible, à l'occasion d'un recours contre la décision finale, d'obtenir que la preuve refusée à tort soit mise en oeuvre si elle devait avoir été écartée pour des raisons non pertinentes ou en violation des droits fondamentaux du recourant (ATF 134 III 188 consid. 2.3 p. 191; 99 Ia 437 consid. 1 p. 438). Cette règle comporte toutefois des exceptions. Il en va notamment ainsi lorsque le refus d'instruire porte sur des moyens de preuve qui risquent de disparaître et qui visent des faits décisifs non encore élucidés, ou encore quand la sauvegarde de secrets est en jeu (arrêt 4P.117/1998 du 26 octobre 1998 consid. 1b/bb/aaa in SJ 1999 I 186).
En l'occurrence, le refus d'instruire porte sur trois moyens de preuve différents, de sorte que l'existence d'un préjudice irréparable doit être examinée pour chacun des trois recours.
1.2.1 En premier lieu, le Ministère public a refusé d'entendre les 22 clients de H._ ayant investis dans le fonds D._. Ceux-ci pourraient, selon le recourant, apporter des renseignements utiles sur les informations dont disposait le plaignant au moment des investissements dans les fonds "Madoff". Le recourant estime qu'il serait illusoire de penser que cette preuve pourra être administrée aux débats, ce qui impliquerait une suspension et l'envoi de commissions rogatoires. L'un des témoins serait âgé de 82 ans et son état de santé serait inconnu. Il pourrait en aller de même d'autres clients dont on ignore l'identité. Compte tenu toutefois du nombre de témoins évoqués, les craintes du recourant apparaissent sans fondement. A supposer que l'un des témoins ne puisse plus être entendu, il n'y a aucune raison de penser qu'il pourrait en aller de même des autres, que ce soit en raison de leur âge ou des difficultés pratiques à les atteindre. Le risque qu'avec l'écoulement du temps, les témoins ne se souviennent plus de certains points apparaît comme un dommage de fait inhérent à toute procédure (cf. arrêt 1P.160/1993 du 13 avril 1993 consid. 1c).
Dans l'hypothèse où le recourant serait renvoyé en jugement, le tribunal saisi pourra, le cas échéant, suspendre la procédure et renvoyer l'accusation au ministère public en application de l'art. 329 al. 2 CPP pour que celui-ci administre lui-même la preuve requise, s'il devait constater ne pas être en mesure de juger la cause au fond au cours de l'examen de l'accusation (cf. arrêts 1B_302/2011 du 26 juillet 2011 consid. 2.2.1 et 1B_304/2011 du même jour consid. 3.2.1 in Pra 2012 n° 54 p. 380). Pour sa part, le recourant pourra renouveler sa requête d'audition de témoins aux débats (art. 189, 318 al. 2 in fine et 331 al. 2 CPP). Le recourant invoque en vain le principe de continuité des débats, concrétisé à l'art. 340 al. 1 let. a CPP, car ce principe ne s'applique qu'après la liquidation des questions préjudicielles et incidentes, en particulier celles qui se rapportent à l'administration des preuves (art. 339 al. 5 CPP). Le principe de continuité n'empêche dès lors nullement une suspension de la procédure par le tribunal, dans l'hypothèse expressément prévue à l'art. 329 al. 2 CPP. En outre, du point de vue de la durée totale de la procédure, il est indifférent que l'audition de témoins, le cas échéant par voie de commission rogatoire, ait lieu durant l'instruction ou sur ordre du tribunal.
Les craintes émises à ce sujet par le recourant ne suffisent donc pas à démontrer l'existence d'un dommage irréparable. Le premier recours doit dès lors être déclaré irrecevable.
1.2.2 Le recourant désire par ailleurs (c'est l'objet du second recours) faire effectuer une expertise afin de pouvoir dater les notes manuscrites qui auraient été prises au mois de mai 2008 par le plaignant et produites au mois d'octobre 2011. Il soutient, avis d'expert à l'appui, que les éléments permettant de dater le texte (soit en particulier le "foulage latent") s'estomperaient avec le temps.
La pièce litigieuse figure d'ores et déjà au dossier et il n'y a dès lors pas de risque de disparition du moyen de preuve. En outre, le Ministère public peut prendre les mesures nécessaires afin que le document en question soit conservé au dossier sans subir d'altération. La pièce datant (prétendument) de 2008, il n'est guère probable que l'écoulement de quelques mois supplémentaires puisse avoir des conséquences irréversibles. Sur ce point également, l'existence d'un préjudice irréparable n'est pas démontrée, et le deuxième recours doit lui aussi être déclaré irrecevable.
1.2.3 Le troisième recours concerne le refus d'ordonner le séquestre de documents qui seraient détenus auprès de la banque G._. Le recourant relève que ces documents sont soumis à un délai de conservation de dix ans, en vertu des art. 957 et 962 al. 1 CO. Il y aurait dès lors un risque que la banque les détruise et qu'ils ne puissent plus être produits aux débats.
Les documents requis se rapportent à une période allant du début 1999 à fin 2002, de sorte que la banque serait effectivement déjà légitimée à en détruire une partie. Un risque concret de destruction de moyens de preuve constitue, selon la jurisprudence, un préjudice irréparable permettant d'attaquer sans attendre une décision de refus d'acte d'instruction (cf. arrêts 4A_269/2011 du 10 novembre 2011 consid. 1.3, 1B_339/2009 du 17 mai 2010 consid. 3.1.3 et 1B_59/2009 du 16 juin 2009 consid. 2.3). Il y a dès lors lieu d'entrer en matière sur le troisième recours.
2. Selon l'art. 394 let. b CPP, le recours visé à l'art. 393 CPP est irrecevable lorsque le ministère public ou l'autorité pénale compétente en matière de contraventions rejette une réquisition de preuves qui peut être réitérée sans préjudice juridique devant le tribunal de première instance. La notion de préjudice juridique, au sens de cette disposition, n'est pas définie. Elle n'est pas davantage explicitée dans le Message du Conseil fédéral relatif à l'unification du droit de la procédure pénale du 21 décembre 2005.
2.1 Toute procédure pénale emporte en soi le risque que certaines preuves qui auraient pu être administrées dans la procédure préliminaire puissent ne plus l'être par la suite aux débats. Ce risque ne saurait toutefois conduire à admettre trop largement la recevabilité d'un recours contre un éventuel refus de donner suite à des réquisitions de preuves d'une partie à la procédure pénale (cf. en ce sens, STEPHENSON/THIRIET, op. cit., n. 7, p. 2625). La possibilité de recourir doit ainsi être admise lorsqu'il existe un risque de destruction ou de perte du moyens de preuve. Il doit s'agir d'un risque concret et non d'une simple possibilité théorique, faute de quoi l'exception voulue par le législateur à la possibilité de mettre en cause les décisions relatives à l'administration des preuves à ce stade de la procédure pourrait devenir la règle. La seule crainte abstraite que l'écoulement du temps puisse altérer les moyens de preuve ne suffit pas. Ainsi, le préjudice juridique évoqué à l'art. 394 let. b CPP ne se différencie pas du préjudice irréparable visée à l'art. 93 al. 1 let. a LTF, qui s'entend, en droit pénal, d'un dommage juridique à l'exclusion d'un dommage de pur fait tel l'allongement ou le renchérissement de la procédure.
La doctrine évoque à cet égard la nécessité d'entendre un témoin très âgé, gravement malade ou qui s'apprête à partir dans un pays lointain définitivement ou pour une longue durée, ou encore celle de procéder à une expertise en raison des possibles altérations ou modifications de son objet (cf. THOMAS MAURER in GOLDSCHMID/MAURER/SOLLBERGER, Kommentierte Textausgabe zur Schweizerischen Strafprozess-ordnung, 2008, p. 388; NIKLAUS SCHMID, Praxiskommentar, 2009, n. 3 ad art. 394 StPO, p. 760; MARC RÉMY, Commentaire CPP, n. 6 ad art. 394 CPP, p. 1762; PETER ANDREAS KELLER, Kommentar zur Schweizerischen Strafprozessordnung, 2010, n. 3 ad art. 394 StPO, p. 1897; STEPHENSON/ THIRIET, Basler Kommentar, n. 6, p. 2625; MARK PIETH, Schweizerisches Strafprozessrecht: Grundriss für Studium und Praxis, 2009, p. 230). Il en va de même lorsque le refus d'instruire porte sur des moyens de preuve qui risquent de disparaître et qui visent des faits non encore élucidés (cf. ATF 101 Ia 161; 98 Ib 282 consid. 4 in fine p. 287).
Pour qu'une dérogation à l'irrecevabilité du recours contre un refus de procéder à des actes d'instruction entre en considération, les moyens de preuve invoqués doivent porter sur des faits pertinents. Même si cette condition ne ressort pas expressément du texte de l'art. 394 let. b CPP, elle découle de l'art. 139 al. 2 CPP (cf. STEPHENSON/THIRIET, Basler Kommentar, n. 6 p. 2625). C'est à la lumière de ces principes qu'il convient d'examiner le rejet de chacune des requêtes d'instruction formulées par le recourant.
2.2 En l'occurrence, les pièces requises, soit des documents bancaires en lien avec le fonds E._, qui serait l'un des "feeders fund" de Bernard Madoff, sont soumis à un délai de conservation de dix ans, en vertu des art. 957 et 962 al. 1 CO. Dès lors que ce délai est déjà échu pour certains d'entre eux, la banque serait effectivement déjà légitimée à les détruire. Le risque de destruction apparaît, dans ces circonstances, indéniable. Quant à la pertinence du moyen de preuve, elle ne saurait être d'emblée exclue puisqu'il s'agit de déterminer l'activité du plaignant à la tête d'un établissement ayant également procédé à des investissements dans des fonds Madoff. Le refus de la cour cantonale d'entrer en matière sur le troisième recours viole par conséquent l'art. 394 let. b CPP.
3. Le troisième recours doit être admis pour ce motif et la cause renvoyée à la Chambre pénale afin qu'elle statue sur le fond et se prononce le cas échéant à nouveau sur les frais de la procédure de recours. Les deux autres recours sont irrecevables. Conformément à l'art. 66 al. 2 LTF, les frais judiciaires sont mis pour moitié à la charge du recourant, pour moitié à la charge de l'intimé B._. Compte tenu de l'issue des recours, les dépens peuvent être compensés.
Par ces motifs, le Tribunal fédéral prononce:
1. Les recours concernant l'audition des clients de H._ et l'expertise des notes manuscrites sont irrecevables.
2. Le recours concernant la saisie des documents relatifs au Fonds E._ est admis; l'ordonnance attaquée est annulée sur ce point et la cause est renvoyée à la Chambre pénale de recours afin qu'elle statue sur le fond.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis pour moitié (1'000 fr.) à la charge du recourant et pour moitié (1'000 fr.) à la charge de l'intimé B._. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties, au Ministère public et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 17 août 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz