Faits:
A. Le 9 mars 2010, A._ a déposé plainte pénale à Genève, pour faux témoignage et calomnie notamment, contre C._, D._, E._ ainsi que B._. Dans le cadre d'une procédure ouverte par le plaignant devant la juridiction des prud'hommes pour licenciement abusif, trois documents avaient été produits, rédigés par les trois premiers précités qui travaillaient alors sous les ordres du plaignant, faisant état en substance d'un manque total de respect envers ses collaborateurs et son employeur. Entendus par le tribunal le 8 décembre 2009, les trois intéressés avaient affirmé avoir rédigé séparément ces documents. Selon le plaignant, des similitudes entre les documents permettaient d'exclure que ceux-ci aient été rédigés séparément et sans concertation. Par ailleurs, B._, chef du service juridique de l'employeur, avait reconnu avoir rencontré les trois témoins, le jour de l'audience, dans les locaux de l'employeur.
Le 28 novembre 2011, le Ministère public du canton de Genève a rendu une ordonnance de non-entrée en matière. Les trois documents litigieux avaient été établis dans le cadre d'une enquête interne contre A._; à la demande de B._, le responsable du service juridique en Espagne s'était entretenu avec les trois intéressés et leur avait demandé d'exposer leurs griefs par écrit. Cela pouvait expliquer les similitudes entre les documents. Il n'y avait pas d'indice de faux témoignage, ni de calomnie.
B. Par arrêt du 30 avril 2012, la Chambre pénale de recours de la Cour de justice genevoise a rejeté le recours formé par A._. Les trois documents présentaient des similitudes (identité de mise en page, de caractères, de tournures de phrases, de destinataire et de contenu) qui s'expliquaient toutefois par le fait que leurs auteurs travaillaient dans le même service, avaient été entendus par la même personne et avaient pu parler ensemble à ce sujet. Rien ne permettait de penser que les documents auraient été établis après coup, pour justifier le licenciement. B._ avait reconnu avoir rencontré les trois témoins le jour de l'audience, mais il n'était pas établi qu'il aurait à cette occasion donné des directives quant à leurs dépositions.
C. Par acte du 4 juin 2012, A._ forme un recours en matière pénale par lequel il demande l'annulation de l'arrêt cantonal et le renvoi de la cause à la Chambre pénale de recours pour nouvelle décision dans le sens des considérants. Subsidiairement, il demande l'annulation de l'ordonnance de non-entrée en matière, l'ouverture d'une instruction et l'audition des personnes mises en cause. Le recourant requiert l'assistance judiciaire.
La Chambre pénale se réfère à son arrêt, sans observations. Le Ministère public conclut au rejet du recours. B._, agissant en personne, conclut au rejet du recours. Les autres intimés ne se sont pas déterminés.
Dans ses dernières observations, le recourant a persisté dans ses conclusions.
Considérant en droit:
1. La décision attaquée a été rendue en matière pénale au sens de l'art. 78 LTF. Elle a un caractère final (art. 90 LTF) et émane de l'autorité cantonale de dernière instance (art. 80 LTF). Le recourant a agi en temps utile (art. 100 al. 1 LTF).
1.1 Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Selon l'art. 42 al. 1 LTF, il incombe notamment au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir (cf. ATF 133 II 353 consid. 1 p. 356, 249 consid. 1.1 p. 251).
Lorsque, comme en l'espèce, le recours est dirigé contre une décision de non-entrée en matière sur une plainte pénale, il n'est pas nécessaire que la partie plaignante ait déjà pris des conclusions civiles (ATF 137 IV 246 consid. 1.3.1). En revanche, elle doit expliquer dans son mémoire quelles sont ces prétentions et en quoi la décision attaquée pourrait influencer négativement leur jugement, à moins que, compte tenu notamment de la nature de l'infraction alléguée, l'on puisse le déduire directement et sans ambiguïté (ATF 137 IV 219 consid. 2.4 p. 222 et les arrêts cités).
1.2 Le recourant estime que la reconnaissance de faux témoignages aurait une influence sur le jugement des prétentions civiles dirigées contre son employeur, lesquelles s'élèvent à quelque 220'000 fr. et sont actuellement soumises au Tribunal des Prud'hommes. On peut toutefois se demander si les témoignages incriminés sont propres à influer sur le jugement à rendre. En effet, le juge civil pourrait être amené à se fonder sur les trois documents rédigés par les intimés (lesquels ne constituent pas des témoignages à proprement parler) dans la mesure où leur contenu matériel, soit les reproches formulés à l'encontre du recourant, devrait être considéré comme suffisamment établi par ailleurs. Les témoignages ultérieurs relatifs aux seules circonstances dans lesquelles ces documents ont été rédigés, apparaîtraient alors sans pertinence.
La question peut, en définitive, demeurer indécise, car, supposé recevable, le recours devrait de toute façon être rejeté au fond.
2. Reprenant l'ensemble de son argumentation à charge, le recourant se plaint d'une constatation inexacte des faits et d'appréciation arbitraire des preuves. Les trois lettres produites présentent la même mise en page (marges, espaces, police de caractères), le même destinataire (avec l'adresse libellée de la même façon), les mêmes tournures (formules d'introduction, sous-titres, certaines phrases entières ainsi que des formulations juridiques), de sorte qu'il serait impossible que ces documents aient été établis sans concertation. Contrairement à ce que retient la cour cantonale, le fait que les trois personnes impliquées travaillent dans le même service et avec les mêmes outils informatiques ne suffirait pas à expliquer ces similitudes. La cour cantonale n'expliquerait pas non plus de manière satisfaisante la contradiction entre le rapport de "gestion des performances" du 4 décembre 2007, très favorable au recourant, et les critiques graves formulées par la même personne quelques mois après dans le document litigieux. La réunion des témoins le jour de l'audience, dans les bureaux de l'employeur, confirmerait les soupçons de concertation.
2.1 Selon l'art. 310 CPP, le ministère public rend immédiatement une ordonnance de non-entrée en matière s'il ressort de la dénonciation ou du rapport de police que les éléments constitutifs de l'infraction ou les conditions à l'ouverture de l'action pénale ne sont manifestement pas réunis (let. a). Il peut faire de même en cas d'empêchement de procéder (let. b) ou en application de l'art. 8 CPP (let. c).
Le principe "in dubio pro duriore" découle du principe de la légalité (art. 5 al. 1 Cst. et 2 al. 2 CPP en relation avec les art. 319 al. 1 et 324 CPP; ATF 138 IV 86 consid. 4.2 p. 91). Il signifie qu'en principe, un classement ou une non-entrée en matière ne peuvent être prononcés par le ministère public que lorsqu'il apparaît clairement que les faits ne sont pas punissables ou que les conditions à la poursuite pénale ne sont pas remplies. Le ministère public et l'autorité de recours disposent, dans ce cadre, d'un pouvoir d'appréciation que le Tribunal fédéral revoit avec retenue. La procédure doit se poursuivre lorsqu'une condamnation apparaît plus vraisemblable qu'un acquittement ou lorsque les probabilités d'acquittement et de condamnation apparaissent équivalentes, en particulier en présence d'une infraction grave (ATF 138 IV 86 consid. 4.1.2 p. 91; 137 IV 285 consid. 2.5 p. 288).
2.2 Pour l'essentiel, les similitudes relevées par le recourant concernent les lettres des 7 avril 2008 (C._) et 8 avril 2008 (D._). Celle du 4 avril 2008 (E._), outre un même destinataire (ce qui s'explique puisque les témoins devaient adresser leurs commentaires à cette même personne), une police et une mise en page similaires (qui peut aussi s'expliquer par l'usage commun d'un logiciel de traitement de texte dans le cadre d'un même service), se distingue clairement des deux autres par sa présentation et les termes employés. Les deux lettres des 7 et 8 avril 2008 contiennent en revanche des similitudes plus marquées. Ainsi, la tournure introductive, deux sous-titres ainsi que certaines phrases sont rédigés de manière identique ou contiennent des expressions semblables.
Comme le relève la cour cantonale, il est très possible que les témoins aient évoqué ensemble les problèmes rencontrés avec le recourant. Par ailleurs, il est admis que les trois intéressés ont rencontré le responsable du service juridique en Espagne, chargé d'une enquête interne. Ils ont d'abord eu une discussion avec celui-ci avant de rédiger leurs rapports. Ces différents échanges ont ainsi pu faire ressortir divers points communs entre les reproches formulés, sans pour autant qu'il y ait de véritable concertation. En dépit des similitudes qu'ils présentent, les trois documents font état de griefs spécifiques reposant sur l'expérience personnelle de chacun de leurs auteurs. La cour cantonale a également reconnu l'apparente contradiction entre les reproches formulés par D._ et la teneur du rapport de "gestion des performances" auquel elle a participé le 4 décembre 2007. Celle-ci a toutefois expliqué qu'elle n'avait fait que répondre à un questionnaire remis par le recourant et que si certaines qualités lui avaient été reconnues à cette occasion, d'autres problèmes (écarts de conduite et manque de respect envers ses subordonnés) lui avaient également déjà été reprochés à la même période.
Quant aux soupçons relatifs à la séance dans les locaux de l'employeur le jour de l'audience, ils reposent sur de simples conjectures. On ne saurait en tout cas y voir un indice de faux témoignage ou d'instigation, s'agissant des circonstances dans lesquelles les rapports des trois intéressés ont été rédigés.
Dans ces conditions, la décision de non-entrée en matière ne procède ni d'une appréciation arbitraire de preuves, ni d'une violation de l'art. 310 CPP.
3. Sur le vu de ce qui précède, le recours doit être rejeté, en tant qu'il est recevable. Cette issue était d'emblée prévisible, ce qui conduit au rejet de la demande d'assistance judiciaire sans qu'il y ait à s'interroger sur l'indigence du recourant. Parmi les intimés, seul B._ a déposé des observations. Il l'a fait sans recourir à un avocat, de sorte qu'il n'y a pas lieu de lui allouer de dépens.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, en tant qu'il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué aux parties, au Ministère public et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 18 septembre 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz