Faits:
A. Le 11 janvier 2010, le Juge d'instruction de l'arrondissement de l'Est vaudois a renvoyé A._ devant le Tribunal correctionnel du même arrondissement, pour gestion déloyale. Fondateur avec B._ d'une société active dans le domaine de la promotion immobilière, A._ aurait acquis et revendu un bien-fonds à l'insu de son associé, réalisant un bénéfice de près de 700'000 fr. Il aurait ainsi violé ses devoirs d'associé gérant et lésé les intérêts financiers de la société. Par arrêt du 22 février 2010, le Tribunal d'accusation du Tribunal cantonal vaudois a confirmé cette ordonnance.
B. Le 21 mai 2010, A._ a à son tour déposé une plainte pénale pour gestion déloyale contre B._, lui reprochant d'avoir encaissé en 2007 et 2008 des sommes qui devaient revenir à la société. Le 3 juin 2010, le Juge d'instruction invita le plaignant à produire des pièces à l'appui de ses accusations. Le 16 juin 2010, A._ demanda la récusation du Juge d'instruction, en raison de son intervention dans la précédente procédure. Le Juge d'instruction cantonal ayant renoncé à se saisir de la cause, la demande de récusation a été transmise au Tribunal d'accusation qui, par arrêt du 7 juillet 2010, l'a rejetée: le fait que le même magistrat instruise plusieurs affaires contre la même personne, quelle que soit sa qualité, était fréquent et ne constituait pas un motif de récusation.
C. Par acte du 11 août 2010, A._ demande l'annulation de l'arrêt cantonal et l'admission de sa demande de récusation. Il a requis, en vain, l'effet suspensif. Il demande en outre la production du dossier de la procédure pénale dirigée contre lui.
Le Tribunal d'accusation se réfère à son arrêt. Le Juge d'instruction ne s'est pas déterminé.
Considérant en droit:
1. Conformément aux art. 78 et 92 al. 1 LTF, une décision relative à la récusation d'un magistrat dans la procédure pénale peut faire immédiatement l'objet d'un recours en matière pénale.
1.1 L'auteur de la demande de récusation a qualité pour agir (art. 81 al. 1 LTF). Le recourant a agi dans le délai de trente jours prescrit à l'art. 100 al. 1 LTF.
1.2 La décision attaquée est rendue en dernière instance cantonale, au sens de l'art. 80 LTF. Les conclusions tendant à l'annulation de la décision attaquée et à l'admission de la demande de récusation, sont recevables.
1.3 A titre de moyen de preuve, le recourant demande la production du dossier de l'enquête pénale dirigée contre lui. La Cour de céans a requis, à ce titre, la production de l'ordonnance de renvoi en jugement, ainsi que de l'arrêt du Tribunal d'accusation du 22 février 2010. Ces pièces sont suffisantes pour juger de la connexité entre la plainte pénale du recourant et la procédure dont ce dernier fait l'objet.
2. Reprenant ses motifs de récusation, le recourant relève que, contrairement à ce que retient l'arrêt attaqué, sa propre plainte concerne la même affaire que celle pour laquelle il est renvoyé en jugement; les personnes en cause et les faits seraient les mêmes. Le Juge d'instruction avait envisagé de rendre une ordonnance de condamnation à l'encontre du recourant, et se serait ainsi déjà forgé une opinion. Il aurait par ailleurs ignoré les plaintes et dénonciations faites par le recourant dans le cadre de la première procédure.
2. Reprenant ses motifs de récusation, le recourant relève que, contrairement à ce que retient l'arrêt attaqué, sa propre plainte concerne la même affaire que celle pour laquelle il est renvoyé en jugement; les personnes en cause et les faits seraient les mêmes. Le Juge d'instruction avait envisagé de rendre une ordonnance de condamnation à l'encontre du recourant, et se serait ainsi déjà forgé une opinion. Il aurait par ailleurs ignoré les plaintes et dénonciations faites par le recourant dans le cadre de la première procédure.
2.1 S'agissant de la récusation d'un juge d'instruction, l'art. 29 al. 1 Cst. présente des garanties similaires à celles qui sont posées à l'égard des autorités judiciaires proprement dites (art. 6 CEDH et 30 Cst.); le magistrat doit instruire à charge et à décharge et est tenu à une certaine impartialité. Toutefois, au contraire du juge appelé à s'exprimer en fait et en droit sur le fond de la cause, lequel doit en principe s'en tenir à une attitude parfaitement neutre, le juge d'instruction, dont le rôle est en principe limité à l'établissement des faits, ne peut se voir imposer une attitude totalement neutre. Il peut ainsi être amené, provisoirement du moins, à adopter une attitude plus orientée à l'égard des parties; il peut faire état de ses doutes quant à la version des faits présentée, mettre les parties en face de certaines contradictions, et tenter de les amener aux aveux, pour autant qu'il ne soit pas fait usage de moyens déloyaux. Le juge d'instruction ne fait donc pas preuve de partialité lorsqu'il fait état de ses convictions à un moment donné de l'enquête; cela peut au contraire s'avérer nécessaire à l'élucidation des faits.
Le magistrat instructeur doit ainsi se voir reconnaître, dans le cadre de ses investigations, une certaine liberté, limitée par l'interdiction des procédés déloyaux, la nécessité d'instruire tant à charge qu'à décharge, et de ne point avantager une partie au détriment d'une autre (arrêt 1P.334/2002 du 3 septembre 2002, in SJ 2003 I 174).
2.2 En l'occurrence, la plainte pénale déposée par le recourant s'inscrit dans un complexe de faits identique et porte sur une infraction (gestion déloyale) similaire à celle qui lui est reprochée. Toutefois, les parties ont un rôle opposé et le Juge d'instruction sera amené à élucider les faits qui sont reprochés, cette fois, à B._. Or il ne saurait y avoir matière à récusation dans les cas, fréquents, où un juge est chargé d'instruire différentes plaintes pénales réciproques. Une administration rationnelle de la justice commande au contraire, dans de tels cas, que l'ensemble des faits soit élucidé par le même magistrat. Le fait que le recourant ait déjà été renvoyé en jugement, et que le Juge d'instruction ait envisagé la possibilité d'une ordonnance de condamnation - à laquelle il a renoncé par la suite - ne paraissent donc pas remettre en cause la capacité du magistrat à instruire de manière impartiale sur les faits dénoncés par le recourant.
3. Le recours doit par conséquent être rejeté, aux frais du recourant (art. 66 al. 1 LTF). Il n'est pas alloué de dépens.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et au Tribunal d'accusation du Tribunal cantonal du canton de Vaud.
Lausanne, le 6 octobre 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz