Faits:
A. Le 30 octobre 2006, le Chef du Département genevois des institutions (ci-après: le département) a chargé l'avocat genevois A._ d'analyser le fonctionnement de la direction de la police judiciaire genevoise (ci-après: PJ). Me A._ a rendu son rapport le 28 février 2007, après avoir entendu plusieurs membres de la PJ ainsi que son chef, B._; il faisait état de divers manquements de ce dernier dans l'exercice de ses fonctions. L'audit a été remis à l'intéressé le 15 mars 2007 par le Chef du Département, qui lui a indiqué que, dans sa séance du 7 mars 1997, le Conseil d'Etat avait décidé de ne pas le reconduire dans ses fonctions; une conférence de presse a été tenue le même jour, et le rapport a été distribué et publié sur le site internet de l'Etat de Genève et de la police.
Le 5, puis le 30 avril 2007, B._ s'est plaint auprès du Chef du Département de ce que certains journaux avaient eu accès prématurément au rapport d'audit; il demandait le retrait du rapport du site internet de l'Etat de Genève, et l'accès à tout le dossier d'audit (procès-verbaux, notes et documents). Il lui fut répondu que le rapport avait été retiré du site de l'Etat le 4 mai 2007, mais que le dossier relatif à l'établissement de ce rapport n'était pas accessible, conformément à l'art. 25 al. 4 de la loi genevoise sur l'information du public et l'accès aux documents, du 5 octobre 2001 (LIPAD). La médiation instituée par la LIPAD ayant échoué, le Chef du département a rejeté la demande d'accès, par décision du 22 juin 2007: la décision de non-confirmation n'étant pas susceptible de recours, B._ ne pouvait fonder son droit d'accès sur les règles de la procédure administrative.
B. B._ a saisi le Tribunal administratif genevois, en prenant les conclusions suivantes:
1. [...]
Préalablement
2. Ordonner aux autorités intimées, le cas échéant à A._, de remettre au tribunal de céans l'intégralité du dossier relatif à l'établissement du rapport du 28 février 2007.
[...]
Principalement
5. Annuler la décision du département du 22 juin 2007.
[...]
Sur la transmission du dossier relatif à l'établissement du rapport d'audit:
8. Transmettre, le cas échéant ordonner au département, au Conseil d'Etat et à Me A._ de transmettre au recourant l'intégralité du dossier relatif au rapport d'audit.
Si par impossible le tribunal de céans devait considérer que les procès-verbaux ne sont pas encore approuvés au sens de l'art. 25 al. 4 LIPAD
9. Soumettre, cas échéant ordonner au département, au Conseil d'Etat et à Me A._ de soumettre aux personnes interrogées le procès-verbal les concernant pour approbation.
10. Les transmettre, cas échéant ordonner au département, au Conseil d'Etat et à Me A._, sous la menace des peines prévues à l'art. 292 CP, de les transmettre au recourant.
[...]
Le 4 mars 2008, le Tribunal administratif a rendu un arrêt sur partie par lequel il a mis hors de cause le Conseil d'Etat, ce dernier n'étant pas l'auteur de la décision attaquée. Le Tribunal administratif a par ailleurs appelé en cause Me A._ afin que ce dernier produise son dossier d'ici au 15 avril 2008. Il appartiendrait au Tribunal, en vertu de l'art. 37 al. 4 LIPAD, de déterminer si ce dossier constitue un document au sens de l'art. 25 de la loi. En l'état, les parties n'auraient pas accès à ce dossier tant qu'un jugement définitif et exécutoire n'aura pas accordé un tel accès (art. 37 al. 4 LIPAD).
C. A._ forme un recours en matière de droit public par lequel il demande l'annulation de l'arrêt du Tribunal administratif en tant qu'il l'appelle en cause et l'invite à produire son dossier. Il demande l'effet suspensif.
Le Tribunal administratif persiste dans les considérants et dispositif de son arrêt. Le Conseil d'Etat et le département concluent à l'admission de la demande d'effet suspensif, sans se déterminer sur le fond. B._ conclut à l'irrecevabilité du recours, subsidiairement à son rejet.
La demande d'effet suspensif a été admise par ordonnance présidentielle du 29 avril 2008.
Considérant en droit:
1. Le recours est formé dans une cause relevant du droit public. La voie du recours en matière de droit public au sens de l'art. 82 let. a LTF est en principe ouverte contre un arrêt rendu en dernière instance cantonale (art. 86 al. 1 let. d LTF), sous réserve des conditions de recevabilité posées notamment aux art. 90 ss LTF.
2. Le recourant soutient que l'arrêt attaqué serait final puisqu'outre l'appel en cause, il comporte une condamnation à produire le dossier, en violation notamment du secret professionnel. Ce point de vue ne peut être suivi. Une décision d'appel en cause (à la différence d'un refus d'appel en cause qui constitue un jugement partiel au sens de l'art. 91 let. b LTF; arrêt 4D_81/2007 du 17 mars 2008 destiné à la publication) est de nature incidente puisqu'elle ne fait qu'obliger le recourant à participer à la procédure, sans mettre un terme à cette dernière (ATF 132 I 13 consid. 1.1 p. 15). L'obligation faite au recourant de produire son dossier est également, à l'instar de toute décision en matière d'administration de preuves, de nature incidente. Le fait que l'arrêt attaqué ait un caractère contraignant ne suffit pas à le qualifier de décision finale.
L'arrêt attaqué ne portant pas sur une question de compétence ou sur une demande de récusation (art. 92 LTF), il y a lieu de rechercher si les conditions posées à l'art. 93 LTF sont remplies.
2.1 Selon l'art. 93 al. 1 let. a LTF les (autres) décisions incidentes peuvent faire l'objet d'un recours si elles sont susceptibles de causer un préjudice irréparable. Selon la jurisprudence relative à l'ancien art. 87 OJ, également applicable à l'art. 93 LTF, le simple fait d'avoir à subir une procédure et les inconvénients qui y sont liés ne constituent pas un préjudice irréparable (ATF 133 IV 139 consid. 4 p. 141 et les arrêts cités).
La jurisprudence considère que les décisions concernant l'appel en cause n'occasionnent pas de préjudice irréparable (ATF 132 I 13 consid. 1.1 p. 15 et les arrêts cités). Sans doute l'appelé en cause se trouve-t-il impliqué contre son gré dans une procédure pendante entre des tiers. Il ne s'agit toutefois pas d'un dommage irréparable, car il conserve la faculté de contester la décision finale qui lui donnerait tort, en faisant valoir soit que les conditions de l'appel en cause n'étaient pas réalisées en l'espèce, soit que cette décision a mal appliqué le droit applicable sur le fond.
2.2 Selon l'art. 93 al. 1 let. b LTF, le recours est également recevable si son admission peut conduire immédiatement à une décision finale permettant d'éviter une procédure probatoire longue et coûteuse. La recevabilité du recours immédiat au sens de cette disposition suppose cumulativement que le Tribunal fédéral puisse mettre fin une fois pour toutes à la procédure en jugeant différemment la question tranchée dans la décision préjudicielle ou incidente et que la décision finale immédiate qui pourrait ainsi être rendue permette d'éviter une procédure probatoire longue et coûteuse (ATF 133 III 629 consid. 2.4.1 et les références citées). Si la première de ces conditions paraît réalisée en l'espèce, il n'en va pas de même de la seconde. En effet, la contestation porte au fond sur la communication d'un dossier qui se trouverait en mains du recourant. L'instruction de la cause est a priori limitée à la production de ce dossier et à son examen par le Tribunal administratif afin de déterminer l'existence d'un droit d'accès fondé sur la LIPAD. Rien ne permet par conséquent de penser que le recourant se trouve exposé à une procédure longue et coûteuse (cf., s'agissant de cette dernière condition, ATF 134 II 142 consid. 1.2.4).
2.3 L'arrêt attaqué comporte également l'obligation pour le recourant de produire le dossier qui serait en sa possession. Il s'agit là d'une ordonnance de preuves, de nature incidente, ne causant pas de dommage irréparable (ATF 134 III 188).
2.4 En définitive, l'ensemble des arguments soulevés par le recourant (violation de son droit d'être entendu dans la procédure d'appel en cause, violation de l'obligation de motiver la décision prise à ce sujet, arbitraire dans l'application des dispositions cantonales de procédure) pourra être repris dans le cours ultérieur de la procédure: le recourant pourra en effet expliquer − alors qu'il n'a pas pu le faire jusqu'à présent − les raisons pour lesquelles il estime ne pas devoir produire son dossier. En l'état, l'arrêt attaqué ne porte pas atteinte au secret professionnel puisqu'il n'autorise pas l'accès au dossier par un tiers (arrêt 1P.604/2005 du 15 novembre 2005; RJB 130/1994 p. 86); il appartiendra encore au Tribunal administratif de statuer préalablement sur l'application de l'art. 25 LIPAD.
Le recours est par conséquent irrecevable. Conformément aux art. 66 al. 1 et 68 al. 2 LTF, les frais judiciaires sont mis à la charge du recourant, de même qu'une indemnité de dépens allouée à l'intimé B._. Le délai imparti par le Tribunal administratif au recourant pour produire son dossier, dépassé en raison de l'effet suspensif accordé au recours, est fixé au 15 septembre 2008.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est déclaré irrecevable; le délai imparti au recourant pour produire son dossier est fixé au 15 septembre 2008.
2. Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
3. Une indemnité de dépens de 1000 fr. est allouée à l'intimé B._, à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Tribunal administratif du canton de Genève.
Lausanne, le 12 août 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz