Faits:
A. Le 19 janvier 2007, B._ et A._ ont déposé plainte pénale contre inconnu pour diffamation. Ils exposaient avoir fait l'objet d'une dénonciation anonyme auprès de l'Office cantonal genevois de l'inspection et des relations du travail (OCIRT). Il s'en était suivi une visite d'un collaborateur de l'OCIRT (ci-après: le collaborateur), lequel aurait proféré des reproches sur l'état des locaux, ainsi que des accusations infondées de mobbing.
La plainte a été classée le 29 janvier 2007 par le Ministère public genevois. Par ordonnance du 2 mai 2007, la Chambre d'accusation genevoise a partiellement admis le recours formé par les plaignants: les termes de la dénonciation anonyme étaient diffamatoires, s'agissant de l'accusation de mobbing; la cause était renvoyée au Parquet afin notamment que soit identifié, par tous les moyens nécessaires et adéquats, l'auteur de cette dénonciation.
Le collaborateur ayant été convoqué pour une audition par la police judiciaire, le Chef du Département de la solidarité et de l'emploi (ci-après: le chef du département) a fait savoir, par décisions du 6 juin puis du 3 juillet 2007, qu'il acceptait de lever le secret de fonction, mais qu'en vertu de la loi sur le travail (LTr, RS 822.11) et des conventions du BIT, le collaborateur ne pourrait répondre à aucune question visant à identifier les personnes ayant fourni des informations à l'OCIRT, ces dernières ayant droit à une protection absolue de leur anonymat. Cette décision a été confirmée en substance par le Conseil d'Etat genevois, et le Tribunal fédéral a rejeté le recours constitutionnel interjeté à ce sujet (arrêt 1D_7/2008 du 15 décembre 2008).
B. Le 23 juillet 2007, le Procureur général prononça un nouveau classement, faute de pouvoir instruire. Par ordonnance du 25 février 2009, la Chambre d'accusation lui a renvoyé la cause afin qu'il ordonne d'autres mesures permettant d'identifier le dénonciateur, en particulier la saisie du dossier de l'OCIRT.
Le 23 mars 2009, le Procureur général ordonna la saisie du dossier constitué par l'OCIRT à propos de A._, en particulier les pièces permettant d'identifier le dénonciateur.
Par ordonnance du 26 août 2009, la Chambre d'accusation a partiellement admis un recours formé par l'OCIRT. L'art. 44 LTr instituait un secret de fonction absolu en matière de droit du travail. Compte tenu de la décision du chef du département, les documents permettant d'identifier le dénonciateur devaient demeurer secrets. L'intérêt public à protéger ses sources pour s'assurer le concours des employés dans l'accomplissement de sa mission l'emportait sur l'intérêt à l'identification et à la poursuite des auteurs de dénonciations diffamatoires, voire calomnieuses. Le dossier de l'OCIRT concernant A._ devait être remis au Procureur général, à l'exception des documents permettant d'identifier le dénonciateur.
C. Par acte du 2 octobre 2009, l'OCIRT forme un recours en matière pénale assorti d'une demande de restitution de l'effet suspensif. Il conclut à l'annulation de la décision de saisie du Procureur général du 23 mars 2009.
A._ et B._ concluent à l'irrecevabilité du recours, subsidiairement à la confirmation de l'ordonnance de la Chambre d'accusation et à son complément sur certains points.
La requête d'effet suspensif a été admise par ordonnance du 16 octobre 2009.
Considérant en droit:
1. Le recours en matière pénale, au sens de l'art. 78 al. 1 LTF, est ouvert contre une décision de production de pièces prise, comme en l'espèce, au cours de la procédure pénale, et confirmée en dernière instance cantonale (art. 80 LTF).
1.1 Le recours est dirigé contre l'ordonnance de la Chambre d'accusation, en tant que cette dernière confirme l'ordre donné à l'office recourant de produire son dossier. La décision par laquelle le juge prononce une telle injonction constitue une décision incidente, qui ne met pas fin à la procédure pénale (ATF 128 I 129 consid. 1 p. 131; 126 I 97 consid. 1b p. 100 et les références). Conformément à l'art. 93 al. 1 let. a LTF, une telle décision ne peut faire l'objet d'un recours devant le Tribunal fédéral que si elle peut causer un préjudice irréparable. Selon la jurisprudence l'obligation faite à une partie ou à un témoin de produire un dossier en sa possession constitue en général une ordonnance de preuves, de nature incidente, ne causant pas de dommage irréparable (ATF 134 III 188; 133 IV 139 consid. 4 p. 141 et les références). Une telle injonction est en revanche susceptible de causer un tel préjudice à son destinataire lorsqu'elle est assortie de la menace des sanctions prévues par l'art. 292 CP ou lorsqu'elle met en jeu la sauvegarde d'un secret professionnel ou de fonction (arrêts 1P.15/2006 du 16 février 2006 et 5P.350/2004 du 10 mai 2005; SJ 1999 I p. 186). Tel est le cas en l'espèce, puisque l'OCIRT soutient que la production de son dossier porterait atteinte au secret auquel il est tenu en vertu de l'art. 44 LTr notamment. Le recours est par conséquent recevable sous cet angle.
1.2 L'office recourant a participé à la procédure cantonale en tant qu'autorité recourante (art. 81 al. 1 let. a LTF). Touché directement par l'ordre de produire son propre dossier, il dispose d'un intérêt juridique à l'annulation de cette décision (art. 81 al. 1 let. b LTF). Dès lors qu'il agit en tant que destinataire direct de l'ordonnance attaquée, et ne prétend pas représenter le canton de Genève, il n'a pas - contrairement à ce que soutiennent les intimés - à produire d'autorisation du Conseil d'Etat. Les conclusions du recours, qui tendent à l'annulation de la décision de première instance, sont recevables.
1.3 Les intimés concluent non seulement au rejet du recours, mais à ce que l'ordonnance de la Chambre d'accusation soit complétée sur certains points (production des pièces permettant de déterminer l'auteur de la dénonciation, dans la mesure où il ne s'agit pas d'un employé de A._; désignation d'une autorité compétente pour procéder à l'examen des pièces). Dans la mesure où les intimés n'ont pas recouru contre l'ordonnance attaquée, de telles conclusions ne sont pas recevables.
1.4 La décision attaquée ne portant pas sur des "mesures provisionnelles" au sens de l'art. 98 LTF, le recours peut être formé pour violation du droit fédéral (art. 95 let. a LTF). L'argument fondé sur les art. 44 et 44a LTr est dès lors recevable.
1.5 Conformément à l'art. 106 al. 1 LTF, le Tribunal fédéral examine librement la violation du droit fédéral sans être lié par les motifs de l'autorité précédente ni par ceux des parties. Il peut donc admettre le recours pour d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 133 II 249 consid. 1.4.1 p. 254; 133 V 515 consid. 1.3 p. 519 et la jurisprudence citée).
2. L'OCIRT invoque les art. 44 et 44a LTr, dispositions selon lesquelles la communication de données par l'autorité compétente serait exceptionnelle, et jamais obligatoire. Imposer une telle communication à l'OCIRT pourrait empêcher les dénonciations et les plaintes. Or, ces dernières seraient nécessaires à l'exercice du contrôle des mesures prises par les employeurs pour prévenir les atteintes à la santé psychique, en particulier dans les cas de mobbing ou de harcèlement.
2.1 Selon l'art. 44 al. 1 LTr, les personnes qui sont chargées de tâches prévues par la loi sont tenues de garder le secret à l'égard des tiers sur les faits qu'ils apprennent dans l'exercice de leurs fonctions. L'art. 44a al. 1 LTr précise que les autorités cantonales compétentes peuvent, sur demande écrite et motivée, communiquer des données notamment aux tribunaux et aux organes d'instruction pénale, pour autant que l'établissement de faits ayant une portée juridique l'exige (let. b).
Il ressort de ces dispositions que la communication de données par les autorités d'application de la LTr est à tout le moins possible et que le secret auquel sont tenues les autorités dans ce domaine n'est dès lors pas absolu. Les conditions auxquelles le secret de fonction peut être levé n'ont toutefois pas à être définies en détail dans le cas d'espèce, compte tenu des développements qui suivent.
2.2 Alors que le Procureur général avait ordonné la saisie de l'intégralité du dossier de l'OCIRT et "en particulier de toutes les pièces (y compris notes internes/manuscrites, e-mails, procès-verbaux d'entretiens téléphoniques, etc.) permettant d'identifier la personne ayant dénoncé la société, la Chambre d'accusation a considéré que ces dernières pièces ne pouvaient pas être saisies, pour les motifs évoqués par l'office recourant. Cette décision est conforme à celles qui ont été rendues aux mois de juin et juillet 2007 par le chef du département, levant le secret de fonction mais précisant que le collaborateur ne pourrait répondre à aucune question visant à identifier les personnes ayant fourni des informations à l'OCIRT, ces dernières ayant droit à une protection absolue de leur anonymat. Ces décisions ont été attaquées en vain par les intimés, mais pas par l'office recourant; elles sont entrées en force.
2.3 Selon la décision attaquée, le dossier communiqué au Procureur général ne comprendra donc pas les seules informations utiles pour l'enquête pénale, à savoir celles qui permettraient d'identifier l'auteur de la dénonciation. Dans ces conditions, force est de constater que la communication de données n'est pas nécessaire à l'établissement de faits ayant une portée juridique, au sens de l'art. 44a al. 1 let. b LTr.
3. Pour les motifs qui précèdent, le recours est admis et les décisions attaquées sont annulées. Les frais judiciaires sont mis à la charge des intimés, dont les conclusions sont écartées (art. 66 al. 1 LTF). Il n'est pas alloué de dépens (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. L'ordonnance de la Chambre d'accusation du 26 août 2009 et la décision de saisie du Procureur général du 23 mai 2009 sont annulées.
2. Les frais judiciaires, arrêtés à 1000 fr., sont mis à la charge solidaire des intimés A._ et B._. Il n'est pas alloué de dépens.
3. Le présent arrêt est communiqué aux parties, au Procureur général et à la Chambre d'accusation du canton de Genève.
Lausanne, le 11 décembre 2009
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz