Faits:
A. X._ fait actuellement l'objet d'une procédure pénale pour brigandage aggravé, mise en danger de la vie d'autrui et emploi d'explosifs notamment. Il lui est reproché d'avoir, le 26 novembre 2010, participé à l'attaque d'un bureau de change à Chêne-Bourg avec six à neuf comparses armés.
Le 19 octobre 2011, X._ a déposé une plainte pénale pour diffamation et violation du secret de fonction contre Y._, Chef de la Brigade criminelle de la Police judiciaire. Il lui reprochait d'avoir remis à des journalistes d'une chaîne de télévision française des photos et un film issus du dossier de la procédure, et d'avoir accordé une interview au sujet de l'affaire.
B. Par ordonnance du 27 mars 2012, le Procureur général du canton de Genève a refusé d'entrer en matière. Les images de surveillance vidéo faisaient partie du dossier de la procédure et étaient en principe secrètes, mais la violation du secret de fonction relevait sur ce point de la négligence, non punissable. Les autres images et commentaires ne faisaient pas apparaître le plaignant (pour autant qu'il soit reconnaissable) comme méprisable; les évènements relatés étaient vrais et leur divulgation poursuivait un but légitime d'information du public.
X._ a recouru en vain contre cette ordonnance auprès de la Chambre pénale de recours de la Cour de justice genevoise. Cette dernière a considéré que les auditions effectuées par l'Inspection générale des services (IGS) n'équivalaient pas à l'ouverture d'une instruction. Aucun visage n'était reconnaissable sur les images de surveillance vidéo (le plaignant apparaissait cagoulé), de sorte qu'aucun secret n'avait été révélé. Pour le surplus, le plaignant - qui n'était pas nommé dans l'interview - n'indiquait pas quel propos attentatoire à l'honneur aurait été tenu par l'intéressé.
C. Par acte du 6 juillet 2012, X._ forme un recours en matière pénale assorti d'une demande d'assistance judiciaire. Il conclut à l'annulation de l'arrêt cantonal.
Il n'a pas été demandé de réponse.
Considérant en droit:
1. La décision attaquée a été rendue en matière pénale au sens de l'art. 78 LTF. Elle a un caractère final puisqu'elle confirme le refus d'entrer en matière sur une plainte pénale (art. 90 LTF), et émane de l'autorité cantonale de dernière instance (art. 80 LTF). Le recourant a agi en temps utile (art. 100 al. 1 LTF).
1.1 Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil, telles les prétentions en réparation du dommage et du tort moral au sens des art. 41 ss CO. Selon l'art. 42 al. 1 LTF, il incombe au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir (cf. ATF 133 II 353 consid. 1 p. 356, 249 consid. 1.1 p. 251).
Lorsque, comme en l'espèce, le recours est dirigé contre une décision de classement ou de non-entrée en matière, il n'est pas nécessaire que la partie plaignante ait déjà pris des conclusions civiles (ATF 137 IV 246 consid. 1.3.1). En revanche, elle doit expliquer dans son mémoire quelles prétentions civiles elle entend faire valoir à moins que, compte tenu notamment de la nature de l'infraction alléguée, l'on puisse déduire directement et sans ambiguïté quelles prétentions civiles pourraient être élevées et en quoi la décision attaquée pourrait influencer négativement leur jugement (ATF 137 IV 219 consid. 2.4 p. 222 et les arrêts cités).
1.2 En l'occurrence, les actes dénoncés ont été commis par un agent de l'Etat. Comme le reconnaît le recourant, le droit cantonal instaure, comme le permet l'art. 61 al. 1 CO, une responsabilité exclusive de la collectivité publique en cas d'acte illicite de ses agents. Le plaignant ne dispose donc que d'une prétention de droit public à faire valoir non pas contre l'auteur présumé, mais contre l'Etat. Selon la jurisprudence constante, une telle prétention ne peut être invoquée dans le procès pénal par voie d'adhésion et ne constitue dès lors pas une prétention civile au sens des dispositions précitées (ATF 138 IV 86 consid. 3.1 p. 88; 133 IV 228 consid. 2.3.3 p. 234; 128 IV 188 consid. 2).
1.3 Par ailleurs, contrairement à ce que soutient le recourant, la divulgation avant jugement de certaines pièces à conviction - sur lesquelles le recourant n'est d'ailleurs pas reconnaissable - ne saurait constituer un traitement inhumain ou dégradant au sens notamment de l'art. 3 CEDH, susceptible de fonder un droit de recours (cf. ATF 138 IV 86 consid. 3.1.1 p. 88 et les arrêts cités). Il en va de même de la présomption d'innocence, qui devra le cas échéant être invoquée dans le cadre de la procédure dirigée contre le recourant et ne saurait justifier un droit de recours dans la présente cause.
1.4 Enfin, le recourant ne se plaint pas d'une violation de ses droits de partie à la procédure qui lui sont reconnus par le droit cantonal, le droit constitutionnel fédéral ou le droit conventionnel (ATF 136 IV 41 consid. 1.4 p. 44 et les arrêts cités).
2. Sur le vu de ce qui précède, le recours est irrecevable. Cette issue, d'emblée prévisible, conduit également au rejet de la demande d'assistance judiciaire. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge du recourant qui succombe.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, au Ministère public et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 6 septembre 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz