Faits:
A. Le 1er février 2008, la Cour d'assises du canton de Genève a acquitté A._ des accusations de viol et tentatives de viol. Cet arrêt est définitif.
Le 29 avril 2008, A._ a déposé plainte pour dénonciation calomnieuse, notamment contre celle qui l'avait accusé de viol. Le 9 mai 2008, le Procureur B._ classa la plainte, affirmant que l'auteur de la plainte pour viol n'avait agi ni pour nuire à A._, ni en le sachant innocent. Le classement se justifiait aussi pour des motifs d'opportunité, compte tenu des graves troubles qu'avait connus la plaignante. Le 22 mai suivant, A._ demanda à la Cour de cassation genevoise la récusation du Procureur B._, en relevant que celui-ci avait déjà participé en tant qu'accusateur à la procédure ayant abouti à l'arrêt de la Cour d'assises, et ne pouvait statuer de manière impartiale sur sa propre plainte.
B. La cause a été transmise au Plenum du Parquet du Procureur général (ci-après: le Plenum) qui, par décision du 18 juin 2008, rejeta la demande de récusation. Le Procureur B._ avait agi dans deux procédures différentes, portant sur des infractions distinctes.
C. A._ forme un recours intitulé "de droit public". Il conclut à l'annulation de la décision du 18 juin 2008, et à la récusation du Procureur B._.
Le Plenum conclut au rejet du recours dans la mesure où il est recevable. Le Procureur en fait de même. Les autorités intimées ont par la suite précisé que le recourant avait contesté le classement devant la Chambre d'accusation genevoise, qui a rejeté son recours par ordonnance du 9 juillet 2008. Par arrêt du 11 novembre 2008, le Tribunal fédéral a déclaré irrecevable le recours formé contre cette décision.
Le recourant a répliqué et maintenu ses conclusions.
Considérant en droit:
1. Conformément aux art. 78 et 92 al. 1 LTF, une décision relative à la récusation d'un magistrat dans la procédure pénale peut faire immédiatement l'objet d'un recours en matière pénale. Le fait que le recours soit inexactement intitulé "recours de droit public" ne prête pas à conséquence.
1.1 L'auteur de la demande de récusation a qualité pour agir (art. 81 al. 1 LTF); il dispose d'un intérêt pour recourir, dans la mesure où, même si le classement a été définitivement confirmé sur le fond, l'éventuelle admission de sa demande de récusation pourrait conduire à la nullité de la décision prise par le Procureur général. Le recourant a agi dans le délai de trente jours prescrit à l'art. 100 al. 1 LTF.
1.2 La décision attaquée est rendue en dernière instance cantonale, puisque le droit genevois ne prévoit pas encore d'instance de recours au sens de l'art. 80 al. 2 LTF; cela est admissible, tant que le délai prévu à l'art. 130 al. 1 LTF n'est pas échu.
1.3 Les conclusions tendant à l'annulation de la décision attaquée et à l'admission des conclusions formées devant l'instance précédente sont recevables.
1.4 Le recourant revient largement sur les faits qui sont à l'origine de sa plainte pénale; dans la mesure où ses arguments tendent non pas à remettre en cause l'impartialité du Procureur, mais à critiquer le fond de la décision de classement, ils sont irrecevables.
2. Le recourant se plaint d'une violation des art. 91 de la loi genevoise sur l'organisation judiciaire (OJ/GE, RS/GE E/2/05, applicable au Procureur général par renvoi de l'art. 101 let. a OJ/GE), 9 et 29 Cst. Il estime que le Procureur ne pouvait statuer sur sa plainte pour dénonciation calomnieuse après avoir soutenu l'accusation dans le procès pour viol. Les arguments retenus dans la décision de classement feraient clairement apparaître les liens entre les deux procédures, et la prévention acquise par le magistrat.
2.1 En vertu des art. 6 par. 1 CEDH et 30 al. 1 Cst., tout plaideur peut exiger la récusation d'un juge dont la situation ou le comportement est de nature à faire naître un doute sur son impartialité. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale du magistrat, mais seules des circonstances constatées objectivement doivent être prises en considération; les impressions purement individuelles du plaideur ne sont pas décisives (ATF 134 I 20 consid. 4.1 p. 21; 131 I 24 consid. 1.1 p. 25 et les arrêts cités).
Saisi du grief de la violation du droit à un juge indépendant et impartial, le Tribunal fédéral n'examine l'application du droit cantonal que sous l'angle de l'arbitraire (art. 9 Cst.; pour la définition de l'arbitraire, cf. ATF 134 I 23 consid. 8 p. 42 et les arrêts cités). Il apprécie en revanche librement la compatibilité de la procédure suivie en l'espèce avec les garanties constitutionnelles offertes en cette matière (ATF 126 I 68 consid. 3b p. 73 et la jurisprudence cités).
2.2 Le grief relatif à l'application du droit cantonal de procédure apparaît mal fondé. En effet, selon l'art. 91 OJ/GE, tout juge est récusable notamment s'il a donné conseil, plaidé ou écrit sur le différend (let. a), ou s'il en a précédemment connu comme juge dans une autre juridiction (let. c). Les autres cas visés par cette disposition (let. e et i) ne sont pas applicables au procureur (art. 101 let. a OJ/GE). Comme le relève sans arbitraire l'autorité intimée, l'art. 91 let. a et b OJ/GE concerne l'intervention d'un magistrat à plusieurs stades du même différend, c'est-à-dire dans le cadre de la même procédure. Même si la plainte pour dénonciation calomnieuse présente une certaine connexité avec l'accusation de viol, il s'agit manifestement de deux procédures différentes, la première s'étant définitivement achevée par le jugement d'acquittement (arrêt 1P.558/2000 du 5 février 2001, in RDAT 2001 II n. 17 p. 72).
2.3 S'agissant d'un représentant du Ministère public, les exigences d'impartialité ne sont en principe pas les mêmes que pour les autorités judiciaires proprement dites. En effet, ni les art. 29 et 30 Cst., ni l'art. 6 par. 1 CEDH ne confèrent à l'accusé une protection particulière à l'égard d'un magistrat dont le rôle essentiel est de soutenir l'accusation au cours de l'instruction et devant les juridictions pénales, en tant que partie à la procédure (ATF 124 I 76 consid. 2 p. 77 ss; 118 Ia 95 consid. 3b p. 98; 112 Ia 142 consid. 2a p. 143 s. et les arrêts cités). Il en va toutefois différemment lorsque le procureur sort de son rôle d'accusateur public pour assumer des fonctions d'ordre juridictionnel, par exemple lorsqu'il rend une ordonnance pénale qui devient exécutoire faute d'opposition (ATF 124 I 76 consid. 2; 112 Ia 142 consid. 2b p. 144 ss). En l'occurrence, la décision de classement n'est pas - au contraire d'une décision de non-lieu - revêtue de l'autorité de la chose jugée et ne met donc pas un terme définitif à la poursuite pénale. Il n'en demeure pas moins que le procureur s'est livré dans ce cadre à un examen de la culpabilité de la personne dénoncée, et a mis fin au moins provisoirement à la procédure pénale, décision sur laquelle il ne peut être revenu qu'en présence d'éléments nouveaux (art. 116 CPP/GE); il s'agit donc d'une activité de type juridictionnel pour laquelle le justiciable concerné est légitimé à exiger un surcroît d'impartialité et d'indépendance (ATF 112 Ia 142 consid. 2 p. 143).
2.3 S'agissant d'un représentant du Ministère public, les exigences d'impartialité ne sont en principe pas les mêmes que pour les autorités judiciaires proprement dites. En effet, ni les art. 29 et 30 Cst., ni l'art. 6 par. 1 CEDH ne confèrent à l'accusé une protection particulière à l'égard d'un magistrat dont le rôle essentiel est de soutenir l'accusation au cours de l'instruction et devant les juridictions pénales, en tant que partie à la procédure (ATF 124 I 76 consid. 2 p. 77 ss; 118 Ia 95 consid. 3b p. 98; 112 Ia 142 consid. 2a p. 143 s. et les arrêts cités). Il en va toutefois différemment lorsque le procureur sort de son rôle d'accusateur public pour assumer des fonctions d'ordre juridictionnel, par exemple lorsqu'il rend une ordonnance pénale qui devient exécutoire faute d'opposition (ATF 124 I 76 consid. 2; 112 Ia 142 consid. 2b p. 144 ss). En l'occurrence, la décision de classement n'est pas - au contraire d'une décision de non-lieu - revêtue de l'autorité de la chose jugée et ne met donc pas un terme définitif à la poursuite pénale. Il n'en demeure pas moins que le procureur s'est livré dans ce cadre à un examen de la culpabilité de la personne dénoncée, et a mis fin au moins provisoirement à la procédure pénale, décision sur laquelle il ne peut être revenu qu'en présence d'éléments nouveaux (art. 116 CPP/GE); il s'agit donc d'une activité de type juridictionnel pour laquelle le justiciable concerné est légitimé à exiger un surcroît d'impartialité et d'indépendance (ATF 112 Ia 142 consid. 2 p. 143).
2.4 Sans résoudre une fois pour toutes la question de savoir si le cumul des fonctions contrevient ou non aux art. 30 al. 1 Cst. et 6 par. 1 CEDH (ATF 131 I 113 consid. 3.4 p. 117; 114 Ia 50 consid. 3d p. 57 ss et les arrêts cités), la jurisprudence exige cependant que l'issue de la cause ne soit pas prédéterminée, mais qu'elle demeure au contraire indécise quant à la constatation des faits et à la résolution des questions juridiques. Il faut en particulier examiner les fonctions procédurales que le magistrat a été appelé à exercer lors de son intervention précédente, prendre en compte les questions successives à trancher à chaque stade de la procédure, et mettre en évidence leur éventuelle analogie ou leur interdépendance, ainsi que l'étendue du pouvoir de décision du juge à leur sujet; il peut également se justifier de prendre en considération l'importance de chacune des décisions pour la suite du procès (ATF 131 I 24 consid. 1.1 et la jurisprudence citée).
2.5 En l'occurrence, les questions juridiques posées dans les deux procédures sont certes distinctes, puisque les infractions dénoncées ne sont pas les mêmes. Les faits dénoncés dans les deux cas se trouvent toutefois en étroite connexité. Il apparaît ainsi que, lors du procès pour viol, le procureur a clairement et constamment soutenu, en tant que partie à la procédure, la thèse selon laquelle les accusations de la plaignante étaient crédibles. Cela impliquait notamment la conviction que cette dernière n'avait pas agi en sachant que le recourant était innocent et qu'elle n'avait pas non plus l'intention délibérée de lui nuire. Le recourant pouvait donc légitimement douter de l'impartialité du procureur pour statuer sur les questions de fait et de droit soulevées par sa plainte pénale. Cette apparence de prévention suffisait à fonder la demande de récusation, sans qu'il y ait à rechercher dans la décision de classement des indices de prévention effective.
3. Le recours doit par conséquent être admis pour ce motif, dans la mesure où il est recevable, et la décision attaquée annulée. Le Tribunal fédéral pouvant statuer lui-même sur le fond (art. 107 al. 2 LTF), la demande de récusation formée par le recourant est par conséquent admise. Le recourant, qui a agi personnellement, n'a pas droit à des dépens. Conformément à l'art. 66 al. 4 LTF, il n'est pas perçu de frais judiciaires. L'autorité intimée n'ayant pas non plus perçu de frais judiciaires ni alloué de dépens, un renvoi de la cause sur ce point ne se justifie pas.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis dans la mesure où il est recevable et la décision rendue le 18 juin 2008 par le Plenum du Parquet du Procureur général est annulée. La demande de récusation formée le 22 mai 2008 est admise.
2. Il n'est pas perçu de frais judiciaires ni alloué de dépens.
3. Le présent arrêt est communiqué aux parties et au Plenum du Parquet du Procureur général de la République et canton de Genève.
Lausanne, le 16 janvier 2009
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz