Faits:
A. X._ a été renvoyé devant la Cour correctionnelle sans jury du canton de Genève. Il était accusé d'avoir fait subir, à plusieurs reprises entre 1994 et 1999, à sa fille A._, née en octobre 1990, des attouchements sur le sexe avec la main, alors qu'elle était éveillée ou pendant qu'elle dormait. Représentée par un curateur, cette dernière a participé à la procédure en qualité de partie civile.
Après une longue instruction, la Cour correctionnelle a acquitté X._ par jugement du 2 juillet 2004.
Ce verdict repose sur une motivation détaillée faisant état d'un large faisceau d'indices en faveur de la réalité des abus sexuels allégués par A._. Toutefois, la Cour correctionnelle a estimé que le doute subsistait du fait que l'expert en crédibilité n'avait pas donné de "réponse suffisante à la question de savoir si l'effondrement de A._, au cours des entretiens avec l'expert, ne pourrait pas avoir été provoqué par la nécessité ou la pression, pour la jeune fille, de prouver que ses accusations étaient fondées", qu'en effet, les relations entre A._ et sa mère étaient "extrêmement fusionnelles" et que l'identification de A._ à sa mère se traduisait de manière significative dans des messages qu'elle avait écrits à son père et que l'évolution des déclarations de A._ en cours de procédure ne permettait pas d'exclure que la procédure judiciaire ait provoqué une pression supplémentaire sur A._.
B. Le 25 février 2005, la Cour de cassation du canton de Genève déclara irrecevables les pourvois des deux parties civiles, celui de la mère de A._ faute de légitimation active et celui de A._ faute pour son curateur d'avoir pris des conclusions chiffrées.
C. Statuant le 3 juin 2005, la Cour de cassation pénale du Tribunal fédéral annula la décision cantonale s'agissant de A._, la cause étant retournée à l'autorité cantonale pour qu'elle tranche le point de savoir si A._ avait valablement ou non présenté des conclusions civiles devant la Cour correctionnelle. Une réponse positive fut apportée à cette question par la Cour de cassation cantonale le 24 mars 2006.
D. Le 28 juin 2006, la Cour de cassation cantonale annula le jugement rendu par la Cour correctionnelle sans jury le 2 juillet 2004, retenant que la Cour correctionnelle ne disposait pas de motifs suffisants pour s'écarter des conclusions de l'expertise de crédibilité.
E. Par arrêt du 4 avril 2007, la Cour correctionnelle sans jury a reconnu X._ coupable d'actes d'ordre sexuel avec un enfant, de contrainte sexuelle, d'actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance et l'a acquitté de la prévention de violation de ses devoirs d'assistance et d'éducation, l'a condamné à deux ans de peine privative de liberté avec sursis pendant 3 ans et à payer à A._ la somme de 30'000 fr. à titre d'indemnité pour tort moral.
F. Le 16 janvier 2008, la Cour de cassation cantonale a rejeté le pourvoi de X._.
G. X._ forme un recours en matière pénale contre ce dernier arrêt, ainsi que contre ceux de la Cour de cassation du canton de Genève du 24 mars 2006 et du 28 juin 2006, concluant à leur annulation et à son acquittement, subsidiairement au renvoi de la cause à l'autorité cantonale.
H. Invités à présenter des observations, le Ministère public a conclu à la confirmation de l'arrêt attaqué et l'autorité cantonale a déclaré n'avoir pas d'observations à formuler. Pour sa part, la victime, représentée par son curateur, a conclu au rejet du recours.
Considérant en droit:
1. Rendue en matière pénale (art. 78 al. 1 LTF) par une autorité cantonale de dernière instance (art. 80 al. 1 LTF), la décision attaquée, qui met fin à la procédure (art. 90 LTF), peut faire l'objet d'un recours en matière pénale (art. 78 ss LTF).
Le recours peut notamment être formé pour violation du droit fédéral (art. 95 let. a LTF), qui englobe les droits constitutionnels. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), à moins que le recourant ne démontre que ces faits ont été établis de façon manifestement inexacte, à savoir arbitraire au sens de l'art. 9 Cst. (FF 2001 p. 4135), ou en violation du droit au sens de l'art. 95 LTF (art. 97 al. 1 LTF). Le Tribunal fédéral ne sanctionne une violation de droits fondamentaux que si ce moyen est invoqué et motivé par le recourant (art. 106 al. 2 LTF). Les exigences de motivation de l'acte de recours correspondent à celles de l'art. 90 al. 1 let. b OJ (FF 2001 p. 4142).
Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments du recourant ni par la motivation de l'autorité précédente. Toutefois, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 1 et 2 LTF, dont la sanction est l'irrecevabilité (art. 108 al. 1 let. b LTF), il n'examine en principe que les griefs invoqués et n'est dès lors pas tenu de traiter des questions qui ne sont plus discutées devant lui. Il ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF).
Les arrêts des 24 mars 2006 et 28 juin 2006 de la Cour de cassation cantonale, qui sont aussi attaqués dans le cadre du présent recours, ont admis dans un premier temps la recevabilité du pourvoi de la victime puis dans un deuxième temps ce recours sur le fond, annulé l'arrêt de la Cour correctionnelle sans jury du 2 juillet 2004 et renvoyé la cause à cette dernière autorité pour nouveau jugement. Ce sont des décisions incidentes au sens de l'art. 93 LTF. Le recourant est admis à attaquer ces décisions dans son recours contre la décision finale dans la mesure où elles influent sur le contenu de celle-ci (art. 93 al. 3 LTF).
2. Le recourant invoque une application arbitraire des art. 344 et 350 CPP GE.
Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable. Le Tribunal fédéral ne s'écarte de la solution retenue en dernière instance cantonale que si elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté ou si elle heurte de manière choquante le sentiment de la justice ou de l'équité. Il ne suffit pas que la motivation de la décision soit insoutenable, encore faut-il qu'elle soit arbitraire dans son résultat (ATF 132 I 13 consid. 5.1 p. 17; 131 I 217 consid. 2.1 p. 219, 57 consid. 2 p. 61).
Selon le recourant, la Cour de cassation cantonale aurait dû déclarer irrecevable, faute de motivation, le pourvoi formé par la victime contre l'acquittement prononcé le 2 juillet 2004 par la Cour correctionnelle sans jury. Il soutient que la cour cantonale ne se serait pas conformée au pouvoir d'examen qui lui est conféré par la procédure cantonale.
La procédure genevoise prévoit que le recourant doit motiver son pourvoi par écrit (art. 344 CPP GE) et que la Cour de cassation examine si les motifs de cassation invoqués sont fondés (art. 350 CPP GE). Selon la jurisprudence et la doctrine genevoises, les motifs examinés sont exclusivement ceux contenus dans le mémoire du recourant, sous réserve des motifs d'ordre public sur lesquels la Cour doit se prononcer d'office. S'agissant de l'établissement des faits et de l'appréciation des preuves, le pouvoir d'examen de la Cour de cassation genevoise est limité à l'arbitraire et elle jouit donc dans ce domaine du même pouvoir d'examen que le Tribunal fédéral. Elle est ainsi en principe liée par les faits constatés et par les preuves retenues dans la décision attaquée et ne peut compléter l'état de fait (ATF 128 I 177 consid. 2.2 p. 182 s. et les références citées).
En l'espèce, la cour cantonale s'en est tenue au grief d'arbitraire soulevé par la victime. En effet, elle a examiné sur la base de ce grief et en s'appuyant sur l'expertise si cette dernière répondait à la question restée sans réponse selon les premiers juges, question sur laquelle ces derniers ont éprouvé des doutes motivant l'acquittement, doutes contestés par la victime dans son pourvoi. Le fait que la cour cantonale ait mentionné dans son arrêt qu'elle admettait le pourvoi pour violation de la loi pénale - sans préciser d'ailleurs laquelle - plutôt que pour arbitraire n'y change rien. Le raisonnement de la cour, savoir la compatibilité de la décision de première instance avec l'art. 9 Cst., ressort de ses considérants. De même, le pourvoi cantonal de la victime, qui ne parlait pas des conditions auxquelles il est possible de s'écarter d'une expertise mais uniquement d'arbitraire tout en exposant, certes brièvement, que les motifs retenus par les premiers juges étaient insoutenables et en précisant que l'expertise s'était notamment prononcée sur l'évolution des déclarations de la victime concluant à la crédibilité de cette dernière, permettait l'examen auquel la cour cantonale a procédé. Dès lors, même si la décision cantonale est critiquable, on ne saurait considérer qu'elle est issue d'une application manifestement insoutenable du droit cantonal.
Enfin, peu importe que la cour cantonale ait examiné ce qui lui semblait pouvoir être une contradiction interne, qui ne ressort clairement ni du premier jugement ni de la motivation du pourvoi cantonal, entre une remarque de l'experte, l'expertise et les indices du dossier, cette question n'ayant aucune incidence sur la décision attaquée et le recourant ne prétendant d'ailleurs pas le contraire.
Ce grief ne peut donc qu'être rejeté.
3. Le recourant invoque encore une violation de l'art. 29 al. 2 Cst.
Le droit d'être entendu consacré par cette disposition impose à l'autorité de jugement l'obligation de motiver ses décisions afin que le justiciable puisse les comprendre et exercer ses droits de recours à bon escient. Il suffit cependant que celle-ci mentionne, au moins brièvement, les motifs qui l'ont guidée et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause (ATF 126 I 97 consid. 2b p. 102s.; 125 II 369 consid 2c p. 372). Elle n'a toutefois pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à ceux qui, sans arbitraire, sont tenus pour pertinents (ATF 124 V 180 consid. 1a p. 181).
Le recourant reproche aux autorités cantonales de n'avoir pas répondu de manière suffisamment motivée aux questions relatives à l'appréciation des déclarations de la victime à la Dresse B._ et à la police, à l'évolution de ces déclarations ainsi qu'au sujet des expertises privées qu'il a produites.
La cour cantonale a exposé dans son arrêt en quoi la motivation relative à l'appréciation des déclarations de la victime à la Dresse B._ et à la police était suffisante et compréhensible pour le recourant. Ainsi, ce dernier n'a pas été confronté à des décisions dont il ne pouvait saisir les motifs et la portée. Il a d'ailleurs pu soulever et motiver, à l'appui de son recours cantonal déjà, puis devant le Tribunal fédéral, un grief d'arbitraire et de violation de la présomption d'innocence.
Il en est de même s'agissant de la motivation de la question de l'aggravation dans le temps des accusations de la victime et des périodes auxquelles elles ont été formulées, ainsi que de l'appréciation des expertises privées, qui n'ont pas été ignorées, mais n'étaient pas de nature à ébranler la conviction des premiers juges, lesquels ne voyaient aucune raison de s'écarter des conclusions de l'expertise judiciaire confirmées en audience. A nouveau, le recourant n'a pas été confronté à des décisions dont il ne pouvait saisir les motifs et la portée. Il a d'ailleurs parfaitement pu formuler, à l'appui de son recours cantonal puis du présent recours, un grief d'arbitraire et de violation de la présomption d'innocence. En tous les cas, le recourant pouvait comprendre sans difficulté pourquoi l'arrêt attaqué tenait la décision de première instance pour suffisamment motivée. Le grief est dès lors infondé.
4. Le recourant reproche par ailleurs aux autorités cantonales d'avoir commis un déni de justice formel en n'examinant pas la plupart des griefs soulevés contre l'expertise au motif qu'ils revenaient à remettre en cause l'arrêt de la Cour de cassation du 28 juin 2006. Ainsi, le recourant se plaint de ne pas avoir pu formuler de critiques contre l'expertise, notamment la méthodologie et les critères retenus par l'experte, alors même qu'il a produit une expertise privée pour étayer son grief.
Il ressort en effet de l'arrêt cantonal que le recourant s'est plaint de ce que l'expertise se fonde notamment sur les déclarations de la victime auprès de la Dresse B._ contaminées par la présence de la mère, de ce que l'expert se serait prononcé sur la véracité des faits alors que ce n'était pas sa mission, de ce qu'il serait sorti de son rôle pour se muer en thérapeute, de ce qu'il aurait pris parti contre le recourant, de ce que son approche était en grande partie fondée sur les émotions, de ce qu'il n'a pas envisagé d'autres hypothèses que celle de la réalité des abus, de ce qu'il n'a fourni aucune indication sur le style des échanges avec l'enfant, de ce que les déclarations de la victime n'ont pas été examinées suffisamment en détail et de ce que l'expert n'aurait pas pris en compte l'incidence de la procédure en divorce, si bien que l'expertise ne respecterait pas les critères scientifiques en la matière.
Selon l'autorité cantonale, il avait été constaté dans son jugement du 28 juin 2006 que l'expertise ne contenait pas de contradictions internes et que l'audition de son auteur n'était pas venue contredire l'expertise elle-même, au point que la Cour correctionnelle, contrairement à ce qu'elle avait fait pour aboutir à un jugement d'acquittement, «ne disposait pas des motifs suffisants pour s'écarter des conclusions de l'expert», motif pour lequel « la décision entreprise consacre une violation de la loi pénale au sens de l'art. 340 let a CPP » (arrêt cantonal p. 18). L'autorité cantonale a considéré par ailleurs que «cet arrêt déploie autorité de chose jugée et ne saurait être remis en question sous peine d'irrecevabilité, par application du principe ne bis in idem». Ainsi, la cour cantonale a admis que seules pouvaient être formulées à l'encontre de l'expertise les critiques fondées sur des faits nouveaux ou des contradictions issues de la seconde audition de l'expert le 3 avril 2007.
En procédure genevoise, si les motifs de cassation invoqués sont fondés, la Cour de cassation annule la décision attaquée dans la mesure où elle le juge nécessaire (art. 350 CPP/GE) et renvoie la cause à la juridiction dont la décision est annulée pour qu'elle statue à nouveau (art. 352 al. 1 CPP/GE), étant précisé que la juridiction de renvoi est liée par les considérants de droit à l'arrêt rendu par la Cour de cassation (art. 356 CPP/GE).
Le fait que la cour cantonale doive reprendre textuellement, en italique, un extrait de son arrêt du 28 juin 2006 et surtout sa conclusion en dit long sur le caractère peu clair de cette décision. On doit admettre que la cour cantonale n'avait pas procédé à l'époque à une analyse complète de l'expertise, mais avait examiné celle-ci uniquement sous l'angle du seul grief motivé par la victime, donc en vue de déterminer si l'autorité inférieure avait versé dans l'arbitraire en éprouvant des doutes et en s'écartant de l'expertise sur la base des motifs indiqués dans sa décision.
Il ressort notamment de l'arrêt de la Cour de cassation cantonale du 28 juin 2006 que lorsqu'elle dit que les réponses de l'experte sont convaincantes et ne révèlent pas un caractère insatisfaisant de l'expertise, la cour cantonale s'est exprimée sur le seul point suivant : savoir si l'experte avait répondu de manière suffisante à la question de savoir si l'effondrement de la victime ne pouvait pas avoir été provoqué par la nécessité ou la pression pour l'enfant de prouver le bien-fondé de ses accusations. Or, la cour cantonale ne peut exclure tous les autres griefs du recourant contre ladite expertise, notamment et surtout les griefs tendant à démontrer que l'expertise ne respecterait pas les critères scientifiques en la matière et elle ne saurait donc limiter son examen de l'expertise aux griefs nés après sa première décision. Ce serait priver le recourant de la possibilité de contester l'expertise, notamment les méthodes de travail de l'experte et sa portée scientifique, alors que ladite expertise est un élément primordial fondant sa culpabilité devant l'autorité de recours. D'ailleurs, on constate que l'autorité à laquelle la cause a été renvoyée n'a pas procédé non plus à l'examen limité préconisé par la Cour de cassation. En effet, aux débats de première instance, si l'expertise ne pouvait plus être remise en cause, on se demande notamment pourquoi l'experte et l'auteur de l'expertise privée produite par le recourant, qui critiquait cette expertise, ont été entendus et pourquoi on reprend une brève analyse de l'expertise. Si le jugement de la Cour de cassation du 28 juin 2006 signifiait qu'un acquittement n'était pas concevable, notamment parce qu'il n'était pas possible de ne pas tenir compte de l'expertise, les premiers juges n'auraient pas procédé à une nouvelle appréciation des éléments à la base de la condamnation du recourant. Or ils l'ont fait et le recourant, s'il peut, selon la cour cantonale, attaquer les éléments retenus à sa charge autres que l'expertise, doit aussi pouvoir faire examiner celle-ci s'agissant des griefs qui n'ont pas été soulevés lors de la première procédure de recours à laquelle il n'a pas participé.
Le recourant avait d'ailleurs déjà formulé des critiques contre l'expertise en en demandant une nouvelle, qui lui a été refusée, décision incidente qui, selon le droit cantonal, ne pouvait pas être portée devant la Cour de cassation cantonale avant la décision finale (art. 339 al. 2 CPP GE). Ayant été acquitté dans un premier jugement, ce n'est que dans son recours du 18 mai 2007 que le recourant pouvait soulever pour la première fois des critiques contre l'expertise devant l'autorité de recours. Or, ces critiques vont au-delà des motifs pour lesquels la cour correctionnelle a décidé de s'écarter de l'expertise le 2 juillet 2004, motifs que la Cour de cassation a jugés insuffisants. Par conséquent, en refusant d'examiner ces griefs, la Cour de cassation a commis un déni de justice formel de sorte que le grief du recourant ne peut qu'être admis et l'arrêt attaqué annulé.
5. Le recours doit donc être admis et la cause renvoyée à l'autorité cantonale pour nouvelle décision.
Il ne sera pas prélevé de frais ni alloué d'indemnité aux intimés. Une indemnité de 3000 fr. sera allouée au mandataire du recourant.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et la cause renvoyée à l'autorité cantonale pour nouvelle décision.
2. Il n'est pas perçu de frais judiciaires.
3. Le canton de Genève versera au recourant une indemnité de 3000 fr. pour ses dépens.
4. Le présent arrêt est communiqué aux parties et à la Cour de cassation du canton de Genève.
Lausanne, le 26 décembre 2008
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Schneider Paquier-Boinay