Faits:
A. Le 27 novembre 2007, A.X._ a déposé plainte pénale contre B.X._, lui reprochant d'avoir commis des abus sexuels répétés pendant l'exercice de son droit de visite sur leur fils C.X._, né en avril 2003.
Une expertise pédopsychiatrique du Service Universitaire de Psychiatrie de l'Enfant et de l'Adolescent (SUPEA) déposée le 30 juin 2008 conclut que les déclarations de l'enfant, sur lesquelles repose l'accusation, n'étaient pas crédibles.
B. Par ordonnance du 22 janvier 2009, le Juge d'instruction de l'arrondissement de Lausanne a prononcé un non-lieu en faveur de B.X._.
C. Le 23 mars 2009, le Tribunal d'accusation du Tribunal cantonal vaudois a rejeté le recours de A.X._ et confirmé l'ordonnance de non-lieu.
D. A.X._ forme un recours en matière pénale contre cet arrêt. Elle invoque l'interdiction de l'arbitraire (art. 9 Cst.) ainsi que la violation de son droit d'être entendue (art. 29 Cst.) et conclut, avec suite de frais et dépens, à la réforme de l'arrêt cantonal en ce sens que l'ordonnance de non-lieu est annulée et la cause renvoyée à un nouveau magistrat instructeur, subsidiairement à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale. Elle sollicite en outre l'assistance judiciaire.
E. La cour cantonale a renoncé à se déterminer et s'est référée aux considérants de son arrêt.
B.X._ conclut au rejet du recours sous suite des frais et dépens.
Considérant en droit:
1. A teneur de l'art. 112 al. 1 let. b LTF, les décisions qui peuvent faire l'objet d'un recours devant le Tribunal fédéral doivent contenir les motifs déterminants de fait et de droit. Il résulte de cette norme que lesdites décisions doivent indiquer clairement les faits qui sont établis et les déductions juridiques qui sont tirées de l'état de fait déterminant (ATF 135 II 145 consid. 8.2 p. 153 et les références citées).
Si une décision attaquée ne satisfait pas aux exigences fixées à l'art. 112 al. 1 LTF, le Tribunal fédéral peut soit la renvoyer à l'autorité cantonale en invitant celle-ci à la parfaire, soit l'annuler (art. 112 al. 3 LTF; ATF 135 II 145 consid. 8.2 p. 153).
2. La recourante reproche dans un premier grief à l'autorité cantonale d'avoir considéré l'expertise comme claire, complète et répondant de manière suffisante et compréhensible aux questions essentielles, sans avoir examiné les arguments qu'elle avait émis à l'encontre de la fiabilité de cette expertise. Elle admet cependant que la question d'une violation de son droit d'être entendue peut demeurer ouverte puisqu'en tenant l'expertise pour probante, la cour cantonale a selon elle fait montre d'arbitraire. Par ailleurs, la recourante soutient qu'en refusant d'examiner ses arguments relatifs à la validité de l'expertise, l'autorité cantonale a non seulement violé l'interdiction de l'arbitraire, mais qu'elle a de surcroît contrevenu à son droit à un procès équitable. Elle n'expose toutefois pas en quoi ce dernier droit serait violé. Dès lors, faute d'une motivation répondant aux exigences déduites par la jurisprudence de l'art. 106 al. 2 LTF (ATF 134 I 83 consid. 3.2 p. 88; 134 II 244 consid. 2.2 p. 246; 133 II 249 consid. 1.4.2), les griefs tirés de la violation de son droit d'être entendue ainsi que de son droit à un procès équitable ne peuvent être examinés et c'est uniquement sous l'angle de l'interdiction de l'arbitraire que la question doit être abordée.
2.1 Lorsqu'il dispose d'une expertise, le juge en apprécie librement la force probante, à l'instar des autres moyens de preuve. Cette liberté trouve sa limite dans l'interdiction de l'arbitraire. Si le juge n'est en principe pas lié par les conclusions de l'expert, il ne peut toutefois s'en écarter, sur des questions dont la réponse demande des connaissances particulières, qu'en exposant les motifs sérieux qui l'amènent à agir de la sorte. Par ailleurs, en se fondant sur une expertise non concluante, le juge pourrait violer l'art. 9 Cst. Tel serait le cas si des motifs suffisants ou de sérieux indices lui faisaient douter de l'exactitude d'une expertise (ATF 129 I 49 consid. 4 p. 57s.).
Pour l'examen de la crédibilité des déclarations d'un enfant se disant victime d'abus sexuels, la jurisprudence récente a fixé un certain nombre d'exigences méthodologiques (ATF 129 I 49 consid. 6 p. 59 ss; 128 I 81 consid. 2 p. 84 ss et les références citées).
2.2 En l'espèce, l'autorité cantonale, se référant à la décision de non-lieu et aux pièces du dossier, a fondé essentiellement sur son appréciation de l'expertise pédopsychiatrique ordonnée dans le cadre de la procédure en divorce sa conviction que l'intimé n'était pas coupable des actes qui lui sont reprochés par la recourante. Elle a par ailleurs relevé que la plainte avait été déposée dans le contexte d'un long conflit conjugal, où le droit de visite sur l'enfant est litigieux.
Devant l'instance cantonale, les griefs invoqués par la recourante portaient, comme dans le présent recours, sur la fiabilité de l'expertise, principalement les qualifications de l'expert et ses méthodes de travail. Ils n'ont pas été examinés explicitement dans l'arrêt cantonal, dans le cadre duquel ils n'ont été ni écartés ni déclarés irrecevables parce que d'emblée non pertinents. La cour cantonale a en revanche procédé à une appréciation de l'expertise, qu'elle a notamment jugée claire et complète. Cependant, l'arrêt attaqué ne contient rien à propos des éléments sur lesquels repose cette appréciation, notamment sur le contenu de l'expertise, les compétences des experts et la méthode employée par ces derniers pour juger de la crédibilité des déclarations de l'enfant. L'arrêt se limite à citer certains extraits de l'expertise ou à se référer aux propos tenus par l'expert en instruction ou encore à renvoyer à la décision du juge civil qui s'est basé sur cette expertise pour statuer sur le droit de visite dans une procédure de mesures provisoires. Ces simples renvois ne sont pas suffisants pour comprendre les faits que l'autorité cantonale considère comme établis, ni les questions que la décision du juge civil serait censée avoir résolues, d'autant plus qu'il ne s'agit que d'une décision provisoire et que le pouvoir d'examen du juge civil à ce stade est limité à la vraisemblance, ni enfin pourquoi les griefs formés par la recourante contre l'expertise, qui ne paraissent pas d'emblée non pertinents, sont implicitement écartés. Il n'appartient pas à la cour de céans d'établir sur cette base les faits pertinents ni de reconstituer le raisonnement suivi par l'autorité cantonale pour écarter les griefs de la recourante. Il peut certes arriver que le Tribunal fédéral complète l'état de fait, lacunaire, de la décision attaquée sur la base du jugement de première instance (voir ATF 123 III 317 consid. 4b/ee p. 322). Dans la présente affaire, toutefois, aucune des deux décisions ne contient les indications nécessaires, puisque la décision de non-lieu du juge d'instruction se limite à dire qu'il n'apparaît pas utile de rediscuter les compétences de l'expert et la méthode pratiquée, ces points ayant été examinés en cours d'enquête, sans qu'on puisse comprendre à quel examen elle fait allusion, ni les conclusions qui en ont été tirées.
Par conséquent, en l'absence de constatations de fait et à défaut de connaître le raisonnement suivi par les juges cantonaux, la cour de céans n'est pas en mesure de comprendre pourquoi l'arrêt attaqué considère implicitement l'expertise litigieuse comme fiable et, selon ses termes, comme claire, complète et répondant aux questions essentielles de manière suffisante et compréhensible. Ainsi, faute d'un jugement répondant aux exigences de l'art. 112 al. 1 LTF, le Tribunal fédéral ne dispose pas des éléments nécessaires pour trancher le grief d'arbitraire soulevé par la recourante.
Dès lors, il se justifie d'annuler l'arrêt attaqué en application de l'art. 112 al. 3 LTF et de retourner la cause à l'autorité cantonale pour qu'elle rende une nouvelle décision satisfaisant aux exigences de l'art. 112 al. 1 LTF. Dans ces circonstances, il n'est pas nécessaire d'examiner le second grief de la recourante, relatif au refus de faire administrer des compléments de preuve tendant à infirmer la valeur probante de l'expertise.
3. Vu l'issue de la procédure, il ne sera pas perçu de frais (art. 66 al. 1 LTF) et le canton de Vaud versera à la recourante une indemnité de dépens pour la procédure devant le Tribunal fédéral (art. 68 al. 2 LTF). La requête d'assistance judiciaire devient ainsi sans objet.
Il n'y a en revanche pas lieu d'allouer d'indemnité à l'intimé qui succombe dans ses conclusions tendant au rejet du recours.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé en application de l'art. 112 al. 3 LTF et la cause est renvoyée à la cour cantonale pour qu'elle statue à nouveau.
2. Il n'est pas prélevé de frais judiciaires.
3. Le canton de Vaud versera à la recourante une indemnité de 3'000 fr. à titre de dépens.
4. Il n'est pas alloué d'indemnité de dépens à l'intimé.
5. Le présent arrêt est communiqué aux parties et au Tribunal d'accusation du Tribunal cantonal vaudois.
Lausanne, le 22 septembre 2009
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Favre Paquier-Boinay