Faits:
A. Le 27 novembre 2007, A._ a déposé plainte pénale contre B._, lui reprochant d'avoir commis des abus sexuels répétés pendant l'exercice de son droit de visite sur leur fils C._, né en avril 2003, et d'avoir photographié et filmé ses agissements.
Une expertise pédopsychiatrique du Service Universitaire de Psychiatrie de l'Enfant et de l'Adolescent (SUPEA), déposée le 30 juin 2008 et complétée le 25 février 2010, conclut que les déclarations de l'enfant, sur lesquelles repose l'accusation, ne sont pas crédibles.
Une seconde expertise de crédibilité de l'enfant, établie par les psychologues X._ et Y._ le 27 novembre 2010, conclut "à un seuil plutôt pauvre de crédibilité des allégations", notamment en raison de l'écoulement du temps entre les actes, leur révélation et l'audition de l'enfant par la police, ainsi qu'à cause du risque de "contamination" des déclarations de C._ par des tiers.
Par ordonnance du 24 février 2011, la Procureure de l'arrondissement de Lausanne a rejeté la requête de complément d'expertise présentée par A._. La Chambre des recours pénale du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours interjeté par la prénommée contre cette ordonnance, par arrêt du 18 mars 2011.
B. Par ordonnance du 15 septembre 2011, le Ministère public central du canton de Vaud a ordonné le classement de la procédure pénale, en vertu de l'art. 319 al. 1 let. a du code de procédure pénale suisse du 5 octobre 2007 (CPP; RS 312.0). Par arrêt du 19 octobre 2011, le Tribunal cantonal a rejeté le recours formé par C._, représenté par sa mère A._, et par celle-ci agissant en son nom propre contre cette ordonnance. Il a considéré en substance qu'il n'y avait pas lieu de s'écarter de l'avis des experts.
C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler les arrêts des 18 mars et 19 octobre 2011 et de renvoyer la cause à l'instance précédente "afin qu'elle charge un autre procureur de compléter l'instruction de la cause, en ordonnant un complément d'expertise sur les points requis par la recourante, et en procédant à l'audition des témoins D._, E._, F._, G._ et H._, dans le sens des considérants". Elle requiert également l'assistance judiciaire.
Le Tribunal cantonal renonce à se déterminer et se réfère aux considérants de son arrêt. L'intimé conclut au rejet du recours.
Considérant en droit:
1. L'arrêt attaqué confirme le classement de la procédure pénale ouverte à l'encontre de l'intimé. Rendu en matière pénale (art. 78 al. 1 LTF) par une autorité cantonale de dernière instance (art. 80 al. 1 LTF), il met fin à la procédure pénale (art. 90 LTF). Partant, il peut faire l'objet d'un recours en matière pénale selon les art. 78 ss LTF.
1.1 Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Il s'agit principalement des prétentions en réparation du dommage et du tort moral au sens des art. 41 ss CO.
Lorsque le recours est dirigé contre une décision de classement de l'action pénale, il n'est pas nécessaire que la partie plaignante ait déjà pris des conclusions civiles (ATF 137 IV 246 consid. 1.3.1 p. 248). En revanche, elle doit expliquer dans son mémoire quelles prétentions civiles elle entend faire valoir contre l'intimé à moins que, compte tenu notamment de la nature de l'infraction alléguée, l'on puisse déduire directement et sans ambiguïté quelles prétentions civiles pourraient être élevées et en quoi la décision attaquée pourrait influencer négativement leur jugement (ATF 137 IV 219 consid. 2.4 p. 222 et les arrêts cités).
1.2 En l'espèce, la recourante, qui a pris part à la procédure devant le Tribunal cantonal, n'a pas formulé de prétentions civiles à l'encontre de l'intimé. Cependant, le classement prononcé par l'autorité cantonale en ce qui concerne l'infraction d'acte d'ordre sexuel avec un enfant est de nature à influencer négativement le jugement des prétentions civiles en tort moral que la recourante pourrait faire valoir contre l'intimé, en tant que mère d'un enfant mineur. La recourante a dès lors qualité pour agir au sens de l'art. 81 al. 1 LTF.
1.3 Quant au recours formé contre l'arrêt du 18 mars 2011, relatif à la question incidente de la mise en oeuvre d'un complément d'expertise de crédibilité, il est également recevable. En effet, conformément à l'art. 93 al. 3 LTF, cette décision incidente peut être attaquée à l'occasion du recours dirigé contre la décision finale, puisqu'elle influe sur le contenu de celle-ci.
2. La recourante se plaint d'une appréciation arbitraire des preuves présentes au dossier et prétend que c'est à tort qu'un complément d'expertise lui a été refusé.
2.1 Une décision est arbitraire au sens de l'art. 9 Cst. lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou encore heurte de manière choquante le sentiment de la justice et de l'équité. Il ne suffit pas que sa motivation soit insoutenable; encore faut-il que la décision apparaisse arbitraire dans son résultat. A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motif objectif et en violation d'un droit certain. Il n'y a pas arbitraire du seul fait qu'une autre solution paraît également concevable, voire même préférable (ATF 137 I 1 consid. 2.4 p. 5).
L'appréciation des preuves est en particulier arbitraire lorsque le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (ATF 136 II 552 consid. 4.2 p. 560). Il en va de même lorsqu'il retient unilatéralement certaines preuves ou lorsqu'il rejette des conclusions pour défaut de preuves, alors même que l'existence du fait à prouver résulte des allégations et du comportement des parties (ATF 118 Ia 28 consid. 1b p. 30). Il ne suffit pas qu'une interprétation différente des preuves et des faits qui en découlent paraisse également concevable pour que le Tribunal fédéral substitue sa propre appréciation des preuves à celle effectuée par le Ministère public, qui dispose en matière de classement d'un large pouvoir d'appréciation (cf. arrêt 1B_687/2011 du 27 mars 2012 consid. 4.1.2, destiné à la publication).
Le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si un tel moyen est invoqué et motivé par le recourant (art. 106 al. 2 LTF), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée (ATF 134 I 83 consid. 3.2). Les critiques de nature appellatoire sont irrecevables (ATF 137 II 353 c. 5.1 p. 365 et les références citées).
2.2 Une expertise de crédibilité doit permettre au juge d'apprécier la valeur des déclarations de l'enfant, en s'assurant que ce dernier n'est pas suggestible, que son comportement trouve son origine dans un abus sexuel et n'a pas une autre cause, qu'il n'a pas subi l'influence de l'un de ses parents et qu'il ne relève pas de la pure fantaisie de l'enfant. Pour qu'une telle expertise ait une valeur probante, elle doit répondre aux standards professionnels reconnus par la doctrine et la jurisprudence récentes (ATF 129 I 49 consid. 5 p. 58; 128 I 81 consid. 2 p. 85).
Si l'expert judiciaire est en principe libre d'utiliser les méthodes qui lui paraissent judicieuses, sa méthode doit toutefois être fondée, suivre les critères scientifiques établis, séparer soigneusement les constatations de faits du diagnostic et exposer clairement et logiquement les conclusions. En cas de suspicion d'abus sexuel sur des enfants, il existe des critères spécifiques pour apprécier si leurs déclarations correspondent à la réalité. L'expert doit examiner si la personne interrogée, compte tenu des circonstances, de ses capacités intellectuelles et des motifs du dévoilement, était capable de faire une telle déposition, même sans un véritable contexte "expérientiel". Dans ce cadre, il analyse le contenu et la genèse des déclarations et du comportement, les caractéristiques du témoin, de son vécu et de son histoire personnelle, ainsi que divers éléments extérieurs. Lors de l'expertise de la validité d'un témoignage, il faut toujours avoir à l'esprit que la déclaration peut ne pas être fondée sur la réalité (ATF 128 I 81 consid. 2 p. 85 s.).
2.3 Pour exécuter leur mission d'expertise, X._ et Y._, psychologues spécialistes en psychologie légale, ont mené des entretiens avec l'intimé, avec la recourante, avec l'enfant et avec la grand-mère de celui-ci. Ils ont consulté les enregistrements vidéo de l'audition de l'enfant par la police du canton de Thurgovie ainsi que ceux d'entretiens au SUPEA entre l'enfant et sa mère, entre l'enfant et son père et de l'enfant seul. Ils ont également contacté D._, psychologue effectuant le suivi psychologique de l'enfant à Frauenfeld, I._, pédiatre de l'enfant, J._, enseignante de l'enfant, F._, travaillant au jardin d'enfant fréquenté par C._ entre 2007 et 2009, ainsi que K._, psychiatre que consulte l'intimé depuis août 2006.
Dans leur rapport du 27 novembre 2010, après avoir exposé l'approche méthodologique qu'ils ont suivie, les experts récapitulent les éléments essentiels du dossier (faits allégués, données familiales, conflit autour du droit de visite, éléments fournis par l'enquête et l'instruction, première expertise de crédibilité datée du 30 juin 2008 et complétée le 25 février 2010). Ils présentent l'anamnèse de C._, résument et commentent ses déclarations à l'aune de la méthode d'analyse du témoignage mise au point par Z._ (expertise, p. 29-36).
Dans leur évaluation, les experts relèvent que les allégations de maltraitance émergent dans le cadre d'un contexte de litige autour du temps passé par chaque parent avec leur fils, de difficultés de communication parentale et d'une judiciarisation en cours du conflit du couple (expertise, p. 31). Ils retiennent que les allégations de l'enfant sont "surprenantes et troublantes; néanmoins, celles-ci concernent des actes de masturbation et d'éjaculation faciale, ce qui constitue des actes fréquemment mis en avant dans des films pornographiques ou dans des vidéos d'adolescents" (expertise, p. 36). Ils soulignent encore que "lors de l'audition de l'enfant en Thurgovie, la parole du garçon est recueillie treize mois après ses premières déclarations à sa grand-mère maternelle et près de onze mois après sa première déclaration à sa mère. Le temps passé entre les premières déclarations et le recueil par une professionnelle formée à l'audition d'enfants alléguant des abus sexuels tend à diminuer la crédibilité des déclarations de l'enfant" (expertise, p. 40). Ils précisent aussi que "le temps écoulé jusqu'au recueil neutre et professionnel des propos formulés par l'enfant ne permet pas d'exclure la possibilité de contamination des déclarations de l'enfant" (expertise, p. 38). Ils font remarquer que "sur le plan de la procédure, la psychologue aurait dû favoriser un récit libre, uniquement relancé par des questions neutres et que la phase du récit libre est pauvre". Ils ajoutent que leur analyse "ne favorise pas la notion que les allégations sont le reflet d'éléments qui se seraient réellement déroulés" et relèvent également "des questions répétées ainsi que des questions suggestives durant l'entretien" (expertise, p. 40).
Les experts arrivent à la conclusion que "l'analyse des déclarations exprimées par C._ à la police thurgovienne, l'entretien avec l'enfant en expertise, les circonstances du dévoilement ainsi que les informations à [leur] disposition [les] amènent à conclure à un seuil plutôt pauvre de crédibilité des allégations".
2.4 En l'espèce, la recourante se plaint d'abord d'arbitraire dans l'appréciation de l'expertise de crédibilité.
2.4.1 Elle relève que l'analyse de la déposition filmée de l'enfant est incomplète, au regard de la liste des critères déterminants retenus par la jurisprudence du Tribunal fédéral pour évaluer la crédibilité de la déposition.
Dans leur rapport du 27 novembre 2010, les experts ont précisé que la méthode qu'ils ont utilisée consistait en l'étude critique du contexte de l'émergence des allégations d'abus sexuels par un enfant, notamment dans les situations mettant en scène des conflits familiaux qui induisent souvent des allégations douteuses de maltraitance, parfois délibérées, le plus souvent reposant sur des motivations inconscientes; s'y ajoutait l'examen du mode de récolte des dires de l'enfant par les professionnels impliqués pour s'assurer qu'ils n'ont pas suggéré des éléments qui diminuent par mégarde la crédibilité de l'enfant en contaminant ses propos (méthode Z._). L'expertise de crédibilité a donc été conduite conformément aux standards méthodologiques reconnus par la jurisprudence. L'analyse fournie détaille avec suffisamment de prévision les critères de validité des déclarations en faveur ou en défaveur de la crédibilité de l'enfant. Les conclusions des experts sont claires et univoques. Dans ces conditions, c'est à juste titre que le Tribunal cantonal s'est fondé sur cette expertise et sur celle du 30 juin 2008 pour confirmer le classement de la procédure pénale.
La recourante reprend ensuite quelques-unes des déclarations que l'enfant a effectuées à la police et fait part de son interprétation desdits propos ainsi que de la façon dont ils auraient dû être analysés par les experts. Or, après analyse approfondie desdites déclarations, les experts sont arrivés à la conclusion que la procédure avait été ponctuée de questions répétées et suggestives. Ils ont, conformément à la jurisprudence précitée, tenu compte de ces suggestions pour extraire les éléments probants découlant de l'audition de C._, à savoir notamment "la phase du récit libre", qu'ils ont considérée comme étant "pauvre". Ils ont encore relevé que "le temps écoulé jusqu'au recueil neutre et professionnel des propos formulés par l'enfant ne permettait pas d'exclure la possibilité de contamination des déclarations de l'enfant". Leurs conclusions rejoignent ainsi celles de la première expertise de crédibilité. Dans ces circonstances, les éléments avancés par la recourante, qui sont le reflet de sa propre appréciation, ne sont pas de nature à rendre insoutenable le fait que le Tribunal cantonal a considéré l'expertise du 27 novembre 2010 comme complète et a refusé le complément d'expertise sollicité, ce d'autant plus que les compétences des experts ne sont pas mises en doute. Le grief doit donc être rejeté.
2.4.2 La recourante soutient aussi en vain que l'expertise serait contradictoire en ce qu'elle aurait retenu d'une part que la déposition filmée de C._, au niveau du contenu spécifique, ne permettait aucune analyse en fonction des critères de crédibilité n° 4-13 et d'autre part que la gestuelle de l'enfant allait en faveur d'une crédibilité de ses déclarations. En effet, en sortant ces deux éléments de leur contexte, elle se livre à un amalgame entre, d'une part, l'analyse du fond des déclarations de l'enfant en particulier quant à leurs contenus spécifiques et, d'autre part, l'examen clinique de C._ sous l'angle de sa façon de s'exprimer. Le Tribunal cantonal a donc retenu à juste titre que l'expertise ne comprenait pas de contradiction.
2.4.3 La recourante se trompe également lorsqu'elle avance que "les experts relèvent que la symptomatologie de C._ s'explique de manière plus adéquate par la difficulté de [Mme A._] à gérer la séparation ainsi que le conflit parental élevé". En effet, le texte de l'expertise indique clairement que c'est C._ et non pas sa mère qui éprouve de la difficulté à gérer la séparation ainsi que le conflit de ses parents (expertise, p. 38). L'expertise ne contient ainsi pas d'affirmations erronées contredites par d'autres pièces du dossier pénal.
2.4.4 L'intéressée reproche encore aux experts de ne pas avoir suffisamment étayé leur conviction lorsqu'ils admettent que la gestuelle de l'enfant développée lors de sa déposition filmée ainsi que le fait qu'il utilisait un langage adapté à son âge pour parler de choses qu'il ne connaît pas sont un indice de crédibilité. Là encore, la recourante ne peut être suivie dans la mesure où les experts se sont livrés à une appréciation globale des déclarations de C._ en se fondant sur de nombreux critères et en indiquant pour chacun s'il était un facteur de crédibilité ou non. Le résultat de l'expertise tient compte de ce facteur de crédibilité (examen clinique de l'enfant: langage et gestuelle) et des neuf facteurs d'absence de crédibilité (circonstances du dévoilement, déroulement des auditions de l'enfant, attitude de l'enfant lors de l'entretien, absence de signes cliniques compatibles avec une atteinte à l'intégrité sexuelle, absence d'éléments évoquant un traumatisme émotionnel, existence d'un conflit impliquant l'enfant et son entourage, influence éventuelle d'un tiers sur les déclarations de l'enfant, absence de crainte concernant le père, absence de sentiment de culpabilité).
La recourante fait enfin grief aux experts de l'avoir interrogée deux fois seulement, alors qu'ils ont reçu trois fois l'intimé. Elle requiert à cet égard que, dans le cadre d'un complément d'expertise, les experts soient invités à dire pourquoi ils ont procédé de la sorte, pourquoi ils ont choisi d'auditionner l'entourage de l'enfant, et à préciser combien de temps ils ont consacré aux diverses auditions. Elle ne démontre cependant pas en quoi cet élément serait de nature à influer sur le résultat de l'expertise ni en quoi une telle façon de procéder attesterait de la partialité des experts. A bon droit, le Tribunal cantonal a retenu à ce sujet que les experts doivent avoir la possibilité d'organiser leur expertise comme ils l'entendent, sans pour autant être soupçonnés de partialité. X._ a d'ailleurs précisé que "sur le plan de la durée du temps passé auprès de Mme A._ et de M. B._, le constat est qu'[elle a] avantagé Mme A._". Il n'y a dès lors pas d'arbitraire dans le refus d'ordonner un complément d'expertise.
2.4.5 En définitive, l'expertise critiquée ne présente pas de contradictions, de constatations factuelles erronées, ni de lacunes. Partant, la force probante du rapport d'expertise n'est pas critiquable, de sorte que les juges cantonaux n'ont pas commis d'arbitraire en évaluant la crédibilité des déclarations de l'enfant à la lumière de celui-ci.
2.5 La recourante fait ensuite valoir que le refus de tenir compte des preuves contenues dans le dossier autres que les expertises de crédibilité est arbitraire. Elle prétend que le dossier contient des éléments à charge. A cet effet, l'intéressée se contente de renvoyer aux déclarations de l'enfant, aux siennes, à celles de sa mère, à celles de la psychologue D._ et à celles de F._. Or, les deux expertises de crédibilité ont tenu compte de ces pièces dans leur examen de la crédibilité des dires de C._. En se fondant sur lesdites expertises, le Tribunal cantonal a donc pris en considération les prétendus "éléments à charge" évoqués par la recourante pour confirmer le classement de la procédure pénale. Mal fondé, le grief doit être écarté.
3. La recourante fait enfin grief au Tribunal cantonal d'avoir confirmé le refus du Ministère public de ne pas avoir procédé à l'audition des parents de celle-ci, de la psychologue D._, de la jardinière d'enfants F._, de l'enseignante E._ ainsi que de la psychologue forensique G._ - qui avait interrogé C._ en décembre 2007 -.
3.1 Le droit d'être entendu comprend également le droit pour l'intéressé d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (ATF 135 II 286 consid. 5.1 p. 293 et les arrêts cités).
Toutefois, le droit d'être entendu ne peut être exercé que sur les éléments qui sont déterminants pour décider de l'issue du litige. Il est ainsi possible de renoncer à l'administration de certaines preuves offertes, lorsque le fait dont les parties veulent rapporter l'authenticité n'est pas important pour la solution du cas, lorsque les preuves résultent déjà de constatations versées au dossier ou lorsque le juge parvient à la conclusion qu'elles ne sont pas décisives pour la solution du litige ou qu'elles ne pourraient l'amener à modifier son opinion. Ce refus d'instruire ne viole le droit d'être entendu des parties que si l'appréciation anticipée de la pertinence du moyen de preuve offert, à laquelle le juge a ainsi procédé, est entachée d'arbitraire (ATF 136 I 229 consid. 5.3 p. 236; sur la notion d'arbitraire, voir supra consid. 2.1).
Ces principes sont désormais consacrés, en procédure pénale, aux art. 139 al. 2 et 318 al. 2 CPP.
3.2 En l'espèce, le Tribunal cantonal a considéré que les experts s'étaient fondés sur le dossier complet de l'instruction, comprenant notamment divers rapports émanant des personnes en question et qu'ils se sont eux-mêmes entretenus avec plusieurs d'entre elles. De plus, la recourante a produit des déclarations écrites de tous les témoins dont elle sollicite l'audition, à l'exception de G._.
Dans ces conditions, l'instance précédente n'a pas violé le droit d'être entendue de la recourante en écartant, sur la base d'une appréciation anticipée des preuves, ces demandes d'audition et en considérant que celles-ci n'étaient pas de nature à modifier son opinion. Cette appréciation n'est pas manifestement insoutenable. L'arbitraire de l'appréciation anticipée des preuves n'est dès lors pas démontré, de sorte que le grief tiré de la violation du droit d'être entendu doit être écarté.
4. Il s'ensuit que le recours est rejeté. L'assistance judiciaire ne peut être accordée à la recourante, dont les conclusions paraissaient d'emblée vouées à l'échec (art. 64 al. 1 LTF). Les frais judiciaires sont donc mis à la charge de la recourante, qui succombe (art. 65 et 66 LTF). Celle-ci versera en outre une indemnité à titre de dépens à l'intimé, qui obtient gain de cause avec l'assistance d'un avocat (art. 68 al. 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge de la recourante.
4. Une indemnité de 1'500 francs est allouée à l'intimé à titre de dépens, à la charge de la recourante.
5. Le présent arrêt est communiqué aux mandataires des parties, au Ministère public de l'arrondissement de Lausanne et à la Chambre des recours pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 29 mars 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Tornay Schaller