Faits:
A. O._ travaillait en qualité d'enseignante en éducation physique au service de X._. A ce titre, elle était assurée contre le risque d'accidents auprès de la Caisse vaudoise (ci-après: la Caisse).
Le 19 janvier 2009, O._ a glissé sur une marche en descendant des escaliers à son domicile et s'est tordu le genou gauche. Le cas a été pris en charge par la Caisse. Dans un rapport du 17 avril 2009, le docteur P._, spécialiste FMH en médecine générale, a posé, après une imagerie par résonance magnétique (IRM) effectuée le 5 février 2009, les diagnostics de déchirure de la corne postérieure du ménisque externe, de rupture de la plastie du ligament croisé antérieur (LCA), de probable rupture du ligament croisé postérieur (LCP), de gonarthrose tri-compartimentale et de kyste synovial de Baker. Il a en outre constaté des douleurs diffuses à la mobilisation ainsi qu'un genou légèrement instable et douloureux. Le 27 juillet 2009, les docteurs E._ et N._, respectivement chef de clinique et médecin assistant au département de l'appareil locomoteur du Centre hospitalier Y._, ont posé le diagnostic d'entorse du genou gauche, l'évolution étant jugée bonne sur le moment. Ils ont mentionné des antécédents de rupture du LCA gauche en 1985, de status post plastie du LCA gauche en 1985 et de reprise de la plastie LCA en 1987.
Par lettre du 30 octobre 2009, la Caisse a informé l'assurée qu'elle mettait fin à ses prestations à partir du 11 août 2009 en raison de l'absence de lésion traumatique importante consécutive à la chute du 19 janvier 2009 et de ses antécédents. L'assurée a contesté la position de la Caisse le 29 avril 2010. Elle a expliqué qu'outre l'accident du 19 janvier 2009, ses problèmes au genou découlaient également de deux accidents survenus les 4 juin 1996 et 30 mai 2007, dont elle a produit le dossier médical.
La Caisse a demandé l'avis de son médecin-conseil, le docteur D._, spécialiste FMH en chirurgie orthopédique. Dans son rapport du 29 juillet 2010, ce dernier a rappelé les antécédents de l'assurée en ce qui concerne son genou gauche, à savoir une entorse grave inaugurale en 1985, à l'origine d'une triade antéro-interne, puis une seconde entorse en 1987, un lâchage du genou le 4 juin 1996 puis à nouveau le 30 mai 2007. Il a conclu que la responsabilité de chacun des événements précités, s'il y en avait une, devait être limitée dans le temps (délai maximal de 3 à 6 mois), après quoi l'arthrose préexistante restait entièrement responsable de l'évolution.
Par décision du 3 septembre 2010, la Caisse a mis fin à ses prestations d'assurance avec effet au 30 septembre 2009. Le 17 septembre 2010, l'assurée a formé opposition à cette décision, qu'elle a complétée le 31 janvier 2011. Elle a produit un rapport du docteur R._, médecin adjoint au Département de l'appareil locomoteur du Centre Y._, du 25 janvier 2011. Selon ce praticien, l'IRM du genou gauche réalisée le 5 février 2009 montre une rupture de la plastie du LCA avec une suspicion de rupture du LCP, une gonarthrose tri-compartimentale, une déchirure de la corne postérieure du ménisque externe ainsi qu'un kyste synovial de Baker confirmant la chronicité des lésions dégénératives. Il conclut que la rerupture du LCA et l'entorse du LCP sont dues à l'accident du 19 janvier 2009 alors que les lésions d'arthrose sont la conséquences des deux premiers accidents (survenus en 1985 et 1987).
Par une nouvelle décision du 11 avril 2011, la Caisse a écarté l'opposition formée par l'assurée.
B. Saisie d'un recours contre cette dernière décision, la Cour des assurances sociales du Tribunal cantonal vaudois l'a rejeté, par jugement du 24 février 2012.
C. O._ interjette un recours en matière de droit public contre ce jugement dont elle requiert l'annulation, sous suite de frais et dépens. Elle conclut, principalement, à la prise en charge par la Caisse des suites de l'accident du 19 janvier 2009; subsidiairement, au renvoi de la cause à la juridiction cantonale pour complément d'instruction sous la forme d'une expertise judiciaire et nouvelle décision.
Mutuel Assurances SA, qui a repris la Caisse vaudoise, conclut au rejet du recours. De son côté, l'Office fédéral de la santé publique a renoncé à se déterminer.

Considérant en droit:
1. Dès lors que le litige concerne des prestations aussi bien en nature (traitement médical) qu'en espèces (indemnités journalières), le Tribunal fédéral dispose d'un pouvoir d'examen étendu en ce qui concerne les faits communs aux deux types de prestations (voir arrêt 8C_584/2009 du 2 juillet 2010 consid. 4).
2. Le jugement entrepris expose de manière correcte les dispositions légales et les principes jurisprudentiels relatifs à la nécessité d'un rapport de causalité naturelle et adéquate entre une atteinte à la santé et un accident pour que l'assureur-accidents soit tenu à fournir des prestations (<ref-ruling> consid. 3.1 p. 181).
3. En bref, la juridiction cantonale a retenu que les conclusions du docteur D._ étaient complètes et convaincantes, et qu'il ne se justifiait pas de s'en écarter ou d'ordonner une nouvelle expertise nonobstant l'avis partiellement divergent du médecin traitant de l'assurée, le docteur R._.
La recourante reproche à la juridiction cantonale d'avoir écarté l'avis du docteur R._ au seul motif qu'il s'agissait de son médecin traitant. Par ailleurs, plusieurs éléments auraient dû conduire la juridiction cantonale à émettre des réserves sur la valeur probante de l'expertise du docteur D._. Tout d'abord, ce dernier ne posait aucun diagnostic et l'anamnèse était incomplète. Il ne faisait pas non plus état des plaintes de la recourante ni des répercussions de l'atteinte sur sa capacité de travail. Ensuite, le fait que le docteur D._ avait demandé à la recourante de sautiller sur son pied gauche démontrait que ce dernier n'avait pas une connaissance complète du dossier puisqu'un tel exercice avait décompensé le genou, voire créé un nouvel accident d'instabilité entraînant des douleurs et une boiterie.
4. 4.1 Pour le docteur D._, les lâchages survenus en 1996 et 2007 ainsi que l'accident de 2009 n'ont pas entraîné de lésions traumatiques et il semblerait plus que probable que les lésions constatées fussent déjà présentes auparavant, soit à la suite des entorses de 1985 et 1987. Ce médecin a considéré que la responsabilité des événements de 1996, 2007 et 2009 quant aux lésions du genou gauche devait être limitée dans le temps, dès lors qu'il s'agissait d'entorses bénignes, sans preuve de lésion anatomique aiguë pouvant potentialiser de manière durable le processus dégénératif de ce genou, de sorte qu'un statu quo sine/ante devait être considéré comme atteint après un délai maximal de 3 à 6 mois pour chacun de ces événements, après quoi l'arthrose sévère préexistante restait entièrement responsable de l'évolution de la pathologie.
Pour sa part, le docteur R._ a souligné que la recourante souffrait d'une gonarthrose tri-compartimentale du genou gauche post-traumatique. En effet, à la suite de l'accident de 1985 et d'une intervention inappropriée, la recourante avait développé une instabilité chronique de son genou ayant conduit dans un premier temps à une récidive de l'entorse en 1987 et dans un deuxième temps à une évolution progressive vers de l'arthrose. Toutefois, il estimait qu'un lien de causalité était donné entre la rerupture du LCA et l'entorse du LCP d'une part, et l'accident du 19 janvier 2009 d'autre part, malgré les lésions d'arthrose, dès lors que le genou de la recourante était compensé et que cette dernière avait pu effectuer normalement son travail. L'accident du 19 janvier 2009 avait complètement décompensé son genou et une importante impotence fonctionnelle était apparue.
4.2 En matière d'appréciation des preuves, le juge doit examiner objectivement tous les documents à disposition, quelle que soit leur provenance, puis décider s'ils permettent de porter un jugement valable sur le droit litigieux. Il ne peut écarter un rapport médical au seul motif qu'il est établi par le médecin interne d'un assureur social, respectivement par le médecin traitant (ou l'expert privé) de la personne assurée, sans examiner autrement sa valeur probante. Dans une procédure portant sur l'octroi ou le refus de prestations d'assurances sociales, le Tribunal fédéral a récemment précisé que lorsqu'une décision administrative s'appuie exclusivement sur l'appréciation d'un médecin interne à l'assureur social et que l'avis d'un médecin traitant ou d'un expert privé auquel on peut également attribuer un caractère probant laisse subsister des doutes suffisants quant à la fiabilité et la pertinence de cette appréciation, la cause ne saurait être tranchée en se fondant sur l'un ou sur l'autre de ces avis et il y a lieu de mettre en oeuvre une expertise par un médecin indépendant selon la procédure de l'<ref-law> ou une expertise judiciaire (<ref-ruling>).
4.3 S'il est incontestable que la recourante souffre d'arthrose depuis les accidents de 1985 et 1987, une divergence subsiste entre les docteurs D._ et R._ quant à l'existence d'un lien de causalité entre l'accident du 19 janvier 2009 et l'état du genou de la recourante, sans que l'on puisse dénier une valeur probante à leurs avis respectifs. Il subsiste donc suffisamment de doutes sur la question litigieuse pour qu'une instruction complémentaire au sens de la jurisprudence précitée s'impose. La cause sera par conséquent renvoyée à l'intimée afin qu'elle mette en oeuvre une expertise au sens de l'<ref-law>. Dans cette mesure, le recours est bien fondé.
5. Vu l'issue du litige, les frais judiciaires seront mis à la charge de l'intimée (<ref-law>), de même que l'indemnité à titre de dépens à laquelle a droit la recourante (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Le jugement de la Cour des assurances sociales du Tribunal cantonal vaudois du 24 février 2012 et la décision sur opposition du 11 avril 2011 sont annulés. La cause est renvoyée à l'intimée pour instruction complémentaire au sens des motifs et nouvelle décision. Le recours est rejeté pour le surplus.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge de l'intimée.
3. L'intimée versera à la recourante la somme de 2'800 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4. La cause est renvoyée à la Cour des assurances sociales du Tribunal cantonal vaudois pour nouvelle décision sur les dépens de la procédure antérieure.
5. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 10 avril 2013
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
La Présidente: Leuzinger
La Greffière: Fretz Perrin