Faits:
A. M._ travaille au service de X._. A ce titre, elle est assurée à la Caisse vaudoise, Département LAA (ci-après : la caisse) pour l'assurance-accidents obligatoire.
Le 1er novembre 2004, l'employeur de la prénommée a rempli une déclaration d'accident LAA à l'intention de la caisse en raison d'un événement survenu le 30 octobre précédent et ayant entraîné une "luxation de la rotule + ligaments déchirés". L'accident était décrit comme suit : "En dansant, la rotule du genou gauche de l'assurée est sortie". Invitée par la caisse à répondre à un questionnaire, M._ a repris les mêmes termes pour décrire les circonstances de l'événement; elle a répondu "oui" à la question de savoir si l'activité s'était déroulée dans des circonstances normales et tracé un trait oblique à celle de savoir s'il s'était produit un événement particulier. Estimant nécessaire un complément d'information, la caisse a organisé un entretien entre un de ses représentants et l'assurée. A cette occasion, cette dernière a déclaré qu'en raison de l'irrégularité du sol de la piste de danse (composé de plaques métalliques), elle avait effectué un faux mouvement à la suite duquel la rotule de son genou gauche s'était déplacée (procès-verbal du 1er mars 2005). L'assureur-accidents a par ailleurs requis le dossier de M._ auprès de la CNA en relation avec un accident similaire survenu en 1992 (luxation de la rotule gauche en dansant).
Par décision du 12 mai 2005, la caisse a mis un terme à ses prestations au 31 décembre 2004, considérant que l'atteinte avait été tout au plus révélée mais pas causée par l'événement du 30 octobre 2004. L'assurée a formé opposition. Dans une nouvelle décision du 20 janvier 2006, l'assureur-accidents a confirmé sa position en précisant qu'il n'aurait pas dû intervenir du tout, au motif que les faits annoncés n'étaient constitutifs ni d'un accident ni d'une lésion assimilée; il renonçait cependant à réclamer les prestations déjà versées jusqu'au 31 décembre 2004.
B. Saisi d'un recours de l'intéressée, le Tribunal des assurances du canton de Vaud l'a admis par jugement du 27 avril 2007, notifié le 17 juillet suivant. Il a annulé la décision attaquée (du 20 janvier 2006) et renvoyé le dossier à la caisse pour que celle-ci en complète l'instruction puis rende une nouvelle décision conformément aux considérants.
C. La caisse interjette un recours en matière de droit public dans lequel elle conclut, avec suite de frais et dépens, à la réforme du jugement cantonal en ce sens que "la luxation de la rotule du genou gauche ainsi que ses suites ne sont pas à charge de l'assurance-accidents obligatoire".
M._ conclut au rejet du recours, tandis que l'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. 1.1 Aux art. 90 à 93, la LTF opère une distinction entre décisions finales, décisions partielles, ainsi que décisions préjudicielles et incidentes, et établit ainsi une terminologie unifiée pour toutes les procédures. Dans un arrêt récent publié aux ATF 133 V 477, le Tribunal fédéral a eu l'occasion de préciser la portée de ces notions dans le domaine du droit des assurances sociales. Il a jugé qu'un jugement cantonal qui renvoie la cause pour nouvelle décision, dès lors qu'il ne met pas fin à la procédure ou qu'il ne statue pas sur un objet dont le sort est indépendant de celui qui reste litigieux, ne constitue ni une décision finale ni une décision partielle selon la réglementation de la LTF, mais doit être qualifié de décision incidente. Une telle décision ne peut être attaquée qu'aux conditions alternatives de l'art. 93 al. 1 LTF, à savoir si elle peut causer un préjudice irréparable (let. a) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b).
1.2 Un préjudice irréparable au sens de cette disposition est un dommage de nature juridique qui ne peut pas être réparé ultérieurement par un jugement final ou une autre décision favorable au recourant (ATF 133 V 645 consid. 2.1 p. 647; arrêt du 9 janvier 2008, 4A_253/2007 consid. 2.1, prévu pour la publication). En revanche, un dommage de pur fait, comme la prolongation de la procédure ou un accroissement des frais de celle-ci, n'est pas considéré comme irréparable (ATF 131 I 57 consid. 1 p. 59 et les arrêts cités). Un jugement cantonal de renvoi pour instruction complémentaire et nouvelle décision ne cause un dommage irréparable à l'administration que dans la mesure où il comporte des instructions sur la manière dont celle-ci devra trancher certains aspects du rapport litigieux, restreignant ainsi de manière importante sa latitude de jugement, si bien qu'elle ne peut plus s'en écarter (ATF 133 V 477 consid. 5.2 p. 483).
1.3 En l'espèce, le jugement entrepris est une décision incidente dans laquelle la juridiction cantonale a constaté, d'une part, que "[M._] a été victime d'un accident au sens des dispositions légales" et, d'autre part, que "l'instruction était insuffisante sur [la] question [de la causalité]". La première constatation a une portée impérative pour l'assureur-accidents puisqu'elle implique pour lui l'obligation de prester. En cela, la recourante subit un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF. Il convient par conséquent d'entrer en matière sur le recours (cf. ATF 133 V 477 consid. 5.2 p. 483).
2. Les premiers juges ont correctement exposé le contenu de l'art. 9 al. 2 OLAA, de même que les précisions apportées par la jurisprudence sur l'octroi des prestations en cas de lésions corporelles assimilées à un accident (cf. ATF 129 V 466), de sorte qu'on peut y renvoyer. On rappellera que l'exigence d'un facteur dommageable extérieur n'est pas donnée lorsque l'assuré fait état de douleurs apparues pour la première fois après avoir accompli un geste de la vie courante (par exemple en se levant, en s'asseyant, en se couchant ou en se déplaçant dans une pièce, etc.) à moins que le geste en question n'ait requis une sollicitation du corps, en particulier des membres, plus élevée que la normale du point de vue physiologique et dépasse ce qui est normalement maîtrisé d'un point de vue psychologique. La notion de cause extérieure suppose en effet qu'un événement générant un risque de lésion accru survienne. Enfin, on précisera que même si la caisse a initialement pris en charge le cas de l'assurée, il n'y a pas lieu - contrairement à la juridiction cantonale - de statuer sur l'existence ou non d'un motif de révocation (reconsidération ou révision procédurale). Par sa décision du 12 mai 2005, l'assureur-accidents a en effet arrêté ses prestations avec effet ex nunc et pro futuro en renonçant à en réclamer le remboursement à l'assurée (le dossier ne contient aucune demande de restitution relative aux prestations en espèces qui auraient été allouées entre le 31 décembre 2004 et la date de la prise de décision). Il suffit donc d'examiner si, selon une appréciation correcte de la situation, l'événement en question pouvait ou non donner lieu à prestations (ATF 130 V 380).
3. La recourante reproche aux premiers juges d'avoir retenu la "seconde version" des faits de M._ selon laquelle un faux mouvement serait à l'origine de sa lésion au genou. Elle estime que cette version est en contradiction avec les premières indications fournies par la prénommée dans le questionnaire du 25 novembre 2004 et auxquelles il fallait s'en tenir. D'après ces indications, il ne s'était rien passé de particulier au moment de l'incident (l'assurée avait expressément barré les lignes lui permettant de décrire des circonstances particulières) et avait écrit ne pas avoir "senti venir la luxation". Dès lors que l'atteinte n'avait pas été causée par un facteur extérieur, le simple fait d'effectuer des mouvements de danse ne pouvant par ailleurs être considéré comme une situation générant un risque de lésion accru, on ne se trouvait pas en présence d'une lésion assimilée au sens de l'art. 9 al. 2 OLAA.
4. Il peut arriver que les déclarations successives d'un assuré soient contradictoires. En pareilles circonstances, il convient, selon la jurisprudence, de retenir la première affirmation qui correspond généralement à celle que l'intéressé a faite alors qu'il n'était pas encore conscient des conséquences juridiques qu'elle aurait, les nouvelles explications pouvant être, consciemment ou non, le produit de réflexions ultérieures (ATF 121 V 45 consid. 2a p. 47 et les références; RAMA 2004 no U 515 p. 420 consid. 1.2, U 64/02; VSI 2000 p. 201 consid. 2d, I 321/98). En l'espèce, on ne peut pas dire que M._ ait fait des déclarations à proprement parler contradictoires. On ne saurait l'inférer du fait que la prénommée n'a pas signalé de faux mouvement en réponse à la question 4 ("S'est-il produit un événement particulier ?") du questionnaire de la caisse, mais seulement au cours de l'entretien du 1er mars 2005. Dépourvu de tout commentaire explicatif, le libellé de la question 4 peut en effet donner l'impression au profane qu'il est fait référence à des circonstances extraordinaires comme par exemple une chute; à tout le moins, la conclusion qu'en tire la recourante ne s'impose pas avec évidence. Mais surtout, le caractère vraisemblable d'un facteur extérieur sous la forme d'un mouvement non programmé est renforcé par les arguments médicaux - convaincants - du docteur T._, chirurgien orthopédiste qui a opéré l'intimée, dont on ne voit aucune raison de mettre en doute la valeur probante. Dans un rapport du 10 avril 2006 produit en procédure cantonale, celui-ci a déclaré que les lésions tissulaires qu'il avait constatées au cours de son intervention (déchirure de l'aileron patello-fémoral interne avec arrachement osseux au bord de la rotule et un très important hématome local) ne pouvaient avoir été provoquées par un "mouvement de danse normal" mais indiquaient un "mouvement incontrôlé, inhabituel et violent correspondant à un traumatisme"; il ne s'agissait pas d'une luxation banale comme elle peut survenir chez des patients dont la rotule est instable; d'ailleurs, M._ n'avait pas présenté de récidive de luxation depuis 12 ans. Dans ces conditions, il y lieu d'admettre l'existence d'une lésion corporelle assimilé selon l'art. 9 al. 2 OLAA. A cet égard, le jugement entrepris n'est pas critiquable et le recours se révèle mal fondé.
5. Vu le sort du litige, les frais de justice seront mis à la charge de la recourante, qui succombe (art. 66 al. 1 LTF). Par ailleurs, l'intimée a droit à des dépens (art. 68 al. 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais de justice, arrêtés à 500 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée un montant de 2'000 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour la procédure fédérale.
4. Le présent arrêt est communiqué aux parties, au Tribunal des assu-rances du canton de Vaud et à l'Office fédéral de la santé publique.
Lucerne, le 29 avril 2008
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Ursprung von Zwehl