Faits:
A. A.a K._, née en 1954, travaille au service de la Télévision suisse romande (TSR) depuis le 1er janvier 1976; elle y occupe le poste de monteuse depuis 1996. A ce titre, elle est obligatoirement assurée contre le risque d'accident et de maladie professionnelle auprès de la Bâloise, Compagnie d'Assurances (ci-après : la Bâloise).
Au cours de l'année 2001, la TSR s'est équipée d'un nouveau système de montage avec des appareils Quantel pour les émissions d'actualité. Aux mois de mai et juin, une équipe de monteurs, dont K._, a été formée pour travailler sur ces appareils (unité ACTU). Dès le 1er septembre suivant, l'unité ACTU est mise en service.
Le 7 mars 2002, l'employeur a adressé à la Bâloise une déclaration de maladie professionnelle concernant la prénommée. Selon un rapport du 19 février 2002 du docteur D._, spécialiste en chirurgie de la main, celle-ci présentait depuis plusieurs mois des paresthésies des deux mains et plus récemment des douleurs des faces interne et externe du coude droit; ce médecin a posé les diagnostics d'épicondyalgies droites, de neuropathie irritative, probablement réflexe, ulnaire au coude droit, de suspicion de syndrome du tunnel carpien bilatéral et de TOS (thoracic outlet syndrome) droit. Consulté le 27 février 2002 pour effectuer un examen neurologique, le docteur H._, spécialiste en neurologie, a relevé que le status mettait en évidence des douleurs reproductibles assez diffusément sur l'ensemble du membre supérieur droit évoquant un status fibromyalgique éventuellement associé à une pathologie plus spécifique de type épicondylite ou épithrochléite, mais aucune autre anomalie neurologique.
A la demande de la Bâloise, la Caisse nationale suisse d'assurance en cas d'accidents (CNA) a procédé à une enquête au poste de travail concerné du studio du téléjournal de la TSR. Il s'est révélé à cette occasion que, sur treize collaborateurs, six avaient annoncé une maladie professionnelle. Toutes ces personnes attribuent leurs douleurs à la mise en service du nouveau système de montage. Des collaborateurs d'une chaîne étrangère auraient connu des problèmes identiques. Comme cause des troubles, on évoque quatre facteurs différents : gestes répétitifs (mouvement de balayage avec le stylet sur la plaque tactile); position de travail (impossibilité de poser les coudes en raison des dimensions spécifiques des plaques tactiles, ce qui entraîne une fatigue); intensité du travail (qui dure entre huit et neuf heures et qui implique un stress et une sollicitation augmentant juste avant la diffusion d'une émission); planification du travail. En comparant les divers dossiers, on remarque l'importante hétérogénéité des diagnostics qui font état soit d'une tendinite grave, soit d'une épicondylite au coude, ou encore d'une ténosynovite au pouce, voire d'une tendinite de Quervain et d'une neuropathie irritante réflexe. On parle également de syndrome du tunnel carpien, de TOS ou encore de tendinite du biceps. Même si les diagnostics posés diffèrent fortement les uns par rapport aux autres, ils ont cependant un dénominateur médical commun. En effet, on peut les regrouper sous la désignation générique de «repetitive strain injuries», termes qui désignent un nombre de troubles non spécifiques en relation avec les activités répétitives, notamment le travail à l'écran. Diverses recommandations ont été formulées afin d'aménager le poste de travail des personnes intéressées (rapport du 17 février 2003 des docteurs V._, spécialiste en chirurgie et U._, spécialiste en médecine interne, tous deux rattachés à la CNA).
Le docteur V._ a en outre établi le 26 février 2003 une appréciation médicale à l'intention de la Bâloise concernant plus particulièrement K._. Ce médecin estime que, d'un point de vue clinique, les résultats avec la reproductibilité la plus fiable sont les résultats au niveau du coude droit, où les médecins consultés confirment l'existence d'une épicondylopathie. La façon de travailler de l'assurée a pu être observée le 11 février 2003. Il n'y a pas de facteurs permettant de conclure à une sursollicitation mécanique permanente des muscles radiaux de l'avant-bras dans la zone des insertions proximales du coude droit. L'épicondylopathie du coude est imputable à des altérations dégénératives des insertions au coude des tendons extenseurs radiaux. C'est dans la cinquième décennie que sa fréquence est la plus élevée, soit la classe d'âge dont fera prochainement partie K._. Sur la base des dernières études histologiques, il faut conclure que des influences mécaniques dans le sens de microlésions peuvent uniquement jouer un rôle algogène dans l'apparition de l'épicondylopathie radiale, même lors d'activités sollicitant le coude, mais qu'elles ne sont pas la cause à proprement parler de l'épicondylopathie. Le docteur V._ fait au surplus référence à une étude des docteurs Erich Bär et Bertrand Kiener, de la division médicale de la CNA, intitulée «L'épicondylite n'est pas une maladie professionnelle, Un changement de paradigme sur le plan médical» (publiée dans les Informations médicales de la CNA, n° 72, automne 2000, p. 70 sv.).
Par décision du 29 juillet 2003, confirmée sur opposition le 19 mars 2004, la Bâloise a refusé de prendre en charge le cas, au motif que les troubles présentés par l'assurée ne pouvaient pas être attribués à une maladie professionnelle.
A.b Saisi d'un recours de l'assurée, qui demandait la mise en oeuvre d'une expertise médicale, le Tribunal des assurances du canton de Vaud (actuellement Cour des assurances sociales du Tribunal cantonal vaudois) l'a rejeté par jugement du 22 novembre 2004. Par arrêt du 29 juin 2005, le Tribunal fédéral des assurances a admis le recours de droit administratif interjeté par K._ contre ce jugement, annulé celui-ci, et renvoyé la cause à la Bâloise pour complément d'instruction (cause U 116/05). Dans cet arrêt, le Tribunal s'est référé à une affaire bernoise (<ref-ruling>), dans laquelle il avait jugé qu'une expertise était nécessaire pour répondre à la question de savoir si et à quelles conditions une épicondylite pouvait avoir valeur de maladie professionnelle. La Bâloise était invitée à se procurer l'expertise en question auprès du Tribunal administratif du canton de Berne qui l'avait ordonnée et, dans la mesure où elle revêtirait une portée générale, à en faire usage après avoir donné aux parties l'occasion de se déterminer.
A.c Le 2 décembre 2005, le Tribunal administratif du canton de Berne a transmis à la Bâloise les copies anonymisées de son jugement et du rapport d'expertise. Ce rapport, daté du 5 avril 2005, avait été établi par les docteurs L._ et P._ du Centre X._. K._ a pu en prendre connaissance et exprimer son point de vue. Le 16 mars 2006, la Bâloise a rendu une nouvelle décision, par laquelle elle a derechef refusé de prendre en charge le cas de l'assurée au titre de maladie professionnelle. Ecartant l'opposition de l'intéressée, l'assureur-accidents a confirmé sa prise de position dans une décision sur opposition du 27 avril 2006.
B. L'assurée a déféré cette dernière décision au Tribunal des assurances du canton de Vaud, en sollicitant une expertise.
Après avoir entendu deux témoins, A._ et C._, employées en qualité de monteuses auprès de la TSR, le tribunal cantonal a décidé d'organiser une expertise qu'il a confiée à la professeure N._, de l'Institut Y._.
Par jugement du 13 novembre 2008, les juges cantonaux ont admis le recours. Ils ont réformé la décision litigieuse en ce sens que K._ a droit à des prestations de la Bâloise au titre de maladie professionnelle, et renvoyé le dossier à l'assureur-accidents pour que celui-ci en fixe l'étendue.
C. La Bâloise interjette un recours en matière de droit public contre ce jugement cantonal, dont elle requiert l'annulation. Elle conclut, sous suite de frais et dépens, à la confirmation de sa décision sur opposition du 27 avril 2006; subsidiairement, à la mise en oeuvre d'une nouvelle expertise médicale.
K._ conclut au rejet du recours. L'Office fédéral de la santé publique ne s'est pas déterminé.

Considérant en droit:
1. Le tribunal cantonal a admis l'existence d'une maladie professionnelle et ordonné le renvoi de la cause à la recourante pour qu'elle alloue à l'intimée les prestations LAA que celle-ci peut prétendre à ce titre. Dans la mesure où l'on ignore quelles sont les prestations en jeu et qu'il ne s'agit pas pour la recourante de procéder à un simple calcul de leur montant, l'arrêt attaqué doit s'analyser comme une décision de renvoi incidente qui ne peut être attaquée qu'aux conditions de l'<ref-law>. En l'occurrence, il y a lieu de considérer que la Bâloise subit un préjudice irréparable au sens de l'<ref-law>. En effet, le jugement entrepris comporte des instructions impératives qui restreignent considérablement sa latitude de jugement pour la suite de la procédure, de sorte qu'elle est tenue de rendre une décision qui, selon elle, est contraire au droit fédéral (cf. <ref-ruling> consid. 5.2 p. 483 ss et les arrêts cités). Il convient dès lors d'entrer en matière sur son recours.
2. Il s'agit de déterminer si les troubles présentés par l'intimée sont ou non la conséquence d'une maladie professionnelle au sens de l'<ref-law>.
Selon cette disposition, sont aussi réputées maladies professionnelles (selon la clause dite générale) les autres maladies dont il est prouvé qu'elles ont été causées exclusivement ou de manière nettement prépondérante par l'exercice de l'activité professionnelle. Cette clause générale répond au besoin de combler d'éventuelles lacunes qui subsisteraient dans la liste que le Conseil fédéral est chargé d'établir en vertu de l'<ref-law> (<ref-ruling> consid. 5a et les références). La condition d'un lien exclusif ou nettement prépondérant n'est réalisée que si la maladie a été causée à 75% au moins par l'exercice de l'activité professionnelle (<ref-ruling> consid. 2b p. 201 et la référence). Cela signifie, pour certaines affections qui ne sont pas typiques d'une profession déterminée, que les cas d'atteinte pour un groupe professionnel particulier doivent être quatre fois plus nombreux que ceux que compte la population en général (<ref-ruling> consid. 5c p. 143; RAMA 1997 no U 273 p. 178 s. consid. 3a).
3. On rappellera préliminairement les motifs du renvoi prononcé par le Tribunal fédéral des assurances dans son arrêt du 29 juin 2005.
Dans le passé, la CNA reconnaissait, sous certaines conditions, le caractère de maladie professionnelle à l'épicondylite. L'étude des docteurs Erich Bär et Bertrand Kiener, de sa division médicale, l'a amenée à modifier cette pratique. Dans un arrêt publié aux <ref-ruling>, le Tribunal fédéral des assurances s'est exprimé sur cette modification de pratique. Il a estimé ne pas disposer des connaissances suffisantes pour juger de son bien-fondé, en particulier le point de savoir si elle reflétait l'état des connaissances médicales actuelles et largement partagées par la communauté des spécialistes. Aussi, dans cette affaire (cause U 114/99), a-t-il renvoyé le dossier à l'autorité judiciaire cantonale (en l'occurrence le Tribunal administratif du canton de Berne) pour qu'il mette en oeuvre une expertise médicale. Saisi par la suite du cas de K._, le Tribunal fédéral des assurances a considéré qu'il n'était pas possible de trancher par la négative la même question litigieuse aussi longtemps qu'on ne disposait pas d'une expertise à ce sujet.
4. Dans leur rapport d'expertise (du 5 avril 2005), les docteurs L._ et P._ ont fait une revue des études scientifiques en épidémiologie consacrées à la plausibilité d'une relation causale et dose-dépendante entre une sollicitation physique du membre supérieur en milieu professionnel et le développement d'une épicondylite (radiale ou médiale). Ils ont abouti à la conclusion qu'en l'état actuel des connaissances, il n'était pas possible d'exclure de manière générale le caractère de maladie professionnelle à l'épicondylite. La question devait être appréciée de cas en cas en fonction de différents critères d'évaluation.
Compte tenu du résultat de cette mesure d'instruction, les premiers juges ont estimé nécessaire de recourir à un expert pour examiner le cas de K._.
5. 5.1 L'expertise judiciaire (du 2 juillet 2008) a été réalisée sous la direction de N._, professeure de médecine du travail à l'Institut Y._, qui s'est adjointe les services des docteurs S._ et C._, spécialistes en médecine du travail, ainsi que de G._ et F._, ergonomes. Elle se fonde sur un examen clinique ainsi qu'une anamnèse personnelle et professionnelle de K._ effectuée par la professeure N._ et la doctoresse S._ (annexe 1), sur un rapport d'évaluation ergonomique (annexe 2), sur une enquête de la prévalence des symptômes et des diagnostics chez les collaborateurs de l'unité ACTU (annexe 3), sur un rapport de visite de l'équipe de la TSR auprès de la Radio Canada Montréal en date des 8 et 9 juillet 2003 (annexe 4), ainsi que sur l'ensemble du dossier juridique et médical mis à disposition par la juridiction cantonale. Le rapport se conclut par les réponses données aux questions des parties dans lesquelles la professeure N._ a repris les points essentiels de son évaluation.
5.2 On peut résumer les différents éléments de la discussion comme suit :
5.2.1 Au plan diagnostique, l'experte judiciaire a considéré que l'apparition des douleurs, leur localisation, les constatations cliniques effectuées par le docteur D._ et celles consignées dans le protocole opératoire du 3 mai 2005 concordaient avec une épicondylite radiale et un probable syndrome du nerf radial au niveau du coude. Les autres diagnostics évoqués chez l'assurée (TOS et fibromyalgie) l'avaient été au cours de la phase aïgue des symptômes et pouvaient s'expliquer par une sensibilisation générale du bras et un rayonnement des douleurs.
5.2.2 Sur le plan ergonomique et biomécanique, l'analyse de l'activité de montage avec l'appareil Quantel mettait en évidence une sollicitation unilatérale de la main droite qui accomplissait le travail pour plus de 90% du temps. En outre, l'appareil Quantel exigeait des utilisateurs une quantité importante de gestes à effectuer ainsi qu'une précision dans leur exécution. Deux gestes pouvaient être considérés comme particulièrement contraignants : le mouvement de swipe (jet rapide sur le côté) effectué au moins 100 fois par jour et impliquant une flexion dorsale et une supination du poignet ainsi qu'une extension de l'avant-bras, et le mouvement d'enroulement pour lequel les muscles pour plier et étendre le pouce et l'index étaient utilisés à un rythme soutenu, de même que les muscles de pronation et de supination.
5.2.3 D'après l'enquête sur les symptômes et les diagnostics menée auprès des collaborateurs de l'unité ACTU, la prévalence des diagnostics d'épicondylite radiale, de tendinite du poignet ou de l'avant-bras ainsi que du tunnel carpien était d'au minimum quatre fois plus importante dans le groupe de monteurs présents dès la mise en service de l'unité ACTU que dans une population active également exposée au risque. A cet égard, l'experte judiciaire s'est référée à l'étude de prévalence des troubles musculo-squelettiques du membre supérieur dans la population active en France faite par Roquelaure. Si l'on prenait uniquement en considération l'épicondylite, la prévalence était dix fois supérieure à celle observée dans la population générale.
5.2.4 Sur la question d'un lien de causalité entre une surcharge professionnelle du système main-bras et une épicondylite radiale, l'experte judiciaire a indiqué partager les résultats des recherches réalisées par les docteurs L._ et P._ dans le cadre de leur expertise du 5 avril 2005. D'autres études récentes basées sur des expérimentations avec des animaux venaient également confirmer que la performance de tâches répétitives et/ou demandant de la force causait des micro-traumatismes et que ces blessures conduisaient à une inflammation locale suivie de changements fibreux et structurels des tissus. En ce sens, l'experte judiciaire s'est déclarée en désaccord avec la position soutenue par Erich Bär et Bertrand Kiener, et a repris à son compte les critères d'évaluation développés par les docteurs L._ et P._ pour apprécier le caractère causal de l'activité professionnelle dans les cas d'épicondylite radiale. Les facteurs de risque primaires étaient l'application de la force, la durée, le temps de repos réduit et une relation temporelle entre cause et effet. Les vibrations, les exigences spécifiques avec la main (presser, appuyer, tenir et maintenir) ainsi que les travaux de précision constituaient les facteurs de risque secondaires. Enfin, la répétition des gestes, la durée de l'activité professionnelle, la rapidité d'exécution des gestes et le manque de formation, les facteurs de risque tertiaires. En revanche, une comorbidité, une dépression et un risque dans les loisirs, de même que l'âge, le tabac et l'appartenance au sexe féminin représentaient des facteurs diminuant la probabilité du lien de causalité.
5.2.5 En ce qui concernait K._, tous les facteurs de risque primaires et tertiaires étaient remplis, ainsi que l'un de ceux secondaires (gestes spécifiques avec la main). Parmi ces facteurs de risque professionnels, la professeure N._ a énoncé l'accomplissement de gestes contraignants, le nombre important de gestes à faire, le rythme de travail soutenu, la sollicitation unilatérale énorme de la main, la répétition des gestes en raison des pannes fréquentes de l'appareil Quantel, de même que l'absence d'opérations standard et de procédures d'utilisation normalisées, une gestion et une organisation du travail défaillante. Au sujet de l'emploi de la force, elle a précisé que le manque de formation des monteurs de la TSR avait beaucoup contribué à l'exécution systématique de gestes inadéquats comme celui d'exercer une forte pression sur le stylet tactile alors que celle-ci n'était pas véritablement exigée par l'appareil (au contraire de ce qui s'était passé au Canada où une formation adéquate des monteurs avait permis d'éviter une situation similaire à celle observée à la TSR). L'experte judiciaire a également mis en exergue la relation temporelle entre l'introduction du nouveau système de montage Quantel et l'apparition des troubles au membre supérieur droit au sein de l'équipe ACTU (18 mois en moyenne). Dans les facteurs individuels tendant à diminuer ces risques professionnels, elle a relevé l'âge de l'assurée (47 ans) et son appartenance au sexe féminin tout en exposant que ce dernier critère comptait pour peu dans les cas d'épicondylite radiale. Elle a écarté le risque découlant d'une comorbidité (diabète ou obésité) et d'une dépression, inexistant chez l'intéressée. Enfin, sous les facteurs psycho-sociaux, l'experte judiciaire a souligné le fait que K._ connaissait bien les exigences liées à l'activité de montage pour l'avoir exercée depuis de nombreuses années, qu'elle appréciait son travail et qu'elle avait été volontaire pour intégrer l'unité ACTU.
5.2.6 De la pondération de ces différents facteurs et des résultats de la prévalence des troubles du membre supérieur au sein de l'unité ACTU, la professeure N._ est parvenue à conclusion que l'épicondylite radiale et la neuropathie du nerf radial du bras droit présentées par K._ étaient causées de manière prépondérante (plus de 75%) par son travail sur la machine Quantel.
6. La juridiction cantonale a considéré que l'expertise judiciaire, étayée par une appréciation complète et dûment motivée, emportait la conviction. De son côté, la recourante remet en cause la valeur probante de celle-ci. A l'appui de son recours, elle se réfère à une prise de position du docteur V._, de la CNA, au sujet de cette expertise (appréciation du 29 septembre 2008).
7. En principe, le juge ne s'écarte pas sans motif impérieux des conclusions d'une expertise judiciaire, la tâche de l'expert étant précisément de mettre ses connaissances spéciales à la disposition de la justice afin de l'éclairer sur les aspects médicaux d'un état de fait donné. Peut constituer une raison de s'écarter d'une expertise judiciaire le fait que celle-ci contient des contradictions, ou qu'une surexpertise ordonnée par le tribunal en infirme les conclusions de manière convaincante. En outre, lorsque d'autres spécialistes émettent des opinions contraires aptes à mettre sérieusement en doute la pertinence des déductions de l'expert, on ne peut exclure, selon les cas, une interprétation divergente des conclusions de ce dernier par le juge ou, au besoin, une instruction complémentaire sous la forme d'une nouvelle expertise médicale (<ref-ruling> consid. 3b/aa p. 352 et les références citées). En d'autres termes, même s'il apprécie librement les preuves, le juge ne saurait, toutefois, sans motifs sérieux, substituer son opinion à celle de l'expert; en l'absence de tels motifs, il s'expose au reproche d'arbitraire (<ref-ruling>).
8. 8.1 Une des critiques essentielles qu'on peut discerner dans le volumineux mémoire de la recourante consiste à dire qu'aucune des études citées dans l'expertise judiciaire n'a sérieusement rapporté la preuve d'une lésion objective des structures musculo-squelettiques due à des activités répétitives, si bien que la thèse d'une origine dégénérative et multifactorielle de l'épicondylite dans laquelle l'âge et la constitution physique jouent un rôle prépondérant, soutenue par les docteurs Erich Bär et Bertrand Kiener, a gardé toute sa pertinence. En l'occurrence, le Tribunal fédéral a déjà exprimé ses doutes quant à l'acception généralisée de cette opinion par la communauté scientifique et considéré qu'elle devait être avalisée par une expertise indépendante (cf. consid. 4 supra). Or, l'analyse générale des données scientifiques sur le sujet réalisée par les docteurs L._ et P._ a justement battu en brèche la thèse des médecins de la CNA et démontré que dans certaines conditions, l'activité professionnelle peut être à l'origine d'une épicondylite radiale. La professeure N._ s'est rangée à cette analyse en précisant que d'autres études et expérimentations allaient dans le même sens. Nonobstant les remarques contenues dans la prise de position du docteur V._, on ne voit pas de motif impérieux de rejeter ces nouvelles conclusions qui sont le fait d'experts judiciaires.
8.2 Une autre critique se rapporte au diagnostic posé par la professeure N._. Selon la recourante, l'opération pratiquée par la doctoresse T._ correspondrait à un traitement chirurgical du syndrome du supinateur (ou neuropathie du nerf radial) et non de l'épicondylopathie radiale (qui se caractérise par une tendinite d'insertion). Les douleurs de l'assurée pouvaient s'expliquer par ce seul syndrome. La conclusion finale de l'expertise judiciaire, basée sur la prévalence de l'épicondylite, tombait ainsi à faux puisque de tous les monteurs concernés, K._ était la seule à avoir développé un tel syndrome. Sur ce point également, on ne voit pas de raison de mettre en doute l'avis de l'experte judiciaire. Celle-ci a répondu à ces objections lors de son audition du 13 novembre 2008 en explicitant les éléments relatifs au diagnostic qui l'avaient amenée à conclure à une atteinte du type de l'épicondylite radiale et à ne retenir que la probabilité d'une neuropathie du nerf radial. On relèvera au demeurant que le diagnostic d'épicondylite radiale ne constitue pas un avis médical isolé mais qu'il est partagé par d'autres confrères qui ont examiné l'assurée (voir notamment les rapports du docteur D._).
8.3 La recourante s'en prend encore à l'évaluation des facteurs de risques professionnels identifiés par l'experte judiciaire dans le cas de l'intimée. En particulier, elle considère que le critère de l'effort physique, qui constitue, d'après l'expertise des docteurs L._ et P._, un des facteurs ergonomiques décisifs dans le développement d'une l'épicondylite radiale, a été sous-évalué par rapport à celui de la répétition des mouvements. L'experte judiciaire n'aurait pas non plus tenu compte du fait que les monteurs travaillant auprès de la télévision canadienne et utilisant également l'appareil Quantel ne présentaient pas de troubles musculo-squelettiques. Ces reproches sont infondés. Les points précités ont au contraire fait l'objet d'une attention particulière de la part de l'experte judiciaire qui les a examinés et discutés avec soin (voir la page 8 du rapport).
8.4 Pour le surplus, la recourante se borne à une répétition des arguments qu'elle a déjà exposés dans son questionnaire à l'experte judiciaire et on ne peut que la renvoyer aux réponses que celle-ci a données.
8.5 Il s'ensuit qu'il n'y a pas de raison de s'écarter de l'expertise judiciaire du 2 juillet 2008, laquelle remplit toutes les exigences auxquelles la jurisprudence soumet la valeur probante d'un tel document. Les premiers juges étaient fondés à s'y rallier.
Le recours doit par conséquent être rejeté.
9. Vu l'issue du litige, la recourante supportera les frais judiciaires (<ref-law>) et versera à l'intimée une indemnité de dépens (art. 68 al. 1 et 4 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimée la somme de 2'800 fr. à titre de dépens pour la procédure fédérale.
4. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal vaudois et à l'Office fédéral de la santé publique.
Lucerne, le 10 novembre 2009
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Ursprung von Zwehl