Faits:
A. A._ travaillait au service de la Compagnie d'assurances X._ et était assurée contre le risque d'accident auprès de son employeur.
Le 9 juillet 2004, alors qu'elle circulait au volant de sa voiture sur l'autoroute Z._, A._ n'a pas remarqué à temps un ralentissement du trafic et, malgré un freinage d'urgence, a percuté le dernier véhicule d'une file de voitures à l'arrêt. Elle a été transportée à l'Hôpital Y._ où les médecins ont posé les diagnostics de luxation postérieure de la hanche droite, fracture multi-fragmentaire déplacée du mur postérieur du cotyle droit et contusion pré-rotulienne au genou droit. A._ a été opérée le même jour par le docteur S._. La Compagnie d'assurances X._ a pris en charge le cas.
Le rétablissement a été qualifié de favorable. En particulier, il n'y avait pas d'évolution rapide vers une coxarthrose ou une nécrose aseptique de la tête fémorale (voir les rapports intermédiaires du docteur S._). A._ a repris son travail à 100 % dès le 4 avril 2005. Dans un rapport médical du 28 février 2006 établi à l'intention de la Compagnie d'assurances X._, le docteur J._ a fait état d'une rhizarthrose du pouce gauche associée à une tendinite de De Quervain. Le 24 juillet 2008, l'assurée s'est soumise à un IRM de son genou droit qui a montré des signes compatibles avec un syndrome de la bandelette ilio-tibiale ainsi qu'une "chondropathie de grade IV avec mise à nue sur environ 4 à 5 mm à hauteur de la zone portante du condyle fémoral interne".
Afin de déterminer l'étendue de ses prestations, la Compagnie d'assurances X._ a confié une expertise à la doctoresse P._. Celle-ci a conclu que les atteintes se trouvant en lien de causalité avec l'accident du 9 juillet 2004 consistaient en une gêne fonctionnelle au niveau de la hanche et en un syndrome fémoro-patellaire au genou droit, sans se prononcer spécifiquement sur la chondropathie; l'atteinte à l'intégrité était évaluée à 10 % (rapport du 20 octobre 2008).
Se fondant sur cette expertise, la Compagnie d'assurances X._ a rendu une décision le 7 novembre 2008, par laquelle elle a alloué à l'assurée une indemnité pour atteinte à l'intégrité d'un taux de 10 % et l'a informée qu'elle considérait le traitement des suites de l'accident du 9 juillet 2004 comme étant terminé, sous réserve de la prise d'antalgiques et d'anti-inflammatoires. En outre, aucune rente n'était due.
A._ a formé opposition à cette décision. Le 1er juillet 2009, elle a subi une intervention à son genou droit pratiquée par le docteur S._, qui a confirmé l'existence d'une lésion cartilagineuse du condyle interne de IV et l'a attribué à l'accident de 2004. Après que les docteurs P._ et S._ se sont déterminés à plusieurs reprises sur la question de la causalité de cette atteinte, la Compagnie d'assurances X._ a écarté l'opposition dans une nouvelle décision du 22 octobre 2010.
B. Saisi d'un recours contre cette dernière décision, la Cour des assurances sociales du Tribunal cantonal vaudois l'a rejeté, par jugement du 9 février 2012.
C. A._ interjette un recours en matière de droit public contre ce jugement, dont elle requiert l'annulation, sous suite de frais et dépens. Elle conclut, principalement, à la prise en charge par la Compagnie d'assurances X._ de tous les frais médicaux découlant de l'accident du 9 juillet 2004 (notamment aussi pour ses lésions au genou droit), et à l'octroi d'une indemnité pour atteinte à l'intégrité sur la base d'un taux de 30 % au moins; subsidiairement, au renvoi de la cause à la juridiction cantonale pour complément d'instruction sous la forme d'une expertise judiciaire et nouvelle décision.
La Compagnie d'assurances X._ conclut au rejet du recours. De son côté, l'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. Dès lors que le litige concerne des prestations aussi bien en nature (traitement médical) qu'en espèces (indemnité pour atteinte à l'intégrité), le Tribunal fédéral dispose d'un pouvoir d'examen étendu en ce qui concerne les faits communs aux deux types de prestations (voir arrêt 8C_584/2009 du 2 juillet 2010 consid. 4).
2. 2.1 Les premiers juges ont correctement exposé les dispositions légales et les principes jurisprudentiels relatifs à l'exigence d'un lien de causalité naturelle et adéquate entre l'événement accidentel et l'atteinte à la santé pour fonder le droit aux prestations par l'assureur-accidents (cf. ATF 129 V 177 consid. 3.1 p. 181, 402 consid. 4.3.1 p. 406; 119 V 335, consid. 1 p. 337; 118 V 286 consid. 1b et les références p. 289). Il en va de même des règles régissant l'allocation d'une indemnité pour atteinte à l'intégrité. Il suffit par conséquent de renvoyer à leurs considérants.
2.2 On ajoutera que d'après une jurisprudence constante, l'assureur-accidents est tenu, au stade de la procédure administrative, de confier une expertise à un médecin indépendant, si une telle mesure se révèle nécessaire. Lorsque de telles expertises sont établies par des spécialistes reconnus, sur la base d'observations approfondies et d'investigations complètes, ainsi qu'en pleine connaissance du dossier, et que les experts aboutissent à des résultats convaincants, le juge ne saurait les écarter aussi longtemps qu'aucun indice concret ne permet de douter de leur bien-fondé (ATF 125 V 351 consid. 3b/bb p. 353).
2.3 On rappellera également que dans le domaine des assurances sociales, le juge fonde sa décision, sauf dispositions contraires de la loi, sur les faits qui, faute d'être établis de manière irréfutable, apparaissent comme les plus vraisemblables, c'est-à-dire qui présentent un degré de vraisemblance prépondérante. Il ne suffit donc pas qu'un fait puisse être considéré seulement comme une hypothèse possible. Parmi tous les éléments de fait allégués ou envisageables, le juge doit, le cas échéant, retenir ceux qui lui paraissent les plus probables (ATF 126 V 353 consid. 5b p. 360; 125 V 193 consid. 2 p. 195 et les références; cf. ATF 130 III 321 consid. 3.2 et 3.3 p. 324 s.). Aussi n'existe-t-il pas, en droit des assurances sociales, un principe selon lequel l'administration ou le juge devrait statuer, dans le doute, en faveur de l'assuré (ATF 126 V 319 consid. 5a p. 322).
3. En bref, la juridiction cantonale a retenu que les conclusions de la doctoresse P._, rendues dans le cadre d'une expertise administrative, étaient complètes et convaincantes, et qu'il ne se justifiait pas de s'en écarter ou d'ordonner une nouvelle expertise nonobstant l'avis divergent du chirurgien traitant de l'assurée, le docteur S._. En effet, l'appréciation de ce dernier reposait davantage sur des hypothèses que sur des indices concrets.
Pour la recourante, plusieurs éléments auraient dû conduire la juridiction cantonale à émettre des réserves sur le bien-fondé des conclusions de la doctoresse P._. Tout d'abord, celle-ci avait omis de retenir le diagnostic de chondropathie et de se prononcer sur la causalité entre cette affection et l'accident dans son expertise du 20 octobre 2008. Ensuite, elle n'avait pas discuté tous les éléments mis en avant par le docteur S._. En tout état de cause, en présence de deux avis médicaux contradictoires, il fallait considérer que les faits n'étaient pas suffisamment élucidés et mettre en oeuvre une nouvelle expertise.
4. 4.1 Il est vrai que le rapport d'expertise du 20 octobre 2008 ne contient aucune considération sur la chondropathie présentée par l'assurée, ni sur la question du lien de causalité entre cette atteinte et l'accident de 2004. Cela ne saurait toutefois discréditer l'ensemble des déclarations de l'experte, puisqu'après avoir été rendue attentive sur le fait que la contestation portait plus particulièrement sur cette problématique, celle-ci a pris position à ce sujet dans un rapport complémentaire du 8 juin 2009. Par ailleurs, la doctoresse P._ a encore été invitée à répondre aux remarques et objections du docteur S._ après que celui-ci a pratiqué une arthroscopie au genou droit de l'assurée, de sorte qu'on peut dire qu'elle s'est prononcée en toute connaissance de cause.
4.2 En substance, l'experte a retenu qu'il n'y avait pas de preuves suffisantes pour admettre un rapport de causalité supérieur à 50 % entre la chondropathie et le traumatisme survenu en 2004. Selon elle, en effet, on ne pouvait exclure une origine dégénérative de cette atteinte étant donné que A._ n'avait pas fait l'objet d'investigations médicales au genou droit avant 2008 (hormis les radiographies axiales réalisées au jour de l'accident qui n'avaient pas montré de subluxation rotulienne ni d'arrachement) et que celle-ci était âgée de 62 ans au moment le diagnostic de chondropathie a été posé. En outre, les plaintes au genou droit exprimées par l'assurée dans les suites immédiates de l'accident étaient à rattacher au compartiment fémoro-patellaire, dès lors qu'elles s'étaient manifestées sous la forme de douleurs à la descente des escaliers et en position assise prolongée (voir les rapports des 8 juin, 25 août et 21 décembre 2009).
Le docteur S._, de son côté, considère que l'atteinte est d'origine traumatique. L'accident de 2004 avait exercé une énergie mécanique suffisamment forte sur le genou droit de A._ - preuve en était les atteintes sévères à la hanche qu'elle avait subies - pour avoir pu provoquer une lésion cartilagineuse qui, au fil des années, s'était dégradée au point de se développer en chondropathie de grade IV. Dans un tel contexte, il ne fallait pas uniquement se référer à l'âge de la recourante ou à l'absence de constatation initiale d'une lésion cartilagineuse. A._ présentait des douleurs fémoro-rotuliennes et une atteinte de 4 mm environ du condyle interne, ce qui parlait plutôt en faveur d'une lésion traumatique focale au lieu d'une arthrose diffuse. De plus, la chondropathie touchait uniquement le genou atteint à l'occasion de l'accident, alors que l'autre était asymptomatique (voir les rapports des 15 janvier, 27 juin et 7 septembre 2009).
4.3 En l'espèce, et contrairement à ce que prétend la recourante, la doctoresse P._ a pris en considération les arguments présentés par le docteur S._ et n'a d'ailleurs pas exclu que les choses se soient passées comme celui-ci le retient. Elle a en revanche estimé que l'origine traumatique de la chondropathie ne pouvait être tenue pour établie au degré de la vraisemblance prépondérante en raison de l'absence de preuve médicale allant dans ce sens (imagerie ou autre investigation médicale avant 2008), du temps écoulé depuis l'accident et de l'âge de la recourante. Il n'est pas contestable que ces considérations sont bien motivées et reposent sur des motifs objectifs qui ne sont du reste pas remis en cause en tant que tels par le docteur S._. Quant à ce dernier, sans pour autant dénier toute pertinence à son appréciation, il n'apporte aucun élément concret et tangible de nature à renverser les conclusions de l'experte qui, il convient de le rappeler, est une spécialiste externe à l'intimée. On ne voit pas non plus, eu égard aux arguments en présence et à défaut de documentation médicale antérieure à 2008, qu'une nouvelle expertise pourrait apporter cet élément décisif. En définitive, on doit constater qu'en l'état des circonstances, il n'est pas possible de déterminer si la chondropathie dont souffre l'assurée est d'origine accidentelle ou dégénérative et que les deux hypothèses se valent sans que l'une puisse l'emporter sur l'autre. Dans ces conditions, il faut admettre que la preuve du lien de causalité entre l'atteinte en cause et l'accident assuré n'a pas été rapportée, et il revient à la recourante de supporter les conséquences de cette absence de preuve.
5. La recourante a également conclut à l'allocation d'une indemnité pour atteinte à l'intégrité d'un taux de 30 % au minimum. Dès lors que l'intimée n'a pas à intervenir pour la chondropathie, les suites de cette affection ne sauraient fonder une augmentation du taux déjà reconnu pour l'atteinte résiduelle à la hanche. En ce qui concerne ce dernier point, il n'y a pas non plus lieu d'allouer un taux plus élevé pour tenir compte d'un éventuel risque d'aggravation sous forme de coxarthrose ou d'une ostéonécrose aseptique. On peut à cet égard renvoyer à l'appréciation de la juridiction cantonale selon laquelle une telle aggravation n'est, au vu des constatations médicales au dossier, ni prévisible ni quantifiable à ce jour (cf. art. 36 al. 4 OLAA; RAMA 1998 n° U 320 p. 602 consid. 3). L'assurée n'y oppose d'ailleurs aucune critique spécifique dans son recours.
6. Il découle de ce qui précède que le recours doit être rejeté.
Vu l'issue du litige, la recourante doit supporter les frais judiciaires (art. 66 al. 1 LTF). Bien qu'elle obtienne gain de cause, l'intimée n'a pas droit aux dépens qu'elle prétend (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal vaudois, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 26 mars 2013
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Juge présidant: Ursprung
La Greffière: von Zwehl