Faits:
A. Assurée auprès de Swica Assurance-maladie SA (ci-après: la caisse) pour l'assurance obligatoire des soins en cas de maladie, H._ bénéficie, depuis le 3 mars 2008, de soins à domicile fournis par la société X._ SA. Le 6 février 2008 (puis le 22 janvier 2009), elle a cédé à X._ SA ses créances à l'encontre de son assureur-maladie, les factures de la société étant envoyées directement à celui-ci. Le 20 avril 2009, la caisse a rendu une décision "pour X._ SA", confirmée sur opposition le 25 novembre suivant, par laquelle elle a refusé de prendre en charge un montant de 82'784 fr. 06 réclamé par X._ SA pour des prestations effectuées en faveur de l'assurée du 3 mars au 31 août 2008.
B. B.a Le 9 octobre 2009, X._ SA a saisi le Tribunal arbitral des assurances de la République et canton de Genève de sept demandes en paiement à l'encontre de la caisse concernant des prestations fournies à sept assurés, dont H._. Lors d'une audience de conciliation, les parties ont désigné la procédure portant sur la demande en paiement relative à la prénommée pour une somme de 197'912 fr. 83 (réduite à 141'986 fr. 68 en cours de procédure) comme cause-pilote. La caisse a par ailleurs soulevé l'exception d'incompétence ratione materiae du Tribunal saisi.
B.b Le 11 janvier 2010, X._ SA a également déféré la décision sur opposition au Tribunal cantonal des assurances sociales de la République et canton de Genève, en concluant à titre préliminaire à la suspension de l'instruction du recours jusqu'à droit connu sur la compétence du Tribunal arbitral des assurances dans la procédure concernant les soins et médicaments dispensés à H._.
B.c Le Tribunal arbitral genevois des assurances a ordonné un échange d'écritures, au cours duquel la caisse a encore soulevé l'exception de litispendance en invoquant la procédure pendante devant une autre juridiction genevoise et conclu principalement à l'irrecevabilité de la demande, subsidiairement à son rejet. Statuant le 5 mars 2010 sur incident, le Tribunal arbitral a rejeté les exceptions d'incompétence et de litispendance et s'est déclaré compétent.
C. La caisse interjette un recours en matière de droit public contre ce jugement, dont elle demande l'annulation. Elle conclut principalement à la constatation de l'incompétence du Tribunal arbitral genevois des assurances; à titre subsidiaire, elle conclut à l'admission de l'exception de litispendance et à la suspension de la procédure devant le Tribunal arbitral dans l'attente de l'issue de la procédure opposant les parties devant le Tribunal cantonal genevois des assurances sociales.
X._ SA conclut au rejet du recours, tandis que l'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. Le recours au Tribunal fédéral est immédiatement ouvert contre les décisions préjudicielles et incidentes qui sont notifiées séparément et qui portent sur la compétence (art. 92 LTF).
En l'espèce, le Tribunal arbitral genevois des assurances a statué exclusivement sur les exceptions d'incompétence ratione materiae et de litispendance qu'il a rejetées en admettant sa compétence. Son jugement, rendu en dernière instance cantonale, peut donc faire l'objet d'un recours en matière de droit public. Comme la cause sur le fond relève du droit public et que la décision finale (à venir) y relative pourra être déférée au Tribunal fédéral par cette voie de droit, l'exigence selon laquelle le recours contre une décision incidente ou préjudicielle n'est ouvert que si le recours est également possible contre la décision finale (ATF 133 III 645 consid. 2.2 p. 647) est remplie. Le recours a été interjeté par la partie dont l'exception d'incompétence a été rejetée, dans le délai et la forme prévus par la loi. Il y a dès lors lieu d'entrer en matière sur le recours.
2. Le litige porte sur le point de savoir si le Tribunal arbitral des assurances genevois est compétent en raison de la matière pour connaître de la contestation portée devant lui par l'intimée.
2.1 Considérant que le litige opposait un fournisseur de prestations à un assureur, que les prestations litigieuses étaient "à la charge de l'assurance obligatoire des soins" et que la position du fournisseur de prestations était particulièrement touchée parce qu'était essentiellement contestée la question du tarif applicable aux soins fournis par l'intimée, le Tribunal arbitral a admis sa compétence en se fondant sur l'art. 89 al. 1 et 3 LAMal.
2.2 Contestant ce point de vue, la recourante invoque le fait que le fournisseur de prestations s'est prévalu de prestations au titre d'une cession de l'assurée concernée en sa faveur. Invoquant l'arrêt K 66/02 du 17 août 2004, selon lequel la cession ne modifie pas la nature juridique de la prétention qui est transmise au cessionnaire, elle soutient qu'il appartient au tribunal cantonal des assurances sociales de trancher le litige portant sur l'étendue des prestations que l'assurée peut réclamer de l'assureur-maladie.
2.3 De son côté, l'intimée prétend que le litige qui l'oppose à la recourante est un véritable litige entre fournisseur de prestations et assureur, puisque la recourante refuserait de s'acquitter des factures litigieuses au motif que le tarif à l'acte qu'elle avait appliqué aux prestations infirmières devait être remplacé par un tarif horaire. La cession de créance invoquée par la recourante ne jouerait aucun rôle, puisque même en l'absence d'une telle cession, le litige aurait dû être porté devant le Tribunal arbitral.
3. 3.1 Selon l'art. 89 al. 1 LAMal, les litiges entre assureurs et fournisseurs de prestations sont jugés par un tribunal arbitral. Comme l'a rappelé à juste titre la juridiction précédente, la notion de litige susceptible d'être soumis au tribunal arbitral doit être entendue au sens large. Il est nécessaire, cependant, que soient en cause des rapports juridiques qui résultent de la LAMal ou qui ont été établis en vertu de cette loi. Sont ainsi considérées comme litige dans le cadre de la LAMal les contestations portant sur des questions relatives aux honoraires ou aux tarifs (ATF 131 V 191 consid. 2 p. 192). Il doit par ailleurs s'agir d'un litige entre un assureur-maladie et la personne appelée à fournir des prestations, ce qui se détermine en fonction des parties qui s'opposent en réalité. En d'autres termes, le litige doit concerner la position particulière de l'assureur ou du fournisseur de prestations dans le cadre de la LAMal (ATF 132 V 303 consid. 4.1 et les arrêts cités; 131 V 191 consid. 2 p. 192). La compétence du tribunal arbitral doit être déterminée au regard des prétentions que fait valoir la partie demanderesse et de leur fondement (arrêt K 5/03 du 15 avril 2004 consid. 2.2, in RAMA 2004 n° KV 285 p. 238).
3.2 En l'occurrence, le litige a pour objet des rapports juridiques résultant de la LAMal, puisque sont en cause, au regard de la demande introduite par l'intimée en instance cantonale, l'étendue des coûts qu'elle a facturés à la recourante pour les prestations fournies à l'assurée concernée, singulièrement la manière dont certaines prestations ("soins infirmiers et matériel nécessaire") doivent être rémunérées (tarif à l'acte ou à l'heure) et le point de savoir si d'autres prestations ("prestations de pharmacie et médicaments") doivent être prises en charge par l'assurance obligatoire des soins.
4. Il reste à examiner si le litige concerne la position particulière du fournisseur de prestations ou, en d'autres termes, quelles parties s'opposent en réalité au regard de leurs prétentions.
4.1 Invoquant les art. 89 al. 3 et 42 al. 1 LAMal, l'intimée a saisi le Tribunal arbitral d'une demande dirigée contre la recourante, caisse-maladie de l'assurée à laquelle elle avait fourni des prestations, "prise en tant que représentante de son assurée ainsi qu'en tant que débitrice de la rémunération en vertu de la cession de créance consentie par cette dernière à X._". A cet égard, il ressort des constatations de la juridiction cantonale que l'assurée concernée a cédé sa créance envers la recourante les 6 février 2008 et 22 janvier 2009. Selon les déclarations y relatives, la facture du fournisseur de prestations est envoyée directement à l'assurance et l'assurée, qui en reçoit copie, "renonce à faire valoir [son] droit au remboursement des prestations que l'assurance aura versé[es] directement à X._" et reste débitrice des sommes non couvertes par l'assurance, notamment la franchise et la quote-part.
4.2 La possibilité pour l'assuré de céder sa créance en remboursement des frais de maladie au fournisseur de prestations est expressément prévue par la loi, à l'art. 42 al. 1 LAMal, selon lequel "sauf convention contraire entre les assureurs et les fournisseurs de prestations, l'assuré est le débiteur de la rémunération envers le fournisseur de prestations. L'assuré a, dans ce cas, le droit d'être remboursé par son assureur (système du tiers garant). En dérogation à l'art. 22, al. 1, LPGA, ce droit peut être cédé au fournisseur de prestations".
La notion de cession, telle qu'elle est prévue à l'art. 42 al. 1 LAMal, correspond à celle de l'art. 22 al. 1 LPGA et des art. 164 ss CO. Selon cette disposition du CO, le créancier peut céder son droit à un tiers sans le consentement du débiteur, à moins que la cession n'en soit interdite par la loi, la convention ou la nature de l'affaire. La cession n'est, sous cet angle, admissible que si elle ne modifie pas le contenu de la créance, ne porte pas atteinte ou met en péril le but de celle-ci et n'aggrave pas la position juridique du débiteur (ATF 135 V 2 consid. 6.1 p. 8 sv. et les arrêts cités). En adoptant expressément avec l'art. 42 al. 1, troisième phrase, LAMal, une dérogation à l'art. 22 al. 1 LPGA, qui prévoit l'incessibilité du droit aux prestations, le législateur a admis que le droit de l'assuré au remboursement par son assureur-maladie de la rémunération due au fournisseur de prestations peut faire l'objet d'une cession et ne présente donc pas un caractère incessible. Il voulait maintenir par là la possibilité pour le patient de céder au médecin - voire à un autre fournisseur de prestations - ses prétentions vis-à-vis de l'assurance-maladie (Rapport de la Commission du Conseil national de la sécurité sociale et de la santé, du 26 mars 1999, sur l'initiative parlementaire Droit des assurances sociales, FF 1999 4168 ad art. 29 p. 4218; cf. aussi ROBERT GMÜR, Partie générale de l'assurance sociale: moins de problèmes d'encaissement liés au régime du tiers garant, BMS 84/2003 p. 128).
La validité d'une telle cession avait déjà été admise par le Tribunal fédéral sous l'empire de la législation antérieure à l'entrée en vigueur de la LPGA (ATF 127 V 439). Une cession en vue de paiement ne modifie en effet pas le principe sur lequel repose le système du tiers garant, à savoir que c'est l'assuré qui est le débiteur de la rémunération envers le fournisseur de prestations. Le cessionnaire (ici le fournisseur de prestations) n'est obligé d'imputer sur sa créance contre le cédant (ici l'assuré) que ce qu'il reçoit effectivement du débiteur cédé (ici l'assureur-maladie) ou ce qu'il aurait reçu s'il avait agi à temps avec le soin voulu. Le cédant est donc garant de la solvabilité du débiteur cédé puisqu'il n'est libéré que jusqu'à concurrence de ce que le cessionnaire recouvre ou aurait pu recouvrer (ATF 127 V 439 consid. 2c p. 445 et les références).
4.3 La cession, dont l'effet principal est la substitution du créancier cédant par un nouveau créancier (le cessionnaire) qui acquiert, en lieu et place du cédant, la pleine titularité de la créance, ne modifie pas la nature juridique de la créance cédée: la créance cédée passe du cédant au cessionnaire dans son état effectif, c'est-à-dire avec toutes les qualités (avantages et désavantages) qui lui sont propres, ainsi que tous les droits accessoires et charges y relatives (THOMAS PROBST, in Commentaire romand, Code des obligations I, 2003, ad n° 61 et 64 art. 164 CO et n° 11 ad art. 169 CO; GAUCH/SPIRIG, in Zürcher Kommentar, 3ème éd., n° 5 et 7 des remarques préliminaires aux art. 167-173 CO). En d'autres termes, la cession ne change rien à la nature de la créance cédée et le cessionnaire se substitue au cédant et devient pleinement titulaire des droits et obligations de ce dernier, y compris les droits de nature procédurale. Pour ce motif, la cession n'a pas d'effet sur la compétence de l'autorité judiciaire appelée à se prononcer sur les contestations correspondantes (cf. ATF 111 Ib 150 consid. 1d p. 155; arrêt 2P.403/1994 du 1er février 1996 consid. 3c).
Conformément à ces principes, le Tribunal fédéral a, dans un cas qui opposait un assureur-maladie à un médecin qui s'était fait céder par son patient le droit au remboursement de la rémunération du fournisseur de prestations, jugé que le tribunal arbitral cantonal n'était pas compétent pour connaître du litige. Dès lors que l'assuré aurait dû faire valoir sa créance en remboursement devant le tribunal cantonal des assurances et que la cession de créance ne modifiait pas la compétence de celui-ci, il n'appartenait pas au tribunal arbitral de trancher la contestation portant sur la créance en remboursement (arrêt K 66/02 du 17 août 2004, in RAMA 2005 n° KV 312 p. 3). On précisera encore qu'avec cet arrêt, le Tribunal fédéral a tranché la question de la compétence ratione materiae de l'autorité de première instance dans le cas particulier d'une cession par l'assuré de ses droits au fournisseur de prestations, question qui ne s'était pas posée en ces termes dans la cause jugée par l'ATF 127 V 439, dans laquelle le Tribunal fédéral avait exclusivement examiné la validité en tant que telle de la cession (cf. le commentaire critique de l'arrêt K 66/02 de JEAN-LOUIS DUC dans PJA 5/2005 p. 626).
4.4 Il ressort des principes rappelés ci-avant et de l'arrêt K 66/02, cité, que le cessionnaire, soit en l'espèce le fournisseur de prestations en la personne de l'intimée, doit faire valoir le droit au remboursement dans la même procédure que celle qu'aurait eue à disposition l'assuré (cf. également l'arrêt B 76/06 du 20 juin 2007, in RSAS 2008 p. 179). Du point de vue de la nature et du fondement de la créance dont l'exécution est demandée, l'intimée a en effet invoqué le droit de l'assurée concernée d'être remboursée par son assureur, tel que prévu à l'art. 42 al. 1 LAMal dans le système du tiers garant. Il s'agit donc d'une créance propre à l'assurée que le fournisseur de prestations fait valoir uniquement en raison de la cession de cette prétention par l'assurée, qui aurait dû, n'eût-elle cédé ses droits, agir devant le tribunal cantonal des assurances conformément aux art. 56 ss LPGA. Par conséquent, dès lors que le fournisseur de prestations ne fait que se substituer au créancier cédant (l'assurée) en acquérant la titularité de la créance, les contestations portant sur la prétention en remboursement cédée entre le cessionnaire et l'assureur-maladie, singulièrement sur l'exécution de cette créance, doivent faire l'objet d'une décision administrative, puis, le cas échéant, d'une procédure judiciaire devant le tribunal cantonal des assurances.
En d'autres termes, c'est bien la position particulière de l'assuré qui est touchée en l'espèce, de sorte que le Tribunal arbitral genevois des assurances n'est pas compétent pour trancher le litige, les conditions de l'art. 89 al. 1 LAMal n'étant pas réalisées. Il en irait différemment si le fournisseur de prestations avait fait valoir un droit propre au paiement de ses prestations.
4.5 On ajoutera qu'en conséquence du défaut de compétence du Tribunal arbitral selon l'art. 89 al. 1 LAMal, l'art. 89 al. 3 LAMal sur lequel s'est fondée l'autorité de première instance pour admettre sa compétence n'est pas non plus applicable (cf. ATF 131 V 191 consid. 4 p. 194). Selon cette disposition, le tribunal arbitral est aussi compétent, si le débiteur de la rémunération est l'assuré (système du tiers garant, art. 42, al. 1), l'assureur représentant en pareil cas, à ses frais l'assuré au procès. Elle a pour but d'empêcher que l'assuré dans le système du tiers garant n'ait à supporter les coûts d'une prestation, lorsque le fournisseur établit une facture contraire aux tarifs applicables, en violation de la réglementation tarifaire ou lorsque la prestation ne remplit pas la condition du caractère économique (arrêt K 129/06 du 29 juin 2007 consid. 3, in SVR 2008 KV n° 2; GEBHARD EUGSTER, Bundesgesetz über die Krankenversicherung [KVG], 2010, n° 10 ad art. 89 LAMal). Il s'agissait, au moment d'introduire la norme originaire dans la LAMA, de donner à la caisse-maladie le droit de représenter l'assuré, à sa demande, devant le tribunal arbitral afin de lui épargner les complications qu'entraîne un procès (dont la poursuite requiert suivant les cas des connaissances spéciales), mais aussi celui d'intenter elle-même action (même si l'assuré a déjà payé les honoraires), car les assurés souvent n'osent pas agir contre le médecin, parce qu'ils dépendent de lui ou se sentent dépendants de lui (Message complémentaire du Conseil fédéral du 16 novembre 1962, FF 1962 II p. 1252, III.2 p. 1267, IV.2 p. 1269 et ad art. art. 25 p. 1274). L'art. 89 al. 3 LAMal vise donc les situations où l'assuré, soit pour lui son assureur-maladie, conteste la rémunération des prestations facturées par le fournisseur de prestations, respectivement demande la restitution des sommes reçues à tort par celui-ci (cf. art. 56 al. 2 let. a LAMal). Il ne trouve en revanche pas application dans le cas inverse où le fournisseur de prestations entend représenter les intérêts de l'assuré à l'encontre de la caisse-maladie, de sorte que l'assuré et son assureur-maladie ne forment pas une communauté d'intérêts, comme dans le cas d'espèce où le fournisseur de prestations fait valoir le droit propre de l'assuré au remboursement des honoraires du fournisseur, par cession de créances, à l'encontre de l'assureur-maladie. Dans la mesure où l'arrêt 9C_562/2007 du 11 décembre 2007, cité par la juridiction cantonale, pourrait laisser entendre le contraire, il ne saurait être maintenu.
4.6 Il résulte de ce qui précède que le Tribunal arbitral genevois des assurances aurait dû nier sa compétence dans le cas d'espèce et déclarer irrecevable la demande de l'intimée. Le jugement entrepris doit donc être réformé en ce sens, sans qu'il soit nécessaire d'examiner les autres griefs de la recourante, ses conclusions apparaissant bien fondées.
5. Vu l'issue de la procédure, les frais de justice seront supportés par l'intimée. Même si elle obtient gain de cause, la recourante n'a pas droit à des dépens (art. 66 al. 4 LPGA).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. Les ch. 1 à 3 du dispositif du jugement du Tribunal arbitral des assurances de la République et canton de Genève du 5 mars 2010 sont modifiés en ce sens que l'exception d'incompétence est admise et que la demande est irrecevable.
2. Les ch. 4 à 7 du dispositif dudit jugement sont annulés et la cause est renvoyée au Tribunal arbitral des assurances de la République et canton de Genève pour nouvelle décision sur les frais et dépens de la procédure antérieure.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de l'intimée.
4. Le présent arrêt est communiqué aux parties, au Tribunal arbitral des assurances de la République et canton de Genève et à l'Office fédéral de la santé publique.
Lucerne, le 2 décembre 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless