Faits:
A. Y._ a travaillé en qualité de caissière pour le compte de la société X._ depuis 1990. A ce titre, elle était assurée contre le risque de perte de gain maladie auprès de SWICA, Assurance-maladie SA (ci-après : SWICA).
En incapacité de travail depuis le 29 mai 2005, Y._ a déposé le 6 octobre 2005 une demande de prestations AI en vue de l'octroi d'une orientation professionnelle et d'une rente en raison d'une pneumonie bilatérale sévère à légionelle. Après instruction, l'Office de l'assurance-invalidité du canton de Fribourg (ci-après : l'office AI) a octroyé à Y._ une rente entière d'invalidité à partir du 1er octobre 2007 (décision du 28 septembre 2007). Le 20 novembre 2007, l'office AI a accordé rétroactivement une rente d'un même taux pour la période du 1er mai 2006 au 30 septembre 2007. Dans cette décision, il a chiffré l'arrérage dû à l'assurée à 28'328 fr. De ce montant, l'office AI a déduit 16'282 fr. perçus en trop par E._, époux de l'assurée, et 9'174 fr. remboursés à SWICA au titre des indemnités journalières payées pour la période en cause.
B. Y._ a déféré cette décision à la Cour des assurances sociales du Tribunal administratif du canton de Fribourg (actuellement la Cour des assurances sociales du Tribunal cantonal) en demandant que les rentes arriérées lui soient versées sans aucune déduction.
Par jugement du 7 juillet 2010, la juridiction cantonale a admis partiellement le recours. Elle a annulé la déduction de 9'174 fr. opérée en faveur de SWICA, estimant que les conditions d'un versement direct n'étaient pas données, et a confirmé pour le surplus la décision de l'office AI.
C. SWICA interjette un recours en matière de droit public contre ce jugement, en concluant à son annulation et à la reconnaissance de son droit au remboursement direct des prestations avancées à l'assurée.
Dans sa prise de position, l'office AI a produit une détermination de la Caisse de compensation du canton de Fribourg, qui propose l'admission du recours. Y._ et l'Office fédéral des assurances sociales ont renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente ; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p. 140).
2. Est seule litigieuse la question de savoir si la recourante est en droit d'obtenir directement de l'office AI le remboursement des prestations dont elle avait fait l'avance à l'assurée.
3. L'art. 22 al. 1 LPGA prévoit que le droit aux prestations des assureurs sociaux est incessible et que toute cession ou mise en gage est nulle. L'alinéa 2 stipule les exceptions en prévoyant la possibilité de céder les prestations accordées rétroactivement par l'assureur social à l'employeur ou à une institution d'aide sociale publique ou privée dans la mesure où ceux-ci ont consenti des avances (let. a) ainsi qu'à l'assureur qui a pris provisoirement à sa charge des prestations (let. b).
D'après l'art. 85bis al. 1 RAI, dont la base légale est l'art. 22 LPGA, les employeurs, les institutions de prévoyance professionnelle, les assurances-maladie, les organismes d'assistance publics ou privés ou les assurances en responsabilité civile ayant leur siège en Suisse qui, en vue de l'octroi d'une rente de l'assurance-invalidité, ont fait une avance peuvent exiger qu'on leur verse l'arriéré de cette rente en compensation de leur avance et jusqu'à concurrence de celle-ci (...). Les organismes ayant consenti une avance doivent faire valoir leurs droits au moyen d'un formulaire spécial, au plus tôt lors de la demande de rente et, au plus tard au moment de la décision de l'office AI. Ce régime n'a pas été modifié par l'entrée en vigueur de l'art. 22 al. 2 LPGA (arrêt I 518/05 du 14 août 2006, in SVR 2007 IV n° 14 p. 52).
Selon l'art. 85bis al. 2 RAI, sont considérées comme avances, d'une part, les prestations librement consenties, que l'assuré s'est engagé à rembourser, pour autant qu'il ait été convenu par écrit que l'arriéré serait versé au tiers ayant effectué l'avance (let. a) et, d'autre part, les prestations versées, contractuellement ou légalement, pour autant que le droit au remboursement, en cas de paiement d'une rente, puisse être déduit sans équivoque du contrat ou de la loi (let. b).
D'après l'art. 85bis al. 3 RAI, les arrérages de rente peuvent être versés à l'organisme ayant consenti une avance jusqu'à concurrence, au plus, du montant de celle-ci et pour la période à laquelle se rapportent les rentes.
Les avances librement consenties selon l'art. 85bis al. 2 let. a RAI supposent le consentement écrit de la personne intéressée pour que le créancier puisse en exiger le remboursement.
4. 4.1 La recourante fait valoir que la juridiction cantonale n'a pas pris en compte l'existence d'une « procuration » par laquelle l'assurée donnait son accord à un remboursement direct des prestations avancées. Ce faisant, la juridiction cantonale a retenu un état de fait incomplet. Si celui-ci avait été complet, les premiers juges auraient dû constater que les conditions de l'art. 85bis al. 1 RAI étaient données et, partant, auraient dû admettre la validité du versement direct statué par l'office AI.
4.2 L'autorité cantonale n'a pas abordé la question d'un éventuel consentement écrit de l'assurée pour un remboursement direct.
4.3 Sur cette question, l'état de fait du jugement cantonal doit être complété (en vertu de l'art. 105 al. 2 LTF) en ce sens que figure au dossier une « procuration » signée par l'assurée le 23 mars 2005 (recte 2006) qui comporte un troisième point dont la teneur est : « autorise l'Assurance-maladie SWICA (dans le cadre d'une surassurance éventuelle) à déduire, des prestations allouées par l'AI a posteriori, les sommes versées à titre d'avance pour la même période dans le cadre de l'assurance indemnité journalière, toutefois, au maximum jusqu'à concurrence du montant alloué par la caisse de compensation, cas échéant de notre participation ». L'existence de cette « procuration » n'est pas contestée par l'assurée, qui ne prétend pas non plus qu'elle l'aurait retirée.
4.4 L'utilisation du formulaire spécial prévu à l'art. 85bis al.1 RAI est une prescription d'ordre (ATF 131 V 242 consid. 6.2 p. 249, cité dans l'arrêt I 256/06 du 26 septembre 2007). Ainsi, le tiers qui veut obtenir directement un paiement de prestations rétroactives de l'AI, peut établir l'accord du bénéficiaire de celles-ci par un autre moyen que le formulaire ad hoc. L'existence d'un éventuel accord n'étant pas exclue d'emblée pour des raisons formelles, il y a lieu d'examiner si la recourante peut fonder son droit sur la « procuration » signée par l'assurée.
4.5 Le texte du troisième point de la « procuration » fait clairement état d'une autorisation donnée à SWICA de déduire à certaines conditions des arriérés de rentes AI les montants versés dans le cadre de l'assurance indemnité journalière. En signant un tel document, l'assurée a accepté que les prestations rétroactives de l'AI soient versées directement à la recourante. Ainsi, Y._ a bien consenti au versement des arrérages de l'AI directement à la recourante, dans une forme admissible au regard de l'art. 85bis al. 1 RAI.
5. Dès lors que la décision de l'office AI du 20 novembre 2007 était en tous points conforme au droit, la juridiction cantonale aurait dû rejeter le recours dont elle était saisie. Il s'ensuit que le recours en matière de droit public sera admis et le jugement cantonal réformé en ce sens.
6. La procédure est onéreuse. Dans la mesure où elle ne concerne pas un litige portant sur des prestations de l'assurance-invalidité à proprement parler mais uniquement sur les modalités de paiement de celles-ci, les frais judiciaires ne sont pas fixés en application de l'art. 65 al. 4 let. a LTF mais bien selon l'art. 65 al. 2 et 3 let. b LTF en prenant en compte la valeur litigieuse.
Devant le Tribunal fédéral, les frais judiciaires sont mis en règle générale à la charge de la partie qui succombe (art. 66 al. 1 LTF). Cependant les frais causés inutilement sont supportés par celui qui les a engendrés (art. 66 al. 3 LTF). En l'espèce, il apparaît que la recourante a certainement occasionné la présente procédure et, de ce fait, provoqué des frais inutiles. En effet, en procédure cantonale Y._ a contesté la possibilité pour l'office AI de rembourser directement SWICA. La juridiction cantonale constatant que celle-ci était directement touchée par la procédure, lui a demandé de prendre position et de produire le contrat d'assurance ainsi que les conditions générales y afférentes. SWICA a répondu en transmettant les documents demandés mais sans donner un moindre élément de réponse aux arguments de Y._ et sans faire allusion à la « procuration » sur laquelle elle a fondé son recours devant le Tribunal fédéral. Dans ces conditions, on ne peut pas reprocher à la juridiction cantonale de ne pas avoir pris en compte la « procuration », qui figure bien au dossier mais sans explication et hors de son contexte (absence de la lettre d'accompagnement). De plus, si la juridiction cantonale avait été rendue attentive à l'existence de la « procuration » elle aurait certainement appliqué l'arrêt du 26 septembre 2007 (I 256/06) auquel elle se réfère expressément et qui règle ce problème.
Compte tenu de ces éléments, les frais de la procédure de dernière instance seront répartis entre la recourante qui obtient gain de cause et l'assurée intimée qui succombe, à parts égales (art. 66 al. 1 et 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. Le jugement de la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg du 7 juillet 2010 est réformé en ce sens que le recours interjeté contre la décision de l'Office de l'assurance-invalidité du canton de Fribourg du 20 novembre 2007 est rejeté.
2. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante et de l'intimée, par 500 fr. chacune.
3. La cause est renvoyée à la Cour des assurances sociales du Tribunal cantonal fribourgeois pour nouvelle décision sur les frais et dépens de la procédure cantonale.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, à l'Office fédéral des assurances sociales, à l'Office AI du canton de Fribourg et à la Caisse de compensation du canton de Fribourg.
Lucerne, le 20 juin 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Berthoud