Faits:
A. C._ (alors M._) a bénéficié d'indemnités journalières versées par la Caisse Vaudoise en sa qualité d'assureur perte de gain en cas de maladie, pour la période du 19 janvier 2007 au 31 octobre 2008. Le 29 janvier 2008, elle a signé une cession de créance en faveur de la Caisse Vaudoise.
Saisi d'une demande de prestations de l'assurance-invalidité de C._, l'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'office AI) lui a alloué une demi-rente d'invalidité du 1er décembre 2006 au 31 mars 2007, ainsi qu'une rente entière d'invalidité à partir du 1er avril 2007, assorties d'une rente pour enfant correspondante. Il a également déduit des rentes dues rétroactivement à l'assurée un montant de 3'513 fr., respectivement de 29'374 fr., en faveur de la Caisse Vaudoise (décisions du 17 février 2009).
B. S'opposant à ces décisions, C._ a contesté les déductions effectuées. Après que l'écriture de l'assurée lui a été transmise comme objet de sa compétence, la Cour des assurances sociales du Tribunal cantonal fribourgeois a déclaré l'intervention recevable en tant que recours (décision du 7 juillet 2009) et appelé en cause la Caisse Vaudoise. L'assurée a précisé ses conclusions: elle requérait l'annulation des décisions administratives en ce qui concerne la déduction, en faveur de la caisse-maladie, des montants de 3'513 fr. et 29'374 fr., ainsi que, principalement, le versement de ces sommes (assorties d'un intérêt de 5 % l'an dès le 1er février 2009, respectivement le 1er septembre 2009). Elle a été déboutée par jugement du 4 avril 2012.
C. C._ interjette un recours en matière de droit public contre ce jugement, dont elle demande la réforme sous suite de dépens, en réitérant ses conclusions de première instance relatives au versement des montants en cause.
L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), n'examine en principe que les griefs invoqués (art. 42 al. 2 LTF) et fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF, auquel cas il peut les rectifier ou les compléter d'office (art. 105 al. 2 LTF).
2. Le litige porte sur le point de savoir si la recourante a droit au versement direct de la part des rentes rétroactives de l'assurance-invalidité qui a été retenue en faveur de la Caisse Vaudoise, à hauteur de 32'887 fr. (3'513 fr. + 29'374 fr.).
Le jugement entrepris expose de manière complète les règles légales et la jurisprudence relatives à la cession du droit aux prestations accordées rétroactivement par l'assureur social à l'assureur qui a pris provisoirement à sa charge des prestations (art. 22 al. 2 let. b LPGA), ainsi que la notion d'avances (art. 85bis RAI). Il suffit donc d'y renvoyer.
3. Contrairement à ce que soutient la recourante dans un premier grief d'ordre formel tiré de la violation de son droit d'être entendue, la juridiction cantonale a examiné la cause qui lui a été déférée avec un plein pouvoir d'examen en fait et en droit, de sorte que l'atteinte au droit d'être entendue constatée - l'intimé n'avait pas invité l'assurée à se déterminer sur la compensation qu'il entendait opérer - a été réparée. La recourante a en effet eu l'occasion de s'exprimer sur tous les points litigieux en procédure cantonale.
Le fait, par ailleurs, que l'autorité cantonale de recours a renoncé à examiner la question de la surindemnisation invoquée par la recourante en relation avec la cession de créances signée le 29 janvier 2008 ne consacre pas un défaut de motivation du jugement entrepris, dès lors que les premiers juges ont rejeté le recours en exposant les motifs les conduisant à une telle solution. Que ceux-ci (relatifs à l'application de l'art. 85bis al. 2 let. b RAI; consid. 4 infra) soient différents des arguments soutenus par la recourante ne relève pas d'une motivation insuffisante, mais d'une appréciation juridique divergente de celle de la recourante, qu'il lui est loisible de contester comme elle le fait en l'occurrence. On précisera à cet égard que le devoir pour l'autorité de motiver sa décision n'implique pas l'obligation d'exposer et de discuter tous les arguments invoqués par les parties (ATF 129 I 232 consid. 3.2 p. 236; 126 I 97 consid. 2b p. 102 s.).
4. La juridiction cantonale a constaté que les Conditions générales d'assurance de l'assurance collective d'une indemnité journalière selon la LCA, Catégorie PC-M, de la Caisse Vaudoise (CGA; édition du 1er septembre 2005), applicables au contrat collectif conclu par la Caisse Vaudoise et l'ancien employeur de la recourante, prévoyaient, à leur art. 23 ch. 7, la possibilité de compenser les avances consenties par la Caisse Vaudoise avec des prestations versées par des assureurs sociaux. Les premiers juges en ont déduit que l'assureur perte de gain en cas de maladie s'était de façon non équivoque réservé le droit au remboursement directement auprès de l'assurance-invalidité en sa qualité de créancier, en lieu et place de l'assurée qui avait bénéficié des avances consenties. Les conditions de l'art. 85bis al. 2 let. b RAI étaient dès lors réalisées, sans qu'il fût nécessaire d'examiner si la Caisse Vaudoise pouvait exiger la compensation sur le rétroactif de rentes d'invalidité en vertu de la cession de créance du 29 janvier 2008.
L'autorité cantonale de recours a par ailleurs retenu qu'il y avait une surindemnisation, du point de vue de l'assurance-invalidité, du seul fait que des rentes d'invalidité avaient été versées pour la même période que des indemnités journalières LCA. Dans la mesure où l'assurée contestait que celles-ci avaient été versées de manière non conforme au contrat collectif LCA, il lui appartenait de s'adresser à la Caisse Vaudoise.
5. 5.1 La recourante reproche pour l'essentiel aux premiers juges de n'avoir pas tenu compte de la cession de créance du 29 janvier 2008, soumise, selon elle, à la double condition suspensive qu'elle acceptât un décompte de prestations qu'il appartenait à la Caisse Vaudoise de lui présenter. Selon elle, l'existence de cette cession de créance, limitée à la "seule surindemnisation actualisée", avait pour effet que les CGA ne pouvaient plus être appliquées telles quelles et que le droit de l'assureur (au remboursement des avances) n'était plus établi sans équivoque (au sens de l'art. 85bis al. 2 let. b RAI). Enfin, dès lors que la Caisse Vaudoise avait limité par la cession de créances sa réclamation à la seule surindemnisation, le droit au remboursement supposait qu'elle produisît "un décompte de surindemnisation franc de toute équivoque". A défaut, la recourante ne pouvait être privée de son droit aux arriérés de rente de l'assurance-invalidité.
5. 5.1 La recourante reproche pour l'essentiel aux premiers juges de n'avoir pas tenu compte de la cession de créance du 29 janvier 2008, soumise, selon elle, à la double condition suspensive qu'elle acceptât un décompte de prestations qu'il appartenait à la Caisse Vaudoise de lui présenter. Selon elle, l'existence de cette cession de créance, limitée à la "seule surindemnisation actualisée", avait pour effet que les CGA ne pouvaient plus être appliquées telles quelles et que le droit de l'assureur (au remboursement des avances) n'était plus établi sans équivoque (au sens de l'art. 85bis al. 2 let. b RAI). Enfin, dès lors que la Caisse Vaudoise avait limité par la cession de créances sa réclamation à la seule surindemnisation, le droit au remboursement supposait qu'elle produisît "un décompte de surindemnisation franc de toute équivoque". A défaut, la recourante ne pouvait être privée de son droit aux arriérés de rente de l'assurance-invalidité.
5.2 5.2.1 Selon la police d'assurance de l'ancien employeur de la recourante (du 15 octobre 2003; couverture PC), les prestations assurées par la Caisse Vaudoise correspondaient en cas de maladie, pour les employés (hors canton de Genève), à 80 % du salaire, avec un délai d'attente de 30 jours, pour une durée de 730 jours. A ce titre, la Caisse Vaudoise a, selon les constatations de la juridiction cantonale, versé au preneur d'assurance des indemnités journalières à hauteur de 32'887 fr. 95 pour la recourante.
5.2.2 L'art. 23 ch. 1, 2 et 7 des CGA ("Prestations de tiers") a la teneur suivante:
1. Dès le moment où l'assureur incite l'assuré à s'annoncer auprès de l'institution sociale compétente pour la prise en charge des prestations, il subordonne le versement de ses prestations à l'annonce effective du cas. En cas de refus, l'assureur se réserve également le droit de réclamer les prestations avancées depuis la notification de ladite demande.
2. L'assureur intervient subsidiairement pour la part de perte de gain ou de salaire non-couvert par un assureur social, et ceci dans les limites des prestations prévues dans la police.
7. L'assureur avance la prestation assurée aussi longtemps que le droit à une rente d'une assurance sociale ou privée n'est pas établi, sous réserve de la limite des prestations prévues dans la police et du chiffre 1er du présent article. Dès l'octroi de cette rente, l'assureur est en droit d'obtenir le remboursement des avances directement auprès de l'Institution sociale concernée ou d'un éventuel autre tiers. La restitution du trop versé reste acquise à l'assureur.
5.2.3 Selon le ch. 2 ("Préambule") du contrat de cession de créance signé par la recourante le 29 janvier 2008, "le cessionnaire avance la prestation assurée aussi longtemps que le droit à une rente d'invalidité de l'assurance invalidité fédérale et d'une caisse de pension LPP n'est pas établi, sous réserve de la limite des prestations prévues dans la police et les conditions d'assurance. Dès l'octroi de cette rente, le cessionnaire est en droit d'obtenir le remboursement des avances directement auprès des organes de l'assurance invalidité fédérale et de la caisse de pension LPP concernée".
Aux termes du ch. 3 ("Objet de la créance") du contrat, "l'objet de la créance est la part d'indemnité journalière, versée par le cessionnaire, supérieure
Couverture PI: à la perte de gain effective
Couverture PC: à la prestation prévue dans la police
soit la surindemnisation de l'assuré résultant du droit à l'octroi de la rente d'invalidité de l'assurance invalidité fédérale et d'une caisse de pension LPP".
A son ch. 4 ("Actualisation de la créance"), le contrat prévoit que "lors de l'octroi d'une rente d'invalidité de l'assurance invalidité fédérale ou d'une caisse de pension LPP, la créance sera actualisée et le cessionnaire muni de la présente cession pourra obtenir de la part du débiteur de la rente le montant des avances qu'il aura effectué constitutif d'une surindemnisation".
5.3 L'argumentation de la recourante repose sur une interprétation erronée du contrat de cession de créance du 29 janvier 2008.
En effet, loin de modifier les CGA, en particulier leur art. 23 ch. 7, le contrat de cession reprend le principe exposé à cette disposition, en prévoyant également le droit de l'assureur perte de gain en cas de maladie de s'adresser directement aux organes de l'assurance-invalidité et d'exiger le versement de l'arriéré de la rente d'invalidité en compensation de son avance et jusqu'à concurrence de celle-ci.
En ce qui concerne par ailleurs l'objet de la créance, il correspond selon le ch. 3 du contrat à "la part d'indemnité journalière, versée par le cessionnaire, supérieure à la prestation prévue par la police" - la recourante disposait d'une "Couverture PC" -, de sorte que les arguments de la recourante tirés du calcul du "gain effectivement perdu" tombe à faux. Il est vrai que la référence à la part de l'indemnité journalière supérieure à la prestation prévue par la police n'est pas claire; elle laisse supposer que l'assureur perte de gain en cas de maladie verserait davantage que la prestation prévue dans la police, ce qui n'est par principe pas possible, et que la cession ne porterait que sur la différence entre la prestation prévue et celle versée. La mention de la "surindemnisation de l'assuré résultant du droit à l'octroi de la rente d'invalidité de l'assurance invalidité fédérale" montre toutefois que sont visés les arriérés de prestations d'autres assurances sociales jusqu'à concurrence des prestations contractuellement assurées. Dès lors que l'assureur perte de gain en cas de maladie intervient seulement pour la part de salaire non-couvert[e] par un assureur social, dans les limites des prestations prévues dans la police (art. 23 ch. 2 CGA), l'assurée n'a droit, pour la période concernée, qu'à la différence entre le montant de la rente de l'assurance-invalidité et celui des prestations assurées par l'assureur perte de gain en cas de maladie. Il y a donc surindemnisation de l'assurée au sens du contrat de cession dès le moment où elle perçoit des prestations de l'assurance-invalidité (ou de la prévoyance professionnelle) pour la même période pour laquelle elle a bénéficié d'indemnités journalières LCA. Dans une telle situation, le ch. 4 du contrat de cession autorise la Caisse Vaudoise à obtenir de la part de l'assurance-invalidité le montant des avances effectuées, jusqu'à hauteur de la "surindemnisation".
Selon le décompte établi le 27 octobre 2008 par la Caisse Vaudoise, celle-ci a versé, pour la période en cause, des prestations à hauteur de 32'887 fr. 95, tandis que les arriérés de rente de l'assurance-invalidité correspondants s'élevaient à 47'312 fr. Dès lors que ce montant est supérieur aux indemnités journalières versées, la Caisse Vaudoise était en droit de demander à l'assurance-invalidité le remboursement de ses avances.
5.4 La recourante conteste encore que son ancien employeur lui ait rétrocédé le montant de 32'887 fr. 95, comme constaté par la juridiction cantonale. Elle se limite cependant à affirmer que le versement y relatif n'a nullement été démontré, ce qui ne suffit pas à établir que les constatations des premiers juges à ce sujet seraient manifestement inexactes. De plus, dans la mesure où elle met en doute que son ancien employeur se soit conformé à son obligation de continuer à verser un salaire pendant une période de maladie, son grief ne fait pas partie de l'objet du présent litige (consid. 2 supra) et n'a pas à être examiné dans la présente procédure.
6. Il résulte de ce qui précède que le recours est mal fondé et doit être rejeté.
7. Vu l'issue du litige, les frais judiciaires sont mis à la charge de la recourante (art. 66 al. 1 LTF) qui ne saurait prétendre des dépens (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 26 octobre 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Moser-Szeless