Faits :
A.
A.a. La Fondation A._ (ci-après: la Fondation), fondation de droit privé constituée en 2006, est une institution spécialisée dans le domaine du handicap psychique. Depuis sa création, elle est affiliée en tant qu'employeur auprès de la Caisse de compensation du Canton de Fribourg (ci-après: la Caisse cantonale de compensation) pour le régime de l'assurance vieillesse et survivants (AVS) et de l'assurance-invalidité (AI), pour le régime fédéral des allocations pour perte de gain en cas de service et de maternité (APG), pour l'assurance-chômage (AC) ainsi que pour le régime des allocations familiales. Le 27 août 2019, elle a demandé son adhésion à la fédération professionnelle B._ et, partant, son transfert au 1 er janvier 2020 à la Caisse de compensation professionnelle C._ (ci-après: la Caisse C._) pour les régimes AVS, AI, APG, AC ainsi que pour celui des allocations familiales.
A.b. Par décision du 19 septembre 2019, confirmée sur opposition le 22 novembre 2019, la Caisse cantonale de compensation a refusé le transfert de la Fondation à la Caisse C._ pour le régime des allocations familiales, le transfert étant accepté pour le surplus. Elle a considéré que la Fondation était une institution qui dépendait de l'Etat au sens de l'art. 34 al. 1 let. b de la loi cantonale sur les allocations familiales (cf. consid. 3.1.3 infra) - dans la mesure où elle bénéficiait d'un financement étatique tant direct (à travers une garantie de déficit qui avait notamment conduit à l'injection d'un montant de 14'900'000 fr. pour l'année 2017) qu'indirect (en tant qu'une partie importante de ses résidents touchait des prestations complémentaires) - et qui devait ainsi obligatoirement être affiliée auprès de la Caisse cantonale de compensation pour le régime des allocations familiales.
B.
Par arrêt du 4 janvier 2021, la I re Cour des assurances sociales du Tribunal cantonal fribourgeois a admis le recours formé par la Fondation contre la décision sur opposition du 22 novembre 2019. Elle a annulé celle-ci en tant qu'elle refusait le transfert de la Fondation de la Caisse cantonale de compensation à la Caisse C._ pour le régime des allocations familiales et a autorisé ce transfert.
C.
La Caisse cantonale de compensation interjette un recours en matière de droit public contre cet arrêt, en concluant à sa réforme dans le sens de la confirmation de la décision sur opposition du 22 novembre 2019. Elle sollicite en outre l'octroi de l'effet suspensif.
L'intimée conclut principalement à l'irrecevabilité du recours et subsidiairement à son rejet, ainsi qu'au rejet de la demande d'effet suspensif. La cour cantonale a renoncé à formuler des observations. Les parties ont spontanément répliqué et dupliqué.

Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (<ref-law>) rendu en matière de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans la forme et le délai prévus par la loi. (art. 42 et 100 LTF), par une partie qui a qualité pour recourir (art. 89 al. 2 let. d LTF en corrélation avec l'<ref-law> [RS 830.1] et l'art. 19 al. 1 de l'ordonnance du 31 octobre 2007 sur les allocations familiales [OAFam; RS 836.21]). Il est donc recevable (cf. arrêt 8C_9/2011 du 30 juin 2011 consid. 1).
2.
Sauf dans les cas mentionnés à l'<ref-law>, la violation du droit cantonal ne peut pas être invoquée en tant que telle devant le Tribunal fédéral. Il est cependant possible de faire valoir que son application viole le droit fédéral, comme la protection contre l'arbitraire (art. 9 Cst.) ou d'autres droits constitutionnels (<ref-ruling> consid. 4.4.1). Le Tribunal fédéral examine de tels moyens uniquement s'ils sont formulés conformément aux exigences de motivation qualifiée prévues à l'<ref-law>, à savoir expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 3.2 et la référence). Appelé à revoir l'interprétation d'une norme cantonale ou communale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - y compris préférable - paraît possible (<ref-ruling> consid. 7.1).
3.
3.1. Il convient tout d'abord d'exposer ci-après les dispositions légales applicables.
3.1.1. Sous le titre marginal "Caisses de compensation pour allocations familiales admises", l'art. 14 de la loi fédérale du 24 mars 2006 sur les allocations familiales (LAFam; RS 836.2) prévoit que les organes d'exécution sont les caisses de compensation pour allocations familiales professionnelles et interprofessionnelles reconnues par les cantons (let. a), les caisses cantonales de compensation pour allocations familiales (let. b) et les caisses de compensation pour allocations familiales gérées par des caisses de compensation AVS (let. c).
3.1.2. Selon l'<ref-law>, les cantons créent une caisse cantonale de compensation pour allocations familiales et en transfèrent la gestion à la caisse cantonale de compensation AVS. L'<ref-law> dispose que les caisses de compensation pour allocations familiales sont soumises à la surveillance des cantons et que ceux-ci, sous réserve et en complément de la LAFam et en tenant compte également des structures organisationnelles et de la procédure régissant l'AVS, édictent les dispositions nécessaires; ils règlent en particulier la création obligatoire d'une caisse cantonale de compensation (let. a), l'affiliation aux caisses et l'enregistrement des personnes assujetties selon l'art. 11 al. 1 de la loi (let. b) et les conditions du passage d'une caisse à une autre (let. g).
3.1.3. En application de cette délégation de compétence, le canton de Fribourg a édicté la loi cantonale du 26 septembre 1990 sur les allocations familiales (LAFC; RS/FR 836.1). L'art. 36 al. 1 LAFC dispose que le libre passage entre les caisses est garanti, sous réserve des dispositions de l'art. 34. Celui-ci prévoit que sont obligatoirement affiliées à la Caisse cantonale de compensation pour allocations familiales notamment (let. b) les corporations de droit public (canton, communes, paroisses) et les institutions qui en dépendent, pour autant qu'elles ne restent pas affiliées à une autre caisse. L'art. 20 du règlement d'application de la LAFC (RS/FR 836.11) précise que le passage d'une caisse de compensation à une autre ne peut intervenir qu'à la fin d'une année, après démission notifiée par lettre recommandée le 31 août précédent au plus tard.
3.1.4. Sur le plan des cotisations AVS, l'<ref-law> prévoit que sont affiliés aux caisses de compensation créées par des associations professionnelles tous les employeurs et personnes exerçant une activité lucrative indépendante qui sont membres d'une association fondatrice (al. 1, 1re phrase), tandis que sont affiliés aux caisses de compensation cantonales tous les employeurs et personnes exerçant une activité lucrative indépendante qui ne sont pas membres d'une association fondatrice d'une caisse de compensation, ainsi que les personnes n'exerçant aucune activité lucrative et les assurés qui sont employés ou ouvriers d'un employeur non soumis à l'obligation de payer des cotisations (al. 2).
3.2.
3.2.1. La cour cantonale a exposé que l'obligation incombant à certains employeurs de s'affilier auprès de la Caisse cantonale de compensation plutôt qu'auprès d'une autre caisse, qui avait conduit la recourante à refuser le transfert de l'intimée à la Caisse C._, avait initialement été introduite dans l'ancienne loi cantonale du 14 février 1945 créant en faveur des salariés une caisse cantonale de compensation pour allocations familiales lors de sa modification de 1954. L'art. 12 let. b de cette loi prévoyait alors l'affiliation obligatoire à la Caisse cantonale de compensation des "administrations publiques". A cet égard, le message du 26 janvier 1954 relatif à cette disposition expliquait qu'il s'agissait "d'une mesure administrative indispensable, si l'on [voulait] garder à la caisse cantonale sa clientèle naturelle. D'autre part, le mode de rémunération de certains fonctionnaires et en particulier des instituteurs, [faisait] de cette disposition une nécessité" (Bulletin Officiel des séances du grand conseil du canton de Fribourg [BOGC/FR] 1954, p. 207).
Lors de l'entrée en vigueur de la LAFC, les destinataires historiques de cette disposition - les "administrations publiques" - avaient été élargis pour inclure les "corporations de droit public (canton, communes, paroisses) et les institutions qui en dépendent" (art. 34 al. 1 let. b LAFC). Le message se limitait à indiquer à ce sujet qu'il n'y avait rien de changé par rapport à l'affiliation obligatoire, et parfois subsidiaire, de certains employeurs auprès de la Caisse cantonale de compensation (Message du 22 août 1989 accompagnant le projet de loi sur les allocations familiales, BOGC/FR 1990, 1er cahier, p. 189), et lors des débats au Grand Conseil, la notion d'"institution dépendante" n'avait pas été évoquée (BOGC/FR 1990, 2e cahier, p. 1497 ss).
3.2.2. En revanche, l'obligation d'affiliation auprès de la Caisse cantonale de compensation avait été critiquée par certains parlementaires en tant qu'elle s'adressait aux communes et aux paroisses, de sorte qu'une limitation de cette obligation aux seules corporations de droit public cantonales avait été proposée. Cette proposition avait toutefois été refusée au motif notamment que les communes et les paroisses étaient, de par la législation fédérale, obligatoirement affiliées à une caisse de compensation publique pour l'AVS, de sorte que la possibilité d'une affiliation à une caisse différente pour les allocations familiales représenterait une complication inutile (BOGC/FR 1990, 2e cahier, p. 1497 ss). Selon les juges cantonaux, cette explication sous-entendait que l'affiliation obligatoire en matière d'allocations familiales devait correspondre à l'affiliation obligatoire en matière d'AVS et qu'elle visait ainsi les employeurs, tels que le canton ou les communes, qui n'étaient pas membres d'une association professionnelle (<ref-law>).
Or en l'espèce, l'intimée, organisée sur le mode d'une fondation de droit privé, était désormais - depuis 2019 - membre d'une association professionnelle, B._. Cette adhésion impliquait de plein droit, conformément à l'<ref-law>, son affiliation à la Caisse C._ pour le régime de l'AVS, de l'AI, des APG et de l'AC. La décision sur opposition du 22 novembre 2019, dans la mesure où elle impliquait une affiliation auprès d'une caisse pour le régime de l'AVS et une autre affiliation auprès d'une caisse différente pour celui des allocations familiales, était ainsi susceptible d'engendrer une "complication inutile" comme évoqué lors des débats parlementaires. On pouvait même se demander si, dans les faits, la double affiliation imposée par la recourante ne constituait pas, plus encore qu'une complication administrative inutile, une restriction, par effet dissuasif, de la liberté de l'intimée de s'affilier désormais à une fédération professionnelle.
3.2.3. De surcroît, lors de la deuxième lecture du projet de loi, il avait été souligné que "la logique du système des assurances sociales, aussi bien sur le plan fédéral que sur le plan cantonal, veut que les employeurs privés s'affilient à une caisse privée et que les institutions publiques s'affilient à une caisse publique", moyennant la liberté laissée aux employeurs privés qui ne peuvent pas être reçus dans les caisses privées de s'affilier également à la caisse publique. Là encore, selon les juges cantonaux, ces éléments laissaient penser que le législateur n'entendait nullement, à l'époque, englober des entités de droit privé dans le cercle des destinataires de l'affiliation obligatoire auprès de la Caisse cantonale de compensation. La discussion relative à cette disposition s'était d'ailleurs conclue sur le principe que "le public s'affilie au public, comme le privé s'affilie à une caisse privée" (BOGC/FR 1990, 3e cahier, p. 2263 ss). Cela revenait à dire que, dans le premier cas, les prestations sociales étaient financées par des cotisations issues de la masse salariale de l'Etat, alors que, dans le second cas, elles étaient financées par des sources privées, à savoir le budget propre d'une personne morale de droit privé. Le fait que des subventions publiques puissent éventuellement constituer une partie - voire la totalité - des recettes d'une telle entité n'y changeait rien.
3.2.4. A la lumière de ce qui précède, la cour cantonale a considéré que la volonté du législateur cantonal ne pouvait pas être interprétée dans le sens d'un élargissement du cercle des employeurs obligés de s'affilier à la Caisse cantonale de compensation allant jusqu'à englober des personnes morales de droit privé pour le seul motif qu'elles toucheraient un subventionnement étatique. Une telle interprétation serait d'ailleurs contraire à la garantie de libre passage entre les caisses prévue par l'art. 36 LAFC, jusqu'à la vider de sa substance. Le seul fait de bénéficier d'une éventuelle garantie de déficit de la part de l'Etat ne pouvait pas suffire pour faire d'une personne morale de droit privé une institution "dépendante" de l'Etat, de manière à la placer dans la même catégorie que le canton, les communes et les paroisses. Quant à l'argument selon lequel l'intimée bénéficierait d'un financement étatique indirect au vu de la part importante de ses résidents touchant des prestations complémentaires, il pouvait selon les juges cantonaux être écarté d'emblée, tant il semblait saugrenu de penser que le simple fait, pour une quelconque entreprise, de compter parmi sa "clientèle" des bénéficiaires de prestations complémentaires pourrait conduire à la considérer comme dépendant de l'Etat. La recourante avait ainsi outrepassé son pouvoir d'appréciation dans l'interprétation de l'art. 34 al. 1 let. b LAFC en refusant à l'intimée son transfert auprès d'une caisse de compensation professionnelle pour le régime des allocations familiales.
4.
4.1. Il est constant que l'intimée, en tant que membre de l'une des associations professionnelles ayant créé la Caisse C._, est affiliée de plein droit à cette caisse depuis le 1er janvier 2020 pour le régime de l'AVS, de l'AI, des APG et de l'AC, conformément à l'<ref-law>. Est litigieuse la question de savoir si la cour cantonale a violé le droit fédéral en considérant que la recourante n'était pas en droit de s'opposer au transfert de l'intimée à la caisse de compensation pour allocations familiales gérée par la Caisse C._.
4.2. Le Tribunal fédéral a déjà eu l'occasion de dire que l'art. 36 LAFC et l'art. 20 du règlement d'application de cette loi, en tant qu'ils prévoient le libre passage d'une caisse de compensation pour allocations familiales à une autre, pour autant que la démission soit notifiée pour la fin d'une année par lettre recommandée le 31 août précédent au plus tard (cf. consid. 3.1.3 supra), sont conformes au droit fédéral. En effet, les cantons disposent d'une grande marge d'appréciation en ce qui concerne l'organisation et le financement du système des allocations familiales; ils ne sont pas tenus, lorsqu'ils édictent les dispositions d'exécution au sens de l'<ref-law>, de reprendre le système de l'AVS, même s'il est souhaitable qu'ils s'orientent sur celui-ci, le législateur fédéral ayant entendu promouvoir l'idée du "One-stop-shop" (guichet unique) sans toutefois aller jusqu'à obliger les cantons à atteindre cet objectif (arrêt 8C_9/2011 du 30 juin 2011 consid. 5).
4.3.
4.3.1. La recourante soutient dans un premier grief qu'en considérant que la double affiliation qu'impliquait la décision sur opposition du 22 novembre 2019 était susceptible d'engendrer non seulement une complication administrative inutile mais aussi une restriction, par effet dissuasif, de la liberté de l'intimée de s'affilier désormais à une fédération professionnelle (cf. consid. 3.2.2 supra), le tribunal cantonal se serait prononcé en faveur de l'indivisibilité de l'affiliation à une caisse, "ce que le législateur n'a précisément pas voulu exclure (sic) ", et aurait ainsi violé le droit fédéral.
4.3.2. Contrairement à ce que paraît penser la recourante, les juges cantonaux n'ont nullement indiqué - ni même considéré implicitement - qu'un principe de droit fédéral conférerait le droit à un employeur affilié à une caisse de compensation AVS en sa qualité de membre d'une association fondatrice de ladite caisse d'y être affilié également pour le régime des allocations familiales. Ils ont raisonné exclusivement sur la base du droit cantonal, en examinant si le droit de principe au libre passage d'une caisse à une autre prévu par l'art. 36 LAFC était en l'espèce exclu en raison d'une affiliation obligatoire à la Caisse cantonale de compensation pour allocations familiales selon l'art. 34 al. 1 let. b LAFC. C'est ce qu'il y a lieu d'examiner ci-après à la lumière du second grief soulevé par la recourante.
4.4.
4.4.1. La recourante fait grief au tribunal cantonal d'avoir interprété de manière arbitraire la notion d'"institutions qui en dépendent" figurant à l'art. 34 al. 1 let. b LAFC. Elle reproche aux premiers juges de ne pas avoir investigué davantage la question du financement de l'intimée et de s'être bornés à évoquer, sans les tenir formellement pour établies alors même qu'elles n'étaient pas contestées par l'intimée, les indications de la recourante selon lesquelles l'intimée était financée majoritairement par l'Etat de Fribourg à travers une garantie de déficit - qui avait notamment conduit à l'injection d'un montant de 14'900'000 fr. représentant 60 % de son chiffre d'affaires pour l'année 2017 -, tandis que la participation des bénéficiaires de l'intimée, essentiellement par le biais de rentes et de prestations complémentaires, soit de deniers publics, constituait la seconde source de son chiffre d'affaires. En considérant qu'une institution telle que l'intimée, dont la viabilité économique dépend pratiquement exclusivement des deniers publics, ne tombait pas sous le coup de l'art. 34 al. 1 let. b LAFC, le tribunal cantonal aurait fait preuve d'arbitraire dans l'interprétation de la notion juridique indéterminée contenue dans cette disposition et vidé celle-ci de sa substance, tant on ne verrait pas quelle institution de droit privé pourrait constituer une institution dépendant des corporations de droit public.
4.4.2. On ne voit pas en quoi le fait que l'autorité cantonale n'ait pas formellement retenu comme établies les allégations de fait de la recourante relatives, d'une part, à l'importance du financement étatique de l'intimée par le biais d'une garantie de déficit et, d'autre part, à la proportion importante de la clientèle de l'intimée bénéficiant de prestations complémentaires serait de nature à influer sur l'issue du litige (cf. art. 97 al. 1 in fine LTF). En effet, les juges cantonaux ont tenu compte de ces faits - non contestés - dans leur raisonnement. Ils ont exposé que le fait de bénéficier d'un financement étatique sous la forme d'une garantie de déficit ne pouvait pas suffire pour faire d'une personne morale de droit privé une institution "dépendante" de l'Etat, quand bien même de telles subventions publiques constitueraient une partie importante - voire la totalité - de ses recettes (cf. consid. 3.2.3 in fine et 3.2.4 supra). Ils ont également écarté comme non pertinent l'argument selon lequel l'intimée bénéficie d'un financement étatique indirect au vu de la part importante de ses résidents touchant des prestations complémentaires, en relevant que le fait, pour une quelconque entreprise, de compter parmi sa "clientèle" des bénéficiaires de prestations complémentaires ne saurait conduire à la considérer comme dépendant de l'Etat (cf. consid. 3.2.4 supra).
4.4.3. La recourante ne démontre pas en quoi les premiers juges auraient fait une application arbitraire de l'art. 34 al. 1 let. b LAFC en considérant que l'intimée, fondation de droit privé, n'est pas une institution qui dépend de l'Etat au sens de cette disposition, quand bien même elle est financée majoritairement par l'Etat de Fribourg à travers une garantie de déficit et quand bien même la plupart de ses bénéficiaires payeraient leur participation essentiellement au moyen de rentes (qui sont financées en principe par des cotisations et non par l'Etat) et de prestations complémentaires (qui sont financées à hauteur de cinq huitièmes par la Confédération, conformément à l'<ref-law> [RS 831.30]).
En effet, rien dans les travaux préparatoires ni dans les débats parlementaires (cf. consid. 3.2.1 supra) ne va dans le sens de l'interprétation extensive soutenue par la recourante, fondée sur des critères économiques, plutôt que dans le sens de l'interprétation faite par la cour cantonale, fondée sur des critères juridiques. Il n'apparaît pas insoutenable d'admettre, sur la base des débats au Grand conseil, que l'affiliation obligatoire à la Caisse cantonale de compensation pour allocations familiales - laquelle est gérée par la caisse cantonale de compensation AVS (<ref-law>) - prévue par l'art. 34 al. 1 let. b LAFC visait à faire correspondre l'affiliation obligatoire en matière d'allocations familiales à l'affiliation obligatoire en matière d'AVS (cf. <ref-law>), afin d'éviter la complication inutile qu'engendrerait une affiliation à une caisse différente pour les allocations familiales (cf. consid. 3.2.2 supra).
Contrairement à ce que soutient la recourante, en considérant que le législateur n'entendait nullement englober dans le cercle des destinataires de l'affiliation obligatoire selon l'art. 34 al. 1 let. b LAFC des entités de droit privé telles que des fondations de droit privé (cf. consid. 3.2.3 supra), les juges cantonaux n'ont pas vidé de sa substance la notion d'institutions qui dépendent de l'Etat ou de communes. Leur interprétation n'exclut en effet pas de cette notion les entités de droit public telles que les établissements de droit public (cf. JEAN-BAPTISTE ZUFFEREY, Rapport relatif à la représentation de l'Etat dans ses entreprises [sociétés, établissements et fondations], 2011 [consultable sur le site internet www.fr.ch sous le titre "Rapport Zufferey sur la gouvernance publique"], p. 21-23) et les fondations de droit public (Z UFFEREY, op. cit., p. 23-24).
4.5.
4.5.1. Dans un ultime grief, la recourante reproche aux premiers juges de ne pas avoir tenu compte du fait qu'en tant que caisse supplétive, elle a l'obligation d'accepter tout membre et qu'elle concentrerait de ce fait plus de "mauvais risques" que les caisses professionnelles, d'où un intérêt public à pouvoir également compter parmi ses affiliés un certain nombre de membres "solvables" pour pouvoir offrir un taux de cotisation comparable à celui des caisses professionnelles. En faisant fi de cet intérêt public prépondérant pour tenir compte du seul intérêt privé de l'intimée de s'affilier à une autre caisse, le tribunal cantonal aurait derechef fait preuve d'arbitraire dans l'interprétation de la notion juridique indéterminée contenue dans l'art. 34 al. 1 let. b LAFC.
4.5.2. Ce grief doit être écarté. En effet, l'interprétation de la notion d'institutions qui dépendent de l'Etat ou de communes, au sens de l'art. 34 al. 1 let. b LAFC, n'implique pas une pesée des intérêts, l'application de cette norme ne présupposant pas l'exercice d'une liberté d'appréciation de la part de l'autorité. Au demeurant, si l'intérêt privé de l'intimée à pouvoir s'affilier à la même caisse pour le régime des allocations familiales que pour les régimes AVS, AI, APG et AC est manifeste, il n'en va pas de même du prétendu intérêt public invoqué par la recourante.
5.
Il résulte de ce qui précède que le recours, mal fondé, doit être rejeté. La recourante, qui succombe, supportera les frais judiciaires (<ref-law>) et versera à l'intimée une indemnité de 2800 fr. à titre de dépens (art. 68 al. 1 et 2 LTF). Le présent arrêt sur le fond rend sans objet la demande d'effet suspensif présentée par la recourante.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
La demande d'effet suspensif est sans objet.
3.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
4.
La recourante versera à l'intimée la somme de 2800 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
5.
Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal fribourgeois et à l'Office fédéral des assurances sociales.
Lucerne, le 16 août 2021
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : von Zwehl