Faits :
A.
A._ et B._, ressortissante érythréenne dont la demande d'asile avait été refusée, ont emménagé ensemble dans le logement du prénommé au mois de juillet 2007. A cette époque, B._ était au bénéfice de prestations d'aide sociale allouées par ORS Service AG, organisme d'encadrement des requérants d'asile et des réfugiés (ci-après: ORS). Deux enfants sont nés de cette union: C._, en 2008 et D._, en 2010. ORS a alloué des prestations d'aide sociale à la mère et aux deux enfants jusqu'au 17 octobre 2012 - date à laquelle la reconnaissance formelle des enfants par leur père est intervenue. Le 6 mai 2013, B._ a quitté le logement de A._ avec les deux enfants et a bénéficié de prestations allouées par ORS jusqu'à ce qu'elle reçoive son autorisation de séjour, le 13 juin 2013. Dès le 1 er août suivant, elle a obtenu des prestations du Service de l'aide sociale de la Ville de Fribourg (SASV). Au mois de février 2014, B._ et les enfants sont retournés vivre avec A._ et les parents se sont mariés le 17 octobre 2014.
Le 8 mars 2013, A._ a saisi la Caisse de compensation de l'Etat de Fribourg (ci-après: la caisse de compensation) d'une demande tendant à l'octroi d'allocations familiales pour ses deux enfants, avec effet rétroactif au 30 septembre 2008. Par décision du 3 décembre 2013, partiellement réformée sur opposition les 19 et 28 janvier 2016, la caisse de compensation a reconnu le droit de A._ aux allocations familiales pour ses deux enfants et a réparti le versement rétroactif des allocations entre ORS, le SASV et l'intéressé. Ainsi, elle a indiqué que des montants de 9'430 fr. en faveur de C._ et de 7'360 fr. en faveur de D._ devaient être versés à ORS. En outre, un montant de 490 fr. par enfant devait être versé au SASV pour les mois d'août et septembre 2013. Quant à A._, il bénéficiait à titre rétroactif de 5'360 fr. pour chacun des enfants, ainsi que de l'allocation de naissance d'un montant de 1'500 fr. pour D._.
Saisie d'une demande de l'intéressé tendant à la reconsidération de la décision du 28 janvier 2016, en ce sens que l'intégralité des allocations familiales et l'allocation de naissance lui soient versées, la caisse de compensation a rendu une décision sur opposition, le 30 janvier 2017, par laquelle elle a confirmé sa décision du 28 janvier 2016.
B.
Par jugement du 5 juillet 2018, la I e Cour des assurances sociales du Tribunal cantonal du canton de Fribourg a rejeté un recours formé par A._ contre la décision sur opposition du 30 janvier 2017.
C.
L'intéressé interjette un recours contre ce jugement dont il demande l'annulation, en concluant au renvoi de la cause à la juridiction cantonale pour nouveau jugement, sous suite de frais.
La caisse de compensation, la cour cantonale et l'Office fédéral des assurances sociales ont renoncé à se déterminer.

Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (<ref-law>) rendu en matière de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi. Il est donc recevable.
2.
2.1. Les premiers juges ont examiné le cas sous l'angle des <ref-law> (RS 836.2) et 12 de la loi [du canton de Fribourg] sur les allocations familiales du 26 septembre 1990 dans sa version entrée en vigueur le 1er janvier 2013; (LAFC; RSF 836.1). Selon l'<ref-law>, si les allocations familiales ne sont pas utilisées en faveur de la personne à laquelle elles sont destinées, cette personne ou son représentant légal peut demander, en dérogation à l'<ref-law> (RS 830.1), que les allocations familiales lui soient versées directement, même si elle ne dépend pas de l'assistance publique ou privée (al. 1); l'allocation de formation professionnelle peut, sur demande motivée, être versée directement à l'enfant majeur (al. 2). Quant à l'art. 12 LAFC, il prévoit que les allocations familiales peuvent être versées, sur demande motivée, à une autre personne ou à une autorité, si l'ayant droit ne les utilise pas ou risque de ne pas les utiliser pour l'entretien de l'enfant.
2.2. Les premiers juges ont toutefois considéré que ces dispositions n'étaient pas applicables. En effet, il n'était pas établi et il n'y avait pas de risque que l'éventuel versement au recourant des allocations familiales dues pour les périodes en question pourrait ne pas servir à couvrir des frais d'entretien des deux enfants auxquels ces prestations étaient destinées. La caisse de compensation ne pouvait dès lors pas se fonder sur ces dispositions pour décider de verser les allocations familiales en cause à ORS et au SASV en lieu et place du recourant.
2.3. En revanche, la cour cantonale a appliqué l'art. 29 de la loi [du canton de Fribourg] sur l'aide sociale du 14 novembre 1991 (LASoc; RSF 831.0.1). Sous le titre Remboursement - Aide perçue légalement, cette disposition prévoit ceci:
1 La personne qui a reçu une aide matérielle est tenue de la rembourser, en tout ou partie, dès que sa situation financière le permet. L'aide matérielle reçue conformément à l'article 4c n'est pas remboursable.
2 L'obligation de rembourser s'étend aux héritiers jusqu'à concurrence de leur part d'héritage.
3 Le remboursement de l'aide matérielle reçue avant l'âge de 20 ans révolus ne peut être exigé.
4 Le service social qui accorde une aide matérielle à titre d'avance sur les prestations des assurances ou de tiers tenus de verser des prestations est subrogé dans les droits du bénéficiaire, jusqu'à concurrence de l'aide matérielle accordée.
2.4. Plus particulièrement, la juridiction cantonale s'est référée à l'al. 4 de cette disposition. Elle a constaté que pour les périodes respectives de juin 2009 à octobre 2012 et d'août à septembre 2013, ORS et le SASV avaient alloué des prestations d'aide matérielle en faveur des enfants C._ et D._ et pris également en charge directement leurs primes d'assurance-maladie. Il n'était par ailleurs pas contesté que le droit aux allocations familiales pour les deux enfants portait notamment sur ces deux périodes. Vu cette concordance temporelle et le constat que les deux types de prestations étaient destinées à permettre d'assurer l'entretien des deux enfants prénommés (concordance matérielle), les prestations octroyées au titre de l'aide sociale constituaient, au sens de l'<ref-law>, des avances sur les allocations familiales qui devaient être perçues ultérieurement. ORS et le SASV, en tant qu'autorités d'assistance, bénéficiaient donc de la subrogation instituée par l'art. 29 al. 4 LASoc. En effet, ce qui était déterminant, ce n'était pas à qui les allocations et avances matérielles étaient versées mais leur objet, en l'occurrence la couverture des frais d'entretien des enfants.
2.5. En conclusion, toujours selon la cour cantonale, la caisse de compensation était en droit de verser à ORS et au SASV les allocations familiales en faveur des deux enfants pour les périodes respectives de juin 2009 à octobre 2012 et d'août à septembre 2013. Cette mesure s'inscrivait dans le sens même de la subrogation légale prévue à l'art. 29 al. 4 LASoc qui a pour but de garantir aux autorités d'aide sociale le remboursement indirect des prestations d'aide matérielle qu'elles allouent à titre d'avance sur des montants à verser ultérieurement par des assurances sociales.
3.
3.1. Dans un grief d'ordre formel, le recourant dénonce une violation de son droit d'être entendu. Il reproche aux premiers juges d'avoir fondé leur décision sur un motif imprévisible, à savoir la subrogation d'ORS et du SASV.
3.2. Il découle notamment du droit d'être entendu que, à titre exceptionnel, les parties doivent être interpellées lorsque le juge envisage de fonder sa décision sur une norme ou une considération juridique qui n'a pas été évoquée au cours de la procédure et dont les parties ne pouvaient pas supputer la pertinence (cf. <ref-ruling> consid. 5.4.1 p. 26; <ref-ruling> consid. 5 p. 39; arrêt 2C_695/2018 du 27 mars 2019 consid. 6.1).
3.3. Contrairement à ce que soutient le recourant, on ne se trouve pas, en l'espèce dans une telle situation. La décision sur opposition du 30 janvier 2017 fait référence à l'art. 29 LASoc en mentionnant notamment la disposition sur la subrogation. Le motif juridique à la base de l'arrêt attaqué a donc été évoqué lors de la procédure administrative et le recourant aurait été en mesure d'en envisager la pertinence, même si la motivation du jugement attaqué différait de celle de la caisse de compensation. Le moyen soulevé n'est dès lors pas fondé.
4.
4.1. Le recourant fait valoir que la subrogation n'était pas applicable, car il est l'ayant droit aux allocations familiales. La mère (et l'autorité prétendument subrogée) n'avait pas un droit à faire valoir à son encontre au titre des allocations familiales.
4.2. Sauf exceptions non pertinentes en l'espèce (cf. art. 95 let. c, d et e LTF), on ne peut invoquer la violation du droit cantonal ou communal en tant que tel devant le Tribunal fédéral (<ref-law> a contrario). Il est néanmoins possible de faire valoir que son application consacre une violation du droit fédéral, en particulier la protection contre l'arbitraire (art. 9 Cst.) ou la garantie d'autres droits constitutionnels. Le Tribunal fédéral n'examine alors de tels moyens que s'ils sont formulés conformément aux exigences de motivation qualifiée prévues à l'<ref-law> (<ref-ruling> consid. 3.2 p. 579 et la référence). Le recourant doit en particulier indiquer précisément quelle disposition constitutionnelle ou légale a été violée et démontrer par une argumentation précise en quoi consiste la violation (voir par ex. arrêt 2D_42/2018 du 11 mars 2019 consid. 2).
4.3. Appelé à revoir l'interprétation d'une norme cantonale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale n'apparaît pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - même préférable - paraît possible. En outre, pour qu'une décision soit annulée au titre de l'arbitraire, il ne suffit pas qu'elle se fonde sur une motivation insoutenable; encore faut-il qu'elle apparaisse arbitraire dans son résultat (<ref-ruling> consid. 7.1 p. 124).
4.4. L'objection soulevée ici par le recourant n'a pas échappé à la juridiction cantonale qui a estimé - à tort ou à raison, la question peut demeurer indécise - qu'elle ne faisait pas obstacle à l'application de la subrogation prévue à l'art. 29 al. 4 LASoc (consid. 5.2 du jugement attaqué). Le recourant - qui ne soulève pas le grief d'arbitraire ni n'invoque ici une autre garantie d'ordre constitutionnel - ne formule aucun argument qui satisfasse aux exigences précitées de motivation. Il ne démontre en tout cas pas en quoi l'interprétation - peut-être discutable - par les premiers juges de la disposition en question serait insoutenable.
5.
Le recourant invoque aussi la violation de diverses dispositions de la législation fédérale, notamment de la LPGA, de l'ordonnance 2 sur l'asile relative au financement (ordonnance 2 sur l'asile [OA 2; RS 142.312]) ou encore du code civil. Même si l'invocation de tels moyens n'est pas soumise aux exigences de motivation qualifiées prévues à l'<ref-law>, il n'en reste pas moins que le recours ne répond en ce qui les concerne manifestement pas aux exigences de motivation prévues à l'art. 42 al. 1 et 2 LTF permettant de saisir en quoi l'autorité précédente aurait pu enfreindre l'une ou l'autre de ces normes. On se contentera de préciser, s'agissant en particulier de la LPGA, qu'elle n'est pas applicable aux faits de la cause (cf. <ref-law>).
6.
Pour le reste, le recours est exclusivement consacré de manière appellatoire à un long exposé de faits, pour la plupart sans lien avec la cause, et à une vaine discussion visant à justifier le paiement en sa faveur des allocations familiales litigieuses. Un tel argumentaire n'est pas davantage recevable au regard de l'<ref-law>.
7.
Vu ce qui précède, le recours doit être rejeté. Le recourant, qui succombe, supportera les frais judiciaires.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 1'400 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à la I e Cour des assurances sociales du Tribunal cantonal du canton de Fribourg, au Service de l'aide sociale de la ville de Fribourg, à ORS Service AG et à l'Office fédéral des assurances sociales.
Lucerne, le 12 juin 2019
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
Le Greffier : Beauverd