Faits :
A.
Par décision du 13 février 2018, confirmée sur opposition le 15 mars suivant, la caisse publique de chômage du canton de Fribourg (ci-après: la caisse de chômage) a refusé le droit à l'indemnité en cas d'insolvabilité revendiquée par A._, né en 1987, en relation avec la faillite prononcée en novembre 2017 de l'entreprise B._ SA.
B.
A._ a recouru le 16 avril 2018 contre la décision sur opposition devant la Cour des assurances sociales du Tribunal cantonal fribourgeois. Le 22 août suivant, la caisse de chômage a informé la cour cantonale que A._ s'était vu rembourser sa créance de salaire à l'encontre de son employeur par l'Office cantonal des faillites et qu'il n'avait dès lors plus de prétention au titre de l'indemnité en cas d'insolvabilité, ce que A._ a confirmé par écriture du 3 septembre 2018. Par jugement du 28 septembre 2018, la cour cantonale a constaté que la procédure était devenue sans objet et a rayé la cause du rôle. Considérant que s'il n'était pas devenu sans objet le recours aurait très vraisemblablement dû être rejeté, elle n'a pas alloué de dépens au recourant.
C.
A._ forme un recours en matière de droit public contre ce jugement dont il demande l'annulation partielle. Il conclut principalement à ce qu'une indemnité de dépens de 4'122 fr. 90 lui soit allouée pour l'instance cantonale. Subsidiairement, il demande le renvoi de la cause à la cour cantonale pour qu'elle fixe une indemnité de dépens.
La caisse de chômage conclut au rejet du recours, tandis que la juridiction précédente a renoncé à se déterminer.

Considérant en droit :
1.
Le recours contre une décision portant sur l'allocation des dépens en instance cantonale est soumis à la même voie de droit que celle qui est ouverte contre la décision sur le fond du litige (<ref-ruling> consid. 3 p. 143), dans la mesure où aucune procédure spéciale n'est prévue (<ref-ruling> consid. 1.1 p. 160). En l'espèce, la décision de radiation attaquée constitue une décision finale (art. 90 LTF), rendue dans une cause de droit public (art. 82 let. a LTF) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF) et qui ne tombe pas sous le coup d'une exception de l'art. 83 LTF.
Pour le surplus, le recours a été déposé dans le délai (art. 100 LTF) et la forme (art. 42 LTF) prévus par la loi. Il convient, par conséquent, d'entrer en matière.
2.
2.1. Le droit aux dépens dans la procédure devant le tribunal cantonal des assurances est réglé par l'art. 61 let. g LPGA. En vertu de cette disposition légale, le recourant qui obtient gain de cause a droit au remboursement de ses frais et dépens dans la mesure fixée par le tribunal; leur montant est déterminé sans égard à la valeur litigieuse d'après l'importance et la complexité du litige. Le point de savoir si et à quelles conditions une partie a droit à des dépens en instance cantonale de recours lorsqu'elle obtient gain de cause relève du droit fédéral et dépend, d'une part, de l'issue du litige et, d'autre part, de la personne de l'ayant droit (cf. <ref-ruling> consid. 3.2 p. 478, 129 V 113 consid. 2.2 p. 115 et les arrêts cités).
2.2. Si la cause devient sans objet et doit être radiée du rôle, le tribunal doit statuer sur les frais en prenant essentiellement en considération, sur la base d'un examen sommaire, l'issue probable si un jugement avait dû être prononcé (<ref-ruling> consid. 8.2; cf. aussi ANNE-SYLVIE DUPONT, in Commentaire romand, Loi sur la partie générale des assurances sociales, 2018, n° 34 ad art. 61).
3.
Le recourant se plaint d'une constatation manifestement inexacte et incomplète des faits et d'une violation du droit fédéral ayant conduit la juridiction cantonale à retenir, d'une part, que les faits ressortant de la décision sur opposition du 15 mars 2018 de la caisse de chômage permettaient de considérer qu'il exerçait une fonction dirigeante au sein de la société B._ SA et, d'autre part, que la notion de travailleur au sens de l'art. 219 al. 4 let. a LP ne correspondait pas à celle de l'art. 51 LACI.
4.
4.1. En vertu de l'art. 112 al. 1 let. b LTF, les décisions qui peuvent faire l'objet d'un recours au Tribunal fédéral doivent indiquer les motifs déterminants de fait et de droit sur lesquels l'autorité s'est fondée. Le Tribunal fédéral peut examiner d'office si la décision attaquée satisfait aux exigences de l'art. 112 al. 1 LTF (cf. art. 106 al. 1 LTF); si ce n'est pas le cas, il peut soit la renvoyer à l'autorité cantonale en invitant celle-ci à la parfaire, soit l'annuler (art. 112 al. 3 LTF). Cette disposition concrétise le droit d'être entendu (art. 29 al. 2 Cst. et art. 6 par. 1 CEDH) dont la jurisprudence a déduit le devoir pour l'autorité de motiver sa décision, afin que le destinataire puisse la comprendre et la contester utilement s'il y a lieu et que l'autorité de recours puisse exercer son contrôle (cf. <ref-ruling> consid. 1.3.1 p. 253; <ref-ruling> consid. 2.2 p. 183; arrêts 2C_333/2019 du 3 juin 2019 consid. 5.1; 6B_248/2019 du 29 mars 2019 consid. 2.1.2; 6B_819/2018 du 25 janvier 2019 consid. 3.1).
4.2. Dans l'arrêt attaqué, la cour cantonale a nié le droit du recourant à des dépens, jugeant que s'il n'était pas devenu sans objet, son recours aurait très vraisemblablement dû être rejeté. Pour ce faire, elle a retenu que les résultats de l'instruction de la cause menée par la caisse de chômage, tels que relatés dans sa décision sur opposition du 15 mars 2018, permettaient de considérer comme suffisamment établi, au degré de la vraisemblance prépondérante requis en droit des assurances sociales et conformément à la maxime des déclarations dites de la première heure, que le recourant exerçait une fonction dirigeante au sein de la société B._ SA et était dès lors exclu du cercle des bénéficiaires d'une indemnité en cas d'insolvabilité. Elle a en outre indiqué que la notion de travailleur au sens de l'art. 219 al. 4 let. a LP ne correspondait pas à celle de l'art. 51 LACI. Or, si la juridiction précédente devait certes trancher la question des dépens sur la base d'un examen sommaire (cf. consid. 2.2 supra), il lui incombait néanmoins d'exposer les motifs pour lesquels elle a retenu que l'appréciation de la caisse de chômage emportait conviction. On rappellera que savoir quels sont les faits déterminants revêt une importance particulière dans la mesure où le Tribunal fédéral est en principe lié par ceux arrêtés par l'instance précédente en vertu de l'art. 105 al. 1 LTF. En l'occurrence, le jugement entrepris se borne à renvoyer à la décision sur opposition de l'intimée sans la confronter aux arguments développés par le recourant dans son mémoire à l'autorité cantonale; il ne contient aucune constatation de faits sur la question litigieuse. Partant, il ne permet pas à la Cour de céans de savoir si, sur la base d'un examen sommaire, la juridiction cantonale pouvait arriver à la conclusion que le recourant exerçait une fonction dirigeante au sein de la société B._ SA.
4.3. Par conséquent, l'arrêt attaqué doit être partiellement annulé en application de l'art. 112 al. 3 LTF et la cause renvoyée à la cour cantonale pour qu'elle rende une nouvelle décision concernant les dépens.
5.
Vu l'issue du litige, le recourant a droit à des dépens à la charge de l'intimée (art. 68 al. 1 LTF). Celle-ci supportera également les frais judiciaires (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est partiellement admis, l'arrêt attaqué est partiellement annulé conformément à l'art. 112 al. 3 LTF et la cause est renvoyée à la cour cantonale pour nouvelle décision.
2.
Les frais judiciaires, arrêtés à 700 fr., sont mis à la charge de l'intimée.
3.
Une indemnité de dépens de 1'800 fr. est allouée au recourant à la charge de l'intimée pour la procédure fédérale.
4.
Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg, et au Secrétariat d'Etat à l'économie.
Lucerne, le 27 juin 2019
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
La Juge présidant : Heine
La Greffière : Paris