Faits :
A.
Par arrêt du 16 janvier 2019, la IIe Cour d'appel civil du Tribunal cantonal de l'Etat de Fribourg (ci-après : IIe Cour d'appel civil) a admis le recours déposé par A._ contre la décision de mainlevée définitive rendue le 6 décembre 2018 par le Président du Tribunal civil de l'arrondissement de la Sarine (ci-après: le Président du Tribunal civil). Elle a réformé cette décision comme suit (I) : (i) La requête de mainlevée définitive de l'opposition formée par A._ au commandement de payer n° xxxxxxx de l'Office des poursuites de la Sarine à l'instance de la Caisse B._ (ci-après : la Caisse de compensation) portant sur la somme de 423 fr. 65 est rejetée; (ii) Il n'est pas alloué d'équitable indemnité; (iii) Un émolument de 90 fr. est mis à la charge de la Caisse de compensation. Elle a par ailleurs mis les frais de la procédure de recours par 100 fr. à la charge de la Caisse de compensation (II), refusé d'allouer des dépens (III), déclaré que le recours contre la décision de refus d'assistance judiciaire du Président du Tribunal civil du 6 décembre 2018 et la requête d'assistance judiciaire pour la procédure de recours étaient sans objet (IV), et enfin déclaré la requête d'effet suspensif du 17 décembre 2018 sans objet (V).
En substance, la IIe Cour d'appel civil a jugé que la Caisse de compensation n'avait pas produit la preuve de la notification effective de la décision du 26 janvier 2018 portant sur les acomptes de cotisations pour les personnes exerçant une activité lucrative indépendante pour l'année 2018, ainsi que de la sommation du 20 juillet 2018 relative aux cotisations AVS/AI/APG pour la période du 1er avril au 30 juin 2018. Partant, il y avait lieu de se fonder sur les déclarations de A._, lequel contestait avoir reçu les deux décisions litigieuses. Elle a en outre refusé d'allouer des dépens à A._, qui avait agi par lui-même et dont le travail n'avait pas dépassé ce que l'on pouvait attendre d'un justiciable dans le cadre de la gestion ordinaire de ses affaires administratives. Compte tenu de l'issue du recours et en particulier du fait que les frais judiciaires de première et seconde instances avaient été mis à la charge de la Caisse de compensation, elle a jugé que le recours de A._ contre la décision de refus d'assistance judiciaire du 6 décembre 2018 et la requête d'assistance judiciaire pour la procédure de recours étaient sans objet.
B.
Par acte du 21 février 2019, A._ exerce un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral. Il conclut à l'annulation du ch. III de la décision attaquée et au renvoi à l'autorité cantonale avec pour instructions de lui octroyer une indemnité équitable à la charge de l'intimée d'au moins 300 fr. pour la procédure de première instance cantonale et d'au moins 450 fr. pour celle de deuxième instance. Il conclut subsidiairement à la réforme de l'arrêt entrepris dans le sens des instructions susmentionnées. Il conclut également à la mise des frais de la procédure fédérale à la charge de l'intimée, à l'octroi d'une " indemnité de partie " d'au moins 463 fr. 30 à la charge de l'intimée ainsi qu'au déboutement de l'intimée ou de tout tiers de toutes autres conclusions. Il demande aussi le bénéfice de l'assistance judiciaire pour la procédure fédérale.
Des réponses n'ont pas été requises.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1).
1.1. La recevabilité du recours portant sur une question accessoire, en l'occurrence le sort des frais et dépens, est définie par le litige au fond, dans la mesure où aucune procédure spéciale n'est instituée (<ref-ruling> consid. 2.2). La décision entreprise ayant été rendue dans une cause portant sur la mainlevée définitive de l'opposition, à savoir une affaire sujette au recours en matière civile (<ref-law>; <ref-ruling> consid. 1.1), le présent recours est en principe recevable de ce chef.
1.2. Le contentieux de la mainlevée d'opposition (<ref-law>) est de nature pécuniaire (<ref-ruling> consid. 1.3), de sorte qu'il peut faire l'objet d'un recours en matière civile lorsque la valeur litigieuse minimale de 30'000 fr. est atteinte (<ref-law>; <ref-ruling> consid. 1.3) ou, exceptionnellement et pour autant que cela soit démontré (<ref-law>; <ref-ruling> consid. 2.2.2.1), lorsqu'il soulève une question juridique de principe (<ref-law>).
En l'espèce, la valeur litigieuse est largement inférieure à 30'000 fr., ce qui n'est pas contesté. Le recourant soutient cependant, en faisant uniquement référence à l'<ref-ruling>, que l'octroi de dépens au niveau cantonal dans une cause de droit des poursuites constituerait une question juridique de principe.
1.2.1. Selon la jurisprudence, il y a question juridique de principe lorsque dans l'intérêt général, en particulier dans l'intérêt de la sécurité juridique, une question controversée doit être résolue par la juridiction suprême afin de parvenir à une interprétation et à une application uniforme du droit fédéral. Il ne suffit pas qu'elle n'ait encore jamais été tranchée par le Tribunal fédéral; il faut de surcroît que cette question, nécessaire pour résoudre le cas d'espèce, donne lieu à une incertitude caractérisée, laquelle appelle de manière pressante un éclaircissement de la part du Tribunal fédéral, en tant qu'autorité judiciaire suprême chargée de dégager une interprétation uniforme du droit fédéral. Il faut que l'on demande au Tribunal fédéral de donner une réponse qui ne vaut pas seulement pour le cas d'espèce, mais permet de résoudre un nombre indéterminé de cas futurs. Ainsi, lorsque le point soulevé ne concerne que l'application de principes jurisprudentiels à un cas particulier, il ne peut être qualifié de question juridique de principe. Si le recourant ne démontre pas l'existence d'une question juridique de principe, celle-ci ne sera pas admise, à moins de paraître évidente (<ref-ruling> consid. 1.4.1 et les références).
1.2.2. En l'espèce, le recourant n'indique pas en quoi l'octroi de dépens au niveau cantonal dans une cause de droit des poursuites constituerait une question juridique de principe. Le simple renvoi à un arrêt rendu par la Cour de céans ne saurait satisfaire aux exigences de l'<ref-law> (cf. supra consid. 1.2.1 in fine). Quoi qu'il en soit, dans l'<ref-ruling> qu'il cite, il a été retenu que constitue une question juridique de principe le point de savoir s'il faut vérifier, dans le cadre de la détermination des dépens cantonaux en application de l'<ref-law>, si une représentation professionnelle était nécessaire. On ne saurait en déduire, comme semble le faire le recourant, que la fixation des dépens au niveau cantonal constituerait en tant que telle une question juridique de principe. A cela s'ajoute que la question posée dans l'<ref-ruling> - qui a désormais été tranchée (par la négative) dans l'arrêt précité - n'est pas litigieuse en l'espèce puisque le recourant n'était pas assisté d'un représentant professionnel. Dans le cas présent, il s'agit bien plutôt de déterminer, sous l'angle de l'art. 95 al. 3 let. c CPC, s'il se justifie d'accorder une indemnité équitable pour les démarches que le recourant a effectuées. Le point soulevé ne concerne ainsi que l'application de règles connues (cf. infra consid. 2.2, premier paragraphe) au cas d'espèce. Il ne saurait dès lors s'agir d'une question juridique de principe et le recours en matière civile est par conséquent irrecevable. Seule la voie du recours constitutionnel est ainsi ouverte (<ref-law>).
2.
2.1. Pour le surplus, le recours constitutionnel subsidiaire a été formé dans le délai légal (art. 100 al. 1 et 117 LTF) et en la forme prévue par la loi (art. 42 et 119 al. 1 LTF) à l'encontre d'une décision finale (art. 90 et 117 LTF; <ref-ruling> consid. 1.4) prise par un tribunal supérieur ayant statué sur recours (art. 75 et 114 LTF); le recourant, qui a succombé devant la juridiction précédente, possède un intérêt juridique à l'annulation ou à la modification de la décision attaquée (<ref-law>).
Le recours constitutionnel peut être formé uniquement pour violation des droits constitutionnels (<ref-law>). Le Tribunal fédéral n'examine de tels griefs que s'ils ont été invoqués et motivés (art. 106 al. 2 et 117 LTF), c'est-à-dire expressément soulevés et exposés de façon claire et détaillée (principe d'allégation; <ref-ruling> consid. 1.4). Il n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2.3; <ref-ruling> consid. 3). Le recourant qui se plaint d'arbitraire ne saurait, dès lors, se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours jouit d'une libre cognition; il ne peut, en particulier, se contenter d'opposer sa thèse à celle de l'autorité cantonale, mais doit démontrer, par une argumentation précise, que cette décision est manifestement insoutenable. L'arbitraire prohibé par l'art. 9 Cst. ne résulte pas du seul fait qu'une autre solution serait concevable, voire préférable; le Tribunal fédéral ne s'écarte de la décision attaquée que lorsque celle-ci est manifestement insoutenable, viole gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice ou de l'équité. Il ne suffit pas que la motivation de cette décision soit insoutenable; encore faut-il qu'elle soit arbitraire dans son résultat (<ref-ruling> consid. 3.1; <ref-ruling> consid. 5.1; <ref-ruling> consid. 4.4.1).
2.2. Lorsqu'une partie procède sans représentant professionnel, elle n'a droit à une indemnité équitable pour ses démarches, en sus du remboursement de ses débours nécessaires (art. 95 al. 3 lit a CPC), que dans les cas où cela se justifie (art. 95 al. 3 let. c CPC). Selon le Message du Conseil fédéral (FF 2006 6905), l'art. 95 al. 3 let. c CPC vise notamment la perte de gain d'un indépendant. Le fait que l'activité déployée par une partie non assistée d'un avocat lui occasionne des frais susceptibles d'indemnisation est exceptionnel et nécessite une motivation particulière (arrêts 5A_741/2018 du 19 janvier 2019 consid. 9.2; 4A_355/2013 du 22 octobre 2013 consid. 4.2).
Le Tribunal fédéral ne revoit qu'avec retenue l'exercice du pouvoir d'appréciation dont dispose l'autorité cantonale à cet égard. Il n'intervient que lorsque celle-ci s'écarte sans raison des règles établies en la matière par la doctrine et la jurisprudence, ou lorsqu'elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou encore lorsqu'elle ignore des éléments qui auraient absolument dû être pris en considération; en outre, le Tribunal fédéral redresse les décisions rendues en vertu d'un pouvoir d'appréciation lorsqu'elles aboutissent à un résultat manifestement injuste ou à une iniquité choquante (<ref-ruling> consid. 9.2; <ref-ruling> consid. 2.1; <ref-ruling> consid. 2.2.1; <ref-ruling>consid. 2).
2.3. Le recourant invoque une violation de l'art. 9 Cst. en raison d'une prétendue " application arbitraire du droit comme démontré dans le chapitre précédent ". Dans ce " chapitre précédent ", relatif au recours en matière civile, il expose que l'arrêt querellé viole les art. 95 al. 3 let. c CPC, 4 CC et 6 § 1 CEDH. En particulier, il fait valoir que les écritures qu'il a déposées nécessitaient des connaissances juridiques approfondies qu'il possédait, étant au bénéfice d'un master en droit et d'une expérience professionnelle. Il prétend en outre que le nombre d'heures présenté et son " tarif horaire " n'auraient pas été contestés. Il nie ainsi n'avoir procédé qu'à la gestion ordinaire de ses affaires administratives. Il estime qu'au demeurant, même une gestion ordinaire aurait justifié une indemnité vu l'ampleur de la tâche. Il souligne enfin que ce n'est pas à l'administré de subir l'incompétence des autorités en perdant beaucoup de temps et d'énergie dans l'établissement d'écritures.
Par sa critique essentiellement appellatoire, le recourant ne démontre en tout état pas en quoi l'appréciation de la IIe Cour d'appel civil, selon laquelle le travail effectué n'a pas dépassé ce que l'on peut attendre d'un justiciable dans le cadre de la gestion ordinaire de ses affaires administratives, serait arbitraire. Pour le surplus, il ne formule aucune explication en lien avec la prétendue violation de l'art. 6 § 1 CEDH, de sorte que ce grief est irrecevable, faute de remplir les exigences de motivation de l'<ref-law>. Dans ces conditions, le recours constitutionnel subsidiaire doit être rejeté dans la faible mesure de sa recevabilité.
3.
En définitive, le recours en matière civile est irrecevable et le recours constitutionnel subsidiaire est rejeté dans la mesure où il est recevable. Les conclusions du recourant étaient d'emblée vouées à l'échec, ce qui entraîne le rejet de sa requête d'assistance judiciaire (<ref-law>) et sa condamnation aux frais de la procédure fédérale (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimée qui n'a pas été invité à se déterminer (art. 68 al. 1 et 2 LTF). Vu l'issue des recours, et indépendamment de sa recevabilité, la requête du recourant tendant à l'octroi d'une " indemnité de partie " pour la procédure fédérale est rejetée.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours en matière civile est irrecevable.
2.
Le recours constitutionnel subsidiaire est rejeté dans la mesure où il est recevable.
3.
La requête d'assistance judiciaire est rejetée.
4.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
5.
Le présent arrêt est communiqué aux parties et à la IIe Cour d'appel civil du Tribunal cantonal de l'Etat de Fribourg.
Lausanne, le 25 avril 2019
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Dolivo