Faits :
A.
A.a. B._ et A._ sont les parents non mariés de C._, né le 21 juillet 2018.
Les parties vivent séparées depuis le 1 er octobre 2019. L'enfant vit depuis lors avec sa mère.
A.b. Le 16 octobre 2019, B._ a introduit au nom et pour le compte de son fils une requête de mesures provisionnelles auprès du Président du Tribunal civil de la Gruyère (ci-après: Président), concluant à ce que la garde et l'entretien de C._ lui soient attribués, à ce qu'aucun droit de visite ne soit accordé au père et à ce que ce dernier soit astreint au versement d'une pension à compter du 16 octobre 2018.
A.c. Le 22 novembre 2019, A._ a déposé sa réponse ainsi qu'une requête de mesures superprovisionnelles. Il a conclu au rejet de la requête de mesures provisionnelles et, sur mesures superprovisionnelles, principalement à ce que l'autorité parentale exclusive, la garde et l'entretien de l'enfant lui soient attribués, à ce qu'un droit de visite soit octroyé à la mère et à ce que celle-ci soit astreinte au versement d'une pension. Subsidiairement, il a conclu à ce qu'un droit de visite soit ordonné sans délai en sa faveur. En tout état de cause, il a conclu à ce que son ex-compagne soit sommée de se conformer sans délai à la décision du Président sous la menace de la peine de l'<ref-law> et à ce que lui-même soit en droit d'interpeller sans délai les autorités de police si la décision n'était pas respectée.
A.d. Lors de l'audience du 13 décembre 2019, les parties ont passé une convention provisoire prévoyant que la garde et l'entretien de l'enfant étaient attribués à la mère et un droit de visite accordé au père jusqu'à droit connu sur le rapport du Service de l'enfance et de la jeunesse (ci-après: SEJ). Ils ont en outre requis du Président qu'il fixe les contributions alimentaires. La convention n'a pas été immédiatement ratifiée, les parties devant encore produire des pièces relatives à leur situation financière pour la fixation de la contribution d'entretien.
A.e. Le 14 janvier 2020, A._ a déposé une nouvelle requête de mesures superprovisionnelles. Il a repris pour l'essentiel les mêmes conclusions que dans sa requête du 22 novembre 2019, sollicitant en sus que son ex-compagne soit soumise à une expertise psychiatrique et, subsidiairement, que l'enfant soit placé en foyer jusqu'à ce qu'une décision soit rendue sur la base du rapport du SEJ et à ce qu'un droit de visite lui soit accordé.
A.f. Le 15 janvier 2020, C._ a déposé une requête de mesures superprovisionnelles et provisionnelles demandant à ce que le droit de visite du père soit suspendu avec effet immédiat et qu'interdiction lui soit faite de prendre contact avec la mère ou avec l'enfant ou de s'approcher de la mère, sous peine de la menace de l'amende de l'<ref-law>. Il a de plus conclu à ce qu'ordre soit donné à la police de prendre les mesures nécessaires si A._ ne respectait pas les injonctions.
A.g. Par décision de mesures provisionnelles du 21 février 2020, le Président a rejeté la requête du 14 janvier 2020 de A._ et admis partiellement celle du 15 janvier 2020 de C._. Il a ainsi notamment attribué la " garde et l'entretien " de l'enfant à sa mère, maintenu le droit de visite du père selon les modalités fixées par convention du 13 décembre 2019, instauré une curatelle au sens de l'<ref-law>, afin de surveiller la remise et la reprise de l'enfant et de veiller à une bonne communication et collaboration entre les parents, et astreint le père au versement d'une pension mensuelle de 1'800 fr. en faveur de l'enfant.
B.
B.a. Le 9 mars 2020, A._ a interjeté appel contre la décision du 21 février 2020 par-devant la Ie Cour d'appel civil du Tribunal cantonal du canton de Fribourg (ci-après: Cour d'appel), concluant notamment à ce que l'autorité parentale exclusive, la garde et l'entretien de l'enfant lui soient confiés, à ce qu'un droit de visite soit accordé à la mère et à ce que celle-ci soit astreinte au versement d'une pension ainsi qu'au paiement de la moitié des frais extraordinaires de l'enfant et soumise à une expertise psychiatrique.
B.b. Par arrêt du 7 juillet 2020, la Cour d'appel a rectifié d'office la désignation des parties en ce sens que la procédure oppose A._ à B._, a rejeté l'appel et a confirmé en conséquence la décision du 21 février 2020.
C.
Par acte du 10 août 2020, A._ exerce un recours en matière civile ainsi qu'un recours constitutionnel subsidiaire au Tribunal fédéral contre l'arrêt du 7 juillet 2020. Il conclut principalement à l'annulation de l'arrêt attaqué, à ce que l'autorité parentale exclusive ainsi que la garde et l'entretien de l'enfant lui soient attribués, à ce qu'un droit de visite à exercer d'entente entre les parties soit réservé à B._ et, à défaut d'entente, à ce qu'il s'exerce un week-end sur deux du vendredi soir à 18h00 au dimanche soir à 18h00, une semaine à Noël et une à Pâques ainsi que deux semaines consécutives pendant les vacances scolaires d'été, B._ devant impérativement indiquer les dates de ses visites un mois à l'avance, à ce que cette dernière soit condamnée à verser dès le 1er décembre 2019 une contribution mensuelle à l'entretien de l'enfant de 3'206 fr. 15, allocations familiales et patronales dues en sus, payable d'avance le premier de chaque mois et portant intérêts à 5% l'an à compter de chaque échéance mensuelle, à ce que les parents assument chacun par moitié les frais extraordinaires de l'enfant, chaque partie devant consulter l'autre avant d'entreprendre de tels frais. Subsidiairement, il conclut au renvoi de la cause à la Cour d'appel pour complément d'instruction et nouvelle décision au sens des considérants. Il requiert également d'être mis au bénéfice de l'assistance judiciaire et d'être dispensé de l'avance de frais et des sûretés et sollicite que son recours soit assorti de l'effet suspensif.
B._ a formé une requête d'assistance judiciaire le 25 août 2020.
Des déterminations sur le fond n'ont pas été requises.
D.
Par ordonnance présidentielle du 31 août 2020, l'effet suspensif a été accordé pour les contributions d'entretien dues jusqu'à la fin du mois de juillet 2020 et rejeté pour celles dues à compter du mois d'août 2020.

Considérant en droit :
1.
1.1. Déposé en temps utile (<ref-law>) et dans la forme légale (<ref-law>), le recours est dirigé contre une décision de mesures provisionnelles portant sur les droits parentaux relatifs à un enfant né hors mariage ainsi que sur la contribution d'entretien due en sa faveur, rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (<ref-law>), dans une affaire civile (<ref-law>), de nature non pécuniaire dans son ensemble (arrêt 5A_762/2020 du 9 février 2021 consid. 1). Le recourant a participé à la procédure devant l'autorité précédente et a un intérêt digne de protection à la modification ou l'annulation de la décision entreprise (<ref-law>). La voie du recours en matière civile est donc en principe ouverte (<ref-law>), ce qui conduit à l'irrecevabilité du recours constitutionnel subsidiaire (<ref-law>).
1.2. En l'occurrence, l'arrêt querellé confirme une décision de première instance réglant de manière provisoire les droits parentaux sur l'enfant dans l'attente du résultat d'une enquête sociale confiée au SEJ. Dite décision arrête par ailleurs, également de manière provisoire, le montant de la contribution due par le père à l'entretien de l'enfant, précisant que celle-ci sera réexaminée une fois que les parties auront fourni toutes les pièces exigées et qu'il sera statué sur les pensions demandées rétroactivement au 16 octobre 2018 dans une décision de mesures provisionnelles à rendre, voire un jugement, une fois tous les éléments topiques recueillis. S'agissant tant de la question des droits parentaux que de celle de la contribution d'entretien, il s'agit dès lors d'une décision incidente au sens de l'<ref-law>. Il convient par conséquent d'examiner la recevabilité du présent recours au regard de l'exigence d'un préjudice irréparable (<ref-law>), la possibilité de rendre immédiatement une décision finale de nature à éviter une procédure probatoire longue et coûteuse (<ref-law>) n'étant manifestement pas donnée.
En tant que la décision attaquée tranche de manière provisoire la question de la garde et du droit de visite, elle est susceptible de causer un préjudice irréparable au sens de l'<ref-law>, dès lors que même une décision finale ultérieure favorable au recourant ne pourrait pas compenser rétroactivement l'exercice des prérogatives parentales dont il a été frustré (cf. arrêt 5A_995/2017 du 13 juillet 2018 consid. 1.1 et la référence). Dans la mesure où elle porte sur la question de la contribution due par le recourant à l'entretien de son fils, il convient de relever qu'un dommage économique ou de pur fait n'est pas considéré comme un préjudice irréparable au sens de cette norme (<ref-ruling> consid. 2.2; <ref-ruling> consid. 1.2; <ref-ruling> consid. 2.3.1 et les arrêts cités) et, partant, que le seul fait d'être condamné au paiement d'une somme d'argent ne constitue pas un préjudice de nature juridique (<ref-ruling> consid. 1.3.1; <ref-ruling> consid. 1.2). Cela étant, dans la mesure où l'attribution des droits parentaux a une incidence directe sur la fixation de la contribution due à l'entretien de l'enfant, la réponse à la question du préjudice irréparable causé par le paiement de la contribution d'entretien peut dépendre de l'issue de la cause s'agissant des droits parentaux, de sorte qu'elle peut rester ouverte à ce stade.
2.
2.1. Comme la décision entreprise porte sur des mesures provisionnelles au sens de l'<ref-law>, la partie recourante ne peut dénoncer que la violation de droits constitutionnels. Le Tribunal fédéral n'examine de tels griefs que s'ils ont été invoqués et motivés par le recourant (" principe d'allégation "; <ref-law>), c'est-à-dire s'ils ont été expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 2.1; <ref-ruling> consid. 2.4). En particulier, une décision ne peut être qualifiée d'arbitraire (art. 9 Cst.) que si elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité (<ref-ruling> consid. 7.3; <ref-ruling> consid. 4.1); il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit annulée, encore faut-il qu'elle se révèle arbitraire non seulement dans ses motifs, mais aussi dans son résultat (<ref-ruling> consid. 7.1, 170 consid. 7.3; <ref-ruling> consid. 4.3).
En l'espèce, on ne discerne, dans le présent mémoire, aucune motivation suffisante à l'appui de la conclusion du recourant tendant à l'attribution de l'autorité parentale exclusive en sa faveur. Partant, il y a d'emblée lieu de constater l'irrecevabilité de cette conclusion.
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Dans l'hypothèse d'un recours soumis à l'<ref-law>, le recourant qui entend invoquer que les faits ont été établis de manière manifestement inexacte ne peut obtenir la rectification ou le complètement des constatations de fait de l'arrêt cantonal que s'il démontre la violation de droits constitutionnels, conformément au principe d'allégation susmentionné (cf. supra consid. 2.1). Le recourant ne peut se limiter à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; il doit indiquer de façon précise en quoi ces constatations sont arbitraires au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.4.3). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (<ref-law>; <ref-ruling> consid. 1.3.1; <ref-ruling> consid. 2.3 et les références). En matière de constatation des faits et d'appréciation des preuves, le Tribunal fédéral n'intervient, du chef de l'art. 9 Cst., que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'une preuve propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a effectué des déductions insoutenables (<ref-ruling> consid. 7.1; <ref-ruling> consid. 2.3; <ref-ruling> consid. 4.2; <ref-ruling> consid. 4.2 et les références); encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause.
2.3. Aucun fait nouveau ni preuve nouvelle ne peut être présenté, à moins de résulter de la décision de l'autorité précédente (<ref-law>). Cette exception vise les faits qui sont rendus pertinents pour la première fois par la décision attaquée; peuvent notamment être introduits des faits nouveaux concernant le déroulement de la procédure devant l'instance précédente, afin d'en contester la régularité, ou encore des faits postérieurs à l'arrêt attaqué permettant d'établir la recevabilité du recours. En dehors de ces cas, les nova ne sont pas admissibles, qu'il s'agisse de faits ou moyens de preuve survenus postérieurement à la décision attaquée, ou d'éléments que les parties ont négligé de présenter aux autorités cantonales (<ref-ruling> consid. 3.1.2; <ref-ruling> consid. 4.4.3).
A l'appui de ses écritures, le recourant a produit plusieurs pièces nouvelles relatives à une procédure pénale initiée contre le compagnon actuel de l'intimée. Il a encore produit d'autres pièces en lien avec cette même procédure en date du 26 février 2021. Ces pièces sont toutes postérieures à l'arrêt querellé. Contrairement à ce que soutient le recourant, on ne saurait admettre qu'il s'agisse là de faits notoires au motif qu'ils sont immédiatement connus du Tribunal de céans ("gerichtsnotorische Tatsachen"; cf. <ref-ruling>consid. 4.1; arrêts 5A_610/2016 du 3 mai 2017 consid. 3.1; 5P.205/2004 du 20 août 2004 consid. 3.3 et la citation doctrinale). En effet, ces faits résultent d'une procédure ouverte devant une autre autorité et traite qui plus est d'une affaire pénale, de sorte qu'on peine à voir comment la Cour de céans pourrait en avoir eu connaissance. Partant, ces faits n'échappent pas à l'interdiction de l'<ref-law> et sont en conséquence irrecevables. Le recourant a également produit la copie d'une coupure de presse faisant état de la charge de travail du Tribunal d'arrondissement de la Gruyère. Cet article est certes antérieur à l'arrêt attaqué mais rien n'indique qu'il aurait été produit devant l'autorité précédente, de sorte que cette pièce ne satisfait pas davantage aux conditions de recevabilité de l'<ref-law>. Le rapport d'activité 2020 du SEJ transmis au Tribunal de céans pour information constitue également une pièce nouvelle au sens de cette disposition, au même titre que le rapport d'enquête du SEJ du 15 septembre 2020 transmis par l'intimée en annexe d'un courrier du 10 mars 2021.
2.4. Le recourant requiert que soit ordonnée la production de différents dossiers dans des causes tant civile que pénale, tout comme la mise en oeuvre d'une expertise psychiatrique indépendante de l'intimée. Or, des mesures probatoires devant le Tribunal fédéral (<ref-law>) ne sont pas - sous réserve d'exceptions non réalisées en l'espèce - ordonnées dans une procédure de recours (<ref-ruling> consid. 2), dès lors que le Tribunal fédéral conduit en principe son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne sera donc pas donné suite aux réquisitions de preuve du recourant.
3.
La Cour d'appel a relevé que la décision de première instance ne réglait que provisoirement la situation de l'enfant jusqu'à ce que l'enquête sociale sollicitée du SEJ, qui tendait à déterminer notamment si chacun des parents disposait de capacités éducatives, soit déposée. Le Président s'était donc limité à raison à examiner si l'accord, lui aussi provisoire, passé par les parents le 13 décembre 2019 - prévoyant que la garde et l'entretien de l'enfant seraient attribués à la mère et un droit de visite accordé au père jusqu'à droit connu sur le rapport du SEJ - devait être d'ores et déjà modifié. Après avoir entendu les parties et plusieurs témoins, il avait conclu que même si les parties n'étaient pas exemptes de reproches - le père s'étant notamment vraisemblablement montré violent envers la mère dès lors qu'il a admis, dans un message WhatsApp, avoir adopté une attitude inappropriée envers celle-ci -, elles adoptaient néanmoins une attitude adéquate vis-à-vis de leur fils, de sorte qu'une modification de la situation ne se justifiait pas à ce stade de la procédure.
La Cour d'appel a indiqué partager l'analyse du premier juge au motif que le recourant requérait, au stade des mesures provisionnelles déjà, une modification importante de la situation de l'enfant telle qu'elle prévalait depuis la séparation des parties et, surtout, telle qu'elle avait été convenue par les parties elles-mêmes dans leur convention du 13 décembre 2019. Avant même l'examen détaillé de la cause auquel devra se livrer le Président avec un plein pouvoir de cognition dans le cadre de son arrêt au fond, une modification de la situation actuelle était en soi déjà possible mais la prudence commandait souvent de maintenir provisoirement les choses en l'état, sauf s'il apparaissait clairement, au stade des mesures provisionnelles déjà, qu'une modification devait d'ores et déjà survenir pour le bien de l'enfant. Or, tel n'était pas ce qui ressortait du dossier. Il pouvait certes être retenu que les relations entre les parents sont très tendues, parfois exécrables, que le dialogue entre eux est empreint d'incompréhensions et de reproches, et qu'ils ne se font pas confiance. Une telle constatation est manifeste à la lecture du dossier, et peut être déduite des déclarations des parents, des constatations des témoins, et aussi du message WhatsApp produit le 9 décembre 2019 par l'intimée et ainsi porté à la connaissance du père, de sorte qu'il avait eu maintes occasions de se déterminer sur son contenu, si bien que la violation du droit d'être entendu invoquée en appel est manifestement mal fondée. Cela étant, le Président du Tribunal pouvait sans procéder à une constatation inexacte des faits retenir que la mère, notamment, disposait vraisemblablement des capacités éducatives pour s'occuper de l'enfant, faute de quoi le père n'aurait pas passé la convention précitée le 13 décembre 2019. Les motifs soulevés par le père pour tenter de démontrer que la mère n'était pas en mesure de s'occuper de son enfant (soit le fait qu'elle avait renoncé à mener l'enfant aux urgences alors qu'il avait de la fièvre, ou qu'elle le laisse dormir dans le même lit qu'elle) n'étaient pas de nature à laisser penser que le bien-être de l'enfant était en danger. Une enquête sociale était en cours et renseignerait utilement l'autorité sur la situation de l'enfant.
Rappelant que pour statuer sur l'attribution de la garde, le fait qu'un parent ne collabore pas avec l'autre peut être " relevant ", la Cour d'appel a encore relevé que plusieurs droits de visite s'étaient mal déroulés (incidents lors du passage de l'enfant), voire ne s'étaient pas déroulés du tout, chaque parent s'en rejetant la responsabilité. La situation avait encore été compliquée par la pandémie de Covid-19 et la mère se prévalait également du fait qu'elle ne trouvait personne qui serait disposée à l'accompagner lors de la remise et la reprise de l'enfant. Ces difficultés devaient être résolues grâce à l'aide du curateur; la curatelle, à laquelle le père semblait s'opposer en appel, devait en effet être manifestement maintenue. Elles ne justifiaient pas, à ce stade du dossier, un changement de garde. Cela étant, la pandémie ne constituait plus en soi, sauf situation à risque chez l'un ou l'autre des protagonistes, une limitation du droit de visite. Le père ne pouvait pas non plus être privé de voir son enfant pour le motif que la mère ne trouverait pas une personne de confiance pour l'accompagner. Cependant, il ressortait des dernières écritures que le droit de visite s'exerçait désormais comme décidé le 21 février 2020
Sur le vu de ce qui précède, la Cour d'appel a jugé qu'une modification drastique de la situation de l'enfant ne se justifiait " effectivement " pas en l'état.
4.
En préambule, il convient de préciser qu'il ressort de l'arrêt entrepris que les mesures provisionnelles ici querellées ont été rendues dans l'attente du résultat du rapport du SEJ, lequel a précisément été chargé de se déterminer sur les capacités parentales respectives des parties. Or, l'existence de capacités parentales est une prémisse nécessaire à l'attribution de la garde (cf. <ref-ruling> consid. 3.2.3-3.2.4; <ref-ruling> consid. 5.3; <ref-ruling> consid. 4a). En conséquence, il apparaît qu'en tant que les autorités cantonales ont déclaré statuer sur la question de l'attribution de la garde, elles ont en réalité examiné s'il convenait de maintenir la situation prévalant depuis la séparation des parties, étant rappelé que l'enfant vit depuis lors chez sa mère, ce en respect du principe selon lequel l'intérêt de l'enfant commande en règle générale d'éviter des changements trop fréquents s'agissant du lieu de vie de l'enfant et de le laisser auprès du parent qui prenait régulièrement soin de lui au moment de l'ouverture de la procédure ayant donné lieu à la décision attaquée et qui lui sert actuellement de référence (cf. arrêt 5A_792/2018 du 6 février 2019 consid. 3.2.2). A ce stade, compte tenu du fait que le rapport du SEJ quant aux capacités parentales des parties n'avait pas encore été rendu au moment du prononcé de la décision querellée, seule est dès lors déterminante la question de savoir si le maintien de la situation actuelle présente une mise en danger du bien de l'enfant qui justifierait le retrait provisionnel de la garde à sa mère au sens de l'<ref-law>. Les critiques du recourant doivent donc examinées sous cet angle, la question de l'attribution de la garde à proprement parler étant en l'état prématurée.
5.
5.1. Fondé sur l'énonciation toute générale de nombreux principes juridiques et dispositions relevant du droit tant fédéral (not. art. 8, 9, 13, 29 Cst. et 296 CPC) que conventionnel (not. art. 6 et 8 CEDH), le recours s'épuise en un exposé désordonné et confus, qui ne respecte guère les réquisits du principe d'allégation (<ref-law>; cf. supra consid. 2.1). Les critiques soulevées ne seront en conséquence examinées ci-après que pour autant qu'elles satisfassent un tant soit peu aux exigences de motivation sus-rappelées.
Sous cette réserve, il apparaît en définitive que le recourant se plaint essentiellement d'arbitraire (art. 9 Cst.) dans l'établissement des faits et l'appréciation des preuves. Il reproche ainsi aux juges cantonaux d'avoir omis de tenir compte du fait qu'il avait déposé trois requêtes de mesures superprovisionnelles sur une période de cinq mois motivées par la violation de son droit de visite et par la " confiscation " de l'enfant par sa mère durant plusieurs mois. Dits magistrats n'avaient pas non plus fait état du contenu de l'e-mail du 25 mars 2020 du SEJ concernant l'exercice du droit de visite pendant la pandémie, lequel précisait que les droits de visite étaient maintenus et que les parents devaient s'adresser aux autorités compétentes en cas de problème. Or, ces directives n'avaient pas été respectées par l'intimée, ce qui n'avait pas été établi. Les juges cantonaux avaient en outre retenu de manière arbitraire qu'il semblait s'opposer à la curatelle mise en place, alors qu'il n'avait fait que relever que celle-ci était insuffisante dans la mesure où le curateur ne disposait pas d'un pouvoir de coercition permettant de contraindre la mère à lui confier l'enfant. Ils avaient retenu à tort que la pandémie ne constituait plus, sauf situation à risque chez l'un ou l'autre des protagonistes, un motif de limitation du droit de visite alors qu'elle n'avait en réalité jamais justifié une limitation de ce droit. L'ensemble de ces faits influaient manifestement sur le sort de la cause puisqu'ils auraient dû amener les juges cantonaux à constater que l'intimée ne coopérait pas et donc à lui attribuer la garde, ce dans l'intérêt supérieur de l'enfant afin de lui permettre d'entretenir des relations personnelles avec son père. En ne lui confiant pas la garde, ou à tout le moins en ne garantissant pas le bon exercice de son droit de visite en ajoutant dans son dispositif la menace de la peine de l'<ref-law>, la Cour d'appel avait qui plus est violé les art. 8 § 1 CEDH et 13 al. 1 Cst. Cela valait d'autant plus que les juges cantonaux avaient eu connaissance du fait qu'il était désormais au chômage et disposait donc d'une grande disponibilité pour s'occuper de son fils. Le recourant invoque également la violation des mêmes dispositions au motif que la Cour d'appel aurait insuffisamment tenu compte de l'absence de collaboration de l'intimée, qui l'avait empêché d'entretenir des relations personnelles avec son fils durant plusieurs mois, ce qui justifiait également que la garde lui soit immédiatement confiée.
5.2. L'ensemble des griefs du recourant tendent en substance à démontrer que l'absence de coopération de l'intimée à son égard, en particulier dans le cadre de l'exercice de son droit de visite, mettrait en exergue son défaut de capacités parentales et aurait dès lors dû amener la Cour d'appel à lui confier la garde exclusive de son fils tout en réservant un droit de visite à sa mère. Or, comme évoqué ci-avant (cf. supra consid. 4), il apparaît en l'état prématuré de statuer sur la question des capacités parentales des parents dans la mesure où le SEJ a été chargé d'établir un rapport sur cette question et que les présentes mesures provisionnelles ont précisément été rendues pour régler la situation des parties jusqu'à reddition dudit rapport. Au demeurant, contrairement à ce que semble penser le recourant, l'absence de capacités parentales ne saurait dépendre de la seule incapacité d'un parent à collaborer avec l'autre. Ces questions ne sont au contraire pas directement liées puisque la capacité de collaboration ne constitue que l'un des critères à prendre en compte dans la pesée des intérêts pour déterminer à quel (s) parent (s) la garde doit être confiée une fois que le juge s'est assuré au préalable de leurs capacités parentales respectives (cf. <ref-ruling> consid. 3.2.3-3.2.4; <ref-ruling> consid. 5.3; <ref-ruling> consid. 4a). En outre, la Cour d'appel a constaté à juste titre que les motifs soulevés par le recourant pour démontrer que l'intimée n'est pas en mesure de s'occuper de son enfant, à savoir qu'elle aurait renoncé à l'emmener aux urgences alors qu'il avait de la fièvre ou qu'elle l'autorisait à dormir dans le même lit qu'elle - étant rappelé que l'enfant est âgé de moins de trois ans - n'étaient pas de nature à laisser penser que le bien-être de l'enfant était en danger auprès de sa mère. Parmi les faits qui, selon le recourant, auraient été arbitrairement constatés, rien ne laisse davantage entrevoir qu'il faille craindre pour le bien-être de l'enfant au point d'envisager qu'il doive être retiré à sa mère. Dans ces circonstances, c'est sans arbitraire que la Cour d'appel a estimé que l'enfant devait provisoirement être maintenu auprès de sa mère, qui est son parent de référence à tout le moins depuis octobre 2019, ce dans l'attente du résultat du rapport du SEJ.
Dès lors que la situation demeure inchangée s'agissant de l'attribution de la garde et du droit de visite, la question de la modification du montant de la contribution d'entretien ne se pose que dans la mesure des griefs du recourant. Or, s'agissant du préjudice irréparable sur ce point, le recourant a soutenu que les indemnités de chômage qu'il percevait désormais ne lui permettaient pas de s'acquitter de la contribution due à son fils sans entamer son minimum vital. Il n'apporte toutefois pas de preuves suffisantes, chiffres à l'appui, d'une telle atteinte, de sorte qu'il n'y a pas lieu d'examiner plus avant ses griefs sur la question de la contribution d'entretien.
6.
Le recourant se plaint d'une violation de son droit d'être entendu (art. 6 § 1 CEDH et 29 al. 2 Cst.) à plusieurs titres.
6.1. Il fait grief à la Cour d'appel de ne pas avoir mentionné la base juridique sur laquelle reposait sa motivation, " notamment en ce qui concerne les droits constitutionnels en cause ". Elle avait également violé son droit d'être entendu en considérant que le droit de visite s'exerçait désormais conformément à ce qui avait été décidé le 21 février 2020, en se fondant uniquement sur un courrier du 8 juin 2020 de l'intimée et sans l'entendre sur cette question. En l'occurrence, le droit de visite ne s'était pas déroulé comme décidé le 21 février 2020 puisqu'il avait subi une agression physique de la part du nouveau compagnon de l'intimée le 1er août 2020. Le recourant voit aussi une violation de son droit d'être entendu dans le fait que la Cour d'appel a retenu qu'il avait eu maintes occasions de se déterminer sur le message WhatsApp produit le 9 décembre 2019 par l'intimée. Il n'avait pas eu l'occasion de se déterminer sur cette pièce car les audiences du 13 décembre 2019, lors de laquelle les parties avaient conclu une convention, et du 20 février 2020, n'avaient pas porté sur cette question. Dans son courrier du 16 janvier 2020 adressé aux parties, le Président avait d'ailleurs déclaré ne pas être en mesure de trancher la question sans entendre au préalable les parties. Il avait toutefois finalement statué sans l'entendre précisément sur cette pièce. Or, il lui aurait appartenu de l'interpeller à ce sujet s'il estimait qu'elle était fondamentale. Enfin, le recourant estime que son droit d'être entendu a été violé dans la mesure où les juges cantonaux avaient renoncé à citer les parties à une audience, lors de laquelle ils auraient également pu l'interroger sur cette pièce.
6.2. En premier lieu, il convient de constater qu'en tant que la critique du recourant est dirigée contre la décision du premier juge, elle est irrecevable (<ref-law>). Le recourant se plaint ensuite d'un défaut de motivation dans la mesure où la cour cantonale aurait insuffisamment énoncé les bases légales sur lesquelles elle fondait sa motivation. Or, dans la mesure où le recourant a manifestement été en mesure de comprendre et d'attaquer les motifs de la décision querellée relatifs au maintien à titre provisoire de l'enfant auprès de sa mère, son grief de violation de l'art. 29 al. 2 Cst. s'avère infondé. Au surplus, le recourant se plaint pour l'essentiel de ne pas avoir pu s'exprimer sur la question du déroulement de son droit de visite ou encore sur un message WhatsApp qui démontrerait qu'il aurait admis avoir usé de violence sur l'intimée. Au vu de sa motivation, le recourant entend, ce faisant, démontrer que l'intimée ne respecte pas toujours son droit de visite et que les parties ne s'entendent pas sur l'exercice des droits parentaux. Or, ces questions ne sont pas litigieuses puisque les juges cantonaux ont précisément retenu qu'il ressortait du message WhatsApp en question, mais également du dossier et des déclarations des parents et des témoins, que les relations entre les parents étaient très tendues, parfois exécrables, que le dialogue entre eux était empreint d'incompréhension et de reproches et qu'ils ne se faisaient pas confiance. Le premier juge avait quant à lui précisé que les difficultés survenaient lors de la remise de l'enfant et découlaient des problèmes de communication des parents. Partant, on peine à percevoir en quoi l'audition du recourant sur ces questions spécifique aurait davantage pu servir son argumentation et comment elle aurait pu modifier l'issue de la présente cause. Le grief s'avère, là aussi, infondé. Les juges cantonaux ont d'ailleurs valablement motivé les raisons pour lesquelles ils renonçaient à convoquer les parties à une audience, estimant que celle-ci n'était pas nécessaire compte tenu de l'objet de l'appel et du fait que toutes les pièces utiles à son traitement figuraient au dossier. Le recourant ne s'en prend pas à cette motivation puisqu'il se contente de soutenir laconiquement que les juges cantonaux avaient violé son droit d'être entendu en renonçant à citer les parties à une audience.
7.
Le recourant reproche à la Cour d'appel d'avoir violé les art. 9, 29 et 30 Cst., ainsi que l'<ref-law>, en retenant qu'il avait adressé au Président plusieurs reproches sans toutefois demander la récusation de ce magistrat, de sorte que les griefs formulés en appel n'avaient de pertinence que dans la mesure où ils pouvaient influer sur l'attribution de l'autorité parentale ou de la garde, respectivement sur l'un des thèmes qui concernaient l'enfant.
Dans sa motivation, le recourant ne fait toutefois que réitérer les griefs dirigés à l'encontre de la décision du premier juge s'agissant de l'attribution de la garde de l'enfant et de la fixation du droit de visite. Il ne soutient en revanche pas qu'il aurait effectivement requis la récusation du Président et que les juges cantonaux n'en auraient à tort pas tenu compte. Ses griefs à cet égard, pour autant que recevables, sont dès lors infondés.
8.
En définitive, le recours doit être rejeté dans la mesure de sa recevabilité. Celui-ci étant d'emblée voué à l'échec, la requête d'assistance judiciaire du recourant doit être rejetée (<ref-law>). Les frais judiciaires, arrêtés à 1'500 fr., seront donc mis à sa charge (art. 66 a l. 1 LTF). Il n'y a pas lieu d'octroyer de dépens à l'intimée, qui a partiellement succombé sur la question de l'effet suspensif et n'a pas été invitée à se déterminer sur le fond du recours (art. 68 al. 1 et 2 LTF). Dans la mesure où elle n'assume au surplus pas de frais judiciaires, sa requête d'assistance judiciaire est sans objet.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel subsidiaire est irrecevable.
2.
Le recours en matière civile est rejeté dans la mesure où il est recevable.
3.
La requête d'assistance judiciaire du recourant est rejetée.
4.
La requête d'assistance judiciaire de l'intimée est sans objet.
5.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
6.
Le présent arrêt est communiqué aux parties et à la Ie Cour d'appel civil du Tribunal cantonal de l'Etat de Fribourg.
Lausanne, le 25 mars 2021
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Hildbrand