Faits :
A.
B._ (née en 1989) et A._ (né en 1981) sont les parents hors mariage de C._, né en 2014. Ils sont tous deux titulaires de l'autorité parentale sur l'enfant.
B.
B.a. Le 15 septembre 2016, suite à une dispute du couple s'étant produite la veille dans la soirée et ayant nécessité l'intervention de la police, B._ a sollicité l'intervention de la Justice de paix de l'arrondissement de la Veveyse (ci-après: Justice de paix).
Par décision de mesures superprovisionnelles du même jour, la Juge de paix a attribué la garde de C._ à sa mère, tout en refusant d'accorder un droit de visite au père de l'enfant. Elle a également fixé une séance au 22 septembre 2016 en vue d'entendre les parties. Dans le même délai, elle a invité A._ à se déterminer sur le retrait de la garde, respectivement le refus de lui accorder un droit de visite.
A._ a déclaré ne pas s'opposer à ce que la garde de l'enfant soit attribuée à la mère. Exposant ne pas comprendre la position de son ex-compagne selon laquelle il ne devrait être autorisé à voir leur fils pendant la journée exclusivement dans un premier temps, il a sollicité la mise en place d'un droit de visite usuel en sa faveur. Enfin, il s'est dit ouvert à la mise en place d'une médiation entre les parents.
B.b. Par décision du 22 septembre 2016, la Justice de paix a pris acte de l'accord intervenu en séance entre les parties concernant la garde de leur enfant et, partant, a confié celle-ci à la mère (ch. I). En outre, un droit de visite usuel a été instauré en faveur du père, s'exerçant à raison d'un week-end sur deux, du vendredi soir à 18h au dimanche soir à 18h, de deux semaines pendant les vacances d'été, d'une semaine à Noël et d'une semaine à choix pendant les autres vacances scolaires, les fêtes de Pâques et Noël étant passées alternativement chez l'un ou l'autre parent (ch. II). Pour le surplus, la Justice de paix a exhorté les parties à entreprendre une médiation familiale - aux fins de favoriser leur communication en rapport avec l'intérêt de l'enfant - auprès de D._, médiatrice familiale ASMF, avec laquelle ils prendront contact (ch. III).
C.
C.a. Le 14 novembre 2016, B._ a interjeté un recours contre cette décision devant la Cour de protection de l'enfant et de l'adulte du Tribunal cantonal de l'Etat de Fribourg (ci-après: Cour de protection). Elle s'en est prise exclusivement au chiffre II du dispositif de la décision attaquée. A titre principal, elle a conclu à sa réforme en ce sens qu'aucun droit de visite n'est accordé au père de l'enfant. A titre subsidiaire, elle a conclu à l'annulation de ce chiffre, respectivement au renvoi de la cause à l'autorité de protection pour nouvelle décision dans le sens des considérants.
A._ a déposé sa réponse le 23 décembre 2016. Sur le fond, il a conclu au rejet du recours.
C.b. Par ordonnance du 27 décembre 2016, le Juge délégué de la Cour de protection a rejeté la requête de retrait de l'effet suspensif présentée par A._. Par la même occasion, il a invité les parties à faire part à la Cour de protection de leurs propositions eu égard à la possibilité de mettre en place un droit de visite en présence d'une personne de confiance, motifs pris que d'après un examen prima facie du dossier, une suppression totale du droit aux relations personnelles du père sur l'enfant paraissait d'emblée disproportionnée.
A._ s'est déterminé le 3 janvier 2017. Tout en réaffirmant qu'il concluait au rejet du recours, il s'est dit favorable, en cas d'admission partielle de ce dernier, à l'exercice de son droit de visite en présence de la mère de l'enfant.
B._ s'est, quant à elle, déterminée le 5 janvier 2017. Elle a indiqué toujours s'opposer fermement à la mise en place d'un quelconque droit de visite en faveur du père, relevant que celui-ci s'était vu condamné pour voies de fait, injure, utilisation abusive d'une installation de télécommunication, menaces et calomnie - infractions commises à son préjudice notamment - par ordonnance pénale du Ministère public du 16 décembre 2016, de sorte que, si un droit de visite venait malgré tout à être mis en place, il ne pourrait avoir lieu qu'au Point Rencontre. Le 19 janvier 2017, elle a déposé une détermination spontanée. Tout en invitant la Cour de protection à prendre note de son nouveau domicile, elle a fait état du comportement harcelant et menaçant de son ex-concubin.
C.c. Par arrêt du 3 février 2017, la Cour de protection a partiellement admis le recours et a réformé le dispositif de la décision rendue par la Justice de paix le 22 septembre 2016 comme suit:
" I. Inchangé.
II. Le droit aux relations personnelles entre A._ et son fils C._ s'exercera jusqu'à nouvel avis au Point Rencontre.
III. Inchangé.
IV. Inchangé.
V. Une curatelle de surveillance des relations personnelles, au sens de l'<ref-law>, est instaurée en faveur de C._, à charge pour la Justice de paix de nommer un curateur.
VI. Le curateur est invité à proposer à la Justice de paix les modalités qu'il jugera opportunes concernant le droit de visite du père, cela en fonction de l'évolution de la situation. A ce propos, il adressera un premier rapport d'ici au 31 mars 2017. "
D.
Par acte posté le 7 mars 2017, A._ exerce un recours " en matière de droit civil " (recte: en matière civile) au Tribunal fédéral contre l'arrêt du 3 février 2017, avec requête d'effet suspensif. Il conclut à la réforme de l'arrêt entrepris en ce sens qu'un droit de visite usuel sur l'enfant C._ est instauré en sa faveur, lequel s'exercera à raison d'un week-end sur deux, du vendredi soir à 18h au dimanche soir à 18h, et de deux semaines pendant les vacances d'été, d'une semaine à Noël et d'une semaine à choix pendant les autres vacances scolaires, les fêtes de Pâques et de Noël étant passées alternativement chez l'un ou l'autre parent.
Invitée à se déterminer, B._ conclut au rejet du recours. Elle sollicite en outre d'être mise au bénéfice de l'assistance judiciaire pour la procédure fédérale. Elle produit une pièce nouvelle, soit le courrier adressé aux parties le 3 mai 2017 par la curatrice nommée le 23 mars 2017 par la Justice de paix, relativement aux modalités d'exercice du droit de visite au Point Rencontre Fribourg. La cour cantonale se réfère aux considérants de son arrêt.
Par courrier de son conseil du 29 mai 2017, A._ a indiqué qu'il n'avait pas d'observations supplémentaires à formuler et qu'il se référait intégralement à son acte de recours.
E.
Par ordonnance présidentielle du 29 mars 2017, la requête d'effet suspensif assortissant le recours a été rejetée.

Considérant en droit :
1.
Le recours est dirigé contre une décision finale (<ref-law>), prise par un tribunal cantonal supérieur statuant sur recours (art. 75 al. 1 et 2 LTF) sur les relations personnelles entre le parent non marié - qui n'a pas la garde de l'enfant mineur - et l'enfant, ainsi que sur des mesures de protection de l'enfant au sens des art. 307 s. CC, soit une décision prise en application de normes de droit public dans une matière connexe au droit civil (art. 72 al. 2 let. b ch. 6 LTF; arrêt 5A_782/2013 du 9 décembre 2013 consid. 1). Comme les questions soumises au Tribunal fédéral sont de nature non pécuniaire, le recours est ouvert indépendamment de la valeur litigieuse (arrêt 5A_304/2016 du 13 juin 2016 consid. 1). Déposé par ailleurs en temps utile (<ref-law>) et en la forme écrite prévue par la loi (<ref-law>), par une partie qui a pris part à la procédure devant l'autorité précédente (<ref-law>) et a un intérêt digne de protection à l'annulation ou à la modification de la décision attaquée (<ref-law>), le recours en matière civile est en principe recevable.
2.
2.1. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 s. LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques qui pourraient se poser, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 2; <ref-ruling> consid. 1.4). L'<ref-law> exige par ailleurs que le recourant discute les motifs de la décision entreprise et indique précisément en quoi il estime que l'autorité précédente a méconnu le droit (<ref-ruling> consid. 2). Il doit exister un lien entre la motivation du recours et la décision attaquée. Le recourant doit se déterminer par rapport aux considérants de l'arrêt entrepris et expliquer en quoi ceux-ci sont à son avis contraires au droit; il ne peut se contenter de reprendre presque mot pour mot l'argumentation formée devant l'autorité cantonale (<ref-ruling> consid. 2; <ref-ruling> consid. 2.1 et 2.3). En outre, le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si de tels griefs ont été invoqués et motivés par le recourant (" principe d'allégation ", <ref-law>; <ref-ruling> consid. 3.3), c'est-à-dire s'ils ont été expressément soulevés et exposés de façon claire et détaillée (<ref-ruling> consid. 2.1; <ref-ruling> consid. 1.3 et les références).
2.2. Conformément à l'<ref-law>, les faits et moyens nouveaux ne sont en principe pas admissibles. Dès lors, il n'est pas possible de tenir compte de la pièce nouvelle produite par l'intimée, à savoir un courrier postérieur à l'arrêt querellé.
3.
Le recourant reproche à la cour cantonale d'avoir établi les faits en violation de la maxime inquisitoire. Singulièrement, aucune expertise n'avait été faite ni aucun rapport rendu par le Service de protection de la jeunesse (SPJ), alors qu'un tel rapport était " indiqué " pour le prononcé d'une telle restriction des contacts entre un parent et son enfant.
3.1. Dans les affaires relatives à la protection de l'enfant, le juge est lié à la maxime inquisitoire en ce qui concerne l'établissement des faits et l'appréciation des preuves (<ref-law> applicable par renvoi de l'<ref-law>). Le tribunal, qui a le devoir d'administrer les preuves, n'est cependant pas lié par les offres de preuves des parties; il décide au contraire selon sa conviction quels faits doivent encore être établis et quels sont les moyens de preuves pertinents pour démontrer ces faits (arrêts 5A_378/2014 du 30 juin 2014 consid. 3.1.2; 5A_877/2013 du 10 février 2014 consid. 4.1.1). Le principe de la maxime inquisitoire ne lui interdit donc pas de procéder à une appréciation anticipée des preuves déjà recueillies pour évaluer la nécessité d'en administrer d'autres (<ref-ruling> consid. 2.2.3; arrêt 5A_22/2011 du 16 février 2011 consid. 4.1).
Abstraction faite d'exceptions qui ne sont pas réalisées dans le cas présent (cf. à ce sujet: FABIENNE HOHL, Procédure civile, t. I, 2ème éd. 2016, n° 1791 p. 295 s.), l'expertise n'est ainsi qu'une mesure probatoire parmi d'autres. Le juge doit l'ordonner lorsqu'elle apparaît comme le seul moyen de preuve idoine, en particulier lorsqu'il ne bénéficie pas de connaissances personnelles suffisantes pour se prononcer sur le bien de l'enfant, par exemple lorsque celui-ci souffre d'une maladie ou présente un comportement pathologique, ou encore lorsque le juge ne dispose d'aucun élément de preuve sur des faits pertinents pour la décision; il jouit à cet égard d'un large pouvoir d'appréciation (arrêts 5A_378/2014 précité; 5A_798/2009 du 4 mars 2010 consid. 3.1 et les arrêts cités, non publié aux <ref-ruling>), qui trouve sa limite dans l'interdiction de l'arbitraire (<ref-ruling> consid. 2a; <ref-ruling> consid. 2a).
Le Tribunal fédéral n'intervient en conséquence que si le juge du fait a abusé de ce pouvoir, en particulier lorsqu'il admet ou nie un fait pertinent en se mettant en contradiction évidente avec les pièces et les éléments du dossier, lorsqu'il méconnaît des preuves pertinentes ou n'en tient arbitrairement pas compte, ou encore lorsque, en se fondant sur les éléments recueillis, il en tire des constatations insoutenables (<ref-ruling> consid. 4.3; <ref-ruling> consid. 2.1; arrêt 5A_22/2011 précité).
3.2. N'invoquant même pas l'arbitraire, le recourant se borne à objecter globalement, et donc sans donner plus de précisions, qu'une expertise ou un rapport du SPJ auraient dû être ordonnés, un tel rapport étant " indiqué " pour l'instauration d'un droit de visite surveillé. Il n'expose pas concrètement quels faits auraient dû faire l'objet d'investigations de la part d'un expert ou du SPJ spontanément sollicités par la cour cantonale. Il ne fournit en effet aucun élément pouvant justifier que de plus amples mesures d'instruction, telle une expertise, comme il le demande, soient ordonnées. Sa critique ne satisfait dès lors nullement aux exigences de motivation susrappelées (cf. supra consid. 2.1) et ne permet pas de retenir que la cour cantonale aurait outrepassé les limites de son pouvoir d'appréciation, ni conséquemment versé dans l'arbitraire, en considérant qu'elle était suffisamment renseignée et que le dossier était en état d'être jugé. Insuffisamment motivé, le recours est irrecevable sur ce point.
4.
Le recourant invoque la violation des art. 273 et 274 CC ainsi que de l'art. 8 CEDH.
Comme il ne prétend pas que la législation suisse contreviendrait à l'art. 8 CEDH, il suffit d'examiner le bien-fondé des griefs tirés de la violation du droit fédéral (cf. arrêts 5A_480/2008 du 5 novembre 2008 consid. 2; 5P.103/2004 du 7 juillet 2004 consid. 2.3).
4.1. L'<ref-law> prévoit que le père ou la mère qui ne détient pas l'autorité parentale ou la garde ainsi que l'enfant mineur ont réciproquement le droit d'entretenir les relations personnelles indiquées par les circonstances. Autrefois considéré comme un droit naturel des parents, le droit aux relations personnelles de l'<ref-law> est désormais conçu comme un droit-devoir réciproque qui sert en premier lieu les intérêts de l'enfant (<ref-ruling> consid. 5; arrêts 5A_728/2015 du 25 août 2016 consid. 2.2; 5A_422/2015 du 10 février 2016 consid. 4.2 non publié aux <ref-ruling>; 5A_756/2013 du 9 janvier 2014 consid. 5.1.2, publié in FamPra.ch 2014 p. 433). A cet égard, il est unanimement reconnu que le rapport de l'enfant avec ses deux parents est essentiel et qu'il peut jouer un rôle décisif dans le processus de recherche d'identité de l'enfant (<ref-ruling> consid. 4a; <ref-ruling> consid. 3c; arrêt 5A_586/2012 du 12 décembre 2012 consid. 4.2).
Le droit aux relations personnelles n'est pas absolu. Si les relations personnelles compromettent le développement de l'enfant, si les père et mère qui les entretiennent violent leurs obligations, s'ils ne se sont pas souciés sérieusement de l'enfant ou s'il existe d'autres justes motifs, le droit d'entretenir ces relations peut leur être retiré ou refusé (<ref-law>). Il importe en outre que cette menace ne puisse être écartée par d'autres mesures appropriées. Cette règle découle du principe de la proportionnalité auquel sont soumis le refus ou le retrait de relations personnelles avec l'enfant en tant que mesures de protection. Le retrait de tout droit à des relations personnelles constitue l' ultima ratioet ne peut être ordonné, dans l'intérêt de l'enfant, que si les effets négatifs des relations personnelles ne peuvent être maintenus dans des limites supportables pour l'enfant (<ref-ruling> consid. 3b/aa; arrêts 5A_53/2017 du 23 mars 2017 consid. 5.1 et les références; 5A_699/2007 du 26 février 2008 consid. 2.1, publié in FamPra.ch 2008 p. 695). Si, en revanche, le préjudice engendré pour l'enfant par les relations personnelles peut être limité par la mise en oeuvre d'un droit de visite surveillé ou accompagné, le droit de la personnalité du parent non détenteur de l'autorité parentale, le principe de la proportionnalité, mais également le sens et le but des relations personnelles, interdisent la suppression complète du droit auxdites relations (<ref-ruling> consid. 3c; arrêts 5A_728/2015 du 25 août 2016 consid. 2.2; 5A_120/2013 du 23 mai 2013 consid. 2.1.3; 5A_92/2009 du 22 avril 2009 consid. 2, publié in FamPra.ch 2009 p. 786; 5A_699/2007 consid. 2.1 précité; 5C.170/2001 du 31 août 2001 consid. 3c, publié in FamPra.ch 2002 p. 389). L'une des modalités particulières à laquelle il est envisageable de subordonner l'exercice du droit de visite, par une application conjointe des art. 273 al. 2 et 274 al. 2 CC, peut ainsi consister en l'organisation des visites, avec ou sans curatelle de surveillance, dans un lieu protégé spécifique, tel un Point Rencontre ou une autre institution analogue (MEIER/STETTLER, Droit de la filiation, 5ème éd. 2014, n° 793 et les arrêts cités).
L'établissement d'un droit de visite surveillé nécessite des indices concrets de mise en danger du bien de l'enfant; il ne suffit pas que ce dernier risque abstraitement de subir une mauvaise influence pour qu'un tel droit de visite soit instauré (arrêts 5A_401/2014 du 18 août 2014 consid. 3.2.2 et les références; 5A_699/2007 consid. 2.1 précité; 5P.131/2006 du 25 août 2006 consid. 3, publié in FamPra.ch 2007 p. 167). Il convient dès lors de faire preuve d'une certaine retenue lors du choix de cette mesure (arrêts 5A_401/2014 précité consid. 3.2.2; 5A_699/2007 précité consid. 2.1). Le droit de visite surveillé tend à mettre efficacement l'enfant hors de danger, à désamorcer des situations de crise, à réduire les craintes et à contribuer à l'amélioration des relations avec l'enfant et entre les parents. Il constitue en principe une solution provisoire et ne peut donc être ordonné que pour une durée limitée. Il convient toutefois de réserver les cas où il apparaît d'emblée que les visites ne pourront pas, dans un proche avenir, être effectuées sans accompagnement (arrêt 5A_728/2015 précité consid. 2.2 et les références).
L'appréciation des circonstances de fait pour fixer le droit aux relations personnelles des art. 273 et 274 CC, c'est-à-dire la détermination de leur portée juridique, est une question de droit. Le Tribunal fédéral s'impose toutefois une certaine retenue. Le juge du fait qui, par son expérience en la matière, connaît mieux les parties et le milieu dans lequel l'enfant évolue, dispose d'un large pouvoir d'appréciation en vertu de l'<ref-law>. Le Tribunal fédéral n'intervient que si le juge, sans aucun motif, a écarté des critères essentiels pour la décision sur le droit de visite des enfants ou, à l'inverse, s'est fondé sur des éléments dépourvus d'importance au regard du bien des enfants ou contrevenant aux principes du droit fédéral (<ref-ruling> consid. 4a; arrêts 5A_53/2017 précité consid. 5.1; 5A_22/2017 du 27 février 2017 consid. 3.1.3; 5A_422/2015 précité consid. 4.2 in fine non publié aux <ref-ruling>).
4.2. En l'espèce, la cour cantonale a considéré qu'une suppression totale du droit de visite apparaissait d'emblée disproportionnée. Il n'en demeurait pas moins que les différents éléments portés à sa connaissance plaidaient en faveur d'une restriction, à tout le moins temporaire, du droit aux relations personnelles qui, jusqu'à nouvel avis, s'exercerait au Point Rencontre, le temps que le père prenne conscience de ses responsabilités parentales et tout particulièrement des répercussions néfastes que son comportement pouvait avoir sur son fils. En effet, les accusations formulées à son encontre par son ex-concubine, en particulier le fait qu'il lui arrivait de se montrer irascible, impétueux et parfois violent à l'égard de son entourage, avaient une consistance certaine à la lumière des documents que cette dernière avait versés au dossier. D'ailleurs, le recourant ne contestait que mollement les prétendues violences verbales, concédant qu'il était tendu et colérique ces derniers temps en raison de sa situation de chômeur en fin de droit. Quoi qu'il en soit, le comportement de l'intéressé dépassait largement le cadre du banal conflit de couple en pleine séparation. On en voulait pour preuve l'ordonnance pénale rendue par le Ministère public le 16 décembre 2016, de laquelle il ressortait que l'intéressé s'était vu condamné pour voies de fait, injure, utilisation abusive d'une installation de télécommunication, menaces et calomnie. Même si l'on ignorait si cette ordonnance était à présent entrée en force de chose jugée - l'intéressé ayant omis de préciser s'il avait formé ou non opposition -, force était de constater que les allégations de la mère avaient suffisamment de consistance pour ne pas demeurer sans suite. Par surabondance de motifs, le fait pour l'intéressé de soutenir que son comportement n'avait aucune incidence sur le bon développement de son fils dénotait une absence totale de prise de conscience. Il y avait au contraire lieu de retenir qu'un conflit parental important existait entre les parents - lequel était largement alimenté par le père - et que ce conflit exposait l'enfant à un risque psychologique significatif. A n'en pas douter, l'absence de communication entre les parties compromettait le bon développement de l'enfant.
A elle seule, la médiation - nécessaire - préconisée par la Justice de paix ne suffirait vraisemblablement pas à favoriser un droit de visite si ce n'est harmonieux, à tout le moins sans heurts, au vu des difficultés de communication rencontrées par les parents et compte tenu de leurs positions respectives au sujet du droit de visite du père, qui étaient diamétralement opposées. Dans ces circonstances, il se justifiait que le droit aux relations personnelles entre l'intéressé et son fils s'exerce jusqu'à nouvel avis au Point Rencontre. En outre, une curatelle de surveillance des relations personnelles, au sens de l'<ref-law>, devait être instaurée en faveur de l'enfant, le curateur étant invité à proposer à la Justice de paix les modalités qu'il jugerait opportunes concernant le droit de visite du père en fonction de l'évolution de la situation qui, si elle s'avérait positive, se traduirait par un élargissement du droit de visite à brève échéance. Dans cette optique, un premier rapport devait être adressé à la Justice de paix par le curateur d'ici au 31 mars 2017.
4.3. Le recourant reproche à la cour cantonale d'avoir fondé toute son argumentation sur la relation tendue entre les parents. Se contentant d'évoquer le conflit parental au moment de la séparation, elle s'était basée sur des éléments qui ne concernaient que la relation des parties entre elles et non l'enfant. L'arrêt attaqué ne faisait ainsi pas état de constatations pertinentes qui justifieraient une restriction du droit de visite. Aucun élément du dossier ne permettait de conclure à une mise en danger du bien de l'enfant, nécessaire à une telle restriction. S'il était probable que ce dernier ait été perturbé par les disputes de ses parents, il n'avait pas été établi qu'il rencontrait des problèmes liés à la relation qu'il entretenait avec son père. L'analyse de la directrice de la crèche selon laquelle un droit de visite usuel mettrait en danger le bien de l'enfant ne répondait pas aux conditions d'une expertise et ne saurait justifier la restriction du droit de visite. En effet, cette dernière ne se prévalait pas de qualifications professionnelles lui permettant d'établir un tel diagnostic et elle n'avait pas effectué d'analyse circonstanciée de la situation. Par ailleurs, le fait qu'il ait, à une reprise, sorti un peu brusquement son fils de sa chaise alors qu'il faisait des caprices à table, ou encore son hospitalisation pendant une nuit, ne suffisaient pas à démontrer la mise en danger de l'enfant. D'ailleurs, la cour cantonale ne s'y référait pas expressément dans son argumentation. Dans ces conditions, l'arrêt attaqué devait être annulé et un droit de visite usuel prononcé.
4.4. Il est exact que les conflits entre les parents ne constituent pas un motif de restreindre le droit de visite et qu'une telle limitation n'est justifiée que s'il y a lieu d'admettre au regard des circonstances que l'octroi d'un droit de visite usuel compromet le bien de l'enfant (<ref-ruling> consid. 5). Nonobstant la bonne entente existant entre l'enfant et le bénéficiaire du droit de visite, les circonstances concrètes du cas d'espèce peuvent ainsi justifier de limiter les relations personnelles si elles laissent apparaître que des restrictions sont adéquates au regard du bien de l'enfant (cf. arrêts 5P.151/2006 du 28 août 2006 consid. 3.4, publié in FamPra.ch 2006 p. 975; 5C.243/2005 du 7 avril 2006 consid. 4.2, publié in FamPra.ch 2006 p. 760). Quoi qu'en dise le recourant - qui, sauf à les contester de manière globale, ne discute pas expressément les motifs retenus dans l'arrêt querellé et se fonde sur des faits ne résultant pas de l'arrêt déféré -, c'est sans outrepasser le pouvoir d'appréciation dont elle dispose en la matière (cf. supra consid. 4.1) que la cour cantonale a retenu que de telles circonstances existaient en l'espèce.
Il n'est pas contesté que les parties rencontrent d'importantes difficultés relationnelles et de communication. Certes, ces difficultés ne sauraient à elles seules remettre en cause le principe du droit de visite du recourant et les relations personnelles entre ce dernier et son fils doivent non seulement être maintenues, mais aussi développées. Il n'en demeure pas moins que l'ensemble des événements, soit notamment le comportement du père ayant nécessité l'intervention de la police le 14 septembre 2016 ainsi que le dépôt de plaintes pénales ayant abouti à la condamnation de ce dernier le 16 décembre 2016, attestent d'une grave impossibilité des parents à gérer leurs conflits. L'on ne saurait reprocher à la cour cantonale d'avoir abusé de son pouvoir d'appréciation en retenant que de telles circonstances étaient de nature à mettre en péril le développement de l'enfant et empêchaient, en l'état, l'exercice d'un droit de visite usuel. Actuellement, un tel droit serait en effet à l'évidence préjudiciable à la sécurité, à tout le moins psychologique, de l'enfant. Le climat conflictuel entre les parents depuis la séparation nécessite donc, pour l'heure, un cadre strict pour l'exercice du droit de visite, cela dans l'intérêt de l'enfant, qui n'est âgé que de deux ans, et n'a plus de relations personnelles avec son père depuis plus de six mois, aucun droit de visite n'ayant été accordé selon la décision de mesures superprovisionnelles rendue le 15 septembre 2016. L'on ne voit pas non plus en quoi la cour cantonale aurait outrepassé les limites de son pouvoir d'appréciation en jugeant en définitive qu'il n'était pas judicieux de soumettre l'enfant aux contacts souhaités par le père, si celui-ci ne pouvait en l'état garantir qu'il avait pris conscience des conséquences potentiellement néfastes pour la stabilité requise à l'enfant de son comportement. L a solution retenue par la cour cantonale, soit un droit de visite surveillé au Point Rencontre, paraît ainsi, en l'état, proportionnée à la situation en tant qu'elle permet de protéger l'enfant de l'impact négatif du conflit parental sur son bon développement. En particulier, elle apparaît adéquate, en ce qu'elle évitera des disputes entre les parents devant l'enfant, lesquelles sont préjudiciables à son bien-être.
Pour le surplus, le recourant ne critique pas le fait que la cour cantonale s'est en l'espèce limitée à dire que le droit aux relations personnelles s'exercerait au Point Rencontre sans en fixer d'emblée l'étendue, laissant le curateur faire des propositions à ce sujet dans un premier rapport à rendre à la Justice de paix d'ici au 31 mars 2017. En l'absence de tout grief à ce sujet, il n'y a pas lieu d'examiner si cette manière de procéder est conforme au droit fédéral (cf. supra consid. 2.1). Quoi qu'il en soit, il n'apparaît pas que la décision entreprise délègue la compétence de fixer les relations personnelles au curateur, celui-ci étant en définitive uniquement invité à faire des propositions à la Justice de paix. Il demeure ainsi à cette autorité de décider de la réglementation du droit de visite. Le curateur n'a en effet aucun pouvoir à ce sujet et ne peut, le cas échéant, qu'être chargé de l'organisation des modalités pratiques dans le cadre défini par le juge matrimonial ou l'autorité de protection compétente sur le fond (cf. arrêts 5A_670/2013 du 8 janvier 2014 consid. 4.1; 5A_586/2012 précité consid. 4.2 et la référence; 5A_101/2011 du 7 juin 2011 consid. 3.1.4; 5C.170/2001 précité consid. 5c/aa).
Il résulte de ce qui précède que l'arrêt querellé ne prête pas le flanc à la critique et que le grief s'avère ainsi mal fondé.
5.
En définitive, le recours est rejeté dans la mesure de sa recevabilité. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant qui succombe (<ref-law>). L'intimée a droit à une indemnité de dépens, mise à la charge du recourant (art. 68 al. 1 et 2 LTF); sa requête d'assistance judiciaire devient par conséquent sans objet.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
3.
Une indemnité de 1'500 fr., à payer à titre de dépens à l'intimée, est mise à la charge du recourant.
4.
La requête d'assistance judiciaire de l'intimée est sans objet.
5.
Le présent arrêt est communiqué aux parties, à la Cour de protection de l'enfant et de l'adulte du Tribunal cantonal de l'Etat de Fribourg et à la Justice de paix de l'arrondissement de la Veveyse.
Lausanne, le 9 juin 2017
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière : Hildbrand