Faits :
A.
A.a. B._ (1967) et A._ (1978), tous deux de nationalité française, sont les parents non mariés de l'enfant C._, née en 2015 à Y._ (France). Ils se sont séparés le 18 juin 2015.
A.b. Par jugements des 25 janvier 2016 et 4 septembre 2017, le Tribunal de Grande Instance de Z._ (France) a instauré l'autorité parentale conjointe sur l'enfant, dit que son lieu de résidence habituelle se trouvait chez sa mère et fixé le droit de visite du père ainsi que la contribution d'entretien due par ce dernier à l'enfant.
A.c. A._ a quitté la France le 14 mars 2018 pour venir s'installer avec sa fille à U._ (Neuchâtel) chez son compagnon d'alors. Ayant épuisé son droit aux indemnités de chômage, elle avait été mise au bénéfice de l'aide sociale.
B._ vit à V._ en France voisine et travaille en Suisse en tant qu'enseignant. Il est également le père de deux garçons de dix et treize ans issus d'une autre relation, dont il n'a pas la garde mais qu'il voit régulièrement le week-end.
A.d. Le 6 juillet 2018, A._ a saisi l'Autorité de protection de l'enfant et de l'adulte du Littoral et du Val-de-Travers (ci-après: APEA) d'une requête tendant à la confirmation de l'autorité parentale conjointe et de l'octroi de la garde sur sa fille en sa faveur et à la fixation des modalités d'exercice du droit de visite du père. Le droit de visite du père sur sa fille a été fixé par l'APEA lors d'une audience le 14 janvier 2019.
A.e. Le 22 janvier 2020, B._ a déposé une requête de mesures superprovisionnelles visant à obtenir la garde de sa fille dans la mesure où A._ vivait, suite à la rupture d'avec son compagnon, dans un hôtel où elle partageait sa chambre avec l'enfant.
A.f. Le 13 mars 2020, l'APEA a rendu une décision confirmant notamment l'attribution de l'autorité parentale conjointe sur l'enfant à ses deux parents ainsi que la garde à sa mère et fixant le droit de visite du père.
A.g. Le 4 mai 2020, B._ a déposé une requête de mesures superprovisionnelles en vue de l'attribution en sa faveur de la garde exclusive de l'enfant et, subsidiairement, du retour immédiat de celle-ci en Suisse, exposant que la mère lui avait adressé une lettre l'informant qu'elle avait déménagé à W._ en France suite à " un renvoi de Suisse ".
A.h. Par décision de mesures superprovisionnelles du 11 mai 2020, la Présidente de l'APEA a donné droit aux conclusions de la requête et cité les parties à comparaître le 25 mai 2020. Seul B._ a comparu à dite audience. Il a retiré sa requête de mesures superprovisionnelles au profit de celle formée dans le cadre de la procédure d'appel pendante devant la Cour des mesures de protection de l'enfant et de l'adulte du Tribunal cantonal neuchâtelois (ci-après: Cour des mesures de protection; infra let. B).
B.
B.a. Le 14 mai 2020, B._ a fait appel par-devant la Cour des mesures de protection de la décision du 13 mars 2020 ( supra let. A.f), concluant principalement, entre autres points, à l'attribution en sa faveur de la garde exclusive de sa fille et à la fixation d'un large droit de visite de la mère.
B.b. Le 26 mai 2020, B._ a déposé une requête de mesures superprovisionnelles tendant à ce que la garde exclusive de sa fille lui soit attribuée.
Le 9 juin 2020, A._ a conclu au déboutement du père. Elle a notamment indiqué s'être domiciliée à W._, dans la banlieue de E._ (France), auprès de sa mère, et avoir saisi le Juge des affaires familiales du Tribunal judiciaire de E._ pour qu'il prenne une nouvelle décision au vu du changement de situation.
B.c. Par ordonnance de mesures provisoires du 11 juin 2020, le Président de la Cour des mesures de protection (ci-après: Président) a constaté le caractère illicite du déplacement de l'enfant, a restreint l'autorité parentale conjointe de la mère et lui a retiré le droit de déterminer le lieu de résidence de l'enfant, et a ordonné à la mère de ramener l'enfant à son père à V._ ou en tout autre lieu.
C.
Par acte du 29 juin 2020, A._ forme un recours en matière civile au Tribunal fédéral contre cette ordonnance, concluant à son annulation. Elle requiert préalablement l'octroi de l'effet suspensif et d'être mise au bénéfice de l'assistance judiciaire pour la procédure fédérale.
Invités à se déterminer, la Cour des mesures de protection n'a pas répondu et l'intimé a conclu, principalement, à l'irrecevabilité du recours, subsidiairement à son rejet.
D.
Par ordonnance présidentielle du 21 juillet 2020, la requête d'effet suspensif a été admise.

Considérant en droit :
1.
1.1. Le Tribunal fédéral, saisi d'un recours en matière civile, examine d'office sa compétence (<ref-law>) et la question du droit applicable, selon la loi du for, à savoir la loi sur le droit international privé (LDIP; <ref-ruling> consid. 2.1 et les références), sous réserve des traités internationaux (<ref-law>). Il contrôle par ailleurs librement les conditions de recevabilité des recours qui lui sont soumis (arrêt 4A_461/2017 du 26 mars 2018 consid. 1.1 et les références, non publié in <ref-ruling>).
En raison du déplacement du lieu de résidence de l'enfant de Suisse en France, du domicile des parties dans ce dernier pays et de la nationalité française de celles-ci, le litige revêt un caractère international. En conséquence, il s'agit d'examiner si, nonobstant ce déplacement, les autorités suisses demeurent compétentes pour statuer sur la présente cause. La Convention de La Haye du 19 octobre 1996 concernant la compétence, la loi applicable, la reconnaissance, l'exécution et la coopération en matière de responsabilité parentale et de mesures de protection des enfants (CLaH96; RS 0.211.231.011; art. 1 al. 1 let. b et art. 15 à 22 CLaH96) s'applique dans les relations entre la Suisse et la France dès lors que les deux États l'ont signée et ratifiée (cf. arrêt 5A_884/2013 du 19 décembre 2013 consid. 4.1).
En cas de changement de la résidence habituelle de l'enfant dans un autre État contractant, sont compétentes les autorités de l'État de la nouvelle résidence habituelle, sous réserve d'un déplacement ou d'un non-retour illicite au sens de l'art. 7 CLaH96 (al. 2). Le principe de la perpetuatio fori ne s'applique donc pas (arrêt 5A_21/2019 du 1er juillet 2019 consid. 5.1 et les références). Il s'ensuit que, dans les relations entre États contractants, le changement (licite) de résidence habituelle du mineur entraîne un changement simultané de la compétence (arrêt 5A_21/2019 précité ibid., et les références). Cela étant, dans l'hypothèse d'un déplacement illicite - défini à l'art. 7 al. 2 CLaH96 dans les mêmes termes qu'à l'art. 3 de la Convention de La Haye du 25 octobre 1980 sur les aspects civils de l'enlèvement international d'enfants [CLaH80; RS 0.211.230.02] -, l'autorité de l'ancienne résidence habituelle conserve sa compétence pour prendre des mesures jusqu'au moment où l'enfant a acquis une résidence habituelle dans un autre État et que, de surcroît, l'on ne peut plus s'attendre raisonnablement à un retour de l'enfant (arrêt 5A_21/2019 précité ibid., et la référence), seconde condition que l'art. 7 al. 2 let. b CLaH96 illustre en prévoyant que l'enfant doit ainsi avoir résidé dans l'autre État pour une période d'au moins un an après que la personne ayant le droit de garde a connu ou aurait dû connaître le lieu où il se trouvait, qu'aucune demande de retour présentée pendant cette période n'est encore en cours d'examen et que l'enfant s'est intégré dans son nouveau milieu (arrêt 5A_21/2019 précité ibid.).
Le déplacement ou le non-retour de l'enfant est considéré comme illicite au sens de l'art. 7 al. 2 CLaH96 (comme de l'art. 3 CLaH80) lorsqu'il a lieu en violation d'un droit de garde, attribué à une personne, une institution ou tout autre organisme, seul ou conjointement, par le droit de l'État dans lequel l'enfant avait sa résidence habituelle immédiatement avant son déplacement ou son non-retour (let. a), et que ce droit était exercé de façon effective, seul ou conjointement, au moment du déplacement ou du non-retour (let. b). En matière internationale, le droit de garde comprend le droit portant sur les soins de la personne de l'enfant, et en particulier celui de décider de son lieu de résidence (art. 3 let. b CLaH96; art. 5 let. a CLaH80). Pour déterminer le ou les parent (s) titulaire (s) du droit de garde, il y a lieu de se référer à l'ordre juridique de l'État de la résidence habituelle de l'enfant immédiatement avant le déplacement. Ce moment est également déterminant pour juger de l'illicéité du déplacement (arrêt 5A_21/2019 précité consid. 5.2 et la référence). En droit suisse, le droit de déterminer le lieu de résidence de l'enfant est rattaché à l'autorité parentale (<ref-law>; <ref-ruling> consid. 4; <ref-ruling> consid. 4.2, 502 consid. 2.2, 481 consid. 2.3). Le parent qui exerce conjointement l'autorité parentale doit donc obtenir l'accord de l'autre parent, du juge ou de l'autorité de protection de l'enfant avant de déménager à l'étranger avec l'enfant (cf. art. 301a al. 2 let. a et <ref-ruling> consid. 4), faute de quoi le déplacement sera considéré comme illicite (SCHWENZER/COTTIER in Basler Kommentar, Zivilgesetzbuch I, Art. 1-456 ZGB, 6e éd. 2018, n° 31 ad <ref-law>).
En l'espèce, les parties étaient toutes deux au bénéfice de l'autorité parentale sur leur fille au moment où la recourante a déplacé le lieu de résidence habituelle de celle-ci de Suisse en France. Partant, dès lors qu'elle ne disposait ni du consentement de l'intimé ni de l'autorisation du juge ou de l'autorité de protection de l'enfant pour ce faire, le déplacement du lieu de résidence de l'enfant est intervenu en violation de l'<ref-law> et est en conséquence illicite au sens de l'art. 7 al. 2 CLaH96, ce indépendamment des motifs qui l'ont amenée à quitter le territoire suisse. En effet, quand bien même il lui aurait été, selon ses dires, impossible de demeurer en Suisse, elle devait saisir le juge ou l'autorité de protection de l'enfant d'une requête tendant à l'obtention d'une autorisation de déplacer le lieu de résidence de l'enfant afin de permettre au juge ou à l'autorité compétente d'examiner, le cas échéant, auquel des deux parents la garde de l'enfant devait être attribuée (cf. infra consid. 4). Le fait que la recourante n'ait eu d'autre choix que de quitter la Suisse n'est pas un critère déterminant pour cet examen, dès lors qu'il ressort de la jurisprudence développée en lien avec l'<ref-law> que les parents ne peuvent de toute façon pas être empêchés de déménager et que seule la question de savoir auprès de quel parent le bien de l'enfant sera le mieux préservé est pertinente (cf. infra consid. 4.1). Il suit de ce qui précède que le Tribunal de céans est compétent pour examiner la présente cause dès lors que l'État contractant dans lequel l'enfant avait sa résidence habituelle immédiatement avant son déplacement était la Suisse et que l'enfant réside en France depuis moins d'un an (art. 7 al. 1 CLaH96).
1.2. Le recours a été interjeté en temps utile (<ref-law>) et dans la forme légale (<ref-law>) contre une décision portant sur des mesures provisoires prises dans le cadre d'une procédure en attribution des droits parentaux sur un enfant né hors mariage, à savoir une décision incidente rendue dans une cause de nature non pécuniaire, sujette au recours en matière civile (<ref-law>). La décision attaquée, qui concerne le sort de l'enfant, est susceptible de causer un préjudice irréparable (<ref-law>). En effet, le droit de déterminer le lieu de résidence de l'enfant a été provisoirement retiré à la mère, à laquelle il a été ordonné de " ramener " l'enfant auprès de son père, de sorte que même une décision finale ultérieure favorable à la recourante ne pourrait pas compenser rétroactivement l'exercice des prérogatives parentales dont elle a été frustrée (cf. arrêt 5A_995/2017 du 13 juillet 2018 consid. 1.1 et la référence).
1.3. Le mémoire de recours doit contenir des conclusions (<ref-law>). Dès lors que le recours en matière civile est une voie de réforme (<ref-law>), le recourant ne peut pas se borner à demander l'annulation de la décision attaquée et le renvoi de la cause à l'instance cantonale; il doit, sous peine d'irrecevabilité, prendre des conclusions sur le fond du litige (<ref-ruling> consid. 1.3 et les références). L'application du principe de la confiance impose toutefois d'interpréter les conclusions à la lumière de la motivation; l'interdiction du formalisme excessif commande, pour sa part, de ne pas se montrer trop strict dans la formulation des conclusions si, à la lecture du mémoire, on comprend clairement ce que veut le recourant (arrêt 5A_1023/2018 du 8 juillet 2019 consid. 1.2 et la référence).
En l'occurrence, la recourante se borne à conclure à l'annulation de l'ordonnance querellée et omet de prendre des conclusions sur le fond. On comprend toutefois aisément de la motivation du recours que ses conclusions tendent au rejet de la requête de l'intimé.
2.
2.1. Comme la décision entreprise porte sur des mesures provisionnelles au sens de l'<ref-law>, la partie recourante ne peut dénoncer que la violation de droits constitutionnels. Le Tribunal fédéral n'examine de tels griefs que s'ils ont été invoqués et motivés par le recourant (" principe d'allégation "; <ref-law>), c'est-à-dire s'ils ont été expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 2.1; <ref-ruling> consid. 2.4). En particulier, une décision ne peut être qualifiée d'arbitraire (art. 9 Cst.) que si elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité (<ref-ruling> consid. 7.3; <ref-ruling> consid. 4.1); il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit annulée, encore faut-il qu'elle se révèle arbitraire non seulement dans ses motifs, mais aussi dans son résultat (<ref-ruling> consid. 7.1, 170 consid. 7.3; <ref-ruling> consid. 4.3).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Dans l'hypothèse d'un recours soumis à l'<ref-law>, le recourant qui entend invoquer que les faits ont été établis de manière manifestement inexacte ne peut obtenir la rectification ou le complètement des constatations de fait de l'arrêt cantonal que s'il démontre la violation de droits constitutionnels, conformément au principe d'allégation susmentionné (cf. supra, consid. 2.1). Le recourant ne peut se limiter à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; il doit indiquer de façon précise en quoi ces constatations sont arbitraires au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.4.3). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (<ref-law>; <ref-ruling> consid. 1.3.1; <ref-ruling> consid. 2.3 et les références).
En matière de constatation des faits et d'appréciation des preuves, le Tribunal fédéral n'intervient, du chef de l'art. 9 Cst., que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'une preuve propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a effectué des déductions insoutenables (<ref-ruling> consid. 7.1; <ref-ruling> consid. 2.3; <ref-ruling> consid. 4.2; <ref-ruling> consid. 4.2 et les références); encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause.
3.
3.1. Relevant que la recourante avait annoncé, le 30 avril 2020, qu'elle avait déménagé en France " suite à un renvoi de la Suisse ", le Président a considéré qu'il était très peu vraisemblable qu'elle ait été renvoyée de Suisse avec effet immédiat. De surcroît, le père de l'enfant, qui disposait de l'autorité parentale conjointe et exerçait régulièrement son droit de visite, ignorait un tel projet de déménagement en France, tout comme le mandataire de la recourante. Il a ainsi constaté que le déplacement de l'enfant était illicite dès lors qu'il était intervenu au mépris de l'<ref-law>. Ce déménagement, clandestin et abrupt, n'était pas dans l'intérêt de l'enfant, qui, âgée de 5 ans, était inscrite à l'école D._ (école privée à X._ pour les 1èreset 2èmes HarmoS), se développait adéquatement et s'entendait bien avec ses demi-frères qu'elle voyait durant le droit de visite de son père, lequel s'exerçait durant la moitié des vacances scolaires et certains week-ends en plus, selon les accords trouvés entre les père et mère. Il était peu compréhensible que la recourante n'ait pas jugé utile de parler de ce projet de déménagement d'abord au père. Elle aurait pu ensuite, en cas de désaccord, demander à l'APEA qu'elle rende une décision, dont rien ne permettait d'affirmer qu'elle aurait été négative. Elle aurait ainsi pu préparer son départ pour la France en prenant les dispositions utiles pour l'organisation du droit de visite et aux relations personnelles du père sur sa fille, compte tenu de l'éloignement géographique. Elle aurait aussi pu faire le nécessaire pour permettre à sa fille de terminer son année scolaire à D._. Au lieu de cela, elle avait choisi de quitter la Suisse discrètement et abruptement pour s'établir en France, à 900 km du domicile du père de l'enfant, sans prévenir ce dernier et sans prendre de dispositions pour permettre à sa fille de revoir son père et ses demi-frères lors d'un prochain droit de visite. En France, elle n'avait apparemment ni domicile propre, ni activité professionnelle, ni revenus. Dans ces conditions, la décision de la recourante contrevenait clairement au bien de l'enfant en chamboulant, sans motifs sérieux, tous ses repères et en la privant de liens vivants et essentiels pour son développement, ainsi que de la stabilité du cadre socio-éducatif dans lequel elle évoluait, en l'exposant derechef au risque de conditions de vie précaires.
Le Président a ensuite jugé que les aptitudes de la recourante à prendre soin de l'enfant et à faire face aux responsabilités étaient remises en question de façon importante. Ayant agi de manière impulsive, elle ne paraissait pas être en mesure de distinguer l'intérêt de sa fille et/ou à le faire primer sur ses propres aspirations. Elle faisait preuve d'instabilité et menaçait le développement de l'enfant par ses décisions imprévisibles. Son lieu de résidence et ses conditions de vie paraissaient désormais incertains. En revanche, les capacités éducatives de l'intimé paraissaient meilleures que celles de la recourante. Il était enseignant à l'école primaire, entretenait de bonnes relations avec sa fille et ses fils ainsi qu'avec la mère de ceux-ci, dont il vit séparé. Il s'était en outre toujours montré respectueux des décisions de justice.
3.2. La recourante se plaint d'une violation arbitraire de l'<ref-law> et d'une appréciation arbitraire des faits en lien avec plusieurs critères posés par la jurisprudence pour déterminer, au sens de l'<ref-law>, s'il était dans l'intérêt de l'enfant de déménager avec elle en France ou de vivre auprès de son père. Elle invoque également une violation des art. 13 Cst., 8 CEDH et 3 de la Convention relative aux droits de l'enfant (CDE; RS 0.107), qui sont selon elle concrétisés par l'<ref-law>. Ce faisant, la recourante admet que les dispositions constitutionnelle et conventionnelles dont elle se prévaut n'ont pas de portée propre par rapport à cette dernière disposition dont elle dénonce l'application arbitraire. Leur violation n'a donc pas à être examinée plus avant, étant au demeurant rappelé que l'art. 3 par. 1 CDE ne fonde aucune prétention directe (cf. arrêt 5A_385/2019 et 5A_386/2019 du 8 mai 2020 consid. 6 et les références).
4.
L'<ref-law> prévoit que l'autorité parentale inclut le droit de déterminer le lieu de résidence de l'enfant. Il en résulte qu'un parent exerçant conjointement l'autorité parentale ne peut modifier le lieu de résidence de l'enfant qu'avec l'accord de l'autre parent ou sur décision du juge ou de l'autorité de protection de l'enfant, lorsque le nouveau lieu de résidence se trouve à l'étranger ou quand le déménagement a des conséquences importantes pour l'exercice de l'autorité parentale par l'autre parent et pour les relations personnelles (art. 301a al. 2 let. a et b CC).
4.1. L'exigence d'une autorisation ne concerne que le changement de lieu de résidence de l'enfant (cf. <ref-law>), non celui des parents. L'autorité parentale conjointe ne doit pas priver de facto les parents de leur liberté d'établissement (art. 24 Cst.) en les empêchant de déménager (<ref-ruling> consid. 2.6; arrêt 5A_916/2019 du 12 mars 2020 consid. 3.1 et la référence, publié in SJ 2020 I 375). Par conséquent, le juge, respectivement l'autorité de protection de l'enfant, ne doit pas répondre à la question de savoir s'il est dans l'intérêt de l'enfant que ses deux parents demeurent au domicile actuel. Il doit plutôt se demander si le bien-être de l'enfant sera mieux préservé dans l'hypothèse où il suivrait le parent qui envisage de déménager, ou dans celle où il demeurerait auprès du parent restant sur place, tout en tenant compte du fait que la garde, les relations personnelles et la contribution d'entretien pourront toujours être adaptées en conséquence en application de l'<ref-law> (<ref-ruling> consid. 2.5; <ref-ruling> consid. 2.6; arrêt 5A_916/2019 précité ibid. et les autres références).
4.2. S'agissant de l'autorisation de déplacer le lieu de résidence d'un enfant, le modèle de prise en charge préexistant constitue, sous réserve d'une modification de la situation, le point de départ de l'analyse. Ainsi, dans l'hypothèse où l'enfant était pris en charge à parts plus ou moins égales par chacun des parents, et où ceux-ci sont disposés à continuer à le prendre en charge à l'avenir, la situation de départ est neutre; il faut alors recourir aux critères pertinents pour l'attribution de la garde afin de déterminer quelle solution correspond le plus à l'intérêt de l'enfant. On examinera ainsi en premier lieu les capacités parentales, la possibilité effective de s'occuper de l'enfant, la stabilité des relations, la langue parlée par l'enfant, son degré de scolarisation et l'appartenance à un cercle social et, en fonction de son âge, les désirs qu'il a formulés quant à son lieu de résidence. En revanche, si le parent qui souhaite déménager était titulaire de la garde exclusive sur l'enfant ou était le parent de référence, à savoir celui qui prenait jusqu'ici l'enfant en charge de manière prépondérante (<ref-ruling> consid. 4.1; <ref-ruling> consid. 2.5), il sera en principe dans l'intérêt de l'enfant de déménager avec lui, pour autant qu'il puisse lui garantir une prise en charge similaire dans son futur lieu de vie et que le déménagement n'entraîne pas une mise en danger du bien de l'enfant (<ref-ruling> consid. 2.5; <ref-ruling> consid. 2.7 et les références). Une telle mise en danger sera par exemple admise lorsque l'enfant souffre d'une pathologie qui ne pourra pas être soignée correctement dans son futur lieu de vie ou lorsque le déménagement est envisagé peu de temps avant la fin d'un cycle scolaire. En revanche, les difficultés usuelles inhérentes à l'intégration dans un nouveau lieu de vie et à l'apprentissage d'une nouvelle langue ne constituent pas dans la règle une mise en danger du bien de l'enfant (<ref-ruling> consid. 3.3; arrêt 5A_916/2019 précité consid. 3.2 et les références). Même lorsque ces conditions sont remplies, il faut encore tenir compte des circonstances concrètes du cas d'espèce et notamment de l'âge de l'enfant et des souhaits exprimés par ce dernier, dès lors que plus un enfant grandit moins il sera dépendant et attaché à son parent de référence alors que son environnement, les activités auxquelles il prend part et son cercle social gagneront en importance (<ref-ruling> consid. 4.1; <ref-ruling> consid. 4.3; <ref-ruling> consid. 2.7).
4.3. En l'espèce, selon le dispositif de l'ordonnance attaquée, le Président a retiré à la mère le droit de déterminer le lieu de résidence de l'enfant et lui a ordonné de " ramener [l'enfant] à son père ". On comprend de la motivation qu'il a, ce faisant, confié ce droit à l'intimé et attribué à ce dernier la garde de l'enfant durant le temps de la procédure. Plus précisément, s'agissant de la garde, il en ressort que le Président a décidé de " confirmer " son attribution au père, de sorte qu'il semble être parti du principe que celui-ci était au bénéfice de la garde sur l'enfant au moment du départ de la recourante. Or, il résulte des faits constatés dans l'ordonnance attaquée que la seule décision attribuant la garde au père est la décision de mesures superprovisionnelles de l'APEA du 11 mai 2020 rendue sur le vu d'une requête que l'intimé a retirée à l'audience de mesures provisionnelles du 25 mai suivant. Il s'ensuit que l'intimé n'a jamais concrètement exercé la garde de l'enfant - et n'est donc a fortiori pas un parent de référence -, contrairement à la recourante qui est détentrice de la garde exclusive selon décision de l'APEA du 13 mars 2020 et qui, dans les faits, l'a exercée sans discontinuer depuis la naissance de l'enfant.
Cela étant précisé, il sied de rappeler que le retrait du droit de déterminer le lieu de résidence de l'enfant ne saurait être prononcé pour servir de sanction à l'égard du parent gardien, seul le bien de l'enfant étant déterminant (cf. arrêt 5A_993/2016 du 19 juin 2017 consid. 4.3). Partant, il appartenait au Président de se replacer dans la situation antérieure au départ de la recourante et d'examiner, conformément à la jurisprudence relative à l'<ref-law>, auprès duquel des deux parents le bien de l'enfant serait le mieux préservé et, cas échéant, de ratifier a posteriori l'autorisation de déplacer son lieu de résidence. Or, en l'espèce, le Président a considéré à tort l'absence d'autorisation de déplacer le lieu de résidence de l'enfant comme un critère déterminant pour confier provisoirement la garde au père alors qu'il s'agit tout au plus d'un critère permettant d'évaluer les capacités parentales de la mère. Au même titre, le fait que l'intimé se soit toujours montré respectueux des décisions de justice n'est pas non plus un critère d'appréciation pertinent.
Le Président a par ailleurs omis d'examiner plusieurs critères déterminants pour l'application de l'<ref-law>. Il n'a notamment pas pris en compte le modèle de prise en charge préexistant de l'enfant alors qu'il s'agit d'une prémisse nécessaire pour évaluer quels seront les critères à examiner ensuite. En effet, sur ce point le Président semble être parti du principe erroné que l'intimé exerçait la garde exclusive sur l'enfant et était en conséquence son parent de référence. Or, lorsque, comme en l'espèce, le parent qui souhaite déménager est titulaire de la garde exclusive sur l'enfant ou est son (seul) parent de référence, il est en règle générale dans l'intérêt de l'enfant de déménager avec lui. Sur ce point, la recourante relève à juste titre que le juge cantonal n'a arbitrairement pas tenu compte du fait que l'enfant n'avait jamais vécu auprès de son père, étant précisé qu'il ressort de l'ordonnance querellée que le droit de visite de ce dernier a été exercé durant la moitié des vacances scolaires et " certains week-ends " seulement. Dans un tel contexte, seules importent par conséquent les questions de savoir si le parent de référence peut garantir à l'enfant une prise en charge similaire dans son futur lieu de vie et si le déménagement est susceptible d'entraîner une mise en danger de son bien. S'il est vrai qu'une retenue particulière doit être exercée s'agissant de l'autorisation provisoire de déplacer le lieu de résidence de l'enfant à l'étranger eu égard à la possible perte de compétence des autorités suisses (cf. arrêt 5A_916/2019 précité consid. 3.3), l'examen, même sommaire, de ces questions ne saurait être éludé. Or, force est de constater qu'elles n'ont pas été examinées en l'espèce. Le seul constat général selon lequel le lieu de résidence de l'enfant et ses conditions de vie paraissent incertaines apparaît insuffisant, sans plus ample examen, pour conclure à une mise en danger du bien de l'enfant. Ne saurait davantage être interprété comme une telle mise en danger, le fait que la mère aurait chamboulé tous les repères de l'enfant, étant rappelé que l'intimé n'est pas plus en mesure de maintenir l'enfant dans un environnement qui lui est familier puisqu'il vit également en France. Le Président s'est en revanche fondé sur le fait que l'intimé entretiendrait de bonnes relations avec sa fille et disposerait de meilleures capacités éducatives que la mère pour lui attribuer provisoirement la garde. Ces critères d'appréciation ne sont toutefois pertinents, au regard de la jurisprudence, que lorsque l'enfant est pris en charge à parts plus ou moins égales par chacun des parents ou lorsque le parent de référence qui souhaite déménager ne peut garantir une prise en charge similaire dans son futur lieu de vie et/ou que le déménagement entraîne une mise en danger de son bien (cf. supra consid. 4.2). Or, en l'espèce seule la recourante a jusqu'ici exercé la garde sur l'enfant et le droit de visite de l'intimé ne s'approche aucunement d'une garde alternée, de sorte que le Président ne pouvait s'épargner d'examiner si ces deux conditions étaient remplies avant d'envisager de confier la garde au père.
Au demeurant, par sa décision, le Président a, implicitement, autorisé un déplacement du lieu de résidence de l'enfant à l'étranger au sens de l'<ref-law> en faveur du père, celui-ci étant domicilié en France. Or, une telle autorisation au stade des mesures provisionnelles nécessite que la situation présente un caractère urgent (cf. arrêt 5A_916/2019 précité consid. 3.3 et 5.1), question qui n'a pas non plus été thématisée.
Pour les motifs qui précèdent, l'ordonnance attaquée relève d'une application arbitraire (art. 9 Cst.) de l'<ref-law>. Il s'impose donc de renvoyer la cause au Président pour nouvelle décision au sens des considérants, étant rappelé que la maxime inquisitoire est applicable en l'espèce (art. 446 par renvoi de l'<ref-law>).
5.
En définitive, le recours est admis, l'ordonnance querellée annulée et la cause renvoyée au Président pour nouvelle décision au sens des considérants. La requête d'assistance judiciaire de la recourante est admise, dans la mesure où elle n'est pas sans objet (<ref-law>). Cette dernière, qui obtient gain de cause, a droit à une indemnité de dépens (art. 68 al. 1 et 2 LTF); la note d'honoraires produite par le mandataire de la recourante (art. 12 al. 2 du Règlement sur les dépens; RS 173.110.210.3) n'apparaît pas excessive et peut être admise. Les frais judiciaires sont mis à la charge de l'intimé qui succombe (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis dans la mesure où il est recevable, l'ordonnance attaquée est annulée et la cause est renvoyée à l'autorité cantonale pour nouvelle décision dans le sens des considérants.
2.
Autant qu'elle n'est pas sans objet, la requête d'assistance judiciaire de la recourante est admise et Me Yann Neuenschwander, avocat à Neuchâtel, lui est désigné comme conseil d'office pour la procédure fédérale.
3.
Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge de l'intimé.
4.
Une indemnité de 2'290 fr., à verser à la recourante à titre de dépens, est mise à la charge de l'intimé; au cas où les dépens ne pourraient être recouvrés, la Caisse du Tribunal fédéral versera à Me Yann Neuenschwander, une indemnité de 2'000 fr. à titre d'honoraires d'avocat d'office.
5.
Le présent arrêt est communiqué aux parties et au Président de la Cour des mesures de protection de l'enfant et de l'adulte du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 23 octobre 2020
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Hildbrand