Faits :
A.
A.a. B.A._ (1973) et A.A._ (1974), se sont mariés à La Chaux-de-Fonds le 10 janvier 2002. Ils ont eu deux fils, soit C._ (2003) et D._ (2005).
A.b. Le divorce des époux A._ a été prononcé par le Tribunal du district de Martigny et St-Maurice le 14 décembre 2012, avec attribution de l'autorité parentale sur les enfants à leur mère. Le mari a interjeté appel au sujet de la liquidation des rapports patrimoniaux, mais non des questions relatives aux enfants. Cette cause est liquidée.
A.c. Le 1er juillet 2014, B.A._ a fait part à l'autorité de protection de l'enfant et de l'adulte (ci-après: APEA) de Neuchâtel de son souhait d'obtenir l'autorité parentale conjointe sur les enfants.
A.d. Par décision de mesures superprovisionnelles du 27 novembre 2014, l'APEA a retiré la garde des enfants à leur mère, avec effet immédiat et ordonné le placement chez leur père. Dite autorité a ensuite rendu, le 8 décembre 2014, une décision de confirmation de retrait de garde, à titre provisoire, durant les actes d'enquête nécessaires. La mère a recouru contre cette décision auprès de la Cour des mesures de protection de l'enfant et de l'adulte du Tribunal cantonal du canton de Neuchâtel, qui a rejeté le recours par arrêt du 17 mars 2015.
A.e. Le 20 mars 2015, B.A._ a ouvert action en modification du jugement de divorce devant le Tribunal régional du Littoral et du Val-de-Travers (ci-après: Tribunal civil), en concluant à l'attribution de la garde des enfants à lui-même, à la fixation d'un droit de visite de la mère et à la suppression des contributions d'entretien dues par lui-même en faveur de son ex-épouse et des enfants, dont la mère devait être condamnée à contribuer à l'entretien. A.A._ a conclu au rejet de la demande.
B.
B.a. Le 19 juin 2015, B.A._ a saisi l'APEA de Neuchâtel d'une requête tendant à l'autoriser à déménager aux Etats-Unis, avec les enfants, dès le 15 août 2015.
B.b. Par mémoire du 6 juillet 2015, B.A._ a déposé une requête analogue devant le Tribunal civil, auquel il signalait avoir indiqué à l'APEA que sa requête du 19 juin 2015 était désormais sans objet.
B.c. Le juge saisi de la procédure en modification du jugement de divorce, sur le site de Boudry, ayant dû se récuser, la cause a été reprise par l'une des juges du Tribunal civil du site de Neuchâtel (ci-après: la juge du Tribunal civil).
B.d. Par décision de mesures provisionnelles du 14 juillet 2015, la juge du Tribunal civil a fait droit à la requête de B.A._ et l'a autorisé à déménager aux Etats-Unis avec ses enfants, dès le 15 août 2015, en prévoyant que les relations personnelles entre la mère et les enfants s'exerceraient par téléphone ou appel vidéo au moins deux fois par semaine, ainsi que sous la forme de vacances en Suisse, selon les modalités définies par la curatrice, au sens précisé dans les considérants.
B.e. Par mémoire du 27 juillet 2015, A.A._ a interjeté appel contre la décision précitée devant la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel (ci-après: Cour d'appel civile). Elle a conclu à son annulation et à l'interdiction faite à B.A._ de déménager aux Etats-Unis.
B.f. Par mémoire du 5 août 2015, B.A._ a conclu au rejet de la requête d'effet suspensif comprise dans l'appel, ainsi qu'au rejet de l'appel sur le fond.
B.g. Par courrier du 6 août 2015, le juge instructeur de la Cour d'appel civile a transmis la réponse à l'appel au mandataire de A.A._, en annonçant la délivrance d'un arrêt sur appel dans les jours suivants, sur la base du dossier.
B.h. Par arrêt du 10 août 2015, la Cour d'appel civile a rejeté l'appel et confirmé l'autorisation donnée à B.A._ de déménager aux Etats-Unis avec ses fils C._ et D._, dès le 15 août 2015.
C.
Par acte expédié le 12 août 2015, A.A._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt du 10 août 2015. Elle conclut, principalement, à ce qu'il soit dit et constaté que le Tribunal cantonal du canton de Neuchâtel a violé son droit d'être entendue et, partant, à ce que la cause soit renvoyée à ce dernier en lui ordonnant de lui donner la possibilité de déposer une réplique. Subsidiairement, elle conclut à la réforme de l'arrêt entrepris en ce sens qu'il est interdit à B.A._ de déménager aux Etats-Unis avec les enfants C._ et D._.
Par ordonnance du 13 août 2015, le Tribunal fédéral a ordonné à titre superprovisionnel qu'aucune mesure d'exécution de la décision attaquée ne soit prise jusqu'à décision sur la requête d'effet suspensif.
Par acte du 17 août 2015, B.A._ s'est déterminé tant sur la requête d'effet suspensif assortissant le recours que sur le fond. Il a conclu au rejet de la requête d'effet suspensif dans la mesure de sa recevabilité et, sur le fond, au rejet " à tous égards " du recours dans la mesure de sa recevabilité.
D.
Par ordonnance présidentielle du 31 août 2015, la requête d'effet suspensif assortissant le recours a été rejetée.
Par courrier du 1er septembre 2015, A.A._ a informé la Cour de céans du fait que ses enfants vivaient vraisemblablement depuis trois jours avec leur père à San Francisco. Elle a considéré qu'il s'agissait d'une violation de l'ordonnance du 13 août 2015 et a requis, à titre de mesures superprovisionnelles, qu'il soit ordonné à l'intimé de revenir immédiatement en Suisse avec les enfants, sous la menace de la sanction prévue à l'art. 292 CP. Elle a fait également valoir que l'intimé ne serait au bénéfice que d'un visa de trois mois et non d'un véritable contrat de travail aux Etats-Unis, de sorte que la sécurité matérielle des enfants ne serait de loin pas garantie.
Par courrier du 4 septembre 2015, B.A._ a confirmé avoir quitté la Suisse avec ses enfants pour se rendre aux Etats-Unis en date du 28 août 2015 afin d'utiliser les billets d'avion qu'il avait d'ores et déjà acquis. Il a toutefois précisé que le but initial de ce séjour était de passer quelques jours de vacances avec ses enfants mais qu'il envisageait désormais de demeurer aux Etats-Unis à tout le moins jusqu'à la décision sur le fond, compte tenu de la teneur de la décision sur effet suspensif. B.A._ a également confirmé qu'il n'était actuellement qu'au bénéfice d'un visa de trois mois. Il a toutefois précisé qu'il avait un travail aux Etats-Unis qui lui offrait une grande flexibilité et lui permettait de subvenir à ses besoins et ceux des enfants et que la question du visa devrait se régulariser rapidement dès qu'il serait en possession d'une autorisation du Tribunal de céans de demeurer aux Etats-Unis avec ses enfants.
Par ordonnance présidentielle du 7 septembre 2015, la requête de mesures superprovisionnelles a été rejetée.

Considérant en droit :
1.
L'arrêt entrepris est une décision finale (art. 90 LTF; <ref-ruling> consid. 2.2) en matière civile (art. 72 al. 1 LTF), de nature non pécuniaire, prise sur recours par un tribunal supérieur statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF). Le recours a en outre été interjeté dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi, par une partie ayant pris part à la procédure devant l'autorité précédente et ayant un intérêt digne de protection à l'annulation ou à la modification de la décision attaquée, notamment en raison du principe de la perpetuatio fori applicable en l'espèce (art. 76 al. 1 LTF, cf. arrêt 5A_809/2012 du 8 janvier 2013 consid. 2.3.2 et 2.4, voir également pour une situation similaire: arrêt 5A_483/2011 du 31 octobre 2011). Au regard de ces dispositions, le recours est recevable.
2.
Dans le cas d'un recours dirigé, comme en l'espèce, contre une décision portant sur des mesures provisionnelles au sens de l'art. 98 LTF (<ref-ruling> consid. 5 p. 396), le Tribunal fédéral dispose d'un pouvoir d'examen limité, seule la violation des droits constitutionnels peut être invoquée. Le Tribunal fédéral n'examine en outre les griefs de violation de droits constitutionnels que s'ils ont été invoqués et motivés (" principe d'allégation ", art. 106 al. 2 LTF), à savoir expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 1.4 p. 287).
3.
Dans un grief de nature formelle qu'il convient d'examiner en premier lieu (<ref-ruling> consid. 5.1 p. 237), la recourante se plaint de la violation de son droit d'être entendue (art. 29 al. 2 Cst.), singulièrement de son droit de répliquer.
3.1. Compris comme l'un des aspects de la notion générale de procès équitable au sens de l'art. 29 Cst., le droit d'être entendu garantit notamment au justiciable le droit de s'expliquer avant qu'une décision ne soit prise à son détriment, d'avoir accès au dossier, de prendre connaissance de toute argumentation présentée au tribunal et de se déterminer à son propos, dans la mesure où il l'estime nécessaire, que celle-ci contienne ou non de nouveaux éléments de fait ou de droit, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre (<ref-ruling> consid. 3.3 p. 496; <ref-ruling> consid. 3.2 p. 191 s.; <ref-ruling> consid. 2.1 p. 485 s.; <ref-ruling> consid. 2.3.3 p. 157; <ref-ruling> consid. 2.3.1 p. 197). Il appartient aux parties, et non au juge, de décider si une prise de position ou une pièce nouvellement versée au dossier contient des éléments déterminants qui appellent des observations de leur part (ATF <ref-ruling> consid. 3.2 p. 192). Ce droit à la réplique vaut pour toutes les procédures judiciaires (ATF <ref-ruling> consid. 2.5 p. 157; <ref-ruling> consid. 4.3 ss p. 102 ss, 98 consid. 2.2 p. 99; <ref-ruling> consid. 3.3.2 - 3.3.4 p. 46 s.).
Toute prise de position ou pièce nouvelle versée au dossier doit dès lors être communiquée aux parties pour leur permettre de décider si elles veulent ou non faire usage de leur faculté de se déterminer (ATF <ref-ruling> consid. 3.2 p. 192 et les références; cf. en outre les arrêts de la Cour européenne des droits de l'homme dans les causes Schaller-Bossert contre Suisse du 28 octobre 2010 § 39 s. et Nideröst-Huber contre Suisse du 18 février 1997 § 24).
Si une partie considère qu'il est nécessaire de répliquer à une prise de position qui lui est notifiée, elle doit sans retard soit requérir l'autorisation de se déterminer, soit adresser sa réplique au tribunal (ATF <ref-ruling> consid. 2.2 p. 486; <ref-ruling> consid. 4.8 p. 105; <ref-ruling> consid. 3.3.3 et 3.3.4 p. 47; arrêt de la Cour européenne des droits de l'homme dans la cause Joos contre Suisse du 15 novembre 2012, §§ 27 ss, spéc. §§ 30-32). Une autorité ne peut considérer, après un délai de moins de dix jours depuis la communication d'une détermination à une partie, que celle-ci a renoncé à répliquer et rendre sa décision (cf. arrêts 2C_560/2012 et 2C_561/2012 du 21 janvier 2013 consid. 4.4; 9C.1069/2008 du 2 mars 2009). Le " délai raisonnable " sur lequel doit compter l'autorité ne saurait en tous les cas être supérieur à celui pour recourir (arrêt 5A_777/2011 du 7 février 2012 consid. 2.2).
Dans le cadre d'une procédure concernant des mesures provisoires ayant un caractère d'urgence, l'art. 29 al. 2 Cst. n'a toutefois pas la même portée que s'agissant de la procédure au fond. Ainsi, lorsqu'il s'agit de décisions judiciaires portant sur l'effet suspensif, qui doivent par nature être rendues rapidement, l'autorité peut, sauf circonstances spécifiques, se dispenser d'entendre de manière détaillée les intéressés ou de procéder à un second échange d'écriture; le droit d'être entendu du requérant est en principe déjà garanti par le dépôt de sa demande d'effet suspensif (ATF <ref-ruling> consid. 3.3 p. 192 et les références; arrêt 5A_178/2015 du 29 mai 2015 consid. 4.1.2).
3.2. En l'espèce, le grief apparaît bien fondé. L'autorité cantonale a en effet statué moins de quatre jours ouvrables après que l'avocat de la recourante a (au plus tôt) reçu la réponse à l'appel, alors qu'elle aurait dû, avant de rendre son arrêt, laisser s'écouler depuis dite communication un délai d'au moins dix jours (vu la nature provisionnelle de la décision attaquée; art. 314 al. 1 CPC). Les motifs avancés par l'autorité précédente pour faire fi du droit de réplique de la recourante sont au demeurant contraires à la jurisprudence ci-dessus rappelée, tant il est vrai qu'il n'appartient pas au juge, mais à la partie de décider si la détermination concernée nécessite qu'elle fasse ou non l'objet d'observations. Par ailleurs, même si la décision querellée est de nature provisionnelle, ce qui selon la jurisprudence peut justifier une exception au droit de réplique, il ne ressort pas de l'état de fait cantonal que l'intimé aurait fait valoir un motif justifiant que son départ pour les Etats-Unis ait impérativement lieu le 15 août 2015, ni d'obstacle à ce que celui-ci soit différé de façon à permettre à la recourante d'exercer son droit de réplique. Aucun des éléments énumérés par la cour cantonale ne permet en particulier d'inférer des dires du recourant que l'année scolaire aurait commencé à cette date - ce qui paraît au demeurant peu vraisemblable - ni qu'il aurait subi un quelconque dommage, telle la perte des écolages déjà versés ou de l'emploi qu'il allègue avoir trouvé, s'il ne se rendait pas aux Etats-Unis le 15 août 2015. Les événements postérieurs à la décision entreprise ont d'ailleurs démontré que cette date n'était pas aussi cruciale pour l'intimé que ce qu'il a laissé entendre, dès lors qu'il ne s'est finalement rendu aux Etats-Unis que le 28 août 2015 et qu'il a lui-même indiqué que le but initial de ce séjour était de passer quelques jours de vacances dans ce pays avec ses enfants. Force est en définitive de constater que l'autorité cantonale ne pouvait, sur la base des éléments alors en sa possession, conclure que le départ de l'intimé présentait une urgence telle qu'il se justifiait de priver la recourante de son droit de réplique.
L'admission du grief - de nature formelle - de la violation du droit d'être entendu entraîne d'emblée l'annulation de la décision attaquée et le renvoi de la cause à l'autorité précédente pour nouvelle décision après avoir permis à la recourante d'exercer son droit à la réplique (cf. arrêt 5A_262/2015 du 11 août 2015 consid. 3.2).
4.
Au vu du sort du recours, les frais et dépens de l'instance fédérale incombent à l'intimé qui succombe dans ses conclusions (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité précédente pour nouvelle décision.
2.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de l'intimé.
3.
Une indemnité de 1'500 fr. à payer à la recourante, à titre de dépens, est mise à la charge de l'intimé.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 16 octobre 2015
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière : Hildbrand