Faits :
A.
B._ et A._ sont les parents non mariés de C._, né le 8 avril 2014. Ils vivent séparés depuis le 1er avril 2017. Selon une convention approuvée par le Juge de paix du district de la Broye-Vully, ils disposent de l'autorité parentale conjointe. Depuis la séparation des parents, la garde de l'enfant a été assumée par la mère, qui vivait alors à U._ (NE).
En décembre 2017, le père a été informé du projet de la mère d'aller s'établir à V._ (VS) avec l'enfant, au printemps 2018, pour vivre avec son nouvel ami.
Le 15 janvier 2018, il a déposé une requête tendant principalement à ce qu'il soit fait interdiction à la mère d'emmener l'enfant en Valais lors de son déménagement prévu le 1er avril 2018.
Par décision du 15 août 2018, l'Autorité de protection de l'enfant et de l'adulte du Littoral et du Val-de-Travers (ci-après: APEA) a rejeté la requête et autorisé la mère à s'établir à V._ avec son fils.
B.
Le 4 septembre 2018, le père a recouru contre cette décision auprès de la Cour des mesures de protection de l'enfant et de l'adulte du Tribunal cantonal neuchâtelois (ci-après: CMPEA).
La mère a déposé des observations le 4 octobre 2018.
Par courrier du 8 octobre 2018, le Président de la CMPEA a transmis ces observations aux parties en les informant qu'un second échange d'écritures ne paraissait pas nécessaire, sous réserve du droit de réplique inconditionnel.
Aucune réplique spontanée n'a été déposée.
Par arrêt du 19 octobre 2018, la CMPEA a rejeté le recours.
C.
Par acte posté le 22 novembre 2018, le père exerce un recours en matière civile au Tribunal fédéral contre l'arrêt du 19 octobre 2018, concluant à son annulation et au renvoi de la cause à l'autorité cantonale pour nouvelle décision.
Le recourant invoque une violation de son droit d'être entendu au sens des art. 29 al. 2 Cst. et 6 CEDH, l'arrêt attaqué ayant été rendu avant l'échéance du délai de dix jours dès la notification des dernières observations de l'intimée.
Des réponses n'ont pas été requises.

Considérant en droit :
1.
Le recours a été interjeté en temps utile (<ref-law>) et dans la forme prévue par la loi (<ref-law>) contre une décision finale (<ref-law>), rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF) dans une affaire civile de nature non pécuniaire. Le recourant a en outre pris part à la procédure devant l'autorité précédente (<ref-law>) et a un intérêt à l'annulation ou à la modification de la décision attaquée (<ref-law>). Le recours en matière civile est donc en principe recevable.
2.
2.1. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 s. LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Toutefois, compte tenu de l'obligation de motiver qui incombe au recourant en vertu de l'art. 42 al. 1 et 2 LTF, il n'examine pas toutes les questions juridiques qui peuvent se poser, mais seulement celles qui sont soulevées devant lui (<ref-ruling> consid. 2.4 et les références). En outre, le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si de tels griefs ont été invoqués et motivés par le recourant ("principe d'allégation"; <ref-law>), c'est-à-dire s'ils ont été expressément soulevés et exposés de façon claire et détaillée (<ref-ruling> consid. 2.1; <ref-ruling> consid. 2.4).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si ces faits ont été constatés de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>), et si la correction du vice est susceptible d'influencer le sort de la cause (<ref-law>; <ref-ruling> consid. 3.4). Le recourant qui entend invoquer que les faits ont été établis de manière manifestement inexacte, à savoir arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.2 et la référence), doit démontrer, de manière claire et détaillée, en quoi consiste cette violation (<ref-law>; cf. supra consid. 2.1). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (<ref-ruling> consid. 1.3.1 et la référence).
3.
Le recourant se plaint d'une violation de son droit d'être entendu au sens des art. 29 al. 2 Cst. et 6 CEDH, sous l'angle du droit à la réplique. Il reproche à l'autorité cantonale d'avoir rendu son arrêt le 19 octobre 2018, soit avant l'échéance d'un délai de dix jours dès la notification des dernières observations de l'intimée, celles-ci ayant été transmises à sa mandataire par courrier B le 8 octobre 2018.
3.1.
3.1.1. Pour que le droit de réplique (sur cette notion, cf. <ref-ruling> consid. 4.1.1; arrêt 9C_843/2018 du 7 janvier 2019 et les références) déduit des art. 29 al. 2 Cst. et 6 CEDH soit garanti, il faut que le tribunal laisse un laps de temps suffisant à la partie concernée, entre la remise de la prise de position ou des pièces nouvelles et le prononcé de sa décision, pour qu'elle ait la possibilité de déposer des observations si elle l'estime nécessaire à la défense de ses intérêts (<ref-ruling> consid. 4.1.1 et les références). A cet égard, le Tribunal fédéral considère qu'un délai inférieur à dix jours ne suffit pas à garantir l'exercice du droit de répliquer, tandis qu'un délai supérieur à vingt jours permet, en l'absence de réaction, d'inférer qu'il a été renoncé au droit de répliquer (arrêts 6B_1058/2018 du 17 décembre 2018 consid. 1.1; 1B_485/2017 du 7 février 2018 consid. 3.1; 6B_1271/2016 du 10 novembre 2017 consid. 5.1 et la jurisprudence citée).
3.1.2. Le droit d'être entendu est une garantie constitutionnelle de caractère formel, dont la violation entraîne en principe l'annulation de la décision attaquée, indépendamment des chances de succès du recours sur le fond (<ref-ruling> consid. 2.8.1 et les références). Le droit d'être entendu n'est toutefois pas une fin en soi; il constitue un moyen d'éviter qu'une procédure judiciaire ne débouche sur un jugement vicié en raison de la violation du droit des parties de participer à la procédure, notamment à l'administration des preuves. Ainsi, lorsqu'on ne voit pas quelle influence la violation de ce droit a pu avoir sur la procédure, il n'y a pas lieu d'annuler la décision attaquée. Dans ce cas, en effet, le renvoi de la cause à l'autorité précédente en raison de cette seule violation constituerait une vaine formalité et conduirait seulement à prolonger inutilement la procédure (<ref-ruling> consid. 1.4.1 et les arrêts cités; arrêts 4A_578/2017 du 20 juillet 2018 consid. 3.1.2; 6B_207/2018 du 15 juin 2018 consid. 2.1). Compte tenu de ce qui précède, le recourant qui se plaint de n'avoir pas été associé à un acte de procédure doit indiquer les moyens qu'il aurait fait valoir devant l'autorité précédente si son droit d'être entendu avait été respecté et établir la pertinence de ceux-ci (arrêts 5A_561/2018 du 14 décembre 2018 consid. 2.3; 4A_453/2016 du 16 février 2017 consid. 4.2.3-4.2.4, in RSPC 2017 p. 314 et les références). A défaut, le recours est irrecevable (arrêt 4A_141/2016 du 26 mai 2016 consid. 1.2).
3.2. En l'espèce, le recourant se limite à affirmer que les observations de l'intimée envoyées le 8 octobre 2018 sont parvenues à sa mandataire le 10 suivant et qu'en statuant neuf jours après - soit avant l'échéance du délai de dix jours dès la notification -, l'autorité cantonale a violé son droit d'être entendu. Soulignant le caractère formel de celui-ci, il fait valoir que l'arrêt attaqué tient compte de ces observations, en fait comme en droit, considérant en particulier le fait nouveau que représentait le contrat de travail récemment conclu par l'intimée comme un motif favorable à celle-ci. Cette argumentation ne satisfait pas aux exigences de motivation requises, dans la mesure où le recourant n'explique pas quelle influence la violation du droit d'être entendu qu'il dénonce a concrètement pu avoir sur la procédure. Il ne soulève aucun grief d'ordre matériel à l'encontre de l'arrêt attaqué et n'indique pas les moyens - allégués, arguments, preuves et offres de preuves - qu'il aurait fait valoir en instance cantonale s'il avait eu la possibilité de répliquer aux observations de l'intimée. En se bornant à soutenir en particulier que l'autorité précédente a considéré le nouvel emploi de la mère comme favorable à celle-ci, et en se contentant d'affirmer qu'il veut se prononcer sur les observations de l'intimée sans aucune autre précision que la référence à l'importance de la pièce nouvellement produite, il ne démontre pas en quoi, sans cet élément de fait, la décision entreprise aurait pu connaître une autre issue. Dans ces circonstances, on ne saurait retenir que l'absence de détermination du recourant a porté à conséquence et qu'un renvoi à l'autorité cantonale pour lui donner la possibilité d'exercer son droit réplique aurait une incidence sur le fond.
Au vu de ce qui précède, le recours doit être déclaré irrecevable.
4.
Le recourant, qui succombe, supportera par conséquent les frais judiciaires (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimée, qui n'a pas été invitée à répondre.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour des mesures de protection de l'enfant et de l'adulte du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 28 janvier 2019
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Mairot