Faits :
A.
A.A._ (1955) et B.A._ (1962) se sont mariés le 23 juillet 1991. Deux enfants sont issus de leur union : C._, née en 1996, et D._, né en 2001.
A.a. Lors d'une audience des mesures protectrices le 20 février 2012, les époux sont convenus notamment que la garde de leur fils était partagée et celle de leur fille attribuée à l'épouse, le droit de visite du mari devant s'exercer d'entente entre les parties, de manière la plus large possible.
A.b. Le 16 novembre 2012, la mère s'est adressée à l'Autorité de protection de l'enfant et de l'adulte (ci-après : APEA), en faisant état de diverses difficultés qui l'amenaient à remettre en question la garde partagée de l'enfant D._.
Le 28 novembre 2012, l'APEA a sollicité une enquête sociale auprès de l'Office de protection de l'enfant, contenant le point de vue des deux enfants.
Le 12 juin 2013, E._, assistante sociale désignée par le Service de protection de la jeunesse pour effectuer l'expertise requise, a rendu son rapport, après s'être notamment entretenue avec les enfants respectivement les 8 et 29 mai 2013. Elle a suggéré l'instauration d'une curatelle au sens de l'<ref-law> au profit des enfants, le mandat lui étant confié.
A.c. Saisi d'une demande de modification des mesures protectrices de l'union conjugale, le dossier a été transmis au juge civil. Par ordonnance de modification des mesures protectrices de l'union conjugale du 10 mars 2014, le juge du tribunal civil, fondant sa décision sur un rapport du 13 novembre 2013 de E._ et un complément du 7 février 2014, a attribué à l'épouse la garde exclusive des deux enfants, ordonné une curatelle au sens de l'<ref-law>, en chargeant l'APEA de nommer le curateur, et octroyé un droit de visite au père, s'exerçant le plus largement possible. La Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel a rejeté l'appel du père le 27 août 2014. Par arrêt du 3 décembre 2014, le Tribunal fédéral a déclaré irrecevable le recours du père contre cette décision (5A_750/2014).
B.
Par décision du 20 mars 2014, l'APEA a " institué une curatelle au sens de l'<ref-law> à l'égard des deux enfants (ch. 1) " et désigné E._, l'assistante sociale de l'Office de protection de l'enfant mandatée par le juge des mesures protectrices de l'union conjugale pour expertiser la famille, en qualité de curatrice (ch. 2).
Le 30 mars 2014, le mari a recouru contre la décision du 20 mars 2014, concluant principalement à son annulation.
Par arrêt du 5 septembre 2014, la Cour des mesures de protection de l'enfant et de l'adulte du Tribunal cantonal du canton de Neuchâtel a annulé le chiffre 1 de la décision de l'APEA et a confirmé cette décision pour le surplus. En substance, la cour cantonale a constaté que le principe de l'instauration de la curatelle avait déjà fait l'objet d'une décision de l'autorité compétente au sens de l'<ref-law> et que l'APEA, plutôt que de se limiter à prendre acte de ce prononcé et à ordonner les mesures d'exécution, a restatué sur la même question en instituant une curatelle au chiffre 1 de son prononcé. Quant à la désignation de l'assistante sociale en qualité de curatrice, l'autorité précédente a relevé que celle-ci avait suivi le dossier depuis le début, qu'il n'y avait pas d'éléments rendant vraisemblable un parti pris de celle-ci, et que les enfants et l'épouse étaient d'accord avec cette désignation, en sorte qu'elle a confirmé le choix de l'APEA.
C.
Par acte du 3 octobre 2014, A.A._ interjette un recours en matière civile au Tribunal fédéral en joignant un lot de pièces. En substance, il conclut à ce que la nomination de E._ en qualité de curatrice soit annulée, à ce que ni E._, ni F._, le chef de l'Office de protection de l'enfant, ne soient désignés comme curateurs, à ce que l'exécution de la curatelle soit basée sur le principe d'équité, de justice et d'égalité et respecte les jugements antérieurs, à ce que toute décision concernant leur fille aînée, dorénavant majeure depuis le 15 novembre 2014, soit prise en "co-décision" avec toutes les parties concernées et à ce que son recours parallèle (5A_750/2014) exercé contre la décision de mesures protectrices de l'union conjugale soit traité en même temps et par les mêmes juges que le présent recours.
Des réponses n'ont pas été requises.

Considérant en droit :
1.
1.1. La requête du recourant tendant implicitement à la jonction de son recours dans le cadre des mesures protectrices de l'union conjugale dans lequel il requiert la garde partagée (5A_750/2014) et de la présente cause (5A_782/2014) est rejetée (<ref-law>, en relation avec l'<ref-law>). Même si ces affaires reposent sur le même état de fait et opposent les mêmes parties, les recours du père concernent deux décisions émanant de deux autorités différentes et statuant sur des objets différents, de sorte que la mesure sollicitée ne paraît pas opportune. Au demeurant, l'intéressé ne démontre pas en quoi une jonction des causes influerait sur sa position juridique.
1.2. L'arrêt entrepris a pour objet la nomination d'un curateur de surveillance des relations personnelles institué au sens de l'<ref-law>, à savoir une décision prise en application de normes de droit public dans une matière connexe au droit civil (art. 72 al. 2 let. b ch. 6 LTF). La question soumise au Tribunal fédéral n'est pas de nature pécuniaire (arrêts 5A_670/2013 du 8 janvier 2014 consid. 1.1; 5A_366/2010 du 4 janvier 2011 consid. 1.1). Par ailleurs, le recours a été interjeté dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi, contre une décision finale (<ref-law>) prise sur recours par une autorité cantonale supérieure (art. 75 al. 1 et 2 LTF). Le recourant a en outre pris part à la procédure devant l'autorité précédente et dispose d'un intérêt à l'annulation ou à la modification de la décision attaquée (<ref-law>). Le recours en matière civile est en principe recevable au regard de ces dispositions.
2.
2.1. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Compte tenu des exigences de motivation posées à l'<ref-law>, le Tribunal fédéral n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une juridiction de première instance, toutes les questions juridiques pouvant se poser lorsqu'elles ne sont plus discutées devant lui (<ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 1.1 p. 104). L'<ref-law> exige ainsi que le recourant discute au moins de manière succincte les considérants de la décision entreprise.
2.2. Les faits et moyens de preuve nouveaux sont prohibés, à moins de résulter de la décision de l'autorité précédente (<ref-law>; <ref-ruling> consid. 5.2.4 p. 229; <ref-ruling> consid. 2.1 p. 344). Les pièces postérieures à l'arrêt entrepris sont en outre d'emblée irrecevables (ATF <ref-ruling> consid. 2.1 p. 343 s.; arrêt 5A_640/2011 du 4 janvier 2012 consid. 1.4). Les onze pièces jointes par le recourant à son écriture, à l'exception du calendrier des visites des enfants établi le 23 septembre 2014 par la curatrice, ont déjà été produites devant les autorités inférieures, en sorte qu'elles figurent au dossier de la cause. Quant au calendrier des visites du 23 septembre 2014, postérieur à l'arrêt entrepris, il est d'emblée irrecevable.
3.
Le recours a pour objet la désignation d'un curateur de surveillance du droit aux relations personnelles, dont l'institution a été ordonnée par décision du juge matrimonial.
En tant que le recourant conclut à ce que l'exécution de la curatelle soit basée sur le principe d'équité, de justice et d'égalité et respecte les jugements antérieurs, et à ce que toute décision concernant leur fille aînée, dorénavant majeure depuis le 15 novembre 2014, soit prise en "co-décision" avec toutes les parties concernées, ces deux conclusions sont d'emblée irrecevables, dès lors qu'elles ne portent pas sur l'objet de la décision attaquée (<ref-law>).
4.
Le recourant soutient que la curatrice désignée est partiale en faveur de l'épouse. Il expose qu'elle a "menti par omission" en ce qui concerne les déclarations des enfants, la chronologie des faits et l'évaluation des capacités parentales de chacun des parents. Il déplore également que le premier rapport soit antidaté au 12 juin 2012 à la place du 12 juin 2013. Le recourant affirme en outre que F._, chef de l'Office de protection de l'enfant a cautionné le rapport de E._, voire avance qu'il l'a peut-être même aidée à rédiger le second rapport, en sorte que, en tout état de cause, celui-ci partage la responsabilité de la deuxième expertise concernant les omissions délibérées de certains éléments, ayant eu pour conséquence de "tromper" les juges.
4.1. En tant que le recourant critique le contenu des rapports de E._ s'agissant des capacités parentales, il déplore que l'expertise ait conduit à l'octroi d'une garde exclusive à la mère. Or, la question du mode de garde des enfants n'est pas l'objet de la décision attaquée, en sorte que cette motivation n'est pas pertinente dans le cadre de la présente cause. Le recourant en a d'ailleurs conscience puisqu'il expose reprendre son argumentaire du recours interjeté dans le cadre des mesures protectrices de l'union conjugale. Sur ce point, son recours est donc manifestement irrecevable car le recourant ne s'en prend pas aux considérants de la décision entreprise (<ref-law>; cf. supra consid. 2.1), mais critique l'arrêt de mesures protectrices de l'union conjugale. Quant à l'audition des enfants, le recourant présente sa propre lecture des rapports de l'experte, sans que l'on comprenne en quoi celle-ci aurait trompé les juges, puisqu'il ressort qu'elle les a entendus chacun à une reprise, respectivement les 8 et 29 mai 2013. Il en va de même de la critique de la partialité du chef de l'Office de protection de l'enfant, le recourant affirmant qu'il a participé à l'élaboration du second rapport prétendument partial, sans l'établir. S'agissant de l'indication erronée de la date d'établissement, elle relève manifestement plus d'une inadvertance que d'un acte délibéré comme le prétend, sans le démontrer, le recourant. Au mois de juin 2012, E._ n'avait pas encore été sollicitée par l'APEA et elle n'avait pas entendu les enfants et les parties, en sorte qu'en dépit de l'erreur dans l'année, il n'y a pas de doute possible sur la date d'établissement du rapport et les juges ne s'y sont pas trompés, ce qui est confirmé dans l'arrêt attaqué qui mentionne dans les faits que le rapport a été établi le 12 juin 2013. L'arrêt entrepris, qui retient qu'il n'y a pas en l'état d'éléments rendant vraisemblable un parti pris de la curatrice, peut être confirmé. En tant qu'elle est recevable, la critique du recourant concernant la désignation du curateur est mal fondée.
5.
En conclusion, le recours doit être rejeté dans la mesure de sa recevabilité, aux frais du recourant (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimée qui - de surcroît non représentée par un avocat (<ref-ruling> consid. 4 p. 446; <ref-ruling> consid. 4 p. 136) - n'a pas été invitée à déposer une réponse.

Par ces motifs, le Tribunal fédéral prononce :
1.
La requête de jonction des causes 5A_750/2014 et 5A_782/2014 est rejetée.
2.
Le recours est rejeté dans la mesure où il est recevable.
3.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4.
Il n'est pas alloué de dépens.
5.
Le présent arrêt est communiqué aux parties, à la curatrice de surveillance des relations personnelles, E._, et à la Cour des mesures de protection de l'enfant et de l'adulte du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 5 décembre 2014
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière : Gauron-Carlin