Faits :
A.
A._ et B._ sont les parents de C._, né en 1998, et de D._, née en 2000. Ils vivent séparés depuis octobre 2000 et leur divorce a été prononcé en juin 2010. A la séparation, l'épouse a quitté la Grande-Bretagne, où le couple habitait, pour se rendre en Suisse, dans le canton de Vaud, avec les enfants. Elle a ensuite déménagé avec eux en février 2011 pour s'installer en Valais avec son nouveau compagnon. Depuis la séparation, mais particulièrement suite à ce déménagement, le couple se trouve dans une situation très conflictuelle due principalement aux difficultés à organiser le droit de visite du père.
B.
B.a. Suite au refus des deux enfants de rejoindre leur père lors de l'exercice du droit de visite, D._ a fait une réaction anxieuse qui a nécessité son hospitalisation.
Le chef de clinique du Service de psychiatrie-psychothérapie de l'enfant et de l'adolescent a alerté la Chambre pupillaire de Leytron de la situation. Celle-ci a alors suspendu le droit de visite, tout d'abord de manière urgente le 15 avril 2011, puis à titre de mesures provisoires le 20 avril 2011. Elle a en outre ordonné une enquête sociale, confiant sa mise en oeuvre à l'Office pour la protection de l'enfant (ci-après: OPE).
Une audience s'est ensuite tenue devant elle le 27 mai 2011, lors de laquelle l'intervenante auprès de l'OPE, E._, a présenté oralement son rapport. Elle a proposé de rétablir le droit de visite; elle a toutefois relevé l'existence d'un important conflit parental et le besoin d'aide des enfants pour surmonter leurs difficultés dans l'exercice du droit de visite.
Par décision du même jour, la Chambre pupillaire a décidé que le droit de visite du père pouvait être exercé selon le calendrier fixé par le juge du divorce et nommé F._ comme médiatrice afin d'organiser l'exercice de ce droit et de maintenir le suivi médical d'un des enfants.
B.b.
B.b.a. Le 20 juin 2011, B._ a recouru contre cette décision auprès du Tribunal cantonal valaisan, concluant, entre autres, à titre principal, à son annulation, et, à titre subsidiaire, à la suspension du droit de visite.
Le 24 novembre 2011, la curatrice F._ a déposé son rapport. Elle a fait état de la vive opposition des enfants à rencontrer leur père et a proposé de suspendre le droit de visite.
Statuant le 21 décembre 2011 sur la requête de mesures provisionnelles du père, le Président du Tribunal cantonal a ordonné que le droit de visite s'exerçât conformément au calendrier fixé par le juge du divorce, exhorté les parents à se conformer à cette décision sous menace de la peine prévue à l'<ref-law>, chargé l'OPE de mener une enquête sociale sur la situation familiale et invité la Chambre pupillaire à réexaminer sa décision désignant F._ en qualité de médiatrice.
Dans son rapport du 8 février 2012, l'intervenante de l'OPE, G._, a exposé que les enfants refusaient systématiquement de rencontrer leur père malgré les interventions de différents protagonistes. Elle a relevé qu'ils étaient, depuis douze ans, exposé à un conflit parental important, dont les ex-époux étaient tous deux responsables, et qu'il était vraisemblable qu'ils eussent refusé, suite au désaccord parental sur le calendrier des visites, de rencontrer leur père pour sortir du conflit de loyauté dans lequel ils se trouvaient. Elle a proposé de suspendre le droit de visite, toute mesure de contrainte tendant à faire exercer ce droit étant contre-productive, de mettre en oeuvre une thérapie familiale et de procéder à une nouvelle évaluation dans un délai de six mois.
Par décision du 14 mai 2012, le Président du Tribunal cantonal a suspendu le droit de visite, ordonné la mise en oeuvre d'une thérapie familiale contrainte et une nouvelle évaluation dans un délai de six mois.
Les différents spécialistes contactés ont toutefois refusé de mettre en oeuvre cette thérapie au motif que celle-ci serait vouée à l'échec en raison du conflit entre les parents. Vu cette situation, le Président du Tribunal cantonal a demandé le 18 février 2013 à l'OPE de déposer un nouveau rapport, lequel a été dressé le 24 mai 2013, complété le 24 octobre 2013 et adressé au magistrat le 6 décembre 2013. Il en ressortait notamment que les enfants souhaitaient clairement n'entretenir aucun contact avec leur père et qu'ils ne rencontraient sinon aucune difficulté dans leur développement. L'OPE a proposé de maintenir la décision de suspension et de réévaluer la situation dans un délai de neuf mois.
B.b.b. Par jugement du 14 février 2014, le Tribunal cantonal valaisan, Cour civile I, a admis le recours et, en conséquence, suspendu le droit de visite, ordonné un soutien psychologique en faveur des enfants auprès du Centre pour le développement et la thérapie de l'enfant et de l'adulte (CDTEA), chargé l'OPE de mettre en place cette prise en charge dans les délais les plus brefs, et dit que l'Autorité de protection de l'enfant et de l'adulte Les Deux Rives devra réévaluer la situation dans un délai de neuf mois, courant dès le début de la prise en charge des enfants. Il a en outre fait supporter aux parties les frais encourus pour le mandat de la médiatrice à raison de la moitié chacune et mis solidairement à leur charge les frais judiciaires.
C.
Par acte posté le 22 mars 2014, A._ interjette un recours en matière civile devant le Tribunal fédéral contre cet arrêt. Il conclut à sa réforme, en ce sens que les enfants soient placés dans une " bonne famille d'accueil " du canton de Vaud, pour le choix de laquelle il aurait la possibilité de faire des propositions, qu'un suivi thérapeutique des enfants soit ordonné auprès de " médecins expérimentés et neutres " qui suivaient ceux-ci avant leur "enlèvement " en Valais, et qu'un droit de visite équivalent pour les deux parents, dans un premier temps surveillé puis aménagé conformément aux avis des médecins précités, soit ordonné. Le recourant conclut également, pour autant qu'on parvienne à le comprendre, à l'allocation d'une indemnité pour tort moral en faveur des enfants fondée sur une responsabilité de l'Etat du Valais, à ce que les frais judiciaires de la procédure antérieure soient mis à la charge du canton, et à ce que toute autre mesure utile à la protection des enfants soit ordonnée. Il requiert en outre le bénéfice de l'assistance judiciaire.
Des réponses n'ont pas été requises.

Considérant en droit :
1.
1.1. Le recours en matière civile peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF (sur la nature des griefs qui peuvent être soulevés contre une décision de suspension du droit de visite, cf. not. arrêts 5A_932/2012 du 5 mars 2013 consid. 2; 5A_398/2009 du 6 août 2009 consid. 1.3). Le Tribunal fédéral applique le droit d'office (<ref-law>). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité, il n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 2.1; <ref-ruling> consid. 1.1; <ref-ruling> consid. 2.2). Le recourant doit par conséquent discuter les motifs de la décision entreprise et indiquer précisément en quoi il estime que l'autorité précédente a méconnu le droit; il suffit qu'à la lecture de son exposé, on comprenne clairement quelles règles de droit auraient été, selon lui, transgressées par l'autorité cantonale (<ref-ruling> consid. 2 et les références). En outre, le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si ce grief a été soulevé et motivé (<ref-law>; <ref-ruling> consid. 3.2; <ref-ruling> consid. 1.4.2). Si le recourant se plaint de la violation de tels droits, il doit ainsi satisfaire au principe d'allégation et dès lors indiquer précisément quelle norme constitutionnelle a été violée et démontrer par une argumentation précise, en quoi consiste la violation (<ref-ruling> consid. 1.4; <ref-ruling> consid. 1.4.2).
1.2. Le Tribunal fédéral ne peut s'écarter des faits établis par l'autorité précédente que si ceux-ci l'ont été de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>) et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le recourant qui soutient que les faits ont été établis d'une manière manifestement inexacte (<ref-law>), c'est-à-dire que les constatations de fait sont arbitraires au sens de l'art. 9 Cst. (ATF <ref-ruling> consid. 1.2.2), doit satisfaire au principe d'allégation susmentionné (cf. supra consid. 1.1).
Lorsque le recourant entend faire compléter les faits - pertinents et qui n'auraient pas été constatés en violation du droit -, il doit les désigner avec précision en se référant aux pièces du dossier; le complètement suppose en effet que les allégations de fait correspondantes aient été introduites régulièrement et en temps utile dans la procédure cantonale, qu'elles aient été considérées à tort comme dépourvues de pertinence ou aient été simplement ignorées; si ces exigences ne sont pas respectées, les faits invoqués sont réputés nouveaux (<ref-law>, cf. infra consid. 1.3), partant irrecevables (<ref-ruling> consid. 2 et les références).
Dans le domaine de l'appréciation des preuves et de la constatation des faits, le Tribunal fédéral se montre réservé, vu le large pouvoir qu'il reconnaît en la matière à l'autorité cantonale (<ref-ruling> consid. 4b; <ref-ruling> consid. 1b et les références). Il n'intervient, du chef de l'art. 9 Cst., que si le juge du fait n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans motifs objectifs de tenir compte de preuves pertinentes ou a opéré, sur la base des éléments recueillis, des déductions insoutenables (<ref-ruling> consid. 2.1); encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause.
1.3. Selon l'<ref-law>, aucun fait nouveau ni preuve nouvelle ne peut être présenté devant le Tribunal fédéral, à moins de résulter de la décision de l'autorité précédente. Ainsi, le recourant ne peut pas alléguer des faits ou produire des moyens de preuve nouveaux pour contester l'état de fait retenu par l'autorité précédente, alors qu'il était en mesure de les lui présenter, mais qu'il ne l'a pas fait, faute d'en avoir discerné la pertinence éventuelle (arrêt 5A_291/2013 du 27 janvier 2014 consid. 2.2 et les références). Par ailleurs, selon l'<ref-law>, les conclusions nouvelles sont irrecevables. Cette règle vaut indépendamment de l'application de la maxime d'office en instance cantonale, applicable lorsque le juge est saisi de questions relatives aux enfants dans les affaires de droit de la famille (arrêts 5A_962/2013 du 24 avril 2014 consid. 1.2; 5A_229/2013 du 25 septembre 2013 consid. 6.2; 5A_807/2012 du 6 février 2013 consid. 4.2.3).
2.
Le Tribunal cantonal a considéré que les enfants étaient exposés à un conflit parental qui durait depuis 2000, dont les parents, incapables de saisir les opportunités qui leur avaient été offertes pour résoudre leurs difficultés et de prendre conscience de leur rôle dans la souffrance des enfants, étaient tous deux responsables. Ce conflit, plus particulièrement celui portant sur le calendrier des visites survenu depuis 2011, avait finalement entraîné la rupture des contacts entre les enfants et le père, ceux-ci, étant de plus à un âge où les relations parents-enfants pouvaient être conflictuelles, n'ayant trouvé que ce moyen pour s'en extraire.
S'agissant de l'existence d'un syndrome d'aliénation parentale dont A._ se prévalait depuis la procédure de divorce pour obtenir le retrait de la garde à la mère et pour l'établissement duquel il requerrait une expertise, le tribunal a, dans une double motivation, rejeté ce grief. Dans la première partie de sa motivation, il a retenu que les experts mandatés durant la procédure de divorce avaient déjà écarté ce syndrome et qu'aucun fait nouveau ne permettait d'en soupçonner l'apparition depuis lors. Bien au contraire, le droit de visite avait pu s'exercer jusqu'en février 2011. Par ailleurs, il ne ressortait pas des auditions des enfants que ceux-ci dénigraient leur père; ils n'alignaient pas non plus leurs propos sur ceux de leur mère, ni ne comparaient leurs parents. Ainsi, les allégations du père quant à l'existence d'un tel syndrome apparaissaient d'emblée infondées et on ne pouvait, sans autre élément, déduire du conflit entre les parties une aliénation parentale. Dans la seconde partie de sa motivation, le tribunal a jugé que, même si une telle aliénation était avérée, la solution revendiquée par le père, à savoir le retrait de la garde à la mère, ne serait pas compatible avec le bien des enfants, car elle attiserait encore le conflit parental affectant ceux-ci. Elle serait en outre disproportionnée, dès lors qu'il n'était pas établi que la mère aurait sciemment entravé l'exercice du droit de visite. Le refus persistant des deux adolescents de rencontrer leur père, dont on ne saurait faire fi sans porter atteinte à leur personnalité, démontrait même le contraire. L'exécution forcée du droit de visite n'était pas non plus envisageable, puisqu'une telle contrainte reviendrait à placer les enfants au centre du conflit parental dont ils cherchaient à se dégager et qu'elle s'était révélée totalement inefficace au cours de la procédure. Quant à la mise en place d'une thérapie contrainte, les spécialistes interpellés avaient exposé qu'une telle mesure était vouée à l'échec vu le comportement des parents. Rejetant donc au préalable la requête d'expertise portant sur le syndrome d'aliénation parentale, le tribunal a suspendu le droit de visite jusqu'à nouvelle évaluation, au motif que cette mesure était dans l'intérêt des enfants aujourd'hui adolescents, qui avaient exprimé de manière ferme, claire et répétée leur refus de rencontrer leur père. Il a également ordonné en faveur des enfants un soutien psychologique auprès du CDTEA pour les accompagner dans leur réflexion quant à leur relation avec leur père.
S'agissant du maintien du suivi d'un traitement médical par l'enfant aîné avec un médecin du CHUV à Lausanne, le tribunal a jugé que, cet enfant demeurant en Valais suite à son déménagement, on ne pouvait exiger qu'il poursuivît son traitement à Lausanne alors que les institutions valaisannes étaient en mesure d'offrir des prestations identiques.
Enfin, s'agissant des frais de la cause, le tribunal a considéré que, depuis le dépôt du recours, l'opposition des enfants à l'exercice du droit de visite s'était, sans qu'on puisse le présager, renforcée et que les deux parents étaient responsables de la situation. Tenant compte en outre de la nature familiale du litige, il a conclu qu'il se justifiait de répartir par moitié les frais.
3.
Au vu de l'<ref-law> (cf. supra consid. 1.3), il y a lieu d'emblée de déclarer irrecevables les conclusions du recourant tendant à allouer en faveur de ses enfants des indemnités pour tort moral, à mettre à la charge de l'Etat du Valais des frais judiciaires et à ordonner d'autres mesures de protection de l'enfant: elles sont toutes trois nouvelles. En outre, quant à la première, une quelconque responsabilité de l'Etat n'est pas l'objet de la décision attaquée, et quant à la seconde, le recourant avait lui-même, dans sa réponse au recours du 25 juillet 2011, conclu principalement au partage des frais judiciaires.
4.
Le recourant dénonce tout d'abord un établissement lacunaire et erroné des faits. Sa critique, dans laquelle il ne soulève d'ailleurs aucune violation de l'art. 9 Cst., est purement appellatoire et, partant, irrecevable (cf. supra consid. 1.2).
En effet, il se borne à opposer sa propre appréciation de la situation à celle retenue par l'autorité cantonale: il affirme que l'intimée est responsable de la situation et il s'en prend de manière générale aux institutions du Valais dans leur ensemble, qu'il estime incompétentes. En outre, il se fonde sur des pièces qu'il ne prétend pas avoir présentées devant l'instance cantonale et qu'il ne lui reproche même pas expressément d'avoir ignorées. Pour le reste, dans la mesure où le recourant semble, par ses allégations, dénoncer une partialité dont le magistrat de première instance aurait fait preuve en raison de supposés liens professionnels que celui-ci entretiendrait avec le compagnon de l'intimée ou d'autres dysfonctionnements généraux de l'administration valaisanne, il se méprend manifestement sur l'objet du recours en matière civile, par lequel il doit attaquer les motifs de la décision cantonale (cf. supra consid. 1.1).
5.
Ensuite, le recourant invoque la violation des art. 11 Cst. et 3 de la Convention de l'ONU sur les droits de l'enfant (CDE; RS 0.107). Il se borne néanmoins à rendre compte de la teneur de ces dispositions et à affirmer que l'autorité cantonale aurait violé celles-ci. Cette argumentation ne répond manifestement pas aux exigences du principe d'allégation, de sorte qu'elle est irrecevable (cf. supra consid.1.1). Par ailleurs, l'autorité cantonale a placé l'intérêt des enfants au centre de ses préoccupations dans l'exercice de son pouvoir d'appréciation quant aux relations personnelles, exercice que le Tribunal fédéral ne revoit qu'avec retenue (cf. arrêts 5A_505/2013 du 20 août 2013 consid. 2.4, publié in FamPra.ch 2013 p. 1045; 5C.298/2006 du 21 février 2007 consid. 2.2 et les références, publié in FamPra.ch 2007 p. 713).
6.
Enfin, le recourant tente de s'en prendre à l'application qu'a faite l'autorité cantonale des art. 273 s. CC, en tant que celle-ci a refusé de retirer le droit de garde à la mère, en niant le syndrome d'aliénation parentale dont souffriraient les enfants et qui les porteraient à refuser tout contact avec lui.
6.1. Dans la mesure où le recourant fonde sa critique en droit sur des faits différents de ceux retenus par l'autorité cantonale, celle-ci est irrecevable (notamment celle relative au soutien psychologique en faveur des enfants auprès du CDTEA et celle relative au lieu où l'enfant aîné peut suivre son traitement médical), étant donné qu'il n'a pas démontré l'établissement arbitraire des faits (cf. supra consid. 4).
6.2.
6.2.1. Lorsque la décision attaquée s'appuie sur plusieurs motivations indépendantes, alternatives ou subsidiaires, toutes suffisantes, le recourant doit, sous peine d'irrecevabilité, démontrer que chacune d'entre elles est contraire au droit (<ref-ruling> consid. 3.4; <ref-ruling> consid. 4.1.4; <ref-ruling> consid. 6.3).
6.2.2. En l'espèce, le grief du recourant doit d'emblée être déclaré irrecevable dans la mesure où celui-ci ne s'en prend pas, conformément aux exigences précitées, à la première partie de la double motivation de l'autorité cantonale sur ce point (cf. supra consid. 2 2 ème par.), qui suffit à sceller le sort du litige. Celle-ci a en effet, principalement, retenu que les allégations du recourant à l'appui de sa requête d'expertise sur le syndrome d'aliénation parentale étaient d'emblée infondées au motif que les experts mandatés lors de la procédure de divorce avaient déjà écarté ce syndrome et qu'il n'existait aucun fait nouveau à ce sujet, retenant même à cet égard plusieurs points démontrant le contraire (exercice du droit de visite, indépendance du discours des enfants par rapport à celui de leur mère). Or, le recourant se borne, à nouveau de manière appellatoire et sans soulever le grief d'arbitraire (cf. supra consid. 1.2), à affirmer que le syndrome allégué existait en réalité déjà au moment du divorce mais qu'il était seulement " contenu " par des mesures contraignantes prises dans le canton de Vaud, où résidait la famille lors du divorce, et que l'intimée a enlevé ses enfants précisément pour y échapper.
Pour le reste, le recourant n'attaque pas de manière intelligible (cf. <ref-law>; supra consid. 1.1) l'argument de fond principal de l'autorité cantonale qui a jugé que le refus ferme et réitéré des enfants, âgés l'un de 16 ans et l'autre de 14 ans, formulé pour s'extraire d'un conflit parental extrêmement pesant, devait être pris en considération pour statuer.
7.
En conclusion, le recours est irrecevable. Les conclusions prises par le recourant étant vouées à l'échec et celui-ci ne démontrant au demeurant pas par pièces son indigence, la requête d'assistance judiciaire est rejetée. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant qui succombe (<ref-law>). Il n'y a pas lieu d'allouer de dépens.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
La requête d'assistance judiciaire du recourant est rejetée.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour civile I.
Lausanne, le 23 juillet 2014
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : La Greffière :
von Werdt Achtari