Faits :
A.
C._, née en 2008, est la fille de A._ et B._. Suite à la séparation de ses parents en mai 2009, l'enfant est restée auprès de sa mère, seule détentrice de la garde et de l'autorité parentale.
C._ fait l'objet d'un conflit entre les parties. De nombreuses décisions ont été rendues au sujet de l'autorité parentale, de la garde et des relations personnelles.
B.
B.a. Par décision du 18 décembre 2014, la Justice paix du Jura-Nord vaudois (ci-après: la Justice de paix) a fixé un droit de visite usuel du père sur sa fille. En 2016, elle a instauré une curatelle de surveillance éducative et de surveillance des relations personnelles. Le droit de visite du père a été suspendu dès le 16 juin 2016 en raison du fort conflit parental auquel l'enfant était exposée; il n'a repris progressivement que dans le courant de l'année 2018.
B.b. Suite au déménagement de la mère et de l'enfant à U._ (VS), l'autorité de protection de l'enfant et de l'adulte des Coteaux du soleil (ci-après: l'APEA) a accepté en son for la mesure de curatelle instituée par la Justice de paix à compter du 1er septembre 2018 et mandaté l'office pour la protection de l'enfant (ci-après: OPE) afin de mettre en place les visites entre le père et sa fille. Celles-ci ont été médiatisées dès le 21 novembre 2018.
B.b.a. Les visites ont été suspendues par l'APEA le 9 juillet 2019.
B.b.b. Le 21 août 2019, l'APEA a ordonné une expertise portant notamment sur les compétences parentales et les éventuelles mesures à mettre en place dans l'intérêt de l'enfant. Ce mandat a été confié à " D._ (psychocriminologue) et E._ (psychologue) ".
B.b.c. Par décision provisoire du 29 août 2019, l'APEA a fixé un droit de visite médiatisé entre C._ et son père par le biais d'une psychologue et désigné un curateur en charge de la surveillance des relations personnelles. Le 17 octobre 2019, elle a nommé une curatrice de représentation à l'enfant.
B.b.d. Le rapport d'expertise psycho-judiciaire a été rendu le 16 janvier 2020. Celui-ci a été transmis à la curatrice de l'enfant mais son accès aux parents en a en revanche été limité.
Statuant le 20 mai 2020 sur décision superprovisoire, l'APEA a autorisé les parents - alors non représentés par un mandataire professionnel - à consulter l'intégralité de l'expertise, mais sur rendez-vous auprès du greffe et en présence du curateur de la mineure, avec interdiction d'en prélever une copie ou d'en publier des éléments sur les réseaux sociaux.
B.c. Le 13 octobre 2020, l'APEA a suspendu les relations personnelles entre C._ et son père, levé en conséquence la curatelle destinée à leur surveillance, institué une mesure de curatelle éducative en faveur de l'enfant et nommé une curatrice à cet effet, confirmé sa décision du 20 août 2020 s'agissant de la consultation de l'expertise et retiré l'effet suspensif à un éventuel recours.
B.d. A._ a recouru contre cette décision.
Par ordonnance du 13 avril 2021, le Tribunal cantonal a remis au conseil de l'intéressé une copie de l'expertise du 16 janvier 2020, lui interdisant notamment d'en donner connaissance à son client et de la lui remettre en original ou en copie - sous réserve d'un compte rendu général et des éléments pertinents pour sa défense. Un délai au 14 mai 2021 a été imparti à A._ pour compléter son recours. Le Tribunal fédéral a déclaré irrecevable le recours déposé à l'encontre de cette ordonnance (arrêt 5A_308/2021 du 3 mai 2021).
Statuant le 22 juillet 2021 sur le recours formé par A._ contre la décision de l'APEA du 13 octobre 2020, la Présidente de l'Autorité de recours en matière de protection de l'enfant et de l'adulte du Tribunal cantonal du canton du Valais (ci-après: la Présidente de l'Autorité de recours) l'a rejeté dans la mesure de sa recevabilité.
C.
Agissant le 30 août 2021 par les voies du recours en matière civile " et/ou " du " recours de droit constitutionnel " au Tribunal fédéral, A._ (ci-après: le recourant) conclut à l'annulation " ou/et " à la réforme de l'arrêt cantonal en ce sens que son droit de visite sur sa fille s'exercera un week-end sur deux du vendredi soir 18 heures au dimanche soir 18 heures, une semaine durant les vacances de Noël et de Pâques et la moitié des vacances d'été, ordre étant donné à la mère de lui remettre l'enfant pour l'exercice de ce droit, sous les menaces des sanctions de l'<ref-law> et " des conséquences fixées à l'<ref-law> pouvant conduire au retrait de garde ".
Des déterminations n'ont pas été demandées.
D.
La requête d' "effet suspensif et mesures provisionnelles " du recourant, tendant à l'octroi de " rencontres régulières " avec sa fille, a été rejetée par ordonnance présidentielle du 1er septembre 2021.

Considérant en droit :
1.
Le recours en matière civile est recevable (art. 72 al. 2 let. b. ch. 6, 75, 76 al. 1, 90, 100 al. 1 et 46 al. 1 let b LTF). Cette circonstance rend irrecevable le recours constitutionnel subsidiaire que le recourant semble également interjeter, étant précisé qu'il apparaît manifestement méconnaître les conditions de recevabilité de ces deux recours.
2.
2.1. Le recours en matière civile peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Cela étant, eu égard à l'exigence de motivation contenue à l'<ref-law>, il n'examine en principe que les griefs soulevés (<ref-ruling> consid. 2.4). Le recourant doit par conséquent discuter les motifs de la décision entreprise et indiquer précisément en quoi l'autorité précédente a méconnu le droit (<ref-ruling> consid. 1.7.1; <ref-ruling> consid. 2.4).
Le Tribunal fédéral ne connaît en outre de la violation de droits fondamentaux que si un tel grief a été expressément invoqué et motivé de façon claire et détaillée (" principe d'allégation ", <ref-law>; <ref-ruling> consid. 1.1; <ref-ruling> consid. 2.4).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si ces faits ont été constatés de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le recourant qui soutient que les faits ont été établis d'une manière manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.2; <ref-ruling> consid. 2.3), doit, sous peine d'irrecevabilité, satisfaire au principe d'allégation susmentionné (cf. supra consid. 2.1).
En tête de son argumentation, le recourant relate sa propre version des faits, émaillée d'appréciations personnelles. Il n'en sera pas tenu compte en tant que ces éléments divergent de ceux constatés dans l'arrêt querellé et qu'ils ne sont pas discutés sous l'angle de l'arbitraire dans l'établissement des faits ou de l'appréciation des preuves.
2.2.1. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
Doivent ainsi d'emblée être déclarés irrecevables les éléments factuels nouveaux que le recourant allègue dans un courrier adressé le 3 novembre 2021 à la Cour de céans (essentiellement: mise en doute de la capacité des expertes et de la crédibilité de certains intervenants).
2.2.2. En tant que le Tribunal fédéral statue et conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente ( supra consid. 2.2), il n'ordonne des mesures probatoires que de manière exceptionnelle (<ref-law>; <ref-ruling> consid. 2).
Le recourant demande à être entendu par la Cour de céans. Il invoque à cet égard n'avoir été confronté qu'à des intervenantes féminines devant les instances judiciaires et administratives valaisannes, laissant par ailleurs entendre que " l'histoire personnelles de ces femmes ", de même que " leurs relations privées aux hommes de leur vie ", les auraient conduites à faire fi de sa parole et à dégager de lui une image qui ne serait en rien conforme à la réalité, rendant ainsi indispensable son audition devant le Tribunal fédéral. Particulièrement audacieuse, cette insinuation n'est en rien susceptible de déroger à la pratique constante du Tribunal fédéral en matière d'instruction.
3.
Le recourant soulève la violation de son droit d'être entendu, prétendant n'avoir eu aucun accès au rapport d'expertise établi le 16 janvier 2020.
3.1. Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. comprend notamment le droit d'avoir accès au dossier (<ref-ruling> consid. 4.1; <ref-ruling> consid. 2.3; <ref-ruling> consid. 2.3). Ce droit de consulter le dossier n'est cependant pas absolu et son étendue doit être définie de cas en cas, en tenant compte des intérêts en présence et de toutes les circonstances de l'espèce. Il peut être restreint, voire supprimé, pour la sauvegarde d'un intérêt public prépondérant, dans l'intérêt d'un particulier ou dans l'intérêt du requérant lui-même (<ref-ruling> consid. 2b; <ref-ruling> consid. 6a et les références; arrêt 5A_1000/2017 du 15 juin 2018 consid. 4.2). L'<ref-law>, applicable par analogie (<ref-law>), prévoit également que les personnes parties à la procédure devant l'autorité de protection ont le droit de consulter le dossier, pour autant qu'aucun intérêt prépondérant ne s'y oppose. La personne partie à la procédure qui n'est pas autorisée à consulter une pièce du dossier ne peut pas se voir opposer cette pièce par l'autorité de protection durant la procédure (<ref-law>). Pour que celle-ci puisse s'en prévaloir, elle doit lui en communiquer oralement ou par écrit le contenu essentiel se rapportant à l'affaire (<ref-law> in fine).
3.2. Le recourant se plaint d'abord de ne pas s'être vu transmettre le rapport d'expertise.
3.2.1. Il s'agit d'abord de souligner que, contrairement à ce que paraît soutenir le recourant, l'accès à ce document ne lui a pas été refusé, mais lui a été restreint. Les instances cantonales ont motivé cette limitation d'accès par le fait que l'intéressé publiait sur les réseaux sociaux des informations personnelles concernant sa fille: il avait ainsi notamment posté sur la page Facebook " Touche pas à mon enfant " une partie de la décision de l'APEA du 12 mai 2020 ainsi qu'une vidéo relative à la procédure en cours.
3.2.2. Le recourant affirme n'avoir jamais eu " le début du commencement d'une intention " de publier l'expertise sur les réseaux sociaux. Il admet cependant avoir publié des éléments de la procédure devant l'APEA, le justifiant par une volonté de démontrer l'absence de crédibilité de cette dernière autorité. Que sa fille n'en ai pas eu connaissance, comme il l'affirme, n'est pas décisif; il est néanmoins évident que ces informations concernent la mineure personnellement et qu'elles n'ont pas à figurer sur les réseaux sociaux, ce indépendamment des raisons justifiant cette publication. Dans ces conditions, la limitation de l'accès à l'expertise ordonnée par la première instance et confirmée par l'autorité de recours apparaît proportionnée et ainsi parfaitement fondée.
Pour le reste, l'essentiel de l'argumentation du recourant consiste à soutenir que l'accès limité à l'expertise l'aurait entravé dans sa défense et relèverait d'une tentative de " camouflage de la vérité ", de même que de " déni volontaire des faits ". Il perd cependant de vue que plusieurs possibilités lui ont été offertes afin de pouvoir venir consulter l'expertise au greffe de l'APEA, opportunités auxquelles il n'a pas donné suite; il a finalement pu consulter l'intégralité de l'expertise avant l'audience tenue le 13 octobre 2020 devant l'APEA, admettant s'être toutefois arrêté à la page 5 " car il y avait beaucoup d'anomalies et d'inexactitude de la part de l'experte ". Son avocat s'est par ailleurs vu transmettre une copie de l'expertise le 13 avril 2021, un délai au 14 mai 2021 lui étant au demeurant accordé pour compléter le recours qui avait été déposé devant l'autorité cantonale. Dans ces conditions, l'on ne saisit pas en quoi le droit d'être entendu du recourant aurait été violé (cf. également consid. 7 infra), ni en quoi ses droits procéduraux auraient été grossièrement limités.
4.
Cette dernière conclusion ne pourrait d'ailleurs être mieux illustrée que par la série de critiques que le recourant développe à l'encontre de l'expertise, démontrant ainsi en avoir eu pleinement accès. Mettant essentiellement en doute les compétences de l'experte D._ et la méthode suivie par les expertes, il en déduit le défaut de crédibilité de leur analyse.
4.1. En matière d'appréciation des preuves et d'établissement des faits, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 1.1 et la référence); encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause (<ref-law>).
Concernant plus particulièrement le résultat d'une expertise, lorsque la juridiction cantonale juge une expertise concluante et en fait sien le résultat, le Tribunal fédéral n'admet le grief d'appréciation arbitraire des preuves que si l'expert n'a pas répondu aux questions, si ses conclusions sont contradictoires ou si, de quelque autre manière, l'expertise est entachée de défauts à ce point évidents et reconnaissables que, même en l'absence de connaissances ad hoc, il n'était tout simplement pas possible de les ignorer. Il ne lui appartient pas de vérifier que toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite à examiner si l'autorité cantonale pouvait, sans arbitraire, faire siennes les conclusions de l'expertise (<ref-ruling> consid. 4.3.1; arrêts 5A_131/2021 du 10 septembre 2021 consid. 4.2.3; 5A_94/2019 du 13 août 2019 consid. 3.2.3; 5A_981/2018 du 29 janvier 2019 consid. 3.3.2.2 et les références).
4.2.
4.2.1. Sur les compétences de l'experte D._, la Présidente de l'autorité de recours a rappelé qu'elle était détentrice d'un bachelor en psychologie et d'un master en criminologie et sécurité; elle était par ailleurs responsable du Service d'expertises I._ auquel les tribunaux civils pouvaient s'adresser pour l'établissement d'expertises dans le domaine de la protection de l'enfant et de l'adulte. Le rapport d'expertise avait par ailleurs été co-signé par une co-experte, titulaire d'un master en psychologie clinique et co-responsable du Service d'expertises. La Présidente de l'Autorité de recours a enfin souligné que le recourant n'avait pas contesté l'ordonnance désignant les expertes, laquelle faisait pourtant état de leurs titres universitaires.
Le recourant ne remet nullement en cause cette motivation, se limitant à affirmer qu'en tant que criminologue, l'intéressée ne pouvait se prévaloir d'aucune compétence dans le champ de la crédibilité de la parole de l'enfant et dans celui de l'aliénation parentale. Inconsistante, cette critique est irrecevable (consid. 2.1 supra).
4.2.2. L'essentiel de l'argumentation du recourant se concentre en réalité sur la méthode utilisée par l'experte. A ce dernier égard, la décision attaquée retient que les expertes se sont livrées à des investigations sérieuses et méthodiques (intégralité du dossier de l'AEPA et de la justice de paix à disposition; entretiens avec la mère, avec la mère et l'enfant ainsi qu'avec l'entourage familial ou encore le responsable de l'OPE; entretiens téléphoniques avec notamment: le milieu scolaire, les différents médecins et psychologues suivant l'enfant et la mère, l'employeur de celle-ci ou encore les responsables des visites médiatisées entre l'enfant et son père). Le recourant avait quant à lui refusé de rencontrer les expertes, acceptant néanmoins de leur communiquer des informations par téléphone et échanges WhatsApp. Aucun indice ne permettait enfin de douter de l'objectivité des expertes et de remettre en cause leurs conclusions.
4.2.2.1. Les critiques du recourant s'attachent d'abord à la méthode de travail de D._, lui reprochant non seulement de ne pas avoir appel à une analyse " qualitative ", " quantitative ", " holiste " et " triangulaire ", mais de s'être également écartée du modèle " biopsychosocial ", pourtant incontournable dans toute approche médicale et psychiatrique. Pour autant que compréhensibles, ces critiques sont formulées abstraitement et ne permettent aucunement de retenir un défaut d'ordre méthodologique à l'endroit de l'experte concernée.
4.2.2.2. Le recourant soutient ensuite que le rapport aurait pour unique but de le discréditer "à fin de justification des décisions absurdes et délétères provoqués par l'incompétence ou l'abus d'une position dominante par les intervenants ". Dit rapport serait de surcroît profondément subjectif, partial et truffé " d'erreurs, d'inexactitudes, d'anomalies, d'accusations gratuites ". Ces reproches sont encore une fois essentiellement d'ordre général; à supposer que l'on puisse en voir une illustration dans le renvoi du recourant à différents évènements relatés dans le rapport d'expertise (à savoir: publication du bulletin scolaire de sa fille sur Facebook; intervention dans le cadre scolaire; coups soi-disant portés à la mère; prétendue appréciation sur le physique de sa fille), dite référence consiste toutefois en une simple opposition de sa propre appréciation desdits faits, critique insuffisante à démontrer le défaut allégué. L'on rappellera au demeurant au recourant, qui répète à l'envi n'avoir jamais rencontré les expertes, qu'il a lui-même refusé un entretien en leur présence, préférant communiquer avec elle par téléphone ou messagerie.
4.3. Enfin, dans une critique invoquée sous l'angle de l'arbitraire dans la constatation des faits, mais qu'il convient manifestement de traiter sous l'angle de la valeur probante de l'expertise, le recourant se plaint de ce que les expertes n'auraient pas entendu certaines personnes/autorités, à savoir essentiellement son psychiatre ainsi que différents intervenants vaudois (inspecteurs de la Brigade des mineurs du canton de Vaud, responsable du service psychiatrique des enfants à Yverdon ainsi que le SPJ vaudois). S'agissant du psychiatre, l'arrêt attaqué relève qu'il n'a pas été délié de son secret professionnel; la critique du recourant est donc vaine (cf. également infra consid. 5.2). Selon la décision entreprise, les professionnels que le recourant souhaitait voir entendus et qu'il estimait être en mesure d'attester de la négligence de la mère, à savoir le Dr F._, ancien pédiatre de l'enfant, le Dr G._, pédopsychiatre en charge des visites médiatisées entre C._ et son père, ainsi que H._, directeur de l'école fréquentée par l'enfant, ont tous été contactés par les expertes et entendus, à l'exception du premier cité qui a refusé de s'exprimer. En revanche, il ne ressort pas de l'arrêt cantonal que le recourant aurait sollicité que soient entendus les autres intervenants dont il déplore aujourd'hui le défaut d'audition. En l'absence de toute invocation de la violation de son droit d'être entendu sur ce point, il n'y a donc pas lieu d'entrer en matière sur cette critique qui apparaît dès lors tardive.
5.
Le recourant se plaint ensuite d'arbitraire dans la constatation des faits.
5.1. Il prétend d'abord que la Présidente de l'Autorité de recours aurait arbitrairement omis de mentionner les décisions vaudoises postérieures au 16 juin 2016 (i.e. date de la décision prononçant la suspension du droit de visite; let. B.a supra), à savoir deux décisions du Tribunal cantonal du canton de Vaud des 27 juillet et 4 août 2016 ainsi qu'un arrêt du Tribunal fédéral 5A_573/2016 du 9 août 2016 rejetant le recours de la mère. Une critique du même ordre est également soulevée dans le contexte de la contestation de l'expertise, le même reproche étant adressé aux expertes. Selon le recourant, ces différentes décisions, qui s'accordaient toutes sur l'octroi d'un droit de visite en sa faveur, auraient provoqué le déménagement de la mère en Valais, laquelle souhaitait ainsi se soustraire aux autorités.
Cette affirmation relève de la supposition; aucun élément de fait ne permet de déterminer les circonstances ayant amené la mère à déménager en Valais. Concernant l'arrêt du Tribunal fédéral auquel le recourant fait référence, il s'agit de souligner que cette décision ne se prononçait aucunement sur le fond du litige relatif aux relations personnelles entre le recourant et sa fille mais portait sur la restitution de l'effet suspensif au recours formé par le recourant contre la suspension provisionnelle de son droit de visite. Il n'est donc pas déterminant pour la résolution de la présente affaire et le bien-fondé du droit de visite auquel prétend le recourant.
5.2. Le recourant reproche également à l'autorité cantonale de recours d'avoir retenu toute une série d'éléments " fallacieux " à son encontre, ce de manière arbitraire et choquante.
Refusant d'endosser la responsabilité des difficultés liées à l'exercice du droit de visite, il se réfère à deux évènements (en 2016 et 2020) où l'impossibilité de l'exercer ressortait à son sens exclusivement au comportement de la mère, pourtant arbitrairement omis par la cour cantonale. Il occulte toutefois, sans ainsi les contester, les entraves qui lui ont également été reprochées à cet égard, étant néanmoins précisé que cette problématique n'apparaît de toute manière pas ici décisive.
L'on ne saisit ensuite nullement en quoi la décharge qu'il aurait accordée à l'une des expertes aurait pu relever son psychiatre de son secret professionnel et permettre son audition (consid. 4.3 supra).
Quant au fait que le recourant aurait publié sur Facebook non pas un extrait de jugement, mais plutôt de courriel échangé avec l'APEA, il n'est pas déterminant: tout au plus peut-on y voir la confirmation que le recourant se sert effectivement de ce réseau social pour publier des informations au sujet d'une procédure judiciaire qui concerne également sa fille mineure.
Enfin, la référence à un simple extrait d'une expertise antérieure, établie dans le cadre de la procédure vaudoise, ainsi qu'à des photographies de lui-même et sa fille, ne permet pas non plus au recourant de démontrer qu'il aurait été arbitraire de retenir qu'il n'offrait pas de sécurité à son enfant, appréciation formulée par les différents intervenants et reprise par la décision entreprise.
6.
Le recourant soulève la violation des art. 273 et 274 CC.
6.1. Selon l'<ref-law>, le père ou la mère qui ne détient pas l'autorité parentale ou la garde ainsi que l'enfant mineur ont réciproquement le droit d'entretenir les relations personnelles indiquées par les circonstances. Le droit aux relations personnelles est considéré comme un droit de la personnalité de l'enfant qui doit servir en premier lieu l'intérêt de celui-ci (<ref-ruling> consid. 5; <ref-ruling> consid. 4a; <ref-ruling> consid. 3b); dans chaque cas, la décision doit donc être prise de manière à répondre le mieux possible à ses besoins (<ref-ruling> consid. 3; <ref-ruling> consid. 4a et 317 consid. 2), l'intérêt des parents étant relégué à l'arrière-plan (<ref-ruling> consid. 2.2.1 et les références). Si les relations personnelles compromettent le développement de l'enfant, le droit d'entretenir ces relations peut néanmoins être retiré ou refusé en tant qu' ultima ratio (<ref-law>; cf. arrêts 5A_647/2020 du 16 février 2021 consid. 2.5.1; 5A_111/2019 du 9 juillet 2019 consid. 2.3; 5A_875/2017 du 6 novembre 2018 consid. 3.3 publié in: FamPra.ch 2019 p. 254; 5A_528/2015 du 21 janvier 2016 consid. 5.1).
La volonté de l'enfant constitue l'un des éléments à prendre en considération pour la fixation du droit de visite (arrêts 5A_647/2020 précité ibid.; 5A_111/2019 précité ibid. et les références), même si la réglementation de celui-ci ne saurait dépendre uniquement de ce seul critère, en particulier lorsque le comportement défensif de celui-ci est principalement influencé par le parent gardien (ATF <ref-ruling> consid. 4a; arrêts 5A_111/2019 précité ibid.; 5A_522/2017 du 22 novembre 2017 consid. 4.6.3). L'âge de l'enfant, sa capacité à se forger une volonté autonome, ce qui est en règle générale le cas aux alentours de 12 ans révolus, ainsi que la constance de son avis, sont des éléments centraux pour apprécier le poids qu'il convient de donner à son avis (parmi plusieurs: arrêts 5A_111/2019 précité ibid.; 5A_875/2017 du 6 novembre 2018 consid. 3.3 publié in: FamPra.ch 2019 p. 243; 5A_459/2015 du 13 août 2015 consid. 6.2.2).
Lorsque l'enfant adopte une attitude défensive envers le parent qui n'en a pas la garde, il faut, dans chaque cas particulier, déterminer les motivations qu'a l'enfant et si l'exercice du droit de visite risque réellement de porter atteinte à son intérêt. Il est en effet unanimement reconnu que le rapport de l'enfant avec ses deux parents est essentiel et peut jouer un rôle décisif dans le processus de sa recherche d'identité (<ref-ruling> consid. 2.2.2; <ref-ruling> consid. 4a et les références; arrêt 5A_745/2015 du 15 juin 2016 consid. 3.2.2.2). Il demeure toutefois que, si un enfant capable de discernement refuse de manière catégorique et répétée, sur le vu de ses propres expériences (<ref-ruling> consid. 2b [in casu : violences]), d'avoir des contacts avec l'un de ses parents, il faut les refuser en raison du bien de l'enfant; en effet, face à une forte opposition, un contact forcé est incompatible avec le but des relations personnelles ainsi qu'avec les droits de la personnalité de l'enfant (parmi plusieurs: arrêts 5A_647/2020 précité ibid.; 5A_111/2019 précité ibid.; 5A_459/2015 précité ibid.).
6.2. Se fondant sur l'expertise établie le 3 juillet 2014 par le Service de psychiatrie pour enfants et adolescents d'Yverdon, sur les rapports de divers intervenants ayant supervisé le droit de visite du recourant et de sa fille ainsi que sur le rapport d'expertise établi le 16 janvier 2020, la cour cantonale en a conclu que l'exercice du droit de visite entraînait une mise en danger du développement de la jeune fille; celle-ci avait au demeurant fait part de sa volonté claire, répétée et fondée sur ses propres expériences de ne pas avoir de contact avec le recourant. C'était ainsi à juste titre que l'APEA avait décidé de suspendre les relations personnelles entre les deux intéressés.
6.3.
6.3.1. Pour l'essentiel, le recourant se fonde sur des faits qui ne ressortent pas de l'arrêt attaqué, tente ensuite de revenir sans succès sur les conclusions de l'expertise, pour finalement se limiter à opposer sa propre appréciation de la situation. Il se plaint ainsi d'avoir fait l'objet d'une " ségrégation " de la part de " l'institution valaisanne ", affirme que l'enfant ferait l'objet d'une aliénation parentale maternelle évidente, soutient que la " prétendue " experte, de même que les intervenantes auraient été marquées par " une idéologie délétère " et réaffirme le caractère " fallacieux " de l'expertise ainsi que le nombre " incalculable d'anomalies, d'inexactitudes, de mensonges " ressortant de la lecture du jugement entrepris. A l'évidence insuffisantes au regard des exigences de motivation ici applicables (consid. 2.1 supra), il n'y a pas lieu d'entrer en matière sur ces critiques.
6.3.2. L'on ne s'attardera pas enfin sur l'appréciation du conseil du recourant quant à la personnalité de celui-ci, consistant à louer ses qualités tout en se targuant de " bien mieux [le] connaître " que tous les intervenants du dossier, si ce n'est pour souligner qu'elle ne dénote rien d'autre que son défaut manifeste de capacité à garder la distance nécessaire avec l'enjeu de la cause, pourtant garante de son devoir d'indépendance.
7.
Dans le contexte de ses critiques relatives à la suspension des relations personnelles entre lui-même et sa fille, le recourant invoque la violation de l'<ref-law>.
7.1. Le recourant reproche à la Présidente de l'Autorité de recours d'avoir " osé " déclarer irrecevables les explications qu'il avait fournies après avoir pu prendre connaissance du rapport d'expertise le 26 mai 2021; l'écriture qu'il avait adressée ultérieurement par le biais de son conseil avait également été déclarée irrecevable pour cause de tardiveté " a lors même qu['il] n'a[vait] pu prendre connaissance du 'rapport d'expertise' que postérieurement au délai qui a[vait] été fixé à une date antérieure à celle où [il] a pu finalement lire ladite 'expertise ' ".
7.2. L'on croit saisir de cette critique difficilement compréhensible que le recourant entend en réalité se plaindre d'une violation de son droit d'être entendu, critique dont le sort a été scellé auparavant (consid. 3.2.2 supra).
8.
Le recourant se plaint ensuite de la violation des art. 8 Cst. et 14 CEDH. Relevant avoir été uniquement " jugé " par des femmes, toutes connues pour leur position anti-paternelle, il soutient avoir fait l'objet d'une discrimination en raison de son sexe.
Cette critique, qui confine à la témérité, n'apparaît de surcroît pas satisfaire aux principes de la bonne foi et de l'épuisement des griefs (<ref-law>) : son traitement ne ressort pas en effet de l'arrêt entrepris, sans que le recourant se plaigne à cet égard de la violation de son droit d'être entendu; il n'appartient donc pas au Tribunal de céans d'entrer en matière sur ce point (<ref-ruling> consid. 1.1). L'on rappellera également au recourant que la garantie constitutionnelle qu'il invoque s'adresse à l'État et ne produit pas d'effet horizontal direct dans les relations entre personnes privées, objet du présent litige (parmi plusieurs: <ref-ruling> consid. 9.4; <ref-ruling> consid. 5.2).
9.
Dans un dernier grief, le recourant se plaint de l'application arbitraire des art. 30, 34 al. 1 et 35 de la Loi cantonale fixant le tarif des frais et dépens devant les autorités judiciaires ou administratives (LTar; RSVS 173.8), affirmant que la rémunération de son avocat d'office, qu'il estime insuffisante, aurait été fixée de manière arbitraire, choquante et crassement inéquitable.
Le conseil juridique commis d'office accomplit une tâche étatique, qui lui confère une prétention de droit public à être rémunéré équitablement dans le cadre des normes cantonales applicables (cf. <ref-law>; <ref-ruling> consid. 3.2.2 et les références). Lorsque l'indemnité arrêtée en sa faveur serait prétendument insuffisante, lui seul dispose d'un droit de recours, à l'exclusion du bénéficiaire de l'assistance judiciaire (<ref-ruling> consid. 4; arrêt 8C_760/2016 consid. 5). Il s'ensuit que le grief ici soulevé par le recourant est irrecevable, faute de tout intérêt l'appuyant.
10.
L'on soulignera que le recourant invoque également en tête de son écriture sous le titre " recours de droit constitutionnel: arguments " la violation des art. 7, 8, 9 et 29 Cst. ainsi que les art. 6, 8 et 14 CEDH. La violation de l'art. 7 Cst. (dignité humaine), en soi invocable dans le contexte d'un recours en matière civile (cf. <ref-law>), n'est pas développée dans le recours; il n'y a donc pas lieu d'entrer en matière sur ce grief. La violation des art. 8 et 14 CEDH est mentionnée, pour le premier, dans le contexte de la violation des art. 273 s. CC ( supra consid. 6), pour le second dans celui de la violation de l'art. 8 Cst. ( supra consid. 8). Il n'y sera pas revenu. Quant à l'art. 6 CEDH, sa portée se recoupe avec celle de l'art. 29 Cst., dont la violation a également été examinée (consid. 3 supra).
11.
En définitive, le recours est rejeté dans la mesure de sa recevabilité, aux frais de son auteur (<ref-law>), la requête d'assistante judiciaire formée par celui-ci devant en effet être rejetée en tant que ses conclusions étaient d'emblée vouées à l'échec (<ref-law>). Aucune indemnité de dépens n'est allouée à l'intimée qui n'a été invitée à se déterminer ni sur la requête d'effet suspensif, ni sur le fond du litige, et n'est de surcroît pas représentée par un mandataire professionnel.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La requête d'assistance judiciaire du recourant est rejetée.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties, à C._, à l'Autorité de protection de l'enfant et de l'adulte des Coteaux du Soleil (APEA) et à la Présidente de l'Autorité de recours en matière de protection de l'enfant et de l'adulte, Tribunal cantonal du canton du Valais.
Lausanne, le 21 décembre 2021
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : de Poret Bortolaso