Faits :
A.
A.a. Le 27 mars 2017, A._ a été convoqué à son examen de fin d'apprentissage de forestier-bûcheron, composé de travaux pratiques en plein air à réaliser en mai (sylviculture et autres travaux forestiers) et en juin 2017 (récolte de bois), ainsi que d'une épreuve de connaissances professionnelles à effectuer le 22 juin 2017.
Le 22 mai 2017, le formateur de A._ a signalé au chef-expert B._ que son apprenti, qui venait d'exécuter les travaux pratiques prévus ce jour-là, était en arrêt maladie depuis quelques temps. Les 26 mai et 4 juin 2017, le chef-expert a signifié à A._ qu'il ne pourrait venir le 6 juin 2017 aux travaux pratiques "récolte de bois" que s'il présentait une attestation médicale indiquant qu'il était pleinement apte à participer à cet examen. La veille de l'examen, A._ a produit un certificat médical attestant qu'il pouvait "se présenter à son examen pratique sans restriction".
A.b. Le 6 juin 2017, A._ n'a pas terminé l'examen pratique "récolte de bois", qui devait durer 8 heures, en raison de douleurs au dos. L'expert qui a observé sa prestation n'a pas arrêté de note.
A la demande du Service de la formation professionnelle du Département de l'économie et de la formation du canton du Valais (ci-après respectivement: le Service de la formation et le Département), le chef expert a par la suite introduit dans le portail informatique la note de 1.
B.
B.a. Le 3 juillet 2017, le Service de la formation a informé A._ de son échec à l'examen de fin d'apprentissage où il avait été crédité des notes suivantes: travail pratique de récolte de bois: 1; travail pratique de sylviculture et autres travaux forestiers: 4.2; connaissances professionnelles: 4.0; note d'expérience: 4.8; culture générale: 4.5; moyenne: 3.7, chacune des notes de travaux pratiques étant éliminatoire si elle était inférieure à 4.
Le 18 octobre 2017, le Département, saisi d'un recours de A._, a annulé la décision du 3 juillet 2017 et ordonné au Service de la formation d'organiser un nouvel examen "récolte de bois". Il a retenu que A._ reprochait à juste titre au Service de la formation de lui avoir attribué la note de 1, puisque l'expert n'avait pas évalué la prestation.
A._ a recouru contre cette décision auprès du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal), en concluant à l'octroi d'une note d'au moins 4 pour l'épreuve pratique de récolte de bois de juin 2017. Il a formulé différentes réquisitions de preuve (édition du dossier de la cause, dépôt d'une grille d'évaluation "standard" et de la grille d'évaluation de l'épreuve litigieuse, interrogatoire des parties, ainsi qu'audition de quatre témoins). Le 16 novembre 2018, le Tribunal cantonal a rejeté le recours.
B.b. A._ a formé un recours constitutionnel subsidiaire au Tribunal fédéral contre l'arrêt du 16 novembre 2018. Par arrêt du 22 juillet 2019 (2D_1/2019), le Tribunal fédéral a admis le recours dans la mesure où il était recevable, en raison d'une violation du droit d'être entendu. L'arrêt du 16 novembre 2018 ne se prononçait pas sur les réquisitions de preuve valablement formées par le recourant et était par ailleurs insuffisamment motivé quant au fond (consid. 6.2). Le Tribunal fédéral a renvoyé la cause au Tribunal cantonal pour nouvelle décision, dans le respect du droit d'être entendu du recourant.
C.
Reprenant l'instruction de la cause, le Tribunal cantonal a interpellé le Service de la formation, afin qu'il indique quelle évaluation l'examinateur avait porté sur la prestation du recourant lors de l'examen litigieux et joigne toute pièce relative à cette évaluation qui n'aurait pas déjà figuré au dossier. Le Département a répondu qu'il n'y avait pas d'autres documents relatifs à l'évaluation de l'examen pratique de récolte de bois de A._ que ceux figurant au dossier.
Le 5 septembre 2019, A._ a fait savoir au Tribunal cantonal qu'il ne pouvait plus pratiquer la profession de bûcheron, comme l'attestait un certificat médical du 27 août précédent. Il a maintenu ses conclusions, soit principalement l'annulation de la décision attaquée et l'attribution d'une note de 4 à son examen pratique de récolte de bois.
Par arrêt du 28 novembre 2019, le Tribunal cantonal a rejeté le recours.
D.
Contre l'arrêt du 28 novembre 2019, A._ forme un recours constitutionnel subsidiaire au Tribunal fédéral. Il demande, sous suite de frais et dépens, l'annulation de l'arrêt entrepris et, principalement, que l'épreuve pratique "récolte de bois" réalisée le 5 juin 2017 soit notée à 4 et que le CFC de forestier-bûcheron lui soit par conséquent remis. Subsidiairement, il conclut au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants.
Le Tribunal cantonal a renoncé à se déterminer.
A la demande des parties, qui étaient en discussion pour trouver une issue au litige, le Président de la IIe Cour de droit public du Tribunal fédéral a, par ordonnance du 19 février 2020, suspendu la procédure jusqu'à requête de la partie la plus diligente.
Les 23 et 24 août 2021, les parties ont indiqué au Tribunal fédéral que les discussions n'avaient pas abouti à ce jour. Le Département a conclu au rejet du recours. A._, agissant désormais en personne, a déposé des observations et de nouvelles pièces (échange de courriers avec le Département pendant la suspension de la procédure) en maintenant sa conclusion principale.

Considérant en droit :
1.
Les parties ont indiqué au Tribunal fédéral que les discussions entre entre elles n'avaient pas abouti. Le motif de suspension de la procédure ayant disparu, il convient de reprendre la procédure de recours (<ref-law> et 6 PCF [RS 273]).
2.
2.1. Selon l'art. 83 let. t LTF, le recours en matière de droit public n'est pas ouvert à l'encontre des décisions sur le résultat d'examens ou d'autres évaluations des capacités, notamment en matière de scolarité obligatoire, de formation ultérieure ou d'exercice d'une profession.
En l'espèce, le Tribunal fédéral a retenu dans son précédent arrêt relatif au même litige que la cause tombait sous le coup de l'exception de l'art. 83 let. t LTF (arrêt 2D_1/2019 du 22 juillet 2019 consid. 4.1). C'est partant à bon droit que le recourant a formé un recours constitutionnel subsidiaire.
2.2. Conformément à l'<ref-law>, a qualité pour former un recours constitutionnel quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let. a) et a un intérêt juridique à l'annulation ou à la modification de la décision attaquée (let. b). L'intérêt doit en outre être actuel et pratique, comme dans le recours en matière de droit public (arrêt 8D_6/2019 du 4 février 2020 consid. 1.3).
En l'espèce, le recourant a pris part à la procédure devant l'autorité précédente et a un intérêt juridique à l'annulation ou à la modification de la décision attaquée, comme l'a déjà retenu le Tribunal fédéral dans son arrêt 2D_1/2019 du 22 juillet 2019 (consid. 4.2). La question de l'intérêt actuel peut en revanche se poser. En effet, il résulte de l'arrêt entrepris que, d'après un certificat médical d'août 2019, le recourant ne peut plus pratiquer la profession de bûcheron. A l'instar du Tribunal cantonal, on peut admettre que le recourant conserve un intérêt actuel à son recours, dans la mesure où l'octroi de la note de 4 à l'examen de récolte de bois lui permettrait d'obtenir son CFC et de pouvoir ainsi mieux faire valoir ses années d'apprentissage sur le marché du travail. Le recourant a donc la qualité pour recourir.
2.3. Pour le surplus, le recours a été déposé en temps utile compte tenu des féries (art. 46 al. 1 let. c et 100 LTF, cum <ref-law>) et dans les formes prescrites par la loi (<ref-law> cum <ref-law>). Dirigé contre une décision finale, dans la mesure où le recourant s'en prend au refus de lui octroyer la note de 4 et, partant, son CFC, et où il n'est plus en mesure de repasser l'examen (art. 90 cum 117 LTF), rendue par un tribunal supérieur statuant en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 en relation avec l'<ref-law>), il est en principe recevable et il convient d'entrer en matière.
3.
Le recours constitutionnel subsidiaire ne peut être formé que pour violation des droits constitutionnels (<ref-law>). En vertu de l'<ref-law>, applicable par renvoi de l'<ref-law>, les griefs y relatifs doivent être invoqués et motivés de façon détaillée en précisant en quoi consiste la violation, sous peine d'irrecevabilité (<ref-ruling> consid. 3).
4.
4.1. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il peut rectifier ou compléter les constatations de l'autorité précédente si les faits ont été établis en violation d'un droit constitutionnel (art. 116 et 118 al. 2 LTF), ce que la partie recourante doit également démontrer d'une manière circonstanciée et précise, conformément aux exigences de motivation posées à l'<ref-law> (cf. <ref-ruling> consid. 3.2). Aucun fait nouveau ni preuve nouvelle ne peut en principe être présenté devant le Tribunal fédéral (<ref-law> par renvoi de l'<ref-law>).
4.2. En l'espèce, le Tribunal fédéral ne peut pas tenir compte des courriers postérieurs à l'arrêt entrepris dans lesquels le Département indique notamment, en contradiction avec ses explications au Tribunal cantonal (cf. infra consid. 5.3.2), qu'une grille d'évaluation de la prestation du recourant existe. Les faits et moyens de preuve découverts après coup ne peuvent en effet pas être invoqués devant le Tribunal fédéral, mais peuvent, éventuellement donner lieu à révision ou reconsidération (cf. <ref-ruling> consid. 5.2 in fine).
Par ailleurs, il n'y a pas lieu de tenir compte de l'exposé des faits figurant dans le mémoire en tant qu'il s'écarte de l'arrêt entrepris, car le recourant se contente de présenter librement sa propre version des événements, sans alléguer ni démontrer que les faits retenus dans l'arrêt attaqué auraient été établis en violation d'un droit constitutionnel.
Le Tribunal fédéral statuera donc exclusivement sur la base des faits établis dans l'arrêt entrepris.
5.
Invoquant l'art. 29 al. 2 Cst. et l'interdiction de l'arbitraire (art. 9 Cst.), le recourant dénonce une violation de son droit d'être entendu (art. 29 al. 2 Cst.) sous l'angle du droit à l'administration des preuves.
5.1. Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. comprend notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, d'avoir accès au dossier, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 4.1; <ref-ruling> consid. 4.1.1; <ref-ruling> consid. 6.3.1 et les arrêts cités).
L'autorité peut cependant renoncer à procéder à des mesures d'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 4.1; <ref-ruling> consid. 6.3.1 et les arrêts cités). Le refus d'une mesure probatoire par appréciation anticipée des preuves ne peut être remis en cause devant le Tribunal fédéral qu'en invoquant l'arbitraire (art. 9 Cst.) de manière claire et détaillée (art. 106 al. 2 et 117 LTF; cf. arrêt 2C_974/2018 du 4 décembre 2018 consid. 3.1 et les références citées).
5.2. Il y a arbitraire (art. 9 Cst.) dans l'établissement des faits ou l'appréciation des preuves si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (cf. <ref-ruling> consid. 1.3.1; <ref-ruling> consid. 3.6.2).
5.3. Le recourant fait tout d'abord valoir que le Tribunal cantonal n'a pas satisfait sa demande tendant à ce que le Département produise le dossier complet de la cause (procès-verbaux, documents personnels, grilles d'évaluation, commentaires des experts).
5.3.1. Le Tribunal cantonal a relevé que le Département avait déposé son dossier le 19 janvier 2018. Une grille d'évaluation vierge relative à l'examen pratique de récolte de bois figurait dans les pièces. Le Tribunal cantonal a ajouté qu'il avait enjoint au Département, à la suite de l'arrêt du Tribunal fédéral, de produire tout document relatif à l'évaluation du recourant lors de son examen pratique qui n'aurait pas déjà figuré au dossier. D'après l'arrêt attaqué, le Département avait répondu qu'il ne possédait pas d'autres pièces que celles au dossier, car l'examinateur ne s'était pas prononcé sur le travail réalisé jusqu'à ce que le recourant quitte l'examen. Sur le vu de ces explications, le Tribunal cantonal a considéré que toutes les pièces en mains du Département avaient été produites.
5.3.2. Il résulte de ce qui précède que le Tribunal cantonal a expressément requis, à la suite de l'arrêt de renvoi du Tribunal fédéral, que le Département produise tous les documents en sa possession en lien avec la prestation du recourant. Contrairement à ce que prétend le recourant, le Tribunal cantonal n'avait pas de motif de douter de la réponse du Département selon laquelle il ne possédait pas d'évaluation écrite effectuée le jour de l'examen. Depuis le début de la procédure, il a en effet été relevé que les experts n'avaient pas évalué et noté la prestation fournie par le recourant. C'est du reste cette absence d'évaluation le jour de l'examen qui a conduit le Département à annuler la note de 1 qui avait été fixée a posteriori par le Service de la formation et à ordonner la répétition de l'épreuve. Le recourant souligne d'ailleurs lui-même que sa prestation n'avait pas été évaluée et qu'une fiche d'évaluation en bonne et due forme n'avait pas été établie.
Partant, on ne voit pas que le Tribunal cantonal ait violé le droit d'être entendu du recourant en considérant qu'il avait été donné suite à sa requête tendant à la production du dossier complet de la cause. Le fait que ce dossier ait été dès l'origine incomplet en ce sens qu'il ne contenait pas d'évaluation de la prestation du recourant effectuée le jour de l'examen relève du litige à fond, qui porte sur les conséquences de cette absence.
5.4. Le recourant reproche ensuite au Tribunal cantonal de ne pas l'avoir interrogé et de ne pas avoir entendu l'expert ainsi que les quatre témoins dont l'audition avait été requise, à savoir la cheffe du pôle du Service de la formation, le chef-expert, le second expert du travail pratique de récolte de bois et son médecin.
5.4.1. Le Tribunal cantonal a estimé qu'il pouvait se dispenser de procéder aux auditions demandées. Il a relevé qu'il ne voyait pas quels éléments déterminants et inédits pour l'issue du litige des interrogatoires permettraient de recueillir au vu des éléments écrits figurant au dossier. Il a ajouté que les faits pertinents pour l'issue du litige étaient établis, sans qu'il ne soit nécessaire de procéder à des auditions.
5.4.2. Pour sa part, le recourant affirme que les auditions requises auraient permis d'établir de manière définitive "la réalité des faits". Il n'explique toutefois pas ce que sa propre audition aurait apporté de plus par rapport à ses déclarations écrites, étant relevé que le droit d'être entendu ne comprend en principe pas le droit d'être entendu oralement (<ref-ruling> consid. 9.6.1). Il n'explique pas non plus la pertinence de l'audition de son médecin. Le refus du Tribunal cantonal de procéder à ces auditions par appréciation anticipée n'apparaît ainsi pas insoutenable.
S'agissant des autres demandes d'audition, on peut a priori considérer que l'audition à tout le moins des personnes présentes le jour de l'examen aurait été utile dans la mesure où le dossier ne contenait pas de déclarations écrites de leur part. Cela étant, il faut relever que le Tribunal cantonal a retenu que "les remarques ultérieures des examinateurs ne pouvaient pas être prises en considération attendu qu'elles n'étaient pas étayées par des pièces au dossier". Il a en outre expressément écarté les appréciations négatives portées par après sur la prestation du recourant, ainsi que l'évaluation estimant à 3 la note du recourant. Le Tribunal cantonal a ainsi nié la valeur probante des déclarations postérieures à l'examen, au motif qu'elles ne pouvaient pas être corroborées par des pièces. Cette appréciation des preuves n'est pas remise en question par le recourant. Celui-ci ne prétend notamment pas qu'il aurait été possible de se fier aux explications qui auraient été données devant le Tribunal cantonal. Dès lors que le Tribunal cantonal a écarté tous les avis évaluant a posteriori la prestation du recourant, il pouvait sans tomber dans l'arbitraire renoncer à procéder aux auditions qui avaient pour objet cette évaluation.
Le Tribunal cantonal ayant renoncé sans arbitraire à procéder aux mesures d'instruction sollicitées, il n'a pas méconnu le droit d'être entendu du recourant. Le grief est rejeté.
6.
Le recourant se plaint d'arbitraire (art. 9 Cst.). A son avis, il serait arbitraire de lui faire supporter le défaut de preuve de réussite à l'examen de récolte de bois si un doute subsistait au terme de l'administration des preuves quant à l'évaluation de sa prestation. En tout état, il était arbitraire de retenir que son travail ne méritait pas la note de 4.
6.1. Une décision est arbitraire (art. 9 Cst.) lorsqu'elle contredit clairement la situation de fait, qu'elle viole gravement une norme ou un principe juridique clair et indiscuté ou qu'elle heurte d'une manière choquante le sentiment de la justice et de l'équité. Il n'y a pas arbitraire du seul fait qu'une solution autre que celle de l'autorité cantonale semble concevable, voire préférable. Pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que sa motivation soit insoutenable; il faut encore que cette décision soit arbitraire dans son résultat (<ref-ruling> consid. 5.8 et les arrêts cités).
6.2. L'Ordonnance du Secrétariat d'Etat à la formation, à la recherche et à l'innovation (SEFRI) sur la formation professionnelle initiale de forestière-bûcheronne/forestier-bûcheron avec certificat fédéral de capacité (CFC) du 1er décembre 2006 (RO 2006 5687; RS 412.101.220.36; ci-après: l'ordonnance; applicable en l'espèce en vertu de l'art. 27 al. 1 de l'ordonnance du même nom du 12 juin 2019 entrée en vigueur le 1er janvier 2020) régit l'apprentissage de forestier bûcheron. La récolte de bois est une des compétences professionnelles qui doit être acquise (art. 4 let. a et 19 al. 1 de l'ordonnance).
L'examen final comprend quatre épreuves, dont un travail pratique de récolte de bois (art. 19 al. 1 et 2 de l'ordonnance). Celui-ci dure 8 heures. La personne en formation doit montrer qu'elle est à même d'exécuter le travail demandé en fonction des besoins et de la situation et de façon techniquement correcte (art. 19 al. 2 let. a de l'ordonnance). L'art. 20 al. 1 let. a de l'ordonnance fait dépendre la réussite de l'examen de fin d'apprentissage d'une note supérieure ou égale à 4 à l'examen de récolte du bois.
La personne qui a réussi la procédure de qualification reçoit le certificat fédéral de capacité, qui l'autorise à porter le titre légalement protégé de "forestière-bûcheronne CFC/forestier-bûcheron CFC" (art. 23 de l'ordonnance).
6.3. En matière d'examen, lorsqu'un résultat est invalidé à cause d'un vice formel, le candidat est en principe autorisé à repasser l'épreuve en question (cf. par exemple arrêts 2C_769/2019 du 27 juillet 2020 consid. 8 non publié in <ref-ruling> [droit d'utiliser un dictionnaire pendant un examen]; 2D_15/2015 du 23 mai 2015 [absence de corrigés et de procès-verbaux d'examens oraux]). En raison de l'intérêt public à s'assurer que seuls les candidats ayant atteint les exigences fixées obtiennent leur diplôme, l'existence avérée d'un vice formel ne peut mener qu'à la répétition de l'épreuve. Un résultat d'examen valide et suffisant est en effet indispensable (cf. la jurisprudence du Tribunal administratif fédéral sur ce point: ATAF 2010/21 consid. 8.1; arrêts B-5896/2019 du 29 mai 2020 consid. 5.1; B-6407/2018 du 2 septembre 2019 consid. 5.1 et les nombreux arrêts cités; cf. aussi la jurisprudence de l'ancienne Commission fédérale de recours EVD: VPB 64.106 du 7 septembre 1999 consid. 6.6.2 et VPB 61.31 du 5 décembre 1996 consid. 8.1).
6.4. En l'espèce, il ressort de l'arrêt attaqué que le recourant a, le 6 juin 2017, arrêté son examen de récolte du bois en raison de douleurs au dos. L'expert n'a pas noté la prestation, car le recourant est parti avant d'avoir effectué les 8 heures d'examen.
Par après, la note de 1 a été attribuée au recourant par le Service de la formation. Le Département a annulé cette décision, ce qui implique que la présence pendant toute la durée de l'examen prévue par l'ordonnance n'a pas été considérée comme un critère nécessaire pour obtenir une note suffisante. Toutefois, comme la prestation n'avait pas été évaluée, c'est la solution d'une répétition de l'examen qui a été choisie et confirmée par le Tribunal cantonal.
6.5. En l'absence d'évaluation effectuée le jour de l'examen, la prestation du recourant ne peut pas être considérée d'office comme insuffisante, ce qu'il est le premier à soutenir. On ne voit toutefois pas non plus que l'on puisse retenir que l'examen a été réussi dans ces conditions, quoi qu'en pense le recourant. Certes, l'absence d'évaluation ne lui est pas imputable - même si l'on peut tout de même s'étonner de ce que, d'après l'arrêt entrepris, il ait quitté l'examen sans s'enquérir auprès des experts des conséquences. Il est toutefois nécessaire de vérifier que les personnes admises à porter le titre protégé de forestier-bûcheron en remplissent les conditions. La récolte de bois est une des compétences professionnelles de ce métier. L'épreuve dans ce domaine est éliminatoire (cf. supra consid. 6.2), ce qui montre l'importance de la matière. On ne saurait partant faire fi d'une évaluation correctement effectuée. Sur le vu de ces considérations, c'est de manière soutenable que le Tribunal cantonal a confirmé la solution de la répétition de l'examen.
6.6. Le Tribunal cantonal a encore examiné si les circonstances permettaient de présumer que le recourant aurait sans doute obtenu une note lui permettant de réussir ladite épreuve s'il avait été évalué. A cet égard, il a retenu que le recourant avait participé à l'épreuve de découpe du bois environ 4 heures et 45 minutes (de 7h30 à 12h et de 13h15 à 13h30), alors que cette épreuve est prévue sur une durée totale de 8 heures. Relevant qu'il n'y avait pas d'autre élément permettant de présumer que le travail réalisé méritait une note égale ou supérieure à la moyenne, il a estimé qu'il n'y avait pas lieu d'octroyer la note de 4 au recourant.
6.7. Le recourant prétend pour sa part qu'il méritait la note de 4, car il aurait effectué non pas 4h45 mais 6h d'examen. Sur ce point, il se contente d'opposer sa version des faits à celle retenue dans l'arrêt entrepris, ce qui n'est pas admissible (cf. supra consid. 4.1). Quoi qu'il en soit, cet élément ne permettrait pas d'inférer que la prestation était manifestement suffisante. Rester pendant les 8 heures n'était certes pas une condition de réussite, mais effectuer 60% ou même 80% du temps de l'épreuve ne signifie pas déjà que la prestation était suffisante.
Le recourant prétend aussi que son parcours scolaire démontrerait qu'il n'aurait pas dû rencontrer de difficultés à obtenir son CFC. On ne saurait suivre un tel raisonnement, sauf à vider de leur sens les épreuves finales d'un cursus. Les bons résultats à des examens théoriques ne préjugent en outre en rien des résultats à des examens pratiques.
Le recourant souffre actuellement de problèmes de dos. En juin 2017, il avait toutefois fourni un certificat médical assurant qu'il pouvait se présenter à son examen pratique sans restriction et il n'avait pas sollicité d'aménagement spécifique. Il n'y a donc pas de circonstances particulières de ce point de vue. Par ailleurs, une note suffisante ne peut pas être octroyée du fait d'ennuis de santé postérieurs. Comme l'a relevé le Tribunal cantonal, ces problèmes peuvent seulement justifier des aménagements adéquats en cas de répétition de l'examen.
En définitive, sur le vu de l'ensemble des éléments, le Tribunal cantonal n'est pas tombé dans l'arbitraire en considérant que la note de 4 ne pouvait pas être attribuée au recourant.
7.
Les considérants qui précèdent conduisent au rejet du recours. Succombant, le recourant doit supporter les frais judiciaires (<ref-law>). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au recourant, au Département de l'économie et de la formation (DEF) du canton du Valais, au Tribunal cantonal du canton du Valais, Cour de droit public, et au Secrétariat d'Etat à la formation, à la recherche et à l'innovation SEFRI.
Lausanne, le 7 février 2022
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
La Présidente : F. Aubry Girardin
La Greffière : E. Kleber