Faits :
A.
A.a. A._, né en 1964, a travaillé dès 1992 comme gardien intérimaire auprès de l'Établissement pénitentiaire B._. En 1994, le Conseil d'État du canton du Valais (ci-après: le Conseil d'État) l'a nommé gardien I à plein temps auprès de l'Établissement pénitentiaire B._. Dès 2009, l'intéressé a accompli des services de nuit. Jusqu'en 2015, un seul veilleur de nuit était présent sur le site de l'Établissement pénitentiaire B._. En 2016, le centre de détention administrative lié aux mesures de contraintes (ci-après: centre LMC) a été intégré à l'Établissement pénitentiaire B._. Depuis lors, le service de nuit - qui se déroule entre 19 heures et 8 heures - est assuré par deux agents. A._ a été déclaré apte au travail de nuit, la dernière fois et pour une durée de deux ans le 23 novembre 2017.
A.b. Dans la nuit du 10 au 11 octobre 2018, C._, alors responsable de l'Établissement pénitentiaire B._, a contrôlé le service qu'assuraient les agents A._ et D._. Il était accompagné de trois chefs de secteur. Dans un rapport du 19 octobre 2018 transmis au chef du Service de l'application des peines et mesures (SAPEM), il a consigné le contexte, le déroulement et les résultats du contrôle. Il ressort en substance de ce rapport qu'en été 2018, les principes et les exigences de surveillance d'un établissement pénitentiaire avaient été rappelés à six veilleurs de nuit, parmi lesquels A._ et D._, ensuite de lacunes constatées lors de contrôles. En raison de soupçons de manquements graves de ce binôme, un nouveau contrôle avait été agendé les 10 et 11 octobre 2018. A cette occasion, C._ et les trois chefs de secteur avaient observé, dès 23 heures 30 et depuis l'extérieur des bâtiments de l'Établissement pénitentiaire B._, les deux agents effectuant leurs rondes. En s'approchant plus près du bâtiment des gardiens, ils avaient constaté que le binôme ne communiquait quasiment pas. Une lumière s'était allumée à l'étage avant de s'éteindre, puis D._ s'était trouvé seul à la centrale. Peu avant 1 heure, ce dernier avait été interpellé alors qu'il effectuait sa ronde à l'extérieur, et son téléphone avait été saisi. Constatant que A._ ne se manifestait pas, C._ et le chef de secteur E._ étaient entrés dans le bâtiment des gardiens vers 1 heure 35. A la centrale située au rez-de-chaussée, ils avaient constaté que le rapport de nuit avait été à l'avance complètement rempli et signé par les deux agents, et que D._ avait déjà inscrit les rondes à venir sur un autre rapport en mentionnant "RAS" (rien à signaler). Ne trouvant pas A._ dans les pièces du rez-de-chaussée, C._ et E._ l'avaient cherché à l'étage. Constatant que la porte de la salle de conférence était verrouillée de l'intérieur, C._ avait frappé à la porte et demandé qu'on lui ouvre. A._ avait ouvert la porte. Il était dans le noir et avait l'air endormi; il avait visiblement été réveillé. Une chaise-longue munie de deux couvertures et d'un oreiller se trouvait dans un coin de la pièce. Après une discussion entre l'ensemble des protagonistes, A._ et D._ avaient été invités à quitter les lieux. Après leur départ, la chaise-longue utilisée par A._ avait été trouvée rangée à l'arrière d'une armoire dont le panneau arrière avait été percé.
A.c. Invités par le responsable de l'Établissement pénitentiaire B._ à retracer les événements de la nuit en question et à se prononcer sur le fonctionnement général des services de nuit, A._ et D._ se sont déterminés dans des rapports datés du 12 octobre 2018. A._ a pour l'essentiel expliqué avoir pris son service le 10 octobre 2018 fatigué, au motif qu'il n'avait pas trouvé le sommeil après avoir appris le matin même que son neveu avait été victime d'un grave accident de la circulation. Ensuite de sa ronde intermédiaire de 0 heure 15, il s'était installé sur sa chaise dans la salle des gardiens et s'était assoupi. Il avait signé le rapport de nuit déjà rempli par son collègue D._, expliquant que celui-ci procédait ainsi car étant de langue maternelle allemande, il prenait du temps pour rédiger en français. Lui-même complétait toutefois toujours les rapports en fin de service. Le fait pour un gardien de prendre des pauses ou du repos dans la salle des gardiens pendant qu'un collègue remplissait les tâches du service était connu de la hiérarchie, quand bien même celle-ci avait mentionné oralement lors d'une séance l'importance d'être dans le local de garde, derrière les écrans de contrôle, en particulier durant les rondes. Il était illusoire, dans le système en vigueur et au vu de la durée du service, d'assurer un contrôle permanent tel que demandé par la hiérarchie.
A._ a été en incapacité de travail pour cause de maladie à compter du 16 octobre 2018.
A.d. Le 25 octobre 2018, le chef du SAPEM a informé A._ qu'il était envisagé de résilier ses rapports de service avec effet immédiat, au vu des événements de la nuit du 10 au 11 octobre 2018. Par détermination du 7 novembre 2018, l'employé s'est opposé à la mesure envisagée et a produit un rapport médical faisant état de troubles physiques liés à son travail présents depuis plus d'une année.
A.e. Par décision du 13 novembre 2018, le chef du Département de la sécurité, des institutions et du sport (DSIS) a résilié les rapports de service de A._ avec effet immédiat, au motif d'une grave violation des devoirs inhérents à sa mission. Il lui était reproché d'avoir dormi pendant son service, ce qui était totalement incompatible avec sa mission de surveillance de l'établissement pénitentiaire. La présence de la chaise et d'un trou dans le mur pour la dissimuler montrait qu'il ne s'agissait pas d'un épisode isolé que pouvait expliquer l'accident de son neveu. En outre, il n'était pas acceptable qu'il ait tu ses problèmes médicaux à son employeur ainsi qu'au praticien qui l'avait déclaré apte au travail de nuit. Le fait de remplir à l'avance des rapports de nuit était également inadmissible.
Le DSIS a également résilié les rapports de service de D._.
A.f. Par décision du 16 octobre 2019, le Conseil d'État a rejeté le recours formé par A._ contre la décision du 13 novembre 2018. Il a également retenu que l'employé avait gravement violé ses devoirs de loyauté et de fidélité et que les conditions d'une résiliation immédiate étaient réunies.
B.
Saisie d'un recours contre la décision du 16 octobre 2019, la Cour de droit public du Tribunal cantonal du canton du Valais l'a rejeté par arrêt du 10 décembre 2020.
C.
A._ interjette un recours en matière de droit public contre cet arrêt, en concluant à sa réforme dans le sens de l'annulation des décisions des 16 octobre 2019 et 13 novembre 2018. A titre subsidiaire, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à la juridiction cantonale pour nouvelle décision dans le sens des considérants.
L'intimé conclut au rejet du recours. La cour cantonale a renoncé à se déterminer et le recourant a répliqué.

Considérant en droit :
1.
L'arrêt entrepris concerne des rapports de travail de droit public au sens des art. 83 let. g et 85 al. 1 let. b LTF. Il tranche une contestation pécuniaire (cf. art. 83 let. g LTF) et la valeur litigieuse dépasse le seuil de 15'000 fr. (art. 51 al. 1 let. a et 85 al. 1 let. b LTF). Pour le reste, le recours est dirigé contre un arrêt final (art. 90 LTF) rendu en matière de droit public (art. 82 ss LTF) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé en temps utile (art. 100 al. 1 LTF) et dans les formes prescrites par la loi (art. 42 LTF). Il est donc recevable.
2.
2.1. Le Tribunal fédéral, qui est un juge du droit, conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente, il doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF); à défaut, un état de fait divergent de celui de la décision attaquée ne peut pas être pris en compte (<ref-ruling> consid. 2 précité; <ref-ruling> consid. 5.2.2).
Le Tribunal fédéral n'entre pas en matière sur des critiques appellatoires portant sur l'appréciation des preuves ou l'établissement des faits par l'autorité précédente (<ref-ruling> consid. 2; <ref-ruling> consid. 2.3). L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens et la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des conclusions insoutenables (ATF <ref-ruling> consid. 2.3 précité et les références).
2.2. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Toutefois, il n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal et intercantonal que si ce grief a été invoqué et motivé par le recourant (art. 106 al. 2 LTF). Sauf exceptions non pertinentes en l'espèce (cf. art. 95 let. c, d et e LTF), on ne peut pas invoquer la violation du droit cantonal ou communal en tant que tel devant le Tribunal fédéral (art. 95 LTF a contrario). En revanche, il est toujours possible de faire valoir que sa mauvaise application constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (<ref-ruling> consid. 2.1; <ref-ruling> consid. 2). Appelé à revoir l'application ou l'interprétation d'une norme cantonale ou communale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motif objectif et en violation d'un droit certain (<ref-ruling> consid. 5.2). En revanche, si l'application de la loi défendue par l'autorité cantonale n'est pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution éventuellement plus judicieuse paraît possible (<ref-ruling> consid. 3.1; <ref-ruling> consid. 7.1). En outre, il ne suffit pas que les motifs de la décision critiquée soient insoutenables; encore faut-il que cette dernière soit arbitraire dans son résultat (<ref-ruling> consid. 3.1 précité; <ref-ruling> consid. 4.2).
2.3. Le principe de la proportionnalité, qui est garanti par les art. 5 al. 2 et 36 Cst., peut être invoqué dans le cadre d'un recours en matière de droit public directement et indépendamment d'un droit fondamental; toutefois, lorsque le recourant s'en prévaut en relation avec le droit cantonal ou communal et indépendamment de toute atteinte à un droit fondamental, le Tribunal fédéral ne revoit pas le respect du principe de la proportionnalité librement, mais seulement sous l'angle de l'arbitraire (<ref-ruling> consid. 5.3.2 et les références citées).
3.
3.1.
3.1.1. Aux termes de l'art. 62 de la loi sur le personnel de l'État du Valais du 19 novembre 2010 (LcPers; RS/VS 172.2), applicable par renvoi de l'art. 29 de l'ordonnance concernant l'organisation, les droits et devoirs du personnel du SAPEM du 12 avril 2018 (O-SAPEM; RS/VS 340.104), l'autorité compétente peut résilier immédiatement l'engagement en tout temps pour de justes motifs (al. 1); sont notamment considérées comme de justes motifs toutes les circonstances qui, selon les règles de la bonne foi, ne permettent pas d'exiger de l'employeur la continuation des rapports de service (al. 2). La résiliation pour justes motifs de la LcPers est calquée sur l'art. 337 CO, comme l'a exposé la cour cantonale.
3.1.2. La résiliation immédiate pour justes motifs est une mesure exceptionnelle. Conformément aux principes dégagés par la jurisprudence en droit privé, mais qui peuvent être appliqués par analogie au droit de la fonction publique (<ref-ruling> consid. 7.3), elle doit être admise de manière restrictive. Seul un manquement particulièrement grave du travailleur justifie son licenciement immédiat; lorsqu'il est moins grave, le manquement ne peut entraîner une résiliation immédiate que s'il a été répété malgré un avertissement (<ref-ruling> consid. 4.2 et les arrêts cités). Par manquement du travailleur, on entend en règle générale la violation d'une obligation découlant du contrat de travail, mais d'autres incidents peuvent également justifier une résiliation immédiate (<ref-ruling> consid. 2.1.1; <ref-ruling> consid. 4.1). Ce qui est déterminant, c'est que les faits invoqués à l'appui du congé immédiat aient entraîné la perte du rapport de confiance, qui constitue le fondement du contrat de travail (<ref-ruling> consid. 2.1.1 précité). Savoir si le comportement incriminé atteint la gravité nécessaire dépend des circonstances du cas concret (<ref-ruling> consid. 4.2 précité). Dans son appréciation, le juge doit notamment prendre en compte la position et la responsabilité du travailleur, le type et la durée des rapports contractuels, ainsi que la nature et l'importance des incidents invoqués (<ref-ruling> consid. 2.1.1 précité; <ref-ruling> consid. 4.1 précité).
3.1.3. La position du travailleur, sa fonction et les responsabilités qui lui sont confiées peuvent entraîner un accroissement des exigences relatives à sa rigueur et à sa loyauté (<ref-ruling> consid. 2c; arrêt 4A_5/2021 du 9 mars 2021 consid. 3.2). Dans ce sens, le Tribunal fédéral a considéré qu'un agent de détention occupait dans l'administration cantonale une position dans laquelle la confiance et l'intégrité jouent un rôle primordial dans la bonne marche du service; un comportement qui serait anodin, voire de peu de gravité, dans un autre contexte professionnel prend dans ce cas une tout autre dimension (arrêt 8C_780/2012 du 11 février 2013 consid. 5.2.3).
3.2. Selon l'art. 20 LcPers, applicable par renvoi de l'art. 15 al. 1 O-SAPEM, l'employé est tenu de fournir des prestations de qualité, d'accomplir ses tâches dans un souci d'efficacité, de conscience professionnelle, de réserve, de loyauté et de fidélité à son employeur, ainsi que de travailler dans un esprit d'entraide et de collaboration (al. 1); il doit agir, en toutes circonstances, de manière professionnelle et conformément aux intérêts de l'État et du service public, dans le respect des normes en vigueur, des missions, des objectifs et des instructions de ses supérieurs (al. 2). Les art. 16 ss O-SAPEM imposent des devoirs spécifiques aux collaborateurs du SAPEM. Ceux-ci doivent notamment s'investir dans le travail en équipe et la collaboration avec leurs collègues (art. 16 al. 2) et s'inquiéter du bon fonctionnement du service (art. 16 al. 3). Il doivent faire preuve d'autonomie et d'initiative dans l'accomplissement de leur travail tout en respectant strictement les instructions données par leurs supérieurs (art. 17 al. 1). Ils doivent en particulier se comporter en tout temps de manière exemplaire dans l'accomplissement de leurs tâches (art. 17 al. 2 let. e) et agir de manière disciplinée, soit à viser l'accomplissement de la mission commune en priorité (art. 17 al. 2 let. f).
3.3.
3.3.1. En l'espèce, la cour cantonale a tout d'abord écarté plusieurs griefs tirés d'une constatation inexacte ou incomplète des faits. Examinant ensuite si la résiliation immédiate des rapports de service était juridiquement fondée, elle a retenu qu'en tant qu'agent de détention, le recourant appartenait à une catégorie d'employés soumis à des exigences accrues d'exemplarité, de discipline et d'intégrité, comme le rappelaient les prescriptions spécifiques de l'O-SAPEM. Le fait que les agents de détention valaisans n'étaient pas assermentés ne modifiait pas la nature de leur travail et la position qu'ils occupaient de fait. L'établissement au sein duquel le recourant travaillait était à caractère pénal et la mission de ce dernier était loin d'être anodine; il lui revenait d'assurer la sécurité de l'établissement, celle des détenus, par exemple en cas d'incendie, et celle de son collègue, en particulier lorsque celui-ci effectuait sa ronde extérieure. Il s'agissait également d'éviter tout risque d'évasion, étant entendu que la surveillance s'étendait au centre LMC, où se trouvaient des personnes parfois prêtes à tout pour échapper à leur renvoi. Il convenait aussi d'éviter que des tiers introduisent des objets ou des produits interdits dans la prison et pouvant en compromettre la sécurité.
3.3.2. Les juges cantonaux ont estimé que dans ce contexte, le fait de dormir sur une chaise relax personnelle, dans une pièce verrouillée de l'intérieur, lumière éteinte, alors que l'autre agent effectuait une ronde extérieure qu'il s'agissait de suivre depuis la centrale, constituait une violation grave des devoirs de fidélité et de diligence, propre à entraîner la perte définitive du rapport de confiance. L'ordre de service (ODS) 22 interdisait expressément au personnel de se coucher et bien que la direction de l'Établissement pénitentiaire B._ ne fût pas exempte de tout reproche concernant l'organisation du service, le recourant avait reconnu que sa hiérarchie avait souligné l'importance d'occuper la centrale lors des rondes effectuées par l'autre agent. Le recourant avait de plus concédé qu'il aurait dû se trouver à la centrale. En outre, les conditions de travail (absence d'un système de vidéosurveillance, pénibilité du service de 13 heures, absence de pauses et atteintes à la santé) et l'absence de surveillance de la part de l'employeur dénoncées par le recourant ne justifiaient pas son comportement. Le fait de remplir et de signer à l'avance des rapports de nuit apparaissait également intolérable. Par ailleurs, dès lors que le recourant avait admis se servir de sa chaise relax depuis 2010 et que des couvertures ainsi qu'un oreiller avaient été découverts sur celle-ci, sa version d'un manquement isolé et imputable à la situation extraordinaire et exceptionnelle de la nuit en question n'était pas crédible. Reconnaissant que le risque d'assoupissement était inhérent au travail nocturne, l'instance précédente a souligné que le recourant s'était délibérément isolé dans une pièce verrouillée, qu'il s'était installé sur sa chaise-longue avec un coussin et des couvertures et qu'il avait été retrouvé dans le noir, sans nouvelles de son collègue. En outre, son dossier personnel ne révélait aucun document démontrant que des ennuis de santé étaient connus de la direction, et il avait été déclaré apte au travail de nuit le 23 novembre 2017, soit moins d'une année avant les faits.
3.3.3. Les premiers juges ont en outre considéré que le licenciement immédiat était conforme au principe de la proportionnalité. A ce titre, ni les bons états de service du recourant, ni son âge ou la longue durée de ses rapports de service ne permettaient de faire prévaloir son intérêt à conserver son emploi sur l'intérêt public à disposer d'agents de détention dignes de confiance et à même d'assurer correctement leur mission auprès d'un établissement pénal et de détention administrative.
3.3.4. Selon la juridiction cantonale, le licenciement n'était pas abusif; le recourant n'avait notamment pas été licencié au motif qu'il aurait cherché à dénoncer une mauvaise ambiance de travail à l'Établissement pénitentiaire B._, mais bien en raison de ses manquements. La résiliation immédiate des rapports de service n'était pas non plus contraire au principe de l'égalité de traitement. En particulier, si certains collègues du recourant avaient concédé se reposer à certains moments de leur service, l'un sur une chaise personnelle et l'autre sur la table de massage de l'infirmière, il ressortait de leurs déclarations concordantes que la centrale était occupée durant la ronde extérieure. En outre, aucun d'entre eux n'avait été retrouvé en train de dormir à ce moment-là.
4.
Par un premier moyen, le recourant se plaint d'un établissement incomplet des faits et d'un déni de justice (art. 29 al. 1 Cst.), dès lors que la cour cantonale n'aurait pas véritablement procédé à l'établissement des faits dans la partie "en fait" de son arrêt et se serait contentée sur plusieurs points de retranscrire des documents ou le résumé de pièces ou d'actes de procédure.
Ce grief d'ordre général concernant la constatation des faits tombe à faux. Il ressort en effet de la décision entreprise que l'autorité précédente a retenu certains faits pertinents pour l'issue du litige dans la partie "en droit" de son arrêt, en consacrant notamment de longs développements aux critiques du recourant portant précisément sur l'établissement des faits. Cette manière de faire n'apparaît pas critiquable.
5.
Dans un deuxième grief, le recourant, invoquant les art. 58 (recte: 30 al. 1) Cst. et 6 CEDH, reproche aux juges cantonaux d'avoir statué sous l'emprise d'une prévention à son encontre. Il leur fait en substance grief d'avoir repris, dans la partie "en fait" de leur arrêt, certains faits qu'il aurait contestés, d'avoir utilisé certaines formulations empreintes de jugements de valeur sur ses affirmations, de ne pas avoir traité la question du système de travail illégal au sein de l'Établissement pénitentiaire B._ qu'il aurait dénoncé, et d'avoir mal interprété certains moyens de preuve.
Toutefois, le seul fait que les premiers juges auraient, selon le recourant, établi les faits, apprécié les preuves et traité ses griefs de manière contraire au droit n'est pas de nature à susciter des doutes quant à leur impartialité; de tels griefs constituent des motifs de recours et le recourant revient d'ailleurs sur la plupart d'entre eux dans ses critiques sur le fond. Quant aux formulations dont se plaint le recourant, elles ne dénotent aucune apparence de prévention. On ne voit ainsi pas en quoi l'autorité précédente aurait violé la garantie d'un tribunal indépendant et impartial (art. 30 al. 1 Cst.; cf. art. 58 aCst.). Le grief du recourant s'avère ainsi mal fondé.
6.
Le recourant reproche ensuite à la cour cantonale d'avoir établi les faits et apprécié les preuves de manière arbitraire sur de nombreux points, qu'il convient d'examiner ci-après.
6.1. S'agissant de sa mission, le recourant reproche aux juges cantonaux de ne pas s'être déterminés - en violation de l'interdiction de l'arbitraire - sur le fait qu'il n'était pas assermenté et n'avait pas de fonction de cadre, sur sa fonction de veilleur de nuit qui se distinguerait de celle d'agent de jour, sur les responsabilités des veilleurs de nuit, sur le fait que l'Établissement pénitentiaire B._ n'accueillerait pas le même genre de détenus que les prisons préventives, ainsi que sur l'absence d'équipement permettant au personnel de nuit d'intervenir, en dehors d'un radio-téléphone permettant de donner l'alerte.
La juridiction cantonale a bien constaté que le recourant, à l'instar des autres agents de détention valaisans, n'était pas assermenté; elle a du reste retenu que ce fait ne modifiait pas la nature de son travail et la position qu'il occupait. Il ressort également des faits constatés par l'instance précédente que le recourant n'occupait pas une position de cadre; à tout le moins, le contraire n'a pas été retenu. Sa fonction précise - à savoir celle de "gardien I" affecté au service de nuit - a aussi été clairement mentionnée. En ce qui concerne les responsabilités des veilleurs de nuit, le recourant n'expose pas en quoi celles-ci divergeraient de celles des agents de jour. Une telle divergence ne ressort d'ailleurs pas de l'O-SAPEM, laquelle se limite à prescrire des mesures de santé et de sécurité spécifiques (cf. art. 22 al. 2) et à prévoir des indemnités (cf. art. 28) pour le personnel travaillant de nuit. Enfin, on ne voit pas en quoi le genre d'individus détenus à l'Établissement pénitentiaire B._ et l'équipement dont disposent les agents de nuit pour intervenir constitueraient des faits pertinents pour se prononcer sur les manquements qui sont reprochés au recourant. A cet égard, ce dernier n'explique pas précisément en quoi les profils des détenus de l'Établissement pénitentiaire B._ divergeraient de ceux d'autres établissements pénitentiaires et en quoi de telles divergences seraient susceptibles d'influer sur le sort de la cause.
6.2. De manière contradictoire, le recourant fait grief à la cour cantonale de n'avoir arbitrairement pas retenu d'une part que son service d'une durée de 13 heures n'était pas entrecoupé d'une pause et d'autre part que sa hiérarchie admettait que les veilleurs de nuit étaient autorisés à se reposer à l'écart durant leur service, par exemple dans une salle de repos.
S'agissant de la pause, il ressort de la décision entreprise que le recourant a lui-même déclaré, dans sa prise de position du 12 octobre 2018, que son service comprenait des moments de pause et de repos dans la salle des gardiens, pendant que le second gardien remplissait les tâches liées au service. En outre, il relève dans son recours que l'intimé a indiqué dans ses écritures que le service était entrecoupé de pauses dites "actives", qui pouvaient être prises de façon à ce que la mission soit assurée. Par conséquent, on ne saurait conclure que les juges cantonaux soient tombés dans l'arbitraire en ne retenant pas que le recourant n'avait droit à aucune espèce de pause durant ses 13 heures de service.
Quant aux témoignages, cités dans le recours, d'autres gardiens qui ont admis se reposer à certaines occasions sur une chaise personnelle ou sur une table de massage à l'écart, force est de constater que la juridiction cantonale y a fait référence dans son arrêt (cf. consid. 3.3.4 supra). On ne saurait considérer que cette dernière aurait versé dans l'arbitraire en ne retenant pas expressément que la hiérarchie admettait ce type de comportements, dès lors qu'il ne ressort pas des éléments mis en exergue dans le recours que ladite hiérarchie autorisait les agents de nuit à s'isoler dans une pièce pour dormir, ce qui est reproché au recourant. A ce propos, on ne peut notamment pas inférer du témoignage de D._ - qui a indiqué qu'il lui arrivait de faire des siestes de 90 minutes - que la direction de l'Établissement pénitentiaire B._ cautionnait un tel comportement, étant rappelé que le prénommé a lui aussi été licencié.
6.3. Le recourant reproche ensuite à la cour cantonale de ne pas avoir fait état dans la partie "en fait" de son arrêt d'éléments démontrant une organisation défaillante de l'Établissement pénitentiaire B._ au moment des faits qui lui sont reprochés, ainsi que du contenu de l'instruction de service (IDS) 105, entrée en vigueur le 1 er novembre 2018, qui interdit aux veilleurs de nuit de s'allonger et/ou de dormir et prévoit des pauses - devant être prises au réfectoire du bâtiment des gardiens - n'excédant pas 45 minutes par service de 13 heures.
Cette critique n'est pas non plus justifiée. Les premiers juges se sont en effet référés, dans la partie "en droit" de leur décision, au fait que le Conseil d'État avait concédé qu'il aurait été souhaitable que le processus de nuit et toutes les instructions aient figuré clairement par écrit, ce qui avait été fait avec l'adoption de l'IDS 105, en vigueur depuis le 1 er novembre 2018. Ils ont également retenu que l'on ne pouvait pas déduire des éléments au dossier qu'aucune instruction orale n'était jamais donnée aux agents de nuit au moment où le recourant était en fonction, ce qui inclut les consignes concernant les périodes de repos. Dans ces conditions, ils n'ont pas violé l'interdiction de l'arbitraire en ne retenant pas une organisation défaillante au sein de l'Établissement pénitentiaire B._ et en ne détaillant pas le contenu de l'IDS 105, qui n'était pas en vigueur lorsque le recourant était encore en service et qui n'a pas introduit de nouvelles instructions qui n'auraient pas pu être données auparavant.
6.4. Le recourant fait également grief à l'autorité précédente d'avoir interprété de manière erronée et arbitraire le procès-verbal d'une séance de 2011 et d'avoir retenu qu'il n'avait pas obtenu l'autorisation d'utiliser une chaise personnelle. Ledit procès-verbal indiquant notamment "Chaise/fauteuil pour veilleurs de nuit: ok; fauteuil: les veilleurs doivent présenter une demande motivée", il en déduit que l'utilisation d'une chaise était permise sans condition, en particulier sans demande préalable.
Le recourant ne conteste toutefois pas s'être servi non pas d'une simple chaise, mais d'une chaise-longue. Or, au vu du passage du procès-verbal cité dans le recours et des autres éléments au dossier, on ne saurait considérer que les premiers juges auraient versé dans l'arbitraire en retenant qu'une chaise-longue personnelle ne pouvait pas être utilisée sans autorisation et que le recourant n'avait pas démontré avoir obtenu une telle autorisation.
6.5. Le recourant soutient encore que la juridiction cantonale n'aurait arbitrairement pas développé la question du trou dans l'armoire dans la partie "en fait" de son arrêt. Il s'agirait selon lui d'un fait important, dès lors que l'intimé aurait finalement admis au cours de la procédure devant le Conseil d'État que le recourant n'était pas à l'origine de ce trou, ce qui viendrait étayer l'absence d'une organisation de ce dernier tendant à la violation sur la durée de ses devoirs de service.
Comme relevé par le recourant, les juges cantonaux ont bien abordé les faits relatifs au trou constaté dans l'armoire, dans la partie "en droit" de l'arrêt entrepris, ce qui ne prête pas le flanc à la critique (cf. consid. 4 supra). En tout état de cause, ces faits ne s'avèrent pas pertinents pour l'issue du litige, puisque ni le Conseil d'État ni la cour cantonale n'ont au final reproché au recourant d'avoir cherché à dissimuler sa chaise-longue d'une quelconque façon. L'accident de circulation de son neveu, auquel il fait également allusion dans sa critique des faits, a quant à lui également été mentionné par l'instance précédente.
6.6. Dans un ultime grief portant sur l'établissement des faits et l'appréciation des preuves, le recourant reproche à la cour cantonale de n'avoir arbitrairement pas retenu plusieurs faits en lien avec le rapport de nuit. Ainsi, il n'aurait pas été tenu compte du fait que le rapport de nuit n'avait pas été rendu au moment où il a été examiné, qu'il ne s'agissait que d'un projet encore modifiable, qu'aucune directive ne traitait des rapports de nuit, que plusieurs rapports établis en octobre 2018 n'avaient pas été signés et que le recourant n'avait pas la responsabilité de remplir le rapport la nuit des faits.
Il ressort bien des faits constatés par les premiers juges que le rapport de nuit n'avait pas été rendu au moment où C._ et les chefs de secteur ont effectué un contrôle inopiné durant le service du recourant et de son collègue. Il en découle que ledit rapport aurait encore pu être modifié avant la fin du service, ce qui n'est pas en inadéquation avec les faits constatés par la juridiction cantonale, laquelle n'a pas non plus retenu l'existence de directives en la matière. Sur ce dernier point, on ne saurait reprocher aux juges cantonaux - de surcroît sous l'angle limité de l'interdiction de l'arbitraire - de ne pas avoir constaté un fait négatif, à savoir l'absence de directives en la matière, pour autant que cela ait été avéré. L'existence de rapports de nuit non signés et le fait que le recourant n'aurait pas été responsable de la tenue du rapport ne sont pas déterminants pour le sort de la cause, dès lors qu'il est principalement reproché au recourant d'avoir signé un rapport rempli à l'avance, ce qu'il ne conteste pas.
6.7. Il résulte de ce qui précède que l'ensemble des griefs du recourant portant sur l'établissement des faits et l'appréciation des preuves sont mal fondés.
7.
7.1. Le recourant se plaint ensuite d'une application arbitraire des art. 20 et 62 LcPers, ainsi que de l'art. 337 CO. Il soutient que la juridiction cantonale l'aurait arbitrairement soumis à un devoir d'exemplarité accru, dès lors qu'il aurait occupé la fonction de veilleur de nuit, et non d'agent de jour ou de policier, que l'Établissement pénitentiaire B._ serait un établissement pénitentiaire de basse sécurité avec une population carcérale gérable n'ayant occasionné aucun incident nocturne, qu'il n'aurait pas été assermenté et qu'il n'aurait pas été équipé d'un matériel d'intervention. Le fait de s'être assoupi durant son service ne serait pas déloyal et ne remettrait pas en cause l'image de l'État ou de la fonction d'agent public. Son comportement n'aurait mis en danger la sécurité de la prison que de manière potentielle, sans que cela ait été envisagé par la direction. Par ailleurs, dès lors que l'on ne saurait lui faire grief de s'être reposé, de s'être isolé et d'avoir utilisé une chaise personnelle pour ce faire, le seul manquement qui pourrait être retenu contre lui serait le fait de s'être assoupi après sa période de repos, à l'écart de la centrale. Sanctionner cette seule faute par un licenciement avec effet immédiat serait insoutenable. Son manquement, isolé et exceptionnel, s'expliquerait en outre par l'accident de circulation subi par son neveu, qui l'aurait empêché de se reposer correctement avant la prise de son service. La cour cantonale aurait également versé dans l'arbitraire en ne retenant pas une faute concomitante de l'employeur, sous la forme d'une violation des prescriptions légales en matière de repos des employés (art. 6 LTr, art. 4 LcPers, art. 35 de l'ordonnance sur le personnel de l'État du Valais du 22 juin 2011 [OcPers; RS/VS 172.200] et art. 14 O-SAPEM). A cet égard, la longue durée du service des agents de détention valaisans (13 heures sans pause) ferait figure d'exception en Suisse et serait préjudiciable à leur santé. L'organisation défaillante de l'Établissement pénitentiaire B._ constituerait aussi une faute concomitante de l'employeur, dont il aurait fallu tenir compte, sous peine d'arbitraire. En outre, le fait de remplir et de signer des rapports de nuit à l'avance ne serait pas constitutif d'une faute intolérable. Enfin, les manquements reprochés au recourant n'auraient fait subir aucun dommage à l'État du Valais, ce que les juges cantonaux n'auraient arbitrairement pas pris en considération.
Au vu de l'ensemble de ces circonstances, de l'absence d'un mauvais pronostic pour les prestations de travail futures du recourant et du fait qu'il aurait commis une seule erreur en 26 ans de service, la juridiction cantonale aurait appliqué le principe de la proportionnalité de manière arbitraire; une mesure moins lourde que le licenciement avec effet immédiat aurait permis de sauvegarder les intérêts de l'employeur.
7.2.
7.2.1. Comme déjà relevé (cf. consid. 6.1 supra), l'O-SAPEM n'opère pas de distinction entre agents de nuit et agents de jour s'agissant de leurs responsabilités professionnelles. Cette ordonnance n'impose pas non plus aux gardiens des devoirs d'exemplarité plus ou moins accrus qui dépendraient du type d'établissement pénitentiaire dans lequel ils travaillent, du profil des détenus ou encore de leur équipement. Au vu de la fonction du recourant (gardien affecté au service de nuit), des devoirs spécifiques contenus dans l'O-SAPEM et de la jurisprudence relative aux exigences accrues attendues de certains travailleurs (cf. consid. 3.1.3 supra), la juridiction cantonale n'a pas versé dans l'arbitraire en considérant que l'intéressé appartenait à une catégorie d'employés soumis à des exigences accrues d'exemplarité, de discipline et d'intégrité.
7.2.2. C'est également sans arbitraire que les juges cantonaux ont constaté que l'utilisation d'une chaise-longue personnelle par le recourant n'avait pas été autorisée par la hiérarchie (cf. consid. 6.4 supra) et qu'ils n'ont pas retenu que ladite hiérarchie admettait que les agents de nuit s'isolent à l'écart pour dormir (cf. consid. 6.2 supra). A ce titre, il ressort des faits constatés par l'instance précédente que le recourant ne s'est pas simplement reposé ou assoupi comme il le soutient, mais qu'il a dormi. Au demeurant, l'ODS 22 interdisait expressément aux gardiens de se coucher. Par ailleurs, il ressort de l'arrêt attaqué que le recourant a admis se servir de sa chaise personnelle depuis 2010 et que des couvertures ainsi qu'un oreiller ont été découverts sur celle-ci. C'est donc sans arbitraire que la cour cantonale a reproché au recourant d'avoir dormi sur une chaise-longue (ou chaise relax) personnelle dans une pièce verrouillée de l'intérieur, lumière éteinte, alors que son collègue effectuait une ronde extérieure qu'il était censé suivre depuis la centrale, et qu'elle a estimé que ce manquement ne pouvait pas être considéré comme isolé et uniquement imputable à une situation extraordinaire et exceptionnelle. A ce manquement s'ajoute celui d'avoir signé un rapport de nuit rempli à l'avance.
7.2.3. En ce qui concerne les conditions de travail, il ne ressort pas des faits constatés sans arbitraire par les premiers juges que le recourant n'aurait pas été autorisé à prendre des pauses (cf. consid. 6.2 supra) ou que l'organisation de l'Établissement pénitentiaire B._ aurait été défaillante (cf. consid. 6.3 supra). En revanche, la juridiction cantonale a exposé que le dossier personnel du recourant ne comprenait aucun document démontrant que des problèmes de santé étaient connus de la direction, et qu'il avait été déclaré apte au travail de nuit moins d'une année avant les faits, ce qui n'est pas contesté. En outre, le recourant ne prétend pas s'être plaint de ses conditions de travail avant les événements qui ont conduit à son licenciement. On ne voit donc pas en quoi les juges cantonaux auraient violé l'interdiction de l'arbitraire en ne retenant pas une faute concomitante de l'employeur.
7.2.4. Au vu des devoirs spécifiques et accrus rattachés à la fonction du recourant, exprimés aux art. 16 ss O-SAPEM, et des directives internes à l'Établissement pénitentiaire B._ - en particulier l'ODS 22 interdisant aux agents de se coucher -, il n'apparaît pas insoutenable de retenir que l'ensemble des manquements reprochés au recourant constituent une violation grave de ses devoirs de fidélité et de loyauté propres à rompre irrémédiablement le rapport de confiance avec l'employeur et à motiver un licenciement avec effet immédiat. On notera que le seul fait, pour un gardien ou veilleur de nuit - dont la mission vise par définition à veiller et donc à ne pas dormir -, de prendre un ensemble de dispositions (mise à l'écart dans une pièce verrouillée et dans le noir, utilisation de matériel personnel favorisant le confort tels qu'une chaise-longue, des couvertures et un oreiller) en vue de dormir durant son service, de surcroît à un moment où sa présence et sa vigilance à un endroit précis sont requises à des fins sécuritaires, peut sans arbitraire être qualifié de manquement particulièrement grave, même en l'absence d'un dommage concret pour l'employeur ou d'une atteinte concrète à son image.
7.2.5. Enfin, dès lors que la cour cantonale a estimé sans arbitraire que les conditions d'un licenciement avec effet immédiat étaient données (cf. consid. 7.2.4 supra), on ne voit pas en quoi l'autorité inférieure aurait violé le principe de la proportionnalité, que le Tribunal fédéral ne revoit en l'espèce que sous l'angle restreint de l'arbitraire (cf. consid. 2.3 supra). Il s'ensuit que l'arrêt entrepris échappe à la critique et que le recours doit être rejeté.
8.
Le recourant, qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF). Bien qu'il obtienne gain de cause, l'intimé n'a pas droit à des dépens (art. 68 al. 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à la Cour de droit public du Tribunal cantonal du canton du Valais et au Conseil d'Etat du canton du Valais.
Lucerne, le 8 juillet 2021
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
Le Greffier : Ourny