Faits:
A.
N._, né en 1970, est diplômé de l'Ecole hôtelière Y._ et titulaire d'un Master in Business Administration (MBA). Il a été engagé en qualité de comptable par l'Hôpital X._ dès le 15 septembre 1999. Le 1er juin 2001, N._ a été promu adjoint de direction au département Z._ de l'Hôpital X._. Son traitement a encore été augmenté de trois échelons supérieurs à partir du 1er septembre 2008 (classe 26 avec 6 annuités). Les évaluations globales de son travail ont toujours été bonnes.
Au début du mois de juillet 2010, à l'occasion du bouclement mensuel des comptes de l'Hôpital X._, il a été constaté un écart important dans le résultat entre les mois de mai et juin 2010. Par courriel du 15 juillet, le directeur du département Z._, V._, a donné pour instruction à N._, H._, coordinateur informatique avec le titre d'adjoint de direction, ainsi qu'à B._, responsable du service du budget, d'examiner les raisons de cet écart. Dans ce contexte, il se posait notamment la question de savoir si la différence constatée pouvait provenir du nouveau système informatique d'estimation des encours que H._ avait récemment mis en place.
A cette fin, une séance de travail a été organisée entre les trois prénommés le 16 juillet 2010 à 14 heures dans le bureau de H._. Au cours de cette réunion, une certaine tension s'est installée entre H._ et N._ qui a conduit à une altercation. H._ a fortement poussé en arrière N._ qui lui a ensuite donné un coup de poing au visage.
Selon un certificat médical du 27 juillet 2010 établi par le docteur J._, H._ - qui avait consulté ce médecin les 19 et 22 juillet 2010 - présentait une plaie à la base du nez, une dermabrasion au niveau de la joue gauche de 1,5 cm de diamètre avec tuméfaction, une plaie de la paupière gauche, un hématome de l'orbite gauche, une hypoesthésie dans le territoire de Vème nerf crânien gauche (branche maxillaire) ainsi qu'un abaissement de la commissure labiale gauche, constatations compatibles avec une agression physique.
Le 20 juillet 2010, H._ a déposé plainte pénale contre N._. Il a refusé de participer à une séance d'explication proposée par D._, membre de la direction au département Z._, à l'initiative de N._. Convoqué pour un entretien de service le 31 août 2010, ce dernier a notamment déclaré qu'il avait agi dans un réflexe de défense, qu'il était peut-être fatigué à la veille de ses vacances, et qu'il regrettait son geste.
Le 24 septembre 2010, le président du conseil d'administration de l'Hôpital X._ a informé N._ de l'ouverture d'une enquête administrative à son encontre ainsi que de sa suspension provisoire sans suppression du traitement.
L'enquête a été confiée à R._ qui a interrogé les deux protagonistes, B._ ainsi que sept autres témoins, dont V._. Selon les conclusions de son rapport, l'origine du conflit provenait d'une divergence d'opinion entre H._ et N._ au sujet des raisons d'un écart dans la comptabilité, le premier acceptant mal que le second remette en cause le système informatique qu'il avait conçu et insiste auprès de lui pour connaître le mode d'utilisation de certains chiffres. Cette situation avait engendré l'animosité qui avait conduit à l'altercation entre les deux fonctionnaires. Malgré certaines divergences dans les témoignages, l'enquêteur a considéré qu'il pouvait être raisonnablement admis qu'à un moment donné, N._ et H._ s'étaient levés et mis face à face, très près l'un de l'autre, dans une attitude d'intimidation. H._ avait alors repoussé N._ en arrière avec ses deux mains. Trébuchant sur sa chaise, ce dernier a été retenu de chuter par le mur situé derrière lui. Ensuite, il avait tendu son bras et frappé H._ au visage.
Dans l'intervalle, par ordonnance de condamnation du 18 octobre 2010, N._ a été reconnu coupable de lésions corporelles simples et condamné à une peine pécuniaire de 20 jours-amende avec sursis pendant trois ans. Saisi d'un recours contre cette ordonnance, le Tribunal de police a acquitté l'intéressé du chef de lésions corporelles simples et laissé les frais de la procédure à la charge de l'Etat (jugement du 1er mars 2011). L'acquittement était motivé par l'admission d'un état de légitime défense putative. Le juge pénal a considéré qu'au vu de la taille imposante de H._ et compte tenu du fait que celui-ci avait commis en premier un geste physique contre N._ qui l'avait fait tomber, ce dernier avait légitimement pu croire, dans sa perception des événements, que son collègue n'allait pas s'arrêter là.
Par décision du 23 mars 2011, se fondant sur les conclusions de l'enquête administrative, l'Hôpital X._ a prononcé la révocation de N._ pour faute grave et violation des devoirs de service au sens des art. 20, 21 let. a et 22 al. 4 du statut du personnel de l'Hôpital X._. Les rapports de service étaient résiliés pour le 30 juin 2011 en application des art. 16, 17 et 20 de la loi générale relative au personnel de l'administration cantonale, du pouvoir judiciaire et des établissements publics médicaux (LPAC; RSG B 5 05). Cette décision était exécutoire nonobstant recours.
B.
Par acte du 6 mai 2011, N._ a recouru devant la Chambre administrative de la Cour de Justice de la République et canton de Genève, en concluant principalement à l'annulation de la décision du 23 mars 2011 et à sa réintégration au sein de l'Hôpital X._. Il a également sollicité le rétablissement de l'effet suspensif au recours, qui lui a été refusé par décision incidente du 25 mai 2011 du président de la Chambre administrative.
Statuant le 24 avril 2012, la juridiction cantonale a rejeté le recours.
C.
N._ interjette un recours en matière de droit public. Sous suite de frais et dépens, il conclut à l'annulation du jugement cantonal et au renvoi de la cause à la Cour de justice pour qu'elle statue à nouveau dans le sens des considérants.
L'Hôpital X._ conclut au rejet du recours.

Considérant en droit:
1.
Le jugement entrepris a été rendu en matière de rapports de travail de droit public au sens de l'art. 83 let. g LTF. Comme la contestation porte sur l'annulation d'une décision de révocation d'un agent, il s'agit d'une contestation de nature pécuniaire et le motif d'exclusion de l'art. 83 let. g LTF n'entre pas en considération (voir par exemple les arrêts 8C_907/2010 du 8 juillet 2011 consid. 1 et 8C_ 170/2009 du 25 août 2009 consid. 1.1). La valeur litigieuse atteint par ailleurs le seuil de 15'000 fr. ouvrant la voie du recours en matière de droit public en ce domaine (art. 51 al. 2 et 85 al. 1 let. b LTF).
Pour le surplus, interjeté en temps utile (art. 100 al. 1 LTF) contre une décision finale (art. 90 LTF) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF), le recours en matière de droit public est recevable.
2.
2.1. Selon l'art. 16 al. 1 LPAC, les fonctionnaires et les employés qui enfreignent leurs devoirs de service, soit intentionnellement soit par négligence, peuvent faire l'objet, selon la gravité de la violation, des sanctions disciplinaires suivantes : 1° le blâme; 2° la suspension d'augmentation du traitement pendant une durée déterminée; 3° la réduction de traitement à l'intérieur de la classe; 4° le retour au statut d'employé en période probatoire pour une durée maximale de 3 ans; 5° la révocation.
2.2. Selon le Statut du personnel de l'Hôpital X._, dans sa teneur dès le 26 mars 2009, les membres du personnel sont tenus au respect de l'intérêt de l'établissement et doivent s'abstenir de tout ce qui peut lui porter préjudice (art. 20). Ils se doivent, par leur attitude, d'entretenir des relations dignes et correctes avec leurs supérieurs, leurs collègues et leurs subordonnés ainsi que de faciliter la collaboration entre ces personnes (art. 21 let. a). Les art. 20 et ss du règlement d'application de la LPAC (RPAC; RSG B 5 05.01), qui précise les devoirs du personnel, prévoient des dispositions similaires.
3.
En substance, la juridiction cantonale a considéré que l'Hôpital X._ n'avait pas mésusé du pouvoir d'appréciation qui était sien dans le domaine des sanctions disciplinaires, en prononçant la révocation de N._. Il était établi que celui-ci avait donné un coup de poing au visage de son collègue H._ lors de la séance de travail du 16 juillet 2010, faits qui avaient été qualifiés de lésions corporelles simples (art. 123 CP). Bien que se déclarant liée, au regard de la jurisprudence tirée de la pratique en matière du permis de conduire (<ref-ruling> consid. 2.4 p. 315), par l'appréciation du juge pénal qui avait admis un état de légitime défense putative au moment des faits, elle a indiqué qu'elle n'était cependant "pas tenue par les conséquences qu'en avait tirées le TP [Tribunal de Police]". A la lumière d'autres cas de révocation, elle a dès lors jugé que la faute commise était grave. Il était en effet inadmissible et contraire aux devoirs de service que dans un contexte professionnel un collègue en frappe un autre. En outre, N._ avait une fonction de cadre et occupait un poste à responsabilité, ce qui rendait son comportement d'autant moins acceptable nonobstant le fait qu'il n'avait aucun antécédent jusqu'alors.
4.
Le recours en matière de droit public devant le Tribunal fédéral ne peut pas être interjeté pour violation du droit cantonal en tant que tel, mais il est possible de faire valoir qu'une mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (<ref-ruling> consid. 4.3 p. 521 s.; <ref-ruling> consid. 2.3 p. 466). Selon la jurisprudence, une décision est arbitraire au sens de l'art. 9 Cst. lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité (<ref-ruling> consid. 2.1 p. 211; <ref-ruling> consid. 2 p. 61).
5.
5.1. Par un premier moyen, le recourant invoque une violation du principe de l'égalité de traitement (art. 8 Cst.). Les cas de révocation cités par la juridiction cantonale à l'aune desquels celle-ci avait apprécié la gravité de la faute qu'il avait commise montraient qu'elle n'avait opéré aucune distinction entre un comportement qui relève d'une faute intentionnelle et une simple réaction de défense procédant d'une représentation erronée de la situation. En assimilant son cas à celui de fonctionnaires révoqués pour avoir consulté des sites pornographiques sur leur lieu de travail durant des mois, ou fait preuve d'une attitude inacceptable à l'égard de collègues sur une longue période et malgré de nombreux avertissements, ou encore adopté des comportements enfreignant les devoirs du personnel à réitérées reprises, les juges cantonaux avaient traité de la même manière ce qui n'aurait pas dû l'être, ce qui constituait une inégalité manifeste.
5.2. Une décision viole le principe de l'égalité consacré à l'art. 8 al. 1 Cst. lorsqu'elle établit des distinctions juridiques qui ne se justifient par aucun motif raisonnable au regard de la situation de fait à réglementer ou qu'elle omet de faire des distinctions qui s'imposent au vu des circonstances, c'est-à-dire lorsque ce qui est semblable n'est pas traité de manière identique et ce qui est dissemblable ne l'est pas de manière différente. Il faut que le traitement différent ou semblable injustifié se rapporte à une situation de fait importante (<ref-ruling> consid. 9.1 p. 42 et la jurisprudence citée). Les situations comparées ne doivent pas nécessairement être identiques en tous points, mais leur similitude doit être établie en ce qui concerne les éléments de fait pertinents pour la décision à prendre (<ref-ruling> consid. 5.1 p. 125; <ref-ruling> consid. 2b/aa p. 4; <ref-ruling> consid. 6a p. 7 et la jurisprudence citée).
5.3. En l'occurrence, le grief est infondé dès lors que le recourant ne démontre pas, ni ne prétend d'ailleurs, que des cas similaires au sien auraient bénéficié d'une appréciation plus favorable. Telle qu'elle est formulée, la critique doit bien plutôt être examinée sous le couvert d'une violation du principe de proportionnalité qui constitue d'ailleurs le second moyen invoqué par le recourant.
6.
6.1. A cet égard, le recourant fait valoir qu'il est arbitraire et manifestement disproportionné de sanctionner un comportement violant certes objectivement les devoirs de service mais justifiable, de la même manière qu'une agression volontaire et injustifiée. Il rappelle que les faits retenus avaient conduit le Tribunal de Police et également la Cour de justice - qui s'était ralliée sur ce point à l'appréciation du juge pénal - à reconnaître qu'il avait agi en état de légitime défense putative. La réaction qu'il avait eue à l'encontre de H._ devait donc être considérée comme un geste de défense contre une attaque même s'il se trouvait dans l'erreur à ce sujet. Or, la cour cantonale n'avait pratiquement accordé aucune importance à cette circonstance pour apprécier la gravité de sa faute.
6.2. Une mesure viole le principe de la proportionnalité notamment si elle excède le but visé et qu'elle ne se trouve pas dans un rapport raisonnable avec celui-ci et les intérêts, en l'espèce publics, compromis (<ref-ruling> consid. 3.5.1 p. 69 et les arrêts cités; <ref-ruling> consid. 5.1 p. 297 s.). Le principe de la proportionnalité, bien que de rang constitutionnel, ne constitue pas un droit constitutionnel avec une portée propre (<ref-ruling> consid. 5b p. 120; <ref-ruling>61 consid. 2b p. 163). Aussi, lorsque, comme en l'espèce, ce principe est invoqué en relation avec l'application du droit cantonal (en dehors du domaine de protection d'un droit fondamental spécial), le Tribunal fédéral n'intervient-il, en cas de violation du principe de la proportionnalité, que si la mesure de droit cantonal est manifestement disproportionnée et qu'elle viole simultanément l'interdiction de l'arbitraire; autrement dit le grief se confond avec celui de l'arbitraire (<ref-ruling> consid. 4.2.2 et 4.3 p. 158; arrêts 8C_292/2011 du 9 décembre 2011 consid. 6.2, 8C_220/2010 du 18 octobre 2010 consid. 4.3 et 2C_118/2008 du 21 novembre 2008 consid. 3.1).
6.3. Dans le domaine des mesures disciplinaires, la révocation est la sanction la plus lourde. Elle implique une violation grave ou continue des devoirs de service. Il peut s'agir d'une violation unique spécialement grave, soit d'un ensemble de transgressions dont la gravité résulte de leur répétition. L'importance du manquement doit être appréciée à la lumière des exigences particulières qui sont liées à la fonction occupée (<ref-ruling> consid. 6 p. 308).
6.4. Lorsque l'autorité choisit la sanction disciplinaire qu'elle considère appropriée, elle dispose d'un large pouvoir d'appréciation, lequel est toutefois subordonné au respect du principe de la proportionnalité. Son choix ne dépend pas seulement des circonstances subjectives de la violation incriminée ou de la prévention générale, mais aussi de l'intérêt objectif à la restauration, vis-à-vis du public, du rapport de confiance qui a été compromis par la violation du devoir de fonction (voir les arrêts 5A_112/2009 du 7 mai 2009 consid. 2.2, 1P.273/1999 du 12 octobre 1999 consid. 3c et 2P.168/1997 du 10 février 1998 consid. 4c; voir également PIERRE MOOR, Droit administratif, vol. III, Berne 1992, p. 240).
6.5. La notion d'état de légitime défense putative implique que l'auteur a cru erronément se trouver dans une situation de fait constituant la légitime défense au sens de l'art. 33 aCP (art. 15 CP dans sa teneur depuis le 1 er mai 2013), autrement dit qu'il a cru, par erreur, qu'il était attaqué ou menacé de l'être (<ref-ruling> consid. 3.2 p. 14). Avec le recourant, il faut admettre que s'agissant d'apprécier la gravité de violation de ses devoirs de service, son acquittement au pénal en raison de la représentation erronée qu'il s'était faite de la situation est une circonstance de nature à atténuer la gravité de sa faute ou, à tout le moins, à laisser apparaître sa faute d'une importance moindre que s'il avait été reconnu coupable de lésions corporelles simples envers H._. Les premiers juges ne pouvaient donc se passer de déterminer quelle portée ils reconnaissaient au jugement pénal dans le cadre du litige dont ils étaient saisis.
En l'espèce, la motivation du jugement entrepris ne permet pas de discerner si les premiers juges entendaient ou non remettre en cause les faits retenus par le juge pénal et leur qualification. Alors que d'un côté, ils ont expressément indiqué être liés par le résultat de son appréciation en ce qui concerne l'état de légitime défense putative dans lequel N._ se trouvait au moment des faits, cette circonstance est absente de leurs considérations sur la gravité de la faute du prénommé, sans que l'on ne comprenne sur la base de quels éléments factuels ils se sont fondés pour parvenir à leur solution. A cet égard, les premiers juges se sont bornés à constater que le recourant avait donné un coup de poing à son collègue, ce qui est un état de fait insuffisant pour leur permettre d'en tirer une conclusion différente que celle du juge pénal. On rappellera que savoir quels sont les faits déterminants revêt une importance particulière dans la mesure où le Tribunal fédéral est en principe lié par ceux arrêtés par l'instance précédente en vertu de l'art. 105 al. 1 LTF. Par ailleurs, bien qu'ils aient exposé les conditions auxquelles la jurisprudence admet qu'un juge administratif est légitimé à s'écarter d'un jugement pénal, ils n'ont tout simplement pas examiné si celles-ci étaient réalisées dans le cas d'espèce. Partant, il n'est pas possible à la Cour de céans d'examiner le respect du principe de proportionnalité invoqué par le recourant, ni même de vérifier si le résultat auquel a abouti la juridiction cantonale est en lui-même insoutenable.
Il y a dès lors lieu de constater que le jugement entrepris ne contient pas les motifs déterminants de fait et de droit requis (cf. art. 112 al. 1 let. b LTF). Aussi, la cause doit-elle être renvoyée à la juridiction cantonale afin qu'elle rende une nouvelle décision satisfaisant à ces exigences (art. 112 al. 3 LTF; <ref-ruling> consid. 8.2 p. 153).
7.
Vu l'issue du litige, le recourant a droit à des dépens à la charge de l'intimé (art. 68 al. 1 LTF). Celui-ci supportera également les frais judiciaires (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est partiellement admis. Le jugement du 24 avril 2012 de la Cour de justice de la République et canton de Genève, Chambre administrative, est annulé, la cause lui étant renvoyée pour nouvelle décision au sens des considérants.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de l'intimé.
3.
Une indemnité de dépens de 2'800 fr. (y compris la taxe à la valeur ajoutée) est allouée au recourant à la charge de l'intimé pour la procédure fédérale.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lucerne, le 28 juin 2013
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Juge présidant: Ursprung
La Greffière: von Zwehl