Faits :
A.
A.a. A._, né en 1974, a été engagé dès le 15 octobre 2009 comme négociateur 2 en biens immobiliers à 100 %, sous le statut de cadre intermédiaire, et affecté au service B._, devenu la direction C._ de l'Office D._ (ci-après: l'office D._) du département du territoire (ci-après: DT). Par décision du 26 janvier 2012, A._ a été nommé fonctionnaire avec effet au 15 octobre 2011. Le 25 avril 2013, il a été transféré sans promotion de l'office des bâtiments à l'office du logement avec effet au 1er mai 2013.
A.b. Dans une note de mai 2017, A._ s'est vu reprocher de s'être rendu à plusieurs reprises et sans prise de contact préalable dans les locaux de l'administration E._ (ci-après: l'administration E._) au motif de vouloir rendre service à F._, cheffe de groupe coordinatrice et adjointe au service du contentieux de l'administration E._, en congé maladie. Il lui a été demandé de ne plus se rendre dans les locaux précités et ses supérieurs l'ont reçu en entretien.
A.c. Le 13 décembre 2018, les directeurs des ressources humaines (ci-après: RH) du DT et du département des finances et des RH (ci-après: DF) ont adressé un courriel à A._ et F._ au sujet de leur présence commune répétée dans les toilettes des hommes ou des femmes du DF. Ce message a été versé dans leur dossier respectif, ce à quoi les intéressés se sont opposés par courriel commun.
A.d. Le 19 février 2019, le directeur des RH du DF a été informé qu'un nettoyeur avait noté la présence de A._ dans les locaux de la direction des RH du DF le soir du 18 février 2019. Le même jour, il a entendu l'équipe de nettoyage. Selon les déclarations recueillies, le 18 février 2019, A._ avait emprunté un badge à un nettoyeur, pénétré dans les bureaux de la direction des RH du DF, en était ressorti avec des documents et en avait fait des photocopies. A l'issue de l'audition, le responsable de secteur RH du DF a constaté que les échanges de courriels de décembre 2018 versés dans le dossier personnel de F._ avaient disparu. Le 20 février 2019, le "log" de la photocopieuse de l'office D._ et le journal d'utilisation du badge du nettoyeur ont été vérifiés. Les données coïncidaient avec les faits relatés par l'équipe de nettoyage.
A.e. Le 27 février 2019, A._ a été entendu lors d'un entretien de service. Il a contesté les faits. Le même jour, il a été libéré avec effet immédiat de son obligation de travailler. Les 28 février et 1er mars 2019, l'intéressé a à nouveau contesté les faits et s'est opposé à sa libération de l'obligation de travailler. Cette mesure a été confirmée par courrier du 4 mars 2019.
A.f. Par arrêté du 6 mars 2019, le Conseil d'Etat a ordonné l'ouverture d'une enquête administrative à l'encontre de A._. Il a confié l'enquête à un magistrat de la Cour de justice. Il a par ailleurs ratifié la libération provisoire de l'obligation de travailler et a suspendu l'employé de ses fonctions.
A.g. Le 5 juin 2019, l'enquêteur a rendu son rapport et conclu qu'une faute disciplinaire était établie. L'intrusion indue et subreptice de A._ dans les archives des RH du DF le 18 février 2019 devait être qualifiée de faute grave. Elle avait été précédée d'une déambulation préoccupante dans les locaux des ressources humaines du DF le 17 décembre 2018, pouvant être comprise comme une tentative ou des repérages avant l'occasion favorable.
A.h. A la suite d'échanges d'observations, le Conseil d'Etat a révoqué A._ de ses fonctions avec effet immédiat et a clos l'enquête administrative ouverte contre lui par arrêté du 21 août 2019. La décision était déclarée exécutoire nonobstant recours.
B.
Saisie d'un recours contre l'arrêté précité, la Chambre administrative de la Cour de justice de la République et canton de Genève l'a rejeté par arrêt du 4 août 2020.
C.
A._ interjette un recours en matière de droit public contre cet arrêt. Il conclut à sa réforme et au maintien de ses rapports de service avec l'Etat de Genève. A titre subsidiaire, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'instance précédente pour nouvelle décision.
L'intimé conclut au rejet du recours. Le recourant a répliqué.

Considérant en droit :
1.
1.1. Le Tribunal fédéral examine d'office (<ref-law>) et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1; <ref-ruling> consid. 1).
1.2. La décision attaquée a été rendue en matière de rapports de travail de droit public au sens de l'art. 83 let. g LTF. Le litige porte sur une décision de révocation disciplinaire, à savoir une contestation pécuniaire qui échappe au motif d'exclusion de l'art. 83 let. g LTF. La valeur litigieuse dépasse par ailleurs le seuil de 15'000 fr. (art. 51 al. 2 et 85 al. 1 let. b LTF). Pour le surplus, déposé en temps utile et dans les formes requises, le recours est recevable au regard des art. 42, 90 et 100 al. 1 LTF.
2.
2.1. Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.2) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (<ref-law>). Le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce moyen est invoqué et motivé par le recourant de manière précise (<ref-law>), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée. Le recourant ne saurait se borner à plaider à nouveau sa cause, contester les faits retenus ou rediscuter la manière dont ils ont été établis comme s'il s'adressait à une juridiction d'appel (<ref-ruling> consid. 3). Le Tribunal fédéral n'entre ainsi pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 2).
2.2. Sauf exception, la violation du droit cantonal ou communal ne peut pas être invoquée en tant que telle devant le Tribunal fédéral (art. 95 et 96 LTF a contrario). Il est cependant possible de faire valoir que son application consacre une violation du droit fédéral, comme la protection contre l'arbitraire (art. 9 Cst.) ou la garantie d'autres droits constitutionnels (<ref-ruling> consid. 4.4.1; <ref-ruling> consid. 2.5). Le Tribunal fédéral examine de tels moyens uniquement s'ils sont formulés conformément aux exigences de motivation qualifiée prévues à l'<ref-law> (<ref-ruling> consid. 2.1; <ref-ruling> consid. 3.2).
3.
Le litige porte sur le point de savoir si c'est à bon droit que la cour cantonale a confirmé la révocation du recourant avec effet immédiat.
3.1. Selon l'art. 16 al. 1 de la loi générale du canton de Genève du 4 décembre 1997 relative au personnel de l'administration cantonale, du pouvoir judiciaire et des établissements publics médicaux (LPAC; RS/GE B 5 05), les fonctionnaires et les employés qui enfreignent leurs devoirs de service, soit intentionnellement soit par négligence, peuvent faire l'objet, selon la gravité de la violation, des sanctions suivantes:
a) prononcé par le supérieur hiérarchique, en accord avec sa hiérarchie:
1° le blâme;
b) prononcées, au sein de l'administration cantonale, par le chef du département ou le chancelier d'Etat, d'entente avec l'office du personnel de l'Etat; au sein des services centraux et des greffes du pouvoir judiciaire, par le secrétaire général du pouvoir judiciaire; au sein de l'établissement, par le directeur général:
2° la suspension d'augmentation du traitement pendant une durée déterminée,
3° la réduction de traitement à l'intérieur de la classe;
c) prononcées, à l'encontre d'un fonctionnaire, au sein de l'administration cantonale, par le Conseil d'Etat; au sein des services centraux et des greffes du pouvoir judiciaire, par la commission de gestion du pouvoir judiciaire; au sein de l'établissement par le conseil d'administration:
4° le retour au statut d'employé en période probatoire pour une durée maximale de 3 ans,
5° la révocation.
3.2. Aux termes de l'art. 32 LPAC, le recours à la chambre administrative de la Cour de justice contre une sanction disciplinaire doit être exercé par une requête écrite, motivée sommairement et accompagnée des pièces justificatives pertinentes (al. 1). La chambre administrative de la Cour de justice ordonne d'entrée de cause et à bref délai la comparution personnelle des parties. Elle peut ordonner préalablement la production des pièces (al. 3). Les parties font citer leurs témoins par la chambre administrative de la Cour de justice. Les enquêtes suivent immédiatement la comparution personnelle (al. 4). La chambre administrative de la Cour de justice statue à bref délai (al. 5). Le recours à la chambre administrative de la Cour de justice contre une décision de licenciement s'instruit dans les formes prévues par la loi sur la procédure administrative du 12 septembre 1985 (LPA; RS/GE E 5 10; al. 6).
Selon la jurisprudence de la Cour de justice (cf. ATA/56/2019 consid. 11), il faut distinguer deux types de licenciement s'agissant de la résiliation des rapports de service d'un membre du personnel: la résiliation pour des motifs objectifs liés au bon fonctionnement de l'administration, ou licenciement pour motif fondé (art. 22 LPAC), qui est une mesure administrative, et le licenciement pour violation des devoirs de service ou révocation, lequel est une sanction disciplinaire (art. 16 al. 1 let. c ch. 5 LPAC). Le recours contre une sanction disciplinaire est traité à l'art. 30 LPAC, tandis que celui contre une décision de résiliation des rapports de service l'est à l'art. 31 LPAC. L'art. 32 LPAC qui se réfère à la procédure de recours distingue spécifiquement celui contre une sanction disciplinaire de celui formé contre une décision de licenciement (al. 1 et al. 6 notamment). Ainsi, l'art. 32 LPAC règle de façon spéciale le déroulement de la procédure administrative en cas de recours contre une sanction disciplinaire, sauf s'il s'agit d'un licenciement; il introduit une procédure simplifiée pour les sanctions disciplinaires de moindre gravité qu'un licenciement (STÉPHANE GRODECKI/ROMAIN JORDAN, Code annoté de procédure administrative genevoise, 2017, n° 1221 s.). Conformément à l'art. 32 al. 6 LPAC, si la décision attaquée porte sur un licenciement, la procédure est alors uniquement régie par la LPA.
4.
4.1. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, le recourant se plaint d'une violation de son droit d'être entendu (art. 29 Cst.) et d'une application arbitraire de l'art. 32 al. 3 LPAC (art. 9 Cst.). En l'espèce, l'art. 32 LPAC aurait été violé, car l'audience de comparution personnelle des parties a eu lieu le 14 juillet 2020, soit dix mois après le dépôt du recours le 19 septembre 2019. Par ailleurs, la Cour ayant rendu son arrêt motivé le 4 août 2020, elle aurait déjà pris sa décision et rédigé l'arrêt au moment de l'audience de comparution personnelle.
4.2. En l'espèce, le recourant a fait l'objet d'une révocation, à savoir un licenciement pour violation des devoirs de service. Or, comme indiqué, les dispositions de procédure spéciales prévues à l'art. 32 LPAC ne s'appliquent pas en cas de licenciement. Seule la LPA est applicable dans ce cas (art. 32 al. 6 LPAC). Le grief d'application arbitraire de l'art. 32 al. 3 LPAC est ainsi mal fondé et doit être rejeté. Pour le surplus, le recourant ne motive pas la violation de l'art. 29 Cst. dont il se prévaut. Faute de répondre aux exigences de motivation (art. 42 al. 2 et 106 al. 2 LTF), ce grief est irrecevable.
5.
5.1. Le recourant se plaint d'une constatation arbitraire des faits (<ref-law>). Il conteste s'être introduit dans les bureaux des archives des RH du DF et avoir quitté le bâtiment à 19h40 le 18 février 2019; ces constatations reposeraient sur des témoignages contradictoires. Les photocopies réalisées le soir en question, dont le nombre équivalait aux pages du dossier de F._ moins ses observations après un entretien de service, ne prouveraient pas non plus qu'il se serait introduit dans les locaux en question. Il n'aurait d'ailleurs eu aucune raison de consulter un dossier auquel F._ avait accès.
5.2. Ce faisant, le recourant se limite à plaider à nouveau sa cause avec des arguments déjà soulevés et examinés précédemment. Il se borne à opposer de manière appellatoire sa version du dossier à l'état de fait retenu par l'autorité précédente et échoue à démontrer que les faits retenus auraient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>. Le grief n'est pas recevable.
6.
Le recourant invoque une application arbitraire de l'art. 16 al. 1 LPAC. Selon cette disposition, une sanction présuppose la violation d'un devoir de service. Or, le recourant n'aurait pas pénétré dans le bureau des archives des RH du DF et n'aurait ainsi pas enfreint ses devoirs de service. La sanction prononcée à son encontre serait contraire au droit.
Contrairement à ce qu'allègue le recourant, c'est sans arbitraire que la cour cantonale s'est fondée sur le rapport de l'enquêteur du 5 juin 2019 et a tenu pour établi que le recourant s'était introduit dans les bureaux des archives des RH du DF sans autorisation. A l'instar de l'autorité intimée, les juges cantonaux ont considéré que cette intrusion s'était faite par le biais de l'emprunt du badge d'un nettoyeur et constituait une violation grave des devoirs de service du recourant. Aussi, elle justifiait une rupture du lien de confiance entre l'autorité intimée et son employé qui devait être sanctionnée par une révocation avec effet immédiat. Cette appréciation de la cour cantonale n'apparaît pas manifestement insoutenable. Mal fondé, le grief doit être rejeté.
7.
7.1. A titre subsidiaire, le recourant se plaint d'une violation du principe de proportionnalité (art. 5 al. 2 Cst.) en lien avec l'art. 16 LPAC. La cour cantonale n'aurait pas procédé à un examen sous l'angle de la proportionnalité et les actes reprochés au recourant ne léseraient pas d'intérêt public suffisant pour justifier la fin des rapports de service après dix ans de services loyaux et compétents. Une mesure moins sévère, comme l'éloignement du recourant de F._ et du DF combiné avec une sanction, aurait suffi à éviter toute récidive et permis la continuation des rapports de travail.
7.2. Une mesure viole le principe de la proportionnalité notamment si elle excède le but visé et qu'elle ne se trouve pas dans un rapport raisonnable avec celui-ci et les intérêts, en l'espèce publics, compromis (<ref-ruling> consid. 3.5.1 et les arrêts cités; <ref-ruling> consid. 5.1). Le principe de la proportionnalité, bien que de rang constitutionnel, ne constitue pas un droit constitutionnel avec une portée propre (<ref-ruling> consid. 5b; <ref-ruling> consid. 2b). Aussi, lorsque, comme en l'espèce, ce principe est invoqué en relation avec l'application du droit cantonal (en dehors du domaine de protection d'un droit fondamental spécial), le Tribunal fédéral n'intervient-il, en cas de violation du principe de la proportionnalité, que si la mesure de droit cantonal est manifestement disproportionnée et qu'elle viole simultanément l'interdiction de l'arbitraire; autrement dit le grief se confond avec celui de l'arbitraire (<ref-ruling> consid. 4.2.2 et 4.3; arrêts 8C_220/2010 du 18 octobre 2010 consid. 4.3 et 2C_118/2008 du 21 novembre 2008 consid. 3.1).
7.3. Le choix du type et de la gravité de la sanction doit répondre au principe de la proportionnalité. Il doit être approprié au genre et à la gravité de la violation des devoirs professionnels et ne pas aller au-delà de ce qui est nécessaire pour assurer les buts d'intérêt public recherchés (arrêt 8C_448/2019 du 20 novembre 2019 consid. 5.1.3 avec renvoi à l'arrêt 8C_24/2017 du 13 décembre 2017 consid. 3.4 et les références citées).
Dans le domaine des mesures disciplinaires, la révocation est la sanction la plus lourde. Elle implique une violation grave ou continue des devoirs de service. Il peut s'agir soit d'une violation unique spécialement grave, soit d'un ensemble de transgressions dont la gravité résulte de leur répétition. L'importance du manquement doit être appréciée à la lumière des exigences particulières qui sont liées à la fonction occupée. Toute violation des devoirs de service ne saurait cependant être sanctionnée par la voie de la révocation disciplinaire. Cette mesure revêt en effet l'aspect d'une peine et présente un caractère plus ou moins infamant. Elle s'impose surtout dans les cas où le comportement de l'agent démontre qu'il n'est plus digne de rester en fonction (arrêt 8C_448/2019 précité consid. 5.1.3 et les arrêts cités).
Lorsque l'autorité choisit la sanction disciplinaire qu'elle considère appropriée, elle dispose d'un large pouvoir d'appréciation, lequel est toutefois subordonné au respect du principe de la proportionnalité. Son choix ne dépend pas seulement des circonstances subjectives de la violation incriminée ou de la prévention générale, mais aussi de l'intérêt objectif à la restauration, vis-à-vis du public, du rapport de confiance qui a été compromis par la violation du devoir de fonction (arrêts 8C_448/2019 précité consid. 5.1.3 et 8C_480/2012 du 28 juin 2013 consid. 6.4 et les références citées).
7.4. En l'espèce, sans remettre en cause ses compétences professionnelles et l'absence d'antécédents disciplinaires, les juges cantonaux ont considéré que le comportement du recourant lors des faits qui lui étaient reprochés ne relevaient pas de l'exécution fidèle et diligente des tâches professionnelles, mais de son lien de confiance avec l'employeur. En raison d'incidents passés, le recourant avait déjà été avisé du fait qu'il n'avait pas à pénétrer dans les locaux de l'autre département occupant le même bâtiment que le sien lorsqu'il n'y était pas invité ou convoqué. Il s'était aussi engagé à ne pas se rendre dans un endroit où il n'était pas autorisé à être. En dépit de cela, il avait procédé à des repérages quelques mois auparavant, demandé au nettoyeur s'ils étaient seuls, pris la précaution de se renseigner sur comment il pourrait sortir du bâtiment au-delà des heures d'ouverture sans utiliser son badge. Il avait en outre créé l'apparence d'avoir quitté le lieu de travail à 18h56, avait accédé aux bureaux non seulement en dehors des heures de travail, mais encore avec un badge emprunté à un nettoyeur, et avait ainsi voulu tromper son employeur. A l'issue de l'enquête administrative ouverte à son encontre, le recourant n'avait pas montré qu'il avait compris la gravité de son comportement et entendait s'amender. Au contraire, il avait dénigré les témoins et minimisé les faits qui lui étaient reprochés. Son intrusion non autorisée dans les archives du personnel des RH du DF comportant des informations sensibles des collaborateurs avait par ailleurs eu des conséquences sur le bon fonctionnement du département. La révocation du recourant avec effet immédiat permettait ainsi d'éviter toute éventuelle réitération du comportement répréhensible et était dès lors conforme au droit.
7.5. Ce raisonnement résiste à l'examen sous l'angle du principe de la proportionnalité: la révocation avec effet immédiat n'apparaît pas manifestement disproportionnée et ne viole pas l'interdiction de l'arbitraire. En effet, pour les motifs soigneusement exposés par la cour cantonale, la violation par le recourant de ses devoirs de service est particulièrement grave. Aussi, compte tenu des faits constatés par la cour cantonale, il n'apparaît pas arbitraire de considérer que le lien de confiance entre l'autorité intimée et son employé est rompu. Enfin, le recourant échoue également à démontrer le caractère arbitraire de l'appréciation de la cour cantonale en alléguant qu'il aurait suffi, à titre de sanction disciplinaire, de l'éloigner de F._. Par cette argumentation, il semble méconnaître que ce ne sont pas les faits rapportés dans les courriels du 13 décembre 2018 versés aux dossiers personnels du recourant et de F._ qui ont fondé sa révocation avec effet immédiat, mais son intrusion planifiée le soir du 18 février 2019 dans les bureaux des archives des RH du DF, auxquels il avait été interdit d'accès et qui comportaient des informations sensibles sur les collaborateurs. Aussi bien, la cour cantonale n'a-t-elle pas abusé de son large pouvoir d'appréciation en considérant que la révocation avec effet immédiat était conforme au droit.
8.
Le recours s'avère mal fondé et doit être rejeté. Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimé (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Chambre administrative de la Cour de justice de la République et canton de Genève.
Lucerne, le 1er juin 2021
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Elmiger-Necipoglu