Faits :
A.
Le 23 août 2008, A._, ressortissant du Kazakhstan né en février 1995, est arrivé sur le territoire genevois, afin d'y accomplir des études. Depuis cette date, il a été scolarisé et a obtenu le 1 er juin 2013 le baccalauréat, puis le 7 juillet 2017, un bachelor en gestion d'entreprise délivré par l'International University in Geneva. Le 11 septembre 2017, il a entamé un master en gestion d'entreprise auprès du même établissement, pour une durée prévue jusqu'en 2018. Le 31 juillet 2017, son autorisation de séjour pour études est arrivée à échéance.
Parallèlement, par requête déposée le 20 juin 2017 auprès de l'Office cantonal de la population et des migrations (ci-après: l'Office cantonal), A._ a sollicité l'octroi de la nationalité suisse et genevoise. Le 16 février 2017, l'intéressé avait rempli le questionnaire relatif à la procédure de naturalisation ordinaire et répondu positivement à la question de savoir s'il avait occupé les services de police ou fait l'objet de condamnations pénales en Suisse ou à l'étranger dans les dix dernières années; l'infraction commise consistait en une "violation circulation routière" ayant donné lieu à une condamnation. Figuraient en outre d'autres documents, notamment un extrait du registre des poursuites établi le 20 juin 2017 - indiquant que l'intéressé ne faisait l'objet d'aucune poursuite ou acte de défaut de biens auprès de l'Office des poursuites de Genève -, une attestation de l'administration fiscale cantonale du 23 mai 2017 - certifiant qu'il s'était acquitté de l'intégralité de la taxe personnelle -, une attestation du 28 septembre 2016 à teneur de laquelle il avait passé avec succès le test de validation des connaissances d'histoire, de géographie et des institutions suisses et genevoises (avec 42 réponses correctes sur 45) ainsi qu'une attestation de connaissance de la langue française (niveau A2 du Portfolio européen) du 13 septembre 2016.
Le 7 août 2017, un rapport d'enquête confidentiel a été établi par un enquêteur de l'Office cantonal, préavisant défavorablement la requête de naturalisation et proposant une "décision de mise en suspens", avec en-dessous les mentions "titre de séjour échu" et "inscription au casier judiciaire". Comme le montrait un extrait de son casier judiciaire, A._ avait été condamné le 9 août 2016, par ordonnance pénale du Ministère public du canton de Genève, à une peine pécuniaire de 35 jours-amende à 100 francs le jour, avec sursis et délai d'épreuve pendant trois ans, ainsi qu'à une amende de 700 francs, pour conduite en état d'ébriété avec un taux d'alcool qualifié (art. 91 al. 2 let. a de la loi fédérale sur la circulation routière du 19 décembre 1958 [LCR; RS 741.01]), de même qu'à une amende de 660 francs pour violation simple des règles de la circulation routière (<ref-law>), et il avait fait l'objet d'une détention préventive durant un jour.
Pour le surplus, "rien ne [semblait] venir porter atteinte à la réputation actuelle du candidat", dont les devoirs étaient respectés et qui se voyait attribuer par l'enquêteur la qualification "suffisant" pour l'évaluation du réseau d'amitié, le sens civique, les activités liées à des associations, sociétés sportives, culturelles, la participation à la vie locale, les intérêts manifestés pour le pays d'accueil et les connaissances générales de la Suisse.
Concernant les intérêts manifestés pour le pays d'accueil, il était noté que le candidat percevait relativement bien les sensibilités genevoises et que l'enquêteur avait pu aborder avec lui un certain nombre de sujets ou domaines liés à Genève et à la Suisse, démontrant de réels intérêts.
B.
Par arrêté du 22 novembre 2017, le Conseil d'Etat du canton de Genève a refusé la naturalisation genevoise à A._, au motif qu'il était au bénéfice d'une autorisation de séjour strictement temporaire pour études, échue depuis le 31 juillet 2017, qu'il n'avait pas convaincu les autorités de sa bonne intégration dans la communauté suisse et genevoise et que ce constat était corroboré par sa condamnation du 9 août 2016.
C.
Par arrêt du 19 mars 2019, la Chambre administrative de la Cour de justice du canton de Genève (ci-après: la Cour de justice) a admis le recours déposé par A._ contre l'arrêté du 22 novembre 2017 et a annulé celui-ci. Elle a renvoyé la cause au Conseil d'Etat afin qu'il examine la situation de l'intéressé, considérée dans son ensemble, en ne donnant pas à la condamnation pénale plus de poids que celui indiqué dans son arrêt, ainsi que les autres critères d'aptitude - ou conditions - pour la naturalisation, puis rende une nouvelle décision, au fond ou éventuellement de suspension, le cas échéant après préavis du Conseil administratif ou du maire de la commune choisie.
D.
Agissant par la voie du recours constitutionnel subsidiaire, le Conseil d'Etat du canton de Genève demande au Tribunal fédéral d'annuler l'arrêt du 19 mars 2019 et de confirmer l'arrêté du 22 novembre 2017.
Invités à se déterminer, A._ et la Cour de justice concluent au rejet du recours. Un second échange d'écritures a eu lieu, au terme duquel les parties ont maintenu leurs positions.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis.
1.1. Le recours en matière de droit public (<ref-law>) est irrecevable contre les décisions relatives à la naturalisation ordinaire (<ref-law>). Le recours constitutionnel subsidiaire est par conséquent ouvert (<ref-law>).
1.2. Aucun article de la LTF ne traite de l'éventuelle qualité pour recourir d'une collectivité publique par le biais du recours constitutionnel subsidiaire.
1.2.1. D'après l'<ref-law>, a qualité pour former un recours constitutionnel quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let. a) et a un intérêt juridique à l'annulation ou à la modification de la décision attaquée (let. b). Le recours constitutionnel ne peut être formé que pour violation des droits constitutionnels (<ref-law>). La notion d'intérêt juridiquement protégé au sens de l'<ref-law> est étroitement liée aux motifs de recours prévus par l'<ref-law>, en ce sens que la partie recourante doit être titulaire d'un droit constitutionnel dont elle invoque une violation. De tels droits ne sont reconnus en principe qu'aux citoyens, à l'exclusion des collectivités publiques qui, en tant que détentrices de la puissance publique, ne sont pas titulaires des droits constitutionnels et ne peuvent donc pas attaquer, par la voie du recours constitutionnel subsidiaire, une décision qui les traite en tant qu'autorités. Cette règle s'applique aux cantons, aux communes et à leurs autorités, ainsi qu'aux autres corporations de droit public, qui agissent en tant que titulaires de la puissance publique (<ref-ruling> consid. 5.1 p. 245 et les références citées).
La jurisprudence admet toutefois qu'il y a lieu de faire une exception pour les communes et autres corporations de droit public, lorsqu'elles n'interviennent pas en tant que détentrices de la puissance publique, mais qu'elles agissent sur le plan du droit privé ou qu'elles sont atteintes dans leur sphère privée de façon identique ou analogue à un particulier, notamment en leur qualité de propriétaire de biens frappés d'impôts ou de taxes ou d'un patrimoine financier ou administratif. Une seconde exception est admise en faveur des communes et autres corporations publiques lorsque, par la voie du recours constitutionnel subsidiaire, elles se plaignent de la violation de garanties qui leur sont reconnues par les constitutions cantonales ou par la Constitution fédérale, telles que leur autonomie, l'atteinte à leur existence ou à l'intégrité de leur territoire (<ref-ruling> consid. 5.1 p. et les arrêts cités; cf. aussi GIOVANNI BIAGGINI, in: Basler Kommentar, Bundesgerichtsgesetz, 3 ème éd. 2018, n° 1 ad <ref-law>; HANSJÖRG SEILER, in: Bundesgerichtsgesetz, 2 ème éd. 2015, n os 11 ss ad <ref-law>; JEAN-MAURICE FRÉSARD, in: Commentaire de la LTF, 2 ème éd. 2014, n° 13 ad <ref-law>). Pour déterminer si ces conditions sont remplies, on n'examine pas d'abord le statut des parties, mais bien la nature juridique du rapport qui est à la base du litige (<ref-ruling> consid. 5.1 p. 245 et les références).
Ces deux exceptions pour les collectivités publiques doivent être interprétées restrictivement (cf. <ref-ruling> consid. 2.1 p. 164).
1.2.2. En l'espèce, le canton recourant attaque un arrêt de sa propre juridiction administrative où celle-ci parvient à une solution juridique divergeant de celle retenue par les autorités exécutives. Il soutient avoir un intérêt juridique à l'annulation ou à la modification de l'arrêt attaqué compte tenu des importantes répercussions de l'arrêt attaqué sur la pratique cantonale en matière de naturalisation ordinaire. Il ne dispose cependant pas d'une position juridique protégée lui conférant la qualité pour agir au fond par le biais du recours constitutionnel subsidiaire. En effet, la première exception octroyant la qualité pour recourir à une collectivité publique en matière de recours constitutionnel subsidiaire n'est pas remplie puisque le canton recourant n'est pas atteint d'une manière analogue à celle d'un privé, dans le domaine de la naturalisation ordinaire. C'est au contraire en tant que détenteur de la puissance publique qu'il intervient en refusant ou en octroyant la naturalisation ordinaire.
Quant à la seconde exception, le canton ne la remplit pas non plus. En effet, un canton ne peut pas se prévaloir d'autonomie au sens de l'art. 50 Cst. qui ne garantit que l'autonomie communale (<ref-ruling> consid. 5.3.1 p. 245). Le canton recourant ne fait valoir en outre aucune atteinte à son existence ou à l'intégrité de son territoire. Il n'est de surcroît pas titulaire de droits fondamentaux, mais est au contraire tenu de les respecter et de contribuer à leur réalisation (art. 35 al. 2 Cst.; GIOVANNI BIAGGINI, in: Basler Kommentar, Bundesgerichtsgesetz, 3 ème éd. 2018, n° 1 ad <ref-law>; AUER/MALINVERNI/ HOTTELIER, Droit constitutionnel suisse, vol 1, 3ème éd, 2013, n° 2225; DAVID HOFMANN, La qualité de l'Etat pour recourir au Tribunal fédéral, in: Actualités juridiques de droit public 2011, 2011, p. 45).
Enfin, l'art. 51 al. 2 aLN, qui prévoit que "les cantons et communes concernés ont également qualité pour recourir" à l'échelon fédéral n'ouvre pas au canton la voie du recours constitutionnel subsidiaire au Tribunal fédéral. L'art. 51 al. 1 aLN précise en effet que "les recours contre les décisions cantonales de dernière instance et contre les décisions des autorités administratives de la Confédération sont régis par les dispositions générales de la procédure fédérale", lesquelles, on l'a vu, n'autorisent pas un canton à déposer un recours constitutionnel subsidiaire en matière de naturalisation ordinaire. L'art. 51 al. 2 aLN permet en revanche au canton de recourir contre une décision du Secrétariat d'Etat aux migrations relative notamment à la naturalisation ordinaire, à la naturalisation facilitée ou encore à la réintégration auprès du Tribunal administratif fédéral (voir par exemple, arrêt du Tribunal administratif fédéral F-6715/2016 du 9 mai 2018 consid. 1.3; MINH SON NGUYEN, Code annoté de droit des migrations, volume V, Loi sur la nationalité, ad art. 51 LN n° 11). L'art. 51 al 2 aLN donne aussi la possibilité au canton d'interjeter un recours en matière de droit public auprès du Tribunal fédéral contre un arrêt du Tribunal administratif fédéral portant sur une naturalisation facilitée (arrêt 1C_317/2013 du 8 août 2013 consid. 1.2).
2.
Il s'ensuit que le recours doit être déclaré irrecevable.
Il n'y a pas lieu de percevoir de frais judiciaires, le Conseil d'Etat ayant agi dans l'exercice de ses attributions officielles sans que son intérêt patrimonial soit en cause (<ref-law>). Le canton de Genève versera néanmoins une indemnité à titre de dépens à l'intimé, qui obtient gain de cause avec l'assistance d'un avocat (<ref-law>). Le montant est fixé par le Tribunal fédéral en fonction de l'importance et de la difficulté de la cause ainsi que selon le travail effectué (art. 2 al. 1 et 6 du règlement du 31 mars 2006 sur les dépens alloués à la partie adverse et sur l'indemnité pour la représentation d'office dans les causes portées devant le Tribunal fédéral [RS 173.110.210.3]). Les circonstances de l'espèce ne commandent pas de s'écarter du montant habituellement octroyé à ce titre.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Il n'est pas perçu de frais judiciaires.
3.
Une indemnité de 2'000 fr. est allouée à l'intimé à titre de dépens, à la charge du canton de Genève.
4.
Le présent arrêt est communiqué au Conseil d'Etat, au mandataire de l'intimé et à la Chambre administrative de la Cour de justice du canton de Genève, ainsi qu'au Secrétariat d'Etat aux migrations à titre d'information.
Lausanne, le 10 mars 2020
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Chaix
La Greffière : Tornay Schaller