Faits :
A.
X._, ressortissant français né en 1963, s'est marié en Suisse en 1984 avec une ressortissante helvétique. Deux enfants de nationalité suisse sont issus de cette union (1983 et 1985). Le 4 février 1988, l'intéressé a obtenu une autorisation de travail pour frontalier, régulièrement renouvelée jusqu'en 1992. Les époux ont divorcé le 4 février 1992. Le 24 mars 1992, le troisième enfant de X._ est né. Sa mère a épousé ce dernier le 3 juillet 1992. Le 25 mai 1994, l'intéressé a obtenu une autorisation de séjour puis, le 18 juillet 1997, il a été mis au bénéfice d'une autorisation d'établissement. Son deuxième divorce a été prononcé le 15 septembre 1998. Le 18 décembre 1998, son quatrième enfant est né en France. Sa mère est une ressortissante suisse vivant en France.
Entre 1986 et 2013, X._ a été condamné à neuf reprises en Suisse et en France:
-en 1986, en France, à douze mois d'emprisonnement pour instigation à une agression;
- le 17 février 1994, à dix-huit mois de peine privative de liberté et à dix ans d'expulsion du territoire suisse, avec sursis, pour vols en bande et par métier, tentatives de vols en bande, dommages à la propriété et conduite d'un véhicule automobile sans assurance responsabilité civile;
- le 15 octobre 1996, à quarante-cinq jours d'arrêt, ainsi qu'à une amende de 300 fr., pour conduite malgré un retrait de permis de conduire;
- le 16 mars 1998, à 30 jours d'arrêts, ainsi qu'à une amende de 500 fr. pour conduite sous retrait de permis de conduire;
- le 2 octobre 2008, à une peine pécuniaire de 40 jours-amende avec sursis, ainsi qu'à une amende de 400 fr. pour violation simple des règles de la circulation routière, conduite en état d'ébriété avec un taux d'alcoolémie qualifié et conduite sans permis ou malgré un retrait;
- le 3 décembre 2008, à une peine pécuniaire de 75 jours-amende avec sursis, ainsi qu'à une amende de 1'700 fr. pour violation simple des règles de la circulation routière, opposition ou dérobade aux mesures visant à déterminer l'incapacité de conduire et conduite sans permis ou malgré un retrait;
- le 16 juillet 2009, à une peine pécuniaire de 60 jours-amende pour conduite sans permis ou malgré un retrait;
- le 17 septembre 2010, à une peine privative de liberté de douze mois avec sursis pour tentative de vol, violation de domicile et dommages à la propriété;
- le 30 mai 2013, à une peine privative de liberté de quinze mois pour infraction et infraction grave à la LStup (RS 812.121) et conduite sans permis;
X._ a en outre été interdit d'entrée en Suisse en 1982 et en 1984 et a fait l'objet d'avertissements de la part de l'Office cantonal de la population et des migrations de la République et canton de Genève (ci-après: l'Office cantonal) en 1994, 1996 et 2011.
Il est au bénéfice d'une rente entière de l'assurance-invalidité. Le 19 janvier 2016, il a été engagé à 50% auprès d'un établissement public pour l'intégration. Il fait l'objet d'actes de défaut de biens pour un montant de 136'225 fr. 75.
B.
Par décision du 16 juillet 2015, le Département de la sécurité et de l'économie de la République et canton de Genève (ci-après: le Département) a révoqué l'autorisation d'établissement de X._ et prononcé son renvoi de Suisse. Le 12 février 2016, sur recours du 14 septembre 2015, le Tribunal administratif de première instance de la République et canton de Genève (ci-après: le Tribunal administratif de première instance) a confirmé cette décision. X._ a contesté ce prononcé le 4 avril 2016 auprès de la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice). Par arrêt du 20 décembre 2016, la Cour de justice a admis le recours et adressé un avertissement à X._.
C.
Agissant par la voie du recours en matière de droit public, le Secrétariat d'Etat aux migrations (ci-après: le Secrétariat d'Etat) demande en substance au Tribunal fédéral d'annuler l'arrêt de la Cour de justice du 20 décembre 2016 et de confirmer la décision du Département, respectivement le jugement du 12 février 2016 du Tribunal administratif de première instance révoquant l'autorisation d'établissement de X._. Il se plaint de violation du droit fédéral et international.
Le Département a renoncé à formuler des observations. La Cour de justice persiste dans les considérants et le dispositif de son arrêt. X._ conclut au rejet du recours.

Considérant en droit :
1.
1.1. En vertu de l'art. 14 al. 2 de l'ordonnance fédérale du 17 novembre 1999 sur l'organisation du Département fédéral de justice et police (Org DFJP; RS 172.213.1), le Secrétariat d'Etat a qualité pour recourir devant le Tribunal fédéral (<ref-law>), dans le domaine du droit des étrangers, contre des décisions cantonales de dernière instance. Infirmant la révocation de l'autorisation d'établissement de l'intimé, l'arrêt entrepris peut faire l'objet d'un recours en matière de droit public, dès lors qu'il existe potentiellement un droit, du point de vue de l'étranger intimé, au maintien de cette autorisation (<ref-ruling> consid. 1.2.1 p. 4) et que le Secrétariat d'Etat peut contester l'arrêt cantonal qui reconnaît l'existence d'un tel droit (cf. <ref-ruling> consid. 1.2 p. 140 s.; arrêt 2C_523/2016 du 14 novembre 2016 consid. 1.1). La présente cause ne tombe ainsi pas sous le coup de l'art. 83 let. c ch. 2 LTF, ni d'aucune autre clause d'irrecevabilité figurant à l'<ref-law>.
1.2. Au surplus, le recours est dirigé contre un jugement final (<ref-law>) rendu dans une cause de droit public (<ref-law>) par un tribunal supérieur de dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF). Déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi, le recours est recevable.
2.
Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Le recourant ne peut critiquer les constatations de fait ressortant de la décision attaquée que si celles-ci ont été effectuées en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte, c'est-à-dire arbitraire (<ref-ruling> consid. 2.4 p. 314), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>; <ref-ruling> consid. 4.2 p. 234). Conformément à l'<ref-law>, le recourant doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées. Les faits et les critiques invoqués de manière appellatoire sont irrecevables (<ref-ruling> consid. 5.1 p. 356). Par ailleurs, aucun fait nouveau ni preuve nouvelle ne peut en principe être présenté devant le Tribunal de céans (<ref-law>).
3.
3.1. Dans l'arrêt entrepris, la Cour de justice a relevé que l'intimé avait fait l'objet de plusieurs menaces d'expulsion et constaté que les nombreux avertissements et sursis accordés, ainsi que les quatre enfants de celui-ci n'avaient pas eu l'effet escompté sur son comportement. Ce comportement, qui a conduit à la dernière condamnation pénale à quinze mois de peine privative de liberté, a été considéré comme constitutif d'une atteinte très grave à la sécurité et l'ordre publics. Sur cette base, l'autorité précédente a estimé que les conditions pour révoquer l'autorisation d'établissement de l'intimé étaient réunies. En revanche, la Cour de justice a jugé que la mesure d'éloignement ne respectait pas le principe de proportionnalité. Selon cette autorité, l'absence de récidive durant les cinq années postérieures à la dernière infraction pénale démontraient une prise de conscience de l'intimé. De plus, ce dernier s'était investi dans toutes les démarches entreprises dans le but d'améliorer sa situation personnelle, notamment sa santé. Malgré des problèmes de dos qui le rendaient inapte au travail, l'intimé avait insisté auprès des médecins, afin d'être autorisé à continuer à exercer une activité, démontrant ainsi sa forte volonté et sa détermination à tout mettre en oeuvre pour ne pas retomber dans la délinquance. L'autorité précédente a également tenu compte des bonnes relations que l'intimé entretient avec ses enfants pour exclure, en l'état, toute menace sérieuse pour la sécurité et l'ordre publics.
3.2. Le recourant reproche à la Cour de justice d'avoir violé les art. 96 al. 1 LEtr (RS 142.20) et 5 annexe I ALCP (RS 0.142.112.681). Selon lui, les nombreuses condamnations de l'intimé, qui se sont aggravées au fil du séjour en Suisse, font de ce dernier un multirécidiviste. Il estime notamment que c'est à tort que la Cour de justice a donné autant de poids au comportement de l'intimé depuis 2011 et la commission de sa dernière infraction. Selon le recourant, qui met en doute la possibilité pour l'intimé d'invoquer l'ALCP, il n'est pas question de simples actes isolés, mais de délinquance chronique qui constitue une menace réelle, actuelle et d'une certaine gravité pour l'ordre public suisse. En outre, rappelant la dernière condamnation à quinze mois de peine privative de liberté pour infraction grave à la LStup et la lourde faute de l'intimé, qui a agit par pur appât du gain, le recourant est également d'avis que la mesure confirmée par le Tribunal administratif de première instance respecte le principe de proportionnalité. Il ajoute que les enfants de l'intéressé sont tous majeurs, que celui-ci n'a pas fait état de relations particulièrement étroites avec eux et qu'il fait l'objet d'actes de défaut de biens pour un montant total d'environ 136'000 francs.
3.3. Le litige porte donc sur le point de savoir si c'est à bon droit que la Cour de justice a retenu que la révocation de l'autorisation d'établissement de l'intimé constituait une mesure disproportionnée et, partant, annulé le jugement du Tribunal administratif de première instance.
4.
La Cour de justice a correctement présenté le droit applicable (art. 2 al. 2, 62 al. 1 let. b par renvoi de l'art. 63 al. 2, 96 al. 1 LEtr et 5 al. 1 annexe I ALCP) et la jurisprudence topique, relative notamment à la peine privative de liberté de longue durée (<ref-ruling> consid. 2.1 p. 147), à la notion d'ordre public (<ref-ruling> consid. 5.3 p. 125 s.) et à la proportionnalité de la mesure de révocation de l'autorisation (<ref-ruling> consid. 4.3 p. 381 s.), de sorte qu'il y est renvoyé.
5.
5.1. En ayant été condamné une fois à quinze mois de peine privative de liberté, l'intimé réunit les conditions de la peine privative de liberté de longue durée de l'art. 62 al. 1 let. b, par renvoi de l'art. 63 al. 2 LEtr, si bien qu'il n'y a pas, en plus, à se demander s'il a attenté de manière très grave à la sécurité et l'ordre publics (art. 63 al. 1 let. b et al. 2 LEtr). Le simple fait que l'intimé a été condamné à une peine dépassant un an de peine privative de liberté suffit à constituer un cas d'application de l'art. 63 al. 2 LEtr et permet de révoquer l'autorisation d'établissement. Il n'est pas nécessaire d'examiner s'il réunit, en plus, d'autres conditions de révocation.
5.2. Le recourant fait valoir une violation de l'<ref-law> en tant que la Cour de justice n'a pas considéré que l'intimé présentait une menace actuelle et réelle d'une certaine gravité pour l'ordre public.
5.2.1. Dans son arrêt, la Cour de justice a relevé que les conditions posées à la révocation de l'autorisation d'établissement de l'intimé étaient réunies et a ensuite examiné la question de la proportionnalité de cette mesure. Compte tenu de cette structure, on peut penser qu'elle a implicitement jugé que les conditions de l'<ref-law> étaient également réunies en l'espèce. Cela ne ressort toutefois pas clairement de la motivation. On relèvera donc à ce propos que l'intimé est en Suisse depuis plus de 30 ans. Sur une période de 22 ans, il a été condamné à neuf reprises, les deux dernières fois, en septembre 2010 et mai 2013, à des peines de douze mois de peine privative de liberté avec sursis, respectivement de quinze mois de peine privative de liberté sans sursis. La dernière condamnation a été prononcée pour une infraction grave à la LStup, l'intimé ayant été retrouvé avec une importante quantité de drogue qu'il envisageait de vendre et de distribuer dans un unique dessein de gain facile. Le Tribunal ayant prononcé ce jugement a en outre considéré que la prise de conscience et la volonté d'amendement exprimés par l'intimé n'étaient pas suffisants pour établir un pronostic favorable. Ce dernier a par ailleurs notamment été condamné pour des infractions contre la vie et l'intégrité corporelle et contre le patrimoine, ainsi que pour des infractions à la LCR.
5.2.2. On mentionnera en premier lieu que l'intimé a commis des infractions envers lesquelles le Tribunal fédéral se montre particulièrement rigoureux (cf. <ref-ruling> consid. 5.3 p. 126), ayant été trouvé en possession de 73,65 grammes de cocaïne présentant un taux de pureté oscillant entre 34,1 et 35,9% et de 631 pilules d'ecstasy. Par son activité, l'intimé a mis un grand nombre de personnes en danger. De plus, si les autres infractions sont certes des infractions contre le patrimoine, il ne faut pas perdre de vue que le critère de la gravité peut également être réalisé par des actes qui présentent un degré de gravité comparativement moins élevé, mais qui, par leur répétition, démontrent chez l'étranger une incapacité à se conformer à l'ordre établi (cf. arrêt 2C_862/2012 du 12 mars 2013 consid. 3.2). Or, l'intimé a été systématiquement condamné, entre 1986 et 2013, sans jamais réduire un tant soit peu l'intensité de son activité délictuelle. Au contraire, celle-ci a augmenté pour atteindre quinze mois de peine privative de liberté en 2013 et une révocation du sursis précédemment octroyé. Sur le vu de ces éléments, il ne saurait être question de relativiser à ce point ses actes et ne pas admettre un risque de récidive concret. S'il faut reconnaître qu'il n'a plus commis d'infractions depuis l'année 2011 (année de commission des faits ayant conduit à la condamnation de 2013), cela ne suffit pas à exclure un tel risque.
5.2.3. Il convient donc de retenir que la révocation de l'autorisation d'établissement de l'intimé est une mesure qui respecte les conditions posées par l'<ref-law>. Pour cette raison, il n'y a pas à examiner si l'intimé peut effectivement se prévaloir de l'ALCP.
6.
Reste en définitive à examiner si la mesure de révocation de l'autorisation d'établissement confirmée par le Tribunal administratif de première instance et infirmée, sur recours, par la Cour de justice respecte le principe de proportionnalité prévu par l'art. 96 al. 1 LEtr.
6.1. En premier lieu, il convient de relever que l'intimé ne saurait tirer un quelconque argument de son bon comportement depuis sa dernière infraction en 2011. En effet, comme l'a relevé la Cour de justice, l'exécution de le peine de l'intimé n'a pris fin que le 31 octobre 2015. Or, durant l'exécution de sa peine, il est de toute façon attendu d'un délinquant qu'il se comporte de manière adéquate (<ref-ruling> consid. 5.5.2 p. 128). Par conséquent, contrairement à ce qu'à retenu l'autorité précédente, l'absence de récidive durant cinq ans ne saurait "sembler confirmer" une prise de conscience de l'intimé. Il faut au contraire bien plus se fonder sur la faute de l'intimé, considérée comme grave par l'autorité judiciaire pénale, et sur son incapacité crasse à se conformer au système juridique suisse.
L'intimé bénéficie d'une rente entière de l'assurance-invalidité. S'il est louable qu'il se soit investi dans une activité auprès d'un établissement public pour l'intégration, cette activité ne peut cependant être considérée comme un projet professionnel, ainsi que l'a jugé la Cour de justice. Ce projet étant limité à six mois, il n'est en effet nullement question de situation professionnelle stable. L'intimé a obtenu une autorisation frontalière en 1984 avant d'être interdit d'entrée en Suisse la même année. Il a finalement obtenu un titre de séjour en 1988, soit à l'âge de 25 ans. Il vit ainsi depuis bientôt 30 ans en Suisse, pays où il s'est marié à deux reprises. Cependant, malgré les nombreuses années passées en Suisse, il ne démontre aucune intégration sociale dans ce pays. Il a eu quatre enfants, tous ressortissants helvétiques. A ce jour toutefois, tous ses enfants sont majeurs, trois vivant à Genève et le dernier avec sa mère en France. Le recourant, qui a passé près de la moitié de sa vie dans son pays d'origine et y a suivi toute sa scolarité, s'est fréquemment rendu en France, afin de visiter son dernier enfant et la mère de celui-ci. Un retour dans ce pays ne poserait donc aucun problème à l'intimé. Il y retrouverait son dernier enfant et pourrait régulièrement revenir à Genève y rencontrer les trois autres. De plus, comme l'a mentionné l'autorité précédente, l'établissement en France de l'intimé sera facilité par le versement de sa rente entière (a priori ordinaire) de l'assurance-invalidité (cf. art. 7 du règlement [CE] n° 883/2004 du Parlement européen et du Conseil du 29 avril 2004 portant sur la coordination des systèmes de sécurité sociale [RS 0.831.109.268.1]; <ref-ruling>). La France bénéficiant d'un système de santé équivalant au système suisse, l'intimé ne rencontrera aucune difficulté pour obtenir les soins dont il a besoin. On ne voit finalement pas en quoi la mesure de révocation prise par le Département serait tardive, comme le fait valoir la Cour de justice, dès lors que celui-ci a entamé la procédure en juillet 2015, soit trois mois avant la fin de la peine de l'intimé.
6.2. Dans ces conditions, c'est à tort que la Cour de justice a considéré que la mesure était disproportionnée. En infirmant le jugement du Tribunal administratif de première instance, l'autorité précédente a violé l'art. 96 al. 1 LEtr. Il convient donc d'admettre le recours, d'annuler l'arrêt entrepris et de confirmer le jugement du Tribunal administratif de première instance du 12 février 2016.
7.
Succombant, l'intimé doit supporter les frais judiciaires (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'autorité recourante (<ref-law>). La cause est renvoyée à la Cour de justice pour qu'elle procède à une nouvelle répartition des frais et dépens de la procédure qui s'est déroulée devant elle (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt du 20 décembre 2016 rendu par la Cour de justice est annulé. Le jugement du 12 février 2016 du Tribunal administratif de première instance est confirmé.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de l'intimé.
3.
La cause est renvoyée à la Cour de justice, afin qu'elle statue à nouveau sur le sort des frais et dépens de la procédure devant elle.
4.
Le présent arrêt est communiqué au recourant, à la mandataire de l'intimé, au Département de la sécurité et de l'économie et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 19 juillet 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Tissot-Daguette