Faits :
A.
A.a. Ressortissant turc né en janvier 1989, A._ est entré en Suisse en octobre de la même année avec sa famille, en qualité de requérant d'asile. Le statut de réfugié lui a été reconnu en 1996 et, en 1997, une autorisation d'établissement lui a été délivrée. Sa mère ayant renoncé au statut de réfugié en 2001 pour pouvoir regagner la Turquie, A._ a aussi perdu ce statut, mais conservé son autorisation d'établissement.
Le 29 décembre 2003, A._ a bénéficié d'un retrait de plainte à la suite d'une conciliation qui a abouti devant le Tribunal des mineurs dans le cadre d'une bagarre entre jeunes. Il a aussi bénéficié d'un non-lieu prononcé le 15 décembre 2005 par le Tribunal des mineurs, l'enquête n'ayant pas pu établir son implication dans une bagarre. A._ a en revanche été condamné pénalement:
- le 7 août 2007, à une peine pécuniaire de 5 jours-amende, avec sursis pendant deux ans, et à une amende de 300 fr. pour délit à la loi fédérale sur les armes;
- le 27 octobre 2008, à une peine pécuniaire de 60 jours-amende, avec sursis pendant deux ans, et à une amende de 500 fr. pour agression;
- le 22 novembre 2011, à une peine pécuniaire de 25 jours-amende, avec sursis pendant trois ans, et à une amende de 800 fr. pour délit et contravention à la loi fédérale sur les stupéfiants;
- le 11 janvier 2012, à une peine pécuniaire de 5 jours-amende pour violation des règles de la circulation routière;
- le 4 octobre 2012, à une amende de 600 fr. pour violation des règles de la circulation routière;
- le 22 novembre 2012, à une amende de 40 fr. pour violation des règles de la circulation routière;
- le 27 novembre 2014, à une peine pécuniaire de 30 jours-amende et à une amende de 200 fr. pour délit et contravention à la loi fédérale sur les stupéfiants, le sursis octroyé le 22 novembre 2011 étant au surplus révoqué.
Le 4 septembre 2018, A._ a été condamné à une peine privative de liberté de 22 mois, avec sursis pendant quatre ans, et à une amende de 1'000 fr. pour conduite malgré une incapacité et crime (trafic par métier) et contravention à la loi fédérale sur les stupéfiants. Au cours de la procédure, A._ a reconnu avoir acquis, entre janvier 2013 et octobre 2015, environ 14.4 kg de marijuana et 800 g. de haschich, dont il a revendu respectivement environ 10.4 kg et 640 g., conservant le solde pour sa consommation personnelle et celle de sa compagne.
Le 17 octobre 2017, le Secrétariat d'Etat aux migrations a prononcé à l'encontre de A._ une interdiction d'entrée en Suisse et au Liechtenstein jusqu'au 16 octobre 2024, mentionnant qu'il n'avait pas pu entendre l'intéressé, son adresse étant inconnue. Cette décision a été notifiée à A._ le 11 avril 2018, au cours d'un contrôle de police. A._ a alors recouru contre cette décision auprès du Tribunal administratif fédéral, invoquant une violation de son droit d'être entendu. Après avoir pris connaissance du recours, le Secrétariat d'Etat aux migrations a annulé sa décision et le Tribunal administratif fédéral a partant rayé la cause du rôle.
B.
Par décision du 4 avril 2019, le Service cantonal a révoqué l'autorisation d'établissement de A._ et ordonné son renvoi de Suisse. A._ a formé un recours contre cette décision auprès du Conseil d'État du canton du Valais, qui l'a rejeté (décision du 19 février 2020). Statuant sur recours de l'intéressé contre la décision du 19 février 2020, le Tribunal cantonal du Valais, Cour de droit public (ci-après: le Tribunal cantonal) l'a rejeté dans la mesure de sa recevabilité par arrêt du 4 décembre 2020.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral, sous suite de frais et dépens, principalement, d'annuler l'arrêt du 4 décembre 2020 du Tribunal cantonal et de maintenir son autorisation d'établissement, cas échéant de la renouveler; subsidiairement, de le mettre au bénéfice d'une autorisation de séjour.
Par ordonnance du 12 mars 2021, le Tribunal fédéral a admis la requête d'effet suspensif contenue dans le recours.
Le Tribunal cantonal renonce à se déterminer. Le Service cantonal fait de même, tout en concluant à la confirmation de l'arrêt attaqué. Le Conseil d'Etat se rallie à l'arrêt attaqué et conclut au rejet du recours dans la mesure de sa recevabilité. Le Secrétariat d'Etat aux migrations a renoncé à se déterminer.

Considérant en droit :
1.
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Il est recevable contre les décisions révoquant, comme en l'espèce, une autorisation d'établissement, parce qu'il existe en principe un droit au maintien de cette autorisation (<ref-ruling> consid. 1.2.1). La voie du recours en matière de droit public est donc ouverte.
1.2. Le recours a par ailleurs été déposé en temps utile (art. 46 al. 1 let. c et art. 100 al. 1 LTF) contre une décision finale (art. 90 LTF), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF), par le destinataire de l'arrêt attaqué, qui a qualité pour recourir (cf. art. 89 al. 1 LTF). Il y a donc lieu d'entrer en matière.
2.
Saisi d'un recours en matière de droit public, le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Selon l'art. 106 al. 2 LTF toutefois, le Tribunal fédéral n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal et intercantonal que si ce grief a été invoqué et motivé par le recourant, c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (cf. <ref-ruling> consid. 1.2.2; III 364 consid. 2.4).
3.
3.1. Pour statuer, le Tribunal fédéral se fonde sur les faits établis par l'autorité précédente (cf. art. 105 al. 1 LTF), sous réserve des situations visées à l'art. 105 al. 2 LTF. Selon l'art. 97 al. 1 LTF, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'art. 95 LTF et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 6; <ref-ruling> consid. 1.6). Les faits invoqués de manière appellatoire sont irrecevables (<ref-ruling> consid. 1.3; <ref-ruling> consid. 3.6.2), le Tribunal fédéral étant juge du droit et non pas une instance d'appel (cf. arrêts 2C_814/2020 du 18 mars 2021 consid. 2.2; 2C_922/2018 du 13 mai 2019 consid. 3).
Par ailleurs, aucun fait nouveau ni preuve nouvelle ne peut être présenté, à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF). Cette exception vise les faits qui sont rendus pertinents pour la première fois par la décision attaquée; peuvent en particulier être allégués des faits nouveaux concernant le déroulement de la procédure devant l'instance précédente, afin d'en contester la régularité, ou encore des faits postérieurs à l'arrêt attaqué permettant d'établir la recevabilité du recours. En dehors de ces cas, les nova ne sont pas admissibles, qu'il s'agisse de faits ou moyens de preuve survenus postérieurement à la décision attaquée ou d'éléments que les parties ont négligé de présenter aux autorités cantonales (<ref-ruling> consid. 1.2; <ref-ruling> consid. 3.1.2; <ref-ruling> consid. 4.4.3). Quant aux faits notoires, il n'est pas nécessaire de les alléguer, parce que leur existence est certaine au point d'emporter la conviction du juge et qu'il n'est pas même exigé de les prouver. Pour être notoire, un renseignement ne doit pas être constamment présent à l'esprit; il suffit qu'il puisse être contrôlé par des publications accessibles à chacun (cf. au surplus <ref-ruling> consid. 1.1.1 et, entre autres, les arrêts 2C_815/2020 du 11 février 2021 consid. 2.2; 2C_80/2020 du 15 octobre 2020 consid. 2).
3.2. En l'espèce, le recourant présente, sous la partie "Faits" de son mémoire, sa propre version des événements, sous la forme d'allégués avec offres de preuve, comme il le ferait devant une instance d'appel. En tant que les faits ainsi allégués ne sont pas constatés dans l'arrêt attaqué sans que le recourant ne s'en plaigne, il n'en sera pas tenu compte. Pour les mêmes raisons, les faits que le recourant invoque à l'appui de son raisonnement juridique, mais qui ne sont pas constatés dans l'arrêt attaqué, ne seront pas pris en considération.
3.3. Le recourant fait par ailleurs valoir que certains faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF par les "autorités précédentes".
3.3.1. On comprend de la lecture du mémoire que certains de ces griefs sont dirigés non pas contre l'arrêt attaqué, mais contre le Service cantonal (à qui il reproche une instruction insuffisante), ou contre le Conseil d'Etat (qui a retenu que sa compagne avait joué un rôle négatif dans son comportement pénal). Ces griefs sont d'emblée irrecevables eu égard à l'effet dévolutif de son recours au Tribunal cantonal (<ref-ruling> consid. 1.2).
3.3.2. A l'encontre de l'arrêt attaqué, on comprend du mémoire que le recourant reproche aux juges précédents de ne pas avoir retenu que son départ pour la Turquie l'exposerait à des risques pour sa sécurité en raison du passé de son père dans ce pays, mais également au risque de devoir y accomplir le service militaire et d'être envoyé ensuite dans des zones de guerre. Il leur fait aussi grief d'avoir omis de prendre en compte que son village d'origine est situé dans une zone reculée et dangereuse. Il ne soutient toutefois pas avoir allégué ces faits devant les juges précédents ni, a fortiori, que ceux-ci les auraient arbitrairement omis. Au surplus, et contrairement à ce qu'il fait valoir, ces faits ne sont pas des faits notoires. Ils ne peuvent partant pas être pris en compte.
3.4. C'est en outre en vain que le recourant fait valoir que certains des faits qu'il allègue (présence de neveux avec qui il a des contacts étroits en Suisse, attestation de son employeur) devraient exceptionnellement être acceptés en tant que "vrais novas", car ils n'en présentent pas les caractéristiques. Il n'en sera partant pas tenu compte dans le présent arrêt.
3.5. Finalement, le recourant reproche aux juges précédents d'avoir mal apprécié la portée de l'évolution de son comportement dans la pesée des intérêts. Cette question relève toutefois de l'appréciation de la proportionnalité de la révocation de son autorisation d'établissement et sera partant examinée sous cet angle (infra consid. 5.2).
4.
Le litige porte sur le droit du recourant de poursuivre son séjour en Suisse.
4.1. Le 1er janvier 2019 est entrée en vigueur une révision de la loi fédérale du 16 décembre 2005 sur les étrangers (aLEtr, RO 2007 5437), rebaptisée à cette occasion loi fédérale sur les étrangers et l'intégration (LEI; RO 2017 6521). Selon l'art. 126 al. 1 LEI, les demandes déposées avant l'entrée en vigueur de la présente loi sont régies par l'ancien droit. Dans le cas d'une révocation de l'autorisation d'établissement, c'est le moment de l'ouverture de la procédure de révocation qui est déterminant (arrêt 2C_1072/2019 du 25 mars 2020 consid. 7.1), soit, en l'espèce, le 22 février 2019 (arrêt attaqué p. 6). La présente cause est donc régie par le nouveau droit.
4.2. Selon l'art. 63 al. 3 LEI, est illicite toute révocation fondée uniquement sur des infractions pour lesquelles un juge pénal a déjà prononcé une peine ou une mesure mais a renoncé à prononcer une expulsion. En l'occurrence, les actes pour lesquels le recourant a été condamné le 4 septembre 2018 et qui ont donné lieu à la révocation de son autorisation d'établissement ont tous été commis avant le 1 er octobre 2016, de sorte qu'aucune expulsion au sens des 66a ss CP n'entrait en ligne de compte (cf. sur ce point, entre autres, les arrêts 2C_652/2020 du 20 janvier 2021 consid. 4.2; 2C_699/2020 du 25 novembre 2020 consid. 3.4; 2C_467/2020 du 17 novembre 2020 consid. 3.1 et les références). La révocation de l'autorisation d'établissement du recourant n'est donc pas illicite au sens de l'art. 63 al. 3 LEI.
4.3. Selon l'art. 62 al. 1 let. b LEI, applicable aux autorisations d'établissement par le renvoi de l'art. 63 al. 1 let. a LEI, l'autorisation d'établissement d'un étranger peut être révoquée lorsqu'il a été condamné à une peine privative de liberté de longue durée. Selon la jurisprudence, est de longue durée une peine dépassant un an d'emprisonnement, qu'elle soit ou non assortie d'un sursis (<ref-ruling> consid. 2.1; <ref-ruling> consid. 5.1).
Conformément à l'art. 63 al. 1 let. b LEI, l'autorisation d'établissement d'un étranger peut aussi être révoquée lorsqu'il attente de manière très grave à la sécurité et l'ordre publics en Suisse ou à l'étranger, les met en danger ou représente une menace pour la sécurité intérieure ou extérieure de la Suisse.
Ces deux motifs de révocation sont alternatifs (arrêts 2C_861/2018 du 21 octobre 2019 consid. 2.1; 2C_559/2015 du 31 janvier 2017 consid. 5.1).
4.3.1. En l'occurrence, le Tribunal cantonal a relevé que le recourant ne contestait pas remplir le motif de révocation de l'art. 62 al. 1 let. b LEI en raison de la peine privative de liberté de 22 mois qui lui avait été infligée le 4 septembre 2018, de sorte qu'il n'y avait pas à revenir sur ce point.
4.3.2. Le recourant conteste avoir admis l'existence d'un motif de révocation. Il soutient que la révocation de l'autorisation d'établissement d'un étranger qui, comme lui, séjourne depuis plus de quinze ans en Suisse n'est possible que s'il attente de manière très grave à la sécurité et à l'ordre public et que tel ne serait pas son cas, quand bien même il a été condamné à une peine privative de liberté de longue durée. Il invoque une violation des art. 62 et 63 LEI.
4.3.3. En tant qu'il fait référence à un séjour de plus de quinze ans, le recourant semble ici se fonder sur l'art. 63 al. 2 aLEtr, selon lequel l'autorisation d'établissement d'un étranger qui séjournait en Suisse légalement et sans interruption depuis plus de quinze ans ne pouvait être révoquée que pour les motifs mentionnés à l'al. 1 let. b et à l'art. 62 al. 1 let. b aLEtr. Or, l'art. 63 al. 2 aLEtr n'existe plus dans cette teneur depuis le 1er janvier 2019 et l'entrée en vigueur du nouveau droit, qui s'applique à la présente cause (cf. supra consid. 4.1). Au demeurant, le recourant perd de vue que, sous l'empire de l'aLEtr également, l'existence d'une peine privative de liberté de longue durée constituait - cf. le renvoi à l'art. 62 al 1 let. b aLEtr prévu à l'art. 63 al. 2 aLEtr - un motif de révocation de l'autorisation d'établissement d'un étranger séjournant comme lui depuis plus de 15 ans en Suisse.
4.3.4. En l'espèce, la peine privative de liberté de 22 mois qui a été infligée au recourant le 4 septembre 2018 représente une peine de longue durée au sens de l'art. 62 al. 1 let. b LEI, applicable par renvoi de l'art. 63 al. 1 let. a LEI. Le recourant remplissant ce motif de révocation, il n'est pas nécessaire de se demander au surplus s'il remplit aussi celui de l'art. 63 al. 1 let. b LEI.
4.3.5. Le grief de violation des art. 62 et 63 LEI est par conséquent rejeté.
5.
S'agissant de la proportionnalité de la mesure, le Tribunal cantonal a estimé, en substance, qu'au vu du comportement pénal passé du recourant, l'intérêt public à son éloignement primait son intérêt privé à y rester et il en a conclu que la révocation de son autorisation d'établissement était une mesure proportionnée.
5.1. Invoquant une violation des art. 96 LEI, 5 Cst. et 8 CEDH, le recourant soutient que la révocation de son autorisation d'établissement viole le principe de la proportionnalité.
5.2. Selon l'art. 96 al. 1 LEI, les autorités compétentes tiennent compte, en exerçant leur pouvoir d'appréciation, des intérêts publics, de la situation personnelle de l'étranger, ainsi que de son intégration. La pesée globale des intérêts requise par cette disposition est analogue à celle commandée par l'art. 8 par. 2 CEDH et peut être effectuée conjointement à celle-ci (cf. <ref-ruling> consid. 2.3.2; <ref-ruling> consid. 2.2), étant rappelé qu'un séjour légal d'environ dix ans permet en principe à un étranger de se prévaloir de l'art. 8 CEDH sous l'angle de la vie privée (<ref-ruling> consid. 3.9). Quant à l'art. 5 al. 2 Cst., il est concrétisé à l'art. 96 LEI, de sorte qu'il n'y a pas lieu de procéder à un examen distinct de la proportionnalité sous cet angle (arrêt 2C_329/2020 du 10 juin 2020 consid. 7.1 et les références).
5.2.1. Lors de l'examen de la proportionnalité de la mesure de révocation, il y a lieu de prendre en considération la gravité de la faute commise, le degré d'intégration, la durée du séjour en Suisse, ainsi que le préjudice que l'intéressé et sa famille auraient à subir du fait de la mesure (<ref-ruling> consid. 2.2.1; <ref-ruling> consid. 4.3). Quand la révocation d'un titre de séjour est prononcée en raison de la commission d'une infraction, la peine infligée par le juge pénal est le premier critère pour évaluer la gravité de la faute et procéder à la pesée des intérêts. Lors d'infractions pénales graves, il existe, sous réserve de liens personnels ou familiaux prépondérants, un intérêt public digne de protection à mettre fin au séjour d'un étranger, afin de préserver l'ordre public et prévenir la commission de nouveaux actes délictueux (cf. <ref-ruling> consid. 2.3.2). Pour évaluer la menace pour l'ordre public que représente un étranger condamné pénalement, le Tribunal fédéral se montre particulièrement rigoureux en présence de certaines infractions, dont font partie les infractions à la législation fédérale sur les stupéfiants (cf. <ref-ruling> consid. 5.3).
5.2.2. En ce qui concerne l'appréciation du risque de récidive s'agissant d'étrangers qui sont nés en Suisse ou qui y résident depuis très longtemps, le Tribunal fédéral attache une importance particulière, du point de vue de la proportionnalité de la mesure, aux perspectives d'avenir concrètes pour la personne concernée si elle devait rester en Suisse, c'est-à-dire si et dans quelle mesure elle a tiré les leçons des sanctions pénales et des éventuels avertissements reçus en droit des étrangers et si elle peut démontrer de manière crédible un changement clair dans son projet de vie et son comportement futur ("revirement biographique"; "biographische Kehrtwende"). Si, au moment de la décision de révocation du droit de séjour en Suisse, l'étranger s'est établi professionnellement, il peut être disproportionné de révoquer son autorisation d'établissement après de nombreuses années de résidence en Suisse et de le contraindre ainsi à renoncer à ses racines sociales, culturelles, linguistiques et vraisemblablement aussi économiques et professionnelles en Suisse (cf. notamment les arrêts 2C_717/2019 du 24 septembre 2020 consid. 3.1; 2C_468/2020 du 27 août 2020 consid. 7.2.3 et les références; 2C_634/2018 du 5 février 2019 consid. 6.3.1 et les références; 2C_314/2018 du 10 janvier 2019 consid. 3.4; 2C_50/2018 du 14 août 2018 consid. 5.1 et les références).
5.2.3. Par ailleurs, selon l'art. 96 al. 2 LEI, lorsqu'une mesure serait justifiée, mais qu'elle n'est pas adéquate, l'autorité compétente peut donner un simple avertissement à la personne concernée en lui adressant un avis comminatoire. En tant que concrétisation du principe de proportionnalité, l'avertissement doit empêcher une mesure mettant fin au séjour d'une personne en Suisse parce que cette mesure n'est pas encore justifiée et serait partant disproportionnée, tout en attirant l'attention de l'étranger du caractère problématique de son comportement (<ref-ruling> consid. 4.2). Il est généralement admis qu'un avertissement doit être adressé aux étrangers issus de la deuxième génération qui ont commis plusieurs infractions (cf. arrêts 2C_657/2020 du 21 mars 2021 consid. 3.2 in fine; 2D_37/2017 du 8 février 2018 consid. 6.2; 2C_27/2017 du 7 septembre 2017 consid. 4.1; 2C_94/2016 du 2 novembre 2016 consid. 3.4; cf. aussi arrêts 2C_314/2018 du 10 janvier 2019 consid. 7.1; 2C_308/2017 du 21 février 2018 consid. 5.4).
5.3. En l'espèce, durant sa minorité, le recourant s'est fait connaître du Tribunal des mineurs dans le contexte de bagarres entre jeunes. Il a ensuite fait l'objet de huit condamnations pénales entre 2007 et 2018. Il a été condamné à cinq reprises à des peines pécuniaires allant de 5 à 60 jours-amende, assorties d'amendes, pour une infraction à la loi fédérale sur les armes, une agression, deux délits et contraventions à la loi fédérale sur les stupéfiants et une infraction à la loi sur la circulation routière. Il a écopé de deux amendes pour infractions à la loi sur la circulation routière et a été condamné en dernier lieu à une peine privative de liberté de 22 mois avec sursis et à une amende pour crime et contravention à la loi sur les stupéfiants et infraction à la loi sur la circulation routière. Le recourant s'est ainsi illustré par un comportement pénal défavorable depuis son adolescence et durant plusieurs années de sa vie de jeune adulte. Sa dernière condamnation est celle qui a sanctionné les actes les plus graves, à savoir l'acquisition de plus de 14 kg de produits cannabiques entre janvier 2013 et octobre 2015, dont il a revendu la plus grande partie à des fins d'enrichissement personnel, le solde étant destiné à sa propre consommation et à celle de sa compagne. Il n'y a donc pas lieu de minimiser le comportement pénal passé du recourant, qui s'est livré à de graves infractions à la loi sur les stupéfiants.
Cela étant, il faut constater que la peine privative de liberté prononcée le 4 septembre 2018 pour crime (trafic par métier) et contravention à la loi sur les stupéfiants et conduite en incapacité est la première de cette nature qui a été infligée au recourant et que c'est aussi celle qui lui a valu la révocation de son autorisation d'établissement, sans qu'il ait fait l'objet d'un avertissement préalable.
A cela s'ajoute que le recourant, âgé de 31 ans, est arrivé en Suisse quand il n'avait que quelques mois et qu'il se trouve donc dans une situation comparable à celle d'un étranger issu de la deuxième génération, de sorte que l'évolution de son comportement joue un rôle important dans la pesée des intérêts. Sous cet angle, il convient en premier lieu de relever que les actes pour lesquels il a été condamné la dernière fois, soit le 4 septembre 2018, et qui sont à la base de la révocation de son autorisation d'établissement, ont été commis entre janvier 2013 et octobre 2015 (arrêt attaqué p. 14), qu'ils remontent donc à plus de cinq ans et qu'aucun élément de l'arrêt attaqué ne laisse penser que, depuis lors, le recourant se soit à nouveau fait connaître des autorités pénales. Sur le plan professionnel, l'évolution du recourant est positive: alors que son parcours professionnel avait été longtemps chaotique (l'arrêt attaqué relève qu'il a mis successivement fin à un apprentissage d'installateur sanitaire en 2005 puis à un apprentissage de plâtrier-peintre en 2006, avant d'exercer divers emplois, percevant toutefois des d'indemnités de chômage durant de longues périodes entre 2005 et 2016), il a été engagé comme magasinier à 100% le 1er août août 2016 et il occupe toujours ce poste depuis lors. Il est ainsi parvenu à stabiliser sa situation professionnelle depuis plusieurs années. Il faut en outre relever que la peine privative de liberté du 4 septembre 2018 a été entièrement assortie du sursis malgré ses condamnations antérieures. Il ressort à cet égard du jugement pénal que le Procureur a consenti à l'octroi d'un nouveau sursis, "dans la mesure où A._ a (vait) mené à bien un traitement ambulatoire auprès d'Addiction Valais (...), dans le cadre d'une collaboration et avec un investissement personnel que cet organisme qualifie d'excellents" (extrait du jugement pénal; art. 105 al. 2 LTF). Dès lors que les juges précédents relèvent eux-même que la toxicomanie du recourant avait joué un rôle dans son comportement (arrêt attaqué p. 14 s.), le fait qu'il ait mené à bien un traitement contre son addiction va aussi dans le sens d'un changement de comportement positif durable. L'ensemble de ces éléments dénote une prise de conscience et un changement de projet de vie par le recourant, ce qui permet de considérer que l'intérêt public à son éloignement lié à un risque de récidive paraît désormais très ténu.
Au plan personnel, la famille proche du recourant vit en Suisse, à savoir ses parents, son frère, sa soeur, ainsi que certains autres membres de sa famille. Il a une relation stable depuis de nombreuses années avec sa compagne. Au niveau financier, le recourant perçoit un salaire mensuel net de 4'073 fr. et il n'a jamais émargé à l'aide sociale. Il est donc indépendant financièrement. L'arrêt attaqué fait certes état de dettes pour un montant non dérisoire, puisqu'elles s'élevaient, au 27 décembre 2018, à plus de 43'000 francs. Il est regrettable que les juges précédents, qui ont pourtant statué le 4 décembre 2020, n'aient pas actualisé sa situation à cet égard. On comprend néanmoins de la lecture de l'arrêt ("le 27 décembre 2018, il devait encore à ses créanciers près de 43'484 fr. 45") qu'il avait commencé à rembourser ses dettes. Quoi qu'il en soit, l'existence de ces dettes n'est pas suffisante pour faire primer l'intérêt public à l'éloignement du recourant sur son intérêt privé à y rester, eu égard aux éléments démontrant une évolution positive du recourant, qui a passé toute sa vie en Suisse.
5.4. Il découle de l'ensemble des circonstances qu'en révoquant l'autorisation d'établissement du recourant, le Tribunal cantonal a violé le principe de la proportionnalité. Il convient par conséquent d'annuler l'arrêt attaqué, tout en rendant attentif le recourant que, s'il devait récidiver, il pourrait, selon les circonstances, s'exposer à des mesures d'éloignement (<ref-ruling> consid. 3.9). Il y a donc lieu de lui adresser un avertissement en ce sens au sens de l'art. 96 al. 2 LEI.
6.
Par conséquent, le recours est admis, l'arrêt du 4 décembre 2020 du Tribunal cantonal est annulé et un avertissement est adressé au recourant.
Bien qu'il succombe, le canton du Valais, qui ne défend pas d'intérêt patrimonial, ne peut se voir imposer les frais de justice (cf. art. 66 al. 1 et 4 LTF). Ayant obtenu gain de cause avec l'aide d'un mandataire, le recourant a droit à des dépens (art. 68 al. 1 et 2 LTF).
Le Tribunal fédéral ne fera pas usage de la faculté prévue aux art. 67 et 68 al. 5 LTF et la cause sera renvoyée au Tribunal cantonal pour qu'il statue à nouveau sur les frais et dépens de la procédure menée devant lui (art. 67 et 68 al. 5 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis et l'arrêt du 4 décembre 2020 du Tribunal cantonal du Valais est annulé.
2.
Un avertissement est adressé au recourant, dans le sens des considérants.
3.
La cause est renvoyée au Tribunal cantonal pour qu'il statue à nouveau sur le sort des frais et dépens de la procédure antérieure.
4.
Le canton du Valais versera au recourant une indemnité de dépens, fixée à 2'500 francs.
5.
Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et des migrations du canton du Valais, au Conseil d'Etat du canton du Valais, au Tribunal cantonal du canton du Valais, Cour de droit public, et au Secrétariat d'Etat aux migrations.
Lausanne, le 7 mai 2021
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Vuadens