Faits : A. X._, ressortissant serbe né en 1980, est arrivé en Suisse le 30 juin 1991 avec ses parents et sa soeur. Il est au bénéfice d'une autorisation d'établissement. Il a un fils, né en 2009 ou 2010, qui vit en Serbie avec sa mère, ex-épouse de l'intéressé. Selon ses déclarations, X._ a suivi une formation de peintre en bâtiment pendant deux ans, formation qu'il n'a pas terminée. Il s'est rendu à plusieurs reprises dans son pays d'origine ces dernières années. X._ a fait l'objet de quatre condamnations pénales. Il a ainsi été sanctionné, le 5 juin 2007, à une peine pécuniaire de 10 jours-amendes à 80 francs, avec sursis pendant deux ans, et à une amende de 560 francs pour contravention et délit à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup ou la loi sur les stupéfiants; RS 812.121); le 7 janvier 2008, à une peine privative de liberté de six mois, avec sursis pendant deux ans, le sursis accordé le 5 juin 2007 étant révoqué, pour le même type de délit; le 8 août 2008, à une peine pécuniaire de 90 jours-amendes à 20 francs, le sursis accordé le 7 janvier 2008 étant révoqué, pour lésions corporelles simples, violence ou menace contre les autorités et les fonctionnaires et contraventions à la loi sur les stupéfiants, et le 13 janvier 2014, à une peine privative de liberté de 21 mois, peine partiellement complémentaire à celle prononcée le 7 janvier 2008, et à une amende de 250 francs, pour vol, tentative de vol, dommages à la propriété, utilisation frauduleuse d'un ordinateur, recel, infraction à la loi fédérale du 20 juin 1997 sur les armes, les accessoires d'armes et les munitions (loi sur les armes, LArm; RS 514.54), infraction et contravention à la loi sur les stupéfiants. Par ordonnance du 12 août 2014, le juge d'application des peines a libéré conditionnellement X._ à compter du 23 août 2014, fixé le délai d'épreuve à un an, ordonné une assistance de probation pendant le délai d'épreuve et ordonné des contrôles d'abstinence aux produits stupéfiants pendant le délai d'épreuve. Le Chef du Département de l'économie et du sport du canton de Vaud (ci-après: le Chef du Département de l'économie) a révoqué, le 31 mars 2015, l'autorisation d'établissement de X._ et lui a imparti un délai immédiat pour quitter la Suisse. B. Par arrêt du 14 octobre 2015, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours de X._. Il a en substance jugé que les conditions pour la révocation de l'autorisation d'établissement étaient remplies, que l'intéressé présentait un risque de récidive et que l'intérêt public à l'éloigner de Suisse l'emportait sur l'intérêt privé de celui-ci à y demeurer. C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 14 octobre 2015 du Tribunal cantonal, de maintenir son permis d'établissement et de lui adresser un avis comminatoire, subsidiairement, de révoquer son permis d'établissement et de lui octroyer une autorisation de séjour. Le Chef du Département de l'économie se rallie à la position du Tribunal cantonal. Ledit tribunal a renoncé à se déterminer et se réfère aux considérants de l'arrêt attaqué. Le Secrétariat d'Etat aux migrations conclut au rejet du recours.