Faits: A. Ressortissant turc né à Morges en 1980, A.X._ est titulaire d'une autorisation d'établissement, alors que son épouse, B.X._, ressortissante turque née en 1983, est titulaire d'une autorisation de séjour par regroupement familial. Leur fils, C._, né en 2009, est titulaire d'une autorisation d'établissement. B. Entre 2000 et 2002, .A.X._ a été condamné à plusieurs reprises pour violation des règles de la circulation routière, soit: le 9 mars 2000, à une peine d'emprisonnement de cinq jours avec sursis et à une amende de 600 fr.; le 22 février 2001, à une peine d'emprisonnement de dix jours avec sursis et à une amende de 500 fr. et le 8 novembre 2002, à une peine d'emprisonnement de dix jours avec sursis et à une amende de 600 fr. Le 27 janvier 2006, A.X._ a été condamné à une peine de quatre ans de réclusion pour infraction et contravention à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (loi sur les stupéfiants, LStup; RS 812.121) par le Tribunal correctionnel de la Côte de Nyon. L'intéressé a été libéré conditionnellement le 13 novembre 2006. A une date indéterminée, A.X._ s'est installé avec sa famille à Bulle, dans le canton de Fribourg, afin d'y exploiter un établissement de restauration. Le 1er octobre 2011, A.X._ a quitté le canton de Fribourg pour s'installer dans le canton de Vaud avec sa famille. Il a annoncé son arrivée le 27 octobre 2011 au bureau des étrangers de la ville de Morges, qui a transmis sa demande de changement de domicile à l'autorité compétente. C. Par décision du 14 mai 2012, rendue après avoir entendu l'intéressé, le Service cantonal a refusé d'autoriser le changement de canton en faveur de A.X._ et de sa famille et leur a imparti un délai d'un mois pour quitter le canton de Vaud et régler leurs conditions de séjour dans le canton de Fribourg. Il a retenu que les intéressés n'exerçaient aucune activité lucrative, qu'ils avaient bénéficié des prestations de l'assistance publique dans le canton de Fribourg jusqu'à leur arrivée en octobre 2011 dans le canton de Vaud et que A.X._ avait fait l'objet de plusieurs condamnations pénales, dont l'une à quatre années de réclusion. A.X._ a recouru contre cette décision devant la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal). Par arrêt du 14 janvier 2013, le Tribunal cantonal a rejeté le recours de A.X._. Il a en substance retenu que les conditions de révocation de l'autorisation d'établissement de l'intéressé étaient réunies, de sorte qu'un changement de canton était exclu au sens de l'art. 37 al. 3 LEtr. Le Tribunal cantonal a ensuite estimé, sous l'angle de la proportionnalité, qu'au vu de la gravité des condamnations pénales, l'intérêt privé du recourant à changer de canton ne l'emportait pas sur l'intérêt public à son éloignement du canton de Vaud. D. Agissant par la voie du recours constitutionnel subsidiaire, A.X._ demande au Tribunal fédéral, sous suite de frais et dépens, de réformer l'arrêt du 14 janvier 2013 du Tribunal cantonal et de l'autoriser ainsi que sa femme et son fils à s'établir dans le canton de Vaud, subsidiairement, d'annuler l'arrêt attaqué et de renvoyer la cause au Tribunal cantonal pour une nouvelle décision dans le sens des considérants. Il invoque une violation de la liberté économique, du droit au respect de la vie de famille, de l'interdiction de l'arbitraire, de l'égalité de traitement ainsi que du droit à la liberté personnelle. Le Service cantonal et le Tribunal cantonal ont renoncé à se déterminer sur le recours.