Faits: A. X._ est propriétaire de l'établissement public "A._" situé sur la commune de Sion. A proximité se trouve l'établissement "B._", propriété de la société C._ SA. A.a. Le 14 décembre 2006, D._ a demandé une autorisation pour exploiter le dancing B._. Le 5 janvier 2007, Me F._, déclarant agir au nom et pour le compte de E._, ainsi que des propriétaires et voisins directs du dancing B._, a formé opposition, en annexant à son écriture treize listes de signatures d'opposants et un courrier de E._ daté du 5 janvier 2007. Ce dernier y soulignait la volonté des habitants du quartier concerné de s'opposer à la délivrance de l'autorisation d'exploiter le B._ et ajoutait que les mêmes remarques valaient aussi pour l'exploitation du A._. Le 1 er février 2007, la commune de Sion a refusé de délivrer l'autorisation sollicitée. Le 2 mars 2007, E._, pour lui-même et pour les personnes résultant des oppositions signées le 5 janvier 2007 a établi une procuration en faveur de Me F._, afin qu'il le (s) représente "dans le cadre des affaires suivantes: délivrance d'une autorisation d'exploiter le dancing B._ (X._ et/ou tout autre requérant) ". A.b. Le 16 mars 2007, X._ a déposé une demande en vue d'exploiter le dancing A._ à partir du début juin 2007. Le 28 mars 2007, Me F._ a formé opposition au nom et pour le compte de E._ et "de personnes ressortant de la pièce 6, à savoir des propriétaires et voisins directs du dancing A._". X._ a contesté la valeur juridique de cette opposition, au motif qu'elle n'avait pas été déposée avec une procuration signée par tous les opposants. Le 26 avril 2007, le Conseil communal de Sion a rejeté l'opposition, sans trancher la question de sa recevabilité et a délivré à X._ l'autorisation sollicitée sous certaines conditions. Le 11 juin 2007, Me F._, agissant au nom de E._ et des propriétaires et voisins directs du dancing A._, "selon procurations jointes", a recouru contre la décision du conseil communal du 26 avril 2007 auprès du Conseil d'État du canton du Valais (ci-après le Conseil d'État). Par arrêt du 5 décembre 2007, le Conseil d'État a admis le recours et renvoyé le dossier à la municipalité de Sion. Aucun recours n'a été déposé à l'encontre de cet arrêt. Le 28 décembre 2007, X._ a reçu l'ordre de fermer immédiatement le A._ jusqu'à nouvelle décision de la municipalité. A.c. Après diverses péripéties procédurales et nouvelles requêtes, le A._ a finalement fait place, dans les mêmes locaux, à un nouvel établissement public, le dancing/night club "G._", géré par H._, qui a pu en commencer l'exploitation à fin 2008. B. Le 21 juin 2010, X._ a ouvert une action en responsabilité à l'encontre de l'État du Valais, lui réclament le versement de CHF 139'917.20 avec intérêt à 5 % dès le 5 décembre 2007. X._ a déposé à tort une action similaire auprès du Tribunal fédéral qui, par arrêt du 5 juillet 2010, a déclaré celle-ci irrecevable (cause 2C_430/2010). Le 11 octobre 2011, le juge II du district de Sion a rejeté la demande. Statuant sur appel, le Tribunal cantonal valaisan, par jugement du 15 octobre 2012, a également rejeté l'action de X._ et mis à sa charge les frais judiciaires et les dépens. C. Contre le jugement du 15 octobre 2012, X._ forme un recours en matière de droit public au Tribunal fédéral. Il conclut, sous suite de frais et dépens, à l'admission du recours, à l'annulation du jugement attaqué et à la condamnation de l'État du Valais à lui verser CHF 91'917.20 plus intérêt à 5 % dès le 5 décembre 2007. A titre subsidiaire, il demande le renvoi au Tribunal cantonal pour nouvelle décision dans le sens des considérants. L'État du Valais et le Tribunal cantonal ont été invités à produire leur dossier, sans échange d'écritures.