Faits: Faits: A. X._ a été engagé en 1965 par la Commune de Y._ (ci-après: la Commune) et a travaillé comme secrétaire-caissier à partir de 1968. Il s'est trouvé en incapacité totale de travail dès le 8 juin 1993. Lors d'une séance tenue le 12 août 1993, le Président de la Commune a fait état de divers problèmes dans la gestion de la comptabilité; à cette occasion, il a indiqué à X._ qu'il ne pouvait plus le laisser continuer à tenir la comptabilité de la Commune; il lui a, par ailleurs, demandé les clés de son bureau, son remplaçant en ayant besoin; il lui a également proposé de présenter sa démission, tout en insistant sur le fait que cette suggestion n'équivalait pas à un licenciement. X._ a recouvré une capacité de travail de 50% dès le 4 octobre 1993 et de 100% dès le 3 janvier 1994. Il n'a toutefois jamais repris le travail. Il a atteint l'âge de la retraite en novembre 1994. Par courrier du 18 mars 1994, la Commune a fait savoir à X._ qu'elle avait décidé de le licencier avec effet immédiat pour justes motifs. Le 28 mars 1994, l'intéressé a contesté cette mesure et demandé à la Commune de lui verser un montant de 97'217,55 fr. (prétentions salariales et indemnités à différents titres). Le 30 septembre 1994, X._ a recouru contre le licenciement précité auprès du Conseil d'Etat du canton du Valais (ci-après: le Conseil d'Etat) qui a déclaré le recours irrecevable par décision du 5 avril 1995, confirmée par un arrêt rendu le 27 octobre 1995 par la Cour de droit public du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal). Par arrêt du 5 septembre 1996, le Tribunal fédéral a admis le recours de droit public de X._ contre l'arrêt du Tribunal cantonal du 27 octobre 1995 et annulé cet arrêt. Statuant le 26 mars 1997 sur le fond de la cause, le Conseil d'Etat a annulé le licenciement du 18 mars 1994, pour violation du droit d'être entendu de X._. Le 29 août 1997, le Tribunal cantonal a rejeté le recours formé contre la décision du Conseil d'Etat du 26 mars 1997. Par décision du 5 novembre 2002 communiquée le 10 janvier 2003, la Commune a rejeté les prétentions pécuniaires émises le 28 mars 1994 par X._ en tant qu'elles excédaient les indemnités pour perte de gain qui lui avaient été versées pour la période durant laquelle il avait été en incapacité de travail. Par décision du 5 novembre 2002 communiquée le 10 janvier 2003, la Commune a rejeté les prétentions pécuniaires émises le 28 mars 1994 par X._ en tant qu'elles excédaient les indemnités pour perte de gain qui lui avaient été versées pour la période durant laquelle il avait été en incapacité de travail. B. X._ a recouru au Conseil d'Etat contre la décision de la Commune du 5 novembre 2002. Il a notamment conclu au versement par la Commune des montants suivants: 32'508,70 fr. avec intérêts concernant un solde de vacances et d'heures supplémentaires pour 1992, 32'041,30 fr. avec intérêts et sous déduction de deux sommes déjà versées concernant des prétentions de salaire (dont une quote-part de treizième salaire) et une compensation du droit aux vacances pour 1993, 80'772,80 fr. avec intérêts concernant des prétentions de salaire (dont une quote-part de treizième salaire) pour 1994 et 22'118,55 fr. avec intérêts à titre d'indemnité pour licenciement immédiat injustifié. Par décision du 24 septembre 2003, le Conseil d'Etat a rejeté le recours et confirmé la décision de la Commune du 5 novembre 2002. B. X._ a recouru au Conseil d'Etat contre la décision de la Commune du 5 novembre 2002. Il a notamment conclu au versement par la Commune des montants suivants: 32'508,70 fr. avec intérêts concernant un solde de vacances et d'heures supplémentaires pour 1992, 32'041,30 fr. avec intérêts et sous déduction de deux sommes déjà versées concernant des prétentions de salaire (dont une quote-part de treizième salaire) et une compensation du droit aux vacances pour 1993, 80'772,80 fr. avec intérêts concernant des prétentions de salaire (dont une quote-part de treizième salaire) pour 1994 et 22'118,55 fr. avec intérêts à titre d'indemnité pour licenciement immédiat injustifié. Par décision du 24 septembre 2003, le Conseil d'Etat a rejeté le recours et confirmé la décision de la Commune du 5 novembre 2002. C. Par arrêt du 1er avril 2004, le Tribunal cantonal a partiellement admis le recours de X._ contre la décision du Conseil d'Etat du 24 septembre 2003 en reconnaissant son droit au treizième salaire pour 1993, renvoyé la cause à la Commune pour nouvelle décision dans le sens du considérant y relatif et rejeté les autres conclusions de l'intéressé. S'agissant en particulier des prétentions de salaire pour la période postérieure au 15 octobre 1993 et de l'indemnité pour licenciement immédiat injustifié, il a considéré que les propos tenus par le Président de la Commune lors de la séance du 12 août 1993 ne permettaient pas à X._ de conclure que son employeur souhaitait qu'il ne se présente pas à son poste de travail lorsqu'il aurait recouvré une capacité de travail. Le Tribunal cantonal en a déduit qu'en n'offrant pas ses services en octobre 1993, alors qu'il était en état de le faire, X._ avait causé par sa faute la cessation de fait des rapports de service et qu'il ne pouvait dès lors prétendre ni à la contre-prestation d'un travail qu'il n'avait pas fourni, ni à une indemnité pour licenciement prenant effet en août 1993. C. Par arrêt du 1er avril 2004, le Tribunal cantonal a partiellement admis le recours de X._ contre la décision du Conseil d'Etat du 24 septembre 2003 en reconnaissant son droit au treizième salaire pour 1993, renvoyé la cause à la Commune pour nouvelle décision dans le sens du considérant y relatif et rejeté les autres conclusions de l'intéressé. S'agissant en particulier des prétentions de salaire pour la période postérieure au 15 octobre 1993 et de l'indemnité pour licenciement immédiat injustifié, il a considéré que les propos tenus par le Président de la Commune lors de la séance du 12 août 1993 ne permettaient pas à X._ de conclure que son employeur souhaitait qu'il ne se présente pas à son poste de travail lorsqu'il aurait recouvré une capacité de travail. Le Tribunal cantonal en a déduit qu'en n'offrant pas ses services en octobre 1993, alors qu'il était en état de le faire, X._ avait causé par sa faute la cessation de fait des rapports de service et qu'il ne pouvait dès lors prétendre ni à la contre-prestation d'un travail qu'il n'avait pas fourni, ni à une indemnité pour licenciement prenant effet en août 1993. D. Agissant par la voie du recours de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du Tribunal cantonal du 1er avril 2004. Il invoque les art. 9 et 29 al. 2 Cst. Il se plaint de violation du droit d'être entendu et d'arbitraire. Le Tribunal cantonal et le Conseil d'Etat ont expressément renoncé à répondre au recours. La Commune conclut, sous suite de frais et dépens, au rejet du recours.