Faits: A. B._ travaille depuis de nombreuses années au service de sécurité de la Commune X._. Le 6 octobre 2008, le syndicat des services publics a demandé au maire de la commune l'ouverture d'une enquête administrative à son encontre. Il alléguait une attitude de harcèlement psychologique de la part du fonctionnaire à l'égard de certains de ses collègues. Le 8 décembre 2008, le conseil administratif de la commune a informé B._ qu'il avait décidé d'ouvrir une enquête administrative à son endroit. Celui-ci serait dispensé d'exercer ses fonctions pendant l'enquête, sous réserve de missions ponctuelles. Son traitement continuerait à lui être versé en totalité. L'enquête était confiée à S._, secrétaire général adjoint de la commune. Il serait assisté de Me R._, en qualité de greffière. Le 19 décembre 2008, B._ a recouru contre cette décision devant le Tribunal administratif du canton de Genève, en contestant notamment le choix de confier à R._ la fonction de greffière dans l'enquête. B. Le 14 janvier 2009, B._ a d'autre part écrit à S._ pour exiger sa récusation en raison de faits survenus en 2004 et qui, selon lui, faisaient obstacle à la désignation de ce dernier comme enquêteur, les circonstances donnant l'apparence d'une prévention et faisant redouter un comportement partial de sa part dans le déroulement de l'enquête. La commune a rejeté cette demande par décision du 20 janvier 2009. B._ a également recouru contre cette décision devant le Tribunal administratif. C. Statuant le 23 juin 2009, le Tribunal administratif a déclaré irrecevable le recours interjeté contre la décision d'ouverture d'enquête du 8 décembre 2008, au motif que cette décision n'était pas propre à causer un préjudice irréparable (ATA/305/2009). Ce jugement n'a fait l'objet d'aucun recours. Le 23 juin 2009 également, le Tribunal administratif a rejeté le recours contre la décision du 20 janvier 2009 (ATA/306/2009). Par arrêt du 9 octobre 2009, le Tribunal fédéral a rejeté le recours formé contre ce jugement par B._ (arrêt 8C_639/2009). D. Le 5 novembre 2009, B._ a derechef remis en cause la participation de R._ en qualité de greffière dans la procédure d'enquête. Cette contestation a donné lieu à une nouvelle procédure judiciaire devant le Tribunal administratif (cause A/4184/ 2009). Au cours de cette procédure, S._ a été amené à prendre position. Dans une écriture du 4 décembre 2009, il s'est exprimé en ces termes: B._ abusait de la procédure. Il savait pertinemment que la présence de R._ avait fait l'objet d'une décision définitive du Tribunal administratif. Il avait combattu une précédente décision de la commune confiant au président de la Cour de justice le soin de procéder à l'enquête litigieuse. Depuis lors, B._ n'avait de cesse de vouloir écarter l'enquêteur, ainsi que sa greffière, dans le but d'empêcher par tous les moyens de permettre à l'enquête administrative d'arriver à son terme. Cet acharnement procédurier était intolérable et le Tribunal administratif était invité à y mettre fin. En sa qualité de fonctionnaire de la police municipale, B._ avait le devoir, plus que quiconque, de se soumettre à la décision de la commune et de ne pas l'entraver par des moyens dilatoires. Cette attitude ne le priverait d'aucun des droits que lui reconnaissent la loi et la pratique administrative. Quant aux avocats de B._, ils accusaient continuellement l'enquêteur d'être incompétent et de violer la loi. Ces affirmations étaient d'autant plus blessantes et injustes à son égard que les mandataires ne l'avaient jamais rencontré ni n'avaient assisté à une audience d'enquête, tout ayant été mis en oeuvre pour que des mesures d'instruction ne puissent pas avoir lieu. S._ se disait victime d'un mauvais procès d'intention. Il priait le tribunal de le laisser mener son enquête à l'encontre de B._, lequel pourrait toujours contester la décision du conseil administratif de la commune prise au terme de la procédure. Le 10 décembre 2009, B._ a de nouveau demandé à la commune la récusation de S._ en raison cette fois des propos précités. Le 29 janvier 2010, la commune a rejeté cette demande. E. Par écriture du 3 mars 2010, B._ a recouru devant le Tribunal administratif contre cette décision. Il a conclu à son annulation et demandé au tribunal de prononcer la récusation de S._ dans l'enquête administrative ordonnée le 8 décembre 2008. Dans leur réponse du 19 mars 2010, la commune et S._ ont conclu au rejet du recours. B._ a répliqué le 12 avril 2010. Il déplorait en particulier que S._ n'eût pas été invité par la commune à se déterminer sur sa propre récusation. Dans une brève duplique, datée du 15 avril 2010, la commune a précisé que S._ avait bien été interpellé sur la demande de récusation dont il était l'objet et qu'il avait clairement indiqué qu'il n'entendait pas se récuser. Par lettre du 20 avril 2010 adressée à la présidente du Tribunal administratif, B._ a demandé l'autorisation de s'exprimer sur ce dernier point soulevé par la commune. Invité à faire part de ses observations, B._ s'est plaint, dans une écriture du 3 mai 2010, de n'avoir pas été interpellé par la commune «sur cette étape procédurale, pourtant d'importance s'agissant de la détermination du principal intéressé». Il y voyait une omission constitutive d'une violation de son droit d'être entendu, non susceptible d'être réparée. Le 4 mai 2010, l'avocat des intimés a précisé qu'il était intervenu, depuis le début de la procédure, tant au nom de la commune que de celui de S._, lequel avait, par son entremise, clairement manifesté son désaccord quant à la demande de récusation, en particulier dans la réponse au recours du 19 mars 2010. B._ a produit d'ultimes déterminations le 11 mai 2010. Par ordonnance du 23 juin 2010, les parties ont été informées que la cause serait gardée à juger. Statuant le 29 juin 2010, le Tribunal administratif a rejeté le recours dirigé contre la décision de la municipalité du 29 janvier 2010 (ATA/461/2010). F. Contre ce jugement, B._ exerce un recours constitutionnel subsidiaire dans lequel il conclut derechef à la récusation de S._ dans l'enquête ouverte le 8 décembre 2008. Subsidiairement, il conclut au renvoi de la cause à l'autorité cantonale pour nouvelle décision. Dans une écriture commune la municipalité X._ et S._ concluent au rejet du recours. G. Le 15 novembre 2010, B._ a demandé au tribunal l'autorisation de répliquer. Par ordre du juge instructeur, la chancellerie du Tribunal fédéral lui a répondu qu'il ne se justifiait pas, en l'espèce, d'ordonner un échange ultérieur d'écritures. En revanche, les parties étaient libres de déposer spontanément des déterminations sur des écritures nouvelles. A ce jour, B._ n'a pas produit de nouvelles déterminations.