Faits: A. A.a C._ est docteur en médecine, spécialiste en médecine interne et cardiologie, avec une sous-spécialisation en cardiologie interventionnelle. Le 1er janvier 1997, il a été engagé au département de médecine interne, division de cardiologie, de l'Hôpital X._ en qualité de chef de clinique. Le 8 décembre 2003, il a été engagé en qualité de médecin-adjoint du chef de service, dans le même service de cardiologie, pour la période du 1er décembre 2003 au 30 novembre 2006. A ce titre, il était responsable de la cardiologie invasive (clinique et expérimentale) en accord avec le chef de service. Il était en outre responsable des salles de cathétérisme (devenue par la suite unité de cardiologie interventionnelle) de l'Hôpital X._. Le 1er février 2005, il a été promu en qualité de médecin adjoint agrégé à la suite de l'obtention de son privat-docent. Son cahier des charges n'a toutefois pas été modifié. Il était colloqué dans la classe 27/annuité 08, ce qui représentait un traitement mensuel brut de 12'760 fr. Le 30 août 2006, le Comité de direction de l'Hôpital X._ a décidé de ne pas renouveler le contrat du docteur C._ au-delà de son échéance au 30 novembre 2006. C._ a recouru contre cette décision devant le Tribunal administratif du canton de Genève. Par jugement du 27 mai 2008, celui-ci a admis le recours. Il a constaté la nullité du non-renouvellement de l'engagement de l'intéressé en considération des graves violations du droit d'être entendu relevées dans la procédure «tant sous l'angle du droit à la motivation de la décision, de l'accès au dossier, de la participation à l'administration des preuves et du droit de faire valoir son point de vue avant qu'une décision ne soit prise». Dans ses considérants, le tribunal a conclu que le docteur C._ «[faisait] toujours partie du personnel de l'Hôpital X._». A.b A la suite de cet arrêt, le 16 juin 2008, C._ a demandé à G._, directeur général de l'Hôpital X._, de veiller à ce que les dispositions fussent prises pour qu'il puisse réintégrer son poste dans les meilleurs délais; il resterait ensuite à convenir d'un règlement des arriérés de salaire et indemnités qui lui étaient dus. Le 9 juillet 2008, G._ a invité l'intéressé à prendre contact avec le Professeur M._, médecin-chef du service de cardiologie en l'informant, par ailleurs, que le versement du salaire serait repris à partir du 1er juillet 2008 (avec les adaptations salariales des années 2007 et 2008). Quant aux arriérés de salaire, C._ était invité à s'adresser à la direction des ressources humaines. Le 4 août 2008, C._ a eu un entretien avec le Professeur M._, qui en a résumé le contenu dans un courriel du lendemain, en faisant état d'une réintégration de l'intéressé au service de cardiologie, en tant que médecin-adjoint auprès des patients du service de gériatrie, sur le site Z._ et sous la supervision du docteur P._. Le docteur C._ a contesté la teneur de l'entretien ainsi résumé. Selon lui, un accord avait été trouvé en vue de sa réintégration en salle de cathétérisme à l'Hôpital X._. Le 7 août 2008, le Professeur M._ a confirmé les termes de son courriel du 5 août 2008. Le docteur C._ s'est alors adressé à G._ en faisant valoir que le poste proposé ne correspondait pas à celui occupé en vertu d'un engagement dont le Tribunal administratif avait constaté qu'il était toujours valable (lettre du 7 août 2008). Par lettre du 11 août 2008, G._ a répondu que l'affectation d'un membre du personnel de l'Hôpital X._ dépendait des besoins de l'établissement et pouvait être modifiée en tout temps. Il a indiqué que la nouvelle affectation répondait aux besoins de l'institution. Il a précisé que la réintégration en salle de cathétérisme n'était pas envisageable, aucun poste n'étant disponible dans la fonction qui était celle de l'intéressé avant le 1er décembre 2006. B. Par écriture du 10 septembre 2008, C._ a recouru devant le Tribunal administratif du canton de Genève en demandant, préalablement, l'ouverture d'enquêtes et, sur le fond, en concluant à l'annulation de la décision du 11 août 2008. Selon lui, la réintégration au sein du service de gériatrie ne répondait à aucun besoin objectif du service et aucun obstacle ne s'opposait à une réintégration en salle de cathétérisme. Le nouveau statut qui lui était imposé avait pour but de sanctionner son attitude passée et les conditions de travail étaient stigmatisantes, tant sur le plan de la pratique clinique et des responsabilités médicales que sur les plans académique et économique. Par jugement du 5 mai 2009, le Tribunal administratif a déclaré le recours irrecevable. Il a considéré qu'une décision de changement d'affectation d'un fonctionnaire ne pouvait en principe pas faire l'objet d'un recours devant le Tribunal administratif. Exceptionnellement, la voie du recours était ouverte lorsque la mutation constituait une sanction disciplinaire déguisée, ce qui n'était pas le cas en l'espèce. C. C._ exerce un recours constitutionnel subsidiaire dans lequel il conclut à l'annulation de ce jugement et au renvoi de la cause au Tribunal administratif pour reprise de l'instruction et nouvelle décision au sens des considérants. L'Hôpital X._ conclut au rejet du recours.