Faits:
A. A.a S._ a été engagée en qualité de cheffe de secteur Z._ au Département V._, Service Z._ de l'Hôpital X._ à partir du 1er octobre 2007. Ses rapports de service étaient soumis au Statut du personnel de l'Hôpital X._. Selon son cahier des charges, l'intéressée avait sous ses ordres cinquante à soixante agent(e)s. Elle devait organiser, diriger, contrôler et coordonner les activités de plusieurs équipes structurées d'agent(e)s effectuant des tâches de complexité différentes dans l'ensemble des locaux de l'Hôpital X._, en fonction de critères de qualité reconnus.
A.b Un premier entretien d'évaluation et de développement des compétences a eu lieu le 13 décembre 2007. Les objectifs du temps d'essai étaient atteints. Les critères d'évaluation des trois premiers mois étaient "OK pour la fonction", la connaissance du monde hospitalier devant encore être améliorée. L'évaluation globale était qualifiée de bonne. Trois objectifs ainsi que les moyens d'action pour y parvenir ont été fixés.
Un deuxième entretien d'évaluation et de développement des compétences s'est tenu le 13 août 2008. Les objectifs fixés étaient partiellement atteints. Sur les dix-huit critères et sous-critères évalués, sept étaient "OK pour la fonction" alors que les onze autres étaient "à améliorer". L'évaluation globale était qualifiée de peu satisfaisante. Quatre objectifs ont été fixés, en matière de système de management durable, de contrôle de qualité, de suivi de l'absentéisme et de respect du personnel et des directives/statut. S._ répondait partiellement aux exigences de sa fonction, par sa volonté de bien faire. Sa progression en termes de procédures et méthodologie de travail devait s'accompagner d'un esprit d'ouverture et de partage plus présents avec l'ensemble de son entourage. Une poursuite de collaboration ne pouvait être envisagée qu'avec des réserves.
Un nouvel entretien d'évaluation et de développement des compétences s'est déroulé le 2 décembre 2008. Deux des objectifs fixés étaient atteints alors que les deux autres n'étaient que partiellement atteints. Sur les vingt critères ou sous-critères évalués, quatorze étaient "OK pour la fonction" et six "à améliorer". L'évaluation globale était jugée assez bonne. Trois objectifs ont été fixés. Le chemin d'améliorations attendues de la part de S._ pouvait être qualifié de positif, mais il restait bien du travail à accomplir.
Un nouveau point de la situation a été fait au cours d'un quatrième entretien d'évaluation et de développement des compétences le 3 mars 2009. Tous les objectifs fixés étaient atteints et les démarches devaient être poursuivies. Sur dix-huit critères et sous-critères évalués, l'un était qualifié de "point fort", quatorze étaient "OK pour la fonction" alors que deux restaient "à améliorer". L'évaluation globale était bonne. Trois objectifs ont été fixés. S._ devait continuer dans la voie des changements utiles à l'atteinte de ceux-ci. Une poursuite de collaboration pouvait être envisagée de manière positive pour le service.
Le 25 mai 2009 a eu lieu l'entretien d'évaluation de nomination de troisième année. Parmi les trois objectifs fixés au cours de l'entretien précédent, deux n'étaient pas atteints et un n'était que partiellement atteint. Sur dix-neuf critères et sous-critères, quatre étaient "OK pour la fonction", onze "à améliorer" et deux étaient "insuffisants". L'évaluation globale était jugée inacceptable. Les attentes admises et les progressions mesurées en mars 2009 ne s'étaient pas poursuivies de manière significative et amenaient à un constat d'insuffisance des performances. Une poursuite de la collaboration comme cheffe de secteur Service Z._ apparaissait difficilement envisageable et devait s'arrêter au terme de la période probatoire.
A.c Le 27 mai 2009, S._ a été convoquée pour le surlendemain par son supérieur hiérarchique à un entretien de service, conformément à l'art. 44 du règlement d'application de la loi générale relative au personnel de l'administration cantonale, du pouvoir judiciaire et des établissements publics médicaux (RPAC). Le sujet de l'entretien se rapportait à des difficultés managériales constatées lors de l'entretien d'évaluation du 25 mai 2009.
Au cours de l'entretien de service qui s'est tenu le 29 mai 2009, S._ a été informée que certains dysfonctionnements avaient été constatés lors des précédentes évaluations, lesquels n'avaient pas été corrigés. Une poursuite de collaboration comme cheffe du Service Z._ n'apparaissait pas possible. Il lui a été proposé de prendre un poste de cheffe d'équipe à Y._ dès le 1er septembre 2009, ce qu'elle a accepté. Un report de nomination d'un an serait demandé, eu égard à ce changement de fonction. Un délai de dix jours était octroyé à l'intéressée pour formuler des observations.
A.d Par courrier du 22 juin 2009, S._ s'est déterminée par l'intermédiaire d'un avocat. Tous les rapports d'entretiens d'évaluation, mis à part celui du 29 mai 2009, étaient positifs et démontraient une amélioration constante. Le changement d'appréciation entre le mois de mars et le mois de mai 2009 était surprenant. Aucun reproche précis n'était formulé à l'égard de son travail ou de sa personne. La proposition de déplacement à Y._ conduisait à la soumettre à une classe de traitement inférieure, en qualité de cheffe d'équipe et non de cheffe de secteur. La convocation à l'entretien du 29 mai n'avait pas été faite suffisamment à l'avance puisqu'elle devait être adressée dix jours ouvrables avant l'entretien, le délai ne pouvant être réduit que si l'entretien avait pour objet une infraction aux devoirs du personnel. Or, les manquements reprochés à S._ ne constituaient manifestement pas une infraction aux devoirs du personnel. Cette dernière n'avait eu le temps ni de se préparer à l'entretien, ni de rechercher une personne pouvant l'y accompagner. L'acceptation d'un poste de cheffe d'équipe à Y._ n'avait été obtenue que sous la pression des événements. L'intéressée se sentait blessée par les accusations d'incompétence qu'elle estimait injustifiées. Elle était capable de tenir le poste qui lui avait été confié et s'opposait tant au report de sa nomination qu'à son déplacement à Y._. Un nouvel entretien devait être organisé.
A.e Le 25 juin 2009, la Direction des ressources humaines de l'Hôpital X._ a résilié les rapports de service de S._ pour le 30 septembre 2009, au motif que ses prestations étaient insuffisantes. Cette décision était exécutoire nonobstant recours.
Le même jour, la Direction des ressources humaines de l'Hôpital X._ a répondu au courrier que lui avait adressé l'avocat de S._ le 22 juin 2009. Elle a relevé que l'intéressée était en difficulté depuis plus d'une année, ce que lui avait indiqué son responsable. S._ avait eu la possibilité de réaliser une évaluation de son profil managérial, mais mis à part quelques améliorations ponctuelles, le résultat d'ensemble n'avait pas été celui escompté. Elle avait signé le procès-verbal de l'entretien du 29 mai 2009 en toute connaissance de cause et n'avait pas transmis d'observations dans le délai de dix jours dont elle disposait après sa réception. Le délai de convocation à l'entretien de service avait été valablement raccourci puisque l'on se trouvait en présence d'une infraction aux devoirs du personnel.
B. S._ a recouru contre la décision de 25 juin 2009 par laquelle l'Hôpital X._ a résilié ses rapports de service devant le Tribunal administratif (depuis le 1er janvier 2011: Cour de justice de la République et canton de Genève, Chambre administrative). Elle a conclu à la restitution de l'effet suspensif et, principalement, à la constatation de la nullité de la décision attaquée, subsidiairement à son annulation et encore plus subsidiairement à sa réintégration en qualité de cheffe de secteur et, en cas de refus, à fixer l'indemnité pour résiliation contraire au droit à six mois de traitement.
Le 25 août 2009, l'Hôpital X._ s'est opposé à la restitution de l'effet suspensif. Le 28 septembre 2009, il a conclu au rejet du recours.
Par jugement du 22 juin 2010, le Tribunal administratif a admis le recours et annulé la décision de l'Hôpital X._ du 25 juin 2009. En bref, il a retenu que la décision de licenciement n'était pas valable car elle avait été prise en violation du droit d'être entendu de S._. Il a déclaré sans objet la demande d'effet suspensif.
C. L'Hôpital X._ interjette un recours en matière de droit public contre ce jugement. Il conclut préalablement à l'octroi de l'effet suspensif et, principalement, à l'annulation de l'arrêt attaqué, subsidiairement au renvoi de la cause au Tribunal administratif pour qu'il statue dans le sens des considérants.
S._ conclut au rejet de la requête d'effet suspensif et du recours.
D. Par ordonnance du 17 novembre 2010, le Juge délégué à l'instruction de la cause a rejeté la demande d'octroi de l'effet suspensif.

Considérant en droit:
1. La décision attaquée a été rendue en matière de rapports de travail de droit public au sens de l'art. 83 let. g LTF. Dans la mesure où la contestation porte principalement sur la réintégration de l'intimée, il s'agit d'une contestation de nature pécuniaire, de sorte que le motif d'exclusion de l'art. 83 let. g LTF n'entre pas en considération. La valeur litigieuse atteint le seuil de 15'000 fr. ouvrant la voie du recours en matière de droit public en ce domaine (art. 51 al. 2 et 85 al. 1 let. b LTF).
2. Pour le surplus, interjeté en temps utile (<ref-law>) contre une décision finale (<ref-law>) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF), le recours en matière de droit public est recevable.
3. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente. Par exception à ce principe, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>).
4. Dans un grief formel qu'il convient d'examiner en premier lieu, le recourant reproche au Tribunal administratif d'avoir violé son droit d'être entendu, dès lors qu'aucune audience de comparution personnelle des parties et d'enquêtes n'a eu lieu en instance cantonale, d'une part, et que d'autre part, l'arrêt entrepris est sommairement motivé s'agissant de la distinction opérée par le tribunal entre "manquement" et " infraction" au sens de l'art. 46 du Statut du personnel de l'Hôpital X._. La juridiction cantonale se bornait à prétendre que le sens de ces mots "ne prêt[ait] pas à confusion" sans autre développement alors qu'elle fondait sur cette seule distinction la prétendue violation du droit d'être entendue de l'intimée.
4.1 En ce qui concerne le premier grief de violation du droit d'être entendu, le recourant n'indique pas la disposition du droit de procédure cantonale ou de la Constitution fédérale qui lui accorderait un tel droit et qui aurait été violée ou appliquée de manière arbitraire. Au reste, les garanties minimales en matière de droit d'être entendu découlant de l'art. 29 al. 2 Cst. ne s'étendent pas à celui d'être entendu oralement (<ref-ruling> consid 2.1 p. 428). Par conséquent, son grief est irrecevable.
4.2 Le droit d'être entendu implique l'obligation pour le juge de motiver ses décisions. Il suffit cependant qu'il mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause. L'autorité n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais elle peut au contraire se limiter à ceux qui, sans arbitraire, lui paraissent pertinents (<ref-ruling> consid. 4.1 p. 88; <ref-ruling> consid. 3.3 p. 445). Savoir si la motivation présentée est convaincante est une question distincte de celle du droit à une décision motivée. Dès lors que l'on peut discerner les motifs qui ont guidé la décision des juges, le droit à une décision motivée est respecté, même si la motivation présentée devait être erronée. Dans le cas particulier, la juridiction cantonale a donné une définition suffisamment claire des termes "manquement" et "infraction" avant d'expliquer pourquoi, à ses yeux, l'entretien de service avait pour objet des manquements aux devoirs de service et non des infractions. Mal fondé, ce grief doit également être rejeté.
5. Au principe, le litige porte sur la validité formelle de la procédure de licenciement de l'intimée.
5.1 Sous le chapitre "Entretien de service - résiliation" et le titre marginal "Entretien de service", l'art. 46 du Statut du personnel de l'Hôpital X._ (ci-après: statut de l'Hôpital X._) du 16 décembre 1999 (état au 26 mars 1999) dispose ce qui suit:
1 Un entretien de service entre le membre du personnel et son supérieur hiérarchique a pour objet les manquements aux devoirs du personnel.
2 Le membre du personnel peut se faire accompagner d'une personne de son choix. Un responsable des ressources humaines est présent.
3 La convocation doit parvenir au membre du personnel 10 jours ouvrables avant l'entretien. Ce délai peut être réduit lorsque l'entretien a pour objet une infraction aux devoirs du personnel.
4 La convocation précise la nature, le motif de l'entretien et les personnes présentes pour l'employeur. Elle rappelle le droit de se faire accompagner.
5 Un compte rendu d'entretien est établi. Les divergences éventuelles peuvent y figurer ou faire l'objet d'une note rédigée par le membre du personnel dans le délai imparti.
Le délai de dix jours doit permettre à l'employé de faire valoir utilement ses droits, ce qui est une concrétisation du droit d'être entendu dans le domaine de la fonction publique. Le collaborateur peut ainsi préparer ses arguments avant qu'une décision ne soit prise à son encontre. La doctrine admet d'ailleurs qu'en l'absence de délai uniformisé, un délai de 8 à 10 jours est, sauf cas d'urgence, raisonnable (cf. Gabrielle Steffen, Le droit d'être entendu du collaborateur de la fonction publique: juste une question de procédure ?, in RJN 2005 p. 64).
5.2 D'après la juridiction cantonale, le sens des mots "manquement" (cf. al. 1) et "infraction" (cf. al. 3) ne prête pas à confusion, le premier désignant des situations où un membre du personnel n'a pas respecté les devoirs de sa fonction, sans qu'il soit envisagé de prononcer une sanction disciplinaire au sens de l'art. 16 LPAC; le second qualifiant les situations où les manquements reprochés apparaissent suffisamment graves pour que l'ouverture d'une procédure disciplinaire soit envisagée. En l'occurrence, l'intimée avait été convoquée le 27 mai 2009 pour un entretien de service devant avoir lieu le 29 mai 2009. La convocation précisait notamment que l'entretien se rapportait à des difficultés de direction (managériales) constatées lors de l'entretien d'évaluation du 25 mai 2009. Il ressortait par ailleurs du procès-verbal de cet entretien que l'intimée présentait des carences importantes, notamment en matière d'efficacité, d'organisation et de planification du travail, de coopération et de communication, ainsi que de connaissances professionnelles. De plus les objectifs qui lui avaient été fixés n'avaient pas été remplis. Compte tenu de ces éléments, les premiers juges ont retenu que l'entretien de service avait pour objet des manquements aux devoirs de service et non des infractions à ce dernier, de sorte qu'en vertu de l'art. 46 al. 3 du statut de l'Hôpital X._, la convocation de l'intimée à cet entretien devait respecter le délai de dix jours.
5.3 Le recourant conteste avoir violé le droit d'être entendu de l'intimée en la convoquant seulement deux jours avant l'entretien de service. Il reproche tout d'abord au Tribunal administratif d'avoir interprété et appliqué arbitrairement l'art. 46 al. 3 du statut de l'Hôpital X._, dès lors qu'il n'a pas recouru aux méthodes d'interprétation reconnues par la jurisprudence. Selon le recourant, les termes "manquement" et "infraction" sont synonymes. Il soutient par ailleurs que le but visé par l'art. 46 al. 3, 2ème phrase du statut de l'Hôpital X._ est de laisser un pouvoir d'appréciation à l'établissement, lui conférant la possibilité de réduire le délai de dix jours en cas de non-respect des devoirs du personnel. Or, il n'est pas contesté que l'intimée ne parvenait pas à remplir les tâches qui lui incombaient en vertu de son cahier des charges, ce qu'avait notamment révélé son dernier entretien d'évaluation. L'intimée avait ainsi violé l'art. 23 du statut de l'Hôpital X._, aux termes duquel les membres du personnel chargés de fonctions d'autorité sont tenus: a) d'organiser le travail de leur service, b) de diriger leurs subordonnés, d'en coordonner et contrôler l'activité, c) de veiller à la réalisation des tâches incombant à leur service, d) d'assurer l'exécution ou la transmission des décisions qui leur sont notifiées, e) d'informer leurs subordonnés du fonctionnement de l'établissement et f) de veiller à la protection de la personnalité des membres du personnel. Par conséquent, le recourant était en droit de réduire le délai de convocation de l'intimée à un entretien de service, conformément à l'art. 46 al. 3, 2ème phrase du statut de l'Hôpital X._.
5.4 Appelé à revoir l'application d'une norme sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable ou en contradiction manifeste avec la situation effective, ou encore si elle a été adoptée sans motifs objectifs ou en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - éventuellement plus judicieuse - paraît possible (<ref-ruling> consid. 4.1 p. 133; <ref-ruling> consid. 5.1 p. 260 s. et les arrêts cités).
5.4 Appelé à revoir l'application d'une norme sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable ou en contradiction manifeste avec la situation effective, ou encore si elle a été adoptée sans motifs objectifs ou en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - éventuellement plus judicieuse - paraît possible (<ref-ruling> consid. 4.1 p. 133; <ref-ruling> consid. 5.1 p. 260 s. et les arrêts cités).
5.5 5.5.1 En l'occurrence, c'est en vain que le recourant soutient que les termes "manquement" et "infraction" sont synonymes car si tel était le cas, on ne voit pas pourquoi l'art. 46 al. 3, 2ème phrase du statut de l'Hôpital X._, lequel reprend les termes de l'art. 44 du Règlement d'application de la loi générale relative au personnel de l'administration cantonale, du pouvoir judiciaire et des établissements publics médicaux du 24 février 1999 (RPAC; RSG B 5 05.01), prévoirait une exception dans la durée du délai de convocation à un entretien de service en cas d'infractions aux devoirs du personnel. En tous les cas, il n'apparaît d'aucune manière insoutenable de considérer qu'il y a "simple" manquement aux devoirs du personnel lorsque celui-ci n'est pas de nature à entraîner le prononcé d'une sanction disciplinaire, tandis que l'on se trouve dans un cas d'infraction lorsque la gravité des faits pourrait entraîner une sanction disciplinaire. En effet, si le droit disciplinaire n'appartient pas au droit pénal mais au droit administratif, il y a néanmoins lieu d'admettre qu'il a également un caractère répressif (cf. arrêt 2P.105/2005 du 7 décembre 2005 consid. 3; cf. également Ursula Marti/Roswitha Petry, La jurisprudence en matière disciplinaire rendue par les juridictions administratives genevoises, in RDAF 2007 I p. 232), de sorte que l'utilisation du terme "infraction", emprunté à la terminologie du droit pénal, permet d'établir une distinction entre les comportements fautifs et ceux qui ne résultent pas nécessairement d'une faute de la part de l'employé. Le fait de donner à l'Hôpital X._ la possibilité de réduire le délai de dix jours en cas d'infraction seulement mais non pas en cas de manquement aux devoirs du personnel répond par ailleurs à une certaine logique. Dans la mesure où le prononcé d'une mesure disciplinaire à l'encontre d'un fonctionnaire ou d'un employé de l'Etat, indépendamment de son caractère répressif, vise à rétablir et préserver le bon fonctionnement, la réputation et la crédibilité de l'administration (cf. arrêt 1P.273/1999 du 12 octobre 1999 consid. 3b), il peut se justifier de raccourcir le délai de dix jours avant de s'entretenir avec un de ses employés auxquels une violation grave ou répétée des devoirs du personnel est reprochée. A l'inverse, lorsqu'un licenciement en raison de l'insuffisance des prestations ou encore de l'inaptitude à remplir les exigences du poste menace un employé, il n'y a pas de motifs impérieux de réduire le délai de dix jours dont dispose ce dernier pour faire valoir son point de vue à l'encontre des reproches d'incompétence pouvant lui être faits. Dans ces conditions, on ne saurait dire que l'interprétation donnée par le tribunal cantonal de la disposition réglementaire en cause est arbitraire.
5.5.2 En l'espèce, il résulte des constatations de fait contenues dans le jugement attaqué que l'intimée s'est vue reprocher des difficultés de direction (managériales) ainsi que des carences importantes en matière d'efficacité, d'organisation, et de planification du travail, de coopération et de communication, ainsi que de connaissances professionnelles. De tels manquements, pour autant qu'ils fussent établis, n'étaient pas de nature à entraîner une sanction disciplinaire puisqu'ils caractérisaient plutôt une insuffisance au niveau des prestations ou de l'aptitude à remplir les exigences du poste. Comme l'entretien de service avait pour objet des manquements aux devoirs du personnel, le tribunal cantonal pouvait retenir, sans arbitraire, que la convocation à cet entretien devait avoir lieu dans un délai de dix jours. Dans la mesure où le recourant a convoqué l'intimée seulement deux jours avant son entretien de service, il a violé son droit d'être entendu.
5.5.3 Les moyens du recourant tirés d'une interprétation et d'une application arbitraire du statut de l'Hôpital X._ sont en conséquence infondés.
6. Indépendamment du respect du délai de dix jours prévu à l'art. 46 al. 3 du statut de l'Hôpital X._, le droit d'être entendu de l'intimée a été violé puisque, comme le relèvent les premiers juges, la décision de licenciement lui a été notifiée sans qu'elle n'ait été entendue au préalable. En effet, au cours de l'entretien de service du 29 mai 2009, il n'a jamais été question de licencier S._ mais de lui proposer un autre poste sur le site de Y._, en qualité de cheffe d'équipe. Or, peu après que cette dernière eut contesté la proposition de déplacement, le recourant a prononcé son licenciement, sans lui donner la possibilité de s'exprimer à ce sujet, comme l'exige l'art. 21 al. 1 de la loi générale relative au personnel de l'administration cantonale, du pouvoir judiciaire et des établissements publics médicaux du 4 décembre 1997 (LPAC; RSG B 5 05).
7. Sur le vu de ce qui précède, le recours est rejeté. Conformément aux art. 66 al. 1 et 68 al. 2 LTF, les frais judiciaires sont mis à la charge du recourant, de même que l'indemnité de dépens allouée à l'intimée, qui obtient gain de cause.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Une indemnité de 2'800 fr. est allouée à l'intimée à titre de dépens, à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lucerne, le 5 avril 2011
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Ursprung Fretz Perrin