Faits: A. G._, né en 1964, a été engagé en qualité de gardien surnuméraire à la prison de X._ le 1er mai 1987. Dans le courant de l'année 1990, il a été nommé fonctionnaire. Par arrêté du 21 août 2007, le Conseil d'Etat de la République et canton de Genève (ci-après : le Conseil d'Etat) a prononcé le licenciement de G._ avec effet au 30 novembre 2007. La résiliation des rapports de service était justifiée par l'inaptitude du prénommé à remplir les exigences du poste et par le fait que malgré les différents aménagements et réaffectations dont il avait bénéficié tout au long de son engagement, ses prestations ne s'étaient pas améliorées. La décision était exécutoire nonobstant recours. B. B.a Le 2 octobre 2007, l'intéressé a recouru contre cette décision devant la Commission de recours des fonctionnaires de police et de la prison (dont les compétences ont été reprises dès le 1er janvier 2009 par le Tribunal administratif). Par jugement du 7 septembre 2010, le Tribunal administratif (depuis le 1er janvier 2011 : la Chambre administrative de la Cour de Justice) a admis le recours de G._. Il a constaté que l'arrêté du Conseil d'Etat du 21 août 2007 était contraire au droit, proposé la réintégration de l'employé au sein de la fonction publique et ordonné au Conseil d'Etat, en cas de refus de procéder à cette réintégration, de transmettre sa décision au Tribunal administratif pour fixation d'une indemnité. B.b Par lettre du 4 novembre 2010, la Conseillère d'Etat du Département de la sécurité, de la police et de l'environnement a communiqué au Tribunal administratif son opposition à la réintégration de G._ en tant que gardien de prison à X._, comme ce dernier en avait exprimé le souhait. Invité par le tribunal cantonal à se déterminer sur le montant de l'indemnité, le Conseil d'Etat a soumis sa prise de position le 17 décembre 2010. B.c Le 8 février 2011, la Chambre administrative de la Cour de Justice a rendu un jugement, par lequel elle a constaté le refus du Conseil d'Etat de réintégrer G._ au sein de la fonction publique et condamné l'Etat de Genève à verser au prénommé une indemnité correspondant à douze fois son dernier traitement brut avec intérêt à 5 % à compter du 4 novembre 2010. C. G._ interjette un recours en matière de droit public contre ce jugement, dont il requiert l'annulation. Sous suite de frais et dépens, il conclut, principalement, au renvoi de la cause à la Chambre administrative pour qu'elle statue dans le sens des considérants; subsidiairement, à ce que l'Etat de Genève soit condamné à lui verser une indemnité correspondant à vingt-quatre fois son dernier traitement brut avec intérêts à 5 % dès le 27 août 2007. Le Conseil d'Etat conclut au rejet du recours. La Chambre administrative déclare n'avoir aucune observation à formuler.