Faits: A. Ressortissant du Nigéria né en 1974, X._ est arrivé en Suisse le 5 mai 2003 sous le nom de Y._, de nationalité camerounaise, né le 25 septembre 1980. Le 28 mai 2003, il a déposé une demande d'asile qui a fait l'objet le 13 juin 2003 d'une décision de non-entrée en matière de l'ancien Office fédéral des réfugiés, l'intéressé devant quitter la Suisse immédiatement et l'effet suspensif étant retiré à un éventuel recours. Le recours interjeté contre ce prononcé a été déclaré irrecevable par décision de l'ancienne Commission fédérale de recours en matière d'asile du 4 août 2003. Dès le mois de juillet 2003, l'Office cantonal de la population du canton de Genève a entrepris des démarches en vue du renvoi du prénommé dans son pays d'origine. Celui-ci était alors hébergé dans un foyer de l'Hospice général. Le 28 janvier 2004, Y._ a été interpellé pour trafic de drogue à Genève (vente d'une boulette de cocaïne), faits pour lesquels il a été condamné à trois mois d'emprisonnement avec sursis par ordonnance du juge d'instruction du 2 février 2004. Le 20 septembre 2004, l'Office cantonal de la population a adressé à Y._ un avis de fin de droit lui impartissant un délai au 14 octobre 2004 pour quitter sa structure d'hébergement et la Suisse. Ce dernier a toutefois bénéficié de l'aide d'urgence jusqu'au 26 mai 2005. B. Le 22 juin 2005, X._ a épousé à Versoix/Genève Z._, ressortissante suisse née en 1963, veuve et mère de trois enfants. A la suite de ce mariage, l'Office cantonal de la population a délivré à X._ une autorisation de séjour qui a été régulièrement renouvelée, pour la dernière fois le 5 janvier 2010 avec effet jusqu'au 21 juin 2010. Dans le courant de l'année 2009, Z._ a adressé plusieurs courriers à l'Office cantonal de la population. Il en ressortait en substance que le couple s'était séparé au début de l'année 2009; la relation entre les époux connaissait des hauts et des bas, mais il restait un espoir de réconciliation, certes ténu. Retenant que le droit de X._ à une autorisation de séjour subsistait (mariage d'une durée supérieure à trois ans et intégration réussie), l'Office cantonal de la population a donc renouvelé celle-ci. Entendue le 27 janvier 2010 par la police judiciaire genevoise comme victime de menaces, Z._ a déclaré que la tension avait fortement augmenté entre son mari et elle dans le courant de l'année 2009. En décembre 2008, ce dernier lui avait annoncé qu'il la quittait et qu'il avait trouvé un nouveau logement. Une dispute très violente avait éclaté. En fouillant sa valise, elle avait trouvé divers documents qui indiquaient qu'il avait été requérant d'asile en Suisse sous le nom de Y._, ressortissant du Cameroun. Le 19 décembre 2008, son mari avait déménagé toutes ses affaires et était parti pour le Nigéria. Elle lui avait indiqué qu'elle voulait engager une procédure de séparation, voire de divorce, ce qu'il avait refusé pendant toute l'année 2009. Elle avait tout de même intenté une procédure de séparation et, parallèlement, avait tenté à plusieurs reprises de se réconcilier avec lui. Chaque fois qu'elle parlait de divorce, son mari lui répondait: "tu verras ce qui se passera, si tu demandes le divorce". Lorsqu'elle insistait, il disait: "si tu bouges, tu auras des ennuis". Le 24 janvier 2010, alors qu'elle voulait lui parler pour régler leur situation et divorcer, il lui avait dit en anglais: "tu es folle, tu es folle, tu n'as pas peur de la mort?". Elle n'avait jamais été menacée physiquement directement, mais elle avait peur de lui. Il était agent de sécurité et elle ne savait pas s'il possédait une arme. Le 28 janvier 2010, X._ a été entendu par la police judiciaire. Il a déclaré qu'il était arrivé en Suisse pour la première fois en 2003 et qu'il avait déposé une demande d'asile sous le pseudonyme de Y._. Sa demande d'asile avait été rejetée, mais il n'avait pas été expulsé. En 2004, il avait rencontré à Paris celle qui allait devenir son épouse et ils s'étaient mariés le 21 juin 2005 à Versoix. Pour ce faire, il avait repris sa vraie identité et fait venir son passeport nigérian. Très rapidement, le couple avait eu des disputes régulières. En décembre 2008, X._ avait pris un domicile séparé. Il n'avait jamais menacé son épouse; au contraire, c'était elle qui ne cessait de le harceler sur son téléphone portable. Il n'avait pas l'intention de lui faire du mal ni à elle ni aux membres de sa famille, il voulait seulement qu'elle le laisse en paix. Alors qu'il était requérant d'asile sous le nom de Y._, il avait effectivement vendu de la drogue, mais, depuis son mariage, il n'avait plus eu affaire à la police. Concernant sa situation personnelle, X._ a déclaré qu'il avait huit frères et s?urs qui vivaient encore au Nigéria, d'autres membres de sa famille se trouvant aux Etats-Unis et en Grande-Bretagne. Il travaillait actuellement comme agent de sécurité pour l'entreprise A._ et gagnait environ 4'000 fr. (salaire brut). A la fin de l'entretien, l'inspecteur a remis au prénommé une interdiction d'entrée prononcée le 12 avril 2006 à l'encontre de Y._ par l'Office fédéral des migrations et valable jusqu'au 11 avril 2011, pour des motifs d'ordre et de sécurité publics, en raison de la commission d'infractions graves à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup; RS 812.121) (vente de cocaïne). Par décision du 24 février 2010, le Département de la sécurité, de la police et de l'environnement du canton de Genève a retiré l'autorisation d'engagement délivrée à A._ en faveur de X._. Après avoir donné à X._ la possibilité de se déterminer, l'Office cantonal de la population a, par décision du 21 juin 2010, révoqué son autorisation de séjour, au motif qu'il avait dissimulé des faits essentiels. C. A l'encontre de cette décision, X._ a recouru à la Commission cantonale de recours en matière administrative du canton de Genève - devenue entre-temps le Tribunal administratif de première instance du canton de Genève. Le 4 août 2010, l'Office fédéral des migrations a annulé, avec effet immédiat, la mesure d'interdiction d'entrée prononcée à l'encontre de Y._ alias X._. Il s'est réservé de prendre à nouveau une telle mesure pour le cas où l'intéressé devrait quitter la Suisse au terme de la procédure. Après avoir entendu personnellement X._ et son épouse, le Tribunal administratif de première instance a rejeté le recours par décision du 29 mars 2011. Saisi d'un recours contre ce prononcé, la Cour de justice du canton de Genève l'a rejeté par arrêt du 21 juin 2011. Les juges cantonaux ont considéré que X._ avait, durant la procédure ayant conduit à la délivrance d'une autorisation de séjour à la suite de son mariage, dissimulé la procédure d'asile menée sous un faux nom, ainsi que sa condamnation pour trafic de cocaïne. Il s'agissait là de faits essentiels au sens de l'art. 62 let. a de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20), ce qui constituait un motif de révocation de l'autorisation de séjour, laquelle était, au vu de ladite dissimulation, "viciée à la base". L'éloignement de Suisse du prénommé était en outre conforme au principe de la proportionnalité, aucune autre mesure n'étant envisageable au vu de la nature et de la gravité des faits qui lui étaient reprochés. Les juges cantonaux ont enfin estimé qu'il n'y avait pas d'obstacles à l'exécution de son renvoi à destination du Nigéria. D. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 21 juin 2011 et d'inviter l'Office cantonal de la population à prolonger son autorisation de séjour. A titre préalable, il demande que son recours soit doté de l'effet suspensif. L'autorité précédente s'en remet à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt sur le fond. L'Office cantonal de la population renonce à se déterminer. L'Office fédéral des migrations propose de rejeter le recours. Par ordonnance présidentielle du 27 juillet 2011, la requête d'effet suspensif a été admise.