Faits:
A. Ressortissant du Nigéria né en 1974, X._ est arrivé en Suisse le 5 mai 2003 sous le nom de Y._, de nationalité camerounaise, né le 25 septembre 1980. Le 28 mai 2003, il a déposé une demande d'asile qui a fait l'objet le 13 juin 2003 d'une décision de non-entrée en matière de l'ancien Office fédéral des réfugiés, l'intéressé devant quitter la Suisse immédiatement et l'effet suspensif étant retiré à un éventuel recours. Le recours interjeté contre ce prononcé a été déclaré irrecevable par décision de l'ancienne Commission fédérale de recours en matière d'asile du 4 août 2003.
Dès le mois de juillet 2003, l'Office cantonal de la population du canton de Genève a entrepris des démarches en vue du renvoi du prénommé dans son pays d'origine. Celui-ci était alors hébergé dans un foyer de l'Hospice général.
Le 28 janvier 2004, Y._ a été interpellé pour trafic de drogue à Genève (vente d'une boulette de cocaïne), faits pour lesquels il a été condamné à trois mois d'emprisonnement avec sursis par ordonnance du juge d'instruction du 2 février 2004.
Le 20 septembre 2004, l'Office cantonal de la population a adressé à Y._ un avis de fin de droit lui impartissant un délai au 14 octobre 2004 pour quitter sa structure d'hébergement et la Suisse. Ce dernier a toutefois bénéficié de l'aide d'urgence jusqu'au 26 mai 2005.
B. Le 22 juin 2005, X._ a épousé à Versoix/Genève Z._, ressortissante suisse née en 1963, veuve et mère de trois enfants.
A la suite de ce mariage, l'Office cantonal de la population a délivré à X._ une autorisation de séjour qui a été régulièrement renouvelée, pour la dernière fois le 5 janvier 2010 avec effet jusqu'au 21 juin 2010.
Dans le courant de l'année 2009, Z._ a adressé plusieurs courriers à l'Office cantonal de la population. Il en ressortait en substance que le couple s'était séparé au début de l'année 2009; la relation entre les époux connaissait des hauts et des bas, mais il restait un espoir de réconciliation, certes ténu.
Retenant que le droit de X._ à une autorisation de séjour subsistait (mariage d'une durée supérieure à trois ans et intégration réussie), l'Office cantonal de la population a donc renouvelé celle-ci.
Entendue le 27 janvier 2010 par la police judiciaire genevoise comme victime de menaces, Z._ a déclaré que la tension avait fortement augmenté entre son mari et elle dans le courant de l'année 2009. En décembre 2008, ce dernier lui avait annoncé qu'il la quittait et qu'il avait trouvé un nouveau logement. Une dispute très violente avait éclaté. En fouillant sa valise, elle avait trouvé divers documents qui indiquaient qu'il avait été requérant d'asile en Suisse sous le nom de Y._, ressortissant du Cameroun. Le 19 décembre 2008, son mari avait déménagé toutes ses affaires et était parti pour le Nigéria. Elle lui avait indiqué qu'elle voulait engager une procédure de séparation, voire de divorce, ce qu'il avait refusé pendant toute l'année 2009. Elle avait tout de même intenté une procédure de séparation et, parallèlement, avait tenté à plusieurs reprises de se réconcilier avec lui. Chaque fois qu'elle parlait de divorce, son mari lui répondait: "tu verras ce qui se passera, si tu demandes le divorce". Lorsqu'elle insistait, il disait: "si tu bouges, tu auras des ennuis". Le 24 janvier 2010, alors qu'elle voulait lui parler pour régler leur situation et divorcer, il lui avait dit en anglais: "tu es folle, tu es folle, tu n'as pas peur de la mort?". Elle n'avait jamais été menacée physiquement directement, mais elle avait peur de lui. Il était agent de sécurité et elle ne savait pas s'il possédait une arme.
Le 28 janvier 2010, X._ a été entendu par la police judiciaire. Il a déclaré qu'il était arrivé en Suisse pour la première fois en 2003 et qu'il avait déposé une demande d'asile sous le pseudonyme de Y._. Sa demande d'asile avait été rejetée, mais il n'avait pas été expulsé. En 2004, il avait rencontré à Paris celle qui allait devenir son épouse et ils s'étaient mariés le 21 juin 2005 à Versoix. Pour ce faire, il avait repris sa vraie identité et fait venir son passeport nigérian. Très rapidement, le couple avait eu des disputes régulières. En décembre 2008, X._ avait pris un domicile séparé. Il n'avait jamais menacé son épouse; au contraire, c'était elle qui ne cessait de le harceler sur son téléphone portable. Il n'avait pas l'intention de lui faire du mal ni à elle ni aux membres de sa famille, il voulait seulement qu'elle le laisse en paix. Alors qu'il était requérant d'asile sous le nom de Y._, il avait effectivement vendu de la drogue, mais, depuis son mariage, il n'avait plus eu affaire à la police. Concernant sa situation personnelle, X._ a déclaré qu'il avait huit frères et s?urs qui vivaient encore au Nigéria, d'autres membres de sa famille se trouvant aux Etats-Unis et en Grande-Bretagne. Il travaillait actuellement comme agent de sécurité pour l'entreprise A._ et gagnait environ 4'000 fr. (salaire brut). A la fin de l'entretien, l'inspecteur a remis au prénommé une interdiction d'entrée prononcée le 12 avril 2006 à l'encontre de Y._ par l'Office fédéral des migrations et valable jusqu'au 11 avril 2011, pour des motifs d'ordre et de sécurité publics, en raison de la commission d'infractions graves à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup; RS 812.121) (vente de cocaïne).
Par décision du 24 février 2010, le Département de la sécurité, de la police et de l'environnement du canton de Genève a retiré l'autorisation d'engagement délivrée à A._ en faveur de X._.
Après avoir donné à X._ la possibilité de se déterminer, l'Office cantonal de la population a, par décision du 21 juin 2010, révoqué son autorisation de séjour, au motif qu'il avait dissimulé des faits essentiels.
C. A l'encontre de cette décision, X._ a recouru à la Commission cantonale de recours en matière administrative du canton de Genève - devenue entre-temps le Tribunal administratif de première instance du canton de Genève.
Le 4 août 2010, l'Office fédéral des migrations a annulé, avec effet immédiat, la mesure d'interdiction d'entrée prononcée à l'encontre de Y._ alias X._. Il s'est réservé de prendre à nouveau une telle mesure pour le cas où l'intéressé devrait quitter la Suisse au terme de la procédure.
Après avoir entendu personnellement X._ et son épouse, le Tribunal administratif de première instance a rejeté le recours par décision du 29 mars 2011.
Saisi d'un recours contre ce prononcé, la Cour de justice du canton de Genève l'a rejeté par arrêt du 21 juin 2011. Les juges cantonaux ont considéré que X._ avait, durant la procédure ayant conduit à la délivrance d'une autorisation de séjour à la suite de son mariage, dissimulé la procédure d'asile menée sous un faux nom, ainsi que sa condamnation pour trafic de cocaïne. Il s'agissait là de faits essentiels au sens de l'art. 62 let. a de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20), ce qui constituait un motif de révocation de l'autorisation de séjour, laquelle était, au vu de ladite dissimulation, "viciée à la base". L'éloignement de Suisse du prénommé était en outre conforme au principe de la proportionnalité, aucune autre mesure n'étant envisageable au vu de la nature et de la gravité des faits qui lui étaient reprochés. Les juges cantonaux ont enfin estimé qu'il n'y avait pas d'obstacles à l'exécution de son renvoi à destination du Nigéria.
D. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 21 juin 2011 et d'inviter l'Office cantonal de la population à prolonger son autorisation de séjour. A titre préalable, il demande que son recours soit doté de l'effet suspensif.
L'autorité précédente s'en remet à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt sur le fond. L'Office cantonal de la population renonce à se déterminer. L'Office fédéral des migrations propose de rejeter le recours.
Par ordonnance présidentielle du 27 juillet 2011, la requête d'effet suspensif a été admise.

Considérant en droit:
1. 1.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon la jurisprudence, il suffit, sous l'angle de la recevabilité, qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte. La question de savoir si les conditions d'un tel droit sont effectivement réunies relève du fond (<ref-ruling> consid. 1.1 p. 179, 497 consid. 3.3 p. 500 s.).
En l'occurrence, le recourant fait valoir en substance que son droit à la prolongation de son autorisation de séjour tiré de l'art. 42 al. 1 LEtr subsiste en application de l'art. 50 al. 1 let. a LEtr et n'est pas éteint en vertu des art. 51 al. 2 let. b et 62 let. a LEtr, le motif de révocation prévu par cette dernière disposition n'étant pas réalisé. Or, du moment que l'art. 50 al. 1 let. a LEtr est potentiellement de nature à lui conférer un tel droit, le recours en matière de droit public est recevable au regard de l'art. 83 let. c ch. 2 LTF.
1.2 Les autres conditions de recevabilité étant réunies, il se justifie d'entrer en matière.
1.2 Les autres conditions de recevabilité étant réunies, il se justifie d'entrer en matière.
1.3 1.3.1 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral et du droit international (art. 95 let. a et b et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law> s'agissant des droits fondamentaux. Il y procède en se fondant sur les faits constatés par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - c'est-à-dire arbitrairement au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.3 p. 62; <ref-ruling> consid. 7.1 p. 398) - ou en violation du droit au sens de l'<ref-law> (<ref-law>). D'une manière générale, la correction du vice doit en outre être susceptible d'influer sur le sort de la cause (art. 97 al. 1 in fine LTF). S'agissant de l'appréciation des preuves et des constatations de fait, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 4.2 p. 560; <ref-ruling> consid. 1.3; <ref-ruling> consid. 5.4). Le recourant doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait divergeant de celui qui est contenu dans l'acte attaqué. En particulier, le Tribunal de céans n'entre pas en matière sur des critiques appellatoires portant sur l'état de fait ou sur l'appréciation des preuves (cf. <ref-ruling> consid 1.4 p. 400).
1.3.2 En l'occurrence, le recourant s'en prend à plusieurs égards à l'état de fait retenu dans la décision attaquée. Il conteste en particulier avoir vendu une boulette de cocaïne, en faisant valoir qu'il aurait signé le procès-verbal de police sans en comprendre la teneur. Le recourant n'expose toutefois pas en quoi les faits auraient été établis de façon arbitraire - au sens rappelé ci-dessus - ou en violation du droit au sens de l'<ref-law>, mais se contente d'opposer sa propre version à celle retenue par l'autorité précédente. Si cette façon de procéder serait peut-être admissible dans le cadre d'un appel, elle n'est pas conforme aux exigences auxquelles la LTF soumet les recours au Tribunal fédéral. Partant, ces critiques sont irrecevables, le Tribunal de céans étant fondé à vérifier l'application du droit sur la seule base des faits retenus dans le jugement du 21 juin 2011.
2. 2.1 Dans un grief formel qu'il convient d'examiner en premier lieu, le recourant reproche à l'autorité précédente d'avoir violé son droit d'être entendu en ne le faisant pas comparaître personnellement et en ne recueillant pas le témoignage de son épouse.
2.2 Le recourant ne fait pas valoir qu'il aurait requis sa comparution personnelle devant l'autorité précédente, ni offert à celle-ci le témoignage de son épouse. Pour ce motif déjà, son droit d'être entendu ne saurait avoir été violé. En outre, ces mesures d'instruction s'imposaient d'autant moins que le Tribunal administratif de première instance y avait déjà procédé. Il convient finalement de rappeler que, d'une part, l'art. 29 al. 2 Cst. - le recourant n'invoquant aucune disposition de droit cantonal dont la portée serait plus large - ne confère pas le droit d'être entendu oralement par l'autorité (ATF <ref-ruling> consid. 5.3 p. 148; <ref-ruling> consid. 2.1 p. 428 s.) et que, d'autre part, le droit de faire administrer des preuves n'empêche pas l'autorité de mettre un terme à l'instruction, lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude qu'elles ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 5.3 p. 236; <ref-ruling> consid. 2.1 p. 429).
Manifestement mal fondé, le grief doit donc être rejeté.
3. Le recourant ne faisant plus ménage commun avec son épouse, il ne peut déduire un droit à une autorisation de séjour de l'art. 42 LEtr. Il est en outre constant que la communauté conjugale a cessé d'exister, de sorte qu'il ne peut davantage se fonder sur l'art. 49 LEtr, disposition permettant, pour des raisons majeures, de justifier l'existence de domiciles séparés. Reste l'art. 50 al. 1 LEtr qui prévoit qu'après dissolution de l'union conjugale, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité en vertu notamment de l'art. 42 LEtr subsiste si l'union conjugale a duré au moins trois ans et que l'intégration est réussie (let. a). Toutefois, selon l'art. 51 al. 2 LEtr, les droits prévus entre autres normes à l'art. 50 LEtr s'éteignent notamment s'il existe des motifs de révocation au sens de l'art. 62 (let. b). Au nombre des causes de révocation prévues par l'art. 62 LEtr figure le fait que l'étranger ou son représentant légal a fait de fausses déclarations ou a dissimulé des faits essentiels durant la procédure d'autorisation (let. a).
Selon la jurisprudence, le motif de révocation de l'art. 62 let. a LEtr doit, d'une manière générale, être appliqué conformément à la pratique développée sous l'empire de l'ancienne loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 1 113 et les modifications ultérieures; en vigueur jusqu'au 31 décembre 2007). Sont ainsi importants non seulement les faits sur lesquels l'autorité a expressément demandé des précisions, mais également ceux dont le recourant devait savoir qu'ils étaient déterminants pour l'octroi du permis. L'information erronée ou le silence doivent avoir été utilisés de manière intentionnelle, dans l'optique d'obtenir l'autorisation de séjour ou d'établissement. En outre, la tromperie n'a pas à être causale, en ce sens que l'autorisation aurait nécessairement été refusée si l'intéressé avait donné des informations complètes et exactes (arrêts 2C_403/2011 du 2 décembre 2011 consid. 3.3.1; 2C_651/2009 du 1er mars 2010 consid. 4.1.1 et les références).
Au demeurant, le refus de l'autorisation ou la révocation de celle-ci ne se justifie que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître la mesure comme proportionnée aux circonstances. Il convient donc de prendre en considération les intérêts publics, la situation personnelle de l'étranger, ainsi que son degré d'intégration (cf. art. 96 al. 1 LEtr; <ref-ruling> consid. 4.3 p. 381).
4. 4.1 Le recourant fait valoir que, contrairement à ce qu'a admis l'autorité précédente, il n'a pas dissimulé sa condamnation à trois mois d'emprisonnement afin d'obtenir son autorisation de séjour par regroupement familial à la suite de son mariage, car, à l'époque, il n'existait pas d'examen de la situation préalablement à la célébration du mariage, comme cela se pratique actuellement.
4.2 Il ressort toutefois du dossier de la cause que le recourant a répondu par la négative à la question "Avez-vous fait l'objet d'une condamnation?" figurant sur le "formulaire individuel de demande pour ressortissant hors UE/AELE" (formule M1), qu'il a signé le 23 juin 2005, soit à l'époque de son mariage, en vue d'obtenir une autorisation de séjour par regroupement familial. En dissimulant sa condamnation du 2 février 2004, il a obtenu ladite autorisation en manquant à son devoir de renseigner exactement l'autorité sur tout ce qui est de nature à déterminer sa décision, obligation qui était prévue aux art. 3 al. 2 et 13f LSEE et dont la violation pouvait entraîner la révocation de l'autorisation de séjour (cf. art. 9 al. 2 let. a LSEE), comme le prescrit actuellement l'art. 62 let. a LEtr. S'agissant d'un fait essentiel au sens de cette dernière disposition, le motif de révocation prévu par ladite norme est réalisé, ce qui entraîne en principe l'extinction du droit au renouvellement de l'autorisation de séjour découlant de l'art. 50 al. 1 let. a en relation avec l'art. 42 al. 1 LEtr.
Il reste à déterminer si le refus du renouvellement de l'autorisation de séjour du recourant est conforme au principe de proportionnalité, ce que celui-ci conteste.
5. Quoi qu'il en dise, le recourant ne peut se prévaloir d'un long séjour en Suisse, surtout si l'on fait abstraction de la période où il y a séjourné sous une fausse identité comme requérant d'asile débouté. Depuis 2005 et jusqu'au retrait de son autorisation d'engagement en février 2010, il s'est certes assumé financièrement et n'a plus fait l'objet de condamnations pénales. D'un autre côté, du moment que la communauté conjugale avec son épouse a pris fin, il n'a plus de relations étroites et effectives avec une personne disposant d'un droit de présence en Suisse, raison pour laquelle il ne peut se prévaloir de l'art. 8 CEDH (ce qu'il ne fait d'ailleurs qu'incidemment et sans satisfaire aucunement aux exigences de motivation de l'<ref-law>). En outre, au vu de sa condamnation pénale pour infraction à la LStup, qui plus est dans un domaine où la jurisprudence se montre particulièrement rigoureuse (cf. <ref-ruling> consid. 2c p. 436; arrêt 2C_222/2010 du 29 juillet 2010 consid. 7.2), et compte tenu du fait qu'il a caché aux autorités d'abord sa véritable identité, puis son passé de requérant d'asile et ladite condamnation, il existe un intérêt public non négligeable à son éloignement. Celui-ci l'emporte sur son intérêt privé à demeurer en Suisse, ce d'autant que sa réintégration au Nigéria, où vivent ses frères et soeurs, ne semble guère devoir poser de problèmes, même s'il affirme ne plus avoir d'attaches avec ce pays.
Dans ces conditions, l'autorité précédente n'a pas violé le principe de la proportionnalité en confirmant le refus de renouveler l'autorisation de séjour du recourant.
6. Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable.
Succombant, le recourant doit supporter les frais judiciaires (cf. <ref-law>) et n'a pas droit à des dépens (cf. <ref-law> a contrario).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué à la mandataire du recourant, à l'Office cantonal de la population et à la Cour de justice du canton de Genève, Chambre administrative 2ème section, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 27 décembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin