Faits:
A. A._, ressortissant gambien né en 1972, est entré pour la première fois en Suisse le 13 octobre 1999 sous le nom de B._, se disant ressortissant de Sierra Leone, né en 1980. Sous cette identité, il a été condamné pénalement à cinq reprises entre 2000 et 2003, à des peines totalisant 21 mois et 10 jours d'emprisonnement pour infractions et contraventions à la loi fédérale du 3 octobre 1951 sur les stupéfiants (LStup; RS 812.121), dont une peine de 12 mois d'emprisonnement sous déduction de 178 jours de détention préventive, prononcée le 1er mai 2003 par le Tribunal correctionnel de l'Est vaudois. Le 30 avril 2001, sa demande d'asile a définitivement été frappée de non-entrée en matière. Dès le 6 août 2004, A._ a été considéré comme disparu.
Revenu illégalement en Suisse, A._ a épousé C._, ressortissante suisse, le 24 septembre 2004. Le 27 septembre 2004, il s'est annoncé auprès des autorités communales de Gryon, indiquant qu'il n'avait jamais précédemment séjourné en Suisse et n'avait jamais fait l'objet d'une condamnation pénale, en Suisse ou à l'étranger. Le 7 octobre 2004, une autorisation de séjour au titre du regroupement familial lui a été délivrée. A._ vit depuis lors avec son épouse et le fils de celle-ci, D._. A deux reprises, il a été autorisé à exercer un emploi salarié d'aide-maçon.
Le 30 octobre 2008, A._ a été entendu par la Police de sûreté, sur demande du Juge d'instruction de l'arrondissement de Lausanne, en qualité de prévenu d'infraction à la LStup. Il a reconnu avoir été condamné à plusieurs reprises en Suisse, sous un nom d'emprunt.
Le 3 mars 2010, le Service de la population du canton de Vaud a informé A._ de son intention de ne pas renouveler son autorisation de séjour et a invité son conseil à se déterminer.
Le 27 avril 2010, A._ a été condamné par le juge d'instruction itinérant à 31 jours-amende à 30 fr., pour infraction à l'art. 116 al. 1 let. a de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20).
Par décision du 3 août 2010, le Service de la population a refusé de renouveler l'autorisation de séjour de A._ et a prononcé son renvoi.
Le recours interjeté par A._ contre cette décision a été rejeté par arrêt de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) du 8 février 2011.
B. Par écriture parvenue au Tribunal fédéral le 14 mars 2011, A._ forme un recours en matière de droit public contre le jugement du Tribunal cantonal du 8 février 2011. Il demande l'annulation de l'arrêt entrepris et le renouvellement de son autorisation de séjour, subsidiairement le renvoi de la cause au Tribunal cantonal et, plus subsidiairement, à l'autorité de première instance, pour nouvelle décision. A titre préalable, il requiert que son recours soit doté de l'effet suspensif.
Le Service de la population et le Tribunal cantonal ont renoncé à se déterminer sur le recours, alors que l'Office fédéral des migrations a conclu à son rejet.
Par ordonnance présidentielle du 16 mars 2011, la requête d'effet suspensif a été admise.

Considérant en droit:
1. 1.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon la jurisprudence, il suffit, sous l'angle de la recevabilité, qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte. Le point de savoir si, au vu des circonstances du cas concret, l'étranger peut effectivement prétendre à l'octroi d'une telle autorisation est par contre une question qui relève du fond et non de la recevabilité (<ref-ruling> consid. 3.3 p. 501, 177 consid. 1.1 p. 179).
En l'occurrence, le recourant invoque l'art. 8 CEDH en se prévalant de sa relation avec son épouse suisse. Dans la mesure où cette disposition est potentiellement de nature à lui conférer un droit à une autorisation de séjour, son recours échappe au motif d'irrecevabilité de l'art. 83 let. c ch. 2 LTF. La voie du recours en matière de droit public est donc ouverte. La recevabilité découle également de l'art. 42 LEtr qui prévoit un droit pour les membres étrangers de la famille d'un ressortissant suisse à l'octroi d'une autorisation de séjour.
1.2 Les autres conditions de recevabilité étant réunies, il se justifie d'entrer en matière.
1.3 L'allégation de faits nouveaux est prohibée devant le Tribunal fédéral (<ref-law>). Ainsi en va-t-il de ceux allégués itérativement par le recourant tout au long de son écriture, que ce soit au sujet des motifs de non-renouvellement de l'autorisation litigieuse ou de la pesée des intérêts. Le Tribunal fédéral fondera donc son jugement sur les faits retenus par l'autorité précédente (cf. <ref-law>).
1.4 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Comme dit, il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ceux-ci n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire de l'art. 9 Cst. (<ref-ruling> consid. 4.3 p. 62) - ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>), ce qu'il appartient au recourant d'exposer et de démontrer de manière claire et circonstanciée. La correction du vice soulevé doit en outre être susceptible d'influer sur le sort de la cause (<ref-law>). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. <ref-ruling> consid. 3 p. 104 s.; <ref-ruling> consid. 5.2.2 p. 322).
2. L'art. 51 al. 1 let. b LEtr dispose que les droits prévus à l'art. 42 LEtr (droits des membres étrangers de la famille d'un ressortissant suisse à l'octroi d'une autorisation de séjour et à sa prolongation) s'éteignent s'il existe des motifs de révocation au sens de l'art. 63 LEtr. Le recourant ne conteste pas sérieusement l'existence de motifs de révocation au sens de cette dernière disposition, ce qu'il y a toutefois lieu d'examiner d'office, s'agissant de droit fédéral (cf. <ref-law>).
2.1 L'art. 63 al. 1 LEtr classe les cas de révocation en trois catégories, dont la première (let. a) comprend les situations où les conditions visées à l'art. 62 let. a ou b LEtr sont réalisées. Selon ce dernier article, la révocation est possible notamment si l'étranger a été condamné à une peine privative de liberté de longue durée ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 CP (let. b). Une peine privative de liberté est de longue durée lorsqu'elle dépasse un an d'emprisonnement (<ref-ruling> consid. 4.2 p. 379 ss), de sorte qu'en l'occurrence la condamnation du recourant à douze mois d'emprisonnement ne remplit pas cette première cause de révocation (critère de la durée), pas plus qu'elle ne réalise celle de l'art. 63 al. 1 let. b LEtr qui suppose une atteinte très grave à la sécurité et l'ordre publics.
2.2 L'autorité compétente peut aussi révoquer une autorisation, à l'exception d'une autorisation d'établissement, notamment lorsque l'étranger ou son représentant légal a fait de fausses déclarations ou dissimulé des faits essentiels durant la procédure d'autorisation (art. 62 al. 1 let. a LEtr). L'étranger est en effet tenu d'informer l'autorité de manière complète et conforme à la vérité sur tous les faits déterminants pour l'octroi de l'autorisation. Le silence ou l'information erronée doivent avoir été utilisés de manière intentionnelle, dans le but d'obtenir une autorisation. La dissimulation d'une condamnation pénale suffit pour que le motif de révocation de l'art. 62 al. 1 let. a LEtr soit réalisé. Il en va d'autant plus ainsi que la tromperie n'a pas à être causale, en ce sens qu'il n'est pas nécessaire qu'elle ait joué un rôle décisif dans l'octroi de l'autorisation. En outre, il importe peu que l'autorité eût pu, en faisant preuve de la diligence nécessaire, découvrir par elle-même les faits dissimulés (arrêt 2C_651/2009 du 1er mars 2010 consid. 4.1.1 et les arrêts cités).
Ce motif de révocation est de toute évidence réalisé en l'espèce, du moment que le recourant a tu, lors de la procédure d'autorisation, les multiples condamnations pénales dont il avait fait l'objet en Suisse. Les critiques que le recourant émet - en invoquant notamment l'absence de question sur ce point de la part des autorités - concernant l'état de fait retenu dans la décision attaquée, sont d'ailleurs purement appellatoires et, partant, irrecevables (cf. ci-dessus consid. 1.3 et 1.4).
3. L'existence d'un motif de refus de renouvellement de l'autorisation ne débouche sur un tel résultat que si ce dernier respecte le principe de la proportionnalité (art. 96 LEtr; arrêt 2C_793/2008 du 27 mars 2009 consid. 2.1 et les références).
3.1 C'est au regard de toutes les circonstances de l'espèce qu'il convient de trancher la question du refus de l'autorisation de séjour. A cet égard, le fait que les condamnations pénales ne constituent pas en elles-mêmes un motif de révocation ou de non-renouvellement de l'autorisation ne dispense nullement les autorités de les prendre en compte dans la pesée des intérêts. Dans ce processus, il y a donc lieu de prendre en considération la gravité de la faute commise, le degré d'intégration, la durée du séjour en Suisse, ainsi que le préjudice que l'intéressé et sa famille auraient à subir du fait de la mesure (cf. art. 96 al. 1 LEtr; arrêt 2C_739/2009 du 8 juin 2010 consid. 4.2.1 et les références citées). Quand le refus d'octroyer une autorisation de séjour se fonde sur la commission d'une infraction, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à procéder à la pesée des intérêts (arrêt 2C_464/2009 du 21 octobre 2009 consid. 5). Le Tribunal fédéral a jugé à de multiples reprises que la protection de la collectivité publique face au développement du marché de la drogue constitue un intérêt public important justifiant l'éloignement de Suisse d'un étranger qui s'est rendu coupable d'infraction grave à la loi fédérale sur les stupéfiants, surtout s'il n'est pas lui-même consommateur de drogue, mais qu'il a agi par pur appât du gain (arrêts 2C_739/2009 du 8 juin 2010 consid. 4.3 et 2C_651/2009 du 1er mars 2010 consid. 4.3). Les étrangers qui sont mêlés au commerce des stupéfiants doivent donc s'attendre à faire l'objet de mesures d'éloignement (arrêt 2A.424/2001 du 29 janvier 2002 consid. 4a). Il s'agit d'un domaine où la jurisprudence se montre particulièrement rigoureuse (<ref-ruling> consid. 2c p. 436), le risque de récidive ne jouant pas un rôle déterminant pour les mesures d'éloignement prises sur la base du droit interne, mais ne constituant qu'un facteur parmi d'autres dans la pesée des intérêts, où la gravité des actes commis est, comme on l'a vu, le premier élément à prendre en considération (<ref-ruling> consid. 4.3 p. 24).
3.2 En l'occurrence, le recourant a été condamné à cinq reprises entre 2000 et 2003, à des peines totalisant 21 mois et 10 jours d'emprisonnement pour infractions et contraventions à la LStup. Parmi ces condamnations figure une peine de douze mois d'emprisonnement, sous déduction de 178 jours de détention préventive, le recourant ayant au surplus agi dans un but purement lucratif. A cela s'ajoute que son mariage n'a guère eu d'effet tangible sur son comportement puisque, depuis lors, il a été condamné le 27 avril 2010 à une peine pécuniaire ferme de 31 jours pour avoir facilité en 2008 le séjour illégal d'étrangers en Suisse. Il ne s'agissait donc pas d'une infraction à la législation sur les étrangers liée à son propre statut, dont la gravité est fréquemment considérée comme moindre dans la pesée des intérêts (cf. <ref-ruling> consid. 5.3 p. 289). A la lumière de la jurisprudence, l'intérêt public à ne plus accepter la présence du recourant en Suisse apparaît donc comme manifeste au vu de ses antécédents pénaux. Il en va d'autant plus ainsi quand on prend en compte le fait qu'il a intentionnellement trompé les autorités administratives lors de la procédure d'autorisation, à défaut de quoi il n'aurait de toute évidence pas bénéficié d'une première autorisation de séjour.
Au vu de la gravité et du nombre de comportements contraires à l'ordre public suisse reprochés au recourant, seul un intérêt privé particulièrement important pourrait faire obstacle à son renvoi dans le cadre de la pesée des intérêts. Comme l'a relevé le Tribunal cantonal, le recourant vit en Suisse depuis six ans, le séjour antérieur à son mariage, illégal, n'étant pas déterminant dans la pesée d'intérêts (cf. <ref-ruling> consid. 4.3 p. 24). S'agissant du séjour légal, on ne peut également perdre de vue que l'autorisation lui aurait été d'emblée refusée s'il avait fait à l'autorité de police des étrangers des déclarations exactes et complètes sur ses antécédents pénaux. Dès lors que son intégration professionnelle n'a, en l'absence d'une situation stable, pour le moins rien d'exceptionnel, seule pourrait être prise en compte la relation qu'il entretient avec son épouse suisse et, dans une moindre mesure, avec l'enfant de cette dernière. Depuis six ans, il fait en effet ménage commun avec elle et le fils qu'elle a eu d'une précédente union. Le recourant contribue sans doute par son activité à l'entretien de cet enfant. Cela étant, il n'a aucun lien parental avec lui.
Il n'est certainement pas envisageable d'exiger de l'épouse, qui a toujours vécu en Suisse, qu'elle quitte son pays, avec son fils, pour s'établir en Gambie et y rejoigne le recourant. La décision attaquée est toutefois dépourvue d'une telle portée en ce qui concerne cette dernière, puisqu'elle peut demeurer en Suisse et qu'il lui est loisible de se rendre en Gambie pour y voir le recourant. Pour le reste, en épousant un trafiquant de drogue multirécidiviste, elle ne pouvait ignorer le risque que celui-ci fasse un jour l'objet d'une telle mesure d'éloignement. Dans ces conditions, le refus de l'autorité précédente de procéder au renouvellement de l'autorisation de séjour du recourant, en raison des condamnations dont il a fait l'objet, d'une part, et de la dissimulation à l'autorité de ces faits essentiels, d'autre part, n'apparaît pas disproportionné. La pesée des intérêts à laquelle a procédé le Tribunal cantonal est donc conforme à l'art. 96 LEtr.
4. En invoquant l'art. 8 CEDH, le recourant se prévaut de sa relation avec son épouse de nationalité suisse.
4.1 La réglementation prévue à l'art. 8 CEDH permet de s'opposer à l'éventuelle séparation de sa famille et d'obtenir ainsi une autorisation de séjour. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse soit étroite et effective (<ref-ruling> consid. 3.1 p. 285; <ref-ruling> consid. 5.3.1 p. 211), ce qui est normalement le cas s'agissant des liens entre époux vivant ensemble (<ref-ruling> consid. 1.3.2 p. 146; <ref-ruling> consid. 1d p. 261).
Le droit au respect de la vie privée et familiale garanti par l'art. 8 § 1 CEDH n'est toutefois pas absolu. Une ingérence dans l'exercice de ce droit est possible, selon l'art. 8 § 2 CEDH, à certaines conditions, notamment lorsqu'une telle mesure est nécessaire à la défense de l'ordre et à la prévention des infractions pénales. L'application de cette disposition implique aussi la pesée des intérêts et l'examen de la proportionnalité de la mesure (<ref-ruling> consid. 4.3 p. 381; <ref-ruling> consid. 2.1 et 2.2 p. 154 ss). En présence d'une peine privative de liberté de longue durée, le Tribunal fédéral a estimé qu'il y avait lieu de s'en tenir à sa pratique selon laquelle un étranger qui n'a séjourné en Suisse que peu de temps et qui a été condamné à une peine de deux ans ou plus ne saurait en principe bénéficier d'un titre de séjour en Suisse, même lorsqu'on ne peut pas ou difficilement exiger de son conjoint suisse qu'il quitte son pays (<ref-ruling> consid. 4.4 p. 382; <ref-ruling> consid. 4.3 p. 24; <ref-ruling> consid. 4.1 p. 185). Cette limite de deux ans n'est certes pas absolue. Elle doit au contraire être appréciée au regard de toutes les circonstances du cas et, en particulier, de la durée du séjour en Suisse de l'étranger (<ref-ruling> consid. 4.4 p. 382). On doit aussi prendre en compte la nature des infractions commises et, à cet égard, comme dans la pesée d'intérêts à effectuer en vertu de l'art. 96 LEtr, il s'agit de se montrer particulièrement rigoureux avec les ressortissants étrangers qui se livrent au trafic de drogue, qui plus est pour des motifs purement pécuniaires.
4.2 Au vu de ce qui précède, la pesée des intérêts à effectuer en vertu de l'art. 8 § 2 CEDH conduit au même résultat que celle à laquelle il a été procédé plus haut en relation avec l'art. 96 LEtr. Il peut donc être renvoyé au consid. 3.2 ci-dessus.
Le grief de violation de l'art. 8 CEDH doit donc être rejeté.
5. Le recours en matière de droit public doit ainsi être rejeté dans la mesure où il est recevable.
Succombant, le recourant supportera les frais judiciaires (cf. <ref-law>) et n'a pas droit à des dépens (cf. <ref-law> a contrario).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué à la mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 25 août 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin