Faits:
A. X._, ressortissant de République dominicaine né en 1978, est arrivé en Suisse le 9 juillet 1988 avec sa mère. Il a bénéficié d'une autorisation de séjour, puis d'établissement.
Le 30 avril 1996, le prénommé a épousé, dans son pays d'origine, une compatriote, dont il a divorcé le 8 mai 2007. Il a trois enfants, issus de trois relations extra-conjugales: A._, né en 2000, qu'il a reconnu à l'issue d'une procédure judiciaire, B._, né à la fin juin 2004 d'une relation avec une ressortissante dominicaine, et C.Y._, né en 2004, titulaire d'un permis d'établissement et vivant à Lausanne avec sa mère, D.Y._. Selon la convention d'entretien conclue le 14 février 2007 entre cette dernière et C.Y_, d'une part, ainsi que X._, d'autre part - convention approuvée le 15 mars 2007 par la Justice de paix du district de Lausanne -, ce dernier s'est engagé à verser une pension alimentaire pour l'entretien de son fils et s'est reconnu débiteur à l'égard de celui-ci d'un montant de 14'100 fr., valeur échue, correspondant à l'arriéré des contributions dues jusqu'au 31 décembre 2006 et depuis le 11 janvier 2005. Cette convention prévoit également un libre droit de visite sur l'enfant en faveur de son père. X._ a par ailleurs une amie, Z._, ressortissante italienne titulaire d'un permis d'établissement.
X._ a effectué trois ans de scolarité en République dominicaine, puis le reste de sa scolarité obligatoire en Suisse. Il a ensuite entrepris un apprentissage de constructeur sur machines industrielles, puis une école de commerce, formations interrompues après quelques mois. Il a effectué de nombreux travaux temporaires, notamment dans le domaine du bâtiment. Il a ensuite travaillé depuis fin 2007 dans l'entreprise de peinture de son oncle, puis a été engagé le 1er juillet 2009 comme aide isoleur dans une autre entreprise. Il a également bénéficié de l'aide des Services sociaux de Zurich entre 2003 et février 2004, à raison de 1'600 fr. par mois.
X._ a subi les condamnations suivantes:
- le 28 octobre 1998: peine de quatre jours d'emprisonnement avec sursis pendant deux ans pour violation des règles de la circulation routière, prononcée par le juge d'instruction de l'Est vaudois; sursis révoqué le 19 octobre 1999;
- le 8 mars 1999: peine de dix-huit mois d'emprisonnement avec sursis pendant deux ans pour infractions et contravention à la loi fédérale sur les stupéfiants (LStup; RS 812.121), prononcée par le Tribunal d'arrondissement de Zurich;
- le 11 juin 1999: peine de trois mois d'emprisonnement avec sursis pendant trois ans pour séquestration et enlèvement, prononcée par le Tribunal d'arrondissement de Zurich; sursis révoqué le 10 mars 2003;
- le 10 mars 2003: peine de quatre mois d'emprisonnement et expulsion du territoire suisse pendant cinq ans pour agression, prononcée par le Tribunal d'arrondissement de Lausanne;
- le 8 octobre 2003: peine complémentaire au jugement du 10 mars 2003 de 20 jours d'emprisonnement pour vol d'usage et circulation sans permis de conduire, prononcée par le juge d'instruction de Lausanne;
- le 27 juillet 2006: peine de cinq ans de réclusion et expulsion du territoire suisse pendant dix ans, pour infraction grave et contravention à la LStup, ainsi que blanchiment d'argent, prononcée par le Tribunal correctionnel de l'arrondissement de Lausanne. Il ressort de ce jugement que les infractions retenues se sont déroulées entre le début 2003 et le 11 janvier 2005, que l'intéressé a en particulier vendu un kilogramme de cocaïne d'une pureté moyenne de 50%, soit 500 g de cocaïne pure, pendant cette période, et qu'il a séjourné de novembre 2003 à janvier 2004 à St-Domingue, où il a envoyé les profits tirés de son trafic de stupéfiants. La culpabilité de l'intéressé a été qualifiée de lourde. Ce jugement a été confirmé par arrêt de la Cour de cassation pénale du Tribunal cantonal vaudois du 29 décembre 2006.
Le 31 mai 2007, la juge d'application des peines de Lausanne a révoqué la libération conditionnelle octroyée à X._ par décision de la délégation de la Commission de libération du 5 août 2004.
Le 7 juillet 2008, la juge d'application des peines de Lausanne a libéré conditionnellement X._, dès lors que l'ensemble des éléments du dossier ne permettait pas de conclure à un pronostic défavorable, tout en lui fixant un délai d'épreuve d'un an, huit mois et 23 jours et en ordonnant qu'il soit soumis à des contrôles d'abstinence d'alcool et de stupéfiants. Ce jugement indique que le comportement de l'intéressé durant l'exécution de sa peine lui a permis de bénéficier d'un régime progressif, en dernier lieu du régime de travail externe, qu'il a exécuté dans l'entreprise de peinture de son oncle. X._ a toutefois subi deux sanctions disciplinaires, pour consommation de cannabis et un alcootest positif (0.31 gramme pour mille) au retour d'une réunion de famille pendant un congé. Quant au pronostic de réinsertion, il était favorable selon la Direction du Bois-Mermet et l'Office d'exécution des peines. L'intention manifestée par X._ de maintenir son abstinence et ses projets paraissaient crédibles. Ainsi, sous réserve des incertitudes relatives à la poursuite de son séjour en Suisse, la situation paraissait suffisamment stable pour être de nature à favoriser une bonne réinsertion. Dans un but de prévention de la récidive, des contrôles d'abstinence aux stupéfiants et à l'alcool devaient être ordonnés pendant le délai d'épreuve. Une assistance de probation a également été prononcée.
Le fait que le jugement du 7 juillet 2008 ait fixé à X._ un délai d'épreuve d'un an, huit mois et 23 jours et ordonné qu'il soit soumis à des contrôles d'abstinence ne l'a guère détourné de consommer de l'alcool et des stupéfiants. Ainsi, le 23 décembre 2008, X._ a été testé positif à la cocaïne. Le 4 mars 2009, il a reconnu avoir consommé du cannabis pendant son séjour, du 31 janvier au 28 février 2009, en République dominicaine. Lors des contrôles des 21 avril et 15 juillet 2009 auprès du Centre d'aide et de prévention, il a signé des décharges pour consommation de cannabis. Le 22 juillet 2009, l'Office d'exécution des peines lui a en conséquence adressé un avertissement, le sommant de s'abstenir de toute consommation de stupéfiants, notamment de cannabis. X._ a également admis avoir consommé de l'alcool pendant son séjour en République dominicaine. Le 22 octobre 2009, il a signé une nouvelle décharge à la suite de sa consommation de cannabis du 20 octobre 2009. Il a indiqué avoir consommé du cannabis plutôt par désespoir que par envie, après que sa compagne eut perdu son enfant après le cinquième mois de grossesse. Les 5, 18 et 25 novembre 2009, X._ a été contrôlé positif à la cocaïne; il a à nouveau expliqué sa consommation de drogue par la détresse ressentie après la perte de son enfant. Le 1er décembre 2009, l'Unité socio-éducative, en charge des contrôles d'abstinence à l'alcool, a indiqué que certaines valeurs des tests des 26 août et 4 novembre 2009 étaient hors normes, mais que les résultats concordaient avec les déclarations de l'intéressé selon lesquelles il consommait occasionnellement de l'alcool.
Au vu des incidents précités, la juge d'application des peines a ainsi, par jugement du 18 février 2010, prolongé de dix mois et douze jours le délai d'épreuve de la libération conditionnelle accordée à X._.
B. Par décision du 2 octobre 2008, le Département de l'intérieur du canton de Vaud a révoqué l'autorisation d'établissement de X._ et lui a enjoint de quitter la Suisse sans délai. Saisi d'un recours contre ce prononcé, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) l'a admis par arrêt du 12 novembre 2009, a annulé la décision du 2 octobre 2008 et a renvoyé la cause au Département de l'intérieur pour nouvelle décision. Elle a en effet considéré que l'autorité précédente n'avait procédé à aucune mesure d'instruction et n'avait pas examiné la situation concrète et actuelle de X._ au moment où elle avait statué, en particulier s'agissant du risque de récidive et de la proportionnalité de la mesure.
Par nouvelle décision du 17 mai 2010, le Département de l'intérieur a révoqué l'autorisation d'établissement de X._ et lui a imparti un délai au 17 juin 2010 pour quitter la Suisse. Statuant sur recours contre ce prononcé, le Tribunal cantonal l'a rejeté le 8 décembre 2010.
C. X._ a formé un recours en matière de droit public au Tribunal fédéral contre l'arrêt du 8 décembre 2010. Il requiert que la décision du Tribunal cantonal soit réformée en ce sens que le prononcé du Département de l'intérieur soit annulé et que son autorisation d'établissement soit renouvelée. Le recourant se plaint d'une violation de son droit d'être entendu (art. 29 al. 2 Cst.), de l'art. 4 ch. 1 du Protocole no 7 du 22 novembre 1984 à la Convention de sauvegarde des droits de l'homme et des libertés fondamentales (RS 0.101.07) et de l'art. 14 ch. 7 du Pacte international du 16 décembre 1966 relatif aux droits civils et politiques (Pacte ONU II; RS 0.103.2), de l'art. 8 CEDH et du principe de proportionnalité (art. 5 al. 2 Cst.) dans l'application de l'art. 63 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20).
Le Service de la population du canton de Vaud, le Département de l'intérieur et le Tribunal cantonal ont renoncé à se déterminer sur le recours. L'Office fédéral des migrations a conclu tardivement à son rejet.

Considérant en droit:
1. Confirmant la révocation de l'autorisation d'établissement du recourant, la décision attaquée peut faire l'objet d'un recours en matière de droit public, dès lors qu'il existe en principe un droit au maintien d'une telle autorisation (cf. <ref-ruling> consid. 1.2.1 p. 4).
Au surplus, le recours est dirigé contre un arrêt rendu en dernière instance cantonale par un tribunal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF) et a été déposé en temps utile (cf. <ref-law>), ainsi que dans les formes prescrites (cf. <ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (cf. <ref-law>). Il est donc en principe recevable.
2. Eu égard à sa nature formelle, la violation du droit d'être entendu (art. 29 al. 2 Cst.) dénoncée par le recourant doit être examinée en premier lieu.
2.1 Le droit d'être entendu comprend l'obligation pour l'autorité de motiver sa décision, afin que son destinataire puisse la comprendre et l'attaquer utilement s'il y a lieu et que l'autorité de recours puisse exercer son contrôle (<ref-ruling> consid. 2a/aa p. 17; arrêt 1C_308/2010 du 20 décembre 2010 consid. 3.1.2, non publié aux <ref-ruling>). Pour répondre à ces exigences, le juge doit mentionner, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision. Il n'a toutefois pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions qui, sans arbitraire, apparaissent décisives pour l'issue du litige. Il suffit que le justiciable puisse apprécier correctement la portée de la décision et l'attaquer à bon escient (<ref-ruling> consid. 5.2 p. 236; arrêt 2C_871/2010 du 7 avril 2011 consid. 2.1).
2.2 Le recourant estime d'abord que le Tribunal cantonal a violé l'obligation qui était sienne de motiver son jugement. Il n'aurait pas examiné les problèmes pertinents, notamment son évolution depuis sa libération conditionnelle, ses chances de réinsertion et les relations qu'il entretient avec les membres de sa famille.
Il suffit de lire le considérant 5 de l'arrêt entrepris pour affirmer que ce grief est dénué de consistance. Le Tribunal cantonal a en effet pris en compte les éléments pertinents pour la pesée des intérêts. Le fait qu'il ait attribué à certains d'entre eux une portée différente de celle que le recourant leur prête n'a rien à voir avec un quelconque déficit de motivation. Le grief doit donc être rejeté.
2.3 Le recourant s'en prend ensuite à la décision de première instance, estimant qu'elle "ne permet en aucun cas d'examiner dans quelle mesure les conditions posées par la jurisprudence Emre sont réalisées" (cf. arrêt de la CourEDH Emre contre Suisse du 22 mai 2008).
Le caractère dévolutif du recours au Tribunal cantonal rend irrecevable la critique de la décision de première instance devant le Tribunal fédéral. En outre, le recourant avait la faculté, imposée aux cantons par l'<ref-law>, de discuter librement des faits et du droit devant le Tribunal cantonal. Un éventuel vice de motivation de la décision de première instance aurait été en principe guéri par ce procédé.
2.4 Au surplus, le contenu du recours démontre, si besoin était encore, que le recourant a parfaitement saisi la portée de l'arrêt cantonal dont il a pu critiquer le contenu sur plus de vingt pages. Le but de l'obligation de motiver un jugement, qui est de permettre à son destinataire de le comprendre et de l'attaquer utilement s'il y a lieu et à l'autorité de recours d'exercer son contrôle (cf. consid. 2.1 ci-dessus), est donc pleinement atteint et il ne saurait y avoir aucune violation de cette obligation en la cause.
En tant que recevable, le grief doit ainsi être rejeté.
3. 3.1 Le recourant estime en second lieu que le renvoi, respectivement la révocation de son autorisation, constitue une violation de l'art. 4 ch. 1 du Protocole no 7 à la Convention de sauvegarde des droits de l'homme et des libertés fondamentales. Se prévalant de l'arrêt de la CourEDH Zolotoukhine contre Russie du 10 février 2009, il soutient qu'une telle mesure de droit administratif contrevient au principe ne bis in idem consacré par cette norme.
3.2 Dans l'affaire à la base de l'arrêt de la CourEDH en question, le requérant avait été condamné sur la base du droit administratif - disciplinaire - (art. 158 du code des infractions administratives) pour des faits qualifiés "d'actes perturbateurs mineurs". Des poursuites avaient été ultérieurement engagées contre lui en vertu du droit pénal, en partie pour les mêmes faits qualifiés "d'actes perturbateurs" (art. 213 du code pénal de la Fédération de Russie). La CourEDH a admis une violation de l'art. 4 du Protocole no 7 en relevant que "le requérant avait été condamné pour 'actes perturbateurs mineurs' dans le cadre d'une procédure administrative qui doit être assimilée à une 'procédure pénale' au sens autonome que possède cette expression dans le cadre de la Convention" (§ 120).
Dans une autre affaire, la CourEDH a toutefois admis que la décision de révoquer un permis de séjour et/ou de prononcer une mesure d'interdiction du territoire à l'égard d'un immigré de longue durée à la suite d'une infraction pénale qui a valu à l'intéressé une condamnation à une sanction pénale, ne constitue pas une double peine, ni aux fins de l'article 4 du Protocole no 7, ni d'une manière plus générale (arrêt üner contre Pays-Bas du 18 octobre 2006 § 56, in RUDH 2006 p. 68).
Dans une jurisprudence constante, le Tribunal fédéral considère de même que le principe ne bis in idem n'empêche pas de prendre des mesures administratives telles que les expulsions prononcées par les autorités de police des étrangers, en se fondant sur les mêmes faits délictueux qui ont déjà été jugés par le juge pénal (cf. arrêts 2A.329/2004 du 11 juin 2004 consid. 4; 2A.466/2000 du 18 janvier 2001 consid. 4a et les nombreuses références citées).
Le grief doit ainsi être rejeté. Il en va de même du grief de violation de l'art. 14 ch. 7 du Pacte ONU II, dont la portée n'est, sur ce point en tout cas, pas plus large que celle de l'art. 4 du Protocole no 7.
4. Le recourant ne conteste pas que les conditions de révocation d'une autorisation d'établissement soient remplies au vu de la durée des peines privatives de liberté dont il a fait l'objet, que ce soit sous l'angle de l'art. 63 LEtr ou de l'art. 8 CEDH. A juste titre. Il se plaint en revanche d'une pesée des intérêts incorrecte et d'une violation du principe de la proportionnalité (art. 5 al. 2 Cst.), grief qui se confond avec le précédent. La pesée d'intérêts étant globalement la même sous l'angle de l'art. 8 CEDH comme de l'art. 96 LEtr, la question peut être traitée conjointement.
4.1 Même lorsqu'un motif de révocation de l'autorisation est réalisé, le prononcé de la révocation ne se justifie que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître la mesure comme proportionnée aux circonstances (<ref-ruling> consid. 4.3, arrêt 2C_746/2009 du 16 juin 2010 consid. 5.4). Selon le Message du Conseil fédéral du 8 mars 2002 concernant la LEtr, il paraît indiqué, sous l'angle de la durée du séjour ainsi que des inconvénients personnels et familiaux qu'entraîne la révocation de l'autorisation d'établissement suivie du renvoi, de ne faire usage qu'avec retenue de cette possibilité, notamment à l'encontre de personnes qui ont grandi en Suisse (FF 2002 3469, 3566). D'après la jurisprudence constante, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à peser les intérêts. Le risque de récidive est aussi un facteur important permettant d'apprécier le danger que présente un étranger pour l'ordre public (<ref-ruling> consid. 4c). Il existe pour le reste un intérêt public prépondérant à éloigner des étrangers qui ont, en particulier, commis des infractions graves à la LStup, même lorsque ces étrangers vivent en Suisse depuis de nombreuses années; en pareil cas, seules des circonstances exceptionnelles permettent de faire pencher la balance en faveur de l'étranger en cause (arrêts 2C_212/2010 du 4 octobre 2010 consid. 4.1.1 in fine; 2C_746/2009 du 16 juin 2010 consid. 5.4; 2C_464/2009 du 21 octobre 2009 consid. 5; <ref-ruling> consid. 2c p. 436 s.). On tiendra par ailleurs particulièrement compte, pour apprécier la proportionnalité de la mesure, de l'intensité des liens de l'étranger avec la Suisse et des difficultés de réintégration dans son pays d'origine (cf. <ref-ruling> consid. 4.3 p. 381; arrêts 2C_313/2010 du 28 juillet 2010 consid. 4.2; 2C_739/2009 du 8 juin 2010 consid. 4.2.1). Il y a lieu également d'examiner si l'on peut exiger des membres de la famille qui ont un droit de présence en Suisse qu'ils suivent l'étranger dont l'expulsion est en cause. Pour trancher cette question, l'autorité compétente ne doit pas statuer en fonction des convenances personnelles des intéressés, mais prendre objectivement en considération leur situation personnelle et l'ensemble des circonstances. Si l'on ne peut pas exiger des membres de la famille pouvant rester en Suisse qu'ils partent à l'étranger, cet élément doit entrer dans la pesée des intérêts en présence, mais n'exclut pas nécessairement, en lui-même, un refus de l'autorisation de séjour ou une expulsion (cf. <ref-ruling> consid. 4.2 p. 23 et les références citées). Au surplus, il peut être renvoyé à la décision attaquée, qui expose la jurisprudence de manière complète et exacte.
4.2 Le recourant tente en vain d'accréditer la version selon laquelle sa consommation d'alcool et de stupéfiants serait dénuée de pertinence. Rien n'est plus faux. En effet, il suffit de rappeler qu'il a agi comme consommateur dealer, ce qui corrobore le risque de récidive flagrant que le Tribunal cantonal a discerné dans ses multiples rechutes. Le fait que certaines de ces consommations soient liées à des événements pénibles de sa vie ne change rien à ce constat qui suffit à faire craindre une reprise de ses activités de trafiquant. On ne perdra également pas de vue qu'alors que la première peine accessoire d'expulsion avait été différée dans son exécution par la Commission de libération, notamment en raison de la naissance de C.Y._, le recourant a trompé la confiance mise en lui, puisque, très rapidement, il est retombé dans la consommation de cocaïne et a repris un important trafic. Le recourant a été condamné, du fait des infractions graves et répétées qu'il a commises entre 1998 et 2005, à des peines privatives de liberté - dont une de cinq ans de réclusion - d'une durée totale de plus de sept ans, ce qui représente plus du triple de la limite jurisprudentielle indicative de deux ans à partir de laquelle le renvoi est ordonné. Les chefs d'accusation qui ont été retenus sont: violation des règles de la circulation routière, infraction grave (trafic de cocaïne), infractions et contravention à la LStup, séquestration et enlèvement, agression, vol d'usage et circulation sans permis de conduire ainsi que blanchiment d'argent. En outre, ces infractions ont été commises alors que le recourant était déjà majeur; on ne saurait par conséquent parler de délinquance juvénile, comme cela était en partie le cas dans l'affaire Emre contre Suisse, précitée (cf. § 74 de l'arrêt en question).
Ainsi, le cumul des peines privatives de liberté dans un domaine où le Tribunal fédéral fait preuve d'une grande sévérité avec le risque de récidive accru font qu'il faudrait des circonstances tout à fait exceptionnelles pour déroger à la règle et autoriser la poursuite du séjour en Suisse. Or, celles-ci font défaut en la cause. Les liens avec son fils, comme ceux avec son amie - pour autant qu'ils soient pertinents sous l'angle de l'art. 8 CEDH, ce qui peut demeurer indécis -, la longue durée de son séjour en Suisse - quand bien même la période de détention doit en être retranchée -, ainsi que la présence d'autres proches dans cet Etat ne permettent en effet nullement de contre-balancer les actes répréhensibles qu'il a commis et l'important risque de récidive qu'il présente. Il n'a en outre pas été retenu qu'il jouissait d'une intégration sociale et professionnelle exceptionnelle et les affirmations contraires du recourant n'y changent rien.
En cas de retour dans son pays d'origine, le recourant pourra de toute manière conserver avec son enfant les liens que permet la distance géographique (téléphones, visites, etc.). Quant à son amie, à supposer qu'elle puisse se prévaloir de la garantie de l'art. 8 CEDH, elle ne pouvait ignorer le risque important que sa relation ne puisse se poursuivre qu'à l'étranger, du moment que le recourant était en prison lorsque celle-ci a débuté.
Au vu de ce qui précède, les griefs de violation de l'art. 8 CEDH et du principe de proportionnalité (art. 5 al. 2 Cst.) doivent être rejetés.
5. Le recours se révèle donc entièrement infondé. Il doit être rejeté dans la mesure de sa recevabilité. La requête d'effet suspensif est sans objet. Le recourant supportera les frais judiciaires (cf. art. 65 et 66 LTF) et il n'est pas alloué de dépens.

Par ces motifs, le Tribunal fédéral prononce:
1. En tant que recevable, le recours en matière de droit public est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Département de l'Intérieur, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 27 septembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin