Faits:
A. A.a X._, ressortissant français né en 1959, est entré en Suisse le 15 septembre 1972, soit à l'âge de 13 ans, pour y rejoindre ses parents arrivés dans notre pays en 1968. Mis au bénéfice d'un permis d'établissement, il a effectué un apprentissage de boucher et obtenu un certificat fédéral de capacité. Il a travaillé tantôt comme employé, tantôt comme indépendant, reprenant dès avril 1995 une boucherie dans le canton de Vaud avec sa mère.
X._ s'est marié une première fois en 1983 avec A._, union dont est issue une fille, D._, née en 1984, de nationalité suisse. Le couple a divorcé en 1988.
Au printemps 1991, X._ s'est mis en ménage avec B._, qu'il a épousée le 13 août 1996. Celle-ci est mère d'une fille prénommée E._, née en 1983.
A.b Par jugements du Tribunal correctionnel de l'arrondissement de Lausanne du 13 décembre 1995 et de la Cour de cassation pénale du Tribunal cantonal vaudois du 29 janvier 1996, X._ a été condamné pour actes d'ordre sexuel avec des enfants et faux dans les certificats à 45 jours d'emprisonnement avec sursis pendant trois ans. Entre octobre 1992 et août 1993, X._ s'était en effet introduit au domicile de jeunes enfants, s'était exhibé devant eux et avait dans un cas procédé à des attouchements sur un garçonnet.
Dans le cadre de cette première affaire pénale, X._ a été soumis à une expertise psychiatrique confiée à l'Unité d'expertises (alors le Centre d'expertises) du Département universitaire de psychiatrie. Dans leur rapport du 11 décembre 1995, les experts ont posé le diagnostic d'exhibitionnisme et tentative d'exhibitionnisme dans le cadre d'un état anxieux chez un patient présentant une organisation psychotique de la personnalité. Ils ont en outre estimé qu'il n'y avait pas lieu d'imposer un traitement à X._, mais lui ont conseillé de consulter un thérapeute s'il se retrouvait dans un état anxieux.
A.c X._ a été arrêté le 5 mai 1997 et condamné le 5 octobre 1998 par le Tribunal correctionnel du district d'Yverdon, à raison de faits survenus entre le printemps 1996 et début mai 1997, pour actes d'ordre sexuel avec des enfants, contrainte sexuelle, actes d'ordre sexuel sur une personne incapable de discernement ou de résistance, exhibitionnisme, pornographie et violation du devoir d'assistance ou d'éducation, à la peine de quatre ans et demi de réclusion, sous déduction de 519 jours de détention préventive, et à l'expulsion du territoire suisse pour une durée de cinq ans, avec sursis pendant trois ans. Le sursis accordé par la Cour de cassation pénale le 29 janvier 1996 a été révoqué et l'exécution de la peine ordonnée. La poursuite du traitement psychiatrique ambulatoire auprès de l'Unité de psychiatrie en milieu pénitentiaire (Dr H._) - commencé en détention préventive - a été ordonnée, pour aussi longtemps que l'estimerait nécessaire l'autorité compétente. Le Tribunal correctionnel a retenu que X._ avait commis les infractions susmentionnées dès 1996 et sans doute jusqu'à son arrestation, envers sa fille D._ née en 1984, sa belle-fille E._ née en 1983, et sa filleule F._ née en 1981. Pour fixer la peine, le Tribunal correctionnel a tenu compte de la légère diminution de responsabilité de X._, mais aussi de l'extrême gravité des faits, notamment de leur répétition et du nombre de victimes.
Le Service de la population du canton de Vaud a eu connaissance le 28 octobre 1998 du jugement pénal rendu le 5 octobre 1998.
Les époux X._ / B._ ont divorcé le 15 décembre 1998.
Le 8 mai 2000, la Commission de libération a décidé de refuser la libération conditionnelle de X._, retenant notamment que "l'intéressé a reconnu lui-même qu'il ne réussirait pas à gérer une libération anticipée et préfère passer par une ouverture progressive de régime" et qu'à ce jour il représentait "un danger sérieux et élevé pour l'ordre et la sécurité publics".
Le 24 janvier 2001, la Commission de libération a en revanche accordé la libération conditionnelle à X._, en fixant un délai d'épreuve de cinq ans, pendant lequel il devait suivre un traitement psychiatrique et ne commettre aucun délit.
A.d Par ordonnance du juge d'instruction de l'arrondissement de l'Est vaudois du 22 avril 2002, X._ a été condamné pour violation grave des règles de la circulation (excès de vitesse), commise le 15 février 2002, à une peine de cinq jours d'emprisonnement, sans sursis.
Par décision du 27 juin 2002, la délégation de la Commission de libération a renoncé à révoquer la libération conditionnelle accordée à X._ le 24 janvier 2001 et lui a adressé un avertissement formel.
A.e Le 5 août 2002, X._ a épousé C._, ressortissante mauricienne née en 1971. Celle-ci a été mise au bénéfice d'une autorisation de séjour.
Le 3 septembre 2003, une demande de regroupement familial a été présentée en faveur de la fille de C._, K._, issue d'un précédent mariage et née en 1999, partant âgée de quatre ans.
Compte tenu des antécédents de X._, une expertise psychiatrique a été requise par l'ancien Département des institutions et des relations extérieures. Celle-ci, datée du 30 juillet 2004 et établie par deux autres experts de l'Unité d'expertises, a notamment la teneur suivante:
"[...]
3. Risques de récidive d'un comportement répréhensible?
REPONSE: Dans leur étude de 2001 sur le taux de récidive des délinquants sexuels, H._ et coll. mettaient en évidence des taux de récidive pour le moins alarmants: en effet, globalement, 58 % des sujets agresseurs d'adultes et agresseurs d'enfants (sur 189 agresseurs suisses de l'étude) se sont rendus coupables d'un autre délit sexuel suivi de condamnation, au moins une fois avant ou après le délit considéré, et ce sur une durée d'observation de 23 ans (1975 à 1998). D'autre part, plusieurs études, particulièrement anglo-saxonnes, mettent en évidence que l'existence de récidives antérieures accroît le risque d'une récidive future de manière significative. Quant aux données socio-démographiques, beaucoup d'auteurs retiennent un isolement social ou affectif, la difficulté à établir une relation affective stable avec une partenaire, la consommation abusive d'alcool notamment, comme éléments décrits comme des indicateurs témoignant d'une certaine fiabilité et allant de pair avec l'existence de fantaisies sexuelles déviantes. Enfin, concernant l'efficacité d'un traitement à même de prévenir le risque de récidive, si les données de la littérature vont dans le sens d'une absence de différence statistique entre taux de récidive des sujets ayant bénéficié d'un traitement psychologique non spécialisé et celui des sujets non traités, l'efficacité des traitements thérapeutiques adaptés est soulignée par une étude québécoise.
S'agissant maintenant plus particulièrement de la situation de X._, relevons d'abord que l'expertisé est un délinquant sexuel récidiviste dans la mesure où il a été condamné antérieurement et à deux reprises pour un délit sexuel, ce qui engendre pour lui un risque de récidive plus élevé.
En revanche, si l'on se réfère à la littérature, la relation affective stable qu'il connaît actuellement ainsi que son activité professionnelle régulière constituent deux facteurs psychosociaux à même de limiter le risque de récidive.
Quant au suivi thérapeutique dont bénéficie X._, il s'agit d'un traitement spécialisé pour les agresseurs sexuels, ce qui est un facteur positif, ceci d'autant plus que la prise en charge paraît bien investie et que l'évolution est positive.
Il n'en demeure pas moins, comme le Dr H._ l'a expliqué à son patient, que ce dernier sera toujours quelqu'un de fragile, que ses fantaisies sexuelles déviantes sont toujours présentes et qu'il conserve des difficultés à maîtriser son impulsivité lorsqu'il doit réagir à un stress ou à de la colère [...].
Enfin, il convient de tenir compte des résultats de l'investigation neuropsychologique, laquelle met en évidence la présence de troubles, en particulier frontaux, troubles qui sont connus pour engendrer des difficultés d'inhibition et des pertes de contrôle de soi. En particulier, des déficits frontaux peuvent être à l'origine de difficultés à contenir l'expression d'une impulsivité (violente et/ou à caractère sexuel) chez un sujet qui aurait à la base de tels fantasmes.
En conclusion, le suivi thérapeutique adapté qui, répétons-le, doit impérativement être poursuivi, amène X._ à une meilleure compréhension de son fonctionnement psychique et, partant, un meilleur contrôle des pulsions. Cependant, le fonctionnement psychique, pour être aménagé à la faveur du suivi thérapeutique, ne se modifie pas fondamentalement, et l'arrivée de K._ va replacer X._ en face d'une situation similaire à celle qu'il n'a pu maîtriser il y a quelques années et qui l'a amené à passer à l'acte. On sait que les mécanismes d'excitation sexuelle et de passage à l'acte restent envahissants pendant des années et X._, avec l'arrivée de la jeune K._, se retrouverait dans une situation à risque, indépendamment de la qualité du suivi thérapeutique. [...]"
Le 9 septembre 2004, le Service de la population a rejeté la demande de regroupement familial déposée en faveur de l'enfant K._ pour des motifs liés à la protection de l'enfant. Il a suivi en cela les déterminations du Service de protection de la jeunesse du 3 septembre 2004 selon lesquelles, en cas d'arrivée de K._ dans le foyer de sa mère et de son beau-père X._, ce dernier service aurait alors demandé le retrait du droit de garde de C._ sur sa fille et aurait placé celle-ci dans un foyer ou une famille d'accueil. Le refus du Service de la population a été confirmé, sur recours, par arrêt du 23 mai 2005 du Tribunal administratif du canton de Vaud, devenu entre-temps la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: le Tribunal cantonal).
Dans l'intervalle, soit en novembre 2004, K._ est néanmoins arrivée clandestinement en Suisse, à l'initiative de sa seule mère, séjournant d'abord chez sa tante maternelle pendant deux mois, puis dès le 20 décembre 2004 chez les époux X._. X._ en a informé ses thérapeutes plusieurs mois après, soit le 23 mars 2005. Il a finalement agi de même à l'égard du Service de protection de la jeunesse le 9 avril 2005, puis du Service de la population le 6 juin 2005.
A.f X._ a été interpellé par la police le 17 août 2005 dans le cadre de l'opération "Heidi" menée en Allemagne afin d'identifier les membres d'une communauté virtuelle sur Internet, groupe ayant pour but l'échange de matériel pédophile. Entendu le même jour, il a rapidement reconnu avoir surfé sur Internet afin d'obtenir des fichiers pédophiles et avoir téléchargé plusieurs d'entre eux. Il a été incarcéré, puis relaxé le 5 septembre 2005.
A.g X._ et C._ sont devenus les parents d'un garçon prénommé L._, né en 2005. Cet enfant a été mis au bénéfice d'un permis d'établissement.
Par ordonnance de mesures provisionnelles du 1er septembre 2005, le Juge de paix du district de Lausanne a retiré provisoirement le droit de garde sur K._ aux époux X._ pour le confier provisoirement au Service de protection de la jeunesse, et ouvert une enquête en limitation des droits de l'autorité parentale des époux X._ par rapport à l'enfant L._.
A la mi-décembre 2005, C._ a pris un domicile séparé avec son fils L._, où sa fille K._ l'a rejointe.
Dans une ordonnance de mesures provisionnelles du 14 février 2006, le Juge de paix a restitué à C._ son droit de garde sur sa fille K._ et dit que l'enquête en limitation de l'autorité parentale de C._ sur sa fille et des époux X._ sur leur fils L._ se poursuivait.
A.h Statuant sur recours le 8 août 2006, la Cour de cassation pénale du canton de Vaud a réformé une décision de la Commission de libération du 6 juin 2006, en ce sens qu'elle a renoncé à révoquer la libération conditionnelle accordée à X._ le 24 janvier 2001, mais a prolongé de deux ans et demi le délai de cinq ans fixé comme condition de sa libération conditionnelle. La Cour a néanmoins réservé le jugement à rendre dans l'affaire pénale en cours dirigée contre le prénommé.
A.i Par jugement du 12 juin 2008, le Tribunal correctionnel de l'arrondissement de Lausanne a reconnu X._ coupable de pornographie et l'a condamné à une peine privative de liberté de dix mois, peine partiellement complémentaire à celle infligée par le Juge d'instruction de l'Est vaudois le 22 avril 2002. Le tribunal a en outre ordonné la mise en ?uvre d'un traitement ambulatoire au sens de l'<ref-law> sur la personne de X._.
Le jugement retient, en résumé, que X._ avait dès le 31 janvier 2002 et jusqu'au jour de son arrestation, le 17 août 2005, consulté plusieurs fois par semaine divers sites Internet contenant principalement des images et des films comportant des actes d'ordre sexuel avec des enfants, parfois de la zoophilie et de la violence extrême. Il avait téléchargé sur son ordinateur une quantité indéterminée d'images du type précité, probablement plusieurs milliers de fichiers, les détruisant après quelques jours. En mars 2005, il avait fait l'acquisition d'un nouvel ordinateur. Depuis lors, il avait téléchargé également des vidéos en sus d'images et conservé sur son disque dur tous les fichiers téléchargés, soit 514 fichiers contenant des actes d'ordre sexuel avec des enfants, 79 fichiers montrant des enfants dans des positions lascives ou focalisant sur leurs zones génitales, 6 fichiers de zoophilie et un fichier de violence extrême. X._ avait été membre de diverses communautés virtuelles sur Internet, dans le but d'obtenir des photos et des films contenant des actes d'ordre sexuel avec des enfants ou des adresses de sites permettant d'obtenir de tels fichiers. Le tribunal a en revanche retenu que C._ avait décidé seule de la venue de sa fille en Suisse, au mépris du refus du Service de la population, et avait mis X._ devant le fait accompli.
Ce jugement s'est appuyé sur deux expertises psychiatriques de l'Unité d'expertises, rédigées par les auteurs de l'expertise du 30 juillet 2004 établie en relation avec la demande de regroupement familial formée en faveur de K._.
La première expertise, du 22 mai 2007, retient ce qui suit:
"[...]
3. ANTECEDENTS PSYCHIATRIQUES
[...] Suite au refus de la demande de regroupement familial, X._ parlera lors de ses entretiens de son vécu de colère à propos de l'attitude des autorités et reconnaîtra par ailleurs avoir mis ses thérapeutes devant le fait accompli en les informant de l'arrivée de K._ en Suisse dans sa belle-famille. M. et Mme X._ se sont cependant engagés à respecter le cadre défini, à savoir ne pas accueillir K._ à leur domicile. C'est lors d'une rencontre interdisciplinaire, en mars 2005, que X._ informe les intervenants que, contrairement à ce qu'il avait toujours soutenu, K._ vivait sous son toit depuis plusieurs mois. Et c'est lorsqu'il sera à nouveau incarcéré en détention préventive que ses thérapeutes apprendront qu'il avait continué à télécharger très régulièrement des images de pornographie infantile, et ceci depuis très longtemps. Ce faisant, leur patient avait passé outre des recommandations régulièrement formulées depuis le début de la prise en charge, dans le cadre de la consultation obligatoire. De fait, les thérapeutes lui avaient recommandé de s'abstenir de toute connexion à Internet, sachant le caractère particulièrement prégnant des fantaisies sexuelles de X._. [...]
5. OBSERVATION CLINIQUE
[...] On y relève [dans le discours de l'intéressé] une nette tendance à rendre l'extérieur en partie responsable de ce qui lui arrive, ainsi, par exemple, son épouse ('déprimée') et la législation ('floue') seraient en quelque sorte coupables du fait que X._ a agi dans l'illégalité. Ce rejet de la faute sur l'environnement s'articule à la mise en cause des autorités qui 'ont fait exprès' de faire en sorte que l'expertisé soit arrêté et incarcéré huit jours avant l'accouchement de son épouse. A relever également une minimisation des agissements et du fait d'avoir trompé le dispositif de prise en charge lors de sa libération conditionnelle [...]
6. DIAGNOSTICS PSYCHIATRIQUES (posés en référence à la classification internationale des troubles mentaux et des troubles du comportement)
? Trouble mixte de la personnalité à traits dyssociaux et émotionnellement labiles de type impulsif (code CIM-10: F 61.0)
? Trouble de la préférence sexuelle de type pédophilie (code CIM-10: F 65.4).
7. DISCUSSION
[...] S'agissant des faits qui lui sont reprochés, à notre sens les troubles psychiatriques diagnostiqués n'ont pas d'incidence sur la faculté d'apprécier le caractère illicite des actes et la capacité à se déterminer d'après cette appréciation. Ce faisant, nous nous éloignons légèrement de l'appréciation posée par nos collègues lors des deux précédentes expertises en 1995 et 1997, ceci dans la mesure où X._ nous a paru beaucoup moins perplexe face à ses fantaisies pédophiles; en outre, les tensions psychologiques qui étaient retenues à l'époque pour être à l'origine des agissements impulsifs, ne peuvent plus à nos yeux être aujourd'hui invoquées s'agissant d'une période de quatre ans environ couvrant les faits reprochés, soit entre 2001 et 2005. L'expertisé relate lui-même être beaucoup moins anxieux qu'à l'époque de ses agissements pédophiles, et X._ nous a paru devoir en effet moins lutter contre ses angoisses de morcellement, sa pensée nous apparaissant beaucoup moins floue que ce que relevait le tableau clinique à l'époque. [...]
Concernant le risque de récidive, nous ne pouvons qu'être d'accord avec le Prof. H._ lorsque, en date du 22 juin 2006, il a fait état de sa préoccupation face à la situation de X._ qui, malgré les injonctions des thérapeutes à s'abstenir de toute fréquentation de sites Internet, ne les a pas respectées, ceci indiquant, d'avis du Prof. H._, l'existence de mécanismes psychiques pathologiques encore actifs que X._ a des difficultés à contenir, plutôt qu'une réaction transitoire à un événement particulier. [...]
B. RECIDIVE
4. Compte tenu des observations de l'expert, le prévenu est-il susceptible de commettre à nouveau des actes punissables de même nature?
REPONSE : Oui, le prévenu est susceptible de commettre à nouveau des actes punissables de même nature. [...]
D. DIVERS
10. Evaluation des risques que X._ peut faire courir aux jeunes enfants, tant à l'intérieur de la famille qu'à l'extérieur?
REPONSE : Pour l'essentiel, nous reprenons la réponse que nous avions faite à la Division étrangers du Service de la population qui nous demandait de nous prononcer sur les risques de récidive d'un comportement répréhensible de X._, à l'occasion de sa requête d'un regroupement familial. [...]
Au total, X._ peut être crédité de son engagement thérapeutique dans une prise en charge qui pourrait être à même de diminuer (mais non d'abolir) les risques de récidive, cependant que le type de justification qu'il apporte à ses manquements et le fait qu'il ait délibérément occulté tout ou partie de ceux-ci à ses thérapeutes, rend la situation, en tout cas actuellement, inquiétante."
Le complément d'expertise du 17 juillet 2007 indique notamment ce qui suit:
"[...]
2) [...] Quant au fait que X._ aurait tiré un enseignement des sanctions précédentes dans le sens qu'il n'a pas récidivé pour le même type d'infraction, nous constatons néanmoins que X._ est à nouveau inculpé dans une affaire de m?urs et que s'il ne s'agit pas exactement du même type d'infraction, les délits actuels ont néanmoins une certaine parenté, s'adressant à la sphère sexuelle. Le risque de récidive pour visites de sites pédophiles existe, même si X._ dit qu'il a continué de télécharger les fichiers dans l'espoir d'être pris par la police. [...]"
Saisie d'un recours de X._ contre le jugement du 12 juin 2008, la Cour de cassation pénale du Tribunal cantonal l'a rejeté par arrêt du 3 octobre 2008. Dans un arrêt du 16 septembre 2009 (6B_289/2009), le Tribunal fédéral a partiellement admis le recours formé contre le jugement du 3 octobre 2008 et renvoyé la cause à l'autorité cantonale pour nouvelle décision (nature de la peine, examen du prononcé d'une peine pécuniaire).
Par arrêt du 30 novembre 2009, la Cour de cassation pénale du Tribunal cantonal a réformé le jugement du 12 juin 2008, en ce sens qu'elle a condamné X._ à une peine de 300 jours-amende - le montant du jour-amende étant arrêté à 30 fr. -, et dit que cette peine était partiellement complémentaire à celle infligée par le Juge d'instruction de l'Est vaudois en date du 22 avril 2002. Elle a retenu en particulier que l'intéressé avait tiré beaucoup de bénéfices du traitement ambulatoire qu'il avait suivi et qu'il devrait suivre encore; en outre, les agissements reprochés s'étaient déroulés entre 2002 et août 2005, soit il y avait plusieurs années, sans que de nouveaux épisodes délictueux se soient produits depuis; l'intéressé travaillait régulièrement, remboursait mensuellement ce qu'il devait à ses victimes et payait également des contributions en faveur de ses enfants. Dans ces conditions, une peine pécuniaire serait mieux adaptée à la situation de X._ qu'une peine privative de liberté.
Le recours formé par l'intéressé contre cet arrêt du 30 novembre 2009 a été rejeté dans la mesure de sa recevabilité par arrêt du Tribunal fédéral du 16 mars 2010 (affaire 6B_85/2010).
A.j Le divorce des époux X._ / C._ a été prononcé le 6 mars 2009. Le jugement a attribué à la mère l'autorité parentale et la garde sur l'enfant L._, maintenu le mandat de curatelle éducative au sens de l'<ref-law> confié au Service de protection de la jeunesse sur cet enfant, attribué au père un libre droit de visite, à fixer d'entente avec la mère, sinon deux demi-journées par semaine, et fixé la contribution d'entretien du père.
B. B.a Le 9 juin 2009, le Service de la population a informé X._ qu'il envisageait de proposer au chef du Département de l'intérieur du canton de Vaud la révocation de son autorisation d'établissement et son renvoi de Suisse. L'intéressé s'est déterminé par l'intermédiaire de sa mandataire.
Par décision du 29 juillet 2009, le chef du Département de l'intérieur a révoqué l'autorisation d'établissement de X._ et prononcé son renvoi de Suisse, dès qu'il aurait satisfait à la justice vaudoise.
A l'encontre de cette décision, X._ a recouru au Tribunal cantonal.
Le 24 février 2010, la mandataire du recourant a produit un rapport du 12 février 2009 du thérapeute de celui-ci, le Prof. H._, ainsi qu'un rapport "final" du 3 avril 2009 de la Fondation vaudoise de probation. Il résulte du rapport du Prof. H._ que le recourant poursuivait le suivi psychothérapeutique avec le même investissement, au rythme de deux entretiens mensuels, sur une base volontaire.
Quant à la Fondation vaudoise de probation, elle a indiqué qu'elle arrivait au terme de son mandat d'assistance. Elle a mentionné que X._ continuait de verser mensuellement 150 fr. au Service juridique et législatif (secteur recouvrement) qui avait avancé les indemnités allouées aux victimes. Il avait remboursé un total de 12'450 fr. (sur 45'000 fr. versés aux trois victimes). La Fondation vaudoise de probation a ajouté:
"[...]
Si l'ensemble de notre suivi s'est déroulé dans la collaboration, il est important de mettre en évidence les points qui restent inquiétants encore à ce jour: [...]
S'il admet que c'était mal d'abuser de jeunes filles, et qu'il peut exprimer des regrets par rapport à ce qu'il a fait, il minimise en revanche le téléchargement de films ou photos à caractère pédophile. Il estime cela tout à fait comparable au téléchargement de n'importe quelle image et dit l'avoir fait simplement par ennui. Lorsqu'on l'y confronte, il admet cependant le caractère malsain de trouver du plaisir à travers ces images.
Le prénommé a une connexion Internet à la maison. Il explique que pour obtenir «Bluewin TV», il est obligé d'avoir une connexion Internet. Il dit cependant ne plus du tout se laisser aller à ce genre d'activité car il ne souhaite plus d'ennuis.
Finalement, et même si l'intéressé n'y voit aucun changement dans sa relation avec sa femme (ce qui reste très questionnant à nos yeux), le divorce qu'il est en train de vivre peut être une source énorme de stress dans la vie de tout un chacun et être un déséquilibre temporaire dans la vie de X._, et donc source d'angoisse et d'émotions propices à développer de nouveaux délits.
Ces quelques points, additionnés au fait que X._ tient des propos qui sont parfois contradictoires, nous laissent présumer que le risque de récidive reste clairement présent dans le contexte de vie actuel de l'intéressé. D'autre part, nous restons inquiets quant à la proximité de l'intéressé avec son fils, malgré le fait qu'il dise ne jamais avoir été intéressé par les garçons.
Au-delà de nos observations, X._ manifeste une claire volonté de ne pas vouloir récidiver. Il souhaite continuer son suivi auprès du Dr H._ car il pense qu'il lui est fort utile. Il sent une évolution en lui qu'il souhaite encore développer. Outre l'usage d'Internet, auquel nous avons fait référence plus tôt, il reconnaît les actes pour lesquels il a été condamné et veut tout faire pour que cela ne se reproduise plus. Il dit prendre bien garde à ne pas se retrouver seul avec un enfant afin d'éviter que l'on puisse lui reprocher quoi que ce soit. [...]."
A la demande de la juge instructrice du Tribunal cantonal, le Service de protection de la jeunesse a fait état le 26 février 2010 des éléments suivants:
"[...] X._ rencontre son fils L._ par l'entremise d'un large droit de visite quasi quotidien, y compris le week-end, d'entente entre les parents. De même, il téléphone chaque soir à la mère de l'enfant afin de prendre des nouvelles de celui-ci. Il semble également qu'il s'acquitte de la pension alimentaire due.
Les professionnels de la garderie décrivent un père omniprésent et impliqué dans l'éducation de son fils. Monsieur se prévaut par ailleurs de nombreuses sorties de loisirs avec l'enfant, y compris à l'étranger. [...]
Vu ce qui précède, il nous apparaît que le départ de X._ ne serait pas sans conséquence sur les liens établis entre son fils et lui-même depuis la naissance de l'enfant. [...]"
B.b Par jugement du 15 septembre 2010, fondé notamment sur un rapport du Prof. H._ du 17 mars 2010, le Tribunal correctionnel de l'arrondissement de Lausanne a renoncé à ordonner la réintégration de X._ dans un établissement pénitentiaire pour y subir le solde de la peine prononcée à son encontre le 5 octobre 1998. Il en ressort notamment ce qui suit:
"[...]
16. En l'occurrence, le délai d'épreuve, ensuite de sa prolongation, a expiré le 9 février 2009. Or, le comparant a été condamné le 12 juin 2008 pour pornographie, délit puni d'une peine privative de liberté de trois ans au plus ou d'une peine pécuniaire. La nouvelle infraction commise durant le délai d'épreuve revêt donc une certaine gravité et justifie que les conditions d'une éventuelle réintégration dans un établissement pénitentiaire soient examinées. Deux périodes successives doivent à cet égard être distinguées.
X._ a été libéré conditionnellement il y a bientôt dix ans. Si, durant cette longue période, il n'a eu guère de peine de se réinsérer sur le plan professionnel, puisqu'il a constamment gardé les rênes de la boucherie familiale. Sur le plan social et affectif en revanche, son évolution s'est avérée beaucoup plus problématique. Certes, X._ s'est marié pour la troisième fois et a eu un deuxième enfant. Ses vieux démons n'ont toutefois jamais véritablement cessé de le hanter, puisqu'il a régulièrement consulté des sites Internet contenant de la pornographie infantile, notamment, et ceci jusqu'à son arrestation le 17 août 2005. Cette situation fait d'autant plus frémir que le couple X._ / C._ avait accueilli sous son toit la petite K._, née en 1999 et fille de C._, et que cette dernière ne semble pas avoir eu conscience de la gravité des agissements de son ex-mari. A ce moment-là, s'il s'était agi pour le Tribunal de statuer sur la réintégration de X._, nul doute qu'elle eût été ordonnée.
Depuis la fin de sa détention préventive en septembre 2005, le comportement de X._ a lentement mais progressivement évolué, selon toute vraisemblance en raison des premiers résultats de la thérapie mise en place par le Prof.H._. Des explications plus récentes de ce dernier, on retire en effet que cette thérapie a progressivement amené X._ à reconnaître enfin le caractère destructeur et inacceptable des faits qui lui ont valu d'être condamné par le passé. Sans doute, d'importants progrès restent encore à accomplir; X._ peine à reconnaître sa culpabilité à l'égard de sa fille D._, tout comme il a du mal à se livrer à un travail véritablement introspectif. Le Tribunal relève en outre que X._ ne supporte que moyennement les contrariétés et succombe vite à une certaine impatience, surtout en présence des représentantes du SPJ qui font part de leurs inquiétudes légitimes et qui exigent de sa part qu'il délie le Prof. H._ du secret médical. Au final, le Tribunal peine à se débarrasser d'une certaine inquiétude quant au comportement de X._ à l'avenir. Cela étant, il n'est pas interdit de penser que, si X._ demeure fragile au point que tout risque de récidive ne saurait être définitivement écarté (cf. rapport [de l'Unité d'expertises] du 22 mai 2007), ce risque soit fortement atténué tant et aussi longtemps qu'il poursuivra sa thérapie. Or, force est de constater à son crédit que X._, depuis le 9 février 2009, a poursuivi celle-ci avec assiduité, sous un mode exclusivement volontaire, par surcroît. En effet, le jugement du 12 juin 2008, qui ordonne un traitement ambulatoire, n'est en force que depuis le 16 mars 2010. X._ a donc pris la mesure de la gravité de ses agissements passés et de l'importance pour lui de se débarrasser de ses vicissitudes criminelles.
En outre, C._ s'est entre-temps résolue à divorcer et X._ vit seul désormais, consacrant l'essentiel de son temps à son commerce et à son fils. Toutefois, des intervenants ont été mis en place dans le cadre des relations personnelles que X._ entretient non seulement avec son fils, mais aussi avec sa belle-fille. [...] Quoi qu'il en soit, X._ paraît conscient des conséquences inévitables qu'entraînerait pour lui une nouvelle incarcération; il perdrait à la fois son commerce dont il est le principal, sinon le seul pilier, et son fils L._ auquel il est très attaché.
Enfin, on gardera à l'esprit qu'un traitement ambulatoire a été ordonné par jugement du 12 juin 2008, lequel est définitif et exécutoire depuis l'ATF du 16 mars 2010. Si X._ venait à s'y soustraire, d'autres mesures plus coercitives pourraient être prises à son encontre.
Pour toutes ces raisons, le Tribunal, au terme d'une pesée délicate des intérêts en présence et non sans beaucoup d'hésitation, renoncera finalement à ordonner la réintégration de l'intéressé dans un établissement pénitentiaire pour y subir le solde de sa peine privative de liberté. [...]"
B.c La juge instructrice du Tribunal cantonal a mis en oeuvre une nouvelle expertise actualisant la situation de X._. Etablie le 3 janvier 2011 par l'Unité d'expertises, celle-ci fait état de ce qui suit:
"[...] Entre 2007 et aujourd'hui, nous constatons tout d'abord qu'à notre connaissance, et malgré que X._ a traversé une période déstabilisante lors de son divorce, ce dernier n'a pas récidivé, ceci alors que les situations génératrices de stress étaient potentiellement susceptibles de l'amener à récidiver dans des actes de nature pédophile. Par ailleurs, X._ semble avoir acquis un meilleur fonctionnement adaptatif, tant du point de vue professionnel où il s'occupe beaucoup de son commerce, que personnel avec un investissement important de son rôle de père. De plus, il semble également mieux gérer les interactions sociales: en effet, alors que son trouble de la personnalité l'exposait par le passé régulièrement à des comportements inadéquats et à des mouvements caractériels, il apparaît actuellement que X._ maîtrise mieux les moments de tension interne ainsi que ses impulsions et, toujours selon les informations en notre possession, il n'a plus présenté de passages à l'acte agressif comme il lui arrivait d'en présenter auparavant. De plus, X._ nous a dit avoir pris un certain nombre de précautions pour éviter les situations à risque. Enfin, ayant acquis une conscience accrue de ses difficultés, il est resté demandeur d'une aide psychothérapeutique après que celle-ci n'a plus été obligatoire. A ce propos, d'avis du Professeur H._ qui assure la prise en charge depuis plusieurs années, X._ tire profit de son traitement, même si les troubles que présente son patient sont fortement enracinés et nécessiteront encore probablement un suivi psychothérapique régulier sur une longue durée. [...]
Ainsi, même si X._ souffre d'une problématique sexuelle déviante qui l'exposera toujours peu ou prou à un risque de récidive, le travail psychothérapique qu'il a accompli et qu'il poursuit actuellement, assuré par un spécialiste qualifié, constitue un facteur de protection, auquel s'ajoute le mandat du SPJ et la stabilisation existentielle tant d'un point de vue professionnel et personnel, avec un investissement de la part de X._ de sa fonction paternelle et, sur un autre plan, de son activité dans son commerce. Toujours du point de vue de la prise en charge, l'évolution de X._ a permis qu'à la dimension d'encadrement de la psychothérapie s'ajoute un travail sur la compréhension plus approfondie d'une part de l'histoire personnelle de X._ et des vécus émotionnels qui en découlent, d'autre part de ses mouvements caractériels et de sa tendance à la distorsion relationnelle, toujours susceptible de le conduire au passage à l'acte.
En conséquence de quoi, face à ce type de pathologie sévère de la personnalité, il est difficile de formuler un pronostic puisque l'on sait que quoi qu'on fasse dans ce type de situation, il existe un risque de récidive. Nous pouvons cependant retenir l'investissement de X._ dans son travail psychothérapique qui a permis une amélioration progressive des symptômes, notamment un meilleur contrôle de soi, ainsi qu'un apaisement de la violence intérieure, ce qui constitue un facteur de protection autant pour la société que pour ses proches. De plus, toutes les mesures de précaution possibles afin de diminuer au maximum le risque de récidive ont été prises et acceptées par X._. Dès lors, sans nier que le risque que X._ récidive dans des actes pédophiles est toujours présent, nous estimons que ce risque s'est atténué au cours du temps, ceci en fonction des modifications dans le fonctionnement comportemental de X._ en relation notamment avec l'investissement d'un suivi régulier psychothérapique. [...]
Compte tenu de l'évolution de la situation de X._ depuis l'expertise du 22 mai 2007 (cf. ch. 4 p. 13 et ch. 10 p. 14) et complétée le 17 juillet 2007 (cf. ch. 2 et 3 p. 2 s.), l'intéressé est-il susceptible de commettre à nouveau des infractions contre l'intégrité sexuelle au sens des <ref-law>, en particulier contre des enfants, tant à l'intérieur de la famille qu'à l'extérieur ?
Veuillez répondre à cette question en actualisant de manière topique et circonstanciée l'expertise du 22 mai 2007 complétée le 17 juillet 2007.
REPONSE: il existera toujours un risque que X._ récidive dans la commission d'actes de nature pédophile pénalement répréhensibles, toutefois nous estimons que ce risque est beaucoup moins important qu'auparavant, ceci compte tenu de l'évolution de X._."
B.d Le 7 février 2011, le Service de protection de la jeunesse a fait savoir que C._ fréquentait un nouveau compagnon avec lequel elle souhaitait s'établir. Elle avait ainsi exprimé l'intention de déménager avec ses enfants dans le canton de Neuchâtel.
Le 16 février 2011, X._ a indiqué que selon lui, le déménagement de C._ - avec qui il s'entendait d'ailleurs très bien - ne se ferait pas avant deux ou trois ans, dès lors que l'ami de celle-ci était toujours marié et ne pouvait pas vivre avec elle actuellement.
B.e Par arrêt du 4 mai 2011, le Tribunal cantonal a admis le recours, en relevant qu'il s'agissait d'un cas limite et que toute nouvelle infraction pénale significative par sa gravité ou sa nature, si elle devait être commise contre l'intégrité sexuelle, serait sérieusement susceptible d'entraîner le retrait de l'autorisation d'établissement de X._.
C. Agissant par la voie du recours en matière de droit public, l'Office fédéral des migrations demande au Tribunal fédéral d'annuler l'arrêt du 4 mai 2011, sous suite de frais et dépens. Il dénonce une violation de l'art. 63 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20) en relation avec les art. 2 al. 2 LEtr et 5 al. 1 de l'annexe I à l'accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681).
L'autorité précédente et l'intimé concluent au rejet du recours. Le Service de la population et le chef du Département de l'intérieur proposent de l'admettre.
L'intimé a demandé à bénéficier de l'assistance judiciaire pour le cas où le recours serait admis.

Considérant en droit:
1. Le recours est dirigé contre un jugement final (cf. <ref-law>) rendu dans une cause de droit public (cf. <ref-law>) par un tribunal cantonal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF).
En vertu de l'art. 14 al. 2 de l'ordonnance du 17 novembre 1999 sur l'organisation du Département fédéral de justice et police (Org DFJP; RS 172.213.1), l'Office fédéral des migrations a qualité pour recourir devant le Tribunal fédéral (cf. <ref-law>), dans le domaine du droit des étrangers, contre des décisions cantonales de dernière instance.
Confirmant la révocation de l'autorisation d'établissement du recourant, la décision attaquée peut faire l'objet d'un recours en matière de droit public, dès lors qu'il existe en principe un droit au maintien d'une telle autorisation (cf. <ref-ruling> consid. 1.2.1 p. 4). La présente cause ne tombe ainsi pas sous le coup de l'art. 83 let. c ch. 2 LTF, ni d'aucune autre clause d'irrecevabilité figurant à l'<ref-law>.
Déposé au surplus dans le délai (cf. <ref-law>) et la forme (cf. <ref-law>) prévus par la loi, le recours est en principe recevable.
2. 2.1 Aux termes de son art. 2 al. 2, la LEtr n'est applicable aux ressortissants des Etats membres de la Communauté européenne, aux membres de leur famille et aux travailleurs détachés par un employeur ayant son siège ou son domicile dans un de ces Etats que dans la mesure où l'ALCP n'en dispose pas autrement ou lorsque ladite loi contient des dispositions plus favorables.
L'ALCP ne réglementant pas le retrait de l'autorisation d'établissement UE/AELE, c'est l'art. 63 LEtr qui est applicable (cf. art. 23 al. 2 de l'ordonnance fédérale du 22 mai 2002 sur l'introduction progressive de la libre circulation des personnes entre, d'une part, la Confédération suisse et, d'autre part, l'Union européenne et ses Etats membres, ainsi qu'entre les Etats membres de l'Association européenne de libre-échange [OLCP; RS 142.203]).
Aux termes de l'art. 63 al. 2 LEtr, l'autorisation d'établissement d'un étranger qui séjourne en Suisse légalement et sans interruption depuis plus de quinze ans ne peut être révoquée que s'il attente de manière très grave à la sécurité et l'ordre publics en Suisse ou à l'étranger, les met en danger ou représente une menace pour la sécurité intérieure ou extérieure de la Suisse (art. 63 al. 1 let. b LEtr) ou s'il a été condamné à une peine privative de liberté de longue durée - soit à une peine dépassant un an d'emprisonnement (<ref-ruling> consid. 4.2 p. 380 s.) - ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 CP (art. 62 let. b LEtr).
2.2 Comme l'ensemble des droits octroyés par l'ALCP, le droit de demeurer en Suisse pour y exercer une activité lucrative ne peut être limité que par des mesures d'ordre ou de sécurité publics, au sens de l'<ref-law>, dont le cadre et les modalités sont définis par les trois directives citées - dont la plus importante est la directive 64/221/CEE -, ainsi que par la jurisprudence y relative de la Cour de justice des Communautés européennes (ci-après: la Cour de justice ou CJCE) rendue avant la signature de l'accord le 21 juin 1999 (cf. <ref-law> en relation avec l'<ref-law>; au sujet de la prise en considération des arrêts de la Cour de justice postérieurs à cette date, cf. <ref-ruling> consid. 3.6 p. 9 ss, 113 consid. 5.2 p. 119 s. et les références citées).
Conformément à la jurisprudence de la Cour de justice, les limites posées au principe de la libre circulation des personnes doivent s'interpréter de manière restrictive. Ainsi, le recours par une autorité nationale à la notion d'"ordre public" pour restreindre cette liberté suppose, en dehors du trouble de l'ordre social que constitue toute infraction à la loi, l'existence d'une menace réelle et d'une certaine gravité affectant un intérêt fondamental de la société. La seule existence de condamnations pénales (antérieures) ne peut automatiquement motiver de telles mesures. Les autorités nationales sont tenues de procéder à une appréciation spécifique, portée sous l'angle des intérêts inhérents à la sauvegarde de l'ordre public, qui ne coïncide pas nécessairement avec les appréciations à l'origine des condamnations pénales. Autrement dit, ces dernières ne peuvent être prises en considération que si les circonstances les entourant laissent apparaître l'existence d'une menace actuelle pour l'ordre public (<ref-ruling> consid. 4.2 p. 20; <ref-ruling> consid. 4.3 p. 24; <ref-ruling> consid. 3.4.1, 4.2 et 4.3.1 et les références). Selon les circonstances, la jurisprudence admet néanmoins que le seul fait du comportement passé de la personne concernée puisse réunir les conditions de pareille menace actuelle (<ref-ruling>76 consid. 3.4.1 p. 184). Dans ce cas, il ne doit pas être établi avec certitude que l'étranger commettra d'autres infractions à l'avenir; inversement, ce serait aller trop loin que d'exiger que le risque de récidive soit nul pour que l'on renonce à une telle mesure. Compte tenu de la portée que revêt le principe de la libre circulation des personnes, ce risque, qui est essentiel, ne doit, en réalité, pas être admis trop facilement. Il faut bien plutôt l'apprécier en fonction de l'ensemble des circonstances du cas et, en particulier, de la nature et de l'importance du bien juridique menacé, ainsi que de la gravité de l'atteinte qui pourrait y être portée. L'évaluation de ce risque sera d'autant plus rigoureuse que le bien juridique menacé est important (<ref-ruling> consid. 4.2 p. 20; <ref-ruling> consid. 3.3 p. 499 s. et les références).
Les mesures d'éloignement sont au demeurant soumises à des conditions d'autant plus strictes que l'intéressé a séjourné longtemps en Suisse. Le renvoi d'étrangers ayant séjourné très longtemps en Suisse, voire de ceux qui y sont nés et y ont passé toute leur existence (étrangers de la "seconde génération"), n'est exclu ni par l'ALCP, ni par la CEDH (<ref-ruling>76 consid. 4.4 p. 189 s. et les références).
Le Tribunal fédéral se montre particulièrement rigoureux - en suivant en cela la pratique de la Cour européenne des droits de l'homme - en présence d'infractions à la législation fédérale sur les stupéfiants, d'actes de violence criminelle et d'infractions contre l'intégrité sexuelle (arrêt 2A.308/2004 du 4 octobre 2004 consid. 3.3 et les références).
3. Sous l'angle de l'art. 63 al. 2 LEtr, l'intimé fait valoir que s'il a été condamné en 1998 à une peine privative de liberté de longue durée, tel n'a plus été le cas par la suite. Les autorités de police des étrangers étaient au courant de cette condamnation et ont renoncé à révoquer son autorisation d'établissement. L'intimé soutient que, dans ces conditions, il est contraire au principe de la bonne foi de révoquer maintenant ladite autorisation sur la base des faits ayant donné lieu à la condamnation de 1998.
Cette argumentation tombe à faux: les autorités de police des étrangers n'ont à aucun moment donné à l'intimé des assurances quant au maintien de son autorisation d'établissement, dont celui-ci pourrait se prévaloir au titre de la protection de la bonne foi. En outre, les faits survenus entre 2002 et 2005 (consommation de pornographie à caractère pédophile) ont du point de vue du maintien de ladite autorisation une portée qui ne saurait être sous-estimée, surtout si on les met en relation avec les infractions très graves commises entre le printemps 1996 et le début mai 1997. Si ces faits plus récents n'ont pas été punis d'une peine privative de liberté de longue durée au sens de l'art. 62 let. b LEtr et ne réalisent donc pas l'un des motifs de l'art. 63 al. 2 LEtr, ils doivent être pris en compte sous l'angle de l'art. 63 al. 1 let. b LEtr (cf. <ref-ruling> consid. 3.3), dont l'énoncé de fait légal constitue l'autre motif de révocation. Envisagés avec les très graves infractions antérieures, ils sont de nature à amener à la conclusion que l'intimé a attenté de manière très grave à l'ordre public ou le met en danger, de sorte qu'il tombe également sous le coup de l'autre motif de révocation de l'autorisation en cause.
4. Le litige porte ensuite sur la question de savoir si la révocation se justifie sous l'angle des conditions dont l'ALCP fait dépendre la limitation des droits qu'il confère, ainsi que du principe de proportionnalité.
4.1 Selon l'autorité précédente, la menace actuelle pour l'ordre et la sécurité publics que représente l'intimé ne doit certes pas être minimisée, compte tenu de la gravité et de la répétition des actes commis, de l'importance des biens mis en péril, soit l'intégrité sexuelle des enfants, ainsi que d'un risque de récidive subsistant. Au terme d'une pesée d'intérêts très soigneuse, le Tribunal cantonal a toutefois estimé que, compte tenu de l'ensemble des circonstances, notamment de l'évolution accomplie par l'intimé au fil de sa thérapie, de la réduction significative du danger de récidive, du temps écoulé depuis les infractions et des graves conséquences qu'entraînerait pour lui la révocation de son titre de séjour, cette menace ne revêt - tout juste - plus un degré suffisant propre à justifier un renvoi, au regard du principe de la proportionnalité.
4.2 L'intimé a été condamné trois fois pour des infractions à l'intégrité sexuelle, soit à un bien juridique particulièrement important (cf. <ref-ruling> consid. 3.3), raison pour laquelle la jurisprudence se montre spécialement rigoureuse en ce domaine (cf. consid. 2.2 ci-dessus). Qui plus est, l'intimé a attenté à l'intégrité sexuelle d'enfants, en s'en prenant à la fois à des victimes extérieures au cercle des proches (actes commis entre octobre 1992 et août 1993) et à ses propres fille, belle-fille et filleule (actes commis entre le printemps 1996 et début mai 1997). Compte tenu de la gravité de ces agissements, il y a lieu d'être spécialement rigoureux dans l'évaluation du risque de récidive.
A cet égard, le traitement psychiatrique dont l'intimé a commencé de bénéficier lors de sa détention préventive faisant suite à son arrestation le 5 mai 1997 dans le cadre de la deuxième affaire pénale ne l'a pas empêché de visionner et de télécharger, à partir du 31 janvier 2002 - soit environ une année après sa libération conditionnelle prononcée le 24 janvier 2001 - et jusqu'au 17 août 2005 (date à laquelle il a à nouveau été arrêté), un grand nombre d'images comportant notamment des actes d'ordre sexuel avec des enfants. Ce faisant, il a passé outre les recommandations réitérées de ses thérapeutes de s'abstenir de toute connexion à Internet et a caché à ceux-ci sa consommation de pornographie à caractère pédophile. Ce comportement a duré plusieurs années et n'a pris fin qu'au moment où l'intimé a été interpellé dans le cadre de l'opération policière "Heidi", menée afin d'identifier les membres d'une communauté virtuelle sur Internet, dont le but était l'échange de fichiers pédophiles. Dans sa détermination sur le recours, l'intimé tente de minimiser la gravité de ces actes, en évoquant la limite ténue entre le fait de visionner de telles images (non punissable) et celui de les télécharger (punissable). Or, c'est moins le caractère pénalement répréhensible de son comportement qui est significatif en l'espèce que le fait qu'il a passé outre les recommandations de ses thérapeutes, en prenant le risque de compromettre l'efficacité du traitement.
A la fin de la même période, l'intimé a en outre tardé à avertir ses thérapeutes et les services concernés de l'administration cantonale de l'arrivée clandestine en Suisse (en novembre 2004) de sa belle-fille K._, puis du fait que celle-ci a ensuite (dès le 20 décembre 2004) vécu dans son foyer. Ce n'est en effet que plusieurs mois après qu'il en a informé ses thérapeutes (le 23 mars 2005), puis le Service de protection de la jeunesse (le 9 avril 2005) et le Service de la population (le 6 juin 2005). Il savait pourtant pertinemment que c'était en raison du risque de récidive de sa part que la demande de regroupement familial en faveur de sa belle-fille avait été rejetée.
A plusieurs reprises, l'intimé a eu une attitude de déni consistant à rendre l'extérieur (son épouse qualifiée de "déprimée", la législation qui serait "floue", les autorités, etc.) responsable de ses agissements illégaux (cf. expertise du 22 mai 2007). En outre, il peine selon le Prof. H._ à reconnaître sa culpabilité à l'égard de sa fille D._ (expertise du 17 mars 2010).
On doit en revanche mettre au crédit de l'intimé qu'il n'a plus fait l'objet de poursuites pénales depuis qu'il a été remis en liberté au terme de sa détention préventive en septembre 2005, et ce alors que, selon l'expertise judiciaire du 3 janvier 2011, les situations génératrices de stress (liées notamment à son divorce) étaient potentiellement de nature à l'amener à récidiver. Ce constat positif doit toutefois être quelque peu nuancé dans la mesure où l'intimé a vécu durant cette période sous la menace de la révocation de sa libération conditionnelle - mesure à laquelle la Cour de cassation pénale a renoncé le 8 août 2006, en prolongeant en revanche le délai d'épreuve de deux et demi - et dans l'attente du jugement des actes de pornographie (jugée d'abord par le Tribunal correctionnel de l'arrondissement de Lausanne le 12 juin 2008, l'affaire a été soumise deux fois successivement à la Cour de cassation pénale du Tribunal cantonal et au Tribunal fédéral, la procédure n'étant close que par arrêt de ce dernier du 16 mars 2010). En outre, à partir du 9 juin 2009, l'intimé savait qu'il risquait de voir son autorisation d'établissement révoquée.
L'expertise du 3 janvier 2011 relève par ailleurs que l'intimé maîtrise mieux les moments de tension interne ainsi que ses impulsions. Les experts concluent que le risque de récidive subsiste et continuera d'exister, même s'il est "beaucoup moins important qu'auparavant", compte tenu de l'évolution de l'intéressé. Comme facteurs de protection, ils évoquent le travail psychothérapique assuré par un spécialiste qualifié (le Prof.H._, qui a pris en charge l'intimé dès 1997), l'intervention du Service de protection de la jeunesse, ainsi que l'effet stabilisateur de sa relation avec son fils L._, d'une part, et de son activité professionnelle dans son commerce, d'autre part.
Au vu de ce qui précède, la Cour de céans estime que le risque de récidive demeure trop élevé pour que l'on puisse s'en accommoder, compte tenu de la gravité des infractions commises et de l'importance des biens juridiques en jeu. Ce risque représente une menace actuelle pour l'ordre public, qui justifie de limiter les droits conférés par l'ALCP, conformément à l'<ref-law>.
4.3 La révocation de l'autorisation d'établissement de l'intimé apparaît justifiée également sous l'angle du principe de proportionnalité. En effet, si la durée du séjour en Suisse de l'intimé est particulièrement longue, elle est contre-balancée par des antécédents pénaux d'une gravité particulière. L'intimé s'investit certes beaucoup dans sa relation avec son fils L._, né en 2005, qui vit toutefois avec sa mère. L'intimé ne dispose que d'un droit de visite, qu'il pourrait exercer depuis la France voisine. Il pourrait en outre exercer son métier dans ce pays et y bénéficier d'une prise en charge thérapeutique du même niveau qu'en Suisse. Dans ces conditions, l'intérêt public à son éloignement l'emporte sur son intérêt privé à pouvoir demeurer en Suisse.
5. Vu ce qui précède, le recours doit être admis, l'arrêt attaqué annulé et la décision du chef du Département de l'intérieur du 29 juillet 2009 rétablie.
S'agissant de la requête d'assistance judiciaire, on peut admettre, sur la base du dossier et des pièces produites, que la situation financière de l'intimé ne lui permet pas d'assumer les frais de la présente procédure. Par ailleurs, ses conclusions n'étaient pas dépourvues de chances de succès. Il convient donc d'agréer sa demande, soit de renoncer à percevoir un émolument judiciaire, de désigner Me Kathrin Gruber comme avocate d'office et d'allouer à celle-ci une indemnité à titre d'honoraires, qui sera supportée par la caisse du Tribunal fédéral (cf. art. 64 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. L'arrêt du Tribunal cantonal du canton de Vaud du 4 mai 2011 est annulé et la décision du chef du Département de l'intérieur du canton de Vaud du 29 juillet 2009 rétablie.
2. La demande d'assistance judiciaire est admise.
3. Me Kathrin Gruber est désignée comme avocate d'office et une indemnité de 2'000 fr. lui est versée à titre d'honoraires.
4. Il n'est pas perçu de frais judiciaires.
5. Le présent arrêt est communiqué à l'Office fédéral des migrations, à la mandataire de l'intimé, au Département de l'intérieur, au Service de la population et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 17 octobre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin