Faits:
A. X._, ressortissant kosovar né en 1970, est entré illégalement en Suisse le 19 octobre 2001 en vue de son mariage avec A._, ressortissante italienne au bénéfice d'une autorisation d'établissement. Cette dernière était déjà mère d'une fille issue d'une première union, née le 17 octobre 1991. Le mariage des prénommés a été célébré le 22 mars 2002. Les époux n'ont fait ménage commun qu'à partir de 2005. X._ a été mis au bénéfice d'une autorisation de séjour par regroupement familial le 8 avril 2003. Il est titulaire d'une autorisation d'établissement depuis le 3 avril 2007, valable jusqu'au 2 avril 2012.
L'enfant du couple, prénommé B._, est né en 2007. De nationalité italienne, il est également au bénéfice d'une autorisation d'établissement. Les époux se sont séparés dans le courant du mois de mai 2008. D'entente avec son épouse, X._ a toutefois continué à séjourner au domicile conjugal.
A la suite d'une plainte déposée par la fille de son épouse, X._ a été arrêté le 26 juillet 2008 et mis en détention préventive dès le lendemain à la prison du Bois-Mermet. Par jugement du 12 août 2009, le Tribunal correctionnel de l'arrondissement de Lausanne l'a condamné à une peine privative de liberté de cinq ans, sous déduction de 383 jours de détention préventive, pour actes d'ordre sexuel avec des enfants, contrainte sexuelle et viol. Ces faits, qui se sont déroulés entre le début de l'année 2006 et le 26 juillet 2008, ont été commis au préjudice de sa belle-fille. Ce jugement a par la suite été confirmé par l'arrêt du 17 septembre 2009 de la cour de cassation pénale du Tribunal cantonal vaudois, puis définitivement par l'arrêt du Tribunal fédéral rendu le 25 janvier 2010.
Le 18 mars 2010, X._ a été transféré aux Etablissements pénitentiaires de Bellechasse.
Par lettre datée du 2 septembre 2010, le Service de la population du canton de Vaud s'est adressé au Directeur des Établissements pour qu'il notifie à l'intéressé un courrier du même jour l'informant qu'au vu de sa condamnation pénale, il envisageait de proposer au Chef du Département de l'intérieur une révocation de son autorisation d'établissement, et lui impartissait un délai au 4 octobre 2010 pour déposer ses observations. Ce dernier courrier a été notifié à l'intéressé le 7 octobre 2010. Le 17 novembre 2010, le conseil de l'intéressé a fait savoir en substance au Service de la population que son mandant avait reçu le courrier du 2 septembre 2010 après échéance du délai imparti pour formuler des observations. Vu la gravité de la mesure envisagée, il a requis l'octroi d'un nouveau délai d'un mois pour que l'intéressé puisse s'exprimer avant qu'une décision ne soit rendue.
Par lettre du 23 novembre 2010, mais expédiée la veille, le Service de la population a indiqué à l'intéressé que le courrier du 2 septembre 2010 lui avait été valablement notifié le 7 octobre 2010 et que, même s'il n'en avait eu connaissance qu'après échéance du délai fixé pour formuler ses remarques, il n'avait toutefois pas fait usage, durant plus d'un mois, de son droit de s'exprimer. Considérant ainsi que son droit d'être entendu avait été respecté avant qu'il ne soit représenté, le Service a refusé de lui accorder le délai supplémentaire requis.
En annexe à ce courrier, le Service de la population a joint la décision du Chef du Département de l'intérieur, également datée du 23 novembre 2010, révoquant l'autorisation d'établissement de X._ et lui impartissant un délai immédiat pour quitter la Suisse dès qu'il aurait satisfait à la justice.
Par acte du 7 janvier 2011, X._ a interjeté recours auprès du Tribunal cantonal contre la décision du 23 novembre 2010, dans lequel il a sollicité diverses mesures d'instruction, notamment la mise en oeuvre d'une expertise et l'audition de témoins.
B. Par arrêt du 16 mai 2011, le Tribunal cantonal du canton de Vaud a rejeté le recours. Il a jugé en substance que le refus d'accorder une prolongation de délai n'avait pas violé le droit d'être entendu de l'intéressé et qu'en tout état de cause, une éventuelle violation avait été guérie devant lui. Il a ensuite rejeté toutes les preuves offertes par le recourant par appréciation anticipée de celles-ci. Sur le fond, la persistance à nier les actes commis dénotait une absence totale d'introspection et d'amendement et fondait un risque important de réitération d'actes violents à sa libération. Le risque de récidive n'apparaissait également pas négligeable au vu du rapport d'expertise. Le seul écoulement du temps et l'absence de contacts avec sa belle-fille n'offraient aucune garantie à cet égard. Le fait de bien se comporter en détention n'avait rien d'exceptionnel, l'encadrement carcéral ne permettant pas encore de présager avec certitude de l'attitude du détenu en liberté et livré à lui-même. Le fait d'avoir trouvé un emploi après la libération n'était pas encore signe de bonne socialisation et d'absence de danger pour la société. La durée de la peine privative de liberté dépassait largement la limite des deux ans à partir de laquelle il y a lieu, en principe, de considérer que l'intérêt public à l'éloignement l'emporte sur l'intérêt privé d'un étranger - et celui de sa famille - à pouvoir rester en Suisse, les liens entre l'intéressé et son fils ne pouvant au surplus être considérés comme particulièrement étroits et intenses.
C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt rendu le 16 mai 2011 et de prolonger son permis d'établissement. Il se plaint de la violation de son droit d'être entendu et du principe de proportionnalité dans le cadre de la pesée des intérêts publics et privés. Il sollicite l'octroi de l'assistance judiciaire.
Le Tribunal cantonal, le Service de la population et le Département de l'intérieur du canton de Vaud renoncent à déposer des observations. L'Office fédéral des migrations conclut au rejet du recours.
Par ordonnance du 12 septembre 2011, le Président de la IIe Cour de droit public a accordé l'effet suspensif au recours.

Considérant en droit:
1. Le recours est dirigé contre un jugement final (cf. <ref-law>) rendu dans une cause de droit public (cf. <ref-law>) par un tribunal supérieur de dernière instance cantonale (cf. art. 86 al. 1 let. d et al. 2 LTF). Il échappe à l'exception de l'art. 83 let. c ch. 2 LTF du moment qu'il a pour objet la révocation d'une autorisation d'établissement au maintien de laquelle le recourant a en principe droit (cf. <ref-ruling> consid. 1.2.1 p. 4)
2. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). Il s'ensuit que les allégations de faits énoncées et les preuves annexées au courrier adressé par le recourant au Tribunal fédéral le 14 octobre 2011 sont irrecevables.
3. Invoquant l'art. 29 al. 2 Cst., le recourant se plaint de la violation de son droit d'être entendu.
3.1 Le droit d'être entendu, tel qu'il est garanti par l'art. 29 al. 2 Cst., comprend notamment le droit pour l'intéressé de prendre connaissance du dossier, de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 3.2 p. 270 s.).
3.2 Le recourant se plaint de ce que l'instance précédente n'ait pas sanctionné le refus du Service de la population de lui accorder un délai supplémentaire pour se prononcer sur la décision de révocation de son autorisation d'établissement.
Le courrier adressé le 2 septembre 2010 par le Service de la population au recourant pour l'informer de la révocation de son autorisation d'établissement et lui impartissant un délai au 4 octobre 2010 pour déposer ses observations n'est parvenu à destination qu'après l'échéance du délai, le 7 octobre 2011. L'instance précédente a néanmoins jugé que la demande d'octroi d'un délai supplémentaire formée le 17 novembre 2010 pouvait être écartée sans violer le droit d'être entendu du recourant, dont elle a souligné qu'il connaissait bien le français et pouvait dès lors comprendre l'importance du courrier du 7 octobre 2010. En attendant plus d'un mois pour requérir l'octroi d'un délai supplémentaire, le recourant n'avait, selon elle, pas fait preuve de la diligence minimale requise en pareilles circonstances.
Il est vrai que le recourant n'a pas réagi dans un délai raisonnable lorsqu'il a pris connaissance du courrier du 2 septembre 2010. Toutefois, lorsque l'autorité de première instance a pris connaissance de la demande du 17 novembre 2010 d'octroi d'un délai supplémentaire la décision de révocation n'avait pas encore été rendue puisque celle-ci l'a été le 23 novembre 2010 seulement et était annexée au courrier qui refusait l'octroi du délai supplémentaire. Le recourant fait remarquer à juste titre qu'il n'y avait aucune urgence à rendre la décision de révocation à un moment où l'autorité de première instance prenait connaissance des retards dans l'acheminement du courrier du 2 septembre 2010 et de la volonté affirmée de l'intéressé de faire usage de son droit d'être entendu en déposant des observations. Il n'était ainsi pas possible de comprendre l'absence de réaction du recourant comme une renonciation à l'exercice de son droit d'être entendu.
Dans ces conditions, le refus du Service de la population d'octroyer un délai supplémentaire violait l'art. 29 al. 2 Cst. Cette violation a toutefois été considérée comme guérie par l'instance précédente, ce que conteste le recourant.
4. Invoquant l'art. 29 al. 2 Cst. et l'interdiction de l'arbitraire, le recourant conteste la guérison de son droit d'être entendu, du moment que l'instance précédente a refusé la mise en oeuvre des preuves qu'il avait dûment offertes en procédure cantonale par appréciation anticipée de celles-ci.
4.1 Le Tribunal fédéral admet à certaines conditions la possibilité de réparer après coup une violation du droit d'être entendu, en particulier lorsque la décision entachée est couverte par une nouvelle décision qu'une autorité supérieure - jouissant d'un pouvoir d'examen au moins aussi étendu - a prononcée après avoir donné à la partie lésée la possibilité d'exercer effectivement son droit d'être entendu (<ref-ruling> consid. 2.6.1 p. 285; <ref-ruling> consid. 2.2 p. 204; <ref-ruling> consid. 4b p. 120 s.; <ref-ruling> consid. 2 p. 95).
En l'espèce, l'instance précédente n'a pas empêché le recourant d'alléguer toutes les preuves qu'il souhaitait faire administrer et ce dernier ne le soutient pas non plus. Sous cet angle, par conséquent, la violation du droit d'être entendu commise par l'autorité de première instance a bel et bien été guérie. Reste par conséquent à examiner si l'instance précédente pouvait sans arbitraire renoncer à administrer les preuves en cause.
4.2 La jurisprudence admet que le droit d'être entendu n'empêche pas l'autorité de mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient pas l'amener à modifier son opinion (<ref-ruling> consid. 5.3 p. 148; <ref-ruling> consid. 2.1 p. 429). Si l'appréciation n'est pas arbitraire, il n'y a pas de violation du droit d'être entendu.
4.2.1 Le recourant fait référence à l'art. 5 par. 1 Annexe I à l'accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681). Il soutient que l'instance précédente n'avait pas les éléments nécessaires pour appliquer le droit en vigueur. Elle ne pouvait notamment pas juger s'il représentait une menace réelle et d'une certaine gravité affectant un intérêt fondamental de la société, ce que l'expertise psychiatrique sollicitée aurait permis d'établir. Elle ne disposait pas non plus d'éléments suffisants pour tenir dûment compte de son intérêt privé à rester en Suisse, ce que la production du rapport de détention du Tulipier, l'audition de son employeur, de son épouse et du Service de protection de la jeunesse auraient permis d'établir.
4.2.2 L'instance précédente et le recourant ont correctement exposé le droit applicable. Il suffit de préciser encore ici qu'en règle générale, une personne porte atteinte "de manière très grave" à la sécurité et à l'ordre publics - et le Tribunal fédéral se montre particulièrement rigoureux en suivant en cela la pratique de la Cour européenne des droits de l'homme - lorsque les actes lèsent ou compromettent des biens juridiques particulièrement importants comme l'intégrité corporelle, physique ou sexuelle (<ref-ruling> consid. 3 et sur la notion de menace actuelle pour l'ordre public: <ref-ruling> consid. 4.2 p. 20; <ref-ruling> consid. 4.3 p. 24; <ref-ruling> consid. 3.4.1, 4.2 et 4.3.1 et les références). L'évaluation du risque de récidive sera d'autant plus rigoureuse que le bien juridique menacé est important (<ref-ruling> consid. 4.2 p. 20; <ref-ruling> consid. 3.3 p. 499 s.).
4.2.3 L'instance précédente a constaté que les infractions pour lesquelles le recourant s'est vu infliger une peine de privation de liberté de cinq ans, à savoir actes d'ordre sexuel avec des mineurs, contrainte sexuelle et viol, faits commis au préjudice de sa belle-fille, étaient extrêmement graves, que les faits délictueux avaient duré deux ans et n'avaient pris fin que par l'arrestation de leur auteur et, suivant le rapport d'expertise psychiatrique établi le 3 avril 2009, qu'un risque de récidive n'est pas exclu du fait que l'accusé nie totalement l'incrimination pénale. Elle constate à cet égard que le recourant reprochait aux premiers juges de s'être fondés sur les dires de la victime pour retenir le viol plutôt qu'une "grosse dispute" et contestait même que les traces de son propre sperme sur un sous-vêtement de la victime constituaient la preuve qu'il avait entretenu avec elle des relations sexuelles. Elle constate également qu'il avait persisté à mettre en cause les analyses génétiques menées sur le corps de sa victime jusque devant le Tribunal fédéral. Cette persistance criante à nier les actes commis dénotait, selon elle, une absence totale d'introspection et d'amendement de la part du recourant qui fondait un risque important de réitération d'actes violents à sa libération.
Cette conclusion n'est pas insoutenable du moment qu'elle se fonde non seulement sur le rapport d'expertise du 3 avril 2009, mais également sur les dénégations du recourant postérieures à ce même rapport d'expertise. Il était certes loisible au recourant de se défendre contre les accusations pénales dont il faisait l'objet, mais il était en revanche révélateur du degré de dangerosité et de récidive que ce dernier persiste à nier des faits établis par procédés scientifiques. A cela s'ajoute que ces dénégations ont été formulées alors que le recourant se trouvait déjà en prison, ce qui permet d'écarter toute influence bénéfique de l'incarcération sur ce dernier. Au surplus, comme le rapport d'expertise n'a pas précisé que le risque de récidive subsistait uniquement à l'endroit de la belle-fille du recourant, il n'est pas suffisant de plaider le caractère contextuel des crimes commis pour établir le caractère arbitraire de l'appréciation anticipée des preuves.
Eu égard au fait que le recourant a porté atteinte à l'intégrité sexuelle d'une mineure, soit à un bien juridique particulièrement important, l'instance précédente pouvait sans arbitraire juger le risque de récidive, considéré rigoureusement, comme suffisamment établi par l'expertise dont elle disposait ainsi que les faits ultérieurs la corroborant et par conséquent refuser de manière anticipée la nouvelle expertise requise par le recourant. Le grief est rejeté.
5. Dans un grief séparé, le recourant se plaint du caractère prématuré de la révocation de son autorisation d'établissement. Il perd de vue qu'il n'est pas contraire au droit interne ni au droit conventionnel de statuer sur l'expulsion le plus tôt possible respectivement avant que la peine ou la mesure ait fini d'être exécutée (cf. <ref-ruling> consid. 5 p. 234 ss).
Pour le surplus, c'est à bon droit que l'instance précédente a jugé que les conditions objectives conduisant à la révocation de l'autorisation d'établissement étaient réunies en l'espèce.
6. Le recourant se plaint de la violation de la convention européenne des droits de l'homme et notamment du principe de proportionnalité dans la pesée des intérêts publics et privés en présence.
6.1 Le droit au respect de la vie privée et familiale garanti par l'art. 8 par. 1 CEDH n'est pas absolu. Une ingérence dans l'exercice de ce droit est possible selon l'art. 8 par. 2 CEDH, pour autant qu'elle soit prévue par la loi et qu'elle constitue une mesure qui, dans une société démocratique, est nécessaire à la sécurité nationale, à la sûreté publique, au bien-être économique du pays, à la défense de l'ordre et à la prévention des infractions pénales, à la protection de la santé ou de la morale, ou à la protection des droits et libertés d'autrui. La question de savoir si, dans un cas d'espèce, les autorités de police des étrangers sont tenues d'accorder une autorisation de séjour fondée sur l'art. 8 CEDH doit être résolue sur la base d'une pesée de tous les intérêts privés et publics en présence (<ref-ruling>43 consid. 2.1 p. 147).
6.2 En l'espèce, le recourant ne dispose que d'un droit de visite restreint sur son fils B._ au gré des visites en prison et des sorties du week-end, qui seront certes plus fréquentes à l'avenir. Force est toutefois de constater qu'il a fait l'objet d'une condamnation pénale pour des actes odieux portant atteinte à un bien juridique particulièrement important, de sorte que l'intérêt public à l'éloignement du recourant l'emporte largement sur son intérêt privé à demeurer en Suisse. Dans ces conditions, l'instance précédente pouvait sans arbitraire ni violer l'art. 29 al. 2 Cst. renoncer à entendre la mère de l'enfant et le Service de protection de l'enfance pour examiner la nature des relations que le recourant soutient conserver avec son fils. Ce faisant, elle a correctement appliqué le droit fédéral et international en conformité avec la pratique du Tribunal fédéral. Il peut, donc pour le surplus, être renvoyé à ses considérants.
7. Les considérants qui précèdent conduisent au rejet du recours. Dans la mesure où ses conclusions apparaissaient dénuées de chances de succès, le bénéfice de l'assistance judiciaire doit être refusé au recourant (cf. <ref-law>). Succombant, il supporte les frais judiciaires (<ref-law>), qui seront toutefois fixés en tenant compte de sa situation financière, et n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1'000.- fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population du canton de Vaud, au Département de l'Intérieur, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral des migrations.
Lausanne, le 13 décembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Dubey