Faits : A. X._, ressortissant portugais né en 1976, célibataire et sans enfant, est arrivé en Suisse le 30 août 1990 pour y rejoindre son père. Il a été mis au bénéfice d'une autorisation d'établissement. Après avoir achevé son école obligatoire, il a entrepris deux apprentissages successifs, sans succès. Il n'a jamais exercé d'activité lucrative. Depuis son arrivée en Suisse, l'intéressé a été condamné à six reprises, en particulier à 18 mois d'emprisonnement avec sursis pendant trois ans pour brigandage en 1995, à deux ans et demi de réclusion pour notamment lésions corporelles graves en 1998 et à huit ans de réclusion pour crime manqué d'assassinat en 2002. Cette dernière peine a été suspendue au profit d'un internement. Le 23 novembre 2010, après qu'une schizophrénie paranoïde eut été diagnostiquée chez l'intéressé, la mesure d'internement a été levée et un traitement institutionnel en milieu fermé a été ordonné. Les 16 août 2012, 8 octobre 2013, 31 octobre 2014 et 9 novembre 2015, la libération conditionnelle de la mesure thérapeutique institutionnelle a été refusée à X._. B. Par décision du 7 mars 2014, le Chef du Département de l'économie et du sport du canton de Vaud (ci-après: le Département) a révoqué l'autorisation d'établissement de X._ et prononcé son renvoi de Suisse. Le 3 juin 2014, après avoir entendu l'intéressé, le Département a rendu une nouvelle décision identique à celle du 7 mars 2014. Cette décision a été annulée, sur recours, par la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) le 26 février 2015 et la cause renvoyée au Département pour complément d'instruction. Le 6 octobre 2015, le Département a révoqué l'autorisation d'établissement de X._ et ordonné son renvoi de Suisse immédiat dès sa libération, conditionnelle ou non. L'intéressé a contesté ce prononcé auprès du Tribunal cantonal le 6 novembre 2015. Par arrêt du 31 mars 2016, le Tribunal cantonal a rejeté le recours de X._. Il a considéré en bref que l'intéressé remplissait les conditions posées à la révocation d'une autorisation d'établissement, que celui-ci présentait un risque de récidive concret et que la mesure était proportionnée. Il a en outre jugé qu'au vu de l'évolution de la situation de l'intéressé et du fait qu'une libération conditionnelle était envisageable dans un délai raisonnable, il était justifié de régler la situation administrative de X._. C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, outre l'assistance judiciaire et l'effet suspensif, de réformer l'arrêt du Tribunal cantonal en maintenant son autorisation d'établissement; subsidiairement d'annuler l'arrêt précité et de renvoyer la cause à ce dernier pour qu'il rende une nouvelle décision dans le sens des considérants. Il se plaint de violation du droit fédéral et international. Par ordonnance du 9 mai 2016, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la demande d'effet suspensif. Le Département se rallie à la position du Tribunal cantonal. Celui-ci conclut au rejet du recours. Dans des observations finales, X._ confirme ses conclusions. Le Secrétariat d'Etat aux migrations ne s'est pas déterminé.