Faits :
A.
X._, ressortissant français né en 1987, est entré en Suisse le 31 août 1997. Il a obtenu une autorisation de séjour au titre du regroupement familial pour vivre auprès de son père, puis une autorisation d'établissement UE/AELE. Sa mère, sa soeur et l'un de ses frères sont restés en France. L'intéressé est célibataire et père d'une fille, née en 2009.
X._ a effectué deux stages de quelques mois dans le travail du bois et du fer en 2002 avant d'entreprendre une formation de menuisier qu'il n'a pas terminée. Ensuite de cela, il a occupé divers emplois temporaires et bénéficié de l'assistance sociale ainsi que d'indemnités de chômage.
Dès son arrivée en Suisse, l'intéressé a fait montre d'un comportement répréhensible. Alors qu'il était encore mineur, il a comparu à trois reprises devant le Tribunal des mineurs pour un nombre important d'infractions. Sa majorité atteinte, X._ a continué son comportement délictueux. Il a ainsi été condamné:
- le 2 décembre 2005, à une peine d'emprisonnement de cinq jours avec sursis pendant deux ans et amende de 500 fr., pour violation des règles de la circulation routière, conduite d'un véhicule défectueux, circulation sans permis de conduire, sans permis de circulation ou plaques de contrôle, sans assurance-responsabilité civile, contravention à l'ordonnance sur les règles de la circulation routière et concours d'infractions;
- le 6 mars 2006, à une peine de deux jours d'arrêts avec sursis pendant un an pour circulation sans permis de conduire et concours d'infractions;
- le 14 septembre 2006, à une peine d'emprisonnement de quinze jours et amende de 400 fr. pour circulation sans permis de conduire, sans permis de circulation ou plaques de contrôle et sans assurance-responsabilité civile et concours d'infractions;
- le 19 mars 2009, à une peine privative de liberté de deux ans avec sursis pendant cinq ans et amende de 200 fr. pour vol, tentative de vol, dommages à la propriété, menaces, violation de domicile, incendie intentionnel, tentative d'incendie intentionnel, vol d'usage, infraction et contravention à la loi fédérale sur les stupéfiants;
- le 8 novembre 2011, à une peine pécuniaire de 30 jours-amende à 30 fr. le jour-amende pour conduite sans permis de conduire ou malgré un retrait;
- le 5 décembre 2011, à une peine de travail d'intérêt général de 480 heures et amende de 1'000 fr. pour infraction et contravention à la loi fédérale sur les stupéfiants, violation des règles de la circulation routière, violation grave des règles de la circulation routière, conduite sans permis de conduire, conduite malgré le refus, le retrait ou l'interdiction de l'usage du permis;
- le 7 janvier 2014, à une peine privative de liberté de 180 jours et amende de 500 fr. pour menaces, violation des règles de la circulation routière, conduite en état d'ébriété qualifiée, violation des devoirs en cas d'accident, conduite sans autorisation et concours d'infractions.
B.
Par décision du 31 octobre 2014, le Chef du Département de l'économie et du sport du canton de Vaud (ci-après: le Chef du Département) a révoqué l'autorisation d'établissement de X._, prononcé son renvoi de Suisse et lui a imparti un délai immédiat pour quitter le territoire. L'intéressé a interjeté recours contre ce prononcé le 1er décembre 2014 auprès de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal).
Par arrêt du 27 janvier 2015, le Tribunal cantonal a rejeté le recours de l'intéressé, dans la mesure où il était recevable. Il a jugé que celui-ci remplissait les conditions de révocation de l'autorisation d'établissement, et qu'il présentait un risque de récidive important. Les juges cantonaux ont en outre admis qu'il existait un intérêt public important à éloigner l'intéressé de Suisse. Cet intérêt l'emportait sur celui de X._ à demeurer dans ce pays.
C.
Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, outre l'effet suspensif et l'assistance judiciaire, de réformer l'arrêt du Tribunal cantonal du 27 janvier 2015 et de maintenir son autorisation d'établissement, subsidiairement d'annuler l'arrêt précité et de renvoyer la cause au Service de la population du canton de Vaud pour nouvelle décision dans le sens des considérants. Il se plaint de violation du droit fédéral et international.
Par ordonnance du 3 mars 2015, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la demande d'effet suspensif.
Le Service de la population du canton de Vaud renonce à se déterminer, le Chef du Département se rallie à l'arrêt contesté et le Tribunal cantonal ainsi que le Secrétariat d'Etat aux migrations concluent tous deux au rejet du recours.

Considérant en droit :
1.
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Il est recevable contre les décisions révoquant, comme en l'espèce, une autorisation d'établissement parce qu'il existe en principe un droit au maintien de cette autorisation (<ref-ruling> consid. 1.2.1 p. 4; arrêt 2C_789/2014 du 20 février 2015 consid. 1).
En outre, en sa qualité de ressortissant français, le recourant peut également prétendre à un titre de séjour en Suisse, en vertu de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (Accord sur la libre circulation des personnes, ALCP; RS 0.142.112.681; cf. <ref-ruling> consid. 1.1 p. 179 s.; <ref-ruling> consid. 4 p. 258 ss). La présente cause ne tombe ainsi pas sous le coup de l'art. 83 let. c ch. 2 LTF, ni d'aucune autre clause d'irrecevabilité figurant à l'art. 83 LTF. Partant, la voie du recours en matière de droit public est ouverte.
1.2. Conformément à l'art. 5 de la loi vaudoise d'application dans le Canton de Vaud de la législation fédérale sur les étrangers du 18 décembre 2007 (LVLEtr/VD; RSV 142.11), c'est le Chef du département qui est compétent pour statuer sur la révocation d'une autorisation d'établissement prononcée sur la base de l'art. 63 LEtr (RS 142.20). Par conséquent, le Service de la population du canton de Vaud n'étant pas compétent en la matière, la conclusion subsidiaire du recourant tendant au renvoi de la cause à ce Service pour que celui-ci rende une nouvelle décision dans le sens des considérants doit être déclarée irrecevable.
1.3. Au surplus, déposé en temps utile (art. 100 al. 1 LTF) et dans les formes prescrites par la loi (art. 42 LTF), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF), le présent recours, dirigé contre une décision finale (art. 90 LTF) rendue par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (art. 82 let. a LTF), est recevable.
2.
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (cf. art. 105 al. 1 LTF). Le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF, et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF), ce que la partie recourante doit démontrer d'une manière circonstanciée, conformément aux exigences de motivation de l'art. 106 al. 2 LTF (cf. <ref-ruling> consid. 1.4.3 p. 254 s.). La notion de "manifestement inexacte" correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.1 p. 450).
En l'occurrence, dans un chapitre intitulé "FAITS", le recourant explique se rapporter aux faits constatés par l'autorité précédente dans son arrêt, sous réserve des omissions et inexactitudes mises en évidence dans le recours. Il n'expose toutefois pas en quoi les conditions de l'art. 97 al. 1 LTF seraient réunies et ne motive pas son éventuel grief conformément à l'art. 106 al. 2 LTF. Il se contente de substituer ses vision et appréciation des faits à celles retenues par le Tribunal cantonal, notamment en relation avec une prétendue absence de perception d'indemnités de l'assistance sociale. Un tel mode de faire étant inadmissible, le Tribunal fédéral vérifiera la correcte application du droit sur la seule base des faits retenus par l'instance précédente.
3.
Le litige porte sur le point de savoir si, compte tenu des condamnations pénales que le recourant a subies à partir de 1999, la révocation de l'autorisation d'établissement est conforme au droit. Le recourant conteste en substance l'existence d'un risque de récidive caractérisé et se prévaut d'un cadre de vie stabilisé, de son long séjour en Suisse, de sa situation professionnelle stable ainsi que des répercussions d'un retour forcé en France sur sa vie privée et familiale.
4.
4.1. La LEtr ne s'applique aux ressortissants des Etats membres de l'Union européenne que lorsque l'ALCP n'en dispose pas autrement ou lorsqu'elle prévoit des dispositions plus favorables (art. 2 al. 2 LEtr). Comme l'ALCP ne réglemente pas la révocation de l'autorisation d'établissement UE/AELE, c'est l'art. 63 LEtr qui est applicable (cf. art. 23 al. 2 de l'ordonnance fédérale du 22 mai 2002 sur l'introduction progressive de la libre circulation des personnes entre, d'une part, la Confédération suisse et, d'autre part, l'Union européenne et ses Etats membres, ainsi qu'entre les Etats membres de l'Association européenne de libre-échange [OLCP; RS 142.203]; arrêt 2C_473/2011 du 17 octobre 2011 consid. 2.1).
4.2. Aux termes de l'art. 63 al. 1 let. b LEtr, l'autorisation d'établissement peut être révoquée si l'étranger attente de manière très grave à la sécurité et l'ordre publics en Suisse ou à l'étranger, les met en danger ou représente une menace pour la sécurité intérieure ou extérieure de la Suisse. Selon l'art. 62 let. b LEtr, disposition à laquelle renvoie l'art. 63 al. 1 let. a LEtr, l'autorité compétente peut révoquer une autorisation notamment si l'étranger a été condamné à une peine privative de liberté de longue durée. Selon la jurisprudence, constitue une peine privative de longue durée au sens de cette disposition toute peine dépassant un an d'emprisonnement, indépendamment du fait qu'elle soit ou non assortie (en tout ou partie) du sursis (<ref-ruling> consid. 2.1 p. 147; <ref-ruling> consid. 5.1 p. 72).
4.3. Comme l'ensemble des droits octroyés par l'ALCP, le droit de demeurer en Suisse ne peut être limité que par des mesures d'ordre ou de sécurité publics, au sens de l'art. 5 al. 1 annexe I ALCP (cf. <ref-ruling> consid. 3.4 p. 12 s.).
Conformément à la jurisprudence rendue en rapport avec l'art. 5 annexe I ALCP, les limites posées au principe de la libre circulation des personnes doivent s'interpréter de manière restrictive. Ainsi, le recours par une autorité nationale à la notion d'"ordre public" pour restreindre cette liberté suppose, en dehors du trouble de l'ordre social que constitue toute infraction à la loi, l'existence d'une menace réelle et d'une certaine gravité affectant un intérêt fondamental de la société (<ref-ruling> consid. 5.3 p. 125 s. et les références citées). Il faut procéder à une appréciation spécifique du cas, portée sous l'angle des intérêts inhérents à la sauvegarde de l'ordre public, qui ne coïncide pas obligatoirement avec les appréciations à l'origine des condamnations pénales. Autrement dit, ces dernières ne sont déterminantes que si les circonstances les entourant laissent apparaître l'existence d'une menace actuelle et réelle, d'une certaine gravité pour l'ordre public (cf. <ref-ruling> consid. 5.3 p. 125 s. et les références citées). Il n'est pas nécessaire d'établir avec certitude que l'étranger commettra d'autres infractions à l'avenir pour prendre une mesure d'éloignement à son encontre; inversement, ce serait aller trop loin que d'exiger que le risque de récidive soit nul pour que l'on renonce à une telle mesure. En réalité, ce risque ne doit pas être admis trop facilement et il faut l'apprécier en fonction de l'ensemble des circonstances du cas, en particulier au regard de la nature et de l'importance du bien juridique menacé, ainsi que de la gravité de l'atteinte qui pourrait y être portée. L'évaluation de ce risque sera d'autant plus rigoureuse que le bien juridique menacé est important (<ref-ruling> consid. 5.3 p. 125 s. et les références citées). A cet égard, le Tribunal fédéral se montre particulièrement rigoureux en présence d'infractions à la législation fédérale sur les stupéfiants, d'actes de violence criminelle et d'infractions contre l'intégrité sexuelle (cf. <ref-ruling> consid. 5.3 p. 125 s.; <ref-ruling> consid. 3.3 p. 303 s.; arrêt 2C_862/2012 du 12 mars 2013 consid. 3.1), étant précisé que la commission d'infractions qui sont en étroite relation avec la toxicomanie du délinquant peuvent, selon les circonstances, atténuer cette position de principe (<ref-ruling> consid. 5.3 p. 125 s. et les références citées).
4.4. L'art. 8 par. 1 CEDH dispose que toute personne a droit au respect de sa vie privée et familiale, de son domicile et de sa correspondance. Le droit au respect de la vie privée et familiale garanti par cette disposition n'est toutefois pas absolu. Une ingérence dans l'exercice de ce droit est possible selon l'art. 8 par. 2 CEDH, pour autant qu'elle soit prévue par la loi et qu'elle constitue une mesure qui, dans une société démocratique, est nécessaire à la sécurité nationale, à la sûreté publique, au bien-être économique du pays, à la défense de l'ordre et à la prévention des infractions pénales, à la protection de la santé ou de la morale ou à la protection des droits et libertés d'autrui. Le refus de prolonger une autorisation de séjour ou d'établissement fondé sur l'art. 8 par. 2 CEDH suppose une pesée des intérêts en présence et l'examen de la proportionnalité de la mesure (cf. <ref-ruling> consid. 2.2 p. 147 s.; <ref-ruling> consid. 4.3 p. 381). Pour apprécier ce qui est équitable, l'autorité doit notamment tenir compte de la gravité de la faute commise par l'étranger, de la durée de son séjour en Suisse et du préjudice qu'il aurait à subir avec sa famille du fait de l'expulsion, respectivement du refus d'accorder ou de prolonger une autorisation de séjour. Normalement, en cas de peine d'au moins deux ans de détention, l'intérêt public à l'éloignement l'emporte sur l'intérêt privé - et celui de sa famille - à pouvoir rester en Suisse (cf. <ref-ruling> consid. 2.3 p. 148 s.; <ref-ruling> consid. 4.3 et 4.4 p. 381 s.; <ref-ruling> consid. 4.1 p. 185).
5.
Il n'est pas contesté que le recourant remplit, de par sa condamnation du 19 mars 2009 à deux ans de peine privative de liberté, le motif permettant de révoquer son autorisation d'établissement, au sens des art. 62 let. b LEtr, par renvoi de l'art. 63 al. 1 let. a LEtr, et 63 al. 2 LEtr. Savoir s'il remplit en plus les conditions de l'art. 63 al. 1 let. b LEtr n'est pas pertinent.
6.
6.1. Le recourant conteste l'existence d'un risque de récidive et invoque une violation de l'art. 5 al. 1 annexe I ALCP. Selon lui, le Tribunal cantonal aurait dû prendre en compte l'ensemble des circonstances et en particulier le fait qu'il a toujours admis et assumé les faits pour lesquels il a été condamné. Il affirme présenter un profil de jeune homme commettant des infractions essentiellement en raison des difficultés qu'il a rencontrées à une époque de sa vie, et notamment de ses mauvaises fréquentations. Il explique avoir principalement commis des infractions relevant de la circulation routière et de la LStup (RS 812.121), mais dans ce dernier cas uniquement pour sa consommation personnelle passée. Au surplus, il relève apprécier les travaux temporaires. Il se plaint par conséquent d'une violation des art. 8 par. 2 CEDH et 96 LEtr.
6.2. On peut ici en premier lieu rappeler que l'examen de la proportionnalité sous l'angle de l'art. 8 par. 2 CEDH se confond avec celui imposé par les art. 5 al. 2 Cst. et 96 LEtr (arrêts 2C_419/2014 du 13 janvier 2015 consid. 4.3; 2C_1125/2012 du 5 novembre 2013 consid. 3.1).
6.3. Sans en déduire expressément un droit, le recourant fait référence à l'art. 3 al. 1 de la Convention du 20 novembre 1989 relative aux droits de l'enfant (ci-après: CDE; RS 0.107). La CDE n'accorde ni à l'enfant ni à ses parents un droit à la réunion de la famille ou une prétention directe à l'obtention d'une autorisation de séjour (cf. <ref-ruling> consid. 5.2 p. 287; <ref-ruling> consid. 2.2.2 p. 157 s.). Au demeurant, les griefs qui, comme en l'espèce, tendent à reprocher à l'autorité précédente de n'avoir pas suffisamment pris en considération les intérêts de l'enfant, reviennent à se plaindre d'une mauvaise pesée des intérêts en présence et se confondent par conséquent avec les moyens tirés de la violation de l'art. 8 par. 2 CEDH (<ref-ruling> consid. 5.2 p. 287).
6.4. L'autorité précédente a pris en considération tous les éléments imposés par la jurisprudence du Tribunal fédéral, de la Cour européenne des droits de l'homme et de la Cour de justice de l'Union européenne pour procéder à la pesée des intérêts, que ce soit en rapport avec le risque de récidive concret prévu à l'art. 5 al. 1 annexe I ALCP ou avec l'ingérence dans le droit au respect de la vie privée et familiale prévu à l'art. 8 par. 2 CEDH. Elle a ainsi correctement considéré l'âge d'arrivée du recourant en Suisse, l'activité délictueuse qu'il y a déployée, la nature des infractions commises, la durée des condamnations et la gravité des actes pénaux. L'autorité précédente a également pris en considération le but poursuivi par celui-ci, le comportement qu'il a adopté lors de la procédure pénale, sa persévérance dans la délinquance, le fait qu'il exécute actuellement sa peine ainsi que sa situation financière. Le Tribunal cantonal a finalement encore notamment tenu compte de la durée et la qualité du séjour légal en Suisse, des conséquences pour l'intéressé, sa compagne et sa fille mineure d'un départ de Suisse et des possibilités d'intégration à l'étranger, du fait que sa compagne et sa fille ne l'aient pas empêché de poursuivre ses activités délictueuses ou encore de la possibilité des concubins de conserver des liens en dépit de l'éloignement. Intégrant l'ensemble de ces circonstances, le Tribunal cantonal a retenu à juste titre que le recourant présentait un risque de récidive concret et, par là même, une menace actuelle pour l'ordre public, de sorte à justifier la limitation de son droit à la libre circulation. En outre l'intérêt public à le maintenir éloigné de la Suisse l'emportait sur l'intérêt privé de celui-ci, de sa concubine et de sa fille à pouvoir y vivre ensemble. Le résultat de la pesée des intérêts ainsi effectuée est correct.
Le recourant explique encore que l'autorité semble oublier que l'essentiel des faits qui lui sont reprochés au-delà de sa majorité relèvent de la circulation routière et qu'à aucun moment il ne lui est fait le reproche d'avoir atteint l'intégrité corporelle de tiers. En cherchant à circonscrire ses actes délictueux à des infractions à la loi fédérale du 19 décembre 1958 sur la circulation routière (LCR; RS 741.01), le recourant semble méconnaître la dangerosité des violations des règles de la circulation pour les autres usagers de la route. De plus, il ne faut pas perdre de vue que ses plus lourdes condamnations concernaient d'autres actes, dont notamment un incendie intentionnel ayant mis en danger la vie de tiers. Finalement, on relèvera encore que la dernière des dix condamnations du recourant constituait la deuxième plus importante. Cela confirme ainsi qu'il ne s'est aucunement amendé et que c'est à juste titre que le Tribunal cantonal a relevé que le recourant faisait preuve d'une indifférence envers l'ordre juridique suisse.
7.
Les considérants qui précèdent conduisent au rejet du recours, dans dans la mesure où il est recevable. Le recours étant d'emblée dénué de chance de succès, la demande d'assistance judiciaire est rejetée (art. 64 al. 1 LTF). Succombant, le recourant doit ainsi supporter les frais judiciaires (art. 66 al. 1 LTF). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué au mandataire du recourant, au Secrétariat général du Département de l'économie et du sport, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, au Secrétariat d'Etat aux migrations et au Service de la population du canton de Vaud.
Lausanne, le 12 juin 2015
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Zünd
Le Greffier : Tissot-Daguette