Faits:
A. X._, ressortissant portugais né le *** 1982, est entré en Suisse le 1er mai 2000 pour vivre avec sa mère. Il a obtenu une autorisation de séjour qui a été régulièrement renouvelée.
Entre juillet 2001 et août 2004, il a commis de nombreux délits et a été placé en détention préventive du 8 au 27 septembre 2002, puis du 28 février au 20 mai 2003. Dès le 25 juin 2003, soit 35 jours après la fin d'une période de détention de près de trois mois, il est retombé dans la délinquance.
Le 28 octobre 2005, le Tribunal correctionnel de l'arrondissement de l'Est vaudois l'a condamné à une peine de vingt mois d'emprisonnement et à cinq ans d'expulsion du territoire suisse pour lésions corporelles simples, lésions corporelles par négligence, voies de fait, vol, brigandage, dommages à la propriété, violation de domicile, violence ou menaces envers les autorités et les fonctionnaires, opposition aux actes de l'autorité, circulation sans permis de conduire, circulation sans permis de circulation, conduite d'un véhicule non couvert par une assurance responsabilité civile, usage abusif de permis ou de plaques, soustraction de plaques, contravention à la loi fédérale sur les stupéfiants, infraction à la loi fédérale sur les armes et contravention à la loi fédérale sur les transports publics. Ce jugement a été confirmé par la Cour de cassation pénale du Tribunal cantonal du canton de Vaud par un arrêt du 8 mars 2006.
X._ a également été reconnu débiteur de huit plaignants à titre de dommages et intérêts ou d'indemnités pour tort moral pour un montant de plus de 23'000 fr. Il a également fait l'objet de neuf prononcés de conversion d'amende en arrêts entre novembre 2004 et juillet 2006. L'exécution de sa peine a été fixée du 26 juillet 2006 au 24 février 2008. Il a toutefois bénéficié d'une libération conditionnelle le 12 juillet 2007, avec délai d'épreuve d'un an.
B. Le 7 août 2007, le Service de la population du canton de Vaud (ci-après: le Service de la population) a révoqué l'autorisation de séjour de X._, décision confirmée par la Cour de droit administratif du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) par arrêt du 14 avril 2008. Le recours de l'intéressé à l'encontre de l'arrêt du Tribunal cantonal a été déclaré irrecevable par le Tribunal fédéral (arrêt 2C_404/2008 du 30 mai 2008).
X._ a quitté la Suisse en été 2008 sur injonction du Service de la population.
Le 6 janvier 2009, l'Office fédéral des migrations a prononcé une décision d'interdiction d'entrée en Suisse à l'encontre de l'intéressé, valable jusqu'au 5 janvier 2014. Le motif de cette interdiction était le suivant: "Atteinte et mise en danger de la sécurité et de l'ordre publics en raison du comportement de l'intéressé: lésions corporelles simples, vol, brigandage, dommages à la propriété, violation de domicile, violence ou menaces envers les autorités, infraction à la loi fédérale sur les armes notamment (art. 67 al. 1 let. a LEtr.)".
C. Le 28 août 2009, X._ a indiqué au Service de la population qu'il vivait au Portugal et qu'il souhaitait revenir en Suisse car il avait déposé une demande de mariage avec A._, ressortissante suisse, auprès de l'état civil de B._. Dans un courrier du 3 septembre 2009, A._ a expliqué que, dès lors qu'elle avait deux enfants à charge et percevait le revenu d'insertion, elle ne pouvait pas accueillir X._ dans son foyer mais que tel serait le cas lorsqu'ils seraient mariés. Celui-ci envisageait de travailler pour la société C._ à B._. Cette requête d'autorisation de séjour a été considérée par le Service de la population comme une demande de réexamen de la décision du 7 août 2007 et rejetée, en tant que telle, par décision du 16 novembre 2009.
X._ a formé recours, contre cette décision, auprès du Tribunal cantonal. A cette occasion, il a exposé que son épouse allait aisément trouver un emploi et que lui-même pourrait rapidement occuper un poste de réviseur de citernes à B._. S'agissant des condamnations pénales dont il avait fait l'objet, il a fait valoir qu'il s'était depuis "racheté une conduite". Le Tribunal cantonal a rejeté ce recours par arrêt du 16 juin 2010.
D. Par écriture parvenue au Tribunal fédéral le 11 août 2010, X._ a déposé un recours en matière de droit public à l'encontre du jugement du Tribunal cantonal du 16 juin 2010. Il fait valoir en substance la violation de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20), ainsi que de l'art. 8 CEDH, se fondant spécialement sur une constatation inexacte et incomplète des faits. Il invoque aussi, sans indiquer lesquelles, les dispositions de l'Accord du 21 juin 1999 entre, d'une part, la Confédération Suisse et, d'autre part, la Communauté européenne et ses Etats membres sur la libre circulation des personnes (ALCP; RS 0.142.112.681).
Appelés à se déterminer sur le recours, le Service de la population a renoncé à se prononcer, le Tribunal cantonal se réfère aux considérants et au dispositif de son arrêt du 16 juin 2010, alors que l'Office fédéral des migrations conclut au rejet du recours.

Considérant en droit:
1. 1.1 La demande qui est à la base du présent litige date du 28 août 2009. Il y a donc lieu d'appliquer en l'espèce la LEtr qui est entrée en vigueur le 1er janvier 2008 (art. 126 al. 1 LEtr a contrario).
1.2 Le Tribunal fédéral examine d'office sa compétence (<ref-law>). Il contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 43; <ref-ruling> consid. 1 p. 96).
1.2.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
1.2.2 Selon l'art. 42 al. 1 LEtr, le conjoint d'un ressortissant suisse a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité à condition de vivre en ménage commun avec lui. Le recourant a épousé une Suissesse et il n'est pas contesté qu'il cohabite avec elle. Par conséquent, le recours en matière de droit public est recevable à cet égard.
Un étranger peut également, selon les circonstances, se prévaloir de l'art. 8 § 1 CEDH, qui garantit le respect de la vie privée et familiale, pour s'opposer à l'éventuelle séparation de sa famille. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse (sur cette notion, cf. <ref-ruling> consid. 1.3.1 p. 145 s.; <ref-ruling> consid. 3.1 p. 285) soit étroite et effective (cf. <ref-ruling> consid. 5 p. 269; <ref-ruling> consid. 5.3.1 p. 211). D'après la jurisprudence, les relations familiales qui peuvent fonder, en vertu de l'art. 8 § 1 CEDH, un droit à une autorisation de police des étrangers, sont avant tout les rapports entre époux ainsi qu'entre parents et enfants mineurs vivant ensemble (<ref-ruling> consid. 1.3.2 p. 146; <ref-ruling> consid. 1d/aa p. 65; <ref-ruling> consid. 1d p. 261). Il est admis que le recourant vit avec sa femme qui est de nationalité suisse. Son recours est donc aussi recevable, sous l'angle de l'art. 8 § 1 CEDH.
Savoir si, en définitive, le recourant possède un droit découlant de l'art. 42 LEtr ou 8 § 1 CEDH est une question qui relève du fond.
1.2.3 Au surplus, en tant qu'il s'en prend à l'arrêt du Tribunal cantonal du 16 juin 2010, le recours est dirigé contre une décision finale (<ref-law>) rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF); en outre, il a été déposé en temps utile (<ref-law>) par le destinataire de l'acte attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), de sorte qu'il convient d'entrer en matière.
1.3 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral et du droit international (cf. art. 95 let. a et b ainsi que 106 al. 1 LTF), sous réserve des exigences de motivation figurant aux art. 42 et 106 al. 2 LTF. Il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>).
2. Le recourant critique en vain, dans son écriture, la constatation des faits et leur appréciation par le Tribunal cantonal. Formulés sur un mode purement appellatoire, ces éléments ne peuvent être pris en compte par le Tribunal fédéral (<ref-law>; <ref-ruling> consid. 3 p. 104).
3. L'ALCP et son annexe I sont inapplicables au présent cas, dans la mesure où le recourant se prévaut du regroupement familial avec une citoyenne suisse. Dans une telle hypothèse, seul l'art. 42 LEtr régit le droit au regroupement familial, même si cette loi peut être créatrice d'une discrimination à rebours. Le Tribunal fédéral a déjà pu constater une telle discrimination dans diverses circonstances, sans pouvoir y remédier (<ref-ruling>; art. 190 Cst.).
4. 4.1 En vertu de l'art. 42 LEtr, le conjoint d'un ressortissant suisse bénéficie d'un droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité à condition de vivre en ménage commun avec lui. D'après l'art. 51 al. 1 let. b LEtr, les droits prévus à l'art. 42 LEtr s'éteignent s'il existe des motifs de révocation au sens de l'art. 63 LEtr. Cette dernière disposition prévoit que l'autorisation d'établissement ne peut être révoquée que dans des cas strictement énumérés. Il en va notamment ainsi, selon l'art. 63 al. 1 let. a LEtr, si les conditions visées à l'art. 62 let. b LEtr sont remplies.
Aux termes de l'art. 62 let. b LEtr, l'autorité peut révoquer une autorisation de séjour - respectivement ne point en délivrer - lorsque l'étranger a été condamné à une peine privative de liberté de longue durée ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 du code pénal. Selon la jurisprudence, une peine privative de liberté est considérée comme étant de longue durée lorsqu'elle dépasse un an d'emprisonnement (<ref-ruling> consid. 4.2 p. 379 ss), indépendamment du fait qu'elle ait été prononcée avec un sursis complet ou partiel, respectivement sans sursis (arrêt 2C_515/2009 du 27 janvier 2010 consid. 2.1). Ce motif de révocation est manifestement rempli en l'espèce au regard de la condamnation à vingt mois d'emprisonnement subie par le recourant (jugement du 28 octobre 2005).
4.2 Les motifs de révocation de l'art. 63 LEtr correspondent en principe aux motifs d'expulsion prévus à l'art. 10 LSEE. Ainsi, comme sous l'empire de l'ancien droit, le refus de l'autorisation, respectivement sa révocation, ne se justifie que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître la mesure comme proportionnée aux circonstances (<ref-ruling> consid. 4.3 p. 381). Il convient donc de prendre en considération, dans la pesée des intérêts publics et privés en présence, la gravité de la faute commise par l'étranger, son degré d'intégration respectivement la durée de son séjour en Suisse et le préjudice que l'intéressé et sa famille auraient à subir en raison de la mesure (<ref-ruling> consid. 4.3 p. 381; arrêt 2C_418/2009 du 30 novembre 2009 consid. 4.1). La règle ressort pour le reste expressément de l'art. 96 al. 1 LEtr selon lequel "les autorités compétentes tiennent compte, en exerçant leur pouvoir d'appréciation, des intérêts publics, de la situation personnelle de l'étranger, ainsi que de son degré d'intégration". Selon la jurisprudence, quand le refus d'octroyer une autorisation de séjour se fonde sur la commission d'une infraction, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à procéder à la pesée des intérêts en présence (<ref-ruling> consid. 4.2 p. 24; <ref-ruling> consid. 4c p. 15). Cette pesée des intérêts se confond largement avec celle que le juge doit effectuer lors de la mise en oeuvre de l'art. 8 § 2 CEDH, de sorte qu'il y sera procédé à cette occasion (cf. infra consid. 4.3).
4.2 Les motifs de révocation de l'art. 63 LEtr correspondent en principe aux motifs d'expulsion prévus à l'art. 10 LSEE. Ainsi, comme sous l'empire de l'ancien droit, le refus de l'autorisation, respectivement sa révocation, ne se justifie que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître la mesure comme proportionnée aux circonstances (<ref-ruling> consid. 4.3 p. 381). Il convient donc de prendre en considération, dans la pesée des intérêts publics et privés en présence, la gravité de la faute commise par l'étranger, son degré d'intégration respectivement la durée de son séjour en Suisse et le préjudice que l'intéressé et sa famille auraient à subir en raison de la mesure (<ref-ruling> consid. 4.3 p. 381; arrêt 2C_418/2009 du 30 novembre 2009 consid. 4.1). La règle ressort pour le reste expressément de l'art. 96 al. 1 LEtr selon lequel "les autorités compétentes tiennent compte, en exerçant leur pouvoir d'appréciation, des intérêts publics, de la situation personnelle de l'étranger, ainsi que de son degré d'intégration". Selon la jurisprudence, quand le refus d'octroyer une autorisation de séjour se fonde sur la commission d'une infraction, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à procéder à la pesée des intérêts en présence (<ref-ruling> consid. 4.2 p. 24; <ref-ruling> consid. 4c p. 15). Cette pesée des intérêts se confond largement avec celle que le juge doit effectuer lors de la mise en oeuvre de l'art. 8 § 2 CEDH, de sorte qu'il y sera procédé à cette occasion (cf. infra consid. 4.3).
4.3 4.3.1 Comme exposé dans le cadre de l'examen de la recevabilité du présent recours, un étranger peut, selon les circonstances, se prévaloir de l'art. 8 § 1 CEDH pour s'opposer à l'éventuelle séparation de sa famille. Pour qu'il puisse invoquer la protection de la vie familiale découlant de cette disposition, l'étranger doit entretenir une relation étroite et effective avec une personne de sa famille ayant le droit de résider durablement en Suisse (ATF <ref-ruling> consid. 3.1 p. 285/286). Tel est le cas en l'espèce au regard de la nationalité suisse de l'épouse du recourant; en outre, il n'est pas contesté que le lien conjugal entre les époux soit réel.
4.3.2 Le droit au respect de la vie privée et familiale garanti par l'art. 8 § 1 CEDH n'est pas absolu. Une ingérence dans l'exercice de ce droit est possible selon l'art. 8 § 2 CEDH, pour autant qu'elle soit prévue par la loi et qu'elle constitue une mesure qui, dans une société démocratique, est nécessaire à la sécurité nationale, à la sûreté publique, au bien-être économique du pays, à la défense de l'ordre et à la prévention des infractions pénales, à la protection de la santé ou de la morale ou à la protection des droits et libertés d'autrui. Comme dit, le refus d'octroyer une autorisation de séjour au conjoint étranger d'un ressortissant suisse, respectivement le refus de la prolonger sur la base de l'art. 62 LEtr, ainsi que de l'art. 8 § 2 CEDH, suppose une pesée des intérêts en présence et la proportionnalité de la mesure (cf. <ref-ruling> consid. 4.3 p. 381). Pour apprécier ce qui est équitable, l'autorité doit notamment tenir compte de la gravité de la faute commise par l'étranger, de la durée de son séjour en Suisse et du préjudice qu'il aurait à subir avec sa famille du fait de l'expulsion, respectivement du refus d'accorder ou de prolonger une autorisation de séjour. Normalement, en cas de peine d'au moins deux ans de détention, l'intérêt public à l'éloignement l'emporte sur l'intérêt privé - et celui de la famille - à pouvoir rester en Suisse (cf. <ref-ruling> consid. 4.3 et 4.4 p. 381 s.; <ref-ruling> consid. 4.1 p. 185). Cette limite de deux ans ne constitue pas une limite absolue. Elle doit au contraire être appréciée au regard de toutes les circonstances du cas et, en particulier, de la durée du séjour en Suisse de l'étranger (arrêt 2C_58/2010 du 19 mai 2010 consid. 5.3.2; arrêt 2C_651/2009 du 1er mars 2010 consid. 4.4; arrêt 2C_625/2007 du 2 avril 2008 consid. 7.1). On doit aussi prendre en compte la nature du délit commis.
4.3.3 En l'espèce, le Tribunal cantonal s'est fondé sur les circonstances mises en évidence dans son arrêt du 14 avril 2008, en ces termes: "Dans le cas particulier, depuis son arrivée en Suisse, le recourant n'a eu de cesse de perpétrer des infractions. Selon l'expertise psychiatrique réalisée à l'occasion du jugement du Tribunal correctionnel, il a été clairement établi que le risque de récidive existe, compte tenu notamment de la personnalité du recourant. Par ailleurs, les deux périodes de détention préventive subies ne l'ont pas dissuadé de perpétrer de nouvelles infractions. Celles-ci ont atteint des biens juridiques importants, tels l'intégrité physique, la sécurité publique, la propriété privée, etc. En outre, le Tribunal correctionnel a retenu que la culpabilité du recourant était lourde, qu'il était violent physiquement et verbalement, qu'il passait à l'acte à la moindre contrariété, qu'il avait une propension à collectionner et porter des armes blanches, ainsi qu'un attrait pour les chiens potentiellement dangereux. Finalement, le Tribunal correctionnel a retenu que le recourant apparaissait comme fondamentalement dangereux, que le risque pour la sécurité publique était patent et que son comportement général mettait en danger l'ordre public. Il a donc prononcé une expulsion de cinq ans du territoire suisse".
Dans l'arrêt entrepris, le Tribunal cantonal a également retenu que le risque de récidive ne pouvait être exclu et qu'il paraissait même élevé. Pour formuler ce pronostic, il a pris en compte le nombre, la fréquence et la gravité des infractions commises, l'absence d'amendement du recourant à la suite des deux périodes de détention préventives subies, son état psychologique, ses mauvaises fréquentations, l'absence de tout facteur de stabilisation, comme par exemple un travail fixe, le fait que la vie en Suisse ne semblait pas lui convenir et les autres circonstances relevées par le juge pénal. Se fondant sur ces éléments, le Tribunal cantonal a jugé, à juste titre, que la circonstance nouvelle que constitue le mariage du recourant avec une ressortissante suisse ne saurait peser de manière prépondérante dans la pesée des intérêts. En conclusion, tant son passé criminel que le fort risque de récidive et l'absence d'intégration professionnelle du recourant l'emportent sur l'intérêt des conjoints à pouvoir vivre ensemble en Suisse. A cela s'ajoute que, lorsqu'une ressortissante suisse épouse un étranger faisant l'objet d'une procédure susceptible de conduire à un refus de renouvellement de l'autorisation de séjour, on considère normalement qu'elle accepte le risque de devoir faire sa vie à l'étranger avec ce dernier (<ref-ruling> consid. 3e-f p. 358 ss). A fortiori en va-t-il ainsi lorsque le mariage intervient postérieurement à une condamnation pénale (arrêt 2C_651/2009 du 1er mars 2010 consid. 4.3).
4.4 Au vu de ce qui précède, le Tribunal cantonal n'a violé ni l'art. 42 LEtr, ni l'art. 8 CEDH et son jugement doit être confirmé.
5. Le jugement entrepris est largement fondé sur l'art. 5 al. 1 de l'annexe I ALCP qui permet de limiter les droits octroyés par des mesures résultant du droit interne justifiées par des motifs relevant, notamment, de l'ordre et de la sécurité publics.
Comme déjà exposé, ce traité international n'a pas vocation à s'appliquer s'agissant du droit dérivé à une autorisation de séjour en matière de regroupement familial avec un conjoint suisse. Pour le reste, il ne suffit pas d'être ressortissant d'un des Etats membres de l'Union européenne pour pouvoir disposer d'un droit de séjour en Suisse. Encore faut-il se prévaloir d'un motif de séjour dans cet Etat.
Le recourant ne se trouve vraisemblablement dans aucune des situations de libre circulation des personnes prévues par cet accord ou, du moins, ne réalisait pas les conditions requises pour s'en prévaloir au moment du jugement cantonal. En effet, il n'exerçait pas d'activité économique, ni à titre de travailleur salarié au sens des <ref-law>, ni à titre d'indépendant au sens des <ref-law> et sa survie économique en Suisse dépendait pour l'essentiel de l'aide sociale dont bénéficiait son épouse. Au demeurant, il a largement dépassé le temps qui pourrait lui être imparti pour chercher un emploi (cf. art. 2 par. 1 al. 2 annexe I ALCP; <ref-ruling> consid. 3.3 p. 393 s.). Le jugement ne contient aucun fait laissant à penser que le but du séjour en Suisse serait de trouver une place de travail ou de créer une entreprise. Le recourant n'a également allégué, et moins encore établi, de fait qui permettrait au Tribunal fédéral de faire application d'office de ce traité international.
Peu importe, en définitive, dans la mesure où même s'il se trouvait dans l'hypothèse improbable d'être en mesure de se prévaloir de l'ALCP, toute autorisation de séjour devrait lui être refusée au terme de la pesée des intérêts imposée par l'art. 5 al. 1 de l'annexe I ALCP, compte tenu des motifs ci-dessus mentionnés, en particulier de l'importance des délits commis et du risque réel et actuel de récidive. Il suffit, à cet égard, de renvoyer aux considérants pertinents du jugement entrepris.
6. Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Succombant, le recourant doit supporter les frais judiciaires (cf. <ref-law>). Il n'est pas alloué de dépens (cf. <ref-law> a contrario).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 14 janvier 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Zünd Kurtoglu-Jolidon