Faits :
A.
X._, ressortissant de Bosnie-et-Herzégovine né en 1981, est entré une première fois en Suisse le 9 juillet 2005 pour y déposer une demande d'asile, laquelle a été rejetée par décision du 28 juillet 2005, confirmée le 30 septembre 2005 par la Commission de recours en matière d'asile. X._ a été refoulé dans son pays d'origine le 17 mai 2006.
Le 5 janvier 2013, X._ est revenu en Suisse pour y rejoindre son épouse Y._, ressortissante slovaque titulaire d'une autorisation de séjour. Il a été mis au bénéfice d'une autorisation de séjour UE/AELE par regroupement familial le 25 mars 2013. Le couple n'a pas d'enfant.
Le 19 décembre 2013, X._ a été placé en détention provisoire dans le cadre d'une procédure pénale ouverte à son encontre pour brigandage qualifié notamment.
Par jugement du 18 novembre 2015, le Tribunal correctionnel de l'Est vaudois a reconnu X._ coupable de brigandage qualifié (usage d'une arme, art. 105 al. 2 LTF), d'induction de la justice en erreur et de violation grave des règles de la circulation routière. Il l'a condamné à une peine privative de liberté de 42 mois, sous déduction de la détention subie avant jugement, et a prononcé son maintien en détention. Les juges ont relevé que la culpabilité était lourde, que X._ n'avait pas hésité à s'en prendre avec violence à son employeur occasionnel par appât du gain et qu'il avait cherché à minimiser son implication dans le brigandage. A sa décharge, ses aveux et excuses, qui étaient apparues relativement sincères, ont été pris en compte.
X._ a été libéré conditionnellement le 8 avril 2016.
En 2013, X._ a alterné emplois de brève durée et périodes d'inactivité. Depuis le 17 juin 2016, il travaille à plein temps pour une société de nettoyage au bénéfice d'un contrat de durée indéterminée.
B.
Par décision du 25 juillet 2016, le Service de la population du canton de Vaud a révoqué l'autorisation de séjour de X._ en raison des actes pénaux commis.
Par arrêt du 1er novembre 2016, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours formé par X._ contre la décision du 25 juillet 2016 et confirmé celle-ci. Le Tribunal cantonal a en substance jugé que l'intéressé représentait une menace actuelle pour l'ordre public suisse et que la révocation de son autorisation de séjour respectait le principe de proportionnalité. Le Tribunal cantonal a en outre rejeté la requête d'assistance judiciaire.
C.
A l'encontre de l'arrêt du 1er novembre 2016, X._ forme un "recours" au Tribunal fédéral. Il conclut, sous suite de dépens, à l'annulation de l'arrêt attaqué et à ce que son autorisation de séjour soit renouvelée sans délai. Il sollicite en outre le bénéfice de l'assistance judiciaire.
Il n'a pas été ordonné d'échange d'écritures.
D.
Par ordonnance du 14 décembre 2016, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la demande d'effet suspensif déposée le 12 décembre 2016.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 2.1 p. 397; <ref-ruling> consid. 2 p. 59).
1.1. Le recourant n'a pas indiqué par quelle voie de recours il procède au Tribunal fédéral. Toutefois, cette omission ne saurait lui nuire si son recours remplit les exigences légales de la voie de droit qui lui est ouverte (au sujet d'une voie de recours erronée, cf. <ref-ruling> consid. 1.1 p. 370; <ref-ruling> consid. 1.2 p. 382).
1.2. La voie du recours en matière de droit public est en principe ouverte contre une décision rendue, comme en l'espèce, par un tribunal supérieur statuant en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (art. 82 let. a LTF). D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est toutefois irrecevable contre les décisions relatives à une autorisation de séjour à laquelle ni le droit fédéral ni le droit international ne donnent droit. Il est en revanche recevable contre la révocation d'une autorisation qui déploierait ses effets s'il n'y avait pas eu de révocation (cf. <ref-ruling> consid. 1.2.1 p. 4), ce qui est le cas en l'occurrence. En outre, le recourant, marié à une ressortissante slovaque au bénéfice d'une autorisation de séjour en Suisse, peut, en tant que conjoint d'une ressortissante de l'Union européenne, potentiellement déduire un droit de séjourner en Suisse des art. 7 let. d de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681) et 3 par. 1 et 2 let. a annexe I ALCP (<ref-ruling> consid. 8.3 p. 129). Le présent recours ne tombe en conséquence pas sous le coup de l'exception prévue à l'art. 83 let. c ch. 2 LTF, ni d'aucune autre clause d'irrecevabilité figurant à l'art. 83 LTF. La voie du recours en matière de droit public est donc ouverte.
1.3. Au surplus, déposé en temps utile (art. 100 al. 1 LTF) et dans les formes prescrites par la loi (art. 42 LTF), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF), le présent recours, dirigé contre une arrêt final (art. 90 LTF), est recevable.
2.
Le recourant se plaint en premier lieu d'une constatation manifestement inexacte des faits (art. 97 al. 1 LTF).
2.1. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Selon l'art. 97 al. 1 LTF, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'art. 95 LTF et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 6 p. 358; <ref-ruling> consid. 1.6 p. 377), ce que la partie recourante doit démontrer de manière circonstanciée conformément aux exigences de motivation de l'art. 106 al. 2 LTF (<ref-ruling> consid. 1.4.3 p. 254 s.). Il y a arbitraire (art. 9 Cst.) dans l'établissement des faits ou l'appréciation des preuves si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (<ref-ruling> consid. 6 p. 358; <ref-ruling> consid. 2.3 p. 266 et les références).
2.2. Le recourant se prévaut de ses aveux et des excuses qu'il a présentées dans le cadre du procès pénal. Il s'agirait selon lui d'un élément non négligeable dans l'appréciation de sa dangerosité dont l'omission reviendrait à une constatation inexacte des faits. A l'inverse, son maintien en détention pour des motifs de sûreté après le prononcé de la sanction pénale n'avait pas à être pris en considération par le Tribunal cantonal.
2.3. Dans l'arrêt entrepris, le Tribunal cantonal a fait état des aveux et excuses du recourant dans la partie "en faits", ce que le recourant ne conteste pas. Qu'il n'y ait pas accordé le poids voulu par celui-ci dans son appréciation juridique ne rend pas ses constatations arbitraires. Dans la mesure où les excuses présentées ont été qualifiées de "relativement" sincères par les juges pénaux, on ne voit au demeurant pas que l'on puisse reprocher au Tribunal cantonal d'avoir omis de manière insoutenable cet élément dans son appréciation de la dangerosité que présente le recourant pour l'ordre public. S'agissant du maintien en détention pour des motifs du sûreté, le Tribunal cantonal en a certes fait état. Il n'a toutefois rien déduit de décisif de cet élément, qui ne paraît dès lors pas propre à influer sur le sort du litige. Les critiques du recourant sur les deux points qui précèdent doivent partant être écartées.
2.4. Pour le surplus, en tant que le recourant dénonce "la constatation parfois inexacte des faits", sans indiquer à quelles constatations il se réfère, sa critique n'a pas à être prise en considération.
Il s'ensuit que le grief d'arbitraire dans l'établissement des faits est infondé et doit être rejeté. Dans la suite de son raisonnement, le Tribunal fédéral se fondera donc exclusivement sur les faits établis par le Tribunal cantonal.
3.
Le litige porte sur le point de savoir si, compte tenu de la condamnation pénale que le recourant a subie, la révocation de l'autorisation de séjour UE/AELE est conforme au droit.
3.1. Aux termes de son art. 2 al. 2, la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20) ne s'applique aux membres de la famille des ressortissants des Etats membres de l'Union européenne que lorsque l'ALCP n'en dispose pas autrement ou lorsqu'elle prévoit des dispositions plus favorables.
Sous réserve du respect des exigences figurant à l'art. 5 annexe I ALCP (cf. infra consid. 4.1), l'ALCP ne réglemente pas en tant que tel le retrait de l'autorisation de séjour UE/AELE, de sorte que l'art. 62 LEtr est applicable (arrêts 2C_560/2016 du 6 octobre 2016 consid. 2.1; 2C_317/2016 du 14 septembre 2016 consid. 4.1; 2C_370/2012 du 29 octobre 2012 consid. 3.1; 2C_317/2012 du 17 octobre 2012 consid. 3.2; cf. art. 23 al. 1 de l'ordonnance fédérale du 22 mai 2002 sur l'introduction progressive de la libre circulation des personnes entre, d'une part, la Confédération suisse et, d'autre part, l'Union européenne et ses Etats membres, ainsi qu'entre les Etats membres de l'Association européenne de libre-échange [OLCP; RS 142.203]).
3.2. Selon l'art. 62 al. 1 let. b LEtr, une autorisation de séjour peut être révoquée notamment si l'étranger a été condamné à une peine privative de liberté de longue durée, par quoi il faut entendre une peine supérieure à un an, résultant d'un seul jugement pénal, prononcée avec sursis, sursis partiel ou sans (<ref-ruling> consid. 2.1 p. 18; <ref-ruling> consid. 2.3 p. 300 ss; <ref-ruling> consid. 4.2 et 4.5 p. 379 ss).
3.3. En l'occurrence, il n'est à juste titre pas contesté que par sa condamnation le 18 novembre 2015 à une peine privative de liberté de 42 mois, le recourant remplit le motif permettant de révoquer son autorisation de séjour en application de l'art. 62 al.1 let. b LEtr.
4.
Le recourant invoque une violation de l'art. 5 par. 1 annexe I ALCP. Il conteste représenter une menace suffisamment grave pour l'ordre et la sécurité publics permettant de justifier la révocation de son autorisation de séjour.
4.1. Comme l'ensemble des droits octroyés par l'ALCP, le droit de demeurer en Suisse ne peut être limité que par des mesures d'ordre ou de sécurité publics, au sens de l'art. 5 par. 1 annexe I ALCP (<ref-ruling> consid. 5.3 p. 125 s.).
Conformément à la jurisprudence rendue en rapport avec l'art. 5 annexe I ALCP, les limites posées au principe de la libre circulation des personnes doivent s'interpréter de manière restrictive. Ainsi, le recours par une autorité nationale à la notion d'"ordre public" pour restreindre cette liberté suppose, en-dehors du trouble de l'ordre social que constitue toute infraction à la loi, l'existence d'une menace réelle et d'une certaine gravité affectant un intérêt fondamental de la société (<ref-ruling> consid. 5.3 p. 125 s. et les références). Il faut procéder à une appréciation spécifique du cas, portée sous l'angle des intérêts inhérents à la sauvegarde de l'ordre public, qui ne coïncide pas obligatoirement avec les appréciations à l'origine des condamnations pénales. Autrement dit, ces dernières ne sont déterminantes que si les circonstances les entourant laissent apparaître l'existence d'une menace actuelle et réelle, d'une certaine gravité pour l'ordre public (<ref-ruling> consid. 5.3 p. 125 s. et les références). Il n'est pas nécessaire d'établir avec certitude que l'étranger commettra d'autres infractions à l'avenir pour prendre une mesure d'éloignement à son encontre; inversement, ce serait aller trop loin que d'exiger que le risque de récidive soit nul pour que l'on renonce à une telle mesure. En réalité, ce risque ne doit pas être admis trop facilement et il faut l'apprécier en fonction de l'ensemble des circonstances du cas, en particulier au regard de la nature et de l'importance du bien juridique menacé, ainsi que de la gravité de l'atteinte qui pourrait y être portée. L'évaluation de ce risque sera d'autant plus rigoureuse que le bien juridique menacé est important (<ref-ruling> consid. 5.3 p. 125 s. et les références). A cet égard, le Tribunal fédéral se montre particulièrement rigoureux, en lien avec l'art. 5 annexe I ALCP, en présence d'infractions à la législation fédérale sur les stupéfiants, d'actes de violence criminelle et d'infractions contre l'intégrité sexuelle (<ref-ruling> consid. 5.3 p. 125 s.; <ref-ruling> consid. 3.3 p. 303 s.).
4.2. En l'occurrence, il résulte de l'arrêt attaqué que le recourant, venu rejoindre son épouse en Suisse en janvier 2013, a été incarcéré le 19 décembre 2013, puis condamné le 18 novembre 2015 pour brigandage qualifié, induction de la justice en erreur et violation grave des règles de la circulation routière à une peine privative de liberté de 42 mois. La sanction prononcée reflète la gravité des actes commis. Le recourant s'en est pris avec violence à l'intégrité physique de son employeur occasionnel, dont il n'avait jamais eu à souffrir, par seul appât du gain. Sa culpabilité a été qualifiée de lourde par les juges pénaux. A elle seule, l'infraction de brigandage qualifié pour laquelle le recourant a été condamné est constitutive d'une atteinte très grave à la sécurité et l'ordre publics en Suisse. Il y a partant lieu de se montrer rigoureux dans l'évaluation de la menace qu'il représente pour l'ordre public.
Les juges précédents ont souligné que le recourant avait commis les actes graves reprochés quelques mois seulement après sa seconde arrivée en Suisse, alors que sa situation sur le plan familial et professionnel se présentait sous le meilleur jour puisqu'il bénéficiait du soutien de son épouse et était autorisé à travailler (art. 3 par. 5 annexe I ALCP). Cela ne l'a pas empêché de s'en prendre physiquement à autrui pour de l'argent. Rien ne permet de comprendre cette attitude et il a été retenu que le recourant lui-même était incapable de l'expliquer. Dans la mesure où la situation de celui-ci est en tous points identique depuis sa sortie de prison, il faut admettre, avec le Tribunal cantonal, que, dans ces circonstances, le recourant présente une menace grave pour la sécurité et l'ordre publics au sens de l'art. 5 par. 1 annexe I ALCP.
4.3. Le recourant reproche aux juges précédents de ne pas avoir accordé assez d'importance à ses aveux et excuses sincères, au pronostic favorable découlant de la décision du juge de l'application des peines et mesures de lui accorder la libération conditionnelle, à sa réinsertion sociale et professionnelle depuis sa sortie de prison, ainsi qu'aux liens forts l'unissant à son épouse dans l'évaluation de sa dangerosité.
Le recourant ne peut être suivi. Outre que les excuses qu'il a présentées ont été qualifiées de "relativement sincères" par les juges pénaux, ce qui minimise leur portée, celles-ci, de même que ses aveux, ont déjà été pris en compte dans le cadre de la fixation de la peine (cf. arrêt 2C_695/2016 du 1er décembre 2016 consid. 4.4). Ensuite, comme l'a relevé à juste titre l'autorité précédente, l'octroi de la libération conditionnelle n'est pas décisif pour apprécier la dangerosité du recourant pour l'ordre public (<ref-ruling> consid. 4.3.3 p. 187 ss). Contrairement à ce que soutient le recourant, il n'y a pas lieu de s'écarter de cette jurisprudence aux motifs qu'elle a été rendue sous l'ancienne version du code pénal et que la libération conditionnelle est accordée par un juge plutôt que dans le cadre d'une procédure administrative. Au contraire, l'art. 86 CP, entré en vigueur le 1er janvier 2007, a renforcé le principe selon lequel la libération conditionnelle est la règle et son refus l'exception; il suffit que le pronostic ne soit pas défavorable pour qu'elle soit accordée (<ref-ruling> consid. 2.2 p. 203 s.; arrêt 6B_393/2016 du 22 septembre 2016 consid. 3.1). Le pronostic du juge de l'application des peines et mesures ne peut en conséquence pas renseigner de manière décisive les autorités compétentes en matière de droit des étrangers sur la dangerosité d'une personne pour l'ordre et la sécurité publics. Celles-ci demeurent libres de tirer leurs propres conclusions à ce sujet (<ref-ruling> consid. 5.2.2 p. 237; <ref-ruling> consid. 4.3.3 p. 187 ss; arrêt 2C_607/2015 du 7 décembre 2015 consid. 6.1). De même, on ne peut déduire de conclusions déterminantes du point de vue du droit des étrangers de l'attitude du recourant durant le délai d'épreuve, celui-ci exerçant un effet dissuasif (<ref-ruling> consid. 5.5.2 p. 127 s.; arrêts 2C_394/2016 du 26 août 2016 consid. 6.3; 2C_1050/2014 du 5 juin 2015 consid. 5.3).
Quant à la rapide réinsertion professionnelle du recourant après sa libération, elle est certainement louable. La possibilité de travailler ne l'a toutefois pas empêché de porter atteinte à l'intégrité physique d'autrui par le passé. L'emploi stable qu'occupe désormais le recourant ne saurait dans ces circonstances être considéré comme un élément décisif sur le plan de la dangerosité qu'il représente. Ainsi que l'a relevé le Tribunal cantonal, il en va de même des liens du recourant avec son épouse, son mariage ne l'ayant pas détourné de la commission d'infractions graves. Le recourant prétend à cet égard que sa relation avec son épouse est plus forte aujourd'hui qu'avant son incarcération. On ne voit toutefois pas en quoi sa situation sur le plan affectif serait si différente depuis sa sortie de prison qu'elle permettrait, à elle seule, de retenir que le recourant ne présente plus une menace pour l'ordre et la sécurité publics.
En définitive, les facteurs évoqués par le recourant ne sont pas de nature à relativiser la menace actuelle et réelle que celui-ci représente pour l'ordre et la sécurité publics. Il s'ensuit que le Tribunal cantonal n'a pas violé l'art. 5 par. 1 annexe I ALCP en retenant que la révocation de l'autorisation de séjour du recourant était justifiée au regard de cette disposition.
5.
Sans se prévaloir d'une disposition légale en particulier, le recourant fait valoir que le retrait de son autorisation de séjour est disproportionné.
5.1. La révocation d'une autorisation de séjour ne se justifie que si elle est conforme au principe de proportionnalité. Ce principe découle notamment de l'art. 96 LEtr, également applicable au domaine régi par l'ALCP (art. 2 al. 2 LEtr; arrêt 2C_410/2015 du 29 octobre 2015 consid. 4.1). Le respect du principe de proportionnalité est aussi imposé par l'art. 8 par. 2 CEDH. Le recourant ne prétend pas explicitement que la révocation de son autorisation de séjour porterait atteinte à sa vie familiale protégée par l'art. 8 par. 1 CEDH. Quand bien même il l'aurait fait, il conviendrait de rappeler que l'examen de la proportionnalité sous l'angle des articles 5 al. 2 Cst. et 96 LEtr se confond avec celui imposé par l'art. 8 par. 2 CEDH (arrêt 2C_1189/2014 du 26 juin 2015 consid. 4.1).
5.2. De jurisprudence constante, la question de la proportionnalité d'une révocation d'autorisation doit être tranchée au regard de toutes les circonstances du cas d'espèce, les critères déterminants se rapportant notamment à la gravité de l'infraction, à la culpabilité de l'auteur, au temps écoulé depuis l'infraction, au comportement de celui-ci pendant cette période, au degré de son intégration et à la durée de son séjour antérieur, ainsi qu'aux inconvénients qui le menacent, lui et sa famille, en cas de révocation (<ref-ruling> consid. 2.4 p. 149). Lorsque la mesure de révocation est prononcée en raison de la commission d'une infraction, la peine infligée par le juge pénal est le premier critère à utiliser pour évaluer la gravité de la faute et pour procéder à la pesée des intérêts (<ref-ruling> consid. 2.2.1 p. 19; <ref-ruling> consid. 4.3 p. 381; <ref-ruling> consid. 4.2 p. 23).
5.3. Le recourant fait valoir qu'il ne présente pas une menace suffisamment grave pour l'ordre et la sécurité publics. Il remet de la sorte en cause l'intérêt public à son éloignement. Compte tenu de la gravité des infractions commises par le recourant et de la menace actuelle qu'il constitue pour l'ordre et la sécurité publics, l'intérêt public à son éloignement est toutefois établi (cf. supra consid. 4.3).
En ce qui concerne l'intérêt privé du recourant à demeurer en Suisse, le Tribunal cantonal a souligné que l'intéressé ne pouvait pas se prévaloir d'un séjour de longue durée, qu'il avait passé plus de la moitié de son séjour en Suisse en prison et que son intégration professionnelle ne pouvait être qualifiée de réussie. Dans ces conditions, la présence de son épouse en Suisse était insuffisante pour privilégier l'intérêt privé du recourant à demeurer en Suisse sur l'intérêt public à son éloignement.
En relevant les éléments qui précèdent, le Tribunal cantonal a procédé à une pesée des intérêts qui ne prête pas le flanc à la critique. Le recourant n'en émet du reste aucune en lien avec son intérêt à demeurer en Suisse. Arrivé en Suisse pour la première fois à 24 ans, le recourant a séjourné dans ce pays moins d'une année avant d'être refoulé en Bosnie-et-Herzégovine. Il avait 32 ans lorsqu'il a rejoint son épouse en 2013. Il a ainsi construit la majorité de sa vie dans son pays d'origine, de sorte qu'il pourra sans difficultés s'y réinsérer. A l'inverse, l'intégration du recourant en Suisse est pratiquement inexistante, son court séjour dans ce pays s'étant déroulé essentiellement en prison. L'emploi qu'il occupe actuellement, s'il constitue un facteur en sa faveur, ne permet pas d'infirmer ce constat. Quant au propre intérêt privé de l'épouse du recourant, la difficulté que représentera pour elle le départ de son mari est certaine, mais insuffisante pour contrebalancer l'intérêt public à l'éloignement de l'intéressé. Compte tenu de l'ensemble de ces circonstances, en particulier de la gravité des infractions commises, le Tribunal cantonal n'a pas violé le principe de la proportionnalité en faisant primer l'intérêt public à éloigner le recourant de Suisse sur l'intérêt privé de celui-ci à pouvoir continuer à y résider.
5.4. En conclusion, la limitation à la libre circulation du recourant est conforme à l'ALCP et respecte le principe de proportionnalité. Il convient donc de confirmer l'arrêt attaqué.
6.
Les considérants qui précèdent conduisent au rejet du recours. Le recourant a sollicité sa mise au bénéfice de l'assistance judiciaire. La cause paraissant d'emblée dépourvue de chances de succès, cette requête doit être rejetée (art. 64 al. 1 LTF). Succombant, le recourant doit supporter les frais de la procédure fédérale (art. 66 al. 1 LTF), qui seront toutefois fixés en tenant compte de sa situation. Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, ainsi qu'au Secrétariat d'Etat aux migrations.
Lausanne, le 20 février 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Kleber