Faits : A. A.a. X._, ressortissant kosovar de Serbie né en 1972, serait entré la première fois en Suisse en 1988 ou en 1990; il a été mis au bénéfice d'autorisations de séjour saisonnières régulièrement renouvelées et a obtenu divers emplois dans le canton de Vaud. La transformation de son autorisation de séjour saisonnière en une autorisation de séjour annuelle a été refusée en 1993 et en 1994. Le 3 juin 1997, X._ a épousé Y._, ressortissante italienne au bénéfice d'une autorisation d'établissement. X._ a été condamné le 26 juin 1998 par le Tribunal correctionnel du district de Lausanne à sept mois d'emprisonnement pour rixe et agression avec sursis pendant trois ans et son expulsion du territoire suisse a été prononcée pour une durée de cinq ans avec sursis pendant trois ans. Le 4 septembre 1998, le Service de la population du canton de Vaud (ci-après: le Service de la population) a délivré à X._ une autorisation de séjour pour regroupement familial, qu'il a toutefois soumise à la condition que l'intéressé, qui faisait l'objet d'une enquête pénale, ne donne pas lieu à des plaintes ou à des condamnations dans un délai de trois ans. Le Tribunal correctionnel de l'arrondissement de Lausanne a infligé à l'intéressé, en date du 27 mars 2001, une peine de sept ans de réclusion, sous déduction de 826 jours de détention préventive, pour séquestration et enlèvement, extorsion qualifiée, utilisation frauduleuse d'un ordinateur, prise d'otage, blanchiment d'argent, instigation à blanchiment d'argent et à recel; son expulsion du territoire suisse a été prononcée pour une durée de quinze ans. La Cour de cassation pénale du Tribunal cantonal vaudois a, par arrêt du 3 mars 2003, très partiellement admis le recours déposé par X._ en le libérant du chef d'utilisation frauduleuse d'un ordinateur mais a maintenu la peine. Le 17 septembre 2003, l'autorité compétente a libéré conditionnellement X._ et a sursis à l'expulsion judiciaire prononcée à son encontre. A.b. Par décision du 10 septembre 2003 et du 24 octobre 2003, le Service de la population a refusé de renouveler l'autorisation de séjour de X._; celui-ci a recouru sans succès auprès de l'autorité cantonale compétente et jusqu'au Tribunal fédéral qui a rejeté son recours le 22 mars 2005 (cause 2A.21/2005). Le 3 mars 2006, l'Office fédéral des migrations (actuellement et ci-après: le Secrétariat d'Etat aux migrations) a étendu à toute la Suisse la décision de renvoi de l'intéressé. X._ a requis le réexamen des décisions des 10 septembre 2003 et 24 octobre 2003, en invoquant la naissance de sa fille A._ le 3 décembre 2005 et la reprise, avec son épouse, Y._, d'un établissement public à D._. Il a attaqué la décision négative du 29 mars 2006 du Service de la population jusqu'au Tribunal fédéral qui a rejeté son recours, par arrêt du 11 octobre 2006 (cause 2A.460/2006). Après que le Service de la population eut enjoint, le 30 octobre 2006, X._ de quitter la Suisse immédiatement, ce service a été informé du départ de l'intéressé pour l'Italie le 10 janvier 2007. Le 24 mai 2007 (recte: 26 avril 2007), X._ a été condamné par le Tribunal correctionnel de La Broye et du Nord vaudois à une peine privative de liberté de dix mois, avec sursis pendant trois ans, sous déduction de six jours de détention préventive, pour rixe, lésions corporelles simples qualifiées et délit contre la loi fédérale sur les armes. Le Secrétariat d'Etat aux migrations a prononcé, le 28 janvier 2008, une interdiction d'entrée en Suisse d'une durée indéterminée à l'encontre de l'intéressé, puis a rejeté une demande de suspension de cette interdiction le 24 juin 2009. En 2008 et 2009, X._ a été interpellé à trois reprises en Suisse, notamment au domicile de son épouse et dans l'un des établissements publics tenus par celle-ci. Le Tribunal administratif fédéral a, par arrêt du 13 octobre 2009, rejeté un recours contre la décision d'interdiction d'entrée en Suisse. Le 4 octobre 2010, le Juge d'instruction du Nord vaudois a prononcé à l'encontre de X._ une peine pécuniaire de soixante jours-amende pour entrées illégales. B._, le deuxième enfant du couple, est né le 22 février 2011. En 2011, l'épouse du recourant et les deux enfants du couple ont acquis la nationalité suisse (art. 105 al. 2 LTF). L'intéressé a été condamné pour entrée et séjour illégaux, le 21 novembre 2011 à une peine pécuniaire de dix jours-amende et le 6 décembre 2012, à une peine pécuniaire de vingt jours-amende. X._ a déposé, le 27 janvier 2014, une nouvelle demande d'autorisation d'entrée en Suisse et d'autorisation de séjour au titre du regroupement familial que le Service de la population a refusée, par décision du 8 juillet 2014. A la suite d'une demande de réexamen de l'interdiction d'entrée en Suisse, le Secrétariat d'Etat aux migrations a annulé cette interdiction avec effet immédiat en date du 20 janvier 2015. Le 5 juillet 2016, l'intéressé a été condamné à une peine pécuniaire de vingt jours-amende et à une amende de 600 fr. pour violation grave des règles de la circulation routière. A.c. Par décision du 17 août 2016, le Service de la population a refusé de délivrer à X._ une autorisation de séjour au titre du regroupement familial. Celui-ci avait notamment produit une copie du contrat de travail conclu avec son épouse Y._, qui l'engageait en qualité de cuisinier dans un établissement qu'elle exploite à Neuchâtel pour un salaire mensuel brut de 5'210 fr.; ce contrat devait prendre effet dès la délivrance d'une autorisation de séjour en sa faveur. B. Le Tribunal cantonal a, par arrêt du 11 janvier 2017, rejeté le recours de X._. Il a en substance souligné que la multiplication des infractions qui s'étaient produites sur une période de quinze ans permettait de conclure que l'intéressé avait attenté de manière très grave et répétée à la sécurité et à l'ordre publics en Suisse et que le risque de récidive était très sérieux; l'intérêt public à l'éloigner de Suisse l'emportait sur l'intérêt privé de celui-ci à y demeurer; cette mesure était proportionnée. C. Agissant par la voie du recours de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, de réformer l'arrêt du 11 janvier 2017 du Tribunal cantonal, ainsi que la décision du Service de la population du 17 août 2016 et de lui octroyer une autorisation de séjour; subsidiairement, d'annuler l'arrêt attaqué et de renvoyer la cause à l'autorité intimée pour instruction et nouvelle décision dans le sens des considérants; il requiert l'assistance judiciaire. Le Service de la population a renoncé à se déterminer. Le Tribunal cantonal se réfère aux considérants de son arrêt et conclut au rejet du recours. Le Secrétariat d'Etat aux migrations n'a pas déposé d'observations.