Faits:
A. X._, né en 1981, d'origine macédonienne, est arrivé en Suisse le 17 novembre 2004. Il a été mis au bénéfice d'une autorisation de séjour à la suite de son mariage célébré en 2004 avec Y._, laquelle a la nationalité suisse. Le couple a eu un garçon, Z._, né en 2006.
Les époux X-Y._ se sont séparés définitivement en novembre 2007.
Par jugement du 26 février 2008, le Tribunal correctionnel de l'arrondissement de l'Est vaudois a condamné X._ à une amende de 1'500.- fr. pour voies de fait qualifiées à l'encontre de son épouse.
Le 4 février 2008, le Service de la population du canton de Vaud (ci-après: le Service de la population) a refusé de renouveler l'autorisation de séjour de X._. Le recours de l'intéressé a été rejeté en dernière instance par arrêt du 1er décembre 2009 du Tribunal fédéral (cause 2C_436/2009). La Cour de céans a jugé que X._ commettait un abus de droit en se prévalant de son mariage, vidé de toute substance, pour obtenir le renouvellement de son autorisation de séjour; en outre, celui-ci ne pouvait tirer aucun droit de l'art. 8 CEDH puisque, même en examinant la relation père-fils sous son jour le plus favorable, soit en tant que relation vécue sous la surveillance du personnel d'un "point-rencontre", celle-ci ne pouvait être qualifiée d'étroite et effective; sans compter que le comportement de X._ n'était pas irréprochable car il avait fait l'objet d'une condamnation pénale pour voies de faits qualifiées.
B. Invité à se déterminer sur la question d'un éventuel renvoi, l'intéressé a demandé, le 12 février 2010, le réexamen de la décision du 4 février 2008 du Service de la population, lequel a rejeté cette demande, par décision du 7 septembre 2010 et a fixé à X._ un délai au 30 septembre 2010 pour quitter la Suisse.
C. Par arrêt du 29 avril 2011, le Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours de l'intéressé à l'encontre de la décision du 7 septembre 2010. Il a conclu que les conditions du réexamen n'étaient pas remplies. Le fait nouveau invoqué, soit l'exercice du droit de visite de X._ sur son fils, n'était pas déterminant; en effet, la situation ne s'était pas sensiblement modifiée depuis la décision refusant le renouvellement de l'autorisation de séjour de l'intéressé, l'exercice du droit de visite, limité à une demi-journée tous les quinze jours avec un accompagnement par l'organisation Trait-d'union, étant toujours problématique et encore sous contrôle étatique.
D. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 29 avril 2011 du Tribunal cantonal et de renouveler son autorisation de séjour, subsidiairement de renvoyer la cause au Tribunal cantonal pour une nouvelle décision dans le sens des considérants.
Le Service de la population a renoncé à déposer des observations. Le Tribunal cantonal et l'Office fédéral des migrations concluent au rejet du recours. X._ s'est encore prononcé par écriture du 25 octobre 2011.
Par ordonnance du 7 juin 2011, le Président de la IIe Cour de droit public a admis la requête d'effet suspensif.
Considérant en droit:
1. 1.1 La demande de réexamen porte sur la décision du 4 février 2008 du Service de la population de ne pas renouveler l'autorisation de séjour du recourant, en application de la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 1 113). Selon la jurisprudence, une demande de réexamen se référant à une situation dont tous les éléments déterminants se sont déroulés sous l'empire de l'ancien droit et qui a fait l'objet d'un jugement définitif ne peut être justifiée uniquement en raison de l'entrée en vigueur du nouveau droit, en l'occurrence la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20), entrée en vigueur le 1er janvier 2008. En revanche, dans la mesure où le recourant fait état, à l'appui de sa demande de réexamen, d'éléments nouveaux survenus postérieurement à l'entrée en vigueur du nouveau droit, la LEtr est applicable à ces nouvelles circonstances (cf. arrêt 2C_1010/2011 du 31 janvier 2012 consid. 1.1).
1.2 Selon l'art. 83 lettre c ch. 2 LTF, en droit des étrangers, le recours en matière de droit public est irrecevable à l'encontre des décisions qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
Comme cela a déjà été constaté dans l'arrêt rendu par la Cour de céans le 1er décembre 2009 relatif à la procédure de demande de renouvellement de l'autorisation de séjour du recourant (cause 2C_436/2009 consid. 2), celui-ci dispose, en vertu de l'art. 8 CEDH, d'un droit à séjourner en Suisse qui lui ouvre la voie du recours en matière de droit public.
1.3 Au surplus, le recours remplit les conditions des art. 42 et 82 ss LTF et est donc, en principe, recevable.
1.4 Toutefois, l'arrêt attaqué a rejeté la demande de réexamen pour défaut de fait nouveau. Le présent recours ne pouvant porter que sur le bien-fondé de ce refus (cf. consid. 4), il est irrecevable en tant qu'il conclut au renouvellement de l'autorisation de séjour.
2. 2.1 Le recourant invoque une violation de son droit d'être entendu (art. 29 al. 2 Cst.). Il reproche au Tribunal cantonal d'avoir refusé d'entendre différents témoins, soit le pédopsychiatre qui avait procédé à l'expertise de son fils et la personne en charge de son dossier auprès du Service de protection de la jeunesse; il voulait démontrer, avec ces témoignages, qu'il n'était pour rien dans la lenteur de la mise en place d'un droit de visite usuel mais que celle-ci était due à la mère. Le directeur de la société qui emploie le recourant depuis dix ans devait aussi être entendu pour se prononcer sur l'intégration de celui-ci dans notre pays.
2.2 Le Tribunal cantonal a exposé sur plus d'une demi-page, en détails, les raisons pour lesquelles il considérait que l'audition de ces témoins n'était pas nécessaire: les décisions judiciaires et les expertises figurant au dossier le renseignaient suffisamment sur l'état des relations entre le recourant et son fils. Il retenait, à cet égard, sur la base de ces pièces, dont il mentionne le contenu pertinent, l'absence d'un lien familial particulièrement fort. Etant convaincu de ce fait, le Tribunal cantonal pouvait à bon droit estimer, par appréciation anticipée des preuves, que les témoignages proposés étaient superflus (ATF 136 I 229 consid. 5.3 p. 236; 134 I 140 consid. 5.3 p. 148; 130 II 425 consid. 2.1 p. 429).
Quant à l'intégration du recourant, ni le Service de la population dans sa décision du 7 septembre 2010, ni le Tribunal cantonal dans l'arrêt attaqué n'en parlent. Seule était en cause la relation entre le recourant et son fils. Il n'y avait, dès lors, pas de raison d'entendre un témoin concernant cette intégration.
Au regard de ce qui précède, le grief relatif à la violation du droit d'être entendu doit être rejeté.
3. 3.1 Se plaignant d'une appréciation arbitraire des preuves (sur cette notion, cf. ATF 137 I 58 consid. 4.1.2 p. 62; 133 II 249 consid. 1.4.3 p. 254), le recourant prétend que, selon l'expertise psychiatrique, il n'y aurait "aucun obstacle à l'exercice d'un droit de visite usuel ab initio". D'après le recourant, cette expertise aurait dû conduire le Service de la population à le considérer "comme au bénéfice de relation étroite avec son fils dans la mesure où il aurait été abusif de considérer que tel n'était pas le cas alors qu'il n'y est pour rien", l'absence d'un telle relation étant due à son épouse qui a toujours cherché à empêcher le droit de visite.
3.2 Contrairement à ce que prétend le recourant, les expertises psychiatriques se contentent d'indiquer que le droit de visite du recourant, prévu initialement une demi-journée toutes les deux semaines en présence d'un assistant du programme Trait-d'union, devrait être progressivement élargi pour, finalement, aboutir à un droit de visite usuel. Ces éléments ont été repris par le Tribunal cantonal pour en conclure que la relation entre le recourant et son fils ne saurait être qualifiée d'intense. On ne voit pas quelle autre déduction ledit Tribunal aurait pu tirer de ces faits; d'ailleurs le recourant lui-même ne prétend pas que la relation avec son fils serait spécialement forte mais se contente d'alléguer que l'absence d'une telle relation est imputable à son épouse.
Partant, le grief tiré de l'appréciation arbitraire des preuves doit être rejeté.
4. Lorsque, comme en l'espèce, l'autorité saisie d'une demande de réexamen refuse d'entrer en matière, le recours ne peut porter que sur le bien-fondé de ce refus (ATF 126 II 377 consid. 8d p. 395; 113 Ia 146 consid. 3c p. 153).
4.1 Les autorités administratives sont tenues de réexaminer leurs décisions si une disposition légale expresse ou une pratique administrative constante les y oblige. Tel est le cas de l'art. 64 al. 2 de la loi vaudoise du 28 octobre 2008 sur la procédure administrative (LPA-VD; RS/VD 173.36) qui prévoit que l'autorité entre en matière sur la demande de réexamen si l'état de fait à la base de la décision s'est modifié dans une mesure notable depuis lors (let. a), ou si le requérant invoque des faits ou des moyens de preuve importants qu'il ne pouvait pas connaître lors de la première décision ou dont il ne pouvait pas ou n'avait pas de raison de se prévaloir à cette époque (let. b).
La jurisprudence a en outre déduit des garanties générales de procédure de l'art. 29 al. 1 et 2 Cst. l'obligation pour l'autorité administrative de se saisir d'une demande de réexamen lorsque les circonstances se sont modifiées de façon notable depuis la décision attaquée ou lorsque le requérant invoque des faits essentiels et des moyens de preuve nouveaux qu'il ne connaissait pas ou a été dans l'impossibilité de faire valoir dans la procédure antérieure. Le réexamen de décisions administratives entrées en force ne doit pas être admis trop facilement. Il ne saurait en particulier servir à remettre sans cesse en cause des décisions exécutoires ou à détourner les délais prévus pour les voies de droit ordinaires (cf. ATF 136 II 177 consid. 2.1 p. 181).
4.2 L'arrêt attaqué a pour objet le rejet de la demande de réexamen de la décision du 4 février 2008 du Service de la population refusant de renouveler l'autorisation de séjour du recourant. Le Tribunal cantonal a estimé que les éléments présentés ne constituaient pas des faits nouveaux déterminants permettant de procéder à un réexamen sur la base de la jurisprudence du Tribunal fédéral relative à l'art. 29 Cst., ni sur celle de l'art. 64 al.1 et 2 LPA-VD: la situation à la base de la décision ne s'était pas sensiblement modifiée depuis celle refusant le renouvellement de l'autorisation de séjour car l'exercice du droit de visite restait problématique et se faisait toujours dans le cadre du programme Trait-d'union.
4.3 Compte tenu de ce qui précède, les seuls griefs sur le fond que le recourant peut faire valoir devant le Tribunal fédéral sont la violation de l'art. 29 Cst. et l'application arbitraire du droit cantonal, soit de l'art. 64 LPA-VD, en tant que le Tribunal cantonal a nié l'existence d'un fait nouveau. Pour cela, le recours doit contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation (art. 106 al. 2 LTF; ATF 137 V 143 consid. 1.2 p. 145; 137 V 57 consid. 1.3 p. 59; 136 I 229 consid. 4.1 p. 235). Or, sur le fond, le recourant invoque une "violation du droit fédéral", soit les art. 8 CEDH et 50 LEtr, sans alléguer que la situation juridique a changé. Il examine les conditions posées à l'octroi d'une autorisation de séjour par ces dispositions; il prétend qu'elles sont remplies et que, partant, son autorisation de séjour doit être renouvelée. Il ne dit pas en quoi le Tribunal cantonal, en ce qu'il a conclu à l'absence d'un fait nouveau, aurait violé les garanties de procédure découlant de l'art. 29 Cst. ou aurait appliqué le droit cantonal de façon arbitraire. Le grief étant mal fondé et ne répondant pas aux exigences de motivation de l'art. 106 al. 2 LTF, il est, sous cet angle, irrecevable.
De toute façon, il aurait dû, sur ce point, être rejeté. En effet, comme on l'a vu ci-dessus, c'est sans arbitraire que le Tribunal cantonal a retenu que le droit de visite devait toujours s'exercer, dans un premier temps, en présence d'un assistant de la Croix-Rouge, puis être progressivement élargi jusqu'à un droit de visite usuel. La seule différence avec l'état de fait à la base de la décision contestée est qu'un droit de visite ordinaire est envisagé à terme. Ceci ne permet pas pour autant de qualifier les liens qui unissent le père à son fils d'étroits et particulièrement forts, élément nécessaire à l'octroi d'une autorisation de séjour sur la base de l'art. 8 CEDH.
Quant à l'art. 50 LEtr, il ne saurait trouver application dans la présente cause (cf. consid. 1.1). Le prétendu fait nouveau, soit la relation entre le recourant et son fils, n'est pertinent que pour l'application de l'art. 8 CEDH.
5. Au regard de ce qui précède, le recours en matière de droit public doit être rejeté dans la mesure où il est recevable.
Succombant, le recourant supportera les frais judiciaires fixés au regard de sa situation patrimoniale (art. 66 al. 1 LTF). Dans la mesure où le recours était d'emblée dénué de chances de succès, la requête d'assistance judiciaire est rejetée (art. 64 LTF). Il n'est pas alloué de dépens (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 700.- fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 27 mars 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Kurtoglu-Jolidon