Faits:
A. A.X._, né en 1984, ressortissant de Madagascar, a obtenu une autorisation de séjour à la suite à son mariage célébré le 21 mai 2004 avec B.X._, ressortissante suisse. Deux enfants sont issus de cette union: C._, né le 21 mai 2005 et D._, née le 22 mai 2007. A.X._ travaille depuis 2004 dans une société de systèmes d'éclairage, actuellement en tant que technicien de programmation et de gestion.
Le couple s'est séparé, le 22 février 2008, à la suite de graves actes de maltraitance commis par A.X._ sur sa fille D._. Des mesures protectrices de l'union conjugale ont été instaurées. Le 17 février 2009, le permis de séjour de A.X._ a été prolongé jusqu'au 24 février 2011.
Le Tribunal correctionnel de l'arrondissement de l'Est vaudois a, le 22 février 2008, condamné A.X._ à une peine privative de liberté de trente mois, dont douze mois fermes et dix-huit mois assortis d'un sursis de cinq ans, pour lésions corporelles simples qualifiées intentionnelles, pour lésions corporelles graves intentionnelles, ainsi que pour contravention à la loi fédérale sur les stupéfiants. Il ressort du jugement qu'en janvier et février 2008, l'intéressé a violemment battu sa fille D._. Les médecins ont diagnostiqué sur le nourrisson un traumatisme physique important avec de graves fractures fémorales, de multiples hématomes et bosses faciaux, un stress psychologique et une angoisse importants. Ce jugement a été confirmé sur recours par la Cour de cassation pénale le 1er février 2010 qui a qualifié la peine de relativement clémente.
Par jugement du 22 mars 2010, le Tribunal d'arrondissement de l'Est vaudois a prononcé le divorce des époux X._. L'autorité parentale ainsi que la garde des deux enfants ont été attribuées à la mère, A.X._ disposant d'un droit de visite limité sur ses enfants. Le père a été astreint à verser des pensions pour ses deux enfants.
Par décision du 19 août 2010, le Service de la population du canton de Vaud (ci-après: le Service de la population) a révoqué l'autorisation de séjour de A.X._ en raison de sa condamnation pénale.
Le 5 octobre 2010, le Service de la protection de la jeunesse, avec l'accord des deux parents, a étendu le droit de visite de A.X._ sur ses enfants à une visite hebdomadaire d'une heure en présence de la mère, ainsi qu'un dimanche sur deux pendant deux heures, uniquement en présence d'un tiers de confiance.
B. Le 5 avril 2011, la Cour de droit administratif et de droit public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours formé contre la décision du Service de la population du 19 août 2010, en relevant que l'autorisation de séjour était de toute manière échue, indépendamment de sa révocation, le 25 février 2011 et en interprétant son recours comme une demande de renouvellement de l'autorisation de séjour. Le Tribunal cantonal a notamment retenu que A.X._ avait accepté d'être accompagné par des psychologues et qu'il serait d'ailleurs capable actuellement de voir seul ses enfants. Il s'est référé à une lettre de la Consultation interdisciplinaire de la maltraitance intrafamiliale selon laquelle il n'était pas souhaitable que A.X._ soit éloigné de Suisse, notamment car cela empêcherait la thérapie entreprise entre le père et les enfants de se poursuivre. L'ex-épouse et le beau-père de l'intéressé se prononçaient dans le même sens. L'arrêt a également retenu que A.X._ exerce une activité lucrative et qu'il remplit les objectifs professionnels assignés à l'entière satisfaction de son employeur. Toutefois, ledit Tribunal a conclu que, à supposer que l'on puisse retenir une relation étroite et effective entre l'intéressé et ses enfants, l'intérêt public à l'éloignement de A.X._ qui avait perpétré des actes d'une violence inouïe sur sa fille devait l'emporter sur l'intérêt privé à rester en Suisse.
C. A.X._ a formé un recours en matière de droit public et un recours constitutionnel subsidiaire au Tribunal fédéral. Il demande que l'arrêt du Tribunal cantonal du 5 avril 2011 soit réformé en ce sens que son autorisation de séjour est maintenue. Il conclut subsidiairement à ce que son autorisation de séjour soit renouvelée et plus subsidiairement encore à ce que la cause soit renvoyée au Tribunal cantonal pour nouvelle instruction et nouvelle décision. Outre le bénéfice de l'assistance judiciaire, A.X._ a requis l'octroi de l'effet suspensif, lequel a été accordé par ordonnance présidentielle du 11 mai 2011.
Le Service de la population et le Tribunal cantonal ont renoncé à se déterminer. L'Office fédéral des migrations requiert le rejet du recours.
En date des 16 août respectivement 22 août 2011, A.X._ et le Service de la population ont chacun fait parvenir au Tribunal fédéral une décision du 16 juin 2011 de la Justice de Paix du district d'Aigle.
Considérant en droit:
1. 1.1 Le recourant invoque l'art. 8 CEDH en se prévalant de sa relation avec ses enfants. Dans la mesure où cette disposition est potentiellement de nature à lui conférer un droit à une autorisation de séjour, son recours échappe au motif d'irrecevabilité de l'art. 83 let. c ch. 2 LTF. La question de savoir si les conditions d'un tel droit sont effectivement réunies relève du fond (ATF 136 II 177 consid. 1.1 p. 179).
Pour le surplus, le recours remplit les conditions des art. 42 et 82 ss LTF. Partant, il est recevable.
1.2 La voie du recours en matière de droit public étant ouverte, le recours constitutionnel subsidiaire est irrecevable (cf. art. 113 LTF).
1.3 La production de pièces nouvelles ou l'invocation de faits nouveaux est prohibée devant le Tribunal fédéral (art. 99 al. 1 LTF).
Ainsi en va-t-il de ceux invoqués en pages 7 et 8 du recours. Le Tribunal fédéral fondera donc son jugement sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). De plus, tant le recourant que le Service de la population ont fait parvenir une décision du 16 juin 2011 de la Justice de Paix du district d'Aigle au Tribunal fédéral. Il s'agit-là d'une pièce nouvelle, postérieure à l'arrêt attaqué, que le Tribunal fédéral ne peut pas prendre en considération.
2. Le recourant reproche au Tribunal cantonal de n'avoir pas procédé à l'audition de témoins qu'il avait demandée et de n'avoir pas requis la production de l'intégralité du dossier pénitentiaire.
La motivation du grief n'invoquant expressément ni la violation du droit d'être entendu (art. 29 al. 2 Cst.), ni la prohibition de l'arbitraire (art. 9 Cst.), elle se révèle d'une recevabilité pour le moins douteuse au regard des exigences de motivation de l'art. 106 al. 2 LTF (ATF 136 I 229 consid. 4.1 p. 235; 135 III 670 consid. 1.5 p. 674). Quand bien même il serait recevable, le grief devrait de toute manière être rejeté. En effet, le droit d'être entendu n'empêche pas l'autorité de mettre un terme à l'instruction lorsque, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude qu'elles ne pourraient l'amener à modifier son opinion (ATF 136 I 229 consid. 5.3 p. 236; 130 II 425 consid. 2.1 p. 429 et les arrêts cités). Tel est assurément le cas en l'espèce, dans la mesure où certains moyens de preuve refusés portaient sur des faits qui ont été retenus par le Tribunal cantonal (cf. arrêt attaqué consid. 2b), les autres n'étant sans arbitraire nullement à même de modifier le sort de la cause. En tant que recevable, le grief doit donc être rejeté.
3. Le recourant demande le maintien de son autorisation de séjour. Cependant, celle-ci n'est plus valable depuis le 25 février 2011, date à laquelle elle est échue (cf. art. 61 al. 1 let. c de la loi fédérale du 16 décembre 2005 sur les étrangers [LEtr; RS 142.20]). Ainsi, il convient de prendre en compte la conclusion subsidiaire du recourant tendant au renouvellement de son autorisation.
Le seul argument soulevé par le recourant est celui de la violation de l'art. 8 CEDH. Il ne se prévaut pas de l'art. 50 al. 1 let. b LEtr, quand bien même la relation avec ses enfants pourraient, le cas échéant, constituer une raison personnelle majeure donnant droit à la prolongation de l'autorisation de séjour. Le recours ne contenant aucune motivation relative à cette disposition (art. 42 al. 2 LTF), le Tribunal fédéral ne l'examinera pas.
4. 4.1 Le Tribunal cantonal a correctement exposé l'art. 8 CEDH et les principes jurisprudentiels applicables (ATF 135 I 143 consid. 3.1 p. 145 ss; 131 II 265 consid. 5 p. 269; 120 Ib 1 consid. 1d p. 3) en matière du droit au respect de la vie privée et familiale. Il suffit dès lors de renvoyer à l'arrêt attaqué (art. 109 al. 3 LTF), tout en ajoutant que, pour qu'un droit de visite plus étendu que celui-ci pouvant s'exercer depuis l'étranger (cf. arrêt 2C_171/2009 du 3 août 2009 consid. 2.2) puisse exister (regroupement familial à rebours, cf. ATF 135 I 143 consid. 1.3.2 p. 146), il faut des liens familiaux particulièrement forts d'un point de vue affectif et économique (cf. arrêt 2C_710/2009 du 7 mai 2010 consid. 3.1 et la référence citée) et que, en raison de la distance qui sépare le pays de résidence de l'enfant du pays d'origine de son parent, cette relation ne pourrait pratiquement pas être maintenue; en outre, le parent qui entend se prévaloir de cette garantie doit avoir fait preuve en Suisse d'un comportement irréprochable (ATF 120 Ib 1 consid. 3c p. 5, 22 consid. 4a p. 25).
4.2 En l'espèce, même si le recourant s'acquitte des pensions alimentaires et que son droit de visite a été augmenté compte tenu de son attitude positive, les rencontres avec ses enfants n'ont lieu qu'une fois par semaine pendant une heure, ainsi qu'un dimanche sur deux pendant deux heures en présence d'un tiers. Il est dès lors douteux que le recourant puisse tirer un droit à une autorisation de séjour fondée sur l'art. 8 § 1 CEDH.
4.3 De toute façon, le recourant ne peut de toute évidence pas se prévaloir du comportement irréprochable nécessaire à la reconnaissance d'un droit de visite plus étendu que celui pouvant s'exercer depuis l'étranger. Il a en effet été condamné à trente mois de réclusion pour lésions corporelles simples et graves intentionnelles, ainsi que pour contravention à la loi fédérale sur les stupéfiants. Au regard de l'acharnement dont il a fait preuve sur sa fille, alors nourrisson, seules des circonstances tout à fait extraordinaires pourraient compenser les actes ayant conduit au prononcé d'un peine de trente mois de réclusion. Celles-ci font clairement défaut en l'espèce et il suffit, à cet égard, de renvoyer aux considérants de l'arrêt entrepris (art. 109 al. 3 LTF) dans lequel le Tribunal cantonal a procédé à une pesée pour le moins mesurée des intérêts en cause. Tout au plus, convient-il d'insister sur le fait que le risque de récidive ne constitue, dans l'application de l'art. 8 § 2 CEDH qu'une circonstance parmi toutes celles à prendre en compte, contrairement à ce que semble penser le recourant.
Celui-ci devra donc se contenter, ce qui est conforme aux exigences de l'art. 8 CEDH, d'exercer son droit de visite depuis Madagascar, les modalités quant à la fréquence et à la durée devant être aménagées en fonction de cette situation. Il est indéniable, comme le met en avant le recourant, que son départ rendra l'exercice du droit de visite plus difficile.
5. Au vu de ce qui précède, le recours en matière de droit public doit être rejeté dans la mesure où il est recevable.
Succombant, le recourant supportera les frais judiciaires fixés au regard de sa situation patrimoniale (art. 66 al. 1 LTF). Dans la mesure où le recours était d'emblée dénué de chances de succès, la requête d'assistance judiciaire est rejetée (art. 64 LTF). Il n'est pas alloué de dépens.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
3. La requête d'assistance judiciaire est rejetée.
4. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
5. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 21 septembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Kurtoglu-Jolidon