Faits:
A. X._, né en 1981, ressortissant de Guinée, est arrivé en Suisse le 11 avril 1998 sous le nom de Y._, né en 1980. La demande d'asile qu'il avait alors déposée a été rejetée le 27 octobre 1999. Un délai de départ au 15 décembre 1999 lui a été imparti pour quitter la Suisse.
Par jugement du 25 novembre 1999, le Tribunal correctionnel du district de Neuchâtel a condamné l'intéressé à trois ans d'emprisonnement et expulsion du territoire durant sept ans pour trafic de drogue en bande et par métier entre avril 1998 et janvier 1999. Le 6 janvier 2001, il a été libéré conditionnellement.
Par jugement du 13 juin 2002, l'intéressé a été condamné une nouvelle fois par le Tribunal correctionnel du district de La Chaux-de-Fonds à douze mois d'emprisonnement et à l'expulsion à vie du territoire suisse pour infractions à la loi fédérale sur les stupéfiants (LStup; RS 812.121) et rupture de ban.
Par décision du 1er octobre 2004, l'Office fédéral des migrations (ci-après: ODM) a prononcé à l'encontre de l'intéressé une interdiction d'entrée en Suisse de durée indéterminée. Par jugement du 14 octobre 2005, le Tribunal de police du district de La Chaux-de-Fonds a condamné l'intéressé à 2 mois d'emprisonnement pour violence ou menace contre les autorités et les fonctionnaires et dénonciation calomnieuse.
De décembre 2005 à juillet 2006, l'intéressé a été maintenu en détention administrative en vue de son renvoi. Il a refusé de collaborer à son renvoi de Suisse. Le 18 juillet 2006, cette mesure a été levée.
Le 21 septembre 2007, X._ a épousé Z._, ressortissante suisse. C'est au cours des démarches entreprises dans ce but qu'il a révélé sa véritable identité à l'ODM.
Par décision du 15 mai 2008, l'ODM a refusé d'approuver l'octroi d'une autorisation de séjour par le canton de Neuchâtel, et a fixé à l'intéressé un délai au 31 juillet 2008 pour quitter la Suisse. X._ a recouru contre cette décision auprès du Tribunal administratif fédéral (ci-après: TAF), concluant à la restitution de l'effet suspensif, à l'annulation de la décision attaquée et l'approbation de la décision du Service cantonal. Par décision incidente du 25 juillet 2008, le Juge instructeur du TAF a refusé la restitution de l'effet suspensif au motif que le recours était d'emblée voué à l'échec. Agissant par voie de recours en matière de droit public, X._ a demandé l'annulation de la décision rendue le 25 juillet 2008 par le Juge instructeur, recours rejeté par arrêt du Tribunal fédéral du 24 septembre 2008 (arrêt 2C_597/2008).
Produisant un certificat de grossesse établi au sujet de son épouse, X._ a sollicité de l'ODM, le 15 octobre 2008, la reconsidération de la décision du 15 mai 2008. Par lettre du 6 novembre 2008, l'Office fédéral des migrations a fait savoir à l'intéressé que cette situation ne pouvait être considérée comme un élément nouveau dont l'importance justifiait, en regard des circonstances sur lesquelles se fondait le prononcé de refus d'approbation, un réexamen de ce dernier. Par envoi du 3 avril 2009, le recourant a fait parvenir au Tribunal administratif fédéral l'acte de décès à la naissance, le 21 mars 2009, de A._, l'enfant du couple. L'intéressé a relevé que, face à ce nouvel événement, les conjoints avaient besoin d'être encore plus proches l'un de l'autre. Il a en outre souligné qu'il n'avait commis aucun écart depuis le dépôt de son recours. Par arrêt du 19 mai 2009, le Tribunal administratif fédéral a rejeté le recours, rejet confirmé par le Tribunal fédéral le 19 octobre 2009 (arrêt 2C_454/2009).
B. Le 3 mars 2010, X._ a présenté une demande de révision au TAF, argument pris que son épouse avait, en date du 5 février 2010, donné naissance à un enfant, B._, et que cette circonstance justifiait une nouvelle pesée des intérêts en présence dans le cadre de l'examen de ses conditions de séjour en Suisse. Le TAF, par arrêt du 12 mars 2010, n'est pas entré en matière sur la requête de l'intéressé. Dès lors que l'élément sur lequel X._ fondait sa demande de révision constituait un fait postérieur aux arrêts rendus par le TAF le 19 mai 2009, respectivement par le Tribunal fédéral le 19 octobre 2009, le TAF a transmis la requête de l'intéressé à l'ODM, qui a été invité à la traiter sous l'angle du réexamen.
Par décision rendue le 16 août 2010, l'ODM a refusé d'entrer en matière, tout en considérant que la naissance de l'enfant B._ ne constituait pas un fait nouveau susceptible de modifier la pesée des intérêts en faveur de X._. Par arrêt du 14 octobre 2011, le TAF a rejeté le recours de X._ à l'encontre de cette décision de l'ODM, considérant que le prénommé n'avait fait valoir aucun élément ou changement notable, survenu postérieurement à la décision de l'ODM du 15 mai 2008, qui permettrait de considérer qu'il ne remplit plus les conditions de l'art. 51 al. 1 let. b de la loi fédérale sur les étrangers (LEtr; RS 142.20), en relation avec l'art. 63 LEtr.
C. Agissant par la voie du recours en matière de droit public et du recours constitutionnel subsidiaire, X._ demande principalement au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt rendu le 14 octobre 2011 et, statuant au fond, de lui accorder la prolongation de son autorisation de séjour. Subsidiairement, il requiert de renvoyer la cause à l'autorité précédente pour un nouvel examen. Il sollicite l'octroi de l'effet suspensif et l'assistance judiciaire. Il invoque les art. 8 CEDH, 20 du Traité sur le fonctionnement de l'Union européenne, 2 de l'accord entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; 0.142.112.681), 3 de l'annexe 1 ALCP et 9 Cst., et se plaint de la violation du droit fédéral et notamment constitutionnel, de la violation du droit international et de l'établissement inexact des faits. Reprenant des motifs déjà invoqués dans de précédentes procédures relatives à l'octroi d'une autorisation de séjour, X._ se fonde principalement sur la naissance de son fils pour invoquer le droit à la protection de la vie privée et familiale.
Par ordonnance incidente du 1er décembre 2011, le président de la IIe Cour de droit public du Tribunal fédéral a admis la requête d'effet suspensif.

Considérant en droit:
1. Le recourant a formé, en un seul acte (cf. <ref-law>), un recours en matière de droit public et un recours constitutionnel subsidiaire. La recevabilité du premier excluant celle du second (cf. <ref-law>), il convient d'examiner en priorité si la voie du recours en matière de droit public est ouverte. Il en va d'autant plus ainsi que le recourant n'a pas distingué ses moyens en fonction des conditions de recevabilité propres à chaque recours (cf. arrêt 2C_792/2010 du 25 mai 2011 consid. 1.1).
1.1 Le présent recours est dirigé contre la confirmation, sur recours, d'un refus d'autorisation de séjour prononcé à la suite d'une demande de réexamen. Le TAF a procédé à un examen complet sur le fond pour rendre sa décision. Quand l'autorité saisie d'une demande de réexamen entre en matière et rend une nouvelle décision au fond comme en l'espèce, cette dernière peut faire l'objet d'un recours pour des motifs de fond (arrêt 2C_362/2009 du 24 juillet 2009 consid. 2.3; arrêt 2C_516/2007 du 4 février 2008, consid. 3; 2A.506/2003 du 6 janvier 2004 consid. 2, SJ 2004 I p. 389; <ref-ruling> consid. 3c p. 153/154).
1.2 Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral, ni le droit international ne donnent droit. D'après la jurisprudence, il suffit qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte (<ref-ruling> consid. 1.1 p. 179).
1.3 Selon l'art. 42 al. 1 LEtr, le conjoint d'un ressortissant suisse a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité à condition de vivre en ménage commun avec lui. Le recourant a épousé une Suissesse et il n'est pas contesté qu'il cohabite avec elle. Par conséquent, le recours est recevable à cet égard (art. 83 let. c ch. 2 LTF).
1.4 La demande en reconsidération portant sur l'octroi d'une autorisation de séjour par regroupement familial en faveur du recourant a été formée le 26 novembre 2009. Dans la mesure où le recourant fait état, à l'appui de sa demande de réexamen, de la naissance de son fils le 5 février 2010, survenue postérieurement à l'entrée en vigueur du nouveau droit le 1er janvier 2008 (cf. arrêt 2C_376/2010 du 18 août 2010 consid. 2.2.2), il y a lieu d'appliquer la loi fédérale du 16 décembre 2005 sur les étrangers [LEtr; RS 142.20] (art. 126 al. 1 LEtr a contrario).
1.5 Un étranger peut, selon les circonstances, se prévaloir de l'art. 8 par. 1 CEDH, qui garantit le respect de la vie privée et familiale, pour s'opposer à l'éventuelle séparation de sa famille. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse (sur cette notion, cf. <ref-ruling> consid. 1.3.1 p. 145 s.; <ref-ruling> consid. 3.1 p. 285) soit étroite et effective (cf. <ref-ruling> consid. 5 p. 269; <ref-ruling> consid. 5.3.1 p. 211). D'après la jurisprudence, les relations familiales qui peuvent fonder, en vertu de l'art. 8 par. 1 CEDH, un droit à une autorisation de police des étrangers sont avant tout les rapports entre époux ainsi qu'entre parents et enfants mineurs vivant ensemble (<ref-ruling> consid. 1.3.2 p. 146; <ref-ruling> consid. 1d/aa p. 65; <ref-ruling> consid. 1d p. 261). Il est admis que le recourant vit avec sa femme et son fils, qui sont tous deux de nationalité suisse. Dans la mesure où le recourant invoque, en raison de la naissance de son fils, la violation du droit à la vie privée et familiale, son recours est donc aussi recevable, sous l'angle de l'art. 8 par. 1 CEDH, au regard de l'art. 83 let. c ch. 2 LTF.
1.6 Au surplus, interjeté par une partie directement touchée par la décision attaquée et qui a un intérêt digne de protection à son annulation ou sa modification (<ref-law>), dirigé contre un jugement final rendu par le TAF (<ref-law>) et déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi, le recours en matière de droit public est recevable. Le recours constitutionnel subsidiaire est par conséquent irrecevable.
2. 2.1 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral, qui comprend les droits de nature constitutionnelle (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Il y procède sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente (<ref-ruling> consid. 1.4.1 p. 254, arrêt 5A_55/2007 du 14 août 2007 consid. 2.2), en se fondant sur les faits constatés par l'autorité précédente (cf. <ref-law>). Le recours ne peut critiquer les constatations de fait que si ceux-ci ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 2.4 p. 314; <ref-ruling> consid. 8.1 p. 153; <ref-ruling> consid. 1.5 p. 130, 397 consid. 1.5 p. 401) - ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>).
2.2 Le recourant fait grief au TAF d'avoir constaté de manière inexacte les faits pertinents pouvant influer sur le sort de la cause. Faute d'être motivé conformément aux exigences des art. 42 al. 2 et 106 al. 2 LTF, ce grief est irrecevable. Le recourant n'expose en effet pas en quoi les constatations de fait du TAF seraient arbitraires ni n'indique en quoi, le cas échéant, la correction du vice aurait une influence sur le sort du recours. Il n'est par conséquent pas possible de s'écarter des faits retenus dans l'arrêt attaqué.
2.3 Enfin, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>), de sorte qu'il ne sera pas tenu compte de la pièce nouvelle annexée au recours du 25 novembre 2011.
2.4 Le recourant fait en vain référence à l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses États membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681), dont il ne peut se prévaloir en tant que Guinéen.
2.5 La Suisse n'étant pas membre de la Communauté européenne, le Traité sur le fonctionnement de l'Union européenne n'est pas applicable sur son territoire, et le recourant ne peut en tirer aucun droit.
2.6 Le recourant invoque en vrac les art. 7 à 36 Cst. Faute de se conformer aux exigences légales de motivation (<ref-law>), ces griefs sont irrecevables.
3. Le recourant soutient que la naissance de son fils le 5 février 2010 constitue un élément nouveau justifiant la reconsidération de la décision de refus de l'octroi d'une autorisation de séjour en sa faveur. Il invoque principalement l'art. 8 CEDH pour fonder sa demande, se plaignant de la violation du principe de la proportionnalité. Il fait valoir la durée de son séjour en Suisse, l'absence de menace actuelle qu'il fait peser sur l'ordre public, le lien purement formel avec son pays d'origine, ses liens étroits avec la Suisse, et enfin sa relation avec son fils.
3.1 L'art. 51 al. 1 let. b LEtr établit que les droits prévus à l'art. 42 LEtr (droits des membres étrangers de la famille d'un ressortissant suisse à l'octroi d'une autorisation de séjour et à sa prolongation) s'éteignent s'il existe des motifs de révocation au sens de l'art. 63 LEtr, en lien avec l'art. 62 let. a ou b LEtr. Selon l'art. 63 al. 1 let. a LEtr, la révocation est notamment possible si l'étranger a fait de fausses déclarations ou dissimulé des faits essentiels durant la procédure d'autorisation, ou si l'étranger a été condamné à une peine privative de liberté de longue durée ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 CP. Le Tribunal fédéral considère qu'une peine privative de liberté est de longue durée lorsqu'elle dépasse un an d'emprisonnement (<ref-ruling> consid. 4.2 p. 379 ss). Les motifs de révocation de l'art. 63 LEtr correspondent en principe aux motifs d'expulsion prévus à l'art. 10 de l'ancienne loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 1.113) (cf. arrêt 2C_758/2010 du 22 décembre 2010 consid. 6.1).
Le recourant a fait l'objet, durant son séjour en Suisse, de plusieurs condamnations pénales d'une durée totale de quatre ans et deux mois, soit une première condamnation de trois ans d'emprisonnement pour infractions par bande et par métier à la loi fédérale sur les stupéfiants, puis une deuxième de douze mois pour trafic de stupéfiants, dans les deux cas, par dessein de lucre, infligées par jugements du Tribunal correctionnel du district de Neuchâtel du 25 novembre 1999 et du Tribunal correctionnel du district de La Chaux-de-Fonds du 13 juin 2002. En conséquence, condamné à une peine privative de longue durée, il réalise le motif de révocation mentionné à l'art. 62 let. b LEtr et son droit à l'octroi d'une autorisation de séjour s'est éteint.
3.2 Le refus, respectivement la révocation de l'autorisation ne se justifie toutefois que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître la mesure comme proportionnée au sens de l'art. 96 LEtr (<ref-ruling> consid. 4.3 p. 381 s. ). Il convient donc de prendre en considération la gravité de la faute commise, le degré d'intégration respectivement la durée du séjour effectué en Suisse et le préjudice que l'intéressé et sa famille auraient à subir en raison de la mesure (cf. art. 96 al. 1 LEtr; <ref-ruling> consid. 4.3 p. 381 s.). Quand le refus d'octroyer une autorisation de séjour se fonde sur la commission d'une infraction, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à procéder à la pesée des intérêts en présence (cf. arrêt 2C_26/2011 du 6 juin 2011 consid. 3.2). Le Tribunal fédéral a jugé à de multiples reprises que la protection de la collectivité publique face au développement du marché de la drogue constitue un intérêt public important justifiant l'éloignement de Suisse d'un étranger qui s'est rendu coupable d'infraction grave à la loi fédérale sur les stupéfiants, surtout s'il n'est pas lui-même consommateur de drogue, mais qu'il a agi par pur appât du gain (arrêts 2C_739/2009 du 8 juin 2010 consid. 4.3 et 2C_651/2009 du 1er mars 2010 consid. 4.3). Les étrangers qui sont mêlés au commerce des stupéfiants doivent donc s'attendre à faire l'objet de mesures d'éloignement (arrêt 2A.424/2001 du 29 janvier 2002 consid. 4a). Il s'agit d'un domaine où la jurisprudence se montre particulièrement rigoureuse (<ref-ruling> consid. 2c p. 436), le risque de récidive ne jouant pas un rôle déterminant pour les mesures d'éloignement prises sur la base du droit interne, mais ne constituant qu'un facteur parmi d'autres dans la pesée des intérêts, où la gravité des actes commis est le premier élément à prendre en considération (<ref-ruling> consid. 4.3 p. 24).
3.3 De même, le droit au respect de la vie privée et familiale garanti par l'art. 8 par. 1 CEDH n'est pas absolu. Une ingérence dans l'exercice de ce droit est possible, selon l'art. 8 par. 2 CEDH, à certaines conditions précises, étant précisé que la prévention des infractions pénales et la mise en oeuvre d'une politique restrictive en matière de séjour des étrangers constituent des buts légitimes au regard de cette disposition conventionnelle (<ref-ruling> consid. 2.2.1 p. 156). L'application de cette disposition implique aussi la pesée des intérêts en présence et l'examen de la proportionnalité de la mesure (cf. <ref-ruling> consid. 2.1 et 2.2 p. 154 ss).
4. 4.1 En l'espèce, le recourant a fait l'objet de deux condamnations à des peines privatives de longue durée en raison d'infraction à la LStup dans un dessein de lucre, justifiant son éloignement de Suisse.
4.2 Eu égard aux sévères condamnations qui lui ont été infligées, le recourant ne peut par principe pas se prévaloir de la durée de son séjour en Suisse. Même s'il n'a plus donné lieu à des procédures pénales à son encontre depuis 2005, il ne s'est pas pour autant conformé à l'ordre établi en Suisse: il a fait usage d'une fausse identité de 1998 à 2007 et a refusé de coopérer avec les autorités pour préparer son départ de Suisse malgré une détention en vue de refoulement. Le recourant ne peut se prévaloir à son avantage du fait qu'il était mineur au moment de la première infraction pénale pour laquelle il a été condamné, dès lors qu'il a menti sur son âge (cf. 2C_454/2009 du 18 octobre 2009 consid. 5.2).
Sans formation particulière, il ne peut pas arguer d'une bonne intégration socio-culturelle en Suisse. En outre, il a passé son enfance et son adolescence en Guinée, en connaît la langue et y a pour le moins encore son père. Enfin, il est encore jeune et en bonne santé. Ces circonstances étayent l'appréciation selon laquelle la réinsertion du recourant n'est pas compromise, ce qu'il n'allègue d'ailleurs pas.
4.3 La naissance de l'enfant B._, âgé aujourd'hui d'environ un an, est certes un fait survenu après le refus d'autorisation de séjour confirmé par arrêt du Tribunal fédéral du 24 septembre 2008 (arrêt 2C_597/2008). Il ne représente toutefois pas un élément permettant de renverser le résultat de la pesée des intérêts en faveur du recourant. Comme l'a relevé le TAF, la venue au monde de cet enfant n'a pas fondamentalement changé le contexte familial. En effet, au moment de leur mariage les époux X._ - Z._ n'ignoraient pas que le recourant était sous le coup d'une expulsion du territoire suisse, de sorte qu'ils risquaient de devoir vivre leur vie de famille à l'étranger ou de vivre séparés, avec toutes les conséquences potentielles que la décision de s'unir maritalement engendrait pour leurs futurs enfants. Il appartient, au demeurant, aux parents qui ont tous deux l'exercice de l'autorité parentale de décider s'ils souhaitent que l'enfant reste en Suisse avec sa mère ou rentre en Guinée avec son père, voire ses deux parents, et l'enfant devra, cas échéant, s'accommoder d'une séparation (arrêt 2C_972/2010).
4.4 Vu l'ensemble des circonstances attestant de l'incapacité du recourant à s'intégrer dans notre pays, il apparaît que l'intérêt public à éloigner ce dernier l'emporte sur son intérêt privé et celui de sa famille à pouvoir vivre ensemble en Suisse. Par conséquent, en rendant l'arrêt attaqué, le TAF n'a violé ni la LEtr, ni l'art. 8 CEDH, ni le principe de la proportionnalité.
5. Compte tenu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Les conclusions du recourant étaient dé-pourvues de toute chance de succès, de sorte qu'il convient de lui refuser l'assistance judiciaire (<ref-law>).
Succombant, le recourant doit supporter les frais judiciaires, qui seront fixés compte tenu de sa situation financière (art. 65 et 66 al. 1 LTF) et n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. La requête d'assistance judiciaire est rejetée.
4. Un émolument judiciaire de 1'000 fr. est mis à la charge du recourant.
5. Le présent arrêt est communiqué à la mandataire du recourant et au Tribunal administratif fédéral, Cour III, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 20 février 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Cavaleri Rudaz