Faits:
A. Ressortissant de Guinée-Bissau né en 1994, X._ a déposé une demande d'asile en Suisse qui a été rejetée le 31 mars 2009 (recte : le 24 mai 2012, la date précédente étant celle du dépôt de ladite demande) par l'Office fédéral des migrations. Cette même décision prononçait le renvoi de Suisse du requérant dans un délai au 19 juillet 2012. Par arrêt du 6 août 2012, le Tribunal administratif fédéral a déclaré irrecevable le recours interjeté par X._ à l'encontre de la décision précitée.
B. Par arrêt du 16 janvier 2013, le Juge unique de la Cour de droit public du Tribunal cantonal du canton du Valais (ci-après: le Juge unique), après avoir auditionné l'intéressé, a approuvé la décision du 12 janvier 2013 par laquelle le Service de la population et des migrations du canton du Valais (ci-après: le Service cantonal) a ordonné la mise en détention immédiate en vue du renvoi, pour trois mois au plus, de X._.
C. A l'encontre de l'arrêt du 16 janvier 2013, X._ forme un recours en matière de droit public au Tribunal fédéral, en concluant à l'annulation de l'arrêt attaqué et à sa remise en liberté. Il demande par ailleurs qu'il soit constaté que sa détention du 12 janvier 2013 au jour de sa libération était illicite. Il sollicite en outre le bénéfice de l'assistance judiciaire et la nomination de Me Michel Dupuis, avocat à Monthey, en qualité d'avocat d'office.
Le Service cantonal a transmis son dossier sans observations. Le Tribunal cantonal du canton du Valais a également renoncé à se déterminer. Invité à déposer d'éventuelles observations jusqu'au 22 février 2013, l'Office fédéral des migrations ne s'est pas déterminé.
Par courrier du 26 février 2013 contenant diverses annexes, le conseil de X._ a indiqué au Tribunal fédéral que le Service cantonal lui avait envoyé, après le dépôt du recours en matière de droit public, une facture de 133 fr. pour frais de photocopies du dossier de son mandant. Il avait en vain demandé l'annulation de cette facture, car il n'avait pas sollicité la copie du dossier, mais seulement son envoi pour consultation en vue de préparer le recours au Tribunal fédéral. Le conseil de X._ a sollicité que le montant de 133 fr. lui soit remboursé à titre de débours dans le cadre du recours auprès de la Cour de céans. Invité à se déterminer au sujet de cette requête, le Service cantonal ne s'est pas prononcé dans le délai imparti.

Considérant en droit:
1. En matière de mesures de contrainte, la décision rendue en dernière instance cantonale par le Juge unique peut faire l'objet d'un recours en matière de droit public au Tribunal fédéral (cf., notamment, arrêt 2C_1017/2012 du 30 octobre 2012 consid. 1). Interjeté en temps utile (art. 100 al. 1 LTF) et dans les formes requises (art. 42 LTF) par le recourant qui se trouve en détention administrative et remplit partant les conditions de l'art. 89 al. 1 LTF, le présent recours est en principe recevable.
2. Même si le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), cela ne dispense pas le recourant, compte tenu des exigences de motivation posées, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), à l'art. 42 al. 2 LTF, d'exposer en quoi l'arrêt attaqué violerait, de son point de vue, le droit.
En l'occurrence le recourant, pourtant dûment représenté par un avocat, affirme, dans la partie en fait du recours, que l'exécution du renvoi serait impossible et que la prison préventive de Martigny est un établissement pénitentiaire pour les prisonniers de droit commun. Dans la partie en droit, il ne développe en rien ces affirmations, pas plus qu'il n'indique quels seraient la disposition ou le principe de droit que l'arrêt attaqué aurait violés sur ces points. Au demeurant, il appartenait au recourant d'invoquer dûment ces aspects devant le premier juge (<ref-ruling> consid. 3a p. 221; arrêt 2C_420/2011 du 9 juin 2011 consid. 5), ce qu'il n'a apparemment pas fait. Ces critiques sont donc irrecevables.
3. Le Tribunal fédéral est un juge du droit. Il doit vérifier si, sur la base des faits constatés par l'instance inférieure, le droit a été correctement appliqué (cf. arrêts 2C_505/2012 du 19 juin 2012 consid. 5; 2C_376/2011 du 27 avril 2012 consid. 6.4.3; BERNARD CORBOZ, Commentaire LTF, n. 24 ad art. 105 LTF). L'examen du Tribunal fédéral se fonde donc sur les faits constatés par l'autorité précédente (cf. art. 105 al. 1 LTF), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 4.1.2 p. 62; cf. <ref-ruling> consid. 7.1 p. 51; <ref-ruling> consid. 4.2 p. 560) - ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF). En matière de détention administrative, les éléments nouveaux de nature à confirmer ou infirmer l'imminence de l'exécution du renvoi qui sont transmis au Tribunal fédéral par les autorités peuvent être pris en compte en application de l'art. 99 al. 1 LTF, dans la seule mesure où ils sont pertinents pour apprécier le bien-fondé du maintien de l'étranger en détention (arrêt 2C_1017/2012 du 30 octobre 2012 consid. 2).
En l'occurrence, l'état de fait retenu dans l'arrêt attaqué est pour le moins sybillin et on pourrait se demander si, pour cette raison, il ne se justifierait pas de renvoyer la cause au Juge unique en application de l'art. 112 al. 1 let. b et al. 3 LTF. En l'occurrence, on peut, pour des motifs d'économie de procédure, y renoncer, dès lors que le dossier et le mémoire de recours permettent de dégager des faits extérieurs constatables et incontestés. A titre exceptionnel, le Tribunal fédéral complétera donc au besoin les constatations de fait en application de l'art. 105 al. 2 LTF.
4. Le recourant estime que sa détention a été prononcée alors qu'il ne remplit pas les conditions prévues par l'art. 76 al. 1 let. b ch. 3 et 4 LEtr et que, partant, elle est illégale et ne respecte pas les art. 5 CEDH et 31 Cst.
4.1 La détention administrative porte une atteinte grave à la liberté personnelle et ne peut être ordonnée que dans le respect de l'art. 5 CEDH (cf. <ref-ruling> consid. 2.2.1 p. 107; arrêt 2C_413/2012 du 22 mai 2012 consid. 3.1) et de l'art. 31 Cst., ce qui suppose en premier lieu qu'elle repose sur une base légale (art. 36 al. 1 Cst.; arrêts 2C_584/2012 du 29 juin 2012 consid. 5.1; 2C_478/2012 du 14 juin 2012 consid. 2.1).
4.2 La mise en détention administrative du recourant repose sur l'art. 76 al. 1 let. b ch. 3 et 4 LEtr, qui prévoit que, lorsqu'une décision de renvoi a été notifiée, l'autorité compétente peut, afin d'en assurer l'exécution, mettre en détention la personne concernée si des éléments concrets font craindre qu'elle entende se soustraire au renvoi ou à l'expulsion, en particulier parce qu'elle ne se soumet pas à son obligation de collaborer (cf. ch. 3) ou si son comportement permet de conclure qu'elle se refuse à obtempérer aux instructions des autorités (cf. ch. 4). Selon la jurisprudence, ces motifs sont réalisés en particulier lorsque l'étranger tente d'entraver les démarches en vue de l'exécution du renvoi en donnant des indications manifestement inexactes ou contradictoires ou encore s'il laisse clairement apparaître, par ses déclarations ou son comportement, qu'il n'est pas disposé à retourner dans son pays d'origine (cf. <ref-ruling> consid. 3.1 p. 58 s.; arrêt 2C_1139/2012 du 21 décembre 2012 consid. 3.2). Comme le prévoit expressément l'art. 76 al. 1 let. b ch. 3 LEtr, il faut qu'il existe des éléments concrets en ce sens (cf., notamment, arrêts 2C_1017/2012 du 30 octobre 2012 consid. 4.1.1; 2C_624/2012 du 2 juillet 2012 consid. 4.1; 2C_935/2011 du 7 décembre 2011 consid. 3.2).
Si le fait d'être entré en Suisse illégalement, d'être démuni de papiers d'identité (cf. <ref-ruling> consid. 4.2.1 p. 146 s.) ou de ne pas quitter le pays dans le délai imparti à cet effet ne saurait, pris individuellement, suffire à admettre un motif de détention au sens de l'art. 76 al. 1 let. b ch. 3 (voire ch. 4) LEtr, ces éléments peuvent constituer des indices parmi d'autres en vue d'établir un risque de fuite (cf. arrêt 2C_1017/2012 du 30 octobre 2012 consid. 4.1.1).
4.3 Le Juge unique a confirmé le risque de fuite de l'intéressé en retenant les éléments de fait suivants: X._ avait cherché à égarer l'autorité sur son identité, le dossier montrant qu'il avait varié sur la composition de sa famille; il avait été annoncé disparu depuis le 10 décembre 2012 par le foyer qui l'hébergeait; il avait réitéré devant le Juge unique son refus de rentrer chez lui, au motif qu'il avait récemment eu un enfant en Suisse. A ces éléments, on peut ajouter qu'il ressort des pièces du dossier (art. 105 al. 2 LTF; cf supra consid. 2) qu'à la suite de l'arrêt du Tribunal administratif fédéral du 6 août 2012, l'Office fédéral des migrations a fixé un nouveau délai de départ au recourant au 28 août 2012, auquel il n'a pas obtempéré. L'intéressé a en outre été détenu préventivement et auditionné en tant que prévenu dans plusieurs enquêtes policières pour brigandage non armé, appropriation illégitime, lésions corporelles simples, dommages à la propriété et violences domestiques sur Y._, la mère de son fils. Dans ce cadre, il a été averti que les autorités envisageaient de prononcer une mesure d'éloignement (art. 67 ss LEtr) à son encontre. Enfin, il n'a pas reconnu son fils spontanément à sa naissance le 23 février 2012, mais seulement, à la suite d'une action en paternité cumulée avec une action alimentaire introduite à son encontre par la mère de l'enfant.
4.4 C'est à juste titre que le recourant souligne que le fait de varier sur la composition de sa famille (en l'occurrence sa fratrie) n'est pas propre à fonder une mise en détention administrative, ce que la Cour de céans a d'ailleurs souvent précisé au Juge unique valaisan (arrêts 2C_420/2011 du 9 juin 2011 consid. 3.2; 2C_963/2010 du 11 janvier 2011 consid. 2.2; 2C_945/2010 du 5 janvier 2011 consid. 2.2). En revanche, l'ensemble des autres éléments précités constituent des indices concrets démontrant un risque que le recourant, qui a expressément indiqué son refus de rentrer dans son pays, ne parte dans la clandestinité, pour se soustraire à ses obligations alimentaires et envers les autorités pénales. Pris dans leur ensemble, ces éléments font que la mise en détention du recourant ne viole pas l'art. 76 al. 1 ch. 3 et 4 LEtr.
4.5 Lorsqu'elle examine la décision de détention, l'autorité judiciaire doit tenir compte de la situation familiale de la personne détenue et des conditions d'exécution de la détention (art. 80 al. 4 LEtr). Le recourant fait état, apparemment pour la première fois devant le Tribunal fédéral, de sa volonté de se marier avec la mère de son fils, mais n'indique nullement que des démarches auraient été accomplies en ce sens. Quant aux relations avec son fils, il convient de rappeler qu'au moment où l'arrêt attaqué a été prononcé, le recourant ne l'avait pas encore reconnu, bien que l'enfant soit né au début 2012. Cette reconnaissance n'a du reste eu lieu qu'à la suite d'une action en paternité interjetée par la mère à l'encontre du recourant. Pour le surplus, le dossier ne fait pas apparaître, et le recourant ne la démontre point, l'existence d'éléments fondant des liens vivants d'une intensité particulière entre le recourant, son fils et la mère de ce dernier (cf. <ref-ruling> consid. 3.1 p. 148). On ne voit donc pas que la situation familiale actuelle du recourant puisse justifier sa libération ni que cette mesure puisse être contraire aux art. 13 et 14 Cst. ou à l'art. 8 CEDH, dispositions protégeant la vie familiale et le droit au mariage également invoqués par le recourant.
4.6 Enfin, prononcée pour une durée initiale de trois mois, qui reste dans les limites légales (cf. art. 76 al. 2, 2ème phrase, et art. 79 LEtr), la mise en détention du recourant est en l'état conforme au principe de la proportionnalité (cf. art. 5 al. 2 et 36 al. 3 Cst.; art. 96 LEtr). En outre, il n'y a pour l'instant pas d'élément qui ferait douter que les autorités n'accompliraient pas les démarches nécessaires à l'exécution du renvoi avec diligence et célérité (cf. art. 76 al. 4 LEtr).
4.7 Rien ne permet donc d'en conclure que la détention du recourant serait illégale et partant contraire aux art. 5 CEDH et 31 Cst.
5. 5.1 Il découle des considérants qui précèdent que le recours doit être rejeté, dans la mesure de sa recevabilité. Compte tenu de la motivation lacunaire figurant dans l'arrêt attaqué, il se justifie cependant d'accorder l'assistance judiciaire et de désigner Me Michel Dupuis comme avocat d'office du recourant, rétribué par la Caisse du Tribunal fédéral (art. 64 LTF).
5.2 Il ne sera pas perçu de frais judiciaires (art. 66 al. 1 in fine LTF). Les frais de photocopies d'un montant de 133 fr., que le Service cantonal a facturés au conseil du recourant après le dépôt du recours auprès du Tribunal fédéral, n'ont pas eu lieu d'être, dès lors que le mandataire du recourant avait uniquement sollicité l'envoi du dossier en vue de pouvoir le consulter et ainsi préparer ledit recours. Partant, ces frais seront mis à la charge du canton du Valais à titre de dépens (art. 68 al. 1 LTF; cf. <ref-ruling> consid. 5b/aa p. 168 s.), étant précisé qu'en vertu de l'art. 66 al. 3 LTF, auquel renvoie l'art. 68 al. 4 LTF, les frais causés inutilement sont supportés par celui qui les a engendrés.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est admise; Me Michel Dupuis est désigné comme avocat d'office du recourant et ses honoraires, supportés par la Caisse du Tribunal fédéral, sont fixés à 1'500 fr.
3. Il n'est pas perçu de frais judiciaires.
4. Le canton du Valais versera au recourant une indemnité de 133 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
5. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et des migrations du canton du Valais, au Juge unique de la Cour de droit public du Tribunal cantonal du canton du Valais et à l'Office fédéral des migrations.
Lausanne, le 1er mars 2013
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Chatton