Faits : A. X._, né en 1984, est un ressortissant algérien. Le 15 novembre 2010, l'Office fédéral des migrations a refusé d'entrer en matière sur la requête d'asile formée par X._ le 1er septembre 2010. Cette décision prévoyait aussi le renvoi du requérant de Suisse en Italie, où celui-ci avait déjà déposé une demande d'asile le 12 juillet 2008, et lui enjoignait de quitter la Suisse, faute de quoi il s'exposerait à des moyens de contrainte. Il était prévu que l'exécution de la décision de renvoi incombait au canton du Valais. B. Le 21 décembre 2010, le Service de la population et des migrations du canton du Valais (ci-après: le Service cantonal) a placé X._ en détention en vue de son renvoi avec effet immédiat pour trois mois au plus. Par arrêt du 22 décembre 2010, le Juge unique de la Cour de droit public du Tribunal cantonal valaisan (ci-après: le Juge unique) a approuvé la décision précitée, en application de l'art. 76 al. 1 let. b ch. 3 et 4 LEtr. C. A l'encontre de l'arrêt du 22 décembre 2010, X._ dépose un recours auprès du Tribunal fédéral. Il soutient que personne ne l'a averti qu'il devait quitter la Suisse. Par ailleurs, il invoque son état de santé (crises d'épilepsie notamment) et réitère son refus de se rendre en Italie. Le Tribunal cantonal a produit le dossier, mais a renoncé à se déterminer, à l'instar du Service cantonal et de l'Office fédéral des migrations. Le recourant n'a pas fourni d'observations complémentaires dans le délai imparti.