Faits:
A. Originaire de l'Erythrée, né en 1975, X._ a déposé une demande d'asile en Suisse, qui a été frappée, le 15 avril 2011, d'une décision de non-entrée en matière émanant de l'Office fédéral des migrations (ci-après: l'Office fédéral). Il était ordonné au requérant de quitter la Suisse au lendemain de l'échéance du délai de recours (recte : le jour suivant l'entrée en force de ladite décision) sous peine de s'exposer à des moyens de contrainte. Le 18 mai 2011, le Tribunal administratif fédéral a rejeté le recours formé par X._ à l'encontre de la décision du 15 avril 2011.
Le 16 juin 2011, X._ a refusé de signer une déclaration de retour volontaire. Le 21 juin 2011, un vol à destination de Rome a été réservé à son attention, mais l'intéressé était introuvable à cette date.
B. Appréhendé par la police cantonale vaudoise le 2 août 2011, X._ a été entendu le jour même par le Juge de paix du canton de Vaud (ci-après: le Juge de paix), qui l'a placé en détention administrative pour une durée de six mois en vue de son refoulement en Italie, pays dans lequel il avait le statut de réfugié.
Le 6 septembre 2011, X._ a été conduit à l'aéroport de Genève pour y prendre un vol à destination de Rome, mais il a refusé d'embarquer. Le Service de la population du canton de Vaud (ci-après: le Service cantonal) a requis l'organisation d'un vol escorté jusqu'à destination le 26 septembre 2011.
Par ordonnance du 3 octobre 2011, le Juge de paix a rejeté la demande de mise en liberté formée par X._ le 27 septembre 2011. Le 10 novembre 2011, le recours formé par X._ a été rejeté par la Chambre des recours civile du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) et l'ordonnance du 3 octobre 2011 confirmée.
C. A l'encontre de l'arrêt du 10 novembre 2011, X._ interjette un recours auprès du Tribunal fédéral, en concluant à son admission, à l'annulation de l'arrêt attaqué et à sa libération immédiate. Il demande par ailleurs la dispense de payer une avance de frais et l'octroi de l'assistance judiciaire partielle.
Le Tribunal cantonal se réfère aux considérants de son arrêt. Le Juge de paix déclare s'en remettre à justice. L'Office fédéral propose de rejeter le recours. Le Service cantonal et le recourant ont, pour leur part, produit des déterminations qui sont parvenues au Tribunal fédéral passé le délai imparti à cet effet.
La Cour de céans a demandé aux autorités judiciaires cantonales de lui transmettre l'ensemble du dossier concernant la mise en détention de X._ et pas seulement les actes se rapportant à sa demande de libération, ce qui a été fait le 16 décembre 2011.
Considérant en droit:
1. 1.1 Le recourant n'a pas qualifié son recours auprès du Tribunal fédéral. Cette imprécision ne saurait lui nuire si son écriture remplit les exigences de la voie de droit en principe ouverte (ATF 133 I 300 consid. 1.2 p. 302 s., 133 I 308 consid. 4.1 p. 314).
1.2 En matière de mesures de contrainte, la voie de droit ordinaire est celle du recours en matière de droit public (arrêt 2C_10/2009 du 5 février 2009 consid. 2, non publié aux ATF 135 II 94). Le recours, déposé en temps utile et dans les formes requises (art. 42 et 100 LTF), remplit les exigences posées aux art. 82 ss LTF, de sorte qu'il convient d'entrer en matière.
1.3 Il ne sera en revanche pas tenu compte de la réponse du Service cantonal ni des observations finales du recourant, dès lors qu'elles sont parvenues au Tribunal fédéral passé le délai imparti à cet effet. Au demeurant, dans son écriture complémentaire, le recourant invoque des faits et des moyens de preuves nouveaux, qui sont irrecevables (art. 99 al. 1 LTF).
2. Dans l'arrêt attaqué, le Tribunal cantonal n'a pas examiné la régularité de la mise en détention du recourant. Il a considéré que les critiques formulées à cet égard étaient tardives, dès lors que le recourant n'avait pas déposé de recours à l'encontre de l'ordonnance du 2 août 2011 prononçant sa mise en détention administrative. En revanche, les juges ont vérifié si les conditions de la mise en liberté du recourant étaient réunies. Dans ce cadre, ils ont retenu que les motifs qui avaient justifié celle-ci, à savoir le risque de voir le recourant se soustraire à son renvoi, étaient toujours d'actualité, comme l'attestaient son refus de signer une déclaration de retour volontaire et son refus de prendre le vol du 6 septembre 2011. En outre, l'exécution du renvoi demeurait possible et des démarches étaient accomplies par les autorités, qui avaient requis un prochain vol spécial, de sorte que le refoulement du recourant pourrait manifestement être exécuté avant l'échéance du délai maximal de détention de 18 mois prévu par la loi.
3. Le recourant invoque en premier lieu le caractère illégal de sa détention et reproche au Tribunal cantonal de n'avoir pas revu la régularité de sa détention, au motif qu'il n'avait pas recouru à l'encontre de la décision du 2 août 2011 prononçant sa mise détention administrative.
3.1 Selon l'art. 80 al. 5 LEtr, l'étranger en détention peut déposer une demande de levée de détention un mois après que la légalité de cette dernière a été examinée. L'autorité judiciaire se prononce dans un délai de huit jours ouvrables, au terme d'une procédure orale.
En l'espèce, cette procédure a été respectée : le recourant, après avoir été placé en détention par décision du Juge de paix du 2 août 2011 contre laquelle il n'a pas recouru, a formé une demande de mise en liberté le 27 septembre 2011. Le Juge de paix a entendu oralement le recourant, puis a rejeté la requête le 3 octobre 2011, soit dans un délai de huit jours ouvrables.
3.2 Lorsqu'il est chargé de statuer sur une demande de libération, le juge doit procéder aux mêmes vérifications que s'il devait se prononcer sur la mise en détention de l'intéressé. Lors de cet examen, il doit donc contrôler si toutes les conditions justifiant la mise en détention de l'étranger sont réunies (THOMAS HUGI YAR, Zwangsmassnahmen im Ausländerrecht, in: Ausländerrecht [Peter Uebersax et al. (éds)], 2e éd., Bâle 2009, p. 417 ss, 439 N 10.33; cf. ATF 122 I 275 consid. 3b p. 277; arrêt 2A.79/1997 du 11 mars 1997 consid. 2a), peu importe que celui-ci n'ait pas recouru contre la décision initiale prononçant sa détention administrative.
Dans la mesure où l'arrêt attaqué refuse d'entrer en matière sur les griefs du recourant portant sur la régularité de sa mise en détention, il n'est partant pas conforme au droit fédéral. Le Tribunal fédéral n'est toutefois pas lié par la motivation de l'arrêt attaqué (ATF 134 III 102 consid. 1.1 p. 104; 134 V 250 consid. 1.2 p. 252), de sorte qu'il convient d'examiner si, sur la base des éléments figurant dans l'arrêt attaqué, le recourant remplissait les conditions justifiant son placement en détention administrative le 2 août 2011.
3.3 Le Juge de paix a ordonné la mise en détention du recourant le 2 août 2011, en application de l'art. 76 al. 1 let. b ch. 3 et 4 LEtr. Cette disposition prévoit entre autres que, lorsqu'une décision de renvoi a été notifiée, l'autorité compétente peut, afin d'en assurer l'exécution, mettre en détention la personne concernée si des éléments concrets font craindre que celle-ci entende se soustraire au renvoi, en particulier parce qu'elle ne se soumet pas à son obligation de collaborer, ou si son comportement permet de conclure qu'elle se refuse à obtempérer aux instructions des autorités. D'après la jurisprudence, un risque de fuite existe notamment lorsque l'étranger tente d'entraver les démarches en vue de l'exécution du renvoi en donnant des indications manifestement inexactes ou contradictoires ou encore s'il laisse clairement apparaître, par ses déclarations ou son comportement, qu'il n'est pas disposé à retourner dans son pays d'origine (cf. ATF 130 II 56 consid. 3.1 p. 58 s.; arrêt 2C_963/2010 du 11 janvier 2011 consid. 2.1). Comme le prévoit expressément l'art. 76 al. 1 let. b ch. 3 LEtr, il faut qu'il existe des éléments concrets en ce sens (arrêt 2C_675/2011 du 20 septembre 2011 consid. 2.1).
En l'occurrence, le recourant a fait l'objet d'une décision de non-entrée en matière du 15 avril 2011 lui ordonnant de quitter la Suisse le jour suivant l'entrée en force de ladite décision, qui est intervenue lors du rejet du recours formé à son encontre par le Tribunal administratif fédéral le 18 mai 2011. Le recourant n'a non seulement pas quitté la Suisse malgré cette injonction, mais il a refusé de signer une déclaration de retour volontaire. Il était en outre introuvable le 11 juillet 2011, alors qu'un vol à destination de Rome lui était réservé. En pareilles circonstances, la mise en détention du recourant le 2 août 2011 était justifiée sous l'angle de l'art. 76 al. 1 let. b ch. 3 et 4 LEtr.
3.4 Les arguments invoqués par le recourant pour en conclure que sa détention initiale n'était pas conforme au droit sont par ailleurs infondés.
3.4.1 Celui-ci affirme tout d'abord qu'il ne s'est pas soustrait à l'exécution de son renvoi et présente une appréciation personnelle positive de son comportement, perdant de vue qu'il n'appartient pas au Tribunal fédéral de revoir librement les faits et que les critiques de nature appellatoire sont irrecevables (ATF 136 II 101 consid. 3 p. 104; 133 III 393 consid. 6 p. 397). Du reste, le recourant passe sous silence les indices pertinents démontrant un risque de fuite (refus de départ volontaire; disparition au moment du vol organisé en juillet 2011), qui ressortent pourtant des faits constatés et qui lient le Tribunal fédéral (art. 105 LTF).
3.4.2 Le recourant se plaint ensuite que l'Office fédéral ne lui ait pas fixé un délai de départ de sept jours au moins, comme le préconise la directive 2008/115/CE du 16 décembre 2008.
Depuis le 1er janvier 2011, l'art. 64d LEtr prévoit de manière générale et pour tous les renvois que la décision doit être assortie d'un délai de départ raisonnable de sept à trente jours, sous réserve de situations particulières dans lesquelles le renvoi peut être immédiatement exécutoire ou assorti d'un délai inférieur à sept jours (cf. al. 2). Cette exigence découle des prescriptions imposées à la Suisse en relation avec la reprise de la directive 2008/115/CE du Parlement européen et du Conseil 16 décembre 2008 relative aux normes et procédures communes applicables dans les Etats membres au retour des ressortissants de pays tiers en séjour irrégulier [cf. art. 7 de cette directive] (arrêt 2C_675/2011 du 20 septembre 2011 consid. 2.2).
Le recourant perd de vue que la décision de l'Office fédéral du 15 avril 2011 refusant d'entrer en matière sur sa demande d'asile lui impartissait un délai de départ au lendemain de l'entrée en force de ladite décision; compte tenu du recours auprès du Tribunal administratif fédéral, cette décision est entrée en force le 18 mai 2011. Le recourant a donc bénéficié d'un délai de départ bien supérieur au délai minimal de sept jours requis.
3.5 Aucun autre élément ne permet en outre de considérer que la détention du recourant aurait été prononcée de manière irrégulière le 2 août 2011, ce qui justifierait de le libérer.
Le fait que les juges cantonaux n'aient pas examiné cet aspect reste donc sans conséquence sur le résultat de la décision entreprise (cf. supra consid. 3.3).
3.6 Il convient d'ajouter que le comportement ultérieur du recourant, qui a refusé, alors qu'il était en détention depuis un peu plus d'un mois, de monter dans un nouveau vol prévu pour lui le 6 septembre 2011 démontre qu'il remplit toujours les conditions de l'art. 76 al. 1 let. b ch. 3 et 4 LEtr.
4. En second lieu, le recourant conteste pouvoir être renvoyé en Italie dans un avenir proche. Il invoque pêle-mêle à ce propos une violation du principe de la proportionnalité, reproche aux autorités de ne pas avoir agi avec diligence et se prévaut de l'art. 80 al. 6 let. a LEtr. Il convient d'examiner ces griefs séparément.
4.1 L'article 80 al. 6 let. a LEtr prévoit que la détention est levée notamment lorsque l'exécution du renvoi ou de l'expulsion s'avère impossible pour des raisons juridiques ou matérielles. Tel est par exemple le cas d'un détenu présentant des atteintes à sa santé si importantes, qu'elles rendent impossible son transport pendant une longue période (cf. arrêts 2C_625/2011 du 5 septembre 2011 consid. 4.2.1; 2C_386/2010 du 1er juin 2010 consid. 4). Sur la base de l'art. 80 al. 6 let. a LEtr, la jurisprudence a aussi admis la levée de la détention de ressortissants nigérians détenus en vue de leur renvoi au sens de l'art. 76 LEtr, au motif que les vols spéciaux à destination du Nigéria avaient été supprimés, sans qu'il n'y ait aucun indice de reprise de tels vols dans un délai prévisible (arrêts 2C_538/2010 du 19 juillet 2010 consid. 3; 2C_386/2010 du 1er juin 2010 consid. 5 et 2C_473/2010 du 25 juin 2010 consid. 4.2).
Le recourant invoque inutilement ces jurisprudences, car il ne se trouve manifestement pas dans la même situation. D'une part, il ne fait pas état d'ennuis de santé de nature à empêcher son refoulement en Italie; d'autre part, contrairement aux détenus nigérians, rien n'indique que son renvoi par un vol escorté ne serait pas possible. Au contraire, l'arrêt attaqué retient que le Service cantonal a requis l'organisation d'un vol spécial qui devrait intervenir prochainement. On ne se trouve donc pas dans un cas d'impossibilité au sens de l'art. 80 al. 6 let. a LEtr.
4.2 Alors que le recourant était en détention, les autorités ont organisé un vol à destination de Rome le 6 septembre 2011, mais l'intéressé a refusé d'embarquer. Le 26 septembre 2011, le Service cantonal a requis l'organisation d'un vol escorté. Des démarches sont donc accomplies en vue du renvoi du recourant et il est logique que la mise en place d'un vol escorté prenne plus de temps qu'un vol ordinaire. On ne peut donc reprocher aux autorités de ne pas agir avec la diligence requise (cf. art. 76 al. 4 LEtr). Il confine du reste à la témérité de la part du recourant de soutenir qu'un renvoi vers l'Italie ne justifie pas une détention aussi longue, alors que lui-même, par son refus d'embarquer sur le vol du 6 septembre 2011, est responsable de la prolongation des démarches nécessaires à son refoulement.
4.3 En l'état, le maintien en détention du recourant reste encore proportionné. L'arrêt attaqué retient d'ailleurs que le refoulement pourra manifestement être exécuté avant le délai maximal de détention de 18 mois prévu par la loi.
5. Compte tenu de ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité.
Dès lors que c'est à juste titre que le recourant s'est plaint du refus du Tribunal cantonal de revoir la régularité de sa mise en détention prononcée le 2 août 2011, il convient d'admettre la demande d'assistance judiciaire partielle (dispense des frais judiciaires) formée par celui-ci (art. 64 al. 1 LTF). Il ne sera donc pas perçu de frais.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire partielle est admise.
3. Il n'est pas perçu de frais judiciaires.
4. Le présent arrêt est communiqué au représentant du recourant, au Service de la population du canton de Vaud, au Juge de paix du district de Lausanne, au Tribunal cantonal du canton de Vaud, Chambre des recours civile, et à l'Office fédéral des migrations.
Lausanne, le 19 décembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Chatton