Faits: A. X._, ressortissant de Bosnie-et-Herzégovine né en 1984, son épouse Y._ et leur enfant Z._, né en 2008, ont déposé une demande d'asile en Suisse le 2 juillet 2009, sur laquelle l'Office fédéral des migrations a refusé d'entrer en matière. Cette décision, assortie d'un délai de départ, est entrée en force le 24 septembre 2009. Le 2 mars 2010, X._ a refusé de signer une déclaration de retour volontaire, alors qu'il bénéficiait d'un laissez-passer pour la Bosnie-et-Herzégovine. B. X._ a été arrêté par la police cantonale vaudoise le 5 août 2010. Par ordonnance du même jour, le Juge de paix des districts de Lausanne et de l'ouest lausannois (ci-après: le Juge de paix) a, après l'avoir entendu, placé X._ en détention administrative pour une durée de trois mois, estimant que l'intéressé aurait "tenté de se soustraire à son refoulement". Il ressort du dossier qu'au moment de l'arrestation de X._, son épouse aurait menacé les policiers avec un couteau, ce qui a entraîné sa mise en détention pénale. Ses deux parents ayant été incarcérés, l'enfant Z._, alors âgé de 2 ans, a été placé dans une famille d'accueil le jour-même. C. X._ a immédiatement déclaré recourir auprès de la Chambre des recours du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) contre l'ordonnance du Juge de paix du 5 août 2010, en concluant en substance à l'annulation de celle-ci et à sa libération immédiate. Le 12 août 2010, X._ a déposé un "nouveau recours" contre l'ordonnance du Juge de paix. Il a conclu à la constatation d'une violation de l'art. 5 par. 1 let. f CEDH, ainsi qu'à l'allocation d'une indemnité de 7'000 fr. "en réparation du tort moral occasionné au recourant et à son enfant", "additionnée d'une indemnité de 1'000 fr. (...) par jour de détention supplémentaire à compter du 14 août inclus". Le 7 septembre 2010, le Service de la population du canton de Vaud (ci-après: le Service cantonal) a ordonné la libération immédiate de X._. Le 13 septembre 2010, le Tribunal cantonal a, par acte adressé au Service cantonal, au Juge de paix et au représentant de X._, et sans distinguer entre les mémoires des 6 et 12 août 2010, considéré que le recours de ce dernier n'avait plus d'objet; il a partant rayé la cause du rôle sans frais. D. Agissant par le biais d'un "recours" au Tribunal fédéral, X._ conclut, sous suite de dépens, à l'annulation de la décision de radiation du Tribunal cantonal du 13 septembre 2010 et au renvoi de la cause pour nouvelle décision. Il requiert en outre sa mise au bénéfice de l'assistance judiciaire partielle. Les 25 octobre et 6 décembre 2010, X._ a adressé deux courriers et des annexes au Tribunal fédéral. Le Service cantonal conclut au rejet du recours. Sans prendre de conclusions formelles, le Tribunal cantonal a rappelé la chronologie de la procédure de recours en rapport avec la violation alléguée du principe de la célérité, et s'est référé à un courrier daté du 16 septembre 2010, adressé au recourant, par lequel il confirmait la radiation de la cause du rôle et renvoyait le recourant à agir devant le juge civil ordinaire s'agissant de ses prétentions en tort moral. Le Juge de paix et l'Office fédéral des migrations renoncent à formuler des observations. Le 31 mai 2011, la Cour de céans a délibéré sur le présent recours en séance publique.