Faits:
A. A.a Ressortissant irakien né en 1976, X._ a été initialement renvoyé de Suisse le 14 décembre 2004 à la suite de l'échec de sa demande d'asile. Le 15 juillet 2011, le Tribunal administratif fédéral a rejeté une demande en révision portant sur l'exécution du renvoi.
Le 24 août 2011, le Service de la population et des migrations du canton du Valais (ci-après le Service cantonal) a placé X._ en détention immédiate pour une durée de trois mois.
A.b Les faits établis par l'autorité précédente étant incomplets, il convient d'apporter les précisions suivantes (cf. art. 105 al. 2 LTF).
Le 22 décembre 2005, l'Office fédéral des migrations (ci-après l'ODM) a reconsidéré partiellement la décision de renvoi précitée du 14 décembre 2004, en ce sens qu'il a mis X._ au bénéfice d'une admission provisoire et a renoncé à l'exécution de son renvoi.
Le 8 mars 2008, l'ODM a levé l'admission provisoire. Le recours formé par l'intéressé a été rejeté s'agissant de l'exécution du renvoi par le Tribunal administratif fédéral le 16 juin 2008.
Le 22 décembre 2008, X._ a demandé le réexamen de la décision de renvoi du 14 décembre 2004, ce qu'a refusé l'ODM le 16 janvier 2009. L'intéressé s'est alors adressé au Tribunal administratif fédéral, qui lui a accordé le droit de résider en Suisse pendant la durée de la procédure. Par arrêt du 15 juillet 2011, il a rejeté, dans la mesure de sa recevabilité, la demande portant sur l'exécution du renvoi.
Ni l'ODM ni le Service cantonal n'ont fixé un nouveau délai de départ à X._ à la suite de l'arrêt du 15 juillet 2011, qui ne précisait rien à ce sujet.
B. Par arrêt du 26 août 2011, le Juge unique de la Cour de droit public du Tribunal cantonal valaisan (ci-après le Juge unique) a approuvé la décision de mise en détention pour une durée de trois mois prononcée par le Service cantonal le 24 août 2011, au motif que X._ refusait avec obstination de s'en aller. Il ressort aussi de cet arrêt que la représentante de X._ n'avait pu être citée à temps à l'audience, mais qu'elle pourrait former une demande de reconsidération.
Le 30 août 2011, le Juge unique a refusé d'entrer en matière sur la demande de reconsidération déposée le jour-même par l'avocate de X._ et a rejeté l'assistance judiciaire sollicitée le 24 juillet 2011, au motif que la demande de reconsidération était insuffisamment motivée.
C. X._ forme un recours en matière de droit public au Tribunal fédéral. Il conclut à l'annulation des arrêts rendus les 26 et 30 août 2011 et à la levée immédiate de sa détention administrative, subsidiairement à au renvoi de la cause à l'autorité inférieure pour nouvelle décision dans le sens des considérants. A titre provisoire, il requiert la suspension de l'exécution forcée du renvoi.
Par ordonnance du 7 septembre 2011, le Président de la IIe Cour de droit public a indiqué que le recours ne bloquait pas l'exécution du renvoi.
Le Juge unique a renoncé à former des observations détaillées, soulignant seulement qu'une demande de libération ultérieure pourrait donner lieu à une décision sur le fond et, le cas échéant, à l'examen du droit du recourant à bénéficier de l'assistance judiciaire.
Le Service de la population et l'ODM n'ont pas formé d'observations.
Considérant en droit:
1. 1.1 En matière de mesures de contrainte, le recours en matière de droit public est en principe ouvert (art. 82 ss LTF; arrêt 2C_10/2009 du 5 février 2009 consid. 2, non publié aux ATF 135 II 94).
1.2 En l'espèce, le mémoire de recours est dirigé contre deux arrêts rendus par le Juge unique du Tribunal cantonal : l'un du 26 août 2011 confirme la mise en détention administrative du recourant pour une durée de trois mois; le second, du 30 août 2011, refuse d'entrer en matière sur la demande de reconsidération et rejette l'assistance judiciaire requise. Au stade de la recevabilité, il convient de déterminer si ces décisions sont distinctes et, le cas échéant, si elles peuvent toutes les deux faire l'objet d'un recours en matière de droit public au sens des art. 82 ss LTF.
1.3 Cette voie de droit suppose en particulier que la décision attaquée ait été rendue en dernière instance cantonale (cf. art. 86 al. 1 let. d LTF), exigence qui impose au recourant d'épuiser les instances cantonales, soit d'utiliser les voies de droit cantonales à sa disposition avant de saisir le Tribunal fédéral. Encore faut-il que la voie de droit ouverte soit de nature à obliger l'autorité saisie à statuer (cf. arrêts 2C_632/2011 du 25 août 2011 et 2C_229/2009, du 19 mai 2009, consid. 3 et la référence citée).
Le Tribunal cantonal valaisan a pour pratique, lorsque le représentant d'une personne placée en détention administrative ne peut être valablement convoqué à l'audience devant l'autorité judiciaire tenue de statuer dans le délai de 96 heures prévu à l'art. 80 al. 2 LEtr, de se prononcer sans attendre, tout en réservant la possibilité pour le mandataire de former une demande de reconsidération. Lorsqu'il est saisi d'un recours à l'encontre d'une telle décision, le Tribunal fédéral considère que les instances cantonales ne sont pas épuisées, puisque la voie de la reconsidération est expressément réservée par le Juge unique; il n'entre donc pas en matière, mais adresse le recours au Tribunal cantonal, pour qu'il lui donne la suite qu'il convient (cf. arrêts 2C_632/2011 du 25 août 2011; 2C_237/2010 du 26 avril 2010 et 2C_229/2009 du 19 mai 2009). Les droits de l'étranger placé en détention administrative ne sont pas lésés par ce mode de faire, dans la mesure où son représentant peut faire valoir ses droits devant le Juge unique et d'obtenir une nouvelle décision sur le fond. Cette seconde décision (rendue sur reconsidération) se substitue alors à la première et peut elle-même, le cas échéant, faire l'objet d'un recours en matière de droit public au Tribunal fédéral, qui vérifiera alors le bien-fondé de la détention administrative.
La situation est différente en l'espèce, dans la mesure où le Juge unique n'est pas entré en matière sur la demande de reconsidération (sur le bien-fondé de ce procédé, cf. infra consid. 3.3). Par conséquent, sa nouvelle décision ne s'est pas substituée à la décision initiale sur le fond portant sur la mise en détention. Les deux décisions coexistent, mais ont un objet différent. Ainsi, la décision du 26 août 2011 porte sur la mise en détention administrative du recourant, alors que celle du 30 août 2011 concerne le refus du réexamen.
On est donc en présence de deux décisions distinctes rendues par une autorité judiciaire cantonale supérieure, statuant en dernière instance au sens de l'art. 86 al. 1 let. d et al. 2 LTF. Ces décision ont chacune un caractère final, au sens de l'art. 90 LTF, par rapport à leur objet respectif (mise en détention administrative; refus d'entrer en matière sur la demande de réexamen). Dans la mesure où elle s'en prend à l'une et l'autre de ces décisions, la présente écriture constitue un double recours. Dès lors qu'elle a été formée en temps utile (art. 100 LTF) et dans les formes requises (art. 42 LTF) par le recourant qui a indéniablement un intérêt actuel digne de protection à agir (art. 89 LTF), il convient d'entrer en matière.
I. Recours contre l'arrêt du 26 août 2011
2. En relation avec la mise en détention administrative, objet de l'arrêt du 26 août 2011, le recourant invoque une violation de l'art. 76 LEtr. Il soutient en substance que sa mise en détention sans préavis, avant même qu'un délai de départ lui ait été fixé et sans qu'il ait été invité à se présenter dans les locaux du Service cantonal afin de préparer son départ est illégal, car on ne saurait considérer de prime abord qu'il ne voulait pas se soumettre à son obligation de collaborer.
2.1 Le Juge unique a confirmé la mise en détention administrative du recourant en application de l'art. 76 al. 1 let. b ch. 3 et 4 LEtr. Cette disposition prévoit entre autres que, lorsqu'une décision de renvoi a été notifiée, l'autorité compétente peut, afin d'en assurer l'exécution, mettre en détention la personne concernée si des éléments concrets font craindre que celle-ci entende se soustraire au renvoi, en particulier parce qu'elle ne se soumet pas à son obligation de collaborer, ou si son comportement permet de conclure qu'elle se refuse à obtempérer aux instructions des autorités. D'après la jurisprudence, un risque de fuite existe notamment lorsque l'étranger tente d'entraver les démarches en vue de l'exécution du renvoi en donnant des indications manifestement inexactes ou contradictoires ou encore s'il laisse clairement apparaître, par ses déclarations ou son comportement, qu'il n'est pas disposé à retourner dans son pays d'origine (cf. ATF 130 II 56 consid. 3.1 p. 58 s.). Comme le prévoit expressément l'art. 76 al. 1 let. b ch. 3 LEtr, il faut qu'il existe des éléments concrets en ce sens (arrêt 2C_963/2010 du 11 janvier 2011 consid. 2.1).
2.2 L'étranger dont l'exécution du renvoi n'est pas possible est mis au bénéfice d'une admission provisoire (cf. art. 83 LEtr). Si les conditions de l'admission provisoire ne sont plus remplies, l'ODM lève l'admission provisoire et ordonne l'exécution du renvoi ou de l'expulsion (art. 84 al. 2 LEtr). L'art. 26 al. 3 de l'ordonnance du 11 août 1999 sur l'exécution du renvoi et de l'expulsion d'étrangers (OERE; RS 142.281) impose à l'ODM de fixer un délai de départ approprié pour autant que l'exécution immédiate du renvoi ou de l'expulsion ne soit pas ordonnée. La directive du 1er janvier 2008 de l'ODM ("renvoi et exécution des décisions de renvoi"; état au 10 novembre 2010), prévoit, lorsque le délai de départ fixé dans la décision de renvoi initiale est expiré, la fixation d'un nouveau délai de départ de quatre semaines après le dépôt d'une demande de suspension obtenue suite à une voie de droit extraordinaire ou un recours (demande de réexamen, révision) si la durée de la procédure est supérieure à deux ans (directive précitée p. 3).
Depuis le 1er janvier 2011, l'art. 64d LEtr prévoit de manière générale et pour tous les renvois que la décision doit être assortie d'un délai de départ raisonnable de sept à trente jours, sous réserve de situations particulières dans lesquelles le renvoi peut être immédiatement exécutoire ou assorti d'un délai inférieur à sept jours (cf. al. 2). Cette exigence découle des prescription imposées à la Suisse en relation avec la reprise de la directive 2008/115/CE du Parlement européen et du Conseil 16 décembre 2008 relative aux normes et procédures communes applicables dans les Etats membres au retour des ressortissants de pays tiers en séjour irrégulier (cf. art. 7 de cette directive).
2.3 Lorsque l'exécution immédiate du renvoi n'a pas été prononcée, les autorités chargées de l'exécution du renvoi doivent en principe attendre le terme du délai de départ volontaire fixé avant de placer l'étranger renvoyé en détention en application de l'art. 76 LEtr. Ce n'est que dans des circonstances exceptionnelles, par exemple s'il apparaît clairement que l'intéressé s'apprête à partir dans la clandestinité avant l'expiration du délai de départ volontaire fixé, qu'une détention peut être ordonnée. Il en va a fortiori de même lorsqu'aucun délai de départ n'a encore été signifié.
2.4 En l'espèce, le recourant a bénéficié d'une admission provisoire de 2005 à 2008, de sorte que, pendant ce délai, son renvoi n'était plus possible. Après la levée de son admission provisoire confirmée par le Tribunal administratif fédéral le 16 juin 2008, l'ODM lui a fixé un délai de départ au 21 juillet 2008 pour quitter la Suisse. Le recourant a alors formé une demande de réexamen, faisant valoir des faits nouveaux. A la suite du rejet de cette requête par l'ODM le 16 janvier 2009, il a porté la cause devant le Tribunal administratif fédéral, qui lui a accordé le droit de rester en Suisse pendant la durée de la procédure, qui s'est soldée par l'arrêt du 15 juillet 2011 rejetant sa demande de révision. La procédure ayant duré plus de deux ans, il appartenait à l'ODM de fixer un nouveau délai de départ approprié au recourant conformément à l'art. 64d LEtr, à l'art. 26 al. 3 OERE et à la directive précitée du 1er janvier 2008 de l'ODM, une exécution immédiate du renvoi n'ayant pas été ordonnée.
Partant, les autorités cantonales ne pouvaient, sauf circonstances exceptionnelles, placer le recourant en détention administrative, sans même attendre que l'ODM ne lui ait fixé un délai pour organiser son départ volontaire. Or, les autorités ne font état d'aucun indice qui permettrait de retenir de telles circonstances. Le seul fait que le recourant ait toujours affirmé aux autorités qu'il ne voulait pas retourner dans son pays n'est à l'évidence pas suffisant pour justifier sa mise en détention immédiate. En outre, on ne saurait suivre le Juge unique, lorsqu'il reproche au recourant d'avoir fait obstruction à son renvoi, alors que l'intéressé a obtenu, par les voies légales, d'être mis au bénéfice d'une admission provisoire et de pouvoir rester en Suisse pendant la procédure de réexamen pendante devant le Tribunal administratif fédéral. La longueur des procédures, en particulier le fait que le Tribunal administratif fédéral ait mis plus de deux ans avant de se prononcer, est une circonstance qui ne peut être imputée au recourant.
Dans ces conditions, la détention prononcée avant que le recourant ne se soit vu fixer un délai pour préparer son départ volontaire est illégale. Le recours doit donc être admis, l'arrêt du 26 août 2011 annulé et le recourant libéré immédiatement.
II. Recours contre l'arrêt du 30 août 2011
3. Le recourant se plaint d'une violation de son droit d'être entendu, en particulier de son droit à l'assistance judiciaire (art. 29 al. 3 Cst.), en relation avec l'impossibilité dans laquelle il a été de bénéficier de l'assistance d'un défenseur.
3.1 En l'espèce, l'avocate du recourant a demandé, le 24 août 2011, que son client soit mis au bénéfice de l'assistance judiciaire. L'arrêt du 26 août 2011 rendu sans que la représentante ait été convoquée, ne fait pas mention de cette requête. L'arrêt du 30 août 2011 rejette pour sa part ladite demande au motif que la requête de réexamen était insuffisamment motivée.
Ce procédé met en évidence à la fois une violation générale du droit d'être entendu et une violation du droit à un défenseur d'office découlant de l'art. 29 Cst.
3.2 Selon l'art. 81 al. 1 LEtr, les cantons veillent à ce que la personne en détention puisse s'entretenir et correspondre avec son mandataire. Si l'étranger n'est pas représenté devant le juge de la détention, parce que les autorités n'ont rien n'entrepris pour permettre un contact avec son mandataire, respectivement parce son avocat n'a pas été informé de la mise en détention ou de son maintien, il y a violation du droit d'être entendu (cf. arrêt 2C_131/2011 du 25 février 2011 consid. 2.4.1 et les références citées).
Une partie dans le besoin a droit, en application de l'art. 29 al. 3, 2ème phrase Cst. à l'assistance gratuite d'un défenseur, dans la mesure où la sauvegarde de ses droits le requiert. Selon l'art. 31 al. 2, 2e phrase Cst ., toute personne privée de sa liberté doit être mise en état (d'une manière appropriée et efficace) de faire valoir ses droits. L'exigence selon laquelle la cause ne doit pas être dépourvue de chances de succès doit, en présence d'une privation de liberté d'une certaine intensité, respectivement d'une certaine durée, être relativisée. La jurisprudence admet ainsi que, lorsque la détention administrative dépasse trois mois, il faut en principe accorder au détenu qui le requiert un défenseur d'office (cf. ATF 134 I 92 consid. 3.2.3 p. 100 s.; arrêt 2C_548/2011 du 26 juillet 2011 consid. 4.2.2).
3.3 En l'espèce, le recourant a été mis en détention pour une première durée de trois mois, de sorte que le Juge cantonal n'avait pas à accorder d'emblée l'assistance judiciaire requise en application de la jurisprudence précitée, mais il devait ne pas se montrer trop strict dans l'évaluation de sa nécessité.
Dans un premier temps, le Juge unique n'a pas convoqué l'avocate du recourant à l'audience du 26 août 2011 ni ne s'est prononcé sur l'assistance judiciaire, malgré la requête de cette représentante du 24 août 2011. En procédant de la sorte, le Juge unique a violé le droit d'être entendu du recourant. Il pouvait toutefois réparer cette violation si, à la demande de l'avocate, il réexaminait sa décision de détention et se prononçait à cette occasion sur la requête d'assistance judiciaire.
Or, dans son arrêt du 30 août 2011, le Juge unique a refusé d'entrer en matière sur la demande de réexamen, au motif que celle-ci était insuffisamment motivée et, pour cette même raison, a rejeté la demande d'assistance judiciaire. Un tel raisonnement fait fi des arrêts déjà rendus par le Tribunal fédéral à propos de la pratique valaisanne consistant à permettre au juge de la détention administrative de statuer dans le délai de 96 heures en l'absence du mandataire du recourant à l'audience. Dans ces arrêts, la Cour de céans a toujours précisé que, lorsque le Tribunal cantonal réserve en faveur du recourant, comme dans le cas d'espèce, le droit de demander une nouvelle décision dans laquelle la légalité et l'adéquation de sa détention seraient réexaminées après audition de son mandataire, le respect du principe de la bonne foi impose au juge saisi de réexaminer l'affaire (arrêts précités 2C_632/2011 consid. 3; 2C_237/2010 consid. 3; 2C_229/2009 consid. 3). En d'autres termes, s'il est admis que le Juge unique puisse statuer en l'absence du représentant de l'étranger placé en détention administrative, c'est parce que ce magistrat s'engage à réexaminer le bien-fondé de la détention en permettant à l'intéressé d'exercer ses droits de partie par l'intermédiaire de son représentant. Dans ces circonstances, si le mandataire du détenu de-mande le réexamen, le Tribunal cantonal est tenu de réparer la violation du droit d'être entendu dont sa première décision est entachée. Il doit rendre une nouvelle décision sur le fond, sans se retrancher derrière des conditions de recevabilité propres à une demande de reconsidération. Par conséquent, le Juge unique ne pouvait refuser d'examiner le bien-fondé de la détention au motif que la demande de réexamen était insuffisamment motivée. Il ne pouvait davantage rejeter la demande d'assistance judiciaire pour ce motif, d'autant que, sur le fond, la détention doit être qualifiée d'illicite (cf. supra consid. 2).
Il en découle que l'arrêt du 30 août 2011 est aussi contraire au droit et doit être annulé. Comme la détention est illicite, la cause n'était pas dépourvue de chances de succès, de sorte que l'assistance judiciaire devait être accordée au recourant sur plan cantonal. Il convient donc de renvoyer l'affaire au Juge unique, afin qu'il désigne Me Mélanie Freymond en qualité d'avocate d'office pour la procédure cantonale et qu'il fixe l'indemnité qui lui est due à ce titre.
4. Au vu de ce qui précède, le canton du Valais succombe entièrement. Il n'a toutefois pas à supporter de frais judiciaires (cf. art. 66 al. 4 LTF); en revanche, il convient de mettre à sa charge les dépens alloués au recourant, qui obtient gain de cause (cf. art. 68 al. 1 LTF). Dans ces circonstances, la demande d'assistance judiciaire formée au plan fédéral devient sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis.
2. Les arrêts du 26 août 2011 et du 30 août 2011 sont annulés.
3. Le recourant est immédiatement libéré.
4. Le canton du Valais versera à la représentante du recourant une indemnité de 2'000 fr. à titre de dépens.
5. La demande d'assistance judiciaire formée sur le plan fédéral est sans objet.
6. La cause est renvoyée au Juge unique afin qu'il désigne Me Mélanie Freymond en qualité d'avocate d'office pour la procédure cantonale et qu'il fixe l'indemnité qui lui est due à ce titre.
7. Le présent arrêt est communiqué à la mandataire du recourant, au Service de la population et des migrations et au Juge unique de la Cour de droit public du Tribunal cantonal du canton du Valais, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 20 septembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Addy