Faits:
A. X._ exécute, depuis le 17 octobre 2006, une peine privative de liberté d'une durée de 11 ans - sous déduction de 218 jours de détention préventive - prononcée par jugement du 1er février 2006 pour meurtre. Le 2 novembre 2010, il a déposé une requête tendant à l'interruption de l'exécution de la peine dans l'attente de son changement de sexe et de pouvoir poursuivre ensuite celle-ci dans un établissement pénitentiaire pour femmes. La Cheffe du Département de la Sécurité des affaires sociales et de l'intégration (ci-après : DSSI) a rejeté la demande par décision du 15 juin 2011.
B. Le 28 juin 2011, X._ a recouru à la Cour de droit public du Tribunal cantonal valaisan (ci-après : la Cour de droit public) contre la décision de la Cheffe du DSSI. Par courriers du 30 juin 2011, la cour cantonale a accusé réception du recours et imparti un délai de réponse au 31 août 2011. Le DSSI a répondu par écriture du 29 juillet 2011, transmise le jour même au recourant par la cour cantonale qui lui a imparti un délai de réplique fixé au 30 août 2011. X._ a posté sa réplique le 5 août 2011. Celle-ci a été transmise à la Cheffe du DSSI par envoi du 9 août 2011.
C. Le 23 août 2011, X._ a saisi le Tribunal fédéral d'un recours en matière pénale contre la Cour de droit public pour déni de justice dans l'affaire précitée. Il a en outre requis le bénéfice de l'assistance judiciaire gratuite.
D. Par arrêt du 30 août 2011, la Cour de droit public a admis le recours de X._, annulé la décision rendue le 15 juin 2011 par la Cheffe du DSSI et renvoyé l'affaire à celle-ci pour un complément d'instruction, puis nouvelle décision.
E. Invité à se déterminer sur le maintien de son recours en matière pénale pour déni de justice, le recourant a constaté qu'il était devenu sans objet puisque l'arrêt cantonal rendu le 30 août 2011, l'avait été une semaine après le dépôt de son recours au Tribunal fédéral. Il a ajouté que le recours pour déni de justice n'était pas dénué de chances de succès et que s'il ne l'avait pas déposé, le Tribunal cantonal aurait tardé davantage avant de statuer. Il en déduit le droit à des dépens. Il demande également qu'un délai soit imparti à l'autorité cantonale afin de la contraindre de prononcer sans tarder la décision finale sur sa requête d'interruption de peine.

Considérant en droit:
1. Conformément aux art. 94 et 100 al. 7 LTF, le recours au Tribunal fédéral est recevable en tout temps si, sans en avoir le droit, la juridiction saisie s'abstient de rendre une décision sujette à recours ou tarde à le faire. Le Tribunal cantonal valaisan a rendu le 30 août 2011 l'arrêt dont le recourant requérait la notification, de sorte que son recours en matière pénale déposé pour déni de justice a perdu son objet. En outre, les conditions auxquelles le Tribunal fédéral entre exceptionnellement en matière sur le fond d'une affaire malgré le défaut d'un intérêt juridique pratique et actuel du recours ne sont pas réunies (<ref-ruling> consid 1.3 p. 276; <ref-ruling> consid. 1.1 p. 810). Le recourant ne peut donc se prévaloir d'aucun intérêt juridique - au sens de l'art. 81 al. 1 let. b LTF - à faire constater un éventuel retard à statuer. Cet intérêt ayant disparu après le dépôt du recours, ce dernier doit être déclaré sans objet et la cause rayée du rôle (art. 32 al. 2 LTF; <ref-ruling> consid 2 p. 500).
2. 2.1 Lorsqu'un procès devient sans objet ou que les parties cessent d'y avoir un intérêt juridique, le Tribunal fédéral statue néanmoins sur les frais afférents à la procédure engagée par une décision sommairement motivée, en tenant compte de l'état de fait existant avant l'événement mettant fin au litige (art. 72 PCF applicable par renvoi de l'art. 71 LTF) et de l'issue probable de celui-ci (<ref-ruling> consid. 2a p. 375).
2.2 En vertu de l'art. 29 al. 1 Cst., toute personne a droit, dans une procédure judiciaire ou administrative, à ce que sa cause soit traitée équitablement et jugée dans un délai raisonnable. Cette disposition consacre le principe de la célérité, ou, en d'autres termes, prohibe le retard injustifié à statuer. Viole la garantie ainsi accordée, l'autorité qui ne rend pas une décision qu'il lui incombe de prendre dans le délai prescrit par la loi ou dans le délai que la nature de l'affaire et les circonstances font apparaître comme raisonnable. Le caractère raisonnable du délai s'apprécie selon les circonstances particulières de la cause, eu égard en particulier à la complexité de l'affaire, au comportement du requérant et à celui des autorités compétentes, ainsi qu'à l'enjeu du litige pour l'intéressé (<ref-ruling> consid. 4.4 p. 277; <ref-ruling> consid. 5.1 p. 331).
2.3 Sur le fond, le litige avait pour objet une demande d'interruption d'une peine privative de liberté d'une durée de onze années prononcée pour meurtre. Aux termes de l'art. 92 CP, l'exécution des peines et des mesures peut être interrompue pour un motif grave. En l'occurrence, la demande d'interruption était fondée sur le fait que le diagnostic de transsexualisme avec désir de devenir une femme avait été posé dans le cas de X._ et que le changement de sexe était la seule approche thérapeutique possible pour ce dernier. A dires d'expert, X._ n'était pas exposé à un risque sérieux pour sa vie (suicide) ou pour sa santé (troubles graves et irréversibles) dans l'hypothèse où la phase de « l'expérience de vie réelle » se déroulait dans une structure pénitentiaire adaptée (établissement pour femmes), avec la possibilité de passer en travail externe à compter du 21 septembre 2011. La cour cantonale a considéré que cet avis n'excluait pas l'exposition du recourant à un risque sérieux pour sa vie (suicide) ou pour sa santé (troubles graves et irréversibles) dans l'hypothèse où le traitement envisagé s'effectuait sous un régime de détention analogue à celui auquel X._ était, en l'état, astreint à la prison préventive de Martigny. Elle a dès lors renvoyé l'affaire à la Cheffe du DSSI pour complément d'instruction sur ce point et nouvelle décision.
La solution du litige nécessitait ainsi une appréciation approfondie et délicate du dossier - en particulier de l'expertise médicale ordonnée par la Cheffe du DSSI - compte tenu de la nature singulière de l'affaire. Le recourant lui-même n'a pas reconnu le défaut d'instruction relevé par les magistrats cantonaux. En outre, l'autorité intimée a été saisie du recours de X._ le 28 juin 2011. La réponse a été déposée le 29 juillet 2011, tandis que X._ a répliqué le 5 août 2011. L'échange d'écriture s'est achevé par la transmission de cette dernière écriture à l'autorité intimée quatre jours plus tard. L'arrêt cantonal a été rendu le 30 août 2011, soit un peu moins d'un mois plus tard. Le déroulement de la procédure n'a donc été entaché d'aucun temps mort. Il ne ressort pas du rapport d'expertise que l'état de santé du recourant eût requis qu'elle se prononçât plus rapidement, voire toutes affaires cessantes. En statuant dans les 30 jours suivant la fin de l'échange d'écritures, la cour cantonale ne saurait se voir reprocher de n'avoir pas rendu la décision qu'il lui incombait dans un délai raisonnable. Dans ces circonstances, le recourant n'aurait pas été fondé à se plaindre d'un déni de justice.
3. Comme les conclusions du recours étaient vouées à l'échec, la requête d'assistance judiciaire doit être rejetée (art. 64 al. 1 LTF). Le recourant, qui succombe, ne saurait prétendre à des dépens. En outre, les frais sont en principe mis à la charge de la partie qui succombe (art. 66 al. 1 LTF). Toutefois, les frais causés inutilement sont supportés par celui qui les a engendrés (art. 66 al. 3 LTF). Le Tribunal fédéral peut ainsi exceptionnellement décider de mettre les frais non pas à la charge de la partie qui succombe mais à celle de son avocate personnellement (<ref-ruling>, consid. 2 p. 207 s.), la radiation du rôle du recours lui étant imputable. L'on peut en effet attendre d'un avocat qu'il ne procède pas inutilement devant le Tribunal fédéral. Si la mandataire avait interpellé le juge instructeur avant de saisir le Tribunal fédéral, celui-là lui aurait appris qu'un jugement allait être rendu de façon imminente, de sorte qu'elle aurait pu éviter de saisir le Tribunal fédéral d'un recours pour déni de justice. Il se justifie donc de mettre l'émolument judiciaire à sa charge.

Par ces motifs, le Juge unique prononce:
1. La cause, devenue sans objet, est rayée du rôle.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge de Me Kathrin Gruber, avocate à Vevey.
4. Il n'est pas alloué de dépens.
5. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour de droit public.
Lausanne, le 22 septembre 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Juge unique: Schneider
La Greffière: Gehring