Faits: A.a Y._, ressortissant étranger, né en 1965, a déposé une demande d'asile en Suisse le 16 décembre 1993, laquelle a été rejetée au mois de février 1994. Il a bénéficié ensuite de l'admission provisoire. La levée de cette mesure le 5 juillet 2007, liée à la fin du conflit au pays X._, a donné lieu à une décision de renvoi. Une demande de reconsidération de cette décision de renvoi a été rejetée, sur recours, par le Tribunal administratif fédéral le 11 août 2010. Divorcé depuis 2002 d'une compatriote, Y._ est père d'un garçon, né le 17 janvier 2001, admis provisoirement et vivant chez sa mère, à C._. Le père est titulaire d'un droit de visite qu'il exerce régulièrement. Conformément à un jugement du 19 juin 2003 du Tribunal d'arrondissement Z._, il peut avoir son fils auprès de lui un week-end sur deux et durant la moitié des vacances scolaires. Par courrier du 19 janvier 2009, Y._ a sollicité du Service de la population (SPOP) l'octroi de l'aide d'urgence en espèces et l'allocation d'un logement individuel proche du lieu de domicile de son fils, afin de lui permettre de poursuivre sa relation avec l'enfant. Le 20 janvier 2009, le SPOP a informé l'intéressé qu'il lui incombait de se rendre personnellement au SPOP, lequel rendrait une décision d'octroi d'aide d'urgence, puis auprès de l'Etablissement vaudois d'accueil des migrants (EVAM) qui rendrait une décision quant aux modalités des prestations d'hébergement et d'entretien. Par la suite, Y._ a renouvelé sa demande à plusieurs reprises, tant à l'adresse de l'EVAM qu'à celle du Département de l'intérieur (DINT). Le 4 février 2010, l'intéressé a fait parvenir à l'EVAM une copie du jugement de divorce et requis une décision sur les modalités de l'aide d'urgence portant notamment sur l'attribution d'un logement individuel, l'allocation de prestations en espèces pour son entretien et celui de son fils lorsqu'il en avait la garde, ainsi que pour ses frais de transport en relation avec son droit de garde et ses démarches auprès du SPOP pour renouveler son droit à l'aide d'urgence. Le 9 février 2010, l'EVAM a indiqué qu'il devait d'abord se rendre au SPOP pour y demander une décision d'octroi de l'aide d'urgence, et que ce n'était qu'après qu'il se verrait attribuer un logement par voie de décision. L'EVAM a ajouté que l'intéressé n'obtiendrait pas un logement individuel, mais qu'il serait logé dans un hébergement collectif. Ce courrier ne mentionnait pas de voies de droit. Le 11 février 2010, Y._ a fait opposition à cette prise de position de l'EVAM du 9 février 2010. Il soutenait que l'attribution d'une place d'hébergement dans un foyer collectif n'était pas conforme au principe de la protection de la vie familiale avec son enfant mineur. Il concluait à ce que l'autorité indique le centre d'hébergement où il était censé prendre logement et, s'il s'agissait d'un des centres de N._, B._ ou S._, à ce que l'EVAM annule sa "décision" du 9 février 2010. Le 22 février suivant, il a demandé à l'EVAM de statuer à bref délai sur son opposition. Par courrier du 24 février 2010, l'EVAM a indiqué qu'il n'avait pas la compétence de rendre une décision dès lors que l'intéressé séjournait illégalement sur le territoire suisse et qu'il n'était plus au bénéfice des prestations d'aide d'urgence depuis le 6 juillet 2009. Aussi a-t-il refusé de donner suite à la demande de l'intéressé tendant à la mise à disposition d'un logement individuel. Ce courrier ne mentionnait pas de voies de droit. Le 2 mars 2010, le SPOP a alloué à Y._ les prestations d'aide d'urgence pour la période du 2 mars au 1er avril 2010. La décision indiquait qu'elle serait exécutée par l'EVAM, qui devait notamment décider du type et du lieu d'hébergement. Le même jour, Y._ a également formé une opposition contre le courrier de l'EVAM du 24 février 2010 en concluant à l'annulation de la prise de position de cet établissement du 9 février précédent et à la mise à disposition d'un logement adéquat, proche du domicile de son fils. Selon l'intéressé, l'EVAM ne pouvait différer sa décision d'attribution d'un logement au motif que la décision d'octroi de l'aide d'urgence n'avait pas été renouvelée; tant que le litige au sujet de l'attribution du logement n'était pas résolu, aucune décision de renouvellement de l'aide d'urgence ne pouvait être rendue, du moment que l'intéressé ne percevait pas de prestations en espèces et ne pouvait pas, de ce fait, se rendre auprès du SPOP tous les quinze jours. Le 9 mars 2010, l'EVAM a indiqué que sa prise de position du 9 février précédent - par laquelle il avait décliné sa compétence au motif de l'absence de décision du SPOP au sujet de l'aide d'urgence - ne constituait pas une décision sujette à opposition. Cependant, étant donné qu'entre-temps, le SPOP avait alloué l'aide d'urgence pour la période du 2 mars au 1er avril 2010, la demande de l'intéressé tendant à l'attribution d'un logement individuel sis à proximité du domicile de son fils serait transmise pour traitement à son unité hébergement. Par décision du 23 mars 2010, indiquant les voies de droit, l'EVAM a rejeté la demande de placement dans un logement individuel. A.b Le 22 avril 2010, Y._ a saisi le DINT d'un recours pour refus de statuer de l'EVAM. Il reprochait à celui-ci de n'avoir pas statué sur ses oppositions des 11 février et 2 mars 2010, la décision rendue le 23 mars 2010 n'étant pas, selon lui, conforme à son droit à une décision motivée, susceptible de recours. Par mémoire du 5 août 2010 adressé au SPOP, l'intéressé a demandé qu'il soit statué à bref délai sur son recours devant le DINT, à défaut de quoi il saisirait l'autorité judiciaire pour déni de justice. B. B.a Le 2 septembre 2010, Y._ a saisi la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud d'un recours pour refus de statuer du DINT (cause PS.2010.0049). Par décision du 4 octobre 2010, le DINT a rejeté, dans la mesure où il n'était pas sans objet, le recours formé contre le refus de l'EVAM de statuer sur les oppositions des 11 février et 2 mars 2010. Par décision du 29 octobre 2010, le juge instructeur a rayé du rôle la cause PS.2010.0049 au motif que le recours pour refus de statuer était devenu sans objet ensuite de la décision du DINT du 4 octobre 2010. B.b Y._ a recouru devant le tribunal cantonal contre la décision du DINT du 4 octobre 2010 dont il demandait l'annulation, en concluant à l'attribution d'un logement pour famille monoparentale avec un enfant et à l'octroi de prestations d'urgence en espèces, y compris pour les transports et l'entretien de l'enfant, liés à l'exercice du droit de visite. Par jugement du 21 février 2011, le tribunal cantonal a rejeté le recours dans la mesure où il était recevable. C. Y._ interjette un recours en concluant à l'annulation du jugement du tribunal cantonal du 21 février 2011. En outre, il sollicite le bénéfice de l'assistance judiciaire en vue d'être dispensé des frais de justice et demande à être entendu en audience par le Tribunal fédéral pour expliquer son cas. Dans sa réponse au recours, l'EVAM a indiqué que le recourant avait obtenu l'admission provisoire par décision du 8 avril 2011. Aussi est-il d'avis que le recours n'a plus d'objet et que la cause doit être rayée du rôle, dans la mesure où l'intéressé n'est plus assimilé à une personne déboutée de sa demande d'asile. De son côté, la juridiction cantonale a renoncé à présenter des déterminations. Par lettre du 7 juin 2011, le recourant allègue qu'il y a lieu de renoncer à l'exigence d'un intérêt actuel à recourir, du moment qu'il pourrait se retrouver dans une situation de détresse en cas d'annulation de l'admission provisoire.