Faits: A. Le 17 mai 2008, le Service de l'état civil et des étrangers du canton du Valais a ordonné le refoulement sans délai à la frontière et, le 18 mai 2008, décidé la mise en détention immédiate de X._, d'origine kénianne née en 1983, arrivée en Suisse illégalement, selon ses dires, depuis le 13 mai 2008 pour y demander protection. Durant l'audience tenue le 20 mai 2008 par le Juge unique de la Cour de droit publique du Tribunal cantonal du canton du Valais (ci-après: le Juge unique), X._, assistée d'un interprète, a d'abord déclaré avoir remis un document d'identité à la personne qui l'avait accompagnée lors de son voyage en avion jusqu'en Suisse, puis n'avoir donné aucun document de ce type mais seulement de l'argent. B. Par arrêt du 20 mai 2008, notifié immédiatement, le Juge unique a approuvé la décision du 18 mai 2008 considérant que X._ avait tenu des déclarations contradictoires qui constituaient un comportement permettant de conclure qu'elle refusait d'obtempérer aux instructions de l'autorité. Par ailleurs rien ne permettait de penser que les démarches nécessaires à l'exécution du renvoi n'étaient pas menées avec diligence. C. Par courrier du 4 juin 2008 adressé au Juge unique et transmis au Tribunal fédéral à titre de recours, X._ s'oppose à l'arrêt du 20 mai 2008 et demande à être libérée. Elle requiert la désignation d'un défenseur d'office. Le Tribunal fédéral n'a pas ordonné d'échange d'écritures.