A.- Par décision du 24 novembre 2000, l'Office fédéral des réfugiés n'est pas entré en matière sur la demande d'asile présentée par K._, ressortissant guinéen, a retiré l'effet suspensif à un éventuel recours et a invité le prénommé à quitter immédiatement la Suisse, sous peine de refoulement. Après avoir refusé de restituer l'effet suspensif selon décision incidente du 10 janvier 2000 (recte:
2001), la Commission suisse de recours en matière d'asile a, le 23 février 2001, déclaré irrecevable le recours dont elle avait été saisie.
Entendu le 21 décembre 2000 par le Service de l'état civil et des étrangers du canton du Valais (ci-après: le Service cantonal), K._, dépourvu de toute pièce d'identité, a déclaré qu'il n'était pas disposé à rentrer dans son pays d'origine, mais qu'il essaierait de se procurer les documents de voyage nécessaires à son départ de Suisse.
Le 21 décembre 2000, le Service cantonal a demandé à l'Office fédéral des réfugiés un soutien à l'exécution du renvoi de K._.
Le 29 janvier 2001, K._ a indiqué à la Police cantonale valaisanne qu'il refusait de rentrer dans son pays d'origine et qu'il n'avait rien entrepris pour se procurer un document de voyage valable.
Par décision du 29 janvier 2001, le Service cantonal a ordonné la mise en détention immédiate de l'intéressé en vue du refoulement pour une durée de trois mois.
Lors de son audition du 30 janvier 2001, K._ a indiqué au Juge unique de la Cour de droit public du Tribunal cantonal du canton du Valais (ci-après: le Juge unique) qu'il était d'accord de rentrer chez lui et de rencontrer un représentant de l'Ambassade de Guinée pour obtenir un laissez-passer.
Il a précisé que sa famille se composait d'une seule soeur qui, en fait, n'était pas sa "soeur de sang", mais qu'il l'appelait ainsi parce qu'ils avaient vécu ensemble.
Le Juge unique a, par arrêt du 30 janvier 2001, confirmé la décision du Service cantonal du 29 janvier 2001.
Le 7 février 2001, K._ a été mis en contact téléphonique avec un représentant de l'Ambassade de Guinée à Paris. Ce dernier a indiqué que K._ était probablement ressortissant de Guinée, mais a refusé de délivrer un laissez-passer au motif que K._ avait refusé de collaborer.
Le 16 février 2001, K._ a été réentendu par le Juge unique en présence de son avocat, lequel n'avait pas été dûment convoqué à l'audition du 30 janvier 2001. A cette occasion, il a déclaré qu'il n'avait vu sa soeur, avec laquelle il n'avait jamais fait ménage commun, qu'une seule fois. Par arrêt du 16 février 2001 (remplaçant celui du 30 janvier 2001 entaché d'une irrégularité), le Juge unique a confirmé la décision du Service cantonal du 29 janvier 2001.
Cet arrêt n'a pas été attaqué.
B.- Le 19 avril 2001, K._ a refusé d'avoir un nouvel entretien téléphonique avec un représentant de l'Ambassade de Guinée, à Paris.
Le 19 avril 2001, le Service cantonal a décidé d'accorder l'assistance judiciaire totale à K._ et de désigner son mandataire comme avocat d'office et de proposer la prolongation de la détention en vue du refoulement pour une durée maximale de trois mois.
Le 20 avril 2001, les empreintes digitales de l'intéressé ont été transmises aux autorités allemandes en vue de son identification.
Le 26 (recte: 27) avril 2001, K._ a été entendu par Juge unique: il a déclaré qu'il n'avait entrepris aucune démarche en vue d'obtenir des papiers d'identité, tout en précisant qu'il était d'accord de rentrer chez lui.
Par arrêt du 27 avril 2001, le Juge unique a prolongé jusqu'au 29 juillet 2001 la détention administrative de K._ et a rejeté l'assistance judiciaire.
C.- Par acte de recours du 30 mai 2001 adressé au Tribunal fédéral, K._ conclut à l'annulation de l'arrêt précité du 27 avril 2001 et à sa mise en liberté immédiate.
Le Service cantonal propose de rejeter le recours, tandis que le Juge unique a déposé ses observations sans prendre de conclusions expresses. Quant à l'Office fédéral des étrangers, il a renoncé à se déterminer.
Selon une analyse linguistique effectuée le 30 mai 2001, il semblerait que K._ soit originaire de Guinée-Bissau et non de Guinée (Conakry).

Considérant en droit :
1.- Selon l'art. 13b al. 1 de la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 142. 20), si une décision de renvoi ou d'expulsion de première instance a été notifiée à un étranger, l'autorité cantonale compétente peut, aux fins d'en assurer l'exécution, mettre en détention cette personne, notamment lorsque "des indices concrets font craindre qu'elle entend se soustraire au refoulement, notamment si son comportement jusqu'alors mène à conclure qu'elle se refuse à obtempérer aux instructions des autorités" (lettre c; sur les indices de danger de fuite, voir <ref-ruling> consid. 2a; <ref-ruling> consid. 3b/aa; Alain Wurzburger, La jurisprudence récente du Tribunal fédéral en matière de police des étrangers, in: RDAF 53/1997 I, p. 267 ss, spéc. p. 332/333). En principe, la durée de la détention ne peut excéder trois mois; toutefois, elle peut, avec l'accord de l'autorité judiciaire cantonale, être prolongée de six mois au maximum, si des obstacles particuliers s'opposent à l'exécution du renvoi ou de l'expulsion (art. 13b al. 2 LSEE). La détention est subordonnée à la condition que les autorités entreprennent sans tarder les démarches nécessaires à l'exécution du renvoi ou de l'expulsion (art. 13b al. 3 LSEE). Enfin, selon l'art. 13c al. 5 lettre a LSEE, elle doit être levée lorsque son motif n'existe plus ou que l'exécution du renvoi ou de l'expulsion s'avère impossible pour des raisons juridiques ou matérielles (voir, sur l'ensemble de ces points, les arrêts cités in ATF <ref-ruling> consid. 3a p. 374).
2.- Force est de constater d'emblée que les autorités cantonales ont satisfait à leur obligation de diligence imposée par l'art. 13b al. 3 LSEE, consistant à effectuer rapidement les démarches propres à déterminer l'identité et à obtenir les papiers nécessaires au renvoi de l'intéressé, avec ou sans sa collaboration (Andreas Zünd, Die Rechtsprechung des Bundesgerichts zu den Zwangsmassnahmen im Ausländerrecht, in: ZBJV 132/1996 p. 89). En effet, elle ont, le 21 décembre 2000, demandé à l'Office fédéral des réfugiés un soutien à l'exécution du renvoi du recourant. Le 7 février 2001, elles ont mis le recourant en contact téléphonique avec un représentant de l'Ambassade de Guinée à Paris.
Elles ont tenté de le faire à nouveau le 19 avril 2001, mais le recourant a refusé. Le 20 avril 2001, une requête de comparaison dactyloscopique a été adressée à l'Allemagne. Par ailleurs, il ressort du dossier de la cause que les autorités poursuivent avec la diligence voulue les démarches en vue du renvoi du recourant, puisqu'une analyse linguistique du recourant a eu lieu le 30 mai 2001, après que l'arrêt attaqué a été rendu.
3.- a) Selon décision du 29 janvier 2001, confirmée le 16 février 2001 par le Juge unique, le recourant avait été mis en détention en vue du refoulement au sens de l'art. 13b al. 1 lettre c LSEE pour une durée de trois mois, soit jusqu'au 29 avril 2001. Les autorités cantonales avaient retenu qu'il existait des indices concrets faisant craindre qu'il entendait se soustraire à son renvoi: le recourant, sous le coup d'une décision de renvoi de Suisse exécutoire, était dépourvu de papiers d'identité et n'avait entrepris aucune démarche en vue de s'en procurer; il avait déclaré le 29 janvier 2001 qu'il refusait de retourner dans son pays d'origine. Il lui était également reproché d'avoir fait des déclarations contradictoires sur sa famille.
Reste à examiner si les conditions de l'art. 13b al. 1 lettre c LSEE sont effectivement remplies et partant si la prolongation de la détention est justifiée.
b) Dans ses observations, le Service cantonal soutient que la prolongation de la détention est justifiée par le comportement passif du recourant. A cet égard, il convient toutefois de souligner que le comportement purement passif d'un étranger, par exemple le défaut de coopération à la recherche de papiers, ne constitue pas un motif suffisant de détention. Cependant, il faut considérer que, plus le comportement passif de l'étranger se prolonge, plus cette inertie constitue un indice important pouvant conduire - en tenant compte des autres circonstances - à admettre l'existence d'un motif de détention au sens de l'art. 13b al. 1 lettre c LSEE. Par ailleurs, l'étranger qui donne des renseignements manifestement invraisemblables ou contradictoires, notamment sur son origine, ne se comporte pas de manière purement passive. Celui qui, de cette façon, rend plus difficile la tâche des autorités est en principe présumé vouloir se soustraire à son refoulement. En revanche, il faudra des indices très forts pour admettre le risque de fuite lorsque la personne concernée s'est tenue assez longtemps et sans interruption à la disposition des autorités (arrêts non publiés du 29 septembre 1999 en la cause Luvumbu-Nsumbu, consid. 3a et du 14 janvier 1997 en la cause Khan, consid. 2c; Wurzburger, op. cit. , p. 333).
c) En l'occurrence, le recourant déclare être disposé à rentrer dans son pays d'origine et à collaborer à son départ de Suisse. Mais une telle affirmation n'est pas absolument déterminante, dès lors que le recourant n'a entrepris aucune démarche concrète en vue d'obtenir les documents de voyage nécessaires à son renvoi et, quoi qu'il en dise, n'a pas collaboré activement avec les autorités cantonales chargées de son renvoi. Tout porte à croire que ces déclarations ont été faites pour les besoins de la cause. Il est vrai que, le 7 février 2001, le recourant a accepté d'avoir un entretien téléphonique avec un représentant de l'Ambassade de Guinée, à Paris. Mais il ne peut pas en tirer argument, puisqu'il n'a pas pleinement coopéré, de telle sorte qu'aucun laissez-passer n'a pu être délivré.
L'intéressé continue à affirmer être guinéen, bien qu'un doute subsiste quant à sa nationalité. Le 19 avril 2001, il a refusé d'avoir un nouvel entretien téléphonique avec un représentant de l'Ambassade de Guinée, à Paris, sous prétexte qu'il avait plus rien à lui dire. Par ailleurs, il a toujours refusé d'écrire à l'ambassade de son pays, à un membre de sa famille ou à l'une de ses connaissances pour obtenir des papiers d'identité, au motif qu'il ne savait pas comment s'y prendre. De tels indices ne sont pas, à eux seuls, suffisants pour continuer à admettre un danger de fuite réel. Force est toutefois de reconnaître que le comportement passif du recourant tend à se prolonger, ce qui constitue un indice important de risque de fuite réel. En fait, le recourant ne se comporte pas seulement de manière purement passive: lors de l'entretien téléphonique du 7 février 2001 avec un représentant de l'Ambassade de Guinée, il a délibérément répondu de manière vague et incomplète aux questions posées de ce dernier. Ce faisant, l'intéressé - de manière assez habile - a cherché à rendre plus difficile la tâche des autorités chargées de son renvoi, tout en essayant de faire croire qu'il avait la volonté de collaborer.
De surcroît, le recourant a précisé au cours de l'audience du 30 janvier 2001 devant le juge de la détention que sa famille se composait d'une seule soeur qui, en fait, n'était pas sa "soeur de sang", mais qu'il l'appelait ainsi parce qu'ils avaient vécu ensemble, alors que le 16 février 2001 le recourant a déclaré qu'il n'avait vu sa "soeur", qui habitait loin de chez lui, qu'une seule fois. Or ces déclarations - pour le moins ambiguës - constituent un indice supplémentaire que le recourant ne se contente pas d'adopter un comportement purement passif, mais tente de brouiller les pistes, afin de compliquer l'obtention de ses papiers d'identité.
Compte tenu de l'ensemble de ces circonstances, les conditions de l'art. 13b al. 2 en relation avec l'art. 13b al. 1 lettre c LSEE sont remplies dans le cas présent.
d) Il apparaît par ailleurs que la durée de la prolongation de la détention respecte le principe de la proportionnalité (<ref-ruling> ss). Enfin, l'exécution du refoulement de l'intéressé ne s'avère pas d'emblée impossible pour des raisons juridiques ou matérielles (art. 13c al. 5 lettre a LSEE).
4.- Le recourant se plaint de ce que le juge de la détention a rejeté sa requête d'assistance judiciaire, alors même que son mandataire avait été désigné avocat d'office par décision du 19 avril 2001 du Service cantonal. A noter qu'un étranger indigent a en principe droit, lors d'une procédure en prolongation de la détention en vue du refoulement, à l'assistance d'un avocat d'office (<ref-ruling> ss). Dans ses observations adressées au Tribunal fédéral, le Juge unique explique que, conformément à la pratique cantonale, l'assistance judiciaire est "accordée aux frais" du Service cantonal, lequel ne l'a pas contesté. Il n'est donc pas nécessaire d'annuler la décision attaquée sur ce point.
Il suffit de prendre acte du fait que les honoraires de l'avocat d'office du recourant pour la procédure de prolongation de la détention devant le Juge unique seront pris en charge par le Service cantonal.
5.- Vu ce qui précède, le recours doit être rejeté.
Quant à la requête d'assistance judiciaire complète présentée par le recourant, elle doit être admise, puisque les conditions de l'art. 152 al. 1 et 2 OJ sont remplies. En conséquence, il convient de statuer sans frais et de désigner Me Gaëtan Coutaz avocat d'office pour la procédure fédérale et de lui allouer une indemnité de ce chef.

Par ces motifs,
le Tribunal fédéral :
1. Rejette le recours.
2. Admet la demande d'assistance judiciaire.
3. Dit qu'il n'est pas perçu d'émolument judiciaire.
4. Désigne Me Gaëtan Coutaz, avocat à Sion, comme avocat d'office du recourant et dit que la Caisse du Tribunal fédéral lui versera une indemnité de 1'500 fr. à titre d'honoraires.
5. Communique le présent arrêt en copie au recourant, au Service de l'état civil et des étrangers et au Juge unique de la Cour de droit public du Tribunal cantonal du canton du Valais, ainsi qu'à l'Office fédéral des étrangers.
_
Lausanne, le 14 juin 2001LGE/elo
Au nom de la IIe Cour de droit public
du TRIBUNAL FEDERAL SUISSE:
Le Président,
Le Greffier,