Faits:
A. Le 7 septembre 2010, la Police de sûreté valaisanne a interpellé B._, requérant d'asile débouté, sans domicile fixe, soupçonné d'être impliqué dans un trafic de drogue, alors qu'il quittait l'immeuble sis au n° 36 de la rue des Finettes, à Martigny. Dans le studio qu'il occupait dans ce bâtiment, les enquêteurs ont appréhendé A._ et C._, requérants d'asile déboutés. Ils ont également saisi 23 boulettes de cocaïne, du matériel de conditionnement ainsi que 3'000 francs et 295 euros en espèces. A._ a reconnu que les 14 boulettes de cocaïne trouvées dans son sac à dos lui appartenaient, affirmant qu'elles étaient destinées à sa consommation personnelle et qu'il les avait acquises pour la somme de 300 francs. Il a en revanche nié toute participation à un quelconque trafic de drogue.
Le 8 septembre 2010, l'Office du Juge d'instruction du Bas-Valais a ouvert une instruction pénale d'office contre A._ pour infraction à l'art. 19 ch. 1 de loi fédérale sur les stupéfiants (LStup).
Par décision du 10 septembre 2010, approuvée par le Président de l'Autorité de plainte du Tribunal cantonal du canton du Valais le 14 septembre 2010, il a ordonné la surveillance rétroactive, pour la période du 8 mars au 8 septembre 2010, du numéro d'appel xxx, correspondant à un téléphone portable trouvé sur A._ au moment de son arrestation. Par décision du 20 septembre 2010, approuvée le 22 septembre 2010, il a ordonné la surveillance rétroactive, pour la même période, du numéro d'appel yyy, correspondant à un téléphone portable également utilisé par l'intéressé.
La Chambre pénale du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a rejeté le recours formé par A._ contre la mesure de surveillance ordonnée le 10 septembre 2010 au terme d'une décision prise le 22 novembre 2010.
B. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral de constater l'illicéité de la décision du juge d'instruction du 10 septembre 2010 et l'illégalité des preuves qui en sont issues, de retirer du dossier et de détruire toutes les pièces provenant de la surveillance ordonnée en tant qu'elles le concernent ainsi que toutes les pièces établies sur la base des informations provenant de cette mesure, et de faire interdiction aux enquêteurs, respectivement à l'autorité judiciaire d'utiliser, sous quelque forme que ce soit, les documents et les informations non écrites obtenues par le biais de la surveillance ou issues, même indirectement de cette source. Il requiert l'assistance judiciaire.
Le Tribunal cantonal se réfère aux considérants de sa décision. L'Office régional du Ministère public du Bas-Valais n'a pas déposé d'observations.

Considérant en droit:
1. Seule la voie du recours en matière pénale au sens des <ref-law> est ouverte en l'espèce vu la nature de la contestation.
1.1 La décision attaquée, qui confirme en dernière instance cantonale la surveillance téléphonique ordonnée par le juge d'instruction le 10 septembre 2010 et qui refuse de retrancher du dossier pénal les pièces recueillies en exécution de cette mesure, ne met pas fin à la procédure pénale ouverte contre le recourant et revêt un caractère incident (arrêts 1B_101/2010 du 13 avril 2010 consid. 2; 1B_194/2008 du 2 septembre 2009 consid. 1.2 et 6S.488/2004 du 12 mai 2005 consid. 2). Le recours en matière pénale n'est recevable contre une telle décision qu'aux conditions de l'<ref-law> dès lors qu'elle n'entre pas dans le champ d'application de l'<ref-law>. L'admission du recours ne conduirait pas immédiatement à une décision finale qui permettrait d'éviter une procédure probatoire longue et coûteuse selon l'<ref-law>. Le recourant ne pourrait donc s'en prendre à cette décision que si elle l'exposait à un préjudice irréparable au sens de l'<ref-law>. En matière pénale, il doit s'agir d'un dommage de nature juridique non susceptible d'être réparé ultérieurement par un jugement final ou une autre décision favorable au recourant (<ref-ruling> consid. 4 p. 95). Cette réglementation est fondée sur des motifs d'économie de la procédure; en tant que cour suprême, le Tribunal fédéral ne doit en principe s'occuper qu'une seule fois d'un procès, et cela seulement lorsqu'il est certain que la partie recourante subit effectivement un dommage définitif (<ref-ruling> consid. 1.2 p. 263).
1.2 Le recourant ne s'exprime pas sur cette condition, comme il lui appartenait de le faire (<ref-ruling> consid. 1.2 p. 429). Cette omission ne saurait toutefois lui porter préjudice et conduire à déclarer son recours irrecevable pour ce motif car il pouvait croire de bonne foi se trouver en présence d'une décision finale, en se fondant sur un arrêt isolé rendu le 25 juillet 2006 dans la cause 1P.322/2006. Il convient ainsi d'examiner si la décision attaquée est de nature à lui causer un préjudice irréparable.
1.3 Selon l'art. 10 al. 5 de la loi fédérale sur la surveillance de la correspondance par poste et télécommunication (LSCPT), dans sa teneur en vigueur lorsque la décision attaquée a été rendue, la personne ayant fait l'objet de la surveillance peut interjeter recours contre celle-ci en invoquant son caractère illicite et son absence de proportionnalité. En cas d'admission du recours, les supports de données et les documents doivent être retirés du dossier de la procédure et détruits (<ref-law>). Le Code de procédure pénale reprend pour l'essentiel ces principes (cf. art. 277 al. 1 et 279 al. 3 CPP). Comme l'indique la doctrine relative au nouveau droit, le défaut de pertinence des informations recueillies en exécution d'une surveillance téléphonique ne saurait être invoqué à l'appui d'un recours dirigé contre l'ordre de confirmation d'une telle mesure car cette appréciation incombe au juge du fond. A l'inverse, ce dernier n'est plus habilité à se prononcer sur la licéité ou la proportionnalité de la surveillance, mais il doit uniquement apprécier les preuves qui en sont issues (cf. THOMAS HANSJAKOB, in Kommentar zur Schweizerischen Strafprozessordnung (StPO), 2010, n. 28 et 30 ad <ref-law>, p. 1378; NIKLAUS SCHMID, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, n. 14 ad <ref-law>, p. 526). Cela étant, nonobstant les arrêts 1B_101/2010 du 13 avril 2010 consid. 2 et 1B_194/2008 du 2 septembre 2009 consid. 1.2, il y a lieu d'admettre que la décision attaquée tranche de manière définitive les questions de la légalité et de la proportionnalité de la surveillance téléphonique rétroactive ordonnée le 10 septembre 2010 et qu'elle est de nature à causer un préjudice irréparable de nature juridique au recourant.
1.4 Ce dernier a pris part à la procédure de recours devant le Tribunal cantonal (<ref-law>). Il peut en outre se prévaloir d'un intérêt juridique à faire constater l'illégalité de la surveillance téléphonique ordonnée le 10 septembre 2010 et à conclure au retrait des éléments recueillis en exécution de cette mesure du dossier de la procédure pénale ouverte à son encontre et détruits (art. 81 al. 1 let. b ch. 1 LTF). Les autres conditions de recevabilité du recours sont réunies de sorte qu'il y a lieu d'entrer en matière sur le fond.
2. Tant la décision de première instance que celle du Tribunal cantonal ont été rendues avant le 1er janvier 2011, date de l'entrée en vigueur du Code de procédure pénale. C'est donc à l'aune de l'ancien droit qu'il convient d'examiner le bien-fondé de l'arrêt attaqué et de la mesure de surveillance litigieuse (<ref-law>). Ces dispositions de droit transitoire n'ont cependant pas d'incidence sur l'issue de la cause, les exigences posées par l'ancien droit ayant au demeurant été reprises intégralement dans le Code de procédure pénale (<ref-law>).
3. Les conditions auxquelles une surveillance téléphonique peut être ordonnée en matière pénale sont énoncées à l'<ref-law>. Il faut ainsi que de graves soupçons reposant sur des faits déterminés pèsent sur la personne concernée quant à la commission de l'un des actes punissables visés à l'art. 3 al. 2 ou 3 LSCPT, ou quant à sa participation à un tel acte (let. a), que la gravité de l'acte le justifie (let. b) et que les mesures prises jusqu'alors dans le cadre de l'instruction soient restées sans succès ou que les recherches n'aient aucune chance d'aboutir ou qu'elles soient excessivement difficiles en l'absence de surveillance (let. c).
3.1 L'existence de graves soupçons reposant sur des faits déterminés quant à la commission d'une infraction grave suffit pour ordonner la mise en oeuvre d'une surveillance téléphonique en vertu de l'<ref-law>; il n'est pas nécessaire de prouver les éléments de la qualification déjà au moment où il s'agit de décider de l'admissibilité d'une telle mesure (<ref-ruling> consid. 3.2.3 p. 194; THOMAS HANSJAKOB, Kommentar zum Bundesgesetz und zur Verordnung über die Überwachung des Post- und Fernmeldeverkehrs, 2006, n. 67 ad <ref-law>, p. 173).
En l'occurrence, la surveillance téléphonique a été ordonnée, puis approuvée et confirmée sur recours en dernière instance cantonale en raison d'une infraction grave à la loi fédérale sur les stupéfiants, soit d'une infraction visée à l'<ref-law> (cf. let. f). Aux termes de l'<ref-law>, le cas est grave notamment lorsque l'auteur sait ou ne peut ignorer que l'infraction porte sur une quantité de stupéfiants qui peut mettre en danger la santé de nombreuses personnes (let. a), lorsqu'il agit comme affilié à une bande formée pour se livrer au trafic illicite des stupéfiants (let. b) ou encore lorsqu'il se livre au trafic par métier et qu'il réalise ainsi un chiffre d'affaires ou un gain important (let. c).
L'affiliation à une bande est réalisée lorsque deux ou plusieurs auteurs manifestent expressément ou par actes concluants la volonté de s'associer en vue de commettre ensemble plusieurs infractions indépendantes, même si elles ne sont pas encore déterminées (<ref-ruling> consid. 2 p. 159). Cette jurisprudence s'applique aussi en matière de stupéfiants (<ref-ruling> consid. 5.2 p. 137; <ref-ruling> consid. 2b p. 88/89, 286 consid. 2a p. 293/294; arrêt 6S.641/2001 du 9 janvier 2002 consid. 2). Le recourant, sans ressources et sans domicile fixe, a été appréhendé en possession de 14 boulettes de cocaïne dans l'appartement d'un compatriote qui faisait l'objet d'une surveillance policière en raison de soupçons d'un trafic de stupéfiants. D'autres boulettes de cocaïne, du matériel de conditionnement et des sommes d'argent relativement importantes pour des personnes sans revenus ni fortune ont en outre été découverts lors de la perquisition. Enfin, la police a saisi deux téléphones portables qui appartenaient au recourant, ce qui est caractéristique des dealers (cf. <ref-ruling> consid. 5.2 p. 137). Ces éléments pris dans leur ensemble étaient propres à fonder des soupçons suffisamment graves au sens de l'<ref-law> qu'il participait activement au trafic de drogue auquel B._ était suspecté de se livrer et qu'ils pouvaient agir en bande au sens de l'<ref-law>. Il importe dès lors peu que la quantité de drogue saisie lors de son interpellation était en soi insuffisante pour réaliser le cas grave, voire qu'il en irait toujours de même à ce jour. Le recourant perd en effet de vue que l'existence de soupçons fondés portant sur la réalisation de l'un des cas graves visés à l'<ref-law> suffit pour ordonner la surveillance. Selon la jurisprudence, lorsque l'une des circonstances aggravantes prévues à cette disposition est concrétisée, il est superflu de se demander si l'infraction ne pourrait pas également être qualifiée de grave pour un autre motif car la suppression de l'une des circonstances aggravantes retenues ne modifie pas la qualification de l'infraction, qui reste grave au sens de l'<ref-law>, ni, par conséquent, le cadre légal de la peine encourue pour cette infraction (<ref-ruling> consid. 2c p. 267/268; <ref-ruling> consid. 1c/aa p. 332/333). Il n'y a donc pas lieu d'examiner la pertinence de l'argumentation du recourant développée pour démontrer que le cas grave visé à l'<ref-law> ne serait pas réalisé.
3.2 Le recourant conteste à tort la proportionnalité de la mesure de surveillance téléphonique au sens de l'<ref-law>. Le trafic illicite de stupéfiants est une infraction grave en particulier lorsque leurs auteurs agissent en bande. La lutte contre le trafic de drogue en raison des ravages sur la santé qu'elle est susceptible de provoquer au sein de la population représente un intérêt public important qui prime l'intérêt du recourant au respect de sa sphère privée (<ref-ruling> consid. 8b/bb p. 249; <ref-ruling> consid. 2c p. 320). La surveillance téléphonique ordonnée le 10 septembre 2010 est au surplus apte à confirmer le cas échéant les soupçons de l'existence d'un tel trafic et de l'implication éventuelle du recourant dans celui-ci étant donné que les contacts avec les consommateurs ou avec les pourvoyeurs de drogue se font généralement par ce biais.
3.3 Le recourant conteste enfin la réalisation de la condition de la subsidiarité posée à l'art. 3 al. 1 let. c LSCPT. Il fait valoir que d'autres mesures d'instruction étaient possibles et auraient dû préalablement être ordonnées. Il cite en particulier une surveillance sous la forme d'une filature de B._ qui aurait permis de cibler les contacts de ce dernier avec d'autres dealers ou consommateurs de drogue. Le Tribunal cantonal ne s'est pas exprimé sur ce point car le recourant ne contestait pas que les mesures prises jusqu'alors dans le cadre de l'instruction étaient restées vaines, respectivement que les recherches n'avaient aucune chance d'aboutir ou qu'elles étaient excessivement difficiles en l'absence de surveillance. Ce dernier ne prétend pas que la cour cantonale aurait interprété son recours de manière arbitraire en considérant qu'il ne remettait pas en question la conformité de la surveillance à l'art. 3 al. 1 let. c LSCPT. La recevabilité de ce grief au regard de la jurisprudence déduite de l'<ref-law> peut toutefois demeurer indécise car la mesure litigieuse échappe à toute critique de ce point de vue également. Le président de l'autorité de plainte a retenu à juste titre que les investigations nécessaires à confondre le suspect, à déterminer l'ampleur du trafic déployé et à identifier les fournisseurs et clients seraient excessivement difficiles à mener à défaut de la mesure de surveillance rétroactive ordonnée le 10 septembre 2010. L'art. 3 al. 2 let. c LSCPT n'exige au demeurant pas une subsidiarité absolue. La surveillance téléphonique peut également accompagner un autre acte d'investigation, tel que la filature des principaux suspects lorsque cette mesure est insuffisante à cerner l'ampleur du trafic mis en place (cf. Message du Conseil fédéral du 1er juillet 1998 concernant les lois fédérales sur la surveillance de la correspondance postale et des télécommunications et sur l'investigation secrète, FF 1998 p. 3711 p. 3711). Il est par ailleurs admis que la surveillance puisse porter sur les actes futurs notamment en matière de trafic de stupéfiants, où ce n'est pas tant les délits commis qui sont visés, mais ceux qui sont en cours et le réseau existant (cf. SYLVAIN MÉTILLE, Mesures techniques de surveillance et respect des droits fondamentaux en particulier dans le cadre de l'instruction pénale et du renseignement, 2011, p. 172).
4. Le recours doit ainsi être rejeté dans la mesure où il est recevable. Les conditions posées à l'<ref-law> étant réunies, il convient de faire droit à la demande d'assistance judiciaire présentée par le recourant. Par conséquent, il y a lieu de le dispenser des frais et d'allouer une indemnité à son mandataire, désigné comme avocat d'office.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est admise.
3. Il n'est pas perçu de frais judiciaires.
4. Me Yves Cottagnoud est désigné comme défenseur d'office du recourant et ses honoraires, supportés par la caisse du Tribunal fédéral, sont fixés à 1'800 fr.
5. Le présent arrêt est communiqué au mandataire du recourant, à l'Office régional du Ministère public du Bas-Valais et à la Chambre pénale du Tribunal cantonal du canton du Valais.
Lausanne, le 22 juin 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Fonjallaz Parmelin