Erwägungen:
1. Angefochten ist ein Entscheid des Obergerichts des Kantons Bern, Zivilabteilung, Rekurskommission für fürsorgerische Freiheitsentziehungen vom 29. April 2011, mit dem ein Rekurs des Beschwerdeführers gegen die Verweigerung der Entlassung aus der fürsorgerischen Freiheitsentziehung abgewiesen worden ist. Das Obergericht hat einmal auf seinen früheren Entscheid vom 18. Februar 2011 verwiesen, gegen den der Beschwerdeführer erfolglos beim Bundesgericht Beschwerde geführt hat (5A_157/2011 act. 5). Im Entscheid vom 18. Februar 2011 hat das Obergericht festgehalten, der Beschwerdeführer leide gemäss den ärztlichen Berichten sowohl an einer Geistesschwäche als auch an einer Alkoholabhängigkeit mit somatischen (deutlicher Rückgang der Hirnmasse, Arteriosklerose, zirrhotischer Umbau der Leber, Elektrolytstörungen zufolge Mangelernährung) und psychosozialen Folgeerscheinungen (Verwahrlosung). Er habe keine Krankheitseinsicht. Nachdem eine ambulante Behandlung gescheitert sei, müsse er zwecks Alkoholentzugs bis zum abstinenten Leben stationär behandelt werden, weil er bei einer sofortigen Entlassung wieder in dasselbe Verhaltensmuster (täglicher Konsum von eineinhalb Litern Schnaps sowie von anderen alkoholischen Getränken) fiele.
Dem nunmehr angefochtenen Entscheid der Rekurskommission vom 29. April 2011 (5A_323/2011 act. 3) ist zu entnehmen, dass sich die Verhältnisse seit dem Entscheid vom 18. Februar 2011 nicht entscheidwesentlich verändert hätten. Anzufügen sei, dass der Beschwerdeführer im Altersheim A._ nicht tragbar gewesen und letztlich aus diesem Heim entwichen sei. Nach der Verlegung ins PZM sei es zu Zwischenfällen gekommen (Besitz von Alkohol und eines Sackmessers einhergehend mit der Gefährdung der Betreuungspersonen sowie Handgreiflichkeiten mit einem Patienten). Der Beschwerdeführer lehne derzeit die Einnahme der Medikamente ab. Anlässlich der Verhandlung der Rekurskommission habe sich der Beschwerdeführer unzufrieden, reizbar und angespannt, eingeengt und perseverierend gezeigt und habe weiter keine Krankheitseinsicht an den Tag gelegt. Er verkenne bzw. verneine die Realität.
2. In der Beschwerde ist in Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Rechte der beschwerdeführenden Partei durch das kantonale Gericht verletzt worden sind (Art. 42 Abs. 2 BGG; BGE 134 II 244 E. 2.1 S. 245), wobei eine allfällige Verletzung verfassungsmässiger Rechte vom Bundesgericht nicht von Amtes wegen geprüft wird, sondern nur dann, wenn solche Rügen in der Beschwerdeschrift ausdrücklich erhoben und begründet werden (Art. 106 Abs. 2 BGG; BGE 135 III 232 E. 1.2 S. 234).
3. Der Beschwerdeführer geht in seiner Eingabe vom 1. Mai 2011 überhaupt nicht auf die Erwägungen des angefochtenen Entscheids ein und legt nicht dar, inwiefern die Vorinstanz Bundesrecht verletzt hat. Er begnügt sich einfach damit, um Entlassung zu ersuchen. Auf die offensichtlich unzulässige Beschwerde ist somit im vereinfachten Verfahren (Art. 108 Abs. 1 lit. b BGG) durch das präsidierende Mitglied der II. zivilrechtlichen Abteilung nicht einzutreten. Aufgrund der konkreten Verhältnisse werden keine Kosten erhoben (Art. 66 Abs. 1 BGG).
Demnach erkennt das präsidierende Mitglied:
1. Auf die Beschwerde wird nicht eingetreten.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird dem Beschwerdeführer, dem Regierungsstatthalteramt von Thun und dem Obergericht des Kantons Bern, kantonale Rekurskommission für fürsorgerische Freiheitsentziehungen, schriftlich mitgeteilt.
Lausanne, 10. Mai 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Escher Zbinden