Sachverhalt:
A. A.a X._ (geb. 5. Juli 1968) fällt seit einiger Zeit durch versteckte Drohungen und Provokationen auf. So wandte er sich in zahlreichen Mails, Schreiben und Beschwerden an das Regierungsstatthalteramt, die Sozialen Dienste Biel, die Regionale Arbeitsvermittlungsstelle (RAV), das Verwaltungsgericht des Kantons Bern sowie an diverse andere Behörden und behauptete, verschiedene Leute in Behörden von Biel seien pädophil und in Kinderschänderkreisen tätig; die Behörden seien durch diverse Gruppen unterwandert und er müsse "für Ordnung schauen"; er sei im Auftrag Gottes unterwegs, um diese Missstände "aufzuräumen".
A.b Im Zusammenhang mit diesen Anschuldigungen und Denunziationen kam es am 7. Februar 2012 anlässlich eines von X._ verlangten Gesprächs mit dem Regierungsstatthalter nach kurzer Zeit zu einer verbalen Auseinandersetzung, die später in einer Tätlichkeit gipfelte; dabei versetzte X._ dem Regierungsstatthalter einen "Nasenstüber". Nachdem X._ in der Folge vom Regierungsstatthalter aus dem Schloss gewiesen worden war und er sich heftig dagegen zur Wehr gesetzt hatte, wies ihn Dr. Y._ mit der Diagnose "wahnhafter Störung (ICD_10; F22)" wegen Fremdgefährdung in die Universitären Psychiatrischen Dienste (UPD) Waldau ein.
A.c X._ wurde am 10. Februar 2012 angehört. In der Folge ordnete die stellvertretende Regierungsstatthalterin am 13. Februar 2012 die Zurückbehaltung von X._ zwecks ärztlicher Begutachtung für längstens sechs Wochen an und beauftragte die UPD Waldau mit der Einreichung eines fachärztlichen Gutachtens bis zum 14. März 2012.
B. X._ gelangte dagegen an das Obergericht des Kantons Bern, Rekurskommission für fürsorgerische Freiheitsentziehungen. Anlässlich der Rekursverhandlung vom 16. Februar 2012 beantragte Fürsprecher Z._ im Namen seines Mandanten, den Rekurs gutzuheissen, X._ sofort aus der Klinik zu entlassen und den Auftrag zur Begutachtung zu widerrufen; eventuell sei eine ambulante Behandlung anzuordnen. Das Obergericht hörte den Betroffenen und dessen Rechtsbeistand an und wies den Rekurs am gleichen Tag ab.
C. Der inzwischen nicht mehr anwaltlich verbeiständete X._ hat mit Eingabe vom 26. Februar 2012 (Postaufgabe) gegen den Entscheid des Obergerichts vom 16. Februar 2012 beim Bundesgericht Beschwerde in Zivilsachen erhoben. Er ersucht sinngemäss um Entlassung aus der fürsorgerischen Freiheitsentziehung.
D. Mit Verfügung vom 22. Februar 2012 ist das Gesuch des Beschwerdeführers um aufschiebende Wirkung abgewiesen worden.
E. Das Obergericht hat auf Vernehmlassung verzichtet. Das Regierungsstatthalteramt schliesst in seiner Eingabe vom 1. März 2012 auf Abweisung der Beschwerde.
F. Der Beschwerdeführer hat am 2. und 4. März 2012 um Akteneinsicht und um persönliche Anhörung durch das Bundesgericht ersucht. Ihm sind antragsgemäss Kopien der Akten aus dem kantonalen Dossier zugestellt worden. Das Gesuch um erneute persönliche Anhörung ist am 5. März 2012 abgewiesen worden.
G. Der Beschwerdeführer hat am 7. März 2012 repliziert. Er bezeichnet die gegen ihn erhobenen Vorwürfe als haltlos und gegen die Meinungsäusserungsfreiheit verstossend.

Erwägungen:
1. 1.1 Angefochten ist ein letztinstanzlicher kantonaler Endentscheid (Art. 75 Abs. 1 und Art. 90 BGG) betreffend fürsorgerische Freiheitsentziehung. Er betrifft eine öffentlich-rechtliche Angelegenheit, die in engem Zusammenhang mit dem Zivilrecht steht und demzufolge mit Beschwerde in Zivilsachen beim Bundesgericht angefochten werden kann (Art. 72 Abs. 2 lit. b Ziff. 6 BGG). Die begründete Ausfertigung des angefochtenen Urteils ist dem Beschwerdeführer am 24. Februar 2012 zugestellt worden, womit die am 26. Februar 2012 eingereichte Beschwerde rechtzeitig erfolgt ist.
1.2 In der Beschwerde ist in Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Rechte der beschwerdeführenden Partei durch das kantonale Gericht verletzt worden sind (<ref-law>; <ref-ruling> E. 2.1 S. 245). Wird eine Sachverhaltsfeststellung beanstandet, muss in der Beschwerdeschrift dargelegt werden, inwiefern diese Feststellung willkürlich oder durch eine andere Rechtsverletzung im Sinn von <ref-law> (z.B. <ref-law> oder <ref-law>) zustande gekommen ist (vgl. <ref-ruling> E. 1.2.2 und 1.4.3 S. 255) und inwiefern die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 in fine BGG; <ref-ruling> E. 2.2.2 S. 22). Auf rein appellatorische Kritik am Sachverhalt tritt das Bundesgericht nicht ein.
2. Auf die Beschwerde ist nicht einzutreten, soweit sie sich gegen die Einweisung durch Dr. Y._ vom 10. Februar 2012 richtet. Diese Verfügung wurde durch jene der stellvertretenden Regierungsstatthalterin vom 13. Februar 2012 ersetzt, womit der Beschwerdeführer zwecks Begutachtung in Anwendung von <ref-law> zurückbehalten worden ist. An der Überprüfung der Einweisung vom 10. Februar 2012 besteht damit kein schützenswertes Interesse (<ref-law>; <ref-ruling>).
3. 3.1 Die Einweisung bzw. die Zurückbehaltung in einer Anstalt gestützt auf <ref-law> erfordert, dass die betroffene Person infolge der im Gesetz umschriebenen Schwächezustände persönlicher Fürsorge bedarf, die ihr nur in einer Anstalt gewährt werden kann (<ref-ruling> E. 5; siehe zum Ganzen: <ref-ruling> E. 4). Die in <ref-law> enthaltene Aufzählung der Schwächezustände ist abschliessend (BBl 1977 III 26 Ziff. 212.2). Insbesondere sieht das Gesetz keine fürsorgerische Freiheitsentziehung allein wegen Fremdgefährdung vor (vgl. dazu insbesondere auch EUGEN SPIRIG, Zürcher Kommentar, N. 340 zu <ref-law>; THOMAS GEISER, Basler Kommentar Zivilgesetzbuch I, 4. Aufl. 2010, N. 26 zu <ref-law>).
3.2 Nach der Rechtsprechung des Bundesgerichts ist eine Einweisung zwecks Begutachtung der betroffenen Person mit <ref-law> ausnahmsweise vereinbar, soweit eine fürsorgerische Freiheitsentziehung ernsthaft in Betracht gezogen werden kann, aber wichtige Grundlagen für einen definitiven Einweisungsentscheid fehlen. Die Einweisung zu diesem Zweck kommt nur infrage, wenn die Krankheitsursache des bereits festgestellten Verhaltens der betroffenen Person nur im Rahmen eines Aufenthalts in einer psychiatrischen Klinik sorgfältig abgeklärt werden kann. Die lediglich zur stationären Begutachtung eingewiesene Person darf nicht länger gegen ihren Willen in der Anstalt zurückbehalten werden, als dies zur Begutachtung erforderlich ist (Urteile 5A_36/2011 vom 24. Januar 2011 E. 2.1; 5A_250/2010 vom 14. April 2010 E. 2.3; 5A_668/2010 14. Oktober 2010 E. 3.1).
3.3 Den Akten und dem angefochtenen Entscheid lässt sich in tatsächlicher Hinsicht entnehmen, dass der Beschwerdeführer bereits seit einiger Zeit durch versteckte Drohungen und Provokationen auffällt. Er wandte sich in zahlreichen Mails, Schreiben und Beschwerden an das Regierungsstatthalteramt, die Sozialen Dienste Biel, die Regionale Arbeitsvermittlungsstelle (RAV), das Verwaltungsgericht des Kantons Bern sowie an diverse andere Behörden und behauptete, verschiedene Leute in Behörden von Biel seien pädophil und in Kinderschänderkreisen tätig; die Behörden seien durch diverse Gruppen unterwandert und er müsse "für Ordnung schauen"; er sei im Auftrag Gottes unterwegs, um diese Missstände "aufzuräumen". Im Zusammenhang mit diesen Anschuldigungen und Denunziationen kam es am 7. Februar 2012 anlässlich eines vom Beschwerdeführer verlangten Gesprächs mit dem Regierungsstatthalter nach kurzer Zeit zu einer verbalen Auseinandersetzung, die später in eine tätliche Auseinandersetzung ausartete; dabei versetzte X._ dem Regierungsstatthalter einen "Nasenstüber". Nach dem Bericht der leitenden Ärztin der Psychiatrischen Dienste Biel-Seeland, welche am 10. Februar 2012 die Einweisung des Beschwerdeführers verfügte, besteht der Verdacht auf eine wahnhafte Störung (ICD-10; F22) mit ausgeprägtem Wahnsystem. Der Beschwerdeführer bezeichnet sich als gesund.
Der Beschwerdeführer begnügt sich im Wesentlichen damit, die tatsächlichen Feststellungen des Obergerichts infrage zu stellen bzw. zu bestreiten. Das betrifft insbesondere seine Behauptung, er sei gesund. Das Obergericht ist jedoch mit Frau Dr. Y._ von einem Verdacht auf eine wahnhafte Störung (ICD-10; F22) mit ausgeprägtem Wahnsystem ausgegangen. Sodann behauptet er, er sei vom Regierungsstatthalter angegriffen worden, was das Obergericht indes als unglaubwürdig erachtet hat. Inwiefern in diesem Zusammenhang eine willkürliche Feststellung des Sachverhalts gegeben sein könnte, wird nicht erörtert. In einer blossen Bestreitung des vom Obergericht angenommenen Sachverhalts erschöpft sich schliesslich auch der Inhalt der Replik vom 7. März 2012. Auf all diese Ausführungen kann nicht eingetreten werden.
3.4 Nach den für das Bundesgericht verbindlichen tatsächlichen Feststellungen (<ref-law>) verhält sich der Beschwerdeführer sehr auffällig; eine Beeinträchtigung der geistigen Gesundheit ist naheliegend, sodass eine fürsorgerische Freiheitsentziehung ernsthaft als Massnahme in Betracht gezogen werden kann. Der Beschwerdeführer bezeichnet sich als gesund; daher besteht trotz des anlässlich der Verhandlung vor der Rekurskommission gestellten Antrages, es sei eventuell eine ambulante Begutachtung anzuordnen, keine Gewähr dafür, dass er sich einer entsprechenden Massnahme auch tatsächlich freiwillig unterzieht. Zudem ist eine genaue Abklärung der tatsächlichen Voraussetzungen für die Anordnung einer fürsorgerischen Freiheitsentziehung erforderlich. Unter diesen Umständen ist die Einweisung zwecks Begutachtung unumgänglich. Der angefochtene Entscheid verletzt somit kein Bundesrecht, soweit er sich auf die Verfügung vom 13. Februar 2012 bezieht.
4. Das einzuholende Gutachten hat es dem Gericht zu ermöglichen, die sich aus <ref-law> ergebenden Rechtsfragen zu beantworten (<ref-ruling> E. 4.5). So hat es sich insbesondere über den Gesundheitszustand der betroffenen Person, aber auch darüber zu äussern, wie sich allfällige gesundheitliche Störungen hinsichtlich der Gefahr einer Selbst- bzw. Drittgefährdung oder einer Verwahrlosung auswirken können und ob sich daraus ein Handlungsbedarf ergibt (<ref-ruling> E. 4.5). In diesem Zusammenhang interessiert insbesondere, ob ein Bedarf an der Behandlung einer festgestellten psychischen Erkrankung bzw. an Betreuung der betroffenen Person besteht. Wird ein Behandlungs- bzw. Betreuungsbedarf bejaht, ist weiter wesentlich, mit welcher konkreten Gefahr für die Gesundheit oder das Leben der betroffenen Person bzw. von Dritten zu rechnen ist, wenn die Behandlung der gutachterlich festgestellten Krankheit bzw. die Betreuung unterbleibt (zum Erfordernis der konkreten Gefahr: Urteile 5A_312/2007 vom 10. Juli 2007 E. 2.3; 5A_288/2011 vom 19. Mai 2011 E. 5.3). Im weiteren ist durch den Gutachter Antwort darauf zu geben, ob aufgrund des festgestellten Handlungsbedarfs eine stationäre Behandlung bzw. Betreuung unerlässlich ist. Dabei hat der Experte auch darüber Auskunft zu geben, ob die betroffene Person über glaubwürdige Krankheits- und Behandlungseinsicht verfügt. Wird aufgrund der vorgenannten gutachterlichen Abklärungen die Zurückbehaltung in einer Anstalt als notwendig erachtet, hat der Experte schliesslich zu beantworten, ob eine Anstalt zur Verfügung steht, die für die Behandlung bzw. Betreuung der betroffenen Person infrage kommt (siehe zum Ganzen <ref-ruling> E. 4.5).
5. Damit ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Den Umständen des konkreten Falles entsprechend werden keine Kosten erhoben (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird dem Beschwerdeführer, dem Regierungsstatthalteramt Biel und dem Obergericht des Kantons Bern, Zivilabteilung, Rekurskommission für fürsorgerische Freiheitsentziehung, schriftlich mitgeteilt.
Lausanne, 13. März 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden