Sachverhalt:
A. X._ (geb. 1949) leidet an einer paranoiden Schizophrenie mit chronischem Verlauf. Als Residuum besteht seit mehreren Jahren ein systematisierter Wahn. Zu einer Vollremission (krankheitsfreien Episode) ist es in den letzten Jahren nicht gekommen.
B. B.a Seit 2008 wurde X._ zwecks stationärer Begutachtung und Behandlung mehrmals ins Psychiatriezentrum A._ ("A._") eingewiesen. Von dort entwich er wiederholt. Am 4. Juli 2011 stellte die Vormundschaftsbehörde B._ beim Regierungsstatthalteramt Oberaargau erneut den Antrag auf Anordnung einer fürsorgerischen Freiheitsentziehung, weil X._ weiterhin Drohungen ausspreche und das ambulante Setting nicht mehr genüge.
B.b Im Anschluss an eine polizeiliche Befragung wurde X._ am 26. Juli 2011 dem Regierungsstatthalter des Verwaltungskreises Oberaargau ("Regierungsstatthalter") vorgeführt. Dieser gewährte ihm das rechtliche Gehör und wies ihn nach der Anhörung mit einer regierungsstatthalterlichen FFE-Massnahme ins Regionalgefängnis C._ ein. Am 27. Juli 2011 verfügte der Regierungsstatthalter formell die Einweisung ins Regionalgefängnis. Zugleich ordnete er zur stationären Begutachtung und Behandlung die Versetzung ins A._ an. Den von X._ gegen die Einweisung erhobenen Rekurs wies die Rekurskommission für fürsorgerische Freiheitsentziehungen des Obergerichts des Kantons Bern am 8. August 2011 ab.
B.c Nachdem X._ Anfang August mehrmals aus dem A._ entwichen war, beauftragte der Regierungsstatthalter die Kantonspolizei Bern am 12. August 2011, X._ anzuhalten und ins Regionalgefängnis C._ zu überführen. Am 18. August 2011 teilte das Amt für Freiheitsentziehung und Betreuung dem Regierungsstatthalter mit, im Regionalgefängnis C._ könne die allenfalls erforderliche gesundheitliche Versorgung nicht sichergestellt werden; eine Aufnahme im Regionalgefängnis D._ sei jedoch möglich.
C. C.a Am 19. August 2011 verfügte der Regierungsstatthalter die Versetzung von X._ ins Regionalgefängnis D._ für vorläufig sechs Wochen bis spätestens am 5. September 2011; weiter bestätigte er den Auftrag zur Begutachtung. Am 21. August 2011 wurde X._ in seiner Wohnung angehalten und ins Regionalgefängnis D._ überführt.
C.b Gegen die Verfügung vom 19. August 2011 rekurrierte X._ mit Schreiben vom 22. und 26. August 2011 bei der Rekurskommission für fürsorgerische Freiheitsentziehungen des Obergerichts des Kantons Bern.
C.c Mit Verfügung vom 5. September 2011 ordnete der Regierungsstatthalter gegenüber X._ einen ordentlichen fürsorgerischen Freiheitsentzug auf unbestimmte Zeit an (Ziffer 1). Zwecks stationärer Behandlung sei X._ im Regionalgefängnis D._ zurückzubehalten; sollte die stationäre Behandlung dort nicht erfolgen können, sei er auf die Bewachungsstation des Spitals Z._ zu versetzen (Ziffer 2). Weiter wurde das Regionalgefängnis D._ bzw. die Bewachungsstation angewiesen, bis am 14. September 2011 über den Behandlungsverlauf von X._ zu informieren. Nach Vorliegen der Voraussetzungen werde spätestens per 19. September 2011 die Versetzung ins A._ zwecks weiterer stationärer Behandlung in Aussicht gestellt (Ziffer 3).
C.d Die Rekursverhandlung betreffend die regierungsstatthalterliche Verfügung vom 19. August 2011 (Bst. C.a) fand am 8. September 2011 statt. Anlässlich dieser Verhandlung erhob X._ auch gegen die Verfügung vom 5. September 2011 (Bst. C.c) Rekurs.
C.e Mit Entscheid vom 8. September 2011 wies die Rekurskommission für fürsorgerische Freiheitsentziehungen des Obergerichts des Kantons Bern beide Rekurse ab.
D. D.a Mit Schreiben vom 8. September 2011 gelangt X._ ("Beschwerdeführer") an das Bundesgericht. Sinngemäss beantragt er, der Entscheid der Rekurskommission sei aufzuheben und er sei aus dem fürsorgerischen Freiheitsentzug zu entlassen. Der Regierungsstatthalter hielt in seiner Vernehmlassung an seinen Verfügungen vom 19. August und 5. September 2011 fest. Die Rekurskommission hat auf eine Stellungnahme verzichtet.
D.b Mit Schreiben vom 16. September 2011 ersucht der Beschwerdeführer um aufschiebende Wirkung bzw. um seine sofortige Entlassung.
D.c Am 18. September 2011 reichte der Beschwerdeführer dem Bundesgericht ein weiteres Schreiben ein, das die Überschrift "Zivilklagen" trägt. Zur Hauptsache beantragt er darin eine "Entschädigung" (inklusive Genugtuung) für widerfahrenes Unrecht, die er auf 21 Millionen Franken beziffert. Zusätzlich verlangt er eine "Leidensentschädigung" für die Einsperrung. Die Zahlungspflicht sei anteilsmässig nach dem Ermessen des Gerichts auf die involvierten Behörden, Ämter und Gerichte zu verteilen. Weiter ersucht er das Bundesgericht um die Rückgabe seiner Fahrzeuge und Maschinen.
D.d Am 19. September 2011 wurde der Beschwerdeführer vom Regionalgefängnis D._ ins A._ überführt.

Erwägungen:
1. 1.1 Der Beschwerdeführer setzt sich mit seinen rechtzeitig (Art. 100 BGG) eingereichten Eingaben gegen einen Endentscheid (Art. 90 BGG) zur Wehr. Mit dem Obergericht des Kantons Bern hat zudem ein oberes kantonales Gericht als Rechtsmittelinstanz über die Verfügungen des Regierungsstatthalteramts Oberaargau (der anordnenden Behörde) entschieden (Art. 75 Abs. 2 BGG). Der angefochtene Rekursentscheid hat zunächst die vorsorgliche Einweisung des Beschwerdeführers zur stationären Abklärung ins Regionalgefängnis D._ zum Gegenstand (s. Bst. C.a). Diese Massnahme stützt sich auf Art. 27 Abs. 1 und Art. 29 des bernischen Gesetzes vom 22. November 1989 über die fürsorgerische Freiheitsentziehung und andere Massnahmen der persönlichen Fürsorge. Zur Hauptsache betrifft der Rekursentscheid die fürsorgerische Freiheitsentziehung, die der Regierungsstatthalter gegen den Beschwerdeführer am 5. September 2011 angeordnet hatte (s. Bst. C.c). Damit unterliegt der angefochtene Entscheid der Beschwerde in Zivilsachen (Art. 72 Abs. 2 lit. b Ziff. 6 BGG). Auf das Rechtsmittel ist grundsätzlich einzutreten.
1.2 Nicht zulässig sind im Beschwerdeverfahren vor Bundesgericht hingegen neue Rechtsbegehren, das heisst Begehren, welche die rechtssuchende Partei vor der Vorinstanz gar nicht vorgebracht hat und mit denen sie den Streitgegenstand ausweitet (Art. 99 Abs. 2 BGG; <ref-ruling> E. 2 S. 121). Dies trifft auf die Begehren zu, die der Beschwerdeführer in seiner Eingabe vom 18. September 2011 stellt und mit denen er unter anderem eine Entschädigung und die Rückgabe seiner Fahrzeuge verlangt. Auf diese neuen Anträge ist nicht einzutreten.
2. Wie sich auch aus der jüngsten Eingabe des Beschwerdeführers ergibt, dreht sich die vorliegende Streitigkeit hauptsächlich um die Rechtmässigkeit der fürsorgerischen Freiheitsentziehung.
Eine mündige oder entmündigte Person darf wegen Geisteskrankheit, Geistesschwäche, Trunksucht, anderer Suchterkrankungen oder schwerer Verwahrlosung in einer geeigneten Anstalt untergebracht oder zurückbehalten werden, wenn ihr die nötige persönliche Fürsorge nicht anders erwiesen werden kann (Art. 397a Abs. 1 ZGB). Sowohl für die Einweisung als auch die Zurückbehaltung in einer Anstalt sind die Prinzipien der Verhältnismässigkeit und der Subsidiarität zu berücksichtigen. Vorausgesetzt ist mit anderen Worten, dass die betroffene Person infolge der im Gesetz umschriebenen Schwächezustände persönlicher Fürsorge bedarf, die ihr nur in einer Anstalt gewährt werden kann (<ref-ruling> E. 5 S. 217 f.). Zu berücksichtigen ist ferner die Belastung, welche die Person für ihre Umgebung bedeutet (Art. 397a Abs. 2 ZGB). Unter diesem Gesichtspunkt ist auch einer allfälligen Fremdgefährdung Rechnung zu tragen. Eine solche liegt vor, wenn die betroffene Person zum Beispiel wegen ihres aggressiven oder gefährlichen Verhaltens eine Gefahr für Leib und Leben von Drittpersonen darstellt (vgl. Urteil 5A_288/2011 vom 19. Mai 2011 E. 2) oder sonstwie das Wohlbefinden und die seelische Gesundheit anderer auf erhebliche und elementare Weise beeinträchtigt (SPIRIG, a.a.O., N 350 zu Art. 397a ZGB). Schliesslich muss die von der fürsorgerischen Freiheitsentziehung betroffene Person entlassen werden, sobald ihr Zustand es erlaubt (Art. 397a Abs. 3 ZGB).
3. Der Beschwerdeführer macht sinngemäss geltend, die Voraussetzungen für eine weitere fürsorgerische Freiheitsentziehung seien nicht mehr erfüllt.
3.1 Gemäss den aktuellen Gutachten des Forensisch-Psychiatrischen Dienstes der Universität Z._ ("FPD") vom 31. August und 2. September 2011 leidet der Beschwerdeführer an einer chronisch paranoiden Schizophrenie mit Residualsymptomatik, für deren Behandlung von einem sehr langen Zeithorizont auszugehen ist (s. auch Bst. A). Die Rekurskommission schliesst von dieser Diagnose auf eine Geisteskrankheit im Sinne von Art. 397a Abs. 1 ZGB. Der Beschwerdeführer trägt nichts Substanzielles vor, was diese tatsächliche Feststellung der Krankheit (<ref-ruling> S. 263) und deren rechtliche Qualifikation als Schwächezustand im Sinne von Art. 397a Abs 1 ZGB in Zweifel zu ziehen vermöchte. Allein die Behauptung, bei seinem Zustand handle es sich nicht um eine Krankheit, sondern um eine chronische, seit mehr als sechzig Jahren bestehende unheilbare Behinderung, die nie zu Gefährdungen geführt habe, genügt dazu jedenfalls nicht. Damit erübrigen sich weitere Erörterungen zu den diesbezüglichen Ausführungen im angefochtenen Entscheid.
3.2 Mit Blick auf den durch den Schwächezustand begründeten Fürsorgebedarf ist vor allem von Interesse, auf welche Weise dem Beschwerdeführer die nötige persönliche Fürsorge geboten werden kann. Wie sich dem angefochtenen Entscheid bzw. den Gutachten der FPD vom 31. August und 2. September 2011 entnehmen lässt, ist die Anfang 2011 begonnene ambulante Behandlung des Beschwerdeführers gescheitert. Nach wie vor fehlt dem Beschwerdeführer die Krankheits- und Behandlungseinsicht. Weder hat eine therapeutische Beziehung zu ihm hergestellt werden können, noch ist es gelungen, einen Entwicklungsprozess in Gang zu bringen. Schon nach kurzer Zeit hat der Beschwerdeführer den tatsächlichen Feststellungen der Vorinstanz zufolge Todesdrohungen gegen seinen Vormund, den Regierungsstatthalter und den Präsidenten der Sozialkommission ausgesprochen. Dass diese Drohungen ernst zu nehmen sind, haben nicht nur die ärztlichen Gutachter erkannt. Derselbe Schluss drängt sich auch dem Bundesgericht auf, wenn der Beschwerdeführer diese Drohungen in seiner Eingabe vom 18. September 2011 damit rechtfertigt, sie seien die letzte Möglichkeit, die Gerichte zu einer "Korrektur" der Institutionen zu bewegen. Weiter ist es zu schwerwiegendem aggressivem Verhalten gekommen. Schliesslich ist der Beschwerdeführer trotz fehlender Fahrfähigkeit widerrechtlich Auto gefahren. Mit der blossen Behauptung, er könne "nie und nimmer eine Gefährdung" sein, vermag der Beschwerdeführer diese Feststellungen nicht umzustossen. Vielmehr geben die geschilderten Erkenntnisse in der Tat zur Befürchtung Anlass, es bestehe eine akute Selbst- und eine massive Fremdgefährdung bzw. Überbelastung des sozialen Umfelds. Unter Hinweis auf die ärztlichen Gutachten erwog die Vorinstanz weiter, ein sehr langer Behandlungszeitraum sei unabdingbar. Aufgrund der erheblichen sozialen Auffälligkeiten und Störungen des Zusammenlebens seien auch die Voraussetzungen für eine Zwangsmedikation erfüllt. Bei dieser Ausgangslage sei die Weiterführung der ambulanten Behandlung nicht länger verantwortbar. In die Beurteilung mit einzubeziehen ist weiter, dass der Beschwerdeführer wiederholt aus dem A._ entwichen ist (s. Bst. B.a) und die stationäre Behandlung dort deshalb nicht weitergeführt werden kann. Die Fachärzte weisen darauf hin, dass die Behandlungsdauer jeweils nicht ausreichte, um die indizierte antipsychotische Medikation einzustellen und für den Beschwerdeführer den sozialen Empfangsraum zu etablieren. Die Folgerung der Rekurskommission, in Anbetracht der bisherigen Erfahrungen und der weiterhin fehlenden Krankheits- und Behandlungseinsicht bestehe die konkrete Gefahr weiterer Entweichungen, ist vor diesem Hintergrund einleuchtend. Ebenso erscheint es folgerichtig, wenn die Rekurskommission zum Schluss kommt, die Entweichungsgefahr müsse vollkommen unterbunden werden, um eine regelmässige Medikation sicherzustellen und beim Beschwerdeführer in einem ersten Schritt eine gewisse Krankheits- und Behandlungseinsicht zu erwirken. Unter den gegebenen Umständen kann daher dem Antrag des Beschwerdeführers, ihn "mit seinen Wünschen frei leben zu lassen", nicht gefolgt werden. Insofern ist die Beschwerde abzuweisen.
3.3 Am 21. August 2011 wurde der Beschwerdeführer ins Regionalgefängnis D._ überführt. Der Beschwerdeführer macht geltend, im Gefängnis "könne man nicht behandeln". Sinngemäss erhebt er damit den Vorwurf, das Regionalgefängnis D._ sei keine geeignete Anstalt im Sinne des Gesetzes.
Die Rekurskommission hat die im Rahmen der fürsorgerischen Freiheitsentziehung verfügte Zurückbehaltung im Regionalgefängnis D._ ausdrücklich nur für einen Monat angeordnet und überdies mit der Auflage verbunden, bis am 14. September 2011 sei über den Behandlungsverlauf des Beschwerdeführers Bericht zu erstatten. Der behördlichen Verfügung zufolge war der Beschwerdeführer spätestens am 19. September 2011 zur weiteren stationären Behandlung ins A._ zu versetzen. Diese Versetzung ist nach Auskunft des Regionalgefängnisses D._ am besagten Tag erfolgt (s. Bst. D.d). Hält sich der Beschwerdeführer im Zeitpunkt, da das Bundesgericht sein Urteil fällt, aber gar nicht mehr im Regionalgefängnis D._ auf, so hat er auch kein aktuelles schutzwürdiges Interesse mehr an der Beurteilung der Frage, ob diese Strafanstalt im Sinne von Art. 397a Abs. 1 ZGB zur fürsorgerischen Freiheitsentziehung geeignet sei. Die Rechtsprechung, wonach die Befugnis zur Beschwerde an das Bundesgericht wegfällt, wenn die betroffene Person während des laufenden Beschwerdeverfahrens aus der fürsorgerischen Freiheitsentziehung entlassen wird (<ref-ruling> E. 1.1 S. 499 mit Hinweisen), gelangt sinngemäss zur Anwendung. Soweit der Beschwerdeführer rügt, das Regionalgefängnis D._ sei keine geeignete Anstalt, kann das Bundesgericht auf seine Beschwerde nicht eintreten.
4. Zusammenfassend ergibt sich, dass die Rekurskommission mit der Bestätigung der fürsorgerischen Freiheitsentziehung und der Abweisung der Rekurse gegen die Entscheide des Regierungsstatthalters vom 19. August und 5. September 2011 die in Art. 397a ZGB enthaltene Vorschrift nicht verletzt hat. Die Beschwerde ist somit abzuweisen. Bei diesem Ausgang des Verfahrens wird auch das Gesuch um aufschiebende Wirkung gegenstandslos.
5. Den konkreten Umständen des Falles entsprechend sind keine Kosten zu erheben (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um aufschiebende Wirkung wird als gegenstandslos geworden abgeschrieben.
3. Es werden keine Kosten erhoben.
4. Dieses Urteil wird dem Beschwerdeführer, dem Regierungsstatthalteramt Oberaargau und dem Obergericht des Kantons Bern, kantonale Rekurskommission für fürsorgerische Freiheitsentziehungen, schriftlich mitgeteilt.
Lausanne, 23. September 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: V. Monn