Sachverhalt:
A. X._ (geb. 1957) war aufgrund einer diagnostizierten paranoiden Schizophrenie im Rahmen fürsorgerischer Freiheitsentziehungen mehrmals hospitalisiert worden. Unter der regelmässigen Einnahme eines antipsychotischen Medikamentes hatte sich ihr psychischer Zustand deutlich verbessert. Im Hinblick auf die beabsichtigte Entlassung aus einem FFE errichtete die Vormundschaftskommission A._ mit Beschluss vom 29. September 2008 über X._ eine Beistandschaft nach Art. 392 Ziff. 1 und Art. 393 Ziff. 2 ZGB. Dagegen führten X._ und ihre Tochter, Z._, ohne anwaltlich vertreten zu sein, mit Eingabe vom 20. Oktober 2008 Beschwerde beim Regierungsrat des Kantons Appenzell Ausserrhoden. Gleichzeitig ersuchten sie um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung für das Beschwerdeverfahren. Am 30. Oktober 2008 reichten sie Ergänzungen zur Beschwerde ein. Das instruierende Departement Inneres und Kultur wies das Gesuch um unentgeltliche Rechtspflege mit Entscheid vom 21. November 2008 wegen Aussichtslosigkeit ab. Darauf gelangten die beiden an das Verwaltungsgericht des Kantons Appenzell Ausserrhoden (heute Obergericht) und beantragten, das Rechtspflegegesuch für das Beschwerdeverfahren vor dem Regierungsrat sei gutzuheissen (Eingaben vom 28. Dezember 2008 und 6. Januar 2009). Für das Verfahren vor Verwaltungsgericht stellten sie kein gleichlautendes Begehren; den einverlangten Kostenvorschuss von Fr. 600.-- haben sie bezahlt.
B. Weil X._ nach Spanien weggezogen war, wurden sowohl das Verfahren vor dem Regierungsrat als auch das Verfahren vor Verwaltungsgericht sistiert. Im Juli 2009 nahm der Regierungsrat des Kantons Appenzell Ausserrhoden das Verfahren wieder auf und gab den Parteien die Möglichkeit, sich zum Verfahrensstand zu äussern. Hiezu mandatierte X._ einen Anwalt, der eine Replik einreichte. Mit Entscheid vom 10. August 2010 stellte der Regierungsrat fest, X._ halte sich im Ausland auf, weshalb es nicht angezeigt sei, die vormundschaftliche Massnahme aufrechtzuerhalten. Deshalb hob er den Beschluss der Vormundschaftskommission vom 29. September 2008 auf, auferlegte keine Verfahrenskosten und verzichtete darauf, X._ eine Parteientschädigung auszurichten. Dieser Entscheid blieb unangefochten und erwuchs in Rechtskraft.
C. Der regierungsrätliche Entscheid vom 10. August 2010 veranlasste das Obergericht Appenzell Ausserrhoden (vormals Verwaltungsgericht), das bei ihm hängige Verfahren an die Hand zu nehmen. Mit Verfügung vom 19. Juli 2011 stellte der Einzelrichter des Obergerichts hinsichtlich der vorinstanzlichen Verfahrenskosten Gegenstandslosigkeit fest und wies die Beschwerde im Übrigen ab, und zwar mit der Begründung, es habe im Hauptverfahren keine Notwendigkeit für eine anwaltliche Vertretung bestanden. Ausserdem verzichtete er auf die Erhebung von Gerichtskosten und die Ausrichtung einer Parteientschädigung.
D. Mit Beschwerde in Zivilsachen vom 14. September 2011 gelangen die anwaltlich vertretenen X._ (Beschwerdeführerin 1) und Z._ (Beschwerdeführerin 2) an das Bundesgericht. Sie beantragen, den Entscheid des Obergerichts vom 19. Juli 2011 insofern aufzuheben, als das Gesuch um unentgeltliche Verbeiständung abgewiesen und ihnen für das Verfahren vor Obergericht keine Parteientschädigung zugesprochen wurde; zudem ersuchen sie um unentgeltliche Rechtspflege für das Verfahren vor Bundesgericht.
Es wurden die Akten eingeholt. Das Obergericht hat auf eine Vernehmlassung verzichtet.
Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Entscheid (Art. 75 Abs. 1 BGG) betreffend die Verweigerung der unentgeltlichen Rechtspflege (Verbeiständung). Dabei handelt es sich um einen Zwischenentscheid, der einen nicht wieder gut zu machenden Nachteil bewirken kann (Art. 93 Abs. 1 lit. a BGG; BGE 129 I 129 E. 1.1 S. 131). In der Hauptsache geht es um eine vormundschaftliche Massnahme ohne vermögensrechtlichen Charakter, gegen welche die Beschwerde in Zivilsachen ergriffen werden kann (Art. 72 Abs. 2 lit. b Ziff. 7 BGG), weshalb sie auch gegen den Zwischenentscheid gegeben ist (vgl. BGE 133 III 645 E. 2.2 S. 647).
1.2 Die Beschwerdelegitimation der Beschwerdeführerin 1 ist ohne weiteres gegeben; näher zu prüfen ist indes die Beschwerdelegitimation der Beschwerdeführerin 2.
Nach Art. 420 Abs. 1 i.V.m. mit Art. 420 Abs. 2 ZGB kann der Bevormundete sowie jedermann, der ein Interesse hat, gegen Beschlüsse der Vormundschaftsbehörde binnen zehn Tagen nach deren Mitteilung bei der Aufsichtsbehörde Beschwerde führen. Der Dritte ist zur Beschwerdeführung freilich nur insofern legitimiert, als er sich auf Interessen der schutzbedürftigen Person beruft oder die Verletzung eigener Rechte oder Interessen geltend macht (BGE 137 III 67 E. 3.1 S. 69; 121 III 1 E. 2a S. 3). Der Dritte ist aber, selbst wenn er im Sinne von Art. 433 Abs. 3 ZGB ein Interesse an der Aufhebung der Vormundschaft hat, nicht legitimiert, sich der Anordnung der Vormundschaft zu widersetzen. Diese Grundsätze gelten auch für die Beistandschaft (Art. 392-397 ZGB; BGE 64 II 179).
Im Verfahren vor dem Regierungsrat des Kantons Appenzell Ausserrhoden hat die Beschwerdeführerin 2 stellvertretend für ihre Mutter gehandelt, weil sie davon ausging, diese könne die Beschwerde möglicherweise nicht rechtzeitig selber unterschreiben. Sie hat weder im eigenen Namen gehandelt noch die Verletzung eigener Rechte oder Interessen geltend gemacht. Mithin war sie nicht Partei im kantonalen Verfahren (Art. 76 Abs. 1 lit. a BGG). Auf die Beschwerde der Beschwerdeführerin 2 ist daher nicht einzutreten.
2. In formeller Hinsicht bestreitet die Beschwerdeführerin 1 die funktionelle Zuständigkeit des Einzelrichters des Obergerichts; vielmehr hätte die zuständige Abteilung des Obergerichts entscheiden müssen. Diese Rüge ist vorab zu prüfen, da bei deren Begründetheit der angefochtene Entscheid ohne Prüfung der materiellen Streitfrage aufzuheben ist.
In Frage steht die Anwendung des kantonalen Gerichtsorganisationsrechts. Dieses ist von einer freien Überprüfung durch das Bundesgericht ausgenommen (Art. 95 BGG). Der Beschwerdeführer kann einzig vorbringen, die Vorinstanz habe bei der Anwendung kantonalen Rechts verfassungsmässige Rechte, insbesondere das Willkürverbot (Art. 9 BV), verletzt (vgl. BGE 133 III 462 E. 2.3 und E. 4.4.1). Hierfür gilt das strenge Rügeprinzip (Art. 106 Abs. 2 BGG). Das bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Rechtslage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246).
Die Ausführungen der Beschwerdeführerin 1 genügen diesen Anforderungen nicht. Sie behauptet zwar, gestützt auf Art. 24 Abs. 1 lit. a des kantonalen Justizgesetzes (bGS 145.31) habe das Obergericht in einem fünfköpfigen Spruchkörper entscheiden müssen, zeigt jedoch nicht auf, inwiefern der Erwägung des Einzelrichters, wonach er gestützt auf Art. 32 Justizgesetz zuständig sei, eine verfassungswidrige Anwendung des kantonalen Prozessrechts zugrunde liegt. Darauf ist nicht einzutreten.
3. Nachdem der Entscheid des Regierungsrats vom 10. August 2010, mit welchem dieser die verfügte Beistandschaft aufhob, auf die Erhebung von Verfahrenskosten verzichtete und keine Parteientschädigung zusprach, nicht angefochten worden und damit in Rechtskraft erwachsen ist, stellt sich im vorliegenden Sachzusammenhang für das regierungsrätliche Verfahren einzig noch die Frage, ob das Gesuch um unentgeltliche Rechtspflege hätte gutgeheissen und die Beschwerdeführerin 1 anwaltlich verbeiständet werden müssen; hinsichtlich der Verfahrenskosten, auf deren Erhebung der Regierungsrat verzichtet hat, ist die Sache gegenstandslos.
4. Gemäss Art. 29 Abs. 3 BV hat jede Person, die nicht über die erforderlichen Mittel verfügt und deren Rechtsbegehren nicht aussichtslos erscheint, Anspruch auf unentgeltliche Rechtspflege. Falls es zur Wahrung ihrer Rechte notwendig ist, hat sie ausserdem Anspruch auf unentgeltlichen Rechtsbeistand.
Hinsichtlich der Voraussetzung der Notwendigkeit der Verbeiständung prüft das Bundesgericht frei, ob die Kriterien zu deren Bestimmung im Sinne von Art. 29 Abs. 3 BV zutreffend gewählt worden sind; die tatsächlichen Feststellungen der kantonalen Behörden dagegen werden nur auf Willkür hin überprüft (BGE 135 I 221 E. 5.1 S. 223 mit Hinweis).
5. Umstritten ist die Notwendigkeit der anwaltlichen Vertretung.
5.1 Der Anspruch auf einen unentgeltlichen Rechtsbeistand besteht grundsätzlich für jedes staatliche Verfahren, in welches der Gesuchsteller einbezogen wird oder das zur Wahrung seiner Rechte notwendig ist. Die Rechtsnatur des Verfahrens ist dabei ohne Belang. Entscheidend ist hingegen, ob die Interessen des Gesuchstellers in schwerwiegender Weise betroffen sind und der Fall in tatsächlicher und rechtlicher Hinsicht Schwierigkeiten bietet, die den Beizug eines Rechtsvertreters erforderlich machen. Droht das in Frage stehende Verfahren besonders stark in die Rechtsposition der betroffenen Person einzugreifen, ist die Bestellung eines unentgeltlichen Rechtsvertreters grundsätzlich geboten, sonst nur dann, wenn zur relativen Schwere des Falles besondere tatsächliche oder rechtliche Schwierigkeiten hinzukommen, denen der Gesuchsteller - auf sich alleine gestellt - nicht gewachsen wäre (BGE 130 I 180 E. 2.2 S. 182 mit Hinweisen; Urteil 5A_447/2007 vom 13. Dezember 2007 E. 2, nicht publ. in: BGE 134 I 12). Zu berücksichtigen ist dabei zudem das Prinzip der Waffengleichheit (vgl. Urteil 5A_145/2010 vom 7. April 2010 E. 3.5 mit Hinweisen).
Ergreift eine Partei - wie hier - zunächst ohne anwaltliche Hilfe ein Rechtsmittel und reicht damit verbunden ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung ein, richtet sich die Frage der Notwendigkeit der anwaltlichen Vertretung zunächst danach, ob im Verfahren noch weitere Vorkehren zu treffen sind. Ist dies der Fall, beurteilt sich die Frage der Notwendigkeit nach den Umständen des konkreten Einzelfalls. Es kann deshalb nur darauf ankommen, ob sich die Beschwerdeführerin 1 in dem hängigen Verfahren gehörig zur Wehr zu setzen vermag. Ungeachtet der Ausbildung und beruflichen Qualifikation der Beschwerdeführerin 2 fällt entscheidend ins Gewicht, wie leicht die sich stellenden prozess- und materiellrechtlichen Fragen zu beantworten sind.
5.2 Das Obergericht erwog, aus den Akten ergebe sich, dass die Beschwerdeführerin 1 bei der Vorinstanz durch die Beschwerdeführerin 2 durchwegs angemessen und gehörig vertreten gewesen sei. Selbst der im Verlaufe des Verfahrens eingeschaltete Anwalt habe in seiner Replik die von der Tochter eingereichte Beschwerdeschrift als gut begründet und umfassend taxiert. Darauf seien die Beschwerdeführerinnen zu behaften. Es habe deshalb keine Notwendigkeit für eine unentgeltliche anwaltliche Vertretung bestanden.
5.3 Entscheidet eine Rechtsmittelinstanz über ein von der ersten (Beschwerde-) Instanz abgelehntes Gesuch um unentgeltliche Rechtspflege erst nach Erledigung der Hauptsache, ist die Frage der Notwendigkeit nicht ex post, sondern ex ante zu prüfen. Das Obergericht übersieht, dass - wäre das Verfahren ordentlich fortgesetzt und zu Ende geführt worden - nach der Beschwerdeeinreichung offensichtlich noch weitere Vorkehren zu treffen gewesen wären, mindestens im Umfang des Replikrechts mit Bezug auf die vom Verwaltungsgericht von der Vormundschaftsbehörde einzuholende Stellungnahme. In dieser Hinsicht durfte die Notwendigkeit der Verbeiständung mithin nicht verneint werden.
Praxisgemäss ist die Notwendigkeit der anwaltlichen Verbeiständung im Rechtsmittelverfahren nur ausnahmsweise zu verneinen. Dies gilt selbst dann, wenn der Sachverhalt als solcher keine besondere Komplexität aufweist (Urteil 5A_692/2009 vom 5. Januar 2010 E. 3.3). Ebenso gilt dies auch und gerade in jenen Fällen, in denen in erster Instanz kein Anwalt beteiligt war, und, wie vorliegend, ein erheblicher Eingriff in die persönliche Freiheit der Gesuchstellerin auf dem Spiel steht. Gerade in vormundschaftlichen Verfahren stellen sich häufig Fragen der Zweckmässigkeit und Angemessenheit der getroffenen Massnahmen; derartige Wertungsfragen können kaum als einfach bezeichnet werden. Vor diesem Hintergrund hat die Beschwerdeführerin 1 in guten Treuen ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt, deren Notwendigkeit mangels anderer Anhaltspunkte zum Zeitpunkt der Gesuchseinreichung zu bejahen gewesen wäre. Dass sie in einem ersten Schritt - mit Hilfe ihrer Tochter (Beschwerdeführerin 2) - eine Beschwerdeschrift eingereicht hat, die den qualitativen Anforderungen genügte, berechtigt nicht zur Verweigerung der unentgeltlichen Verbeiständung.
Da sich das Obergericht weder zur Frage der Bedürftigkeit der Gesuchstellerin 1 noch zum Kriterium der Aussichtslosigkeit geäussert hat, ist die Sache an dieses zu neuem Entscheid zurückzuweisen.
6. Ungeachtet des Verfahrensausgangs sind dem Kanton Appenzell Ausserrhoden keine Kosten aufzuerlegen; indessen hat er die Beschwerdeführerin 1 für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 66 Abs. 4, Art. 68 Abs. 2 BGG). Das Gesuch um unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren wird damit gegenstandslos.
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde der Beschwerdeführerin 2 wird nicht eingetreten.
2. Die Beschwerde der Beschwerdeführerin 1 wird teilweise gutgeheissen, die Ziffern 1 und 3 der Verfügung des Einzelrichters des Obergerichts des Kantons Appenzell Ausserrhoden vom 19. Juli 2011 werden aufgehoben und das Verfahren zu neuer Entscheidung an das Obergericht des Kantons Appenzell Ausserrhoden zurückgewiesen.
3. Auf die Erhebung von Gerichtskosten wird verzichtet.
4. Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird als gegenstandslos abgeschrieben.
5. Der Kanton Appenzell Ausserrhoden hat die Beschwerdeführerin 1 für das bundesgerichtliche Verfahren mit Fr. 1'500.-- zu entschädigen.
6. Dieses Urteil wird den Parteien und dem Obergericht Appenzell Ausserrhoden, Einzelrichter, schriftlich mitgeteilt.
Lausanne, 3. Februar 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Schwander