Sachverhalt:
A. A.a Mit Beschluss vom 23. Oktober 2006 ordnete die Vormundschaftsbehörde A._ die Prüfung einer vormundschaftlichen Massnahme wie auch die psychiatrische Begutachtung von X._ (geboren 1941) an. Anlass dazu bildete ein Gesuch des Kantonsratspräsidenten von Schwyz, welcher auf die Vielzahl von völlig aussichtslosen und geradezu absurden Eingaben hinwies, die X._ bisher an die Verwaltungs- und Gerichtsbehörden sowie an den Kantonsrat gerichtet hatte. Da dieser regelmässig kostenpflichtig werde, drohe ihm angesichts dem Fehlen von nennenswerten Einkünften die Verarmung und Fürsorgeabhängigkeit. Die Vormundschaftsbehörde erkannte aufgrund dieses Gesuchs sowie eines Strafermittlungsverfahrens des Verhöramtes Schwyz betreffend des von X._ eröffneten "Schiedsgerichts A._" genügend Hinweise für dessen Schutz-, Betreuungs- und Vertretungsbedürftigkeit. Einer Beschwerde an das Bundesgericht gegen den vormundschaftlichen Beschluss war kein Erfolg beschieden (Urteil 5A_5/2008 vom 3. Januar 2008).
A.b Der Gutachter Dr. Y._ kam in seinem Bericht vom 23. April 2009 zum Schluss, dass X._ an einer wahnhaften Störung (F23.0 nach ICD-10) leide, welche aufgrund der fehlenden Krankheitseinsicht und der Chronifizierung therapeutisch nicht beeinflussbar sei. Die Vormundschaftsbehörde hörte X._ am 2. Juni 2010 an, bei welcher Gelegenheit er deren Zuständigkeit, die Folgerungen des Gutachters sowie die Gefährdung seiner finanziellen Situation bestritt. Gestützt auf <ref-law> entmündigte die Vormundschaftsbehörde am 22. September 2010 X._ und ernannte Rechtsanwalt Z._ zu seinem Vormund.
A.c X._ focht die Entmündigung beim Regierungsrat des Kantons Schwyz an. Dieser forderte vom Beschwerdeführer einen Kostenvorschuss von Fr. 500.-- ein, erstreckte die Frist antragsgemäss und setzte ihm schliesslich eine Nachfrist an mit dem Hinweis, dass auf die Beschwerde nicht eingetreten werde, sofern die Zahlung nicht oder verspätet erfolge. X._ leistete den geforderten Kostenvorschuss nicht. Mit Beschluss vom 14. Dezember 2010 trat der Regierungsrat auf die Beschwerde androhungsgemäss nicht ein. Von der Erhebung von Verfahrenskosten sah er ab.
B. Gegen den regierungsrätlichen Beschluss gelangte X._ an das Verwaltungsgericht des Kantons Schwyz. Als er den auf Fr. 500.-- angesetzten Kostenvorschuss nicht bezahlte, setzte ihm das Gericht eine Nachfrist, verbunden mit dem Hinweis auf die Folge der Nichtleistung des Kostenvorschusses. Der geforderte Kostenvorschuss wurde nicht überwiesen. Mit Entscheid vom 31. März 2011 trat das Verwaltungsgericht androhungsgemäss auf die Beschwerde von X._ nicht ein. Die Verfahrenskosten wurden auf Fr. 200.-- festgesetzt.
C. Am 12. Mai 2011 ist X._ mit einer als "staatsrechtliche Beschwerde/Verfassungsbeschwerde" bezeichneten Eingabe an das Bundesgericht gelangt. Der Beschwerdeführer verlangt unter anderem die Aufhebung sämtlicher kantonaler Entscheide wegen Unzuständigkeit und wehrt sich gegen die Einforderung eines Kostenvorschusses. Zudem verlangt er die Gewährung der unentgeltlichen Rechtspflege.
Mit Verfügung vom 6. Juni erteilte die Präsidentin der II. zivilrechtlichen Abteilung der Beschwerde antragsgemäss die aufschiebende Wirkung.
In der Sache stellte das Verwaltungsgericht den Antrag, auf die Beschwerde nicht einzutreten. Die Vormundschaftsbehörde A._ hat sich nicht vernehmen lassen. Der Beschwerdeführer hat dem Bundesgericht am 26. Mai, 17. Juni und 24. Juni 2011 sowie am 19. September 2011 weitere Eingaben und Unterlagen zukommen lassen.

Erwägungen:
1. 1.1 Letztinstanzliche kantonale Entscheide über die Entmündigung unterliegen der Beschwerde in Zivilsachen (Art. 72 Abs. 2 lit. b Ziff. 6, <ref-law>). Ungeachtet ihrer Bezeichnung sind die Eingaben des Beschwerdeführers als solche entgegen zu nehmen. Gegenstand der vorliegenden Beschwerde kann indessen einzig der Entscheid des Verwaltungsgerichts sein, weshalb auf Begehren betreffend andere Verfahren sowie auf Vorbringen gegen andere Institutionen zum vornherein nicht einzutreten ist.
1.2 In der Beschwerde ist in Auseinandersetzung mit den Erwägungen des angefochtenen Entscheides darzulegen, welche Rechte der beschwerdeführenden Partei durch das kantonale Gericht missachtet worden sind (<ref-law>; <ref-ruling> E. 2.1 S. 245), wobei eine allfällige Verletzung verfassungsmässiger Rechte vom Bundesgericht nicht von Amtes wegen geprüft wird, sondern nur, wenn entsprechende Rügen in der Beschwerdeschrift ausdrücklich erhoben und begründet worden sind (<ref-law>, <ref-ruling> E. 1.2 S. 234).
2. Die Vorinstanz ist auf die Beschwerde gegen den regierungsrätlichen Nichteintretensentscheid nicht eingetreten, da der gestützt auf das kantonale Verfahrensrecht verlangte Kostenvorschuss nicht überwiesen worden sei. Zuvor hatte sie dem Beschwerdeführer eine Nachfrist angesetzt und ihn auf die Folgen der Nichtleistung aufmerksam gemacht.
2.1 Der Beschwerdeführer rügt sinngemäss einen Verstoss gegen das Willkürverbot (<ref-law>). Die Vorinstanz habe das Eintreten auf seine Beschwerde zu Unrecht von der Leistung eines Kostenvorschusses abhängig gemacht hat.
2.2 Das Verwaltungsgericht hat die Erhebung des Kostenvorschusses auf § 73 VRP/SZ gestützt. Nach dieser Bestimmung "kann die Behörde von einer Partei, die den Erlass einer Verfügung oder eines Entscheides verlangt [...], einen Kostenvorschuss verlangen". Es handelt sich um eine Kann-Vorschrift, welche der Behörde das erforderliche Ermessen einräumt. Nach dem erstinstanzlichen Entscheid ist der Beschwerdeführer entmündigt worden, weil er wegen einer Geisteskrankheit nicht in der Lage ist, Prozesse selber zu führen, und er sich deshalb massiv verschuldet hat. Unter diesen Umständen ist es stossend, wenn die Vorinstanz gerade im Verfahren, in welchem sich der Beschwerdeführer gegen die Entmündigung wehrt, nicht von der Pflicht zum Kostenvorschuss abgesehen hat. Der Entscheid des Verwaltungsgerichts, wegen Nichtleistung des Kostenvorschusses auf das Rechtsmittel nicht einzutreten, ist mit <ref-law> (<ref-ruling> E. 4.1 S. 133) nicht vereinbar. Die Rüge ist begründet.
3. Die Beschwerde in Zivilsachen ist gutzuheissen und der angefochtene Nichteintretensentscheid ist aufzuheben. Die Sache ist an die Vorinstanz zurückzuweisen, damit sie über die kantonale Beschwerde entscheide, ohne einen Kostenvorschuss zu verlangen.
Es werden keine Gerichtskosten erhoben (<ref-law>). Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege ist infolge Gegenstandslosigkeit abzuschreiben. Eine Parteientschädigung an den nicht anwaltlich vertretenen Beschwerdeführer ist nicht geschuldet, da ihm keine ersatzpflichtigen Kosten entstanden sind (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in Zivilsachen wird gutgeheissen. Der Entscheid des Verwaltungsgerichts (Kammer III) des Kantons Schwyz vom 31. März 2011 wird aufgehoben und die Sache zu neuer Entscheidung im Sinne der Erwägungen an die Vorinstanz zurückgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Es wird keine Parteientschädigung zugesprochen.
4. Das Gesuch um unentgeltliche Rechtspflege wird als gegenstandslos abgeschrieben.
5. Dieses Urteil wird dem Beschwerdeführer, der Vormundschaftsbehörde A._, dem Regierungsrat des Kantons Schwyz und dem Verwaltungsgericht (Kammer III) des Kantons Schwyz schriftlich mitgeteilt.
Lausanne, 16. November 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Levante