Sachverhalt: A. Am 5. Mai 1994 wurde über X._ (geb. 1941) auf dessen Begehren eine kombinierte Beiratschaft gemäss Art. 395 Abs. 1 und 2 ZGB errichtet. Nachdem diese für kurze Zeit aufgehoben war, ordnete sie das Richteramt Solothurn-Lebern mit Urteil vom 2. Mai 2007 erneut an. Mit Beschluss vom 2. März 2010 übertrug die Vormundschaftsbehörde A._ (Vormundschaftsbehörde) die Führung der Beiratschaft per 1. Mai 2010 Y._ und Z._. X._ focht die Ernennung dieser Beiräte beim Departement des Innern des Kantons Solothurn erfolglos an (Entscheid vom 12. August 2010). B. Gegen den Entscheid des Departementes beschwerte sich X._ beim Verwaltungsgericht des Kantons Solothurn im Wesentlichen mit den Begehren, der Entscheid des Departementes sei aufzuheben und es sei W._ als Beirat zu bestimmen, eventuell sei eine Amtsbeiratschaft anzuordnen. Am 7. Oktober 2010 ersuchten die Beiräte Y._ und Z._ um Entlassung aus der Mandatsführung per 31. Dezember 2010. Die Vormundschaftsbehörde entsprach diesem Begehren am 26. Oktober 2010 und ersuchte die Sozialen Dienste A._ um Übernahme der Beiratschaft per 1. Januar 2011. Das Verwaltungsgericht hörte in der Folge die Betroffenen zur geplanten Abschreibung des Verfahrens und zur Frage der Kostenliquidation schriftlich an und schrieb schliesslich die Beschwerde mit Urteil vom 15. Februar 2011 ab; es auferlegte die Kosten des Verfahrens vor dem Verwaltungsgericht sowie die Kosten des erstinstanzlichen Verfahrens X._ und sprach keine Parteientschädigung zu. C. Gegen dieses Urteil hat X._ (Beschwerdeführer) am 23. März 2011 (Postaufgabe) beim Bundesgericht "Einheitsbeschwerde in zivilrechtlichen Angelegenheiten" erhoben. Er beantragt, das Urteil vom 15. Februar 2011 sei aufzuheben und die Sache an das Verwaltungsgericht des Kantons Solothurn zurückzuweisen. Es sind keine Vernehmlassungen eingeholt worden.