Sachverhalt: A. X._ und Y._ (Beschwerdeführer) sind die Eltern von W._ (geb. xxxx 1995). Das Verwaltungsgericht des Kantons Solothurn ist mit einer Beschwerde der Beschwerdeführer gegen eine Verfügung des Departements des Innern des Kantons Solothurn vom 11. November 2011 befasst. In dieser Verfügung hatte das Departement unter anderem die Vollstreckung einer Verfügung der Vormundschaftsbehörde A._ vom 9. November 2011 aufgeschoben und angeordnet, dass W._ bis auf weiteres unter Obhutsentzug fremdplatziert bleibe und V._ weiterhin als seine Beiständin eingesetzt sei. In der genannten Verfügung vom 9. November 2011 hatte die Vormundschaftsbehörde den am 10. Oktober 2011 angeordneten Obhutsentzug und die Fremdplatzierung aufgehoben und Beiständin V._ durch U._ ersetzt. Oberrichter Z._ ist Referent des Verfahrens vor Verwaltungsgericht. Am 20. Dezember 2011 führte Oberrichter Z._ eine Instruktionsverhandlung durch. An dieser Verhandlung stellten die Beschwerdeführer ein Ausstandsbegehren gegen ihn. Er nahm am 21. Dezember 2011 schriftlich dazu Stellung. Nachdem den Beschwerdeführern diese Stellungnahme zugestellt worden war, begründeten sie ihr Ausstandsbegehren am 22. Dezember 2011 schriftlich. Mit Urteil vom 23. Dezember 2011 wies das Verwaltungsgericht das Ausstandsbegehren ab. B. Dagegen haben die Beschwerdeführer am 6. Januar 2012 - der vorinstanzlichen Rechtsmittelbelehrung folgend - Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Sie verlangen die Aufhebung des angefochtenen Urteils und ersuchen darum, Oberrichter Z._ für befangen zu erklären. Zudem beantragen sie für das Verfahren vor Bundesgericht unentgeltliche Rechtspflege und Verbeiständung. Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.