Sachverhalt: A. A._ und B._ sind die Eltern zweier Söhne, C._ (geb. 2008) und D._ (geb. 2010). In einem Eheschutzurteil vom 16. Oktober 2012 gewährte der Amtsgerichtspräsident von Olten-Gösgen dem Vater das Recht, seine Kinder jedes zweite Wochenende von Samstag, 14.00 Uhr, bis Sonntag, 18.00 Uhr, besuchsweise zu sich zu nehmen. B. Ende Mai/Anfang Juni 2013 nahm die Staatsanwaltschaft Lenzburg Ermittlungen gegen A._ wegen Verdachts sexueller Handlungen mit den Kindern auf. Auf Gesuch der Mutter sistierte die Kindes- und Erwachsenenschutzbehörde (KESB) Olten-Gösgen mit superprovisorischen Verfügungen vom 7. und 19. Juni 2013 das Besuchsrecht "vorläufig bis auf weiteres". Für die Kinder wurde eine Verfahrensbeistandschaft nach Art. 314a bis ZGB errichtet. Mit Entscheid vom 31. Juli 2013 räumte die KESB Olten-Gösgen A._ das Recht ein, seine Kinder alle vierzehn Tage für drei Stunden in der Institution E._ in U._ zu besuchen. Am 27. August 2014 folgte ein weiterer Entscheid der KESB Olten-Gösgen. Die Behörde errichtete für die Söhne neu eine Beistandschaft nach Art. 308 Abs. 1 und 2 ZGB und beauftragte den Beistand damit, den persönlichen Verkehr zwischen Vater und Kindern zu regeln. Das zweiwöchentliche Besuchsrecht wurde auf dreieinhalb Stunden erweitert; im Übrigen blieb es bei der Regelung vom 31. Juli 2013. C. A._ ergriff am 29. September 2014 Beschwerde an das Verwaltungsgericht des Kantons Solothurn. Im Wesentlichen verlangte er, dem Besuchsrechtsbeistand aufzutragen, die Regelung des persönlichen Verkehrs schrittweise bis spätestens 31. März 2015 so wiederherzustellen, wie sie der Eheschutzrichter am 16. Oktober 2012 getroffen hatte (s. Bst. A). Für das Beschwerdeverfahren ersuchte er um unentgeltliche Rechtspflege. Er bat darum, ihm die unterzeichnete Anwältin als unentgeltliche Rechtsbeiständin zu bestellen. Mit Verfügung vom 1. Oktober 2014 wies der Präsident des Verwaltungsgerichts das Gesuch um unentgeltliche Rechtsverbeiständung ab (Ziffer 5). D. Mit Eingabe vom 6. November 2014 wendet sich A._ (Beschwerdeführer) an das Bundesgericht. Er stellt das Begehren, Ziffer 5 der Verfügung vom 1. Oktober 2014 aufzuheben und ihm die unterzeichnete Anwältin als unentgeltliche Rechtsbeiständin zu bestellen. Eventuell sei die Sache zur weiteren Prüfung seines Armenrechtsgesuchs an das Verwaltungsgericht zurückzuweisen. Auch für das bundesgerichtliche Beschwerdeverfahren ersucht der Beschwerdeführer um unentgeltliche Rechtspflege. Das Verwaltungsgericht des Kantons Solothurn hält mit Eingabe vom 7. Mai 2015 (Datum der Postaufgabe) an der angefochtenen Verfügung fest und beantragt, die Beschwerde kostenfällig abzuweisen. Die Vernehmlassung wurde dem Beschwerdeführer zur Wahrung des rechtlichen Gehörs zugestellt.