Sachverhalt: A. A.a. B.A._ kam am 6. Juni 2001 als Tochter von A.A._ und C.A._ geb. D._ zur Welt. Kurze Zeit später, am 24. September 2001, wurde die Ehe vom Bezirksgericht Z._ geschieden und der Mutter die (alleinige) elterliche Sorge übertragen. Die Mutter nahm nach der Scheidung wieder ihren Ledignamen D._ an. B._ lebt seit Geburt bei ihrer Mutter. A.b. Im Jahre 2002 ersuchte C.D._ um Änderung des Familiennamens ihrer Tochter von "A._" in "D._". Das Gesuch wurde vom Departement für Justiz und Sicherheit (DJS) des Kantons Thurgau am 3./6. März 2003 abgelehnt. Der abweisende Entscheid wurde vom Verwaltungsgericht des Kantons Thurgau am 28. Mai 2003 bestätigt. A.c. Am 9. Februar 2013 beantragte C.D._ beim DJS erneut, den Familiennamen der Tochter zu ändern. Am 20. September 2013 hiess das DJS das Gesuch gut und bewilligte die Änderung des Familiennamens von B._ von "A._" in "D._". B. Gegen den Entscheid erhob A.A._ Beschwerde beim Verwaltungsgericht und verlangte die Aufhebung der Namensänderung. Am 5. März 2014 wies das Verwaltungsgericht die Beschwerde ab. C. A.A._ ist mit Eingabe vom 23. April 2014 an das Bundesgericht gelangt. Er beantragt (sinngemäss), der Entscheid des Verwaltungsgerichts des Kantons Thurgau vom 5. März 2014 sei aufzuheben und die Namensänderung sei bis zur Volljährigkeit seiner Tochter zu verweigern. Weiter ersucht er um unentgeltliche Rechtspflege. Es sind keine Vernehmlassungen eingeholt worden.