Faits : A. A._, de nationalité étrangère, a déposé une demande d'asile en Suisse en avril 2012. Il a été attribué au canton de Vaud et a été pris en charge par l'Etablissement vaudois d'accueil des migrants (EVAM), qui a notamment assumé les frais d'un hébergement privé de l'intéressé à B._. Par décision du 23 juillet 2013, l'Office fédéral des migrations (ODM) a refusé d'entrer en matière sur la demande d'asile déposée par l'intéressé. Il a prononcé son renvoi de Suisse. Le Tribunal administratif fédéral a confirmé cette décision par arrêt du 30 juillet 2013. Les 26 août 2013 et 23 septembre 2013, l'EVAM a rendu deux décisions sur opposition. Il a mis fin à l'assistance financière et à la prise en charge de l'hébergement accordées jusqu'alors à l'intéressé. Il l'a mis au bénéfice de l'aide d'urgence et l'a invité à demander une place d'hébergement dans un centre collectif et à prendre ses repas à l'abri de protection civile de C._. A._ a recouru contre ces décisions devant le Chef du Département de l'économie et du sport. Plusieurs attestations ont été produites dans la procédure: Selon le docteur D._, médecin-chef de l'hôpital de B._, l'intéressé souffre de pathologies diverses, dont la principale est un diabète sucré compliqué. Le patient nécessite une prise en charge globale incluant notamment une éducation thérapeutique pour stabiliser ses pathologies et éviter d'autres complications plus sévères. Il présente en outre une vulnérabilité psychique. Ce médecin préconise l'attribution d'un logement individuel permettant à l'intéressé de cuisiner lui-même pour mettre en application les recommandations médicales et diététiques (attestation du 12 novembre 2013). E._, diététicienne, a indiqué qu'il était important pour l'intéressé de manger de manière équilibrée avec suffisamment de légumes, de varier son alimentation chaque jour, d'avoir un apport régulier en hydrates de carbones, de privilégier les céréales complètes et de limiter les aliments sucrés (attestation du 18 novembre 2013). Selon un rapport du "Groupe critères de vulnérabilités" de la Clinique F._ du 7 octobre 2013, les besoins en matière d'hébergement de l'intéressé commandent qu'il soit logé à proximité d'un lieu de soins pour garantir le suivi et le traitement de son diabète. Les auteurs du rapport ne préconisent pas explicitement la mise à disposition d'un logement individuel, mais précisent: "Logement en appartement où (le patient) peut préparer lui-même son repas". Statuant le 20 janvier 2014, le Département a rejeté les recours. B. A._ a alors saisi la Cour de droit administratif du Tribunal cantonal vaudois, lequel a rejeté son recours par arrêt du 14 mai 2014. C. A._ interjette un recours en matière de droit public dans lequel il conclut à l'annulation de l'arrêt cantonal. Il demande également à ce que le Tribunal renonce à percevoir une avance de frais vu son indigence. L'EVAM déclare se rallier aux considérants du jugement attaqué.