Faits: A. Le 9 décembre 2005, A._ a adressé une demande d'aide sociale à l'Hospice X._. L'Hospice X._ y a répondu favorablement. Le 27 septembre 2007, il a toutefois mis fin à toutes prestations en faveur de A._ et exigé la restitution de celles qu'il avait allouées entre le 1er décembre 2005 et le 30 juin 2007, à raison de 66'465 fr. 05. Cette décision était motivée, notamment, par le fait que A._ n'était pas domicilié en Suisse, mais en France, pendant la période prise en considération, contrairement à ses indications à l'Hospice X._. Le Président du conseil d'administration de l'Hospice X._ a maintenu l'exigence de restitution des prestations, par décision sur opposition du 13 novembre 2007. Par jugement du 18 juin 2008, le Tribunal des assurances sociales du canton de Genève (ci-après: TCAS) a rejeté le recours formé par l'intéressé contre cette dernière décision. A._ a interjeté un recours en matière de droit public contre ce jugement devant le Tribunal fédéral. Statuant le 4 mai 2009, le Tribunal fédéral a admis le recours et annulé le jugement entrepris, la cause étant renvoyée à la juridiction cantonale afin qu'elle procède conformément aux considérants. Le Tribunal fédéral a considéré que le grief de violation du droit d'être entendu soulevé par le recourant était bien fondé, dès lors qu'il n'avait pas pu se déterminer sur la prise de position du 6 mai 2008 de l'Hospice X._, alors qu'il avait sollicité un délai pour ce faire. En ce qui concerne le grief d'arbitraire dans l'appréciation des preuves et la constatation des faits, il n'était pas exclu qu'il fût bien fondé, dans la mesure où l'attestation d'aide financière versée par l'Hospice X._ ne donnait aucun détail relatif aux prestations dont la restitution était demandée. Par conséquent, la force probante de ladite attestation paraissait pour le moins limitée (cause 8C_671/2008 du 4 mai 2009). B. Le 4 juin 2009, la juridiction cantonale a communiqué à A._ un décompte précis établi par l'Hospice X._ le 28 mai 2009. Elle a octroyé au prénommé un délai au 23 juin 2009 pour faire des observations. Le 12 juin 2009, l'intéressé a souhaité connaître le nom du ou des juges en charge de son dossier. Le 16 juin 2009, B._, Présidente de la Chambre Y._ du TCAS, l'a informé que son recours continuerait à être traité par la Chambre Y._, dans la même composition. Après avoir requis deux délais pour faire parvenir ses observations A._ a produit, le 31 juillet 2009, des pièces complémentaires et réclamé la « révocation » des magistrates ayant jugé sa cause en juin 2008. La Présidente de la Chambre Z._ du TCAS, C._, a transmis pour observations la demande de récusation aux juges concernées, soit B._, ainsi qu'à D._ et à E._, toutes deux juges assesseures. Le 6 août 2009, D._ s'en est rapportée à justice quant à la demande de récusation. Le 10 août 2009, B._ a conclu au rejet de la demande de récusation, en soulevant la question de la tardiveté possible de cette requête. Le 20 août 2009, E._ a exposé que la lecture des écritures de A._ de même que la jurisprudence, tant celle en matière de délais pour déposer une telle demande que celle relative aux motifs admissibles de récusation d'un juge, l'amenaient à penser que la démarche entreprise ne répondait pas aux critères applicables en la matière. Le 24 août 2009, C._ a communiqué au Ministère public la demande de récusation et les déterminations des juges. Le 11 septembre 2009, le Procureur général a conclu au rejet de la demande, dans la mesure où elle était recevable. Il a fait siens les avis exprimés par les trois juges concernées. Ces observations ont été communiquées aux parties le 14 septembre 2009. Statuant par jugement incident le 15 octobre 2009, le TCAS, Chambre Z._, présidée par C._, a rejeté la demande de récusation dans la mesure où elle était recevable, tout en laissant ouverte la question de savoir si la demande de récusation avait été formulée à temps. C. A._ interjette un recours en matière de droit public contre ce jugement dont il requiert l'annulation. Il demande au Tribunal fédéral de confirmer qu'il a déposé sa demande de récusation à temps. Il conclut à ce que sa demande de récusation des juges de la Chambre Y._ soit acceptée et à ce que sa cause soit jugée par un tribunal impartial. Préalablement, il sollicite le bénéfice de l'assistance judiciaire gratuite. La Présidente de la Chambre Y._ déclare qu'elle n'a aucune écriture à produire au sujet du recours interjeté par A._.