Faits :
A.
A.a. A._, né en 1971, a été mis au bénéfice de prestations d'aide financière ordinaire versées par l'Hospice général à partir du 1er mai 2014. Il a fait l'objet d'un plan de réinsertion professionnelle personnalisée. Dans le but d'augmenter son employabilité dans le domaine informatique, le service de réinsertion professionnelle (ci-après: SRP) a été d'accord de le soutenir dans son projet d'effectuer un Bachelor en ingénierie en cours d'emploi à la Haute Ecole d'Ingénierie et de Gestion du Canton de Vaud (ci-après: HEIG) et lui a accordé, alors même qu'il ne remplissait pas toutes les conditions, une aide financière exceptionnelle pour étudiants et personnes en formation pour la période du 1er février au 31 juillet 2016. Aussi, il a été rappelé qu'en vertu des dispositions légales applicables, les étudiants et personnes en formation n'avaient pas droit à l'aide financière ordinaire mais pouvaient se voir allouer une aide financière réduite, limitée à six mois, exceptionnellement reconductible. Cette décision a été confirmée sur opposition par l'Hospice général le 8 juillet 2016.
En juillet 2016, A._ a informé sa conseillère en réinsertion professionnelle qu'il renonçait à poursuivre sa formation. Ensuite d'un appel téléphonique de l'intéressé se plaignant d'avoir reçu des prestations au barème de l'aide financière exceptionnelle pour étudiants après avoir mis un terme à sa formation, le SRP a rectifié le calcul et lui a versé la différence par rapport aux prestations ordinaires. D'août 2016 à avril 2018, les prestations d'aide financière ordinaire lui ont été allouées.
A.b. Après avoir appris par un tiers que A._ avait déclaré qu'il allait passer des examens de Bachelor, la conseillère SRP l'a convoqué le 20 février 2018 pour l'entendre à ce sujet. Par décision du 19 mars 2018, l'Hospice général a réduit le forfait d'entretien alloué au prénommé de 15 % pour une durée de trois mois à compter du 1er avril 2018, avec suppression des prestations circonstancielles à l'exception des éventuelles participations aux frais médicaux et dentaires. Par décision du 14 juin 2018, il a en outre mis un terme au versement des prestations d'aide financière avec effet au 1er mai 2018 et a demandé le remboursement de 58'065 fr. 20 pour les prestations indûment touchées du 1er août 2016 au 30 avril 2018. Ces deux décisions reposaient sur le fait que A._ avait caché sciemment la poursuite de ses études à la HEIG. Par décision sur opposition du 9 octobre 2018 l'Hospice général a confirmé ses décisions du 19 mars et 14 juin 2018.
Le 9 juillet 2018, A._ a remis au SRP une décision d'exmatriculation de la HEIG au 29 juin 2018. L'Hospice général a repris le versement l'aide financière au barème ordinaire dès le 1er juillet 2018.
B.
Saisie d'un recours contre la décision sur opposition du 9 octobre 2018, la Chambre administrative de la Cour de justice de la République et canton de Genève l'a rejeté par jugement du 3 septembre 2019.
C.
A._ interjette un recours en matière de droit public contre ce jugement, en concluant principalement à son annulation et au renvoi de la cause à l'instance inférieure pour nouvelle décision dans le sens des considérants, et subsidiairement à sa réforme en ce sens qu'il soit constaté que les prestations perçues entre le 1er août 2016 et le 30 avril 2018 pour un montant total de 58'065 fr. 20 n'ont pas à être restituées. Il sollicite en outre l'octroi de l'effet suspensif à son recours ainsi que le bénéfice de l'assistance judiciaire gratuite.
La cour cantonale déclare n'avoir aucune observation à formuler au sujet du recours. L'intimé conclut au rejet tant du recours que de la demande d'effet suspensif.
D.
Par ordonnance du 9 janvier 2020, le juge instructeur a admis la requête d'effet suspensif.

Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (art. 90 LTF), rendu dans une cause de droit public ne tombant pas sous le coup de l'une des exceptions prévues à l'art. 83 LTF, par une autorité supérieure de dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF). La voie du recours en matière de droit public est partant ouverte.
2.
2.1. Le Tribunal fédéral, qui est un juge du droit, fonde son raisonnement juridique sur les faits retenus par l'autorité précédente (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2 p. 190) - ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente, il doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF); à défaut, un état de fait divergent de celui de la décision attaquée ne peut pas être pris en compte (<ref-ruling> consid. 2 précité; <ref-ruling> consid. 5.2.2 p. 322). Le Tribunal fédéral n'entre pas en matière sur des critiques appellatoires portant sur l'appréciation des preuves ou l'établissement des faits par l'autorité précédente (<ref-ruling> consid. 2 p. 215; <ref-ruling> consid. 2.3 p. 266).
2.2. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Toutefois, il n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal et intercantonal que si ce grief a été invoqué et motivé par le recourant (art. 106 al. 2 LTF). Sauf exceptions non pertinentes en l'espèce (cf. art. 95 let. c, d et e LTF), on ne peut pas invoquer la violation du droit cantonal ou communal en tant que tel devant le Tribunal fédéral (art. 95 LTF a contrario). Il est néanmoins possible de faire valoir que son application viole le droit fédéral, en particulier l'interdiction de l'arbitraire (art. 9 Cst.) ou d'autres droits constitutionnels. Le Tribunal fédéral n'examine alors de tels moyens que s'ils sont formulés conformément aux exigences de motivation qualifiée prévues à l'art. 106 al. 2 LTF (<ref-ruling> consid. 3.2 p. 579 et la référence). Appelé à revoir l'interprétation d'une norme cantonale ou communale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain (<ref-ruling> consid. 7.1 p. 124).
2.3. Le principe de la proportionnalité, comme son nom l'indique, n'est pas un droit fondamental mais uniquement un principe constitutionnel. Il peut être invoqué dans le cadre d'un recours en matière de droit public directement et indépendamment d'un droit fondamental (cf. <ref-ruling> consid. 5.3.2 p. 7; <ref-ruling> consid. 6.3.1 p. 267). Toutefois, lorsque le recourant s'en prévaut en relation avec le droit cantonal ou communal et indépendamment de toute atteinte à un droit fondamental, le Tribunal fédéral ne revoit pas le respect du principe de la proportionnalité librement, mais seulement sous l'angle de l'arbitraire (cf. <ref-ruling> consid. 5.3.2 précité et les références citées).
3.
3.1. Selon l'art. 12 Cst., quiconque est dans une situation de détresse et n'est pas en mesure de subvenir à son entretien a le droit d'être aidé et assisté et de recevoir les moyens indispensables pour mener une existence conforme à la dignité humaine. L'art. 12 Cst. ne vise qu'une aide minimale - à savoir un filet de protection temporaire pour les personnes qui ne trouvent aucune protection dans le cadre des institutions sociales existantes - pour mener une existence conforme à la dignité humaine; dans cette mesure, le droit constitutionnel à l'aide d'urgence diffère du droit cantonal à l'aide sociale, qui est plus complet (<ref-ruling> consid. 5.1 p. 2 s. et les références).
3.2. Dans le canton de Genève, l'aide sociale est régie par la loi du 22 mars 2007 sur l'insertion et l'aide sociale individuelle (LIASI; RS/GE J 4 04) et son règlement d'exécution du 25 juillet 2007 (RIASI; RS/GE J4 04.01), qui disposent notamment ce qui suit:
L'art. 11 al. 4 LIASI prévoit que le Conseil d'État fixe par règlement les conditions d'une aide financière exceptionnelle, qui peut être inférieure à l'aide financière ordinaire et/ou limitée dans le temps, en faveur des catégories de personnes qui n'ont pas droit aux prestations financières ordinaires, en particulier (let. a) les étudiants et les personnes en formation. Fondé sur cette délégation de compétence, le Conseil d'État a édicté l'art. 13 RIASI, aux termes duquel peut être mis au bénéfice d'une aide financière exceptionnelle l'étudiant ou la personne en formation qui remplit les conditions cumulatives suivantes: a) être au bénéfice d'allocations ou prêts d'études; b) ne pas faire ménage commun avec son père et/ou sa mère (al. 1). L'aide financière doit permettre de surmonter des difficultés passagères et de terminer la formation en cours; elle est limitée à 6 mois; à titre exceptionnel, elle peut être reconduite (al. 2).
Selon l'art. 35 al. 1 LIASI, les prestations d'aide financière peuvent être réduites, suspendues, refusées ou supprimées notamment dans les cas où le bénéficiaire, intentionnellement, ne s'acquitte pas de son obligation de collaborer telle que prescrite par l'art. 32 de la loi (let. c), ou dans les cas où il refuse de donner les informations requises (art. 7 et 32 de la loi), donne des indications fausses ou incomplètes ou cache des informations utiles (let. d).
Sous le titre "Prestations perçues indûment", l'art. 36 LIASI dispose qu'est considérée comme étant perçue indûment toute prestation qui a été touchée sans droit (al. 1). Par décision écrite, l'Hospice général réclame au bénéficiaire, à sa succession ou à ses héritiers qui l'ont acceptée, le remboursement de toute prestation d'aide financière perçue indûment par la suite de la négligence ou de la faute du bénéficiaire (al. 2). Le remboursement des prestations indûment touchées peut être réclamé si le bénéficiaire, sans avoir commis de faute ou de négligence, n'est pas de bonne foi (al. 3).
L'art. 42 LIASI prévoit que le bénéficiaire qui était de bonne foi n'est tenu au remboursement, total ou partiel, que dans la mesure où il ne serait pas mis, de ce fait, dans une situation difficile (al. 1). Dans ce cas, il doit formuler par écrit une demande de remise dans un délai de 30 jours dès la notification de la demande de remboursement; cette demande de remise est adressée à l'Hospice général (al. 2).
4.
Les premiers juges ont retenu que le recourant n'avait pas respecté ses obligations de collaborer et de renseigner prévues aux art. 32 et 33 LIASI, et ce pendant une durée d'environ deux ans; il n'avait pas déclaré à l'Hospice général avoir poursuivi ses études entre 2015 et 2018, alors même qu'il avait eu plusieurs entretiens avec sa conseillère pendant cette période; plus précisément, lors d'un entretien du 17 novembre 2015, il avait informé sa conseillère qu'il allait passer des examens de Bachelor, ce dont cette dernière n'était visiblement pas au courant et s'était étonnée, avant d'en référer à un responsable; par la suite, lors d'une rencontre du 20 février 2018, il avait commencé par mentir à sa conseillère avant de lui avouer qu'il avait poursuivi ses études. Sur cette base, la cour cantonale a retenu que les allégations du recourant selon lesquelles il avait informé sa conseillère n'étaient pas crédibles. Compte tenu du caractère relativement grave de ces manquements, elle a considéré que l'Hospice général n'avait pas abusé de son pouvoir d'appréciation en réduisant de 15 % le forfait d'entretien alloué au prénommé pour une durée de trois mois à compter du 1er avril 2018. Constatant par ailleurs que le recourant avait régulièrement et de manière répétée déclaré à l'intimé que les informations qu'il lui avait données par rapport à la poursuite de sa formation étaient complètes et correctes, alors que tel n'était pas le cas, les juges cantonaux ont conclu que les circonstances du cas d'espèce ne permettaient pas de retenir sa bonne foi et que l'Hospice général était dès lors fondé à lui réclamer l'ensemble des sommes indûment versées entre le 1er août 2016 et le 30 avril 2018, soit un montant total de 58'065 fr. 20.
5.
5.1. Le recourant se plaint d'abord d'un établissement manifestement inexact des faits. A côté de griefs portant sur des faits qui ne sont pas déterminants pour l'issue du litige ou de critiques qui relèvent de l'application du droit cantonal, il soutient que l'Hospice général aurait été parfaitement informé de l'avancée de sa formation au sein de la HEIG, puisqu'il lui avait accordé une aide exceptionnelle en 2016 pour lui permettre de suivre sa formation.
5.2. S'il est vrai que l'intimé a reconnu au recourant une aide financière exceptionnelle pour étudiant dès le 1er février 2016, celle-ci était d'emblée limitée au 31 juillet 2016. Quant aux mois suivants, le recourant ne conteste pas les faits établis par la cour cantonale selon lesquels, en juillet 2016, il avait déclaré à sa conseillère en réinsertion professionnelle qu'il renonçait à poursuivre sa formation et qu'il s'était plaint, en août 2016, d'avoir reçu des prestations au barème de l'aide financière exceptionnelle pour étudiants alors qu'il prétendait avoir mis un terme à sa formation. Sur la base de ces informations, qui se sont révélées être mensongères, l'intimé a repris le versement des prestations d'aide financière ordinaire jusqu'en avril 2018. C'est ainsi sans arbitraire que la cour cantonale a établi les faits pertinents.
6.
6.1. En droit, le recourant fait grief à la cour cantonale d'avoir violé l'art. 12 Cst. (droit d'obtenir de l'aide dans des situations de détresse) et le principe de la subsidiarité en considérant qu'il avait perçu des prestations indûment. Elle aurait singulièrement omis de considérer qu'il ne pouvait pas être au bénéfice d'une aide financière autre que celle fournie par l'intimé, dans la mesure où il ne remplissait pas les conditions pour bénéficier d'une bourse d'étude au sens de l'art. 11 de la loi cantonale genevoise du 17 décembre 2009 sur les bourses et prêts d'études (LBPE; RS/GE C 1 20), sachant qu'il était âgé de 48 ans, qu'il ne pouvait pas être exigé de ses parents âgés de subvenir à ses besoins, qu'il n'était pas marié et qu'il avait des dettes ainsi que de nombreuses poursuites.
6.2. Pour la période litigieuse d'août 2016 à avril 2018, la cour cantonale a constaté a posteriori que le recourant n'avait pas droit aux prestations d'aide financière puisque, contrairement à ses dires, il avait dissimulé son statut d'étudiant pendant une période d'environ deux ans. Ces considérations n'apparaissent pas critiquables. On ne voit pas en quoi l'art. 12 Cst. pourrait avoir été violé dès lors que pendant la période litigieuse, le recourant a bénéficié des moyens nécessaires pour mener une existence conforme à la dignité humaine. Le fait qu'il ait été condamné à restituer les prestations indûment reçues n'y change rien. Ce grief est donc mal fondé.
7.
Le recourant invoque une violation du principe de la proportionnalité et de l'interdiction de l'arbitraire.
7.1. En tant qu'il reproche à la cour cantonale d'avoir retenu à tort qu'il était de mauvaise foi, son argumentation se révèle purement appellatoire. Le recourant se contente en effet de présenter sa propre version des faits et sa propre interprétation du droit cantonal. En particulier, il n'expose pas en quoi les considérations des premiers juges sur l'application de l'art. 36 LIASI seraient manifestement insoutenables, de sorte qu'il n'y a pas lieu de s'écarter de la solution retenue par l'autorité cantonale (cf. consid. 2.2 supra).
7.2. Dans la mesure où le recourant estime que l'autorité cantonale aurait pu se limiter à exiger la restitution partielle des prestations versées à tort, le recourant échoue à démontrer une application arbitraire du droit cantonal. En effet, si le recourant s'était conformé à son devoir d'informer prévu à l'art. 33 LIASI et avait immédiatement déclaré à l'intimé qu'il comptait poursuivre ses études à la HEIG, il n'aurait pas eu droit, depuis août 2016 jusqu'à son exmatriculation en juin 2018, à des prestations financières d'aide sociale. Par conséquent, l'arrêt cantonal confirmant la restitution intégrale du montant de 58'065 fr. 20 échappe au grief d'arbitraire.
7.3. Enfin, s'agissant de la requête de remise, présentée pour la première fois en procédure cantonale et réitérée par-devant la Cour de céans, il ne résulte pas des faits établis par la cour cantonale, qui lient le Tribunal fédéral (art. 106 al. 2 LTF), qu'une demande aurait été adressée à l'intimé dans le délai de 30 jours dès la notification de la demande de remboursement conformément à l'art. 42 al. 2 LIASI (cf. consid. 3.2 supra). L'argumentation tendant à la remise de la dette de remboursement tombe dès lors d'emblée à faux.
8.
Dans la mesure où l'arrêt attaqué est confirmé s'agissant de la restitution des prestations versées entre le 1er août 2016 et le 30 avril 2018 et où la cessation des prestations d'aide sociale au 1er mai 2018 n'est pas litigieuse, il est superflu d'examiner le bien-fondé de la réduction de 15 % pour le forfait d'entretien alloué au prénommé pour une durée de trois mois à compter du 1er avril 2018.
9.
Compte tenu de ce qui précède, le recours est en tous points mal fondé et doit être rejeté.
10.
Le recourant a demandé à bénéficier de l'assistance judiciaire gratuite. Une partie ne remplit les conditions de l'assistance judiciaire que si elle ne dispose pas de ressources suffisantes et si ses conclusions ne paraissent pas vouées à l'échec (art. 64 al. 1 LTF; <ref-ruling> consid. 9.1 p. 537). En l'espèce, pour les motifs exposés ci-dessus, le recours apparaissait d'emblée voué à l'échec, ce qui conduit au rejet de la demande d'assistance judiciaire. Le recourant doit par conséquent payer les frais judiciaires (art. 66 al. 1 LTF) et ne peut pas prétendre à la prise en charge des honoraires de son avocat (art. 64 al. 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lucerne, le 21 septembre 2020
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Elmiger-Necipoglu