Faits :
A.
Par décisions du 9 juin 2011, confirmées sur opposition le 18 avril 2013, l'Hospice général du canton de Genève a réclamé d'une part à A._ la restitution d'un montant de 46'478 fr. 45 représentant des prestations d'aide financière perçues durant la période du 1 er août 2006 au 31 janvier 2008 et, d'autre part, au prénommé et à son épouse B._, la restitution d'un montant de 6'626 fr. 20 représentant des prestations d'aide financière perçues durant la période du 1 er janvier 2010 au 31 mars 2010.
B.
Saisie d'un recours contre les décisions sur opposition du 18 avril 2013, la Chambre administrative de la Cour de justice de la République et canton de Genève l'a rejeté par jugement du 4 février 2014.
C.
A._ interjette un recours en matière de droit public contre ce jugement. Il conclut principalement à son annulation, subsidiairement à ce que le montant à rembourser ne soit pas supérieur à 13'243 fr. 50 et, plus subsidiairement encore, à ce que la cause soit renvoyée à l'instance précédente pour nouvelle décision dans le sens des considérants.
L'Hospice général du canton de Genève conclut au rejet du recours.

Considérant en droit :
1.
Sauf dans les cas cités expressément par l'<ref-law>, le recours en matière de droit public ne peut pas être formé pour violation du droit cantonal en tant que tel. En revanche, il est toujours possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit constitutionnel, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.2 p. 69; <ref-ruling> consid. 4.3 p. 521 s.). Il appartient toutefois à la partie recourante d'invoquer ce grief et de le motiver d'une manière suffisante (cf. <ref-law>). S'agissant de l'application arbitraire du droit cantonal, celle-ci doit donc préciser en quoi l'acte attaqué serait arbitraire, ne reposerait sur aucun motif sérieux et objectif, apparaîtrait insoutenable ou heurterait gravement le sens de la justice (<ref-ruling> consid. 1.3 p. 60).
2.
Le jugement attaqué repose sur la loi cantonale genevoise du 22 mars 2007 sur l'insertion et l'aide sociale individuelle (LIASI; RSG J 4 04), plus particulièrement sur son art. 36 qui, sous le titre " Prestations perçues indûment " prévoit ceci:
1 Est considérée comme étant perçue indûment toute prestation qui a été touchée sans droit.
2 Par décision écrite, l'Hospice général réclame au bénéficiaire, à sa succession ou à ses héritiers qui l'ont acceptée, le remboursement de toute prestation d'aide financière perçue indûment par la suite de la négligence ou de la faute du bénéficiaire.
3 Le remboursement des prestations indûment touchées peut être réclamé si le bénéficiaire, sans avoir commis de faute ou de négligence, n'est pas de bonne foi.
4 Les héritiers sont solidairement responsables, mais seulement à concurrence du montant de la succession.
5 L'action en restitution se prescrit par 5 ans, à partir du jour où l'Hospice général a eu connaissance du fait qui ouvre le droit au remboursement. Le droit au remboursement s'éteint au plus tard 10 ans après la survenance du fait.
6 (...)
3.
3.1. Les premiers juges ont retenu que le recourant n'avait pas informé l'Hospice général de son mariage, le 30 novembre 2006, soit trois mois seulement après avoir sollicité des prestations. Le 5 novembre 2007, lorsqu'il avait renouvelé sa demande, il n'avait pas mentionné son épouse mais avait délibérément indiqué être célibataire, alors que son attention avait été attirée sur son obligation de renseigner. Par ailleurs, il n'avait pas non plus annoncé avoir travaillé auprès de la Ville de Genève de novembre 2007 à avril 2008. La juridiction cantonale en a conclu que le recourant et son épouse avaient obtenu des prestations en violation de l'obligation de renseigner et donc indûment, de sorte que la décision de l'intimé de réclamer au recourant le remboursement de l'intégralité de l'aide perçue, soit 46'478 fr. 45 pour la période du 1 er août 2006 au 31 janvier 2008 et 6'626 fr. 20 pour la période du 1 er janvier au 31 mars 2010 était fondée.
3.2. Le recourant invoque la péremption ou la prescription des droits de l'Hospice, au motif que ce dernier aurait agi plus d'une année après la connaissance des faits incriminés.
Ce moyen est infondé. Comme cela ressort de la disposition citée plus haut, le délai (relatif) de la prescription, respectivement de la péremption, est de cinq ans dès la connaissance du fait et l'on ne voit pas que l'intimé aurait agi tardivement au regard de ce délai.
3.3. Le recourant conteste ensuite devoir restituer l'intégralité des prestations d'aide sociale réclamées. S'il admet que l'intimé puisse lui réclamer la restitution du montant de 13'243 fr. 50, correspondant au salaire perçu pour son activité lucrative exercée entre novembre 2007 et janvier 2008, il conteste qu'il en aille de même pour le surplus. Il fait valoir que même s'il avait fait preuve de la plus grande transparence et avait collaboré autant qu'on pouvait l'exiger de lui, il aurait en tout état de cause eu droit à ce surplus de prestations. Par ailleurs, il soutient qu'il est arbitraire de lui réclamer la restitution de la somme de 6'626 fr. 20 versée pour la période du 1 er janvier au 31 mars 2010 alors que l'intimé savait depuis fin 2009 qu'il était marié.
Les premiers juges ont considéré que toute prestation obtenue en violation de l'obligation de renseigner est une prestation perçue indûment. Ils ont également constaté qu'en raison de l'importance des manquements, leur fréquence et leur durée, l'impossibilité d'établir clairement les faits, l'attitude du recourant - ayant exercé une activité au sein d'une assurance sociale - et de son épouse qui ont donné des versions contradictoires, voire mensongères, notamment au sujet de leurs activités respectives, la décision de l'intimé de réclamer la restitution de l'intégralité de l'aide financière versée était fondée.
Certes, on ignore dans quelle mesure exacte le recourant et son épouse auraient eu droit à des prestations d'aide sociale s'ils avaient pleinement satisfait à leur obligation de renseigner. Toujours est-il que le recourant ne démontre pas, conformément aux exigences accrues de l'<ref-law> (cf. consid. 1 supra), en quoi la juridiction cantonale est tombée dans l'arbitraire en retenant que les prestations obtenues en violation de l'obligation de renseigner étaient sujettes à restitution au regard notamment de l'impossibilité de reconstituer a posteriori et dans la durée la situation économique réelle des intéressés. Ce grief doit par conséquent également être écarté.
4.
Mal fondé, le présent recours doit être rejeté. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant qui succombe (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lucerne, le 13 mars 2015
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
La Présidente : Leuzinger
La Greffière : Fretz Perrin