Faits :
A.
A._, né en 1973, s'est inscrit auprès de l'Office régional de placement de Lausanne (ORP) comme demandeur d'emploi le 21 décembre 2015. Un délai-cadre d'indemnisation a été ouvert en sa faveur du 21 décembre 2015 au 20 décembre 2017.
Par décision du 7 février 2017, la Caisse cantonale de chômage a suspendu son droit à l'indemnité pour une durée de 16 jours indemnisables dès le 22 juillet 2016. Il était reproché à l'assuré, qui avait fait contrôler son chômage durant le mois de juillet 2016, de n'avoir pas annoncé un gain intermédiaire qu'il avait obtenu en travaillant du 7 juillet 2016 au 21 juillet 2016 au service de C._ Sàrl. Par une autre décision, du 7 février 2017, la caisse lui a réclamé la restitution d'un montant de 5'172 fr. 80 qu'elle estimait avoir versé à tort en vertu de décomptes de prestations rectifiés.
Le 26 avril 2017, la caisse a rendu une troisième décision, par laquelle elle annulait et remplaçait sa décision du 7 février 2017 relative à la restitution. Concernant le décompte de juillet 2016, l'assuré ayant réalisé un gain intermédiaire d'un montant de 3'496 fr. 85, il n'avait pas droit aux indemnités de chômage et devait, en conséquence, rembourser le montant de 2'958 fr. perçus à tort pour ce mois. En outre, 16 jours de suspension avaient été imputés sur le décompte du mois d'août 2016, de sorte que l'intéressé n'avait droit qu'à 1'065 fr. 40 sur le montant de 3'280 fr. 20 initialement versé. La différence, par 2'214 fr. 80, devait, également, être remboursée. Le montant sujet à restitution s'élevait donc à 5'172 fr. 80 (2'958 fr. + 2'214 fr. 80). La caisse a en outre opéré compensation avec des indemnités dues pour les mois de janvier, février et mars 2017 (respectivement 852 fr. 60, 2'856 fr. 80 et 1'463 fr. 40).
Représenté par son curateur, l'assuré a formé opposition à cette décision. Il contestait la compensation opérée par la caisse en faisant valoir qu'elle portait atteinte à son minimum vital. Il demandait la restitution des sommes prélevées à titre de compensation, afin de pouvoir payer ses loyers en souffrance. La caisse a rejeté l'opposition par décision du 22 mai 2017.
B.
L'assuré a recouru contre la décision sur opposition en contestant le droit de la caisse de compenser sa créance et en concluant au versement de la somme de 5'172 fr. 80. Par arrêt du 16 octobre 2017, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud a admis le recours et a annulé la décision du 22 mai 2017 en tant qu'elle portait sur la compensation du montant à restituer de 5'172 fr. 80 avec des indemnités de chômage dues à l'assuré pour les mois de janvier, février et mars 2017.
C.
Le Secrétariat d'Etat à l'économie (SECO) forme un recours en matière de droit public dans lequel il conclut à l'annulation de l'arrêt cantonal et à la confirmation de la décision du 22 mai 2017. Il demande l'effet suspensif à son recours.
La caisse de chômage s'en remet à justice. A._ n'a pas répondu au recours.
L'effet suspensif a été accordé à titre superprovisoire par ordonnance du 4 décembre 2017.

Considérant en droit :
1.
1.1. La juridiction cantonale a retenu que la caisse de chômage ne pouvait pas procéder à une compensation directe du montant de 5'172 fr. 80 sur les indemnités de chômage dues à l'assuré avant qu'il n'ait été statué définitivement sur la restitution et sur une éventuelle demande de remise de l'obligation de restituer.
1.2. Le recourant fait valoir qu'en exigeant, comme condition de la compensation, que la décision soit définitive, le Tribunal cantonal vide de sa substance l'<ref-law> (RS 837.0). Il faut en effet, selon le recourant, compter avec la longueur des procédures lorsque l'assuré fait usage de toutes les voies de recours à sa disposition pour contester la décision de restitution et, dans un deuxième temps, pour demander une remise. Il conviendrait de tenir compte du fait que l'assurance-chômage verse un nombre d'indemnités journalières limitées (de 90 à 640 indemnités journalières) dans un laps de temps également restreint (délai-cadre d'indemnisation de deux ans ou de quatre ans). L'assuré pourrait ainsi être tenté d'utiliser toutes les voies de droit à sa disposition pour se soustraire à la compensation ou, à tout le moins, pour la retarder au maximum. Le recourant soutient également que l'obligation imposée par la cour cantonale d'attendre l'issue de la procédure de restitution, voire de remise, enlève toute utilité pour l'administration de faire usage du retrait de l'effet suspensif à l'opposition, alors que le but de cette mesure provisionnelle est précisément de permettre l'exécution anticipée de la décision et de garantir ainsi le recouvrement de la créance. De plus, l'assurance-chômage, à la différence de l'AVS/AI, ne vise pas la couverture des besoins vitaux, mais une compensation appropriée de la perte de revenu. Lorsque l'assurance-chômage procède à la compensation, ce serait aux cantons et aux communes de garantir, si nécessaire, le maintien du minimum vital par le biais de l'aide sociale. Ainsi donc, selon le recourant la limite du minimum vital ne serait pas applicable dans l'assurance-chômage.
2.
Sous réserve des cas relevant de l'<ref-law> (indemnité en cas d'insolvabilité), la demande de restitution en matière d'assurance-chômage est régie par l'<ref-law> (RS 830.1). Selon l'art. 25 al. 1, première phrase, LPGA, les prestations indûment touchées doivent être restituées. L'assuré concerné peut demander la remise de l'obligation de restituer, lorsque la restitution des prestations allouées indûment, mais reçues de bonne foi, le mettrait dans une situation difficile (cf. art. 25 al. 1, deuxième phrase, LPGA). Le destinataire d'une décision de restitution qui entend la contester dispose en réalité de deux moyens qu'il convient de distinguer de façon claire: s'il prétend qu'il avait droit aux prestations en question, il doit s'opposer à la décision de restitution dans un délai de 30 jours; en revanche, s'il admet avoir perçu indûment des prestations, mais qu'il invoque sa bonne foi et des difficultés économiques qu'il rencontrerait en cas de remboursement, il doit présenter une demande de remise. Dans la mesure où la demande de remise ne peut être traitée sur le fond que si la décision de restitution est entrée en force, la remise et son étendue font l'objet d'une procédure distincte (cf. <ref-law> [RS 830.11]; arrêt 8C_589/2016 du 26 avril 2017 consid. 3.1; 8C_130/2008 du 11 juillet 2008 consid. 2.2; 8C_602/2007 du 13 décembre 2007 consid. 3).
3.
3.1. En dehors de l'<ref-law> sur l'interdiction de la compensation en cas de versement des prestations en mains de tiers (avec l'exception de l'art. 20 al. 2, deuxième phrase, LPGA), la LPGA ne contient pas de norme générale sur la compensation. Ce mode d'extinction des créances est donc régi par les dispositions des lois spéciales (<ref-ruling> consid. 4.2 p. 405), en l'occurrence par l'<ref-law>. Selon cette disposition, les restitutions et les prestations dues en vertu de la présente loi peuvent être compensées les unes par les autres ainsi que par des restitutions et des rentes ou indemnités journalières dues au titre de l'AVS, de l'assurance-invalidité, de la prévoyance professionnelle, de la loi du 25 septembre 1952 sur les allocations pour perte de gain, de l'assurance-militaire, de l'assurance-accidents obligatoire, de l'assurance-maladie, ainsi que des prestations complémentaires de l'AVS/AI et des allocations familiales légales. La compensation ne doit toutefois pas entamer le minimum vital de l'assuré, tel que fixé par l'<ref-law>. Cette règle vaut pour toutes les institutions d'assurance sociale (voir par exemple <ref-ruling> précité; <ref-ruling> consid. 7.2 p. 246; <ref-ruling> consid. 6.1 p. 291; <ref-ruling> consid. 1.2 p. 252; arrêt 8C_130/2008 précité consid. 2.3 [à propos de l'assurance-chômage]; BORIS RUBIN, Commentaire de la loi sur l'assurance-chômage, 2014, n° 6 ad <ref-law>; MOOR/POLTIER, Droit administratif, vol. II, 3e éd. 2011, p. 103 s., THOMAS NUSSBAUMER, Arbeitslosenversicherung, in Soziale Sicherheit, SBVR vol. XIV, 3e éd. 2016, p. 2292 n. 86). Cette exigence est à rapprocher de l'<ref-law>, selon lequel ne peuvent être éteintes par compensation les créances dont la nature spéciale exige le paiement effectif entre les mains du créancier, tels que les aliments ou le salaire absolument nécessaires à l'entretien du créancier et de sa famille. En cas de versement rétroactif de prestations périodiques, la limite de compensation relative au minimum vital doit être examinée pour la même période, soit pour l'espace de temps dans lequel le versement rétroactif des prestations est destiné (<ref-ruling> déjà cité; arrêt 9C_1015/2010 du 12 avril 2011 consid. 3.3).
3.2. Sur le plan procédural, l'extinction de la créance en restitution par voie de compensation ne peut intervenir, aux conditions requises, qu'une fois qu'il a été statué définitivement sur la restitution et sur une éventuelle demande de remise de l'obligation de restituer. L'opposition et le recours formés contre une décision en matière de restitution ont un effet suspensif (DTA 1990 no 1 p. 13 consid 1; arrêt 8C_130/2008 précité consid. 3.2; RUBIN, op. cit., n° 7 ad <ref-law>). Une compensation immédiate ferait perdre à l'assuré la possibilité de contester la restitution et, le cas échéant, de demander une remise de l'obligation de restituer (DTA 1977 no 19 p. 90; RUBIN, op. cit., n° 7 ad <ref-law>).
3.3. Une remise de l'obligation de restituer n'entre toutefois pas en considération dans la mesure où cette obligation peut être éteinte par compensation avec des prestations d'autres assurances sociales, soit lorsque des prestations déjà versées sont remplacées par d'autres prestations, dues à un autre titre, et que la compensation intervient entre ces prestations conformément au principe de concordance temporelle. Dans cette éventualité, la fortune de l'intéressé astreint à l'obligation de restituer ne subit aucun changement qui le mettrait dans une situation difficile, de sorte que la question de la remise n'a pas à être examinée (<ref-ruling> consid. 2b p. 487; RUBIN, op. cit., n° 13 ad <ref-law>). On est toutefois en dehors de ce cas de figure en l'espèce.
4.
Contrairement à ce que voudrait le recourant, il n'y a pas lieu de s'écarter des principes ci-dessus exposés, qui découlent de la LPGA, applicable à l'assurance-chômage, sauf exceptions non pertinentes en l'espèce (cf. <ref-law>), ainsi que de l'<ref-law> et de la jurisprudence en matière de compensation, laquelle a une portée générale dans l'assurance sociale, ainsi qu'on l'a vu. C'est en vain, en particulier, que le recourant se prévaut du but qui serait propre aux indemnités de chômage et qui justifierait, à ses yeux, une compensation immédiate et sans condition avec des prestations en cours. Dans d'autres branches de l'assurance sociale également, les prestations ne visent pas la seule couverture des besoins absolument vitaux. C'est le cas, notamment, des indemnités journalières (voir par ex. les <ref-law> et 17 LAA) qui sont accordées en remplacement d'un revenu, à l'instar des indemnités de chômage (<ref-law>). Quant au caractère temporaire des prestations, il n'est pas non plus spécifique aux indemnités de chômage (par exemple les indemnités journalières de l'assurance-accidents ou de l'assurance-maladie sont également des prestations à caractère temporaire). Les difficultés de recouvrement invoquées ne sont pas plus importantes pour les organes de l'assurance-chômage que pour les administrations chargées de l'application d'autres régimes d'assurance sociale. Elles ne sauraient donc justifier, en dérogation à une jurisprudence, une compensation immédiate de la créance de la caisse (sur ces divers points, voir l'arrêt (8C_130/2008 déjà cité consid. 3.3). Enfin la question de savoir si, sous certaines conditions (par exemple une attitude ouvertement dilatoire pouvant être constitutive d'un abus de droit), un retrait de l'effet suspensif par la caisse serait admissible n'a pas à être examinée ici. En effet, même en admettant que la caisse pût retirer l'effet suspensif au recours de l'intimé, elle devait, en toutes hypothèses, tenir compte du minimum vital.
5.
Pour autant, le jugement attaqué ne saurait sans plus être confirmé.
L'intimé n'a pas contesté la décision de restitution. Il a au contraire admis explicitement le bien-fondé de la créance en remboursement de la caisse dans son opposition à la décision du 26 avril 2017, ainsi que dans son recours à l'autorité cantonale. Il n'a pas non plus demandé une remise de l'obligation de restituer, bien que son attention fût attirée sur cette possibilité (voir ch. 7 de la décision sur opposition). Ses griefs portaient uniquement sur la compensation opérée par la caisse. Dans ces conditions, c'est à tort que la juridiction cantonale a annulé purement et simplement la décision sur opposition du 22 mai 2017 en tant qu'elle portait sur la compensation du montant à restituer de 5'172 fr. 80 avec des indemnités de chômage pour les mois de janvier, février et mars 2017. L'objet du litige portait, précisément et uniquement, sur la question de la compensation. A ce stade de la procédure, une compensation était en principe possible, pour autant qu'elle ne portât pas atteinte au minimum vital de l'intéressé.
Ni la caisse de chômage ni le premier juge ne se sont prononcés sur cette question. Il convient, dès lors, d'annuler le jugement attaqué, ainsi que la décision sur opposition, et de renvoyer la cause à la caisse pour qu'elle détermine si une compensation est possible au regard des restrictions découlant du minimum vital fixé par l'<ref-law>.
6.
La cause étant tranchée, la requête d'effet suspensif devient sans objet.
7.
Bien que le recours se révèle presque entièrement mal fondé, le recourant, ne peut se voir imposer des frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est partiellement admis. Le jugement attaqué et la décision sur opposition du 22 mai 2017 sont annulés. La cause est renvoyée à la Caisse cantonale de chômage pour nouvelle décision dans le sens des considérants. Le recours est rejeté pour le surplus.
2.
Il n'est pas perçu de frais judiciaires.
3.
Le présent arrêt est communiqué aux parties, à la Caisse cantonale de chômage et à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud.
Lucerne, le 9 octobre 2018
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Castella