Considérant :
que par arrêt du 27 avril 2021, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel a rejeté, dans la mesure où il était recevable, le recours interjeté par A._, contre une décision sur opposition de l'Office des relations et des conditions de travail (ORCT) du 9 juillet 2020 refusant la remise de l'obligation de restituer le montant de 2870 fr. 05,
que par lettre du 4 mai 2021 (timbre postal), le prénommé a déclaré former un recours contre l'arrêt susmentionné,
que par ordonnance du 6 mai 2021, le Tribunal fédéral a attiré l'attention du recourant sur le fait que son écriture ne semblait pas remplir les exigences de forme posées par la loi (nécessité de formuler des conclusions et de présenter une motivation) et qu'il pouvait être remédié à cette irrégularité avant l'expiration du délai de recours,
que le recourant a complété son recours par courrier du 1er juin 2021 (timbre postal),
qu'aux termes de l'art. 108 al. 1 let. b LTF, le président de la cour décide en procédure simplifiée de ne pas entrer en matière sur les recours dont la motivation est manifestement insuffisante (art. 42 al. 2 LTF),
qu'il peut confier cette tâche à un autre juge (art. 108 al. 2 LTF),
que selon l'art. 42 al. 1 et 2 LTF, le recours doit indiquer, entre autres exigences, les conclusions, les motifs et les moyens de preuve, en exposant en quoi l'acte attaqué est contraire au droit,
que pour satisfaire à l'obligation de motiver, la partie recourante doit discuter les motifs de la décision entreprise et indiquer précisément en quoi elle estime que l'autorité précédente a méconnu le droit, de telle sorte que l'on comprenne clairement, à la lecture de son exposé, quelles règles de droit auraient été, selon elle, transgressées par l'autorité cantonale (ATF 142 I 99 consid. 1.7.1 et les références),
qu'en l'espèce, la cour cantonale a précisé en préambule de son arrêt que le litige portait sur le seul rejet de la demande de remise de l'obligation du recourant de restituer,
qu'elle a retenu, à cet égard, que le recourant avait cessé de suivre la mesure de marché du travail (cours d'anglais intensif) non seulement sans avoir obtenu l'accord préalable de l'autorité compétente, mais également sans avoir tenté d'informer celle-ci de sa volonté de mettre un terme à la fréquentation du cours, de sorte que sa bonne foi devait être niée,
que dans son écriture du 4 mai 2021, le recourant se contente de relater sa version des faits, en affirmant qu'il est conscient de n'avoir pas fait les choses dans l'ordre, mais qu'il estime néanmoins avoir le droit de bénéficier de la remise de l'obligation de restituer la somme de 2870 fr. 05 compte tenu de "la situation",
que ce faisant, il ne démontre aucunement en quoi la cour cantonale aurait violé le droit en confirmant le bien-fondé de la décision sur opposition de l'intimé ou en quoi les constatations de fait de l'arrêt attaqué seraient manifestement inexactes,
qu'en outre, le complément de recours du 1er juin 2021 a été déposé après l'échéance du délai légal de recours,
que les conclusions et les motifs doivent cependant être formulés dans le délai de recours (ATF 135 I 19 consid. 2.2; 134 IV 156 consid. 1.7),
que partant, le recours ne répond manifestement pas aux exigences de l'art. 42 al. 1 et 2 LTF et doit être déclaré irrecevable,
qu'au regard des circonstances, il convient de renoncer à percevoir des frais judiciaires (art. 66 al. 1, seconde phrase, LTF),
par ces motifs, le Juge unique prononce :
1.
Le recours est irrecevable.
2.
Il n'est pas perçu de frais judiciaires.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et au Secrétariat d'Etat à l'économie (SECO).
Lucerne, le 30 août 2021
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Juge unique : Abrecht
La Greffière : Elmiger-Necipoglu