Faits :
A.
A._ bénéficie d'un délai-cadre d'indemnisation de l'assurance-chômage depuis le 1 er août 2013.
Par décision du 29 octobre 2013, l'Office régional de placement (ci-après: l'ORP) a sanctionné l'assuré pour recherches d'emploi "nulles" durant le mois de septembre 2013 et prononcé une suspension du droit à l'indemnité d'une durée de cinq jours. Cette décision était motivée par le fait que l'intéressé n'avait pas remis en temps voulu le formulaire relatif à ses recherches d'emploi.
Le 21 novembre 2013, A._ a formé opposition à cette décision en exposant avoir envoyé par courriel le formulaire de recherches d'emploi comme il l'avait fait les mois précédents. Ce n'est que le 21 octobre 2013, lors d'un entretien avec son conseiller, qu'il avait appris que ce dernier n'avait jamais reçu ses recherches d'emploi. Il lui a alors remis l'original du document tout en indiquant qu'il avait omis de compresser le fichier contenant ses recherches d'emploi, s'expliquant ainsi l'échec de l'envoi. Par décision du 29 novembre 2013, l'Office cantonal de l'emploi (ci-après: l'OCE) a rejeté l'opposition.
B.
Le 28 décembre 2013, A._ a déféré la cause à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales. Celle-ci lui a demandé de produire une copie du courriel qu'il avait adressé à son conseiller. A._ a indiqué qu'il n'était pas en mesure de produire ce document.
Par décision du 17 avril 2014, la juridiction cantonale a partiellement admis le recours en ce sens qu'elle a réduit la suspension du droit à l'indemnité de chômage à deux jours.
C.
L'OCE interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation.
Ni A._ ni le Secrétariat d'Etat à l'économie (ci-après: le SECO) ne se sont déterminés.

Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (<ref-law>) rendu en matière de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi. Il est donc recevable.
2.
En l'espèce, le fait que le formulaire de recherches d'emploi n'est pas parvenu à temps à l'ORP n'est pas contesté par les parties. Le litige porte donc uniquement sur la durée de la suspension du droit à l'indemnité de chômage, qui peut être prononcée lorsque la liste de recherches d'emploi ne parvient pas en temps utile à l'ORP.
3.
Le jugement entrepris expose les dispositions légales relatives à la suspension du droit aux indemnités de chômage (art. 30 al. 1 let. c LACI [RS 837.0]) et à l'obligation des assurés d'apporter la preuve de leurs efforts en vue de retrouver un emploi (<ref-law>). On peut y renvoyer sur ces points.
On rappellera qu'aux termes de l'<ref-law> (RS 837.02), dans sa teneur en vigueur dès le 1 er avril 2011 (RO 2011 1179), l'assuré doit remettre la preuve de ses recherches d'emploi pour chaque période de contrôle au plus tard le cinq du mois suivant ou le premier jour ouvrable qui suit cette date. A l'expiration de ce délai, et en l'absence d'excuse valable, les recherches d'emploi ne sont plus prises en considération.
Dans un arrêt publié aux <ref-ruling>, le Tribunal fédéral a admis la conformité à la loi du nouvel article 26 al. 2 OACI (qui ne prévoit plus l'octroi d'un délai de grâce comme dans son ancienne version). Il a jugé que la loi n'impose pas de délai supplémentaire et que, sauf excuse valable, une suspension du droit à l'indemnité peut être prononcée si les preuves ne sont pas fournies dans le délai de l'<ref-law>; peu importe qu'elles soient produites ultérieurement, par exemple dans une procédure d'opposition.
4.
La juridiction cantonale a constaté que l'intimé n'avait pas fait parvenir à l'ORP le formulaire de recherches personnelles dans le délai prescrit par l'<ref-law>. Par conséquent, l'administration était fondée à prononcer une sanction. S'écartant du barème du SECO (cinq à neuf jours en pareil cas), les premiers juges en ont réduit la durée à deux jours.
Le recourant se plaint d'une mauvaise application de l'<ref-law>.
5.
5.1. La durée de la suspension du droit à l'indemnité de chômage est fixée compte tenu non seulement de la faute, mais également du principe de proportionnalité ( THOMAS NUSSBAUMER, Arbeitslosenversicherung, in Soziale Sichereit, SBVR, Vol. XIV, 2ème éd., n. 855 p. 2435). En tant qu'autorité de surveillance, le SECO a adopté un barème (indicatif) à l'intention des organes d'exécution. Un tel barème constitue un instrument précieux pour ces organes d'exécution lors de la fixation de la sanction et contribue à une application plus égalitaire dans les différents cantons. Cela ne dispense cependant pas les autorités décisionnelles d'apprécier le comportement de l'assuré compte tenu de toutes les circonstances - tant objectives que subjectives - du cas concret, notamment des circonstances personnelles, en particulier celles qui ont trait au comportement de l'intéressé au regard de ses devoirs généraux d'assuré qui fait valoir son droit à des prestations (cf. arrêt 8C_ 601/2012 du 26 février 2013 consid. 4.1, non publié in <ref-ruling> et les références).
5.2. La quotité de la suspension du droit à l'indemnité de chômage dans un cas concret constitue une question relevant du pouvoir d'appréciation, qui est soumise à l'examen du juge de dernière instance uniquement si la juridiction cantonale a exercé son pouvoir d'appréciation de manière contraire au droit, soit si elle a commis un excès positif ("Ermessensüberschreitung") ou négatif ("Ermessensunterschreitung") de son pouvoir d'appréciation ou a abusé ("Ermessensmissbrauch") de celui-ci. Il y a abus du pouvoir d'appréciation lorsque l'autorité, tout en restant dans les limites du pouvoir d'appréciation qui est le sien, se fonde sur des considérations qui manquent de pertinence et sont étrangères au but visé par les dispositions légales applicables, ou viole des principes généraux du droit tels que l'interdiction de l'arbitraire et de l'inégalité de traitement, le principe de la bonne foi et le principe de la proportionnalité (arrêt 8C_601/2012 précité consid. 4.2, non publié in <ref-ruling> et les références).
6.
En l'espèce, la juridiction cantonale a motivé la réduction du droit à l'indemnité par le fait qu'il s'agissait du premier manquement de l'assuré, respectivement du premier retard dans la remise du formulaire de recherches personnelles d'emploi. En outre, la qualité et la quantité desdites recherches n'étaient pas contestées. Ces motifs ne constituent cependant pas des critères d'évaluation pertinents pour fixer la durée de la suspension du droit à l'indemnité (pour des cas comparables, cf. arrêts 8C_194/2013 du 26 septembre 2013 et 8C_601/2012 du 26 février 2013). Le présent cas se distingue de l'arrêt 8C_64/2012 du 26 juin 2012, dans lequel le Tribunal fédéral a confirmé une réduction de la suspension au minimum prévu par l'<ref-law>, au motif que l'intéressé avait remis la preuve de ses recherches d'emploi avec un jour de retard seulement et pour la première fois (cf. aussi arrêt 8C_33/2012 du 26 juin 2012). Dans le cas particulier, l'intimé a remis ses recherches d'emploi bien au-delà du délai dont il disposait à cet effet. Certes, il a invoqué le fait que l'envoi du courriel contenant ses recherches d'emploi avait échoué en raison de la taille du fichier. Il n'a cependant pas été en mesure de produire copie dudit courriel, de sorte qu'il n'a pas été établi que l'intimé avait remis ses preuves d'emploi en temps voulu. Dans ces circonstances on doit admettre qu'il y a abus du pouvoir d'appréciation de la part de la juridiction cantonale. Il n'y avait donc pas de raison de s'écarter du barème du SECO. Le recours est ainsi bien fondé.
7.
Selon l'<ref-law>, en règle générale, les frais judiciaires sont mis à la charge de la partie qui succombe. Les frais causés inutilement sont supportés par celui qui les a engendrés (<ref-law>). En l'espèce, le Tribunal cantonal a statué contrairement à la jurisprudence fédérale rendue antérieurement dans une constellation semblable concernant également une affaire genevoise (voir en particulier le consid. 4.3 non publié de l'<ref-ruling> [arrêt 8C_601/2012 du 26 février 2013]; voir également l'arrêt 8C_537/2013 du 16 avril 2014). Il convient, dans ces circonstances, de mettre les frais judiciaires à la charge de la République et canton de Genève (<ref-law>; <ref-ruling> consid. 5 p. 407 et les références).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis. La décision de la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, du 17 avril 2014 est annulée et la décision sur opposition de l'Office cantonal de l'emploi du 29 novembre 2013 confirmée.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du canton de Genève.
3.
Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et au Secrétariat d'Etat à l'économie (SECO).
Lucerne, le 12 août 2014
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Juge présidant : La Greffière :
Ursprung Fretz Perrin