Faits: A. M._ s'est inscrit au chômage le 15 janvier 2010. Par décision du 16 juin 2011, confirmée sur opposition le 9 septembre 2011, l'Office cantonal de l'emploi (ci-après: OCE) a sanctionné l'assuré pour recherches d'emploi «nulles» durant le mois de mai 2011 et prononcé une suspension du droit à l'indemnité de cinq jours. B. M._ a recouru contre cette décision devant la Cour de justice du canton de Genève, Chambre des assurances sociales. Après avoir entendu les parties le 25 avril 2012, la juridiction cantonale a partiellement admis le recours en ce sens qu'elle a réduit la suspension du droit à l'indemnité de chômage à un jour (jugement du 31 juillet 2012). C. L'OCE interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Ni l'intimé ni le Secrétariat d'Etat à l'économie (SECO) ne se sont déterminés.