Faits: A. H._ s'est inscrit au chômage le 7 mars 2011. Il a déposé son formulaire de recherches d'emploi faites au cours du mois d'août 2011 le 6 septembre 2011. Par décision du 14 septembre 2011, confirmée sur opposition le 11 octobre suivant, l'Office cantonal de l'emploi (ci-après: l'OCE) a sanctionné l'assuré pour recherches d'emploi «nulles» durant le mois d'août et a prononcé une suspension du droit à l'indemnité de cinq jours. B. H._ a recouru contre cette décision devant la Cour de justice du canton de Genève, Chambre des assurances sociales. Par jugement du 29 novembre 2011, la juridiction cantonale a partiellement admis le recours, en ce sens qu'elle a réduit la suspension du droit à l'indemnité de chômage à un jour. C. L'OCE interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. H._ s'est déterminé sur le recours de l'OCE.