Faits : A. A._ a déposé une première demande de prestations de l'assurance-invalidité en décembre 2003, qui a abouti à l'octroi d'une rente entière d'invalidité d'octobre 2003 à mars 2005. En août 2007, il a déposé une deuxième demande de prestations, sur laquelle l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI) n'est pas entré en matière. L'assuré a présenté une troisième demande de prestations, le 20 janvier 2012, que l'office AI a rejetée par décision du 21 mai 2015. Le 10 juin 2015, A._ a déposé une quatrième demande de prestations. Par lettre du 18 juin 2015, l'office AI l'a informé que la décision du 21 mai 2015 était passée en force, et qu'il lui appartenait ainsi de lui faire parvenir tous les documents médicaux permettant de rendre plausible l'aggravation de son état de santé depuis cette décision. L'assuré ayant déposé une attestation médicale du 4 mai 2015, l'office AI a transmis la demande du 10 juin 2015 à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, le 14 juillet 2015, comme objet de sa compétence. L'autorité judiciaire l'a retournée à l'office AI, le 16 juillet 2015, considérant que rien ne permettait d'admettre que l'assuré avait l'intention de recourir contre la décision du 21 mai 2015. L'assuré a déposé une cinquième demande de prestations, le 20 septembre 2016, sur laquelle l'office AI a refusé d'entrer en matière par décision du 25 janvier 2017. B. A._ a déféré la décision du 25 janvier 2017 à la Chambre des assurances sociales en demandant son annulation. A titre principal, il a conclu à l'octroi d'une rente entière d'invalidité à compter du 1 er septembre 2016; à titre subsidiaire, il a conclu au renvoi de la cause à l'office AI pour instruction complémentaire sous la forme d'une expertise pluridisciplinaire et nouvelle décision. Dans un jugement incident du 8 juin 2017, la juridiction cantonale a admis que le recours devait être considéré comme étant dirigé contre la décision du 21 mai 2015 et l'a déclaré recevable. Par jugement au fond du 5 octobre 2017, elle a admis partiellement le recours dirigé contre la décision du 21 mai 2015 (ch. 1 du dispositif du jugement), annulé celle-ci (ch. 2), octroyé au recourant un quart de rente d'invalidité à compter d'août 2012 (ch. 3) et rejeté le recours contre la décision du 25 janvier 2017 (ch. 4). C. L'office AI interjette un recours en matière de droit public contre les jugements des 8 juin et 5 octobre 2017 dont il demande l'annulation, en concluant principalement à la confirmation de sa décision du 25 janvier 2017, subsidiairement à ce qu'il soit invité à entrer en matière sur la demande déposée le 20 septembre 2016. Il sollicite l'attribution de l'effet suspensif à son recours. L'intimé conclut au rejet du recours et de la requête d'effet suspensif. L'Office fédéral des assurances sociales a renoncé à se déterminer.