Faits : A. Le 31 octobre 2013, A._, née en 1980 et domiciliée à Genève, a déposé une demande de prestations de l'assurance-invalidité. Se fondant sur le rapport du docteur B._ du 22 octobre 2015, complété le 12 avril 2016, le docteur C._, médecin au Service médical régional (SMR) a retenu une personnalité émotionnellement labile, type borderline avec traits impulsifs (F 60.3), associée à un trouble dépressif récurrent, épisode actuel sévère, sans symptômes psychotiques (F 33.2). Le début de l'incapacité de travail durable remontait à l'année 2003. L'incapacité de travail avait été totale de 2003 à 2013, puis de 60 % dans toute activité (avis du 3 mai 2016). Dans un projet de décision du 6 juillet 2016, l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI) a fait savoir à A._ qu'il envisageait de lui verser trois quarts de rente à compter du 1 er avril 2014, fondés sur un degré d'invalidité de 60 %. La prénommée a contesté disposer d'une capacité de travail résiduelle de 40 % en produisant un avis du docteur D._, spécialiste en psychiatrie et psychothérapie (rapport du 26 juillet 2016). Entretemps, à la demande de l'office AI, l'Office cantonal genevois de la population et des migrations a attesté que A._ séjournait dans le canton de Genève depuis sa naissance. L'office AI a également recueilli un extrait du compte individuel de l'intéressée établi par la Caisse cantonale genevoise de compensation le 27 juin 2016, dont il ressortait qu'aucune cotisation n'avait été versée jusqu'à la fin de l'année 2004, hormis un montant de 144 fr. pour le mois de juillet 2001. Par décision du 4 juin 2018, l'office AI a rejeté la demande, au motif que la condition de la durée minimale de cotisations n'était pas réalisée lors de la survenance de l'invalidité en 2004. B. A._ a déféré cette décision à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales. Par jugement du 17 janvier 2019, la juridiction cantonale a admis le recours, annulé la décision du 4 juin 2018 et mis la prénommée au bénéfice d'une rente entière d'invalidité à compter du 1 er avril 2014. C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant à la confirmation de sa décision du 4 juin 2018. L'intimée conclut au rejet du recours. L'Office fédéral des assurances sociales (OFAS) a renoncé à se déterminer.