Faits:
A. Le 24 septembre 2007, l'Office cantonal de l'assurance-invalidité du canton de Genève (l'office AI) a communiqué un projet d'acceptation de rente à D._, dont la proposition de décision tenait en ces termes : « A partir du 1er juin 2006 nous vous reconnaissons le droit à un quart de rente basé sur un taux d'invalidité de 40 %, puis, dès le 28 février 2007 ce droit est supprimé. » Par décision du 5 mars 2008, l'office AI a alloué à l'assurée un quart de rente d'invalidité, assortie d'une rente complémentaire pour enfant, à partir du mois de juin 2006; aucune limitation temporelle de la rente n'était prévue dans le dispositif de la décision, alors qu'une telle limitation ressortait de la motivation de la décision.
Par décision du 12 décembre 2008, l'office AI a fait savoir à l'assurée que les prestations lui avaient été servies par erreur au-delà du 28 février 2007; il se voyait dès lors contraint de supprimer, avec effet rétroactif à cette date, la rente principale ainsi que la rente complémentaire et de lui demander la restitution de la somme de 13'380 fr., représentant les rentes versées de mars 2007 à octobre 2008. Il l'avisait qu'elle ne pouvait se prévaloir de sa bonne foi et qu'une remise de l'obligation de restituer n'était pas possible.
B. D._ a recouru contre cette décision devant le Tribunal des assurances sociales de la République et canton de Genève en se prévalant de sa bonne foi. Elle a également contesté le principe de la suppression de la rente.
Par jugement du 21 avril 2009, la juridiction cantonale a admis que les prestations étaient indues depuis le mois de mars 2007 et que l'assurée devait les rembourser. Abordant ensuite la question de la remise de l'obligation de restituer, les premiers juges ont considéré que l'assurée avait accepté les prestations de bonne foi. Ils ont dès lors annulé la décision attaquée, et renvoyé la cause à l'office AI pour examen de la condition de la situation financière et nouvelle décision.
C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant au maintien de la décision de restitution du 12 décembre 2008.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. En tant qu'il admet la bonne foi de l'intimée et renvoie la cause au recourant pour examen de la condition de la situation financière difficile et décision sur la question de la remise de l'obligation de restituer, le jugement attaqué constitue une décision incidente comportant des instructions impératives ne laissant au recourant aucune latitude de jugement pour la suite de la procédure, susceptible dès lors de lui causer un préjudice irréparable, si bien que le recours est recevable (<ref-law>; <ref-ruling> consid. 5.2.2 p. 483).
2. D'après l'<ref-law>, les prestations indûment touchées doivent être restituées. La restitution ne peut être exigée lorsque l'intéressé était de bonne foi et qu'elle le mettrait dans une situation difficile.
La bonne foi, en tant que condition de la remise, est exclue d'emblée lorsque les faits qui conduisent à l'obligation de restituer (violation du devoir d'annoncer ou de renseigner) sont imputables à un comportement dolosif ou à une négligence grave. En revanche, l'assuré peut invoquer sa bonne foi lorsque l'acte ou l'omission fautifs ne constituent qu'une violation légère de l'obligation d'annoncer ou de renseigner (<ref-ruling> consid. 2c p. 103 et les références).
3. 3.1 La juridiction de recours s'est demandé si l'intimée pouvait ou non comprendre que l'office compétent pour servir la rente avait commis une erreur. Elle a rappelé que la bonne foi doit être niée quand l'enrichi pouvait, au moment du versement, s'attendre à son obligation de restituer, parce qu'il savait, ou devait savoir en faisant preuve de l'attention requise, que la prestation était indue (<ref-law>; <ref-ruling> consid. 4.3 p. 419 et les références).
Dans le cas d'espèce, le tribunal a constaté que l'intimée avait reçu un projet de décision prévoyant une limitation du versement de la rente au 28 février 2007, puis une décision qui ne faisait plus mention de cette limite temporelle. Selon les premiers juges, il était ainsi vraisemblable que l'intimée avait pu penser que seule la décision (du 5 mars 2008) faisait foi, nonobstant la motivation jointe à celle-ci, de sorte que l'intéressée était de bonne foi en acceptant les prestations indues.
3.2 De son côté, l'office recourant soutient que l'intimée aurait dû s'interroger sur le bien-fondé des paiements effectués dès le mois de mars 2007. Il estime qu'à la lecture de la motivation accompagnant la la décision du 5 mars 2008, l'intimée ne pouvait en aucun cas être d'avis qu'il avait modifié sa position quant à la limitation temporelle de la rente, puisqu'il était indiqué textuellement que « dès le 28 février 2007 ce droit est supprimé ». A son avis, le seul décompte des montants de rente dès le 1er juin 2006, figurant en page 2 de la décision du 5 mars 2008, ne justifiait aucun doute quant au moment de l'extinction des prestations.
3.3 Aux motifs retenus par les premiers juges, qui emportent la conviction, il convient d'ajouter que le présent litige résulte en première ligne de la confusion que le recourant a lui-même engendrée par une rédaction malheureuse de sa décision du 5 mars 2008, dont le dispositif était partiellement contradictoire à la motivation. Contrairement à ce que soutient le recourant, le décompte mensuel détaillé (en page 2 de la décision du 5 mars 2008) était plutôt de nature à conforter l'intimée dans l'idée que la durée de la rente n'était pas limitée (page 1 de la décision).
Dès lors qu'on pourrait tout au plus faire grief à l'intimée de ne pas avoir pris contact avec l'administration, ce qui pourrait constituer une violation légère de l'obligation d'annoncer ou de renseigner, il n'y a pas lieu de retenir une négligence grave ou un comportement dolosif excluant d'avance la bonne foi de l'assuré. Le recours est mal fondé.
4. Le recourant, qui succombe, supportera les frais de procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances sociales de la République et canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 21 août 2009
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Berthoud