Faits:
A. Les époux vivaient séparés depuis 2001 (à la suite d'un jugement de mesures protectrices de l'union conjugale); leur divorce a été prononcé le 7 juillet 2006. Le 24 avril 2007, l'ex-époux de D._ a été mis au bénéfice d'une rente entière d'invalidité, assortie de rentes complémentaires pour enfant, du 1er août 2004 au 31 août 2005. Le 17 décembre 2009, l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI) a rendu quatre décisions, par lesquelles il a alloué à D._ une demi-rente d'invalidité, assorties de demi-rentes complémentaires pour enfant, à partir du 1er janvier 2003. La décision qui concernait la période du 1er août 2004 au 31 août 2005 comprenait un décompte, selon lequel une compensation était opérée notamment pour un montant de 5'204 fr.
B. L'assurée a déféré cette décision au Tribunal cantonal des assurances sociales de la République et canton de Genève (aujourd'hui: Chambre des assurances de la Cour de justice de la République et canton de Genève), en contestant notamment la compensation de 5'204 fr. Statuant le 22 juin 2010, le Tribunal a partiellement admis le recours; il a annulé la décision du 17 décembre 2009 pour la période du 1er août 2004 au 31 août 2005 en tant qu'elle compense la somme de 5'204 fr. avec les prestations dues à l'assurée, la confirmant pour le surplus.
C. L'office AI interjette un recours en matière de droit public contre le jugement cantonal. Il conclut à l'annulation de celui-ci "dans la mesure où il admet partiellement le recours de l'assurée par rapport à la compensation de la somme de Fr. 5'204.- avec les prestations dues" et à ce que la compensation soit admise.
D._ ne s'est pas exprimée sur le recours, tandis que l'Office fédéral des assurances sociales (OFAS) s'est déterminé à son sujet.
Considérant en droit:
1. 1.1 Le litige porte sur le point de savoir si le recourant était en droit de compenser une créance de 5'204 fr. à l'encontre de l'ex-époux de l'intimée par des arrérages de rentes versés à celle-ci. Selon les constatations de la juridiction cantonale, qui lient le Tribunal fédéral (art. 105 al. 1 LTF), ce montant correspond à la part de la rente d'invalidité reçue à tort par l'ex-époux du 1er août 2004 au 31 août 2005. Le fait que l'intimée a été mise au bénéfice d'une rente d'invalidité (avec effet rétroactif au 1er janvier 2003) justifiait en effet un nouvel examen de la situation de la rente accordée précédemment à son ex-époux. Du nouveau calcul des rentes, il résultait une réduction rétroactive de la prestation allouée à l'ex-époux et, partant, un excédent versé en trop de 5'204 fr.
1.2 Le jugement entrepris expose correctement les règles légales sur le calcul des rentes de l'assurance-invalidité et sur la compensation. Il suffit d'y renvoyer.
Il rappelle également la jurisprudence relative à l'art. 20 al. 2 let. a LAVS, en relation avec l'art. 50 al. 2 LAI (dans sa teneur en vigueur à partir du 1er janvier 2003), selon laquelle la règle de l'art. 120 al. 1 CO en vertu de laquelle la compensation est subordonnée à la condition que deux personnes soient réciproquement créancières et débitrices l'une de l'autre n'est pas absolue, afin de prendre en compte les particularités relatives aux assurances sociales en ce qui concerne précisément cette condition de la réciprocité des sujets de droit posée par l'art. 120 al. 1 CO. La possibilité de compenser s'écarte de cette disposition quand les créances opposées en compensation se trouvent en relation étroite, du point de vue de la technique d'assurance ou du point de vue juridique: dans ces situations, il n'est pas nécessaire que l'administré ou l'assuré soit en même temps créancier et débiteur de l'administration (ATF 130 V 505).
Une telle relation étroite a été admise entre la créance en restitution d'une rente d'invalidité assortie de rentes complémentaires à l'encontre de l'un des conjoints opposée en compensation à des arrérages de rentes d'invalidité versés à l'autre conjoint (ATF 130 V 505 consid. 2.4 ss p. 510 ss). Le Tribunal fédéral a en effet retenu que les prestations versées en premier à l'un des conjoints (le mari) n'étaient pas indues tant et aussi longtemps qu'un deuxième cas d'assurance n'était pas survenu en la personne de l'autre conjoint (la femme); elles l'étaient en revanche devenues automatiquement lors de la réalisation de la deuxième éventualité assurée. Les créances en restitution à l'égard du mari étaient dès lors indissociablement liées aux prestations allouées à son épouse (consid. 2.6 de l'arrêt cité). Le Tribunal fédéral a encore précisé que sous l'angle économique, les rentes allouées à l'époux avaient le même but que les rentes accordées ensuite à l'épouse avec effet rétroactif, à savoir procurer au couple, en tant qu'entité économique, un revenu de remplacement destiné à couvrir les besoins vitaux de la famille. Les rentes versées ultérieurement à l'autre conjoint prenaient, pour une part, la place des prestations versées précédemment en trop à l'autre conjoint, de sorte qu'il existait, de ce point de vue également, un rapport nécessaire de connexité entre les prestations revenant au couple (consid. 2.8 de l'arrêt cité). L'interdépendance des rentes individuelles des époux était également mise en évidence par les effets du plafonnement des rentes prévu par l'art. 35 LAVS, ce plafonnement s'expliquant, aux yeux du législateur, par le fait que le couple représentait en soi une unité économique, dont les besoins financiers étaient censés être inférieurs à ceux de deux personnes vivant seules (consid. 2.7 de l'arrêt cité).
2. 2.1 En premier lieu, l'autorité judiciaire de première instance a considéré que la connexion juridique entre les rentes du mari et celles de l'assurée ne faisait pas de doute, car la réalisation de la deuxième éventualité assurée avait impliqué la réduction de la première rente allouée, en raison de la répartition et de l'attribution par moitié à chacun des époux des revenus sur la base desquels étaient calculées les rentes (art. 29quinquies LAVS). En second lieu, elle a constaté que le couple était déjà séparé (judiciairement) lorsque l'ex-époux avait perçu les rentes d'invalidité. Du fait de la séparation et de l'absence de contribution d'entretien en faveur de l'intimée, les ex-époux ne formaient dès lors plus une seule entité économique pendant la période déterminante du 1er août 2004 au 31 août 2005. La rente principale due à l'intimée pour elle-même ne visait pas le même but économique que celle reçue à l'époque par son ex-mari: l'assurée devait pourvoir à sa propre subsistance, tandis que son ex-conjoint pourvoyait à la sienne et à celle des enfants, dont la garde lui avait été confiée. Il ne s'agissait plus, au moyen de l'ensemble des rentes, de couvrir les besoins vitaux de la famille, mais pour chacun des conjoints de couvrir ses seuls besoins au moyen de sa propre rente. Les rentes en cause n'étaient donc pas liées sur le plan économique. Aussi, la question de la compensation pouvait-elle être traitée différemment de celle du partage des revenus: il était envisageable de procéder au partage prévu par l'art. 29quinquies al. 3 let. a LAVS, mais d'exclure la compensation entre conjoints en raison de l'absence de lien économique entre les deux rentes, à l'époque où elles étaient dues. Les premiers juges ont par conséquent annulé la décision de l'intimée, en tant qu'elle déduisait 5'204 fr. du montant dû à l'assurée pour la période considérée.
2.2 Invoquant une violation de l'art. 20 al. 2 let. a LAVS en relation avec l'art. 50 al. 2 LAI, le recourant reproche à la juridiction cantonale d'introduire une exigence supplémentaire à la compensation de créances en se référant au lien économique entre les deux rentes en cause. Dès lors qu'il existait un lien étroit sous l'angle du droit des assurances sociales entre les rentes du mari et celle de l'assurée, la compensation devait, de l'avis du recourant, être admise.
3. 3.1 Il n'est pas contesté en l'espèce que les créances opposées en compensation se trouvent en relation étroite, du point de vue de la technique d'assurance ou du point de vue juridique. Comme l'a en effet retenu la juridiction cantonale, le droit de l'intimée à une rente d'invalidité impliquait nécessairement une modification des prestations accordées précédemment à son époux. Une telle interdépendance entre la part de rente d'invalidité versée en trop à l'un des conjoints et la rente d'invalidité allouée rétroactivement à l'autre conjoint est inhérente au système de calcul des rentes de l'assurance-vieillesse et survivants/assurance-invalidité en cas de réalisation d'un deuxième cas d'assurance chez un couple marié. La survenance du second cas d'assurance en la personne du conjoint qui ne bénéficiait jusqu'alors pas d'une rente déclenche la mise en oeuvre du "splitting" (cf. MARIO CHRISTOFFEL, Conditions du splitting des revenus, en particulier en cas de divorce, Sécurité sociale 1996/7, p. 238). Le partage des revenus ("splitting") des époux et leur attribution pour moitié à chacun d'entre eux est prévu dans les trois éventualités énumérées aux let. a à c de l'art. 29quinquies al. 3 (les deux conjoints ont droit à une rente; une personne veuve a droit à une rente de vieillesse; le divorce). En l'occurrence, le partage des revenus, qui a entraîné un nouveau calcul de la prestation déjà allouée au premier conjoint, est intervenu parce que les époux ont été tous deux mis au bénéfice d'une rente (let. a de l'art. 29quinquies al. 3) pour une même période (du 1er août 2004 au 31 août 2005), pendant laquelle ils étaient encore mariés.
3.2 Comme l'a constaté la juridiction cantonale, les époux ne vivaient plus ensemble pendant la période déterminante pour laquelle les deux rentes ont été versées rétroactivement. Dans cette mesure, le cas d'espèce se distingue de celui jugé par l'ATF 130 V 505 où le couple concerné faisait ménage commun. Du fait de la séparation (en raison d'une décision judiciaire) des conjoints et de l'absence de contribution d'entretien du mari en faveur de sa femme, on constate, à la suite des premiers juges, que les rentes perçues rétroactivement par l'intimée et son ex-époux n'avaient pas pour but de procurer à leur couple en tant qu'entité économique un revenu de remplacement destiné à couvrir les besoins vitaux de la famille, mais à assurer la subsistance de chacun des conjoints vivant dans son propre ménage. Sous cet angle, on ne peut dès lors considérer que le couple formait une entité économique pendant la période déterminante, ce d'autant moins que les rentes n'ont pas fait l'objet d'un plafonnement à cause de leur séparation (à la suite d'une décision judiciaire), en vertu de l'art. 35 al. 2 LAVS, afin de tenir compte des besoins financiers de deux ménages distincts.
Ce nonobstant, l'absence d'unité économique des conjoints ne suffit pas pour exclure la compensation en cause. L'élément de la relation économique entre les rentes allouées aux époux, tel que mis en évidence dans l'ATF 130 V 505 consid. 2.8 p. 513, ne constitue en effet pas une exigence supplémentaire à remplir pour s'écarter de l'art. 120 al. 1 CO, mais un argument de plus ("Au demeurant") pour admettre l'existence du rapport de connexité entre les prestations de l'assurance-invalidité allouées à chacun des conjoints. Dès lors que la relation de connexité étroite, du point de vue juridique ou de la technique d'assurance, est en l'espèce réalisée (consid. 3.1 supra), la compensation entre les créances en cause est admissible, malgré la séparation (judiciaire) des intéressés au moment des faits déterminants. Dans ce contexte, on peut rappeler que le Tribunal fédéral a admis l'existence d'une telle relation de connexité étroite même au-delà de la fin de l'union conjugale, puisqu'il a reconnu que la compensation entre des cotisations personnelles (y compris les frais d'administration et de poursuites) dues par l'ancien mari décédé et produites dans la procédure de bénéfice d'inventaire avec une rente de veuve revenant à la femme divorcée était possible (ATF 115 V 341; cf. aussi FRANZ SCHLAURI, Die zweigübergreifende Verrechnung und weitere Instrumente der Vollstreckungskoordination des Sozialver-sicherungsrechts, 2004, note de bas de page 31, p. 154).
Par ailleurs, admettre la solution préconisée par la juridiction cantonale pourrait, dans les faits, empêcher une application effective du droit quand le montant des prestations revenant à l'un des conjoints doit être revu lors de la réalisation d'une deuxième éventualité assurée dans le couple. La demande de restitution à l'encontre du titulaire des prestations se révèlerait inopérante en cas de remise de l'obligation de restituer. Comme l'a déjà précisé le Tribunal fédéral (ATF 130 V 505 consid. 2.9 p. 513), une telle remise serait fréquemment accordée, dès lors que la condition de la bonne foi serait toujours réalisée et que seule devrait alors être examinée la question de la situation difficile (art. 25 LPGA et art. 5 OPGA). Dans nombre de cas, cette dernière condition serait également réalisée, ce qui, en définitive, conduirait à un cumul injustifié de prestations, comme conséquence inévitable d'une application pourtant correcte de la loi. Cette conséquence inévitable résulte elle-même du fait qu'il existe forcément un certain décalage dans le temps de décisions interdépendantes.
3.3 En conséquence, il faut admettre que le recourant était en droit de compenser la créance en restitution avec des arriérés de rente dus à l'ex-épouse. Son recours est dès lors bien fondé. Lié par les conclusions des parties (art. 107 al. 1 LTF), le Tribunal fédéral n'a pas, pour le surplus, à examiner la question soulevée par l'OFAS du montant de la déduction des rentes pour enfant des prestations versées à l'intimée.
4. Vu l'issue du litige, l'intimée supportera les frais judiciaires de la procédure fédérale (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et le jugement du Tribunal cantonal des assurances sociales de la République et canton de Genève du 22 juin 2010 est annulé.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimée.
3. La cause est renvoyée à la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève pour nouvelle décision sur les frais de la procédure antérieure.
4. Le présent arrêt est communiqué aux parties, à la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 29 avril 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless