Faits:
A. A.a Par décisions des 2 août et 1er octobre 2002, l'Office cantonal genevois de l'assurance-invalidité (ci-après: l'office AI) a alloué à M._ (née en 1952) une demi-rente d'invalidité, fondée sur un taux d'invalidité de 53 %, à partir du 1er avril 1999.
A l'issue d'une procédure de révision, l'office AI a retenu que l'état de santé de l'assurée s'était aggravé, ce qui conduisait à un taux d'invalidité s'élevant à 69 % à partir du 1er mai 2005 (communication du 18 novembre 2005 à la Caisse cantonale genevoise de compensation [ci-après: la caisse]). Le 16 mars 2006, il a mis l'assurée au bénéfice d'une "rente entière ordinaire, rente simple" (de 1'428 fr. par mois) dès le 1er mai 2005. La décision indiquait que le degré d'invalidité de l'intéressée était de 69 %, ce qui donnait droit, selon la motivation du prononcé, à un trois quarts de rente. M._ n'a pas contesté cette décision.
A.b Le 20 janvier 2011, l'office AI a informé l'assurée du maintien de "la même rente que jusqu'à ce jour (degré d'invalidité: 69 %)". Ayant reçu une copie de cette communication, la caisse a constaté qu'elle avait pris en compte jusque-là un degré d'invalidité de 70 % et déterminé le montant de la rente correspondant à une rente entière, au lieu d'un taux de 69 % ouvrant le droit à un trois quarts de rente.
Par décision du 22 février 2011, l'office AI a réclamé à M._ la restitution de 18'676 fr. (soit la différence entre le montant de 90'332 fr. versés à l'intéressée du 1er février 2006 au 28 février 2011 à titre de rente entière et le montant de 71'656 fr. correspondant à un trois quarts de rente pour la même période). De la somme réclamée, il a déduit un montant de 4'890 fr. à titre de rente AVS due rétroactivement à H._, l'époux de l'assurée, ainsi qu'un montant de 8'972 fr. à titre de compensation avec des prestations dues à celui-ci par le Service des prestations complémentaires du canton de Genève. Aussi, a-t-il finalement demandé la restitution de 4'814 fr.
Le même jour, la caisse a rendu une décision par laquelle elle a modifié à la hausse le montant de la rente AVS allouée à H._ avec effet rétroactif au 1er février 2006, en raison de la réduction du montant de la rente de l'assurance-invalidité de son épouse. Il en ressortait un rétroactif de rente en faveur de H._ de 4'890 fr.
B. M._ a déféré la décision de restitution du 22 février 2011 à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales. Elle a fait valoir que son état général s'était détérioré en 2006 et que toute capacité de travail résiduelle était exclue, puis produit un avis médical du 24 mai 2011. L'office AI a conclu au rejet du recours, en indiquant qu'il avait accordé à l'assurée la remise de l'obligation de rembourser le montant de 4'814 fr. par décision du 6 avril 2011. Par jugement du 5 juillet 2011, la Chambre des assurances sociales de la Cour de justice genevoise a admis partiellement le recours; annulant la décision du 11 février 2011 (recte 22 février 2011), elle a renvoyé la cause à l'office AI pour "examen et décision sur l'opposition formée contre la décision du 16 mars 2006".
C. L'office AI interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation en concluant à la confirmation de sa décision du 22 février 2011.
M._ a renoncé à se déterminer, à l'instar de l'Office fédéral des assurances sociales.
Considérant en droit:
1. Le dispositif du jugement entrepris a pour objet l'annulation de la décision du recourant du 22 février 2011 et le renvoi de la cause à celui-ci pour qu'il examine et décide "sur l'opposition formée contre la décision du 16 mars 2006" (ch. 2). En tant qu'il renvoie la cause à l'administration, le jugement entrepris doit être qualifié de décision incidente qui peut être attaquée aux conditions de l'art. 93 LTF.
Dans la mesure où l'arrêt attaqué comprend des instructions impératives destinées au recourant, selon lesquelles il doit statuer sur l'opposition formée par l'assurée contre la décision du 16 mars 2006, puis rendre, le cas échéant, une nouvelle décision de restitution, le recourant est tenu de rendre une décision qui, selon lui, est contraire au droit fédéral. En cela, il subit un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF (sur cette notion, voir ATF 134 I 83 consid. 3.1 p. 87; 133 V 477 consid. 5.2.1 p. 483, 645 consid. 2.1 p. 647). Il y a dès lors lieu d'entrer en matière sur l'écriture du recourant.
2. En premier lieu, la juridiction cantonale a considéré que la décision du 22 février 2011 était conforme au droit. Les conditions d'une reconsidération de la décision du 16 mars 2006 au sens de l'art. 53 al. 2 LPGA étaient en effet réalisées, puisque cette décision indiquait le montant d'une rente entière d'invalidité, alors que le taux d'invalidité retenu était de 69 % ce qui n'ouvrait le droit qu'à un trois-quarts de rente d'invalidité.
En second lieu, l'autorité cantonale de recours a retenu que la décision du 22 février 2011 devait néanmoins être annulée pour un autre motif. Selon elle, il était vraisemblable qu'au moment de la notification de la décision du 16 mars 2006, l'assurée n'avait pas réalisé que l'office AI n'avait pas l'intention de lui accorder une rente entière, mais un trois quarts de rente d'invalidité, puisqu'elle n'avait probablement pas pris connaissance de la motivation de la décision qui lui était parvenue sous forme d'annexe à celle-ci. Comme l'assurée avait compris de la décision du 16 mars 2006 que le droit à une rente entière était admis - et qu'on pouvait donc difficilement attendre d'elle qu'elle contestât une décision qui lui donnait satisfaction -, son opposition à la décision du 22 février 2011 ne portait pas seulement sur l'obligation de restituer, mais sur le calcul du taux d'invalidité et, comme préalable, sur l'évaluation de l'état de santé et de la capacité résiduelle ménagère. Il fallait donc retenir, au degré de la vraisemblance prépondérante, que si l'assurée n'avait pas été dans l'erreur lors de la notification de la décision du 16 mars 2006, elle aurait formé opposition, puis en cas de maintien du trois quarts de rente, éventuellement recours. Cette erreur l'avait donc empêchée de former opposition à la décision du 16 mars 2006 et ce n'est qu'à réception de celle du 22 février 2011 que l'empêchement avait cessé, l'assurée ayant alors réalisé la portée que l'office AI entendait donner à sa décision sur révision. Par conséquent, la décision contestée, soit celle du 16 mars 2006, devait d'abord faire l'objet d'une décision sur opposition de l'office AI conformément à la LAI dans sa teneur jusqu'au 31 décembre 2006, de sorte que la cause devait être renvoyée à l'administration pour qu'elle statue sur l'opposition de la décision du 16 mars 2006, puis rende, le cas échéant, une nouvelle décision de restitution.
3. Invoquant une appréciation arbitraire des preuves et une violation du droit fédéral, le recourant reproche à la juridiction cantonale d'avoir outrepassé l'objet de la contestation circonscrit par la décision du 22 février 2011.
3.1 Dans la procédure juridictionnelle administrative, ne peuvent être examinés et jugés, en principe, que les rapports juridiques à propos desquels l'autorité administrative compétente s'est prononcée préalablement d'une manière qui la lie, sous la forme d'une décision. Dans cette mesure, la décision détermine l'objet de la contestation qui peut être déféré en justice par voie de recours. En revanche, dans la mesure où aucune décision n'a été rendue, la contestation n'a pas d'objet, et un jugement sur le fond ne peut pas être prononcé (ATF 131 V 164 consid. 2.1; 125 V 413 consid. 1a p. 414).
Selon la jurisprudence, la procédure juridictionnelle administrative peut être étendue, pour des motifs d'économie de procédure, à une question en état d'être jugée qui excède l'objet de la contestation, c'est-à-dire le rapport juridique visé par la décision, lorsque cette question est si étroitement liée à l'objet initial du litige que l'on peut parler d'un état de fait commun, et à la condition que l'administration se soit exprimée à son sujet dans un acte de procédure au moins (ATF 130 V 503; 122 V 36 consid. 2a p. et les références). Les conditions auxquelles un élargissement du procès au-delà de l'objet de la contestation est admissible sont donc les suivantes: la question (excédant l'objet de la contestation) doit être en état d'être jugée; il doit exister un état de fait commun entre cette question et l'objet initial du litige; l'administration doit s'être prononcée à son sujet dans un acte de procédure au moins; le rapport juridique externe à l'objet de la contestation ne doit pas avoir fait l'objet d'une décision passée en force de chose jugée (Gygi, Bundesverwaltungsrecht, 2e éd., 1983, p. 43) et les droits procéduraux des parties doivent être respectés (Ulrich Meyer/Isabel von Zwehl, L'objet du litige en procédure de droit administratif fédéral, in Mélanges Pierre Moor, 2005, n° 27 p. 446).
3.2 En instance cantonale, l'objet de la contestation qui a été déféré sur recours de l'intimée à la juridiction cantonale est déterminé par la décision administrative du 22 février 2011, singulièrement le dispositif de celle-ci. Le prononcé du 22 février 2011 - et donc la contestation soumise aux premiers juges - porte sur la restitution de prestations perçues à tort par l'intimée pour la période du 1er février 2006 à la fin du mois de février 2011, pour un montant de 18'676 fr., respectivement, après la compensation opérée par le recourant, de 4'814 fr.
Au-delà de l'obligation de restitution, les premiers juges ont étendu la procédure à la décision du 16 mars 2006, respectivement à l'objet de la contestation déterminé par ce prononcé, à savoir le droit de l'intimée à une rente d'invalidité à partir du 1er mai 2005 en fonction du taux d'invalidité qu'elle présentait à la suite d'une péjoration de son état de santé. Ils ont considéré que l'assurée avait compris à l'époque que le degré d'invalidité de 69 % fixé par l'administration lui ouvrait le droit à une rente entière tel que cela figurait sur la décision et que cette erreur l'avait empêchée de former opposition en temps utile, de sorte qu'elle n'avait contesté la décision du 16 mars 2006 qu'au moment de réaliser son erreur, à réception de la décision du 22 février 2011. Le recours de l'assurée contre cette dernière décision valait donc (aussi) opposition contre celle du 16 mars 2006, opposition sur laquelle il appartenait d'abord à l'office AI de se prononcer.
3.3 L'extension de l'objet de la contestation telle qu'effectuée par la juridiction cantonale n'est pas conforme au droit, parce que les conditions n'en sont pas réalisées. L'objet initial du litige (l'obligation de l'assurée de restituer des prestations perçues à tort telle que décidée dans la décision du 22 février 2011) est certes lié à la décision du 16 mars 2006, puisque l'obligation de restitution suppose que soient réunies les conditions d'une reconsidération ou d'une révision procédurale de cette décision, par laquelle les prestations en cause ont été allouées (consid. 5.1.1 infra). L'existence d'un motif de reconsidération ou de révision procédurale de la décision d'octroi de prestations (du 16 mars 2006) doit donc être examinée au moment de se prononcer sur le bien-fondé de l'obligation de restitution. Toutefois, le rapport juridique visé par la décision du 16 mars 2006 (à savoir le droit de l'intimée à une rente d'invalidité à partir du 1er mai 2005, fondée sur un taux d'invalidité de 69 %) n'est plus en état d'être jugé, puisque ce prononcé est entré en force. En d'autres termes, l'extension de l'objet de la contestation ne peut pas conduire à inclure dans le litige une question qui a déjà été jugée par une décision entrée en force et à remettre celle-ci en cause, au-delà d'un examen sous l'angle des conditions de la reconsidération ou de la révision procédurale.
Les conditions d'une extension de l'objet de la contestation n'étant pas réunies, la juridiction cantonale n'était pas en droit de renvoyer la cause à l'office AI pour examen et décision sur opposition formée contre la décision du 16 mars 2006. Le jugement entrepris doit donc être annulé sur ce point.
4. Compte tenu de l'objet de la contestation soumis à la juridiction cantonale tel que déterminé ci-avant, le recourant soutient ensuite que les premiers juges auraient dû déclarer le litige sans objet, puisqu'il avait accordé à l'intimée la remise de son obligation de restituer (le 6 avril 2011).
Cet argument est mal fondé. La décision du 22 février 2011 portait sur la restitution d'un montant de 18'676 fr., dont le recourant a déduit par compensation les sommes de 4'890 fr. et 8'972 fr., réclamant en définitive à l'assurée le solde de 4'814 fr. Dès lors que la remise octroyée par l'intimé avait pour objet seulement ce dernier montant, l'obligation de restitution et la compensation portant sur la somme de 13'862 fr. restaient litigieuses en instance cantonale.
5. Indépendamment du raisonnement qui a conduit la juridiction cantonale à annuler la décision du 22 février 2011, le jugement entrepris, en tant qu'il porte sur l'annulation de ce prononcé, est conforme au droit pour les motifs qui suivent.
5.1 Selon l'art. 25 al. 1 LPGA, les prestations indûment touchées doivent être restituées. La restitution ne peut être exigée lorsque l'intéressé était de bonne foi et qu'elle le mettrait dans une situation difficile. Conformément à l'art. 25 al. 2 première phrase LPGA, le droit de demander la restitution s'éteint un an après le moment où l'institution d'assurance a eu connaissance du fait, mais au plus tard cinq ans après le versement de la prestation.
5.1.1 L'obligation de restituer suppose que soient réunies les conditions d'une reconsidération (caractère sans nul doute erroné de la décision, importance notable de la rectification) ou d'une révision procédurale de la décision par laquelle les prestations en cause ont été allouées (ATF 130 V 318 consid. 5.2 p. 319 et les références). La rectification d'une décision antérieure par voie de la reconsidération entraîne en principe l'obligation de restituer la prestation de l'assurance-invalidité touchée à tort. Tel est le cas lorsque l'erreur qui donne lieu à la reconsidération a trait à des éléments qui ne sont pas spécifiques au droit de l'assurance-invalidité, mais sont analogues au domaine de l'assurance-vieillesse et survivants, comme l'attribution du degré d'invalidité à la fraction de rente correcte (cf. arrêt 9C_409/2011 du 21 novembre 2011 consid. 4.2 et les autres exemples cités). La modification de la prestation a alors lieu avec un effet rétroactif (ex tunc), ce qui implique l'obligation de restituer dans les limites prévues par l'art. 25 al. 2 LPGA (ATF 110 V 298 relatifs aux art. 47 al. 1 aLAVS et 49 aLAI).
En revanche, si l'erreur porte sur un aspect ayant spécifiquement trait au droit de l'assurance-invalidité - on pense en particulier à tous les facteurs qui régissent l'évaluation du degré d'invalidité -, la modification de la prestation d'assurance intervient en principe avec effet ex nunc et pro futuro, de sorte qu'il n'y a pas lieu à restitution. Autre est la situation lorsque le versement indu résulte d'une violation de l'obligation de renseigner au sens des art. 31 LPGA et 77 RAI et que cette violation est en relation de causalité avec la perception indue de prestations d'assurance. Dans ce cas, la modification de la prestation a un effet rétroactif (ex tunc), qui entraîne - sous réserve des autres conditions mises à la restitution - une obligation de restituer (art. 85 al. 2 et 88bis al. 2 let. b RAI; ATF 119 V 431 consid. 2 p. 432 et consid. 4a p. 434; arrêt I 151/94 du 3 avril 1995 consid. 5a, in SVR 1995 IV n° 58 p. 165; voir également UELI KIESER, ATSG-Kommentar, 2ème éd., 2009, n. 15 et 57 ad art. 25 LPGA).
5.1.2 La différenciation en ce qui concerne les effets de la reconsidération dans le temps en fonction de la qualification "spécifique au droit de l'assurance-invalidité" ou "analogue au droit de l'assurance-vieillesse, invalidité et survivants" des aspects sur lesquels porte l'erreur justifiant la reconsidération, telle que posée par la jurisprudence dans l'ATF 110 V 298, résulte des art. 85 RAI en relation avec l'art. 88bis al. 2 let. a et b RAI et reste valable malgré l'abrogation de l'art. 47 aLAVS auquel renvoyait l'art. 49 aLAI (MEYER, Bundesgesetz über die Invalidenversicherung [IVG], 2ème éd., 2010, ad art. 30/31 p. 406). Aux termes de l'art. 85 al. 2 deuxième phrase RAI, l'application de l'art. 88bis al. 2 let. a (effet ex nunc) et b RAI (effet ex tunc en raison de la violation de l'obligation de renseigner) suppose en effet que la prestation doive être supprimée (ou diminuée) à la suite d'un nouvel examen de l'invalidité de l'assuré, ce qui implique un examen des aspects spécifiques du droit de l'assurance-invalidité.
5.2 Au regard de l'art. 25 LPGA et de la jurisprudence y relative, la procédure de restitution de prestations implique trois étapes en principe distinctes: une première décision sur le caractère indu des prestations, soit sur le point de savoir si les conditions d'une reconsidération de la décision par laquelle celles-ci étaient allouées sont réalisées; une seconde décision sur la restitution en tant que telle des prestations, qui comprend en particulier l'examen des effets rétroactifs ou non de la correction à opérer en raison du caractère indu des prestations, à la lumière de l'art. 25 al. 1 première phrase LPGA et des dispositions particulières (ici, du RAI) et, le cas échéant, une troisième décision sur la remise de l'obligation de restituer au sens de l'art. 25 al. 1 2ème phrase LPGA (cf. art. 3 et 4 OPGA; KIESER, op. cit., ad art. 25 LPGA, n° 8 p. 354).
5.3 Le prononcé litigieux du 22 février 2011, intitulé "décision de restitution", indique le montant des prestations mensuelles allouées à l'intimée de février à décembre 2006, de janvier 2007 à décembre 2008, de janvier 2009 à décembre 2010 et dès janvier 2011 ("trois quart de rente ordinaire"). Les précisions suivantes sont données: "Annule et remplace nos précédentes décisions. Motif: vous êtes invalide à 69 %, ce qui vous donne droit à un trois quart de rente au lieu d'une rente entière comme mentionné sur notre décision du 16.03.2006". Suit encore le décompte entre le montant des rentes dues et celui des rentes versées, avec la compensation du rétroactif de rente AVS dû à l'époux de l'intimée et des prestations complémentaires, avec le solde de 4'814 fr.
A la lecture de cette décision, on constate qu'elle ne comprend aucune référence (en dehors d'un simple renvoi à l'art. 25 al. 1 LPGA) aux conditions auxquelles une restitution des prestations dans le domaine de l'assurance-invalidité est possible. Elle comporte par ailleurs implicitement la reconsidération de la décision du 16 mars 2006 sans toutefois le mentionner, ni exposer clairement les conditions (cf. art. 53 al. 2 LPGA), les motifs et les effets dans le temps de la rectification effectuée. A cet égard, le fait d'indiquer à l'assurée qu'elle était invalide à 69 % (ce qui lui ouvrait le droit à un trois quarts de rente et non pas une rente entière) ne constitue pas une explication suffisante. Il résulte du reste du recours cantonal de l'assurée qu'elle n'a pas compris la portée, ni l'ensemble des aspects de la décision de restitution, faisant valoir que son état de santé s'était empiré depuis la date depuis laquelle la restitution était demandée. Au vu de ses lacunes, la décision du 22 février 2011 ne satisfaisait manifestement pas aux exigences de motivation prévues par l'art. 49 al. 3 LPGA, de sorte qu'il se justifiait de l'annuler.
5.4 L'annulation de la décision du 22 février 2011 pour défaut de motivation conduit au renvoi de la cause au recourant pour qu'il rende une nouvelle décision satisfaisant aux exigences de motivation. Dans ce contexte, il lui appartiendra d'examiner et de se prononcer clairement sur le point de savoir si les conditions d'une reconsidération de la décision du 16 mars 2006 sont réalisées. Cet examen devra inclure les aspects spécifiques au droit de l'assurance-invalidité, en particulier la conformité au droit, à l'époque de la décision initiale, du degré d'invalidité (de 69 %), sous l'angle de la reconsidération.
On constate en effet que l'assurée a fait valoir des arguments en faveur d'un degré d'invalidité supérieur à celui fixé par la décision du 16 mars 2006 (entrée en force) seulement au moment de contester la décision de restitution, ne s'étant apparemment pas aperçue auparavant de l'inexactitude liée à l'absence de correspondance entre le taux d'invalidité déterminé (69 %) et la fraction de rente accordée (rente entière). Quoi qu'en dise le recourant, même si l'intimée avait pris ou aurait dû prendre connaissance des motifs de la décision du 16 mars 2006, on doit admettre qu'elle n'avait aucune raison de contester ce prononcé. Elle n'avait pas à remettre en cause une décision qui lui donnait à première vue satisfaction, puisqu'elle était mise au bénéfice d'une rente entière d'invalidité comme indiqué sur la première page de l'acte administratif. Dans cette mesure, la protection de la bonne foi de l'assurée commande que l'administration tienne compte de l'ensemble des éléments spécifiques au droit de l'assurance-invalidité au moment de statuer sur la reconsidération éventuelle de la décision du 16 mars 2006.
6. En conséquence de ce qui précède, le recours doit être partiellement admis en ce sens que le jugement entrepris et la décision du 22 février 2011 doivent être annulés et la cause renvoyée au recourant pour qu'il procède conformément aux considérants.
7. Compte tenu de l'issue du litige, les frais de la procédure fédérale seront supportés à raison de quatre cinquièmes par le recourant et d'un cinquième par l'intimée (art. 66 al. 1 LTF). L'issue du litige n'a en revanche pas d'incidence sur la répartition des frais de première instance, qui ont été mis à la charge de l'office AI (cf. art. 67 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Le jugement de la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, du 5 juillet 2011 et la décision de l'Office de l'assurance-invalidité du canton de Genève du 22 février 2011 sont annulés. La cause est renvoyée à l'Office de l'assurance-invalidité du canton de Genève pour qu'il procède conformément aux considérants.
2. Les frais judiciaires, arrêtés à 500 fr. pour la dernière instance et à 200 fr. pour la procédure antérieure, sont mis pour 600 fr. à la charge du recourant et pour 100 fr. à la charge de l'intimée.
3. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 4 janvier 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Moser-Szeless