Faits:
A. Par décision du 17 décembre 1998, l'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'office AI) a alloué à D._, née en 1947, une rente entière de l'assurance-invalidité à partir du 1er janvier 1998, fondée sur un taux d'invalidité de 100%. Atteinte de rhizarthrose (usure chronique du cartilage de l'articulation à la base du pouce) des deux mains, pour laquelle elle avait été opérée à plusieurs reprises, l'assurée avait dû cesser son activité de coiffeuse en 1997 et n'avait plus été depuis en mesure d'exercer son métier.
Au cours d'une procédure de révision, l'office AI a rendu une nouvelle décision, le 5 octobre 2001, par laquelle il a réduit la rente de l'assurée à une demi-rente, en considérant qu'elle était à même de réaliser, dans une activité de vendeuse en confection ou en parfumerie exercée à mi-temps, un salaire correspondant à 59% des revenus obtenus avant la survenance de l'invalidité. A la suite du recours de D._ et du renvoi de la cause par le Tribunal administratif du canton de Fribourg, Cour des assurances sociales, pour instruction complémentaire (jugement du 24 avril 2003), l'administration a chargé le Centre d'expertise médicale X._ d'une expertise. Le 14 octobre 2005, tout en octroyant à l'assurée une aide au placement, l'office AI a derechef réduit son droit à une demi-rente d'invalidité (fondée sur un taux d'incapacité de gain de 59%) à partir du 1er novembre 2005. L'intéressée s'étant opposée à cette décision, il l'a confirmée le 31 mars 2006.
B. L'assurée a déféré cette décision au Tribunal administratif fribourgeois, Cour des assurances sociales. Après l'avoir avertie d'une éventuelle reformatio in peius, le tribunal a, le 25 mai 2007, rejeté son recours et réformé la décision sur opposition, en ce sens que D._ avait droit à une demi-rente d'invalidité du 1er décembre 2001 au 31 décembre 2003, puis à un trois-quarts de rente dès le 1er janvier 2004. En bref, le tribunal a considéré que l'état de santé de l'assurée s'était amélioré entre 1998 et 2001 et lui permettait alors d'exercer à plein temps une activité adaptée (ne nécessitant pas, au niveau des mains, force, préhension, répétition et rapidité), avec une diminution de rendement de 25%. Fixant à 60,47% le taux d'invalidité, il a retenu que le droit à une rente entière devait être révisé et l'a réduit aux fractions mentionnées.
C. D._ interjette un recours en matière de droit public contre le jugement cantonal, dont elle demande l'annulation. Sous suite de dépens et "intérêts moratoires", elle conclut au renvoi de la cause à l'office AI pour qu'il mette en oeuvre un stage d'observation professionnelle, mesure ordonnée par le Tribunal administratif dans son jugement du 24 avril 2003.
L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Sur le fond, le litige porte sur la réduction, à partir du 1er décembre 2001, du droit de l'intimée à une rente entière d'invalidité (allouée par décision du 17 décembre 1998). A cet égard, le jugement entrepris expose correctement les normes légales et jurisprudentielles sur les conditions auxquelles une décision d'octroi de rente entrée en force peut être modifiée, à savoir (notamment) les règles sur la révision (art. 17 LPGA) et la reconsidération (art. 53 al. 2 LPGA). Il suffit donc d'y renvoyer. On précisera que les modifications de la LAI du 6 octobre 2006 (5ème révision de la LAI), entrées en vigueur le 1er janvier 2008, n'ont pas à être prises en considération dans le présent litige, eu égard au principe selon lequel les règles applicables sont celles en vigueur au moment de la réalisation de l'état de fait dont les conséquences juridiques font l'objet de la décision (ATF 131 V 9 consid. 1 p. 11 et les arrêts cités).
2. 2.1 Par jugement du 24 avril 2003, la juridiction cantonale a annulé la décision administrative du 5 octobre 2001, par laquelle l'office AI avait réduit la rente entière de la recourante à une demi-rente et renvoyé la cause à l'office AI "pour instruction complémentaire au sens des considérants et nouvelle décision". Des considérants de ce jugement, il ressort que l'instruction complémentaire ordonnée consistait, d'une part, à interroger le docteur S._, médecin-chef du service de chirurgie orthopédique de l'hôpital Y._, sur l'incidence du diagnostic d'épicondylite (posé dans son rapport du 26 septembre 2001) sur l'état de santé de sa patiente, et à lui demander son avis sur les mesures chirurgicales proposées par le docteur T._ (expert mandaté par l'office AI) dans son rapport du 25 mars 2002. D'autre part, il s'agissait de soumettre la recourante "à un stage d'observation pour vérifier concrètement s'il y avait modification, depuis le 17 août 1998, de l'incidence de son handicap des mains sur sa capacité de travail dans des domaines d'activité professionnelle adaptée".
Reprenant l'instruction du dossier, l'intimé l'a complétée sur le plan médical en confiant une expertise aux docteurs A._ et F._ du Centre d'expertise médicale X._ (rapport du 25 mars 2005) et en recueillant l'avis du docteur H._ du Service médical régional AI, Z._, (rapport du 2 mai 2005). Le stage d'observation professionnelle n'a en revanche pas été mis en oeuvre.
2.2 Reprochant à la juridiction cantonale d'avoir rendu son second jugement (du 25 mai 2007) en violation de son prononcé du 24 avril 2003, la recourante invoque avant tout une violation du principe de l'autorité de la chose jugée. Selon elle, les premiers juges n'étaient pas fondés à se prononcer sur la révision de son droit à la rente avant que la mesure d'instruction qu'ils avaient ordonnée par jugement du 24 avril 2003, entré en force, n'eût été mise en oeuvre. Cette manière de procéder violait par ailleurs son droit à la protection de la bonne foi, ainsi que le principe de la sécurité juridique.
3. 3.1 Applicable à la procédure juridictionnelle cantonale dans les limites posées par l'art. 61 LPGA, le Code fribourgeois du 23 mai 1991 de procédure et de juridiction administrative (CPJA; RSF 150.1; dans sa version, applicable en l'espèce, en vigueur jusqu'au 31 décembre 2007), donne le choix au Tribunal administratif fribourgeois, lorsqu'il entre en matière sur un recours et annule la décision attaquée, de statuer lui-même sur l'affaire ou de la renvoyer à l'autorité inférieure, s'il y a lieu avec des instructions impératives (art. 98 CPJA). La disposition cantonale précise que les instructions sont impératives, sans indiquer dans quelle mesure l'autorité qui les donne est elle-même liée par son prononcé.
Lorsque l'autorité de recours statue, comme en l'espèce, par une décision de renvoi, l'autorité à laquelle la cause est renvoyée, de même que celle qui a rendu la décision sur recours sont tenues de se conformer aux instructions du jugement de renvoi. Ainsi, l'autorité inférieure doit fonder sa nouvelle décision sur les considérants de droit du jugement de renvoi. Ce principe, qui était exprimé en matière civile à l'art. 66 al. 1 aOJ, est applicable même en l'absence de texte et vaut, partant, dans la procédure administrative en général (ATF 117 V 237 consid. 2a p. 241); la jurisprudence du Tribunal fédéral y relative (rendue en rapport avec l'art. 66 al. 1 OJ) reste applicable sous l'empire de la LTF (arrêt 4A_71/2007 du 19 octobre 2007, consid. 2.1 et 2.2). L'autorité inférieure voit donc sa latitude de jugement limitée par les motifs du jugement de renvoi, en ce sens qu'elle est liée par ce qui a été déjà définitivement tranché par l'autorité de recours (cf. ATF 131 III 91 consid. 5.2 p. 94; 120 V 233 consid. 1a p. 237), laquelle ne saurait, de son côté, revenir sur sa décision à l'occasion d'un recours subséquent (REAS 2007 p. 62 [arrêt I 694/05 du 15 décembre 2006]; Ulrich Meyer/Isabel von Zwehl, L'objet du litige en procédure de droit administratif fédéral, in: Mélanges Pierre Moor, Berne 2005, n. 30.4 p. 448).
3.2 En ordonnant, par jugement du 24 avril 2003, à l'office AI de compléter l'instruction sur deux points précis, la juridiction cantonale n'a en l'occurrence pas tranché un aspect de fond particulier du rapport juridique litigieux (in casu, la modification du droit à une rente entière d'invalidité), lequel aurait acquis force de chose jugée faute d'avoir fait l'objet d'un recours. Les considérants en droit auxquels se référait le dispositif du premier jugement cantonal ne portaient pas sur l'un ou l'autre des éléments particuliers à la base du rapport juridique réglé par la décision administrative, mais sur les raisons pour lesquelles la juridiction cantonale estimait que la situation de fait n'était pas suffisamment élucidée pour juger de l'objet du litige qui lui était soumis. Dans la mesure où l'autorité cantonale de recours ne s'est pas prononcée sur une question de fond, sa décision qui portait strictement sur des mesures d'instruction complémentaire n'était pas susceptible à son égard d'acquérir force matérielle au sens rappelé ci-avant (consid. 3.1). Aussi, ne saurait-on voir dans le fait que la juridiction cantonale a, par la suite, renoncé à l'une des deux mesures qu'elle avait ordonnées, une violation de principe de la res iudicata (dont le principe de sécurité juridique, dont se prévaut la recourante, n'est dans ce contexte qu'un aspect sans portée propre).
En ce qui concerne, par ailleurs, la garantie à la protection de la bonne foi invoquée par la recourante - qui se limite à en affirmer la violation -, il n'apparaît pas que les conditions (cf. ATF 131 II 627 consid. 6.1 p. 636 et les arrêts cités) en soient remplies (notamment celle liée à des dispositions qu'elle aurait prises et auxquelles elle ne saurait renoncer sans subir de préjudice).
En ce qui concerne, par ailleurs, la garantie à la protection de la bonne foi invoquée par la recourante - qui se limite à en affirmer la violation -, il n'apparaît pas que les conditions (cf. ATF 131 II 627 consid. 6.1 p. 636 et les arrêts cités) en soient remplies (notamment celle liée à des dispositions qu'elle aurait prises et auxquelles elle ne saurait renoncer sans subir de préjudice).
3.3 3.3.1 Cela étant, il est constant que l'office intimé ne s'est pas conformé aux instructions données par la juridiction cantonale dans son jugement du 24 avril 2003, comme le fait valoir la recourante qui y voit un abus, de la part de l'administration, de la marge de manoeuvre qui lui était laissée. Si elle ne revêtait pas pour l'autorité qui l'a rendue le caractère de force jugée pour les raisons déjà mentionnées (supra consid. 3.2), la décision de renvoi cantonale n'en demeurait pas moins contraignante pour l'autorité inférieure, sommée de compléter son instruction. Soumis à l'autorité juridictionnelle du tribunal cantonal des assurances en cas de recours contre leurs décisions, les offices de l'assurance-invalidité sont en effet tenus de se conformer aux instructions judiciaires données à l'occasion d'un jugement de renvoi et ne disposent d'une latitude de manoeuvre que dans la mesure laissée par l'autorité judiciaire. Demeure réservé le cas où au cours de l'instruction reprise par l'administration, un nouvel élément d'appréciation résultant d'un complément d'instruction laisse apparaître une mesure supplémentaire d'instruction ordonnée par le tribunal cantonal des assurances comme superflue. Dans un tel cas, on peut admettre que l'organe de l'assurance-invalidité est fondé à renoncer exceptionnellement à une instruction supplémentaire lorsqu'elle n'apparaît plus justifiée au regard du résultat des mesures complémentaires déjà mises en oeuvre en raison du renvoi.
A cet égard, la juridiction cantonale a considéré que les résultats de l'instruction complémentaire menée par l'intimé sur le plan médical (en particulier, l'avis du docteur H._ du 2 mai 2005) permettaient de retenir que la recourante était incapable d'exercer une activité qui nécessitait, au niveau des mains, force, préhension, répétition et rapidité; en revanche, un travail de téléphoniste, d'hôtesse d'accueil ou de surveillante pouvait être exercé à plein temps depuis 2001, avec une diminution de rendement de 25% liée à une certaine lenteur dans l'accomplissement de ces tâches. Compte tenu des métiers évoqués par les médecins, tous compatibles avec les limitations fonctionnelles décrites, elle a considéré que la mise en oeuvre d'un stage d'observation professionnelle n'aurait pas permis d'autres constatations ou conclusions et aurait inutilement prolongé la procédure en causant des frais supplémentaires.
3.3.2 Il ressort des constatations des premiers juges qu'à l'issue du premier volet de l'instruction complémentaire mis en oeuvre par l'intimé, tant l'étendue de la capacité de travail résiduelle que le type d'activités dans lequel la mise à profit de celle-ci était raisonnablement exigible de la recourante pouvaient être déterminés en fonction des seules conclusions médicales. Les médecins invités à donner leur avis s'étaient en effet prononcés sur les limitations fonctionnelles présentées par la recourante et les activités lucratives exigibles au regard de son atteinte à la santé. Compte tenu des nouvelles données médicales recueillies, le complément d'instruction ordonné sous la forme d'un stage d'observation professionnelle apparaissait dès lors superflu. L'intimé était donc fondé à s'écarter exceptionnellement du second volet des instructions reçues de la juridiction cantonale, après que le premier eût été exécuté.
Sur ce point, la recourante soutient que le stage d'observation professionnelle était nécessaire, parce qu'il arrive que les appréciations faites par les centres d'observation médicaux de l'assurance-invalidité soient contredites par celles des centres d'observation professionnelle. Une telle argumentation est cependant sans pertinence. Dès lors que les conclusions médicales complémentaires étaient suffisantes pour déterminer la nature des activités qui restaient à la portée de la recourante et la mesure dans laquelle elle était apte à les accomplir - elle ne remet du reste pas en cause les constatations y relatives de la juridiction cantonale -, un examen concret fondé sur une observation professionnelle ne s'imposait plus. Si on peut donner raison à la recourante sur l'utilité et l'importance du rôle qu'elle attribue aux centres d'observation professionnelle de l'assurance-invalidité pour déterminer concrètement les possibilités professionnelles des personnes concernées, en complément aux constatations médicales, elle perd toutefois de vue que la collaboration avec de tels centres ne s'impose pas de manière systématique comme elle semble le prétendre.
3.4 Pour le surplus, la recourante ne critique pas les constatations de fait de la juridiction cantonale (relatives notamment à la stabilisation de son état de santé en octobre 2001, au taux d'incapacité de travail et aux salaires retenus pour le calcul de l'invalidité selon la comparaison des revenus), ni ne lui reproche une violation du droit en rapport avec les conditions d'une révision au sens de l'art. 17 LPGA. Il n'y a dès lors pas lieu de revenir sur le taux d'invalidité fixé par les premiers juges, ni sur la date à partir de laquelle ils ont considéré que la révision devait prendre effet.
4. En conséquence de ce qui précède, le recours est mal fondé.
5. Etant donné l'issue du litige, les frais de justice doivent être supportés par la recourante qui succombe (art. 66 al. 1 première phrase LTF en relation avec l'art. 65 al. 4 let. a LTF) et ne peut, de ce fait, prétendre des dépens (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal administratif du canton de Fribourg, à la Caisse de compensation du canton de Fribourg et à l'Office fédéral des assurances sociales.
Lucerne, le 17 juin 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless