Faits:
A. Par décision du 30 juin 2004, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a rejeté la demande de prestations présentée par K._. Saisi d'un recours de l'assurée contre cette décision, le Tribunal des assurances du canton de Vaud (aujourd'hui, Tribunal cantonal, Cour des assurances sociales) l'a rejeté par jugement du 11 avril 2006, en se fondant sur un rapport rendu le 21 juin 2004 par les docteurs O._ et L._, médecins auprès du Service médical régional AI (SMR). Ce jugement est entré en force.
Le 11 octobre 2007, l'assurée a déposé une nouvelle demande de prestations de l'assurance-invalidité, sur laquelle l'office AI n'est pas entré en matière (décision du 20 mai 2008).
B. Le 20 juin 2008, K._ a à la fois déféré cette décision au Tribunal cantonal vaudois et déposé une demande de révision du jugement du 11 avril 2006. A l'appui de sa demande, elle a produit une lettre du 15 novembre 2006 adressée par le Service de la santé publique du canton de Vaud à l'office AI et concernant la doctoresse L._. Par jugement du 6 mai 2009, le Tribunal cantonal a admis la demande de révision, annulé le jugement du 11 avril 2006 ainsi que la décision du 30 juin 2004 de l'office AI et renvoyé la cause à l'administration pour complément d'instruction au sens des considérants puis nouvelle décision.
C. Agissant par la voie du recours en matière de droit public, l'office AI conclut à l'annulation du jugement du 6 mai 2009. Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.
Considérant en droit:
1. 1.1 Le recours en matière de droit public est recevable contre les décisions qui mettent fin à la procédure (art. 90 LTF) et contre toute décision qui statue sur un objet dont le sort est indépendant de celui qui reste en cause ou qui met fin à la procédure à l'égard d'une partie des consorts (décision partielle; art. 91 LTF). Il est également recevable contre les décisions préjudicielles et incidentes qui sont notifiées séparément et qui portent sur la compétence ou sur une demande de récusation (art. 92 al. 1 LTF). Les autres décisions préjudicielles et incidentes notifiées séparément ne peuvent faire l'objet d'un recours que si elles peuvent causer un préjudice irréparable (art. 93 al. 1 let. a LTF), ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (art. 93 al. 1 let. b LTF).
1.2 Le dispositif du jugement entrepris a pour objet deux décisions distinctes: d'une part, l'annulation de l'arrêt formant l'objet de la demande de révision et, d'autre part, le nouveau prononcé sur la contestation dont la juridiction cantonale avait précédemment été saisie, par lequel la décision administrative du 30 juin 2004 est annulée et la cause renvoyée au recourant pour instruction complémentaire au sens des considérants et nouvelle décision (voir aussi PIERRE FERRARI, in Commentaire de la LTF, 2009, ad art. 128 LTF n° 2 sv., p. 1223; POUDRET/SANDOZ-MONOD, Commentaire de la loi fédérale d'organisation judiciaire, vol. 5, 1992, ad art. 144, p. 71). Même si elle met un terme à la procédure de révision proprement dite, la décision d'annulation entraîne la réouverture de la procédure antérieure, tandis que la nouvelle décision oblige l'office AI à reprendre l'instruction de la cause et à se prononcer à nouveau. Compte tenu de ces deux objets, l'arrêt attaqué ne met pas définitivement fin à la procédure, mais constitue une étape vers la décision finale, nonobstant le fait qu'il tranche au préalable la question de la révision. Il ne s'agit par conséquent pas d'une décision finale, ni d'une décision partielle (faute de statuer sur un objet dont le sort est indépendant de celui qui reste en cause). Le jugement déféré doit être considéré comme une décision incidente, contre laquelle un recours n'est admis qu'aux conditions de l'art. 93 al. 1 LTF (l'art. 92 al. 1 LTF n'entrant ici pas en considération).
1.3 Les exigences posées par l'art. 93 al. 1 let. b LTF ne sont pas réunies en l'espèce. Même si l'admission du recours pourrait conduire immédiatement à une décision finale, la seconde condition - éviter une procédure probatoire longue et coûteuse - fait défaut, dès lors que le renvoi de la cause à l'office AI pour instruction complémentaire (sous la forme, en l'occurrence, d'une expertise psychiatrique) et nouvelle décision ne se confond pas avec une procédure probatoire prenant un temps considérable et exigeant des frais importants (arrêt 9C_446/2007 du 5 décembre 2007 consid. 3).
Les conditions de l'art. 93 al. 1 let. a LTF sont en revanche réalisées. Lorsque l'autorité administrative à laquelle la cause est renvoyée dispose de la qualité pour recourir au Tribunal fédéral, elle doit pouvoir attaquer un arrêt incident lui enjoignant de rendre une décision qu'elle juge contraire au droit; à défaut, elle subirait un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF, étant contrainte de rendre une décision - selon elle - erronée qu'elle ne pourrait pas soumettre au contrôle du Tribunal fédéral, faute d'être en mesure de former un recours contre un acte qui émane d'elle-même (cf. ATF 133 V 477 consid. 5.2.4 p. 484). En l'occurrence, en tant que la demande de révision a été admise et la cause renvoyée au recourant pour instruction complémentaire et nouvelle décision, le jugement attaqué contient des instructions impératives qui obligent l'office AI à reprendre une procédure qu'il considère comme terminée et à réexaminer la situation à l'encontre de sa conception juridique, selon laquelle les conditions d'une révision ne sont pas données. En ce sens, il est tenu de rendre une décision qu'il juge contraire au droit, alors que la question de la conformité de la décision admettant la révision et annulant le jugement du 11 avril 2006 ne pourrait plus être soumise au contrôle du Tribunal fédéral (du moins dans la situation où l'administration donnerait en fin de compte droit aux prétentions de l'intimée). L'office AI subit donc un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF, de sorte qu'il y a lieu d'entrer en matière sur son recours.
2. Sur le fond, le litige porte sur le point de savoir si la juridiction cantonale était en droit de réviser le jugement du 11 avril 2006 du Tribunal vaudois des assurances. La question du délai de la demande de révision - qui relève du droit cantonal - n'est pas litigieuse, les premiers juges ayant constaté que l'assurée n'avait eu connaissance du motif de révision que postérieurement à la notification de la décision du 20 mai 2008, de sorte qu'elle avait agi dans le délai de nonante jours prévu à cet effet.
3. 3.1 Selon l'art. 61 let. i LPGA, applicable à la procédure devant le tribunal cantonal des assurances, les jugements sont soumis à révision si des faits ou moyens de preuve nouveaux sont découverts ou si un crime ou un délit a influencé le jugement.
La notion de faits ou moyens de preuve nouveaux s'apprécie de la même manière en cas de révision (procédurale) d'une décision administrative (art. 53 al. 1 LPGA), de révision d'un jugement cantonal (art. 61 let. i LPGA) ou de révision d'un arrêt fondée sur l'art. 123 al. 2 let. a LTF (qui correspond à l'ancien art. 137 let. b OJ et auquel s'applique la jurisprudence rendue à propos de cette norme [ATF 134 III 45 consid. 2.1 p. 47]; cf. arrêt I 183/04 du 28 avril 2005 consid. 2.2 et les références, in REAS 2005 p. 242). Sont "nouveaux" au sens de ces dispositions, les faits qui se sont produits jusqu'au moment où, dans la procédure principale, des allégations de faits étaient encore recevables, mais qui n'étaient pas connus du requérant malgré toute sa diligence. En outre, les faits nouveaux doivent être importants, c'est-à-dire qu'ils doivent être de nature à modifier l'état de fait qui est à la base de l'arrêt entrepris et à conduire à un jugement différent en fonction d'une appréciation juridique correcte (ATF 127 V 353 consid. 5b p. 358 et les références; cf. ATF 134 III 669 consid. 2.2 p. 671).
3.2 Savoir si l'autorité cantonale s'est fondée sur de justes conceptions des notions de faits nouveaux ou de moyens de preuves nouveaux est une question de droit. En revanche, savoir si un fait ou un moyen de preuve était effectivement inconnu est une question de fait; il en va de même de la question de savoir si un fait nouveau ou un moyen de preuve nouveau est propre à modifier l'état de fait retenu (cf. ATF 116 IV 353 consid. 2b p. 356 et les références citées); il s'agit alors d'une question d'appréciation des preuves (arrêt U 561/06 du 28 mai 2007 consid. 7.1, in RSAS 2008 p. 169). L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou contraire au sens de la justice et de l'équité ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens et la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des constatations insoutenables (ATF 134 V 53 consid. 4.3 p. 62 et les références). Ces principes s'appliquent aux constatations de fait que le Tribunal fédéral revoit sous l'angle restreint de l'art. 105 al. 2 LTF.
3.3 La juridiction cantonale a constaté que le jugement du 11 avril 2006 était fondé uniquement, en ce qui concerne l'appréciation de l'état de santé de l'assurée sur le plan psychiatrique, sur le rapport de la doctoresse L._ du 21 juin 2004, qui n'avait retenu aucune pathologie psychiatrique. Ce médecin ne disposait alors pas de l'autorisation de pratiquer prévue par le droit cantonal, ni du titre de psychiatre FMH dont elle se prévalait lors de la rédaction de son évaluation du 21 juin 2004. L'intimée n'avait pas et ne pouvait pas avoir connaissance de ces circonstances, puisqu'elles émanaient d'un courrier du Service cantonal vaudois de la santé publique du 15 novembre 2008. Le fait pour la doctoresse L._ de se prévaloir d'un titre auquel elle ne pouvait prétendre et de ne pas disposer de l'autorisation de pratiquer prévue par le droit cantonal constituaient des irrégularités d'ordre formel qui entachaient la fiabilité de son rapport. En conséquence, un complément d'instruction sous la forme d'une expertise à confier à un spécialiste en psychiatrie était nécessaire au regard des avis médicaux divergents produits. Un tel complément devait être effectué par l'office AI, dont la décision du 30 juin 2004 devait être annulée. En conséquence, l'autorité cantonale de recours a retenu que les faits nouveaux ainsi constatés - l'absence de titre dont le médecin s'était prévalu et d'une autorisation prévue par le droit cantonal - étaient importants, puisqu'ils modifiaient les faits à la base du jugement dont la révision était demandée et conduisaient à un jugement différent.
Les constatations de fait de la juridiction cantonale ne sont pas manifestement inexactes et lient donc le Tribunal fédéral (art. 105 al. 1 et 2 LTF). Elles reposent par ailleurs sur une appréciation des preuves que l'on ne saurait qualifier d'arbitraire. Le recourant ne le prétend du reste pas. Il conteste certes le caractère important des faits nouveaux mis en évidence par la juridiction cantonale: il soutient que rien ne permet d'affirmer que les juges de première instance auraient rendu un jugement différent s'ils avaient été au courant des irrégularités formelles concernant la doctoresse L._, parce que les compétences de ce médecin et la qualité de ses examens et rapports n'avaient jamais été remises en cause. Ce faisant, le recourant se limite toutefois à opposer sa propre appréciation à celle de la juridiction cantonale, sans tenter d'établir que le point de vue des premiers juges, selon lequel les faits nouveaux étaient propres à modifier l'état de fait initialement retenu, serait insoutenable. Il se réfère en vain à cet égard à un arrêt du "Tribunal cantonal des assurances de Genève" du 18 mai 2007, selon lequel les irrégularités formelles n'entacheraient pas la valeur probante d'un rapport de la doctoresse L._, sans en citer ni les références exactes, ni en produire une copie. Le fait - eût-il été démontré - qu'une autre juridiction cantonale aurait apprécié différemment une situation semblable à celle soumise à la Cour des assurances sociales du canton de Vaud ne suffit pas à mettre en évidence le caractère manifestement inexact des faits retenus par celle-ci ou la nature arbitraire de sa décision.
4. Il résulte de ce qui précède que le recours est mal fondé.
5. Le recourant, qui succombe, supportera les frais judiciaires afférents à la présente procédure (art. 66 al. 1, 1ère phrase, LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 26 mars 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless