Faits:
A.
B._, exploite un magasin de décoration sous une raison individuelle de commerce. Le 14 décembre 2010, elle a déposé une demande de prestations de l'assurance-invalidité, en alléguant présenter une incapacité de travail totale en raison de douleurs chroniques d'origine multiple et de dépression depuis le mois d'octobre 2005.
La doctoresse C._, médecin traitant de l'assurée, a fait état d'une fibromyalgie et de douleurs de type osseux. Elle a mentionné aussi une maladie de Lyme, une intolérance au gluten, une intoxication au plomb et au mercure, ainsi que des problèmes liés à l'accoutumance à des analgésiques et des opiacés. A son avis, l'incapacité de travail était totale (rapports des 9 février et 19 mai 2011). De son côté, le docteur S._, consulté par l'assurée, a retenu uniquement le diagnostic de fibromyalgie (rapport du 10 janvier 2011).
Afin de clarifier la situation, singulièrement de pouvoir déterminer s'il existait une atteinte psychiatrique associée à la fibromyalgie, le Service médical régional de l'assurance invalidité (SMR) a préconisé la mise en oeuvre d'une expertise psychiatrique que l'Office de l'assurance-invalidité pour le canton de Vaud (l'office AI) a confiée au docteur E._, spécialiste en psychiatrie et psychothérapie (communication du 7 octobre 2011). Par lettre du 21 octobre 2011, l'assurée s'est opposée à la nomination du docteur E._. A son avis, une expertise psychiatrique ne lui paraissait pas adéquate compte tenu de la pathologie somatique complexe. Par ailleurs, le docteur E._ était déjà intervenu comme expert pour le compte d'un assureur perte de gain en cas de maladie (Vaudoise Assurances), dont elle contestait les conclusions (cf. expertise du 9 janvier 2007); en outre, ce médecin était notoirement contesté en tant qu'expert. L'assurée a dès lors requis la mise en oeuvre d'une expertise pluridisciplinaire auprès d'un centre universitaire. Par décision incidente du 25 novembre 2011, l'OAI a maintenu le mandat d'expertise confié au docteur E._, sans ordonner de plus amples investigations.
B.
B._ a déféré cette décision au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en concluant à son annulation.
Par jugement du 11 juillet 2012, la juridiction cantonale a prononcé le dispositif suivant :
I. Le recours est admis
II. L'expert désigné par l'Office de l'assurance-invalidité pour le canton de Vaud est récusé.
III. La cause est renvoyée à l'intimé pour qu'il administre une expertise pluridisciplinaire conformément aux considérants.
IV. et V. (dépens et frais).
C.
L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant à la confirmation de sa décision incidente du 25 novembre 2011.
L'assurée intimée conclut au rejet du recours dans la mesure où il est recevable, avec suite de frais et dépens. Elle produit deux nouveaux avis médicaux. L'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit:
1.
1.1. Le Tribunal fédéral examine d'office la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1.1 p. 3; <ref-ruling> consid. 1 p. 140).
1.2. Le recours en matière de droit public (cf. <ref-law>) est recevable contre les décisions qui mettent fin à la procédure (<ref-law>), ainsi que contre les décisions préjudicielles et incidentes qui sont notifiées séparément et qui portent sur la compétence ou sur une demande de récusation (<ref-law>).
Suivant l'<ref-law>, les autres décisions préjudicielles et incidentes notifiées séparément ne peuvent faire l'objet d'un recours que si elles peuvent causer un préjudice irréparable (let. a) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b).
2.
2.1. Selon l'<ref-law>, l'assureur examine les demandes, prend d'office les mesures d'instruction nécessaires et recueille les renseignements dont il a besoin. Les renseignements donnés oralement doivent être consignés par écrit (al. 1). L'assuré doit se soumettre à des examens médicaux ou techniques si ceux-ci sont nécessaires à l'appréciation du cas et qu'ils peuvent être raisonnablement exigés (al. 2). En matière d'assurance-invalidité, l'<ref-law> précise que si les conditions sont remplies, l'office AI réunit les pièces nécessaires, en particulier sur l'état de santé du requérant, son activité, sa capacité de travail et son aptitude à être réadapté, ainsi que sur l'indication de mesures déterminées de réadaptation. Des rapports ou des renseignements, des expertises ou une enquête sur place peuvent être exigés ou effectués; il peut être fait appel aux spécialistes de l'aide publique ou privée aux invalides.
D'après l'<ref-law>, si l'assureur doit recourir aux services d'un expert indépendant pour élucider les faits, il donne connaissance du nom de celui-ci aux parties. Celles-ci peuvent récuser l'expert pour des raisons pertinentes et présenter des contre-propositions. Lorsque l'assureur social et l'assuré ne s'entendent pas sur le choix de l'expert, l'administration doit rendre une décision directement soumise à recours (<ref-ruling> consid. 3.4.2.6 p. 256).
2.2. Un expert passe pour prévenu lorsqu'il existe des circonstances propres à faire naître un doute sur son impartialité. Dans ce domaine, il s'agit toutefois d'un état intérieur dont la preuve est difficile à rapporter. C'est pourquoi il n'est pas nécessaire de prouver que la prévention est effective pour récuser un expert. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale de l'expert. L'appréciation des circonstances ne peut pas reposer sur les seules impressions de l'expertisé, la méfiance à l'égard de l'expert devant au contraire apparaître comme fondée sur des éléments objectifs (<ref-ruling> consid. 7.1 p. 109 et l'arrêt cité; arrêt 9C_519/2011 du 5 avril 2012 consid. 3.1).
Un expert donne l'apparence de prévention, et peut donc être récusé, s'il a déjà été impliqué, à quelque titre que ce soit (conseiller ou expert privé, témoin, membre d'une autorité), dans la procédure, pour autant qu'il ait pris position au sujet de certaines questions de manière telle qu'il ne semble plus exempt de préjugés (<ref-ruling> consid. 3c p. 73, 125 II 541 consid. 4 p. 544). Le fait que l'expert a déjà eu à se prononcer au cours d'une procédure dans laquelle une des parties était impliquée n'exclut pas sa nomination en qualité d'expert (<ref-ruling> consid. 7.2.2 p. 110). La jurisprudence exige cependant que l'issue de la cause ne soit pas prédéterminée, mais qu'elle demeure au contraire indécise quant à la constatation des faits et à la résolution des questions juridiques (116 Ia 135 consid. 3b p. 139, 126 I 168 consid. 2a p. 169; Jacques Olivier Piguet, Le choix de l'expert et sa récusation, HAVE/REAS 2/2011 p. 133).
2.3. En matière de récusation il convient de distinguer entre les motifs formels et les motifs matériels. Les motifs de récusation qui sont énoncés dans la loi (cf. <ref-law> et 36 al. 1 LPGA) sont de nature formelle parce qu'ils sont propres à éveiller la méfiance à l'égard de l'impartialité de l'expert. Les motifs de nature matérielle, qui peuvent également être dirigés contre la personne de l'expert, ne mettent en revanche pas en cause son impartialité. De tels motifs doivent en principe être examinés avec la décision sur le fond dans le cadre de l'appréciation des preuves (<ref-ruling> consid. 6.5 p. 108).
Les jugements cantonaux et du Tribunal administratif fédéral sur des recours contre des décisions des offices AI concernant la mise en oeuvre d'expertises médicales ne sont pas susceptibles d'être déférés au Tribunal fédéral, conformément à l'<ref-law>, à moins que des motifs de récusation de nature formelle aient été tranchés (<ref-ruling>), ce qui est le cas en l'espèce.
3.
En se référant à la jurisprudence (<ref-ruling> consid. 7.2 p. 110), les premiers juges ont rappelé que le seul fait qu'un médecin avait déjà réalisé une première expertise à un stade antérieur de la procédure administrative n'excluait pas d'emblée sa désignation pour la réalisation d'une nouvelle expertise ou d'un complément d'expertise. En revanche, les juges cantonaux ont considéré, en citant l'<ref-ruling> consid. 4 p. 544 et JACQUES OLIVIER PIGUET (op. cit., p. 133), qu'un médecin qui avait déjà travaillé en qualité d'expert privé pour le compte d'une partie ou d'un tiers apparaissait comme prévenu, en tout cas s'il avait déjà pris position sur le complexe de faits sur lequel devait porter l'expertise à réaliser. A cet égard, la juridiction cantonale s'est référée à un jugement qu'elle avait rendu le 23 avril 2012 (CASSO AI 230/11 - 144/2012), dans lequel elle avait admis qu'un assuré pouvait en principe s'opposer à la désignation, comme expert au sens de l'<ref-law>, d'un médecin qui avait été précédemment consulté par l'assurance-maladie collective en cas de perte de gain, dans le contexte d'un litige de droit privé relatif à des prestations fondées sur une assurance soumise à la LCA. Dans la présente affaire, les juges cantonaux ont considéré qu'il n'existait aucun motif de déroger à ce principe, car les garanties relatives à l'impartialité de l'expert lors de sa première désignation étaient nettement insuffisantes pour qu'il puisse être désigné à nouveau dans la procédure administrative. Le tribunal a dès lors admis le recours.
4.
4.1. Dans le recours qu'elle avait dirigé contre la décision incidente du 25 novembre 2011, l'intimée avait uniquement reproché au docteur E._ de n'avoir pas tenu compte, dans son expertise du 9 janvier 2007, de la pathologie somatique complexe dont elle souffre (maladie de Lyme et intoxication au mercure). Elle faisait ainsi grief à l'expert d'avoir eu une idée préconçue de l'affaire en ce sens que sa pathologie serait une pure pathologie psychique, savoir un état dépressif majeur de gravité légère à moyenne et une personnalité à traits histrioniques décompensée (ch. 2.3 pp. 6 et 7).
Ce moyen est toutefois dénué de pertinence dans le cadre de l'examen du grief d'apparence de prévention. En effet, contrairement à ce que l'intimée avait soutenu, il n'appartenait pas au docteur E._ de se prononcer sur l'existence d'éventuels troubles somatiques et leur incidence sur la capacité de travail, dans l'expertise du 9 janvier 2007, pas plus qu'il ne devrait être appelé à le faire à l'occasion de la mise en oeuvre d'une nouvelle expertise, car ce médecin est spécialiste en psychiatrie et psychothérapie. Le docteur E._ l'avait du reste indiqué, dans son rapport du 9 janvier 2007 (p. 16), où il précisait que le diagnostic d'ordre somatique " nihil " (Axe III, pathologie somatique) était mentionné à titre indicatif, sur la base du dossier médical, car il sortait de son champ de compétences.
Dès lors que le docteur E._ n'avait pas pris position sur le volet somatique du dossier, les motifs de récusation d'ordre formel invoqués et développés à ce titre, devant la juridiction cantonale, étaient infondés.
4.2. Pour le surplus, on ne saurait admettre que les garanties relatives à l'impartialité du docteur E._ seraient nettement insuffisantes par le seul fait que ce médecin avait été désigné en qualité d'expert par un assureur perte de gain soumis à la LCA, en 2006, en dehors de la procédure de l'<ref-law>. En effet, l'intimée et les premiers juges n'ont mis aucun élément objectif en évidence qui permettrait d'admettre que l'expert aurait pris position au sujet de certaines questions, dans son rapport du 9 janvier 2007, de manière telle qu'il ne semble aujourd'hui plus exempt de préjugés (cf. consid. 2.2 supra). A cet égard, les avis médicaux établis en mars 2013 que l'intimée produit avec sa réponse sont non seulement irrecevables (<ref-law>), mais n'abordent de toute manière pas cette question.
L'éventualité que le docteur E._ puisse avoir une opinion préconçue de la situation médicale doit ainsi être écartée, à défaut de vraisemblance, de sorte que sa récusation était, à ce titre également, infondée. Sur ce point, le recours sera admis.
5.
5.1. Le recourant reproche aussi au Tribunal cantonal de lui avoir renvoyé le dossier afin de mettre une expertise pluridisciplinaire en oeuvre (ch. III du dispositif du jugement attaqué). A son avis, les premiers juges ont outrepassé l'objet du litige.
5.2. Dans la mesure où il renvoie la cause à l'administration pour complément d'instruction, l'acte attaqué constitue une décision incidente au sens de l'<ref-law> (cf. <ref-ruling> consid. 4.2 p. 481). Un tel renvoi n'est en principe pas de nature à causer aux parties un dommage irréparable et ne se confond en général pas avec une procédure probatoire longue et coûteuse (cf. <ref-ruling> consid. 5.2 p. 483; arrêt 9C_919/2012 du 22 novembre 2012 et les arrêts cités).
En l'espèce, les conditions de l'art. 93 al. 1 let. a et b LTF ne sont manifestement pas remplies, si bien que le recours est irrecevable dans la mesure où il est dirigé contre le ch. III du dispositif du jugement attaqué.
6.
Vu l'issue du litige, les frais de la procédure seront répartis entre les parties (<ref-law>). Le recourant versera une indemnité réduite de dépens à l'intimée (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1.
Dans la mesure où il est recevable, le recours est admis. Les ch. II, IV et V du dispositif du jugement du Tribunal cantonal du canton de Vaud, Cour des assurances sociales, du 11 juillet 2012, sont annulés.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge des parties, à raison de 400 fr. chacune.
3.
Le recourant versera à l'intimée la somme de 1'000 fr. à titre de dépens pour l'instance fédérale.
4.
La cause est renvoyée au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, afin qu'il statue à nouveau sur les frais et dépens de la procédure cantonale, au regard de l'issue du litige.
5.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 6 juin 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Berthoud