Faits:
A.
Dans une communication du 26 juillet 2012, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a informé A._ qu'une expertise neurologique était nécessaire afin de clarifier son droit à des prestations de l'assurance-invalidité. Le docteur H._, spécialiste FMH en neurologie, était ainsi mandaté pour effectuer l'expertise.
Par lettres des 9 et 28 août 2012, A._ a émis toutes réserves en ce qui concerne la désignation du docteur H._ en qualité d'expert. Il proposait que le docteur B._ soit désigné en cette qualité.
Par décision incidente du 13 septembre 2012, l'office AI, rejetant les motifs de récusation invoqués par A._, a maintenu l'expertise envisagée auprès du docteur H._.
B.
A._ a formé recours contre cette décision devant le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en concluant, sous suite de frais et dépens, à son annulation. Il invitait le tribunal à ordonner que l'expertise soit confiée au docteur B._ ou, à défaut, aux docteurs R._ ou N._.
L'office AI a conclu au rejet du recours. A._ a déposé ses observations, en requérant du tribunal qu'il statue préjudiciellement sur la question d'une nouvelle expertise.
La juridiction cantonale a tenu audience le 5 mars 2013, au cours de laquelle une tentative de conciliation n'a pas abouti. Par arrêt du 13 mai 2013, elle a rejeté le recours.
C.
A._ interjette un recours contre ce jugement, en concluant, sous suite de frais et dépens, à son annulation. Il demande que le dossier soit renvoyé à l'Office de l'assurance-invalidité pour le canton de Vaud pour nouvelle instruction et nouvelle décision dans le sens des considérants.

Considérant en droit:
1.
Le Tribunal fédéral examine d'office la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1.1 p. 3; <ref-ruling> consid. 1 p. 140).
1.1. Le point de savoir si le jugement entrepris est susceptible d'être déféré au Tribunal fédéral selon les art. 92 s. LTF se pose en général par rapport aux décisions incidentes qui ont été rendues dans le cadre d'une procédure de recours de première instance. Ici, cependant, la qualification du jugement de l'autorité précédente comme décision incidente suit la nature juridique de l'objet de la contestation dans le procès cantonal (<ref-ruling> consid. 2.1 p. 277).
1.2. En matière de récusation, il convient de distinguer entre les motifs formels et les motifs matériels. Les motifs de récusation qui sont énoncés dans la loi (cf. <ref-law> et 36 al. 1 LPGA) sont de nature formelle parce qu'ils sont propres à éveiller la méfiance à l'égard de l'impartialité de l'expert. Les motifs de nature matérielle, qui peuvent également être dirigés contre la personne de l'expert, ne mettent en revanche pas en cause son impartialité. De tels motifs doivent en principe être examinés avec la décision sur le fond dans le cadre de l'appréciation des preuves (<ref-ruling> consid. 6.5 p. 108).
1.3. Les jugements cantonaux et du Tribunal administratif fédéral sur des recours contre des décisions des offices AI concernant la mise en oeuvre d'expertises médicales ne sont pas susceptibles d'être déférés au Tribunal fédéral, conformément à l'<ref-law>, à moins que des motifs de récusation de nature formelle aient été tranchés (<ref-ruling>; arrêt 9C_689/2012 du 6 juin 2013, consid. 2.3).
1.4. En tant que les motifs de révocation invoqués par le recourant mettent en cause la crédibilité et le caractère probant du rapport d'expertise que le docteur H._ sera amené à établir, ils ont été considérés par les premiers juges comme étant clairement de nature matérielle. Dans cette mesure, le jugement entrepris du 13 mai 2013 n'est pas susceptible d'être déféré au Tribunal fédéral, conformément à l'<ref-law> - étant relevé que le recourant n'explique pas en quoi il serait exposé à un préjudice irréparable -, et le recours est irrecevable.
2.
Les premiers juges, examinant les motifs de récusation invoqués par le recourant à la lumière des principes applicables en ce qui concerne les motifs de récusation de nature formelle, ont considéré que le dossier ne contenait aucun élément permettant de faire croire que la situation, le comportement de l'expert ou les circonstances de sa désignation étaient de nature à faire naître un doute sur l'impartialité du docteur H._.
2.1. Le recourant allègue que l'absence de lésion invalidante, aux yeux de l'expert H._, voici quelques années, des suites d'un accident remontant à dix ans, rend peu probable que ce médecin se montre ouvert désormais à reconnaître une invalidité. Des questions d'amour-propre risquent d'interférer. Ce risque n'est pas systématique, mais il est sans doute à redouter plus particulièrement chez un expert connu pour ses appréciations restrictives des incapacités de travail et de gain et des niveaux d'invalidité.
2.2. Le fait que l'expert a déjà eu à se prononcer au cours d'une procédure dans laquelle une des parties était impliquée n'exclut pas sa nomination en qualité d'expert (<ref-ruling> consid. 7.2.2 p. 110). La jurisprudence exige cependant que l'issue de la cause ne soit pas prédéterminée, mais qu'elle demeure au contraire indécise quant à la constatation des faits et à la résolution des questions juridiques (<ref-ruling> consid. 3b p. 139, 126 I 168 consid. 2a p. 169; arrêt 9C_689/2012 du 6 juin 2013, consid. 2.2; JACQUES OLIVIER PIGUET, Le choix de l'expert et sa récusation, HAVE/REAS 2/2011 p. 133).
2.3. Les affirmations du recourant (supra, consid. 2.1) ne permettent pas de considérer que l'issue de la cause dans la procédure en matière d'assurance-invalidité est prédéterminée par le choix de l'expert en la personne du docteur H._, singulièrement que ce médecin ne semble plus exempt de préjugés en ce qui concerne la capacité de travail (exigible) de l'assuré sur le plan neurologique. Les premiers juges ont considéré que le fait que le docteur H._ avait conclu dans un rapport du 10 février 2004 à l'absence de toute causalité naturelle entre l'accident du 26 juin 2003 et les troubles présents lors de son expertise (pour l'assureur-accidents) et leur répercussion sur la capacité de travail sur le plan somatique ne constituait pas encore la preuve d'une attitude de prévention du neurologue envers le recourant, ni ne dénotait un sentiment d'animosité de nature à fonder objectivement un doute sur l'impartialité de l'expert. Sous cet angle, le jugement entrepris est conforme au droit fédéral (supra, consid. 2.2).
Le fait qu'un expert, médecin indépendant ou fonctionnant dans le cadre d'une institution d'expertises, soit régulièrement mandaté par les organes de l'assurance sociale ou par les tribunaux ne constitue pas à lui seul un motif suffisant pour conclure à une prévention ou à une partialité de l'expert (<ref-ruling> consid. 1.3.3 p. 226 s. et les arrêts cités). Les premiers juges ont retenu que l'affirmation du recourant, selon laquelle le docteur H._ était connu pour être systématiquement favorable aux assureurs, était d'ordre général et ne reposait toutefois sur aucun élément objectif. Les déclarations du recourant (supra, consid. 2.1) ne permettent pas de considérer que le jugement entrepris est sur ce point contraire au droit fédéral. Le recours est mal fondé.
3.
Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (<ref-law>). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 23 août 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Wagner