Faits:
A.
Par décision du 22 mai 2013, notifiée le lendemain aux parties, le juge instructeur de la Cour civile du Tribunal cantonal du canton de Vaud a, dans la cause divisant B._ d'avec son frère A._ dans le cadre de la succession de leur mère, refusé la disjonction requise par A._, de la question de la validité du testament authentique du 19 mai 2009 - et par conséquent, de l'exhérédation de B._ prévue dans ces dispositions testamentaires - des questions économiques traitées par l'expertise judiciaire, et a donné pour instruction au greffe de communiquer aux parties, passé un délai de dix jours dès sa réception, le rapport d'expertise.
Le 3 juin 2013, A._ a recouru contre la décision du 22 mai 2013 du juge instructeur, concluant au renvoi de la cause à la Cour civile avec l'injonction de disjoindre la question de la validité du testament des questions économiques.
Statuant par arrêt du 7 juin 2013, notifié aux parties le 25 juin 2013, la Chambre des recours civile du Tribunal cantonal du canton de Vaud a déclaré le recours irrecevable.
B.
Par acte du 26 août 2013, A._ exerce un recours en matière civile au Tribunal fédéral. En substance, il conclut à l'annulation de l'arrêt entrepris et au renvoi de la cause au juge instructeur de la Cour civile avec l'injonction principalement de disjoindre la question de la validité du testament authentique du 19 mai 2009, de celles relatives aux aspects économiques de la succession, subsidiairement, de remettre l'expertise judiciaire aux parties, à l'exclusion des chapitres et des pièces en relation avec les comptes bancaires de la défunte. Le recourant sollicite au préalable que l'effet suspensif soit attribué à son recours.
Invités à se déterminer sur la requête d'effet suspensif, l'intimé s'est opposé à l'octroi de celui-ci et l'autorité précédente s'en est rapportée à justice.
C.
Par ordonnance du 19 septembre 2013, le Président de la IIe Cour de droit civil du Tribunal fédéral a admis la requête d'effet suspensif.
Des réponses n'ont pas été requises.
Considérant en droit:
1.
La recevabilité du recours en matière civile suppose que celui-ci soit dirigé contre une décision qui met fin à la procédure (décision finale, art. 90 LTF; ATF 134 III 426 consid. 1; 133 III 629 consid. 2.2), contre une décision qui statue sur un objet dont le sort est indépendant de celui qui reste en cause ou qui met fin à la procédure à l'égard d'une partie des consorts (décision partielle; art. 91 let. a et b LTF), ou contre une décision préjudicielle ou incidente qui est notifiée séparément et qui porte sur la compétence ou sur une demande de récusation (art. 92 al. 1 LTF). Les autres décisions préjudicielles et incidentes notifiées séparément peuvent également faire l'objet d'un recours si elles sont susceptibles de causer un préjudice irréparable ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (art. 93 al. 1 let. a et b LTF). Si le recours n'est pas recevable, faute de remplir ces conditions, ou qu'il n'a pas été utilisé, la décision préjudicielle ou incidente peut être attaquée avec la décision finale dans la mesure où elle influe sur le contenu de celle-ci (art. 93 al. 3 LTF).
1.1. L'arrêt attaqué, rendu dans le cadre d'un litige successoral, déclare irrecevable le recours du requérant contre un refus de disjonction. L'autorité précédente a considéré que le refus du juge instructeur constituait une décision destinée à simplifier la procédure au sens de l'art. 125 CPC, partant, qu'elle devait être qualifiée d'«autre décision» au sens de l'art. 319 let. b CPC, laquelle ne peut être attaquée que si elle cause au recourant un préjudice - de nature juridique - difficilement réparable. A cet égard, la Chambre des recours a retenu que le fait d'être exposé « à la quérulence processive de son frère » si celui-ci disposait de l'expertise, était un inconvénient de fait et qu'il n'était pas établi que la prétendue quérulence de l'intimé se trouverait atténuée si l'expertise contestée ne lui était pas transmise. Elle a ainsi nié l'existence d'un dommage difficilement réparable causé au requérant (art. 319 let. b ch. 2 CPC).
Il s'ensuit que la décision rendue par la Chambre des recours civile - qui ne porte ni sur la compétence, ni sur une demande de récusation (art. 92 LTF) - ne met pas fin à la procédure et doit être considérée comme étant une «autre décision incidente» au sens de l'art. 93 LTF (arrêt 1B_168/2013 du 30 avril 2013 consid. 2 concernant une décision de jonction contestée). Il convient dès lors de statuer sur la recevabilité du recours au regard des conditions fixées par la disposition précitée.
1.2. Le recourant estime que la décision querellée l'expose à un « préjudice difficilement réparable » «qui ne [pourrait] pas être réparé ultérieurement notamment par la décision finale», même si elle lui était favorable, dès lors que si le rapport d'expertise était transmis à l'intimé et que, par la suite, l'exhérédation de celui-ci devait être confirmée, il aurait eu accès à des informations sans qu'il soit possible de « revenir en arrière ».
Dans son argumentation, le recourant fait valoir que l'intimé, qui est déjà en possession de l'état de la succession de la défunte, a été exhérédé par testament authentique du 19 mai 2009 et que celui-ci a ouvert action en nullité du testament, de sorte que l'intimé « n'est qu'un héritier théorique ou virtuel » qui ne peut exercer aucun des droits découlant de la qualité d'héritier effectif. Le recourant reproche donc à l'autorité précédente d'avoir autorisé la remise du rapport d'expertise aux parties, singulièrement les relevés bancaires de leur défunte mère sur les dix dernières années, dès lors que cela lui causerait un dommage irréparable si l'exhérédation de l'intimé devait être confirmée par la suite, par la violation des art. 477 et 478 CC, 13 Cst., ainsi que de l'art. 47 de la loi fédérale sur les banques et les caisses d'épargne (LB). En définitive, le recourant soutient que la disjonction est nécessaire pour éviter la violation des dispositions précitées, laquelle lui causerait un préjudice irréparable.
En définitive le recourant considère que la divulgation de données économiques, au sujet du patrimoine de la défunte du vivant de celle-ci, à l'intimé, lequel est exhérédé, est constitutive d'un dommage irréparable (art. 93 al. 1 let a LTF). Il ne présente en revanche aucune argumentation sur la lettre b de la norme précitée, de sorte qu'il n'y a pas lieu d'examiner cette hypothèse.
1.2.1. Par préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF, on entend le dommage juridique qu'une décision finale, même favorable au recourant, ne ferait pas disparaître complètement (ATF 134 III 426 consid. 1.3.1; 133 III 629 consid. 2.3.1). Il incombe au recourant, si cela n'est pas évident, d'expliquer en quoi il est exposé à un dommage irréparable et de démontrer ainsi que les conditions de recevabilité de son recours sont réunies à cet égard (ATF 138 III 46 consid. 1.2; 137 III 324 consid. 1.1, 522 consid. 1.3; 134 III 426 consid. 1.2).
1.2.2. Le droit au respect de la sphère privée (art. 13 Cst.) garantit notamment le droit de toute personne au respect de sa vie privée et familiale; il protège l'identité, les relations sociales et les comportements intimes de chaque personne physique, l'honneur et la réputation (ATF 135 I 198 consid. 3.1; 126 II 377 consid. 7). L'art. 13 al. 2 Cst. détaille l'une des composantes de ce droit (ATF 128 II 259 consid. 3.2); il prémunit l'individu contre l'emploi abusif de données qui le concernent et qui ne sont pas accessibles au public (ATF 135 I 198 consid. 3.1). La protection du secret bancaire de l'art. 47 LB prohibe la divulgation des données bancaires à des tiers et fixe les sanctions applicables aux contrevenants.
1.2.3. En l'occurrence, il apparaît que le recourant invoque, de son point de vue, des garanties, à savoir le respect de la sphère privée (art. 13 Cst.) et le secret bancaire (art. 47 LB), dont il n'en est pas le titulaire, s'agissant d'informations de nature économique relatives au patrimoine de la défunte du vivant de celle-ci, concernant en particulier les dix années antérieures au décès, et non son propre patrimoine, ni même le patrimoine successoral sur lequel il a un droit en sa qualité d'héritier. En conséquence, le préjudice irréparable dont il se prévaut ne le touche pas personnellement.
Au demeurant, l'intimé conteste la validité du testament authentique du 19 mai 2009 l'exhérédant, par la voie de l'action en nullité ( STEINAUER, Le droit des successions, Berne, 2006, N° 387a p. 211), en sorte que sa qualité d'héritier demeure litigieuse. Jusqu'à droit connu sur la question de l'exhérédation, l'intimé n'est certes pas héritier et ne dispose pas des prérogatives qui sont attachées à ce statut (art. 478 CC) - ainsi que le soutient à juste titre le recourant -, mais celui-ci a néanmoins le droit de requérir le prononcé de mesures visant à protéger le patrimoine successoral, en particulier des mesures de sûreté ou l'établissement d'un inventaire (art. 553 CC), et d'avoir accès aux informations lui permettant de contester l'acte à cause de mort l'exhérédant ( ESCHER, Zürcher Kommentar, 3 ème éd., Zürich, 1959, N° 2 ad art. 478 CC p. 227 s.; BESSENICH, Basler Kommentar, ZGB II, 4 ème éd., Bâle, 2011, N° 1 ad art. 478 CC, p. 116). En l'espèce, l'intimé a donc un droit à obtenir des informations relatives au comportement de la défunte avant son décès et au patrimoine héréditaire, singulièrement aux transactions effectuées par sa mère au cours des dix années précédant son décès, afin qu'il puisse utilement procéder dans le cadre de l'action en nullité qu'il a introduite. L'on ne discerne donc aucun préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF causé au recourant par la remise de l'expertise à l'intimé.
2.
En définitive, les conditions posées par l'art. 93 al. 1 let. a LTF ne sont pas réunies, de sorte que le recours en matière civile doit d'emblée être déclaré irrecevable. Les frais sont mis à la charge du recourant, qui succombe (art. 66 al. 1 et 5 LTF). Il n'est pas alloué de dépens à l'intimé, qui n'a pas été invité à répondre.
Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours en matière civile est irrecevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Chambre des recours civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 25 novembre 2013
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président: von Werdt
La Greffière: Gauron-Carlin