Faits :
A.
B.X._ (1977), et A.X._ (1971), tous deux de nationalité suisse, se sont mariés en 2004. Trois enfants sont issus de leur union : C._ (2005), D._ (2007), toutes deux nées à Nyon, et E._ (2011), né en Australie.
En mai 2013, la famille a déménagé d'Australie en Suisse et s'est installée dans une maison acquise par le père.
B.
Le 26 juillet 2013, le père a déposé une requête unilatérale en divorce.
B.a. Par requête de mesures provisionnelles du 13 septembre 2013, la mère a notamment conclu à l'attribution de la garde des trois enfants, sous réserve du droit de visite du père, et à ce que celui-ci soit astreint à contribuer à l'entretien des siens à hauteur de 17'000 fr. par mois.
Par procédé écrit du 25 novembre 2013, le père a conclu à l'admission de la conclusion portant sur le droit de garde des enfants et au rejet de la requête de mesures provisionnelles pour le surplus. Reconventionnellement, il a conclu à ce qu'un droit de visite plus large lui soit octroyé, à ce qu'il soit astreint, dès le 1 er janvier 2014, au versement d'une contribution mensuelle de 4'800 fr. pour l'entretien de sa famille, et à ce qu'il lui soit donné acte que, jusqu'au 31 décembre 2013, il verse l'intégralité de son salaire net pour l'entretien des siens, en s'acquittant directement en mains du bailleur du montant du loyer de l'appartement occupé par les siens.
Lors d'une audience de mesures provisionnelles du 28 novembre 2013, les parties sont convenues que la garde des trois enfants était attribuée à la mère, sous réserve d'un libre et large droit de visite du père. Cette convention a été ratifiée par le président séance tenante pour valoir ordonnance de mesures provisionnelles immédiatement exécutoire. Pour le surplus, l'instruction des mesures provisionnelles a été suspendue.
B.b. Par requête de mesures provisionnelles du 11 avril 2014, la mère a conclu à ce qu'elle soit autorisée à s'installer en Australie avec les trois enfants, dès le 1 er juillet 2014, sous réserve d'un libre et large droit de visite du père, et à ce que celui-ci contribue à l'entretien des siens à hauteur de 12'000 fr. par mois, allocations familiales incluses.
Le 17 avril 2014, le père s'est opposé à un départ de la mère et des enfants en Australie, a sollicité qu'un rapport d'évaluation soit effectué par le Service de protection de la jeunesse (ci-après : SPJ) et que les capacités parentales de la mère soient sérieusement investiguées.
La mère s'est opposée à la réquisition du père et celui-ci a précisé qu'il s'agissait d'ordonner une expertise pédopsychiatrique portant sur les compétences parentales, ainsi que sur l'état général des enfants, plutôt que de confier une évaluation au SPJ.
Le père a, par écritures du 15 mai 2014, confirmé ses conclusions du 25 novembre 2013 et conclu, principalement, au rejet de la requête de mesures provisionnelles du 11 avril 2014 de la mère, subsidiairement, à l'attribution de la garde des trois enfants, sous réserve d'un droit de visite de la mère.
Lors de la reprise de l'audience de mesures provisionnelles le 19 mai 2014, le père a réitéré sa réquisition tendant à la mise en oeuvre d'une expertise pédopsychiatrique et la mère a confirmé son opposition à cette expertise. En outre, la pédopsychiatre des enfants a été auditionnée.
Les deux filles des parties ont été entendues par le Président du Tribunal d'arrondissement le 21 mai 2014. Elles ont toutes deux déclaré qu'elles aimeraient retourner vivre en Australie.
B.c. Par ordonnance de mesures provisionnelles du 7 juillet 2014, le Président du Tribunal civil de l'arrondissement de La Côte a dit que la garde sur les trois enfants restait confiée à la mère, a autorisé celle-ci à s'installer en Australie avec les enfants, dès la notification de l'ordonnance, a réglé le droit de visite du père, et a condamné celui-ci à contribuer à l'entretien des siens par le versement mensuel d'un montant de 9'000 fr., allocations familiales dues en sus, dès le 1 er septembre 2013.
Par mémoire préventif du 16 juillet 2014, la mère a conclu à ce que toute modification du droit de garde sur les enfants ne puisse être ordonné sans audition préalable des parties et instruction complète.
Le 18 juillet 2014, le père a interjeté appel contre l'ordonnance du 7 juillet 2014, concluant au rejet de la requête de mesures provisionnelles déposée par la mère le 11 avril 2014 et à l'admission de ses conclusions du 25 novembre 2013 et 15 mai 2014, sollicitant en outre la mise en oeuvre d'une expertise pédopsychiatrique.
Le même jour, la mère a également formé appel, concluant à ce que les frais du droit de visite soit entièrement mis à la charge du père et à ce que la contribution due par celui-ci pour l'entretien des siens soit fixée à 12'000 fr.
Le 3 novembre 2014, la mère a conclu au rejet de l'appel formé par le père et celui-ci a, le 17 novembre 2014, conclu au rejet de l'appel interjeté par la mère.
Une audience s'est tenue le 24 novembre 2014.
B.d. Statuant par arrêt du 24 novembre 2014, envoyé aux parties le 4 décembre 2014, le Juge délégué de la cour d'appel civile du Tribunal cantonal vaudois a rejeté les appels formés par chacune des parties et confirmé l'ordonnance de mesures provisionnelles du 7 juillet 2014.
C.
Par acte du 5 janvier 2015, A.X._ exerce un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral. Il conclut à l'annulation de l'arrêt entrepris et, principalement, au renvoi de la cause au Président du Tribunal d'arrondissement pour qu'il statue à nouveau après avoir ordonné une expertise pédopsychiatrique, subsidiairement, au renvoi de la cause au Juge délégué de la cour d'appel civile pour qu'il statue à nouveau après avoir ordonné une expertise pédopsychiatrique.
Des réponses n'ont pas été requises.
Considérant en droit :
1.
1.1. L'arrêt attaqué, qui porte sur des mesures provisionnelles rendues dans le cadre d'une procédure de divorce est une décision finale (art. 90 LTF; ATF 134 III 426 consid. 2.2 p. 431 s.) rendue en matière civile (art. 72 al. 1 LTF) par un tribunal supérieur statuant sur recours en dernière instance cantonale (art. 75 al. 1 et 2 LTF). Le litige porte sur l'attribution du droit de garde des trois enfants et sur le montant de la contribution due pour l'entretien de la famille; la cause est ainsi non pécuniaire dans son ensemble (arrêts 5A_680/2014 du 21 novembre 2014 consid. 1; 5A_483/2011 du 31 octobre 2011 consid. 1.1). Le recours a par ailleurs été déposé par une partie ayant pris part à la procédure devant l'autorité précédente et ayant un intérêt à l'annulation ou à la modification de l'arrêt entrepris (art. 76 al. 1 LTF), dans le délai (art. 46 al. 2 et 100 al. 1 LTF) et dans la forme (art. 42 LTF) prévus par la loi. Le recours en matière civile est en principe recevable au regard des dispositions qui précèdent, en sorte que le recours constitutionnel subsidiaire formé simultanément par le recourant est d'emblée irrecevable (art. 113 LTF).
1.2. Le recours en matière civile des art. 72 ss LTF étant une voie de réforme (art. 107 al. 2 LTF), le recourant ne peut pas se borner à demander l'annulation de la décision attaquée et le renvoi de la cause à l'instance cantonale; il doit également, sous peine d'irrecevabilité, prendre des conclusions sur le fond du litige. Les conclusions réformatoires doivent en outre être déterminées et précises, c'est-à-dire indiquer exactement quelles modifications sont demandées ( FABIENNE HOHL, Procédure civile, tome II, 2 ème éd., 2010, n° 2871 p. 510). Des conclusions claires et précises sont un élément essentiel dans une procédure judiciaire, tant pour la partie adverse que pour le juge, et il ne saurait subsister de doute à leur sujet. Il y a donc lieu de se montrer strict en la matière, ce d'autant plus qu'il est en règle générale aisé de satisfaire à cette exigence formelle, en particulier lorsque le litige porte sur le paiement d'une somme d'argent (arrêt 5A_913/2014 du 5 février 2015 consid. 1.2). Dans cette hypothèse, les conclusions doivent être chiffrées (ATF 134 III 235 consid. 2 p. 236). Des conclusions non chiffrées suffisent exceptionnellement lorsque la somme à allouer est d'emblée reconnaissable au regard de la motivation du recours ou de la décision attaquée (ATF 134 III 235 consid. 2 et les références citées; arrêt 5A_766/2008 du 4 février 2009 consid. 2.2 s., publié in: FamPra.ch 2009 p. 422). Il n'est fait exception à l'exigence de conclusions réformatoires précises que lorsque le Tribunal fédéral, en cas d'admission du recours, ne serait de toute manière pas en situation de statuer lui-même sur le fond et ne pourrait que renvoyer la cause à l'autorité cantonale pour complément d'instruction (ATF 134 III 379 consid. 1.3 p. 383; 133 III 489 consid. 3.1 p. 489 s.; 130 III 136 consid. 1.2 p. 139).
En l'espèce, le recourant se limite à prendre des conclusions cassatoires et à conclure au renvoi de la cause à une autorité inférieure, précisant toutefois que la cause doit être réexaminée après qu'une expertise pédopsychiatrique ait été ordonnée. Aussi, en tant que le recours porte sur le refus d'administrer cette preuve requise pour statuer sur l'attribution du droit de garde (violation du droit d'être entendu, de l'interdiction de l'arbitraire et du droit au respect de la vie familiale), le Tribunal fédéral - faute d'expertise pédopsychiatrique si celle-ci devait effectivement être ordonnée - n'est pas en mesure de statuer à nouveau en cas d'admission du recours. Par conséquent, le recours est recevable dans cette mesure. Pour le surplus, en tant que le recours porte, dans l'hypothèse du maintien de l'attribution de la garde à la mère autorisée à s'installer en Australie, sur la détermination du revenu du débirentier pour la fixation de la contribution d'entretien (violation de l'interdiction de l'arbitraire), le recours en matière civile est d'emblée irrecevable. Le recourant était en effet à l'évidence en mesure de prendre une conclusion réformatoire, de surcroît chiffrée, sur ce point et la quotité de la contribution d'entretien à laquelle il conclut n'est manifestement pas reconnaissable à la lecture de son mémoire de recours ou de l'arrêt entrepris.
2.
Dès lors que la décision attaquée porte sur des mesures provisionnelles (ATF 133 III 393 consid. 5.1 in fine p. 587), seule peut être dénoncée la violation de droits constitutionnels (art. 98 LTF). Le Tribunal fédéral n'examine de tels griefs que s'ils ont été expressément soulevés et motivés de façon claire et détaillée par le recourant, en indiquant précisément quelles dispositions ont été violées et en démontrant, par une argumentation précise, en quoi consiste la violation ("principe d'allégation", art. 106 al. 2 LTF; ATF 137 II 305 consid. 3.3 p. 310 s.; 135 III 232 consid. 1.2 p. 234; 134 I 83 consid. 3.2 p. 88).
3.
Le recours a pour objet l'attribution du droit de garde des trois enfants des parties, eu égard à la situation familiale qui devrait, selon le recourant, être appréciée par une expertise pédopsychiatrique.
4.
Le recourant soulève le grief de violation de son droit d'être entendu (art. 29 al. 2 Cst. et 6 para. 1 CEDH), considérant que l'autorité précédente a écarté à tort sa réquisition de mise en oeuvre d'une expertise pédopsychiatrique. Rappelant des éléments du témoignage de la pédopsychiatre des enfants, le père affirme que le contenu de l'audition de celle-là est insuffisant pour s'assurer du bon développement de ceux-ci.
4.1. La garantie constitutionnelle de l'art. 29 al. 2 Cst. prévoit que toute personne a le droit de s'expliquer avant qu'une décision ne soit prise à son détriment, d'avoir accès au dossier, de fournir des preuves quant aux faits de nature à influer sur la décision à rendre, de participer à l'administration des preuves valablement offertes, à moins que le fait à prouver ne soit dépourvu de pertinence ou que le moyen de preuve n'apparaisse manifestement inapte à établir le fait allégué, et de se déterminer à leur propos (ATF 132 V 368 consid. 3.1 p. 370 s. et les références; 129 II 497 consid. 2.2 p. 504 s.; 127 III 576 consid. 2c p. 578; 127 I 54 consid. 2b p. 56).
4.2. Le grief de violation du droit à la preuve garantit par l'art. 29 al. 2 Cst. tombe à faux. Le recourant - qui affirme que le Juge délégué a rejeté à tort sa réquisition de mise en oeuvre d'une expertise - ne prétend ainsi pas que le juge cantonal aurait refusé sans motif l'administration d'une preuve requise, en sorte que l'on peine à comprendre en quoi ce refus d'ordonner une expertise serait constitutif d'une violation du droit d'être entendu du recourant. Le Juge délégué a confirmé l'appréciation du premier juge, selon laquelle il n'existait aucun motif justifiant la mise en oeuvre d'une expertise pédopsychiatrique, dès lors que la pédopsychiatre des enfants avait été entendue et avait fourni des indications détaillées sur l'état de santé des enfants, précisant que leur développement n'était pas en danger. De surcroît, le Juge délégué a exposé que, s'agissant d'une procédure de mesures provisionnelles, il ne lui appartenait pas de mettre en oeuvre une telle mesure d'instruction avant de statuer, en sorte qu'il a rejeté la réquisition de mise en oeuvre de cette expertise réitérée en appel. Ce faisant, l'autorité précédente a procédé à une appréciation des preuves. Si le recourant entendait la contester, il lui appartenait de soulever un grief détaillé à cet égard (art. 106 al. 2 LTF; ATF 131 I 153 consid. 3 p. 157; 130 II 425 consid. 2.1 p. 428), ce qu'il a d'ailleurs fait en parallèle en invoquant la prohibition de l'arbitraire (art. 9 Cst. et 6 para. 1 CEDH; cf. infra consid. 5). L'appréciation des preuves doit donc être examinée sous cet angle.
5.
Le recourant dénonce ensuite l'arbitraire (art. 9 Cst. et 6 para. 1 CEDH) dans la constatation des faits et l'appréciation des preuves, estimant que le juge cantonal n'a pas ordonné, à tort, une expertise pédopsychiatrique de la famille. Le père affirme que la pédopsychiatre des enfants n'a pas exclu une mise en danger du développement de ceux-ci, de sorte qu'une expertise devait être mise en oeuvre.
5.1. Dans le domaine de la constatation des faits, le Tribunal fédéral se montre réservé, vu le large pouvoir qu'il reconnaît en la matière au juge du fait (ATF 120 Ia 31 consid. 4b p. 40). Il n'intervient, du chef de l'art. 9 Cst., que si l'autorité cantonale n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans motifs objectifs de tenir compte de preuves pertinentes ou a opéré, sur la base des éléments recueillis, des déductions insoutenables (ATF 136 III 552 consid. 4.2 p. 560; 134 V 53 consid. 4.3 p. 62; 133 II 249 consid. 1.4.3 p. 254 s.).
5.2. Autant que l'on considère que le grief d'arbitraire est suffisamment motivé (art. 106 al. 2 LTF; cf. supra consid. 2) - le recourant se limitant en l'espèce à exposer sa propre appréciation du contenu du témoignage de la pédopsychiatre des enfants, puis à déclarer que le juge cantonal a versé dans l'arbitraire en écartant sa réquisition de preuve -, la critique doit être rejetée. Le Juge délégué a en effet exposé, d'une part, qu'il ne lui appartenait pas, s'agissant d'une procédure de mesures provisionnelles, de mettre en oeuvre une telle mesure d'instruction avant de statuer et, d'autre part, qu'il n'existait aucun motif justifiant la mise en oeuvre de l'expertise requise, au vu du témoignage de la pédopsychiatre des enfants qui avait fourni "des indications détaillées sur l'état de santé des enfants" et précisé que "leur développement n'était pas en danger". Il s'ensuit que l'autorité précédente a fondé son refus de mettre en oeuvre une expertise pédopsychiatrique sur des motifs objectifs, sans méconnaître les preuves déjà administrées et le cadre de la procédure. On ne saurait ici considérer qu'elle a versé dans l'arbitraire.
6.
Enfin, le recourant se plaint de la violation de son droit au respect de sa vie familiale, garanti par les art. 13 Cst. et 8 CEDH, déclarant que le Juge délégué a considéré à tort que l'intérêt primordial des enfants ne s'opposait pas à un départ en Australie. Selon le recourant, hors expertise pédopsychiatrique, l'audition des enfants n'était nullement pertinente pour apprécier la question du départ en Australie, et le témoignage de la pédopsychiatre ne suffisait pas à étayer le refus d'interdire le déménagement dans ce pays. Le père affirme en outre que, dans les conditions en vigueur, l'exercice de son droit aux relations personnelles est rendu particulièrement difficile, voire impossible. Il reproche en outre à la mère d'avoir souhaité partir s'installer en Australie pour de mauvaises raisons.
6.1. L'art. 8 para. 1 CEDH garantit notamment le droit au respect de la vie familiale. Il en résulte que l'État ne peut s'immiscer dans l'exercice de ce droit qu'aux conditions strictes du para. 2. La protection accordée dans ce domaine par l'art. 13 al. 1 Cst. correspond matériellement à celle de l'art. 8 CEDH (ATF 129 II 215 consid. 4.2 p. 218 s.; 126 II 377 consid. 7 p. 394). L'attribution des enfants à l'un des parents, et la limitation correspondante des relations personnelles de l'autre parent avec eux à un droit de visite, constitue une atteinte grave au droit au respect de la vie familiale de cet autre parent. En droit suisse, cette ingérence des autorités publiques dans la vie familiale est prévue, s'agissant des mesures provisionnelles dans le cadre de la procédure de divorce, par l'art. 176 al. 3 CC (par renvoi de l'art. 276 al. 1 CPC); dans ce domaine, la réglementation du Code civil suisse est conforme à l'art. 8 CEDH (ATF 136 I 178 consid. 5.2 p. 180). L'ingérence étatique doit en outre être licite, à savoir que cette réglementation a été correctement appliquée au regard du critère essentiel du bien de l'enfant (ATF 120 Ia 369 consid. 4b p. 375; 107 II 301 consid. 6 p. 304 et les références citées).
En vertu de l'art. 176 al. 3 CC, relatif à l'organisation de la vie séparée, lorsque les époux ont des enfants mineurs, le juge ordonne les mesures nécessaires d'après les dispositions sur les effets de la filiation (art. 273 ss CC); il peut, notamment, attribuer la garde des enfants à un seul des parents. La règle fondamentale en ce domaine est l'intérêt de l'enfant; il faut choisir la solution qui, au regard des données de l'espèce, est la mieux à même d'assurer à l'enfant la stabilité des relations nécessaires à un développement harmonieux des points de vue affectif, psychique, moral et intellectuel (arrêt 5A_848/2012 du 11 février 2013 consid. 3.1.2).
6.2. En l'espèce, le recourant présente sa propre appréciation de l'intérêt supérieur de ses enfants, sans tenir compte ni du témoignage de la pédopsychiatre, ni de l'audition de ses deux filles, considérant que seule l'expertise pédopsychiatrique qui lui a été refusée serait de nature à démontrer ce qu'il soutient, à savoir que le bien des enfants s'oppose à leur déménagement hors de Suisse. En outre, bien qu'il affirme ne pas pouvoir exercer son droit de visite dans ces conditions, le recourant ne conteste pas la motivation de l'arrêt attaqué qui retient que les voyages Suisse-Australie ne sont pas un obstacle pour l'exercice de son droit de visite, le père ayant lui-même admis que, lorsque la famille vivait en Australie, il rentrait "en Suisse pour le travail tous les trois mois pour quatre semaines ". Par son argumentation, le recourant s'en prend donc à nouveau à l'appréciation des preuves ( cf. supra consid. 5) et ne démontre pas ce faisant que le Juge délégué aurait méconnu les principes précités (consid. 6.1 ci-dessus). Il se contente d'opposer sa propre appréciation des critères essentiels pour attribuer le droit de garde des enfants au raisonnement de l'autorité précédente, qui a retenu que l'intérêt primordial de ceux-ci ne s'opposait pas à un départ en Australie. Sa critique de la violation de son droit au respect de sa vie familiale (art. 13 Cst. et 8 CEDH) est en définitive irrecevable, faute de motivation suffisante (art. 106 al. 2 LTF, cf. supra consid. 2).
7.
En conclusion, le recours constitutionnel subsidiaire est irrecevable et le recours en matière civile doit être rejeté, dans la mesure de sa recevabilité. Les frais judiciaires sont mis à la charge du recourant qui succombe (art. 66 al. 1 LTF). Il n'y a pas lieu d'octroyer une indemnité de dépens à l'intimée qui n'a pas été invitée à se déterminer.
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel subsidiaire est irrecevable.
2.
Le recours en matière civile est rejeté dans la mesure où il est recevable.
3.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
4.
Il n'est pas alloué de dépens.
5.
Le présent arrêt est communiqué aux parties et au Juge délégué de la Cour d'appel civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 10 février 2015
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Juge présidant : Escher
La Greffière : Gauron-Carlin