Faits :
A.
A.a. A.A._ (1971) et B.A._ (1976) se sont mariés en 2009. Deux enfants sont issus de leur union, à savoir C._ (2008) et D._ (2010).
A.b. Le 19 mars 2015, B.A._ a introduit une procédure de mesures protectrices de l'union conjugale.
A.c. Par décision de mesures superprovisionnelles du 20 mars 2015, le Président du Tribunal civil de la Sarine (ci-après: Président) a notamment ordonné à A.A._ de quitter immédiatement le domicile conjugal qu'il a attribué à l'épouse, confié la garde des enfants à leur mère et provisoirement suspendu le droit de visite du père avant de le fixer à un week-end sur deux, trois heures chaque mercredi soir et deux semaines en été lors de l'audience du 22 avril 2015. A cette occasion, il a également prévu, en accord avec les parties, que l'époux assumerait les charges courantes de la maison, les primes d'assurance-maladie des enfants ainsi que les frais du véhicule automobile utilisé par B.A._.
Lors de l'audience du 3 novembre 2015, les parties ont notamment convenu de mettre en oeuvre une expertise pédopsychiatrique dans le but d'évaluer la capacité de chaque parent à exercer la garde sur les enfants. L'experte a déposé son rapport le 29 janvier 2016. Elle préconisait de confier la garde à la mère, le père exposant ses enfants à une aliénation parentale, de prévoir un droit de visite usuel pour ce dernier, de nommer un curateur de surveillance des relations personnelles et d'obliger les parents à faire suivre leurs enfants par des pédopsychiatres.
A.d. Par décision de mesures protectrices de l'union conjugale du 16 novembre 2016, le Président a notamment attribué le domicile conjugal à l'épouse, confié à cette dernière la garde des deux enfants, fixé le droit de visite du père à un week-end sur deux, trois heures chaque mardi soir, deux semaines en été, ainsi qu'une semaine en automne, à Noël et à Pâques et institué une curatelle de surveillance des relations personnelles. A.A._ a par ailleurs été astreint à verser pour chacun de ses enfants une pension mensuelle de 1'000 fr. jusqu'à l'âge de 7 ans, de 1'200 fr. de 7 à 12 ans et de 1'550 fr. au-delà, allocations dues en sus, et, pour son épouse, une contribution d'entretien de 5'700 fr. par mois jusqu'au 31 mai 2017, de 5'600 fr. du 1er juin 2017 au 31 janvier 2021, de 5'400 fr. du 1 er février 2021 au 31 mai 2023 et de 5'200 fr. au-delà.
B.
B.a. Le 30 novembre 2016, A.A._ a interjeté appel contre la décision du 16 novembre 2016. Il a conclu principalement à ce que la garde des enfants lui soit confiée, à ce que le droit de visite de la mère soit réservé dans la mesure usuelle, à ce qu'une curatelle de surveillance du droit de visite ne soit pas instituée, à ce que B.A._ soit dispensée de contribuer à l'entretien de ses enfants, à ce que lui-même verse à son épouse une pension de 2'000 fr. par mois du 15 mars au 30 avril 2015, puis de 1'500 fr. Subsidiairement, il a demandé l'annulation de la décision querellée en lien avec les points attaqués et le renvoi de la cause au premier juge pour nouvelle décision. En outre, il a produit des pièces nouvelles et requis l'administration de plusieurs moyens de preuve nouveaux dont notamment la mise en oeuvre d'une nouvelle expertise pédopsychiatrique.
Invité à se déterminer suite à l'entrée en vigueur du nouveau droit de l'entretien des enfants mineurs, A.A._ a confirmé ses conclusions principales et, pour le cas où la garde continuerait à être confiée à la mère des enfants, a conclu à ce que les pensions dues en leur faveur demeurent telles que fixées dans la décision querellée et à ce qu'aucune contribution ne soit due en faveur de l'épouse.
B.b. Le 1 er décembre 2016, B.A._ a également fait appel de la décision du 16 novembre 2016, concluant notamment à ce que la pension en sa faveur soit augmentée à 6'800 fr. jusqu'au 31 mai 2017, à 6'700 fr. du 1 er juin 2017 au 31 janvier 2021, à 6'500 fr. du 1 er février 2021 au 31 mai 2023 et à 6'300 fr. au-delà.
B.c. Par arrêt du 14 juin 2017, la I e Cour d'appel civil du Tribunal cantonal fribourgeois (ci-après: Cour d'appel) a rejeté, dans la mesure de sa recevabilité, l'appel formé par A.A._ et partiellement admis celui interjeté par B.A._. Partant, elle a réformé le dispositif de la décision du 16 novembre 2016 en ce sens que A.A._ a été condamné à contribuer à l'entretien de ses enfants par le versement, en mains de leur mère, allocations familiales en sus, d'une contribution mensuelle de 1'200 fr. en faveur de C._ et de 1'000 fr. en faveur de D._ du 15 mars 2015 au 31 décembre 2016, puis, en incluant une contribution de prise en charge, de 2'000 fr. par enfant jusqu'à ses douze ans et de 2'350 fr. au-delà de cet âge du 1 er janvier 2017 au 31 mai 2024, de 1'450 fr. par enfant du 1 er juin 2024 au 31 mai 2026 et de 1'050 fr. par enfant dès le 1 er juin 2026 et jusqu'à la majorité ou au-delà jusqu'à l'acquisition d'une formation appropriée réalisée conformément aux conditions de l'<ref-law>. La Cour d'appel a par ailleurs condamné A.A._ à contribuer à l'entretien de son épouse par le versement d'une pension mensuelle de 6'500 fr. du 15 mars 2015 au 31 décembre 2016, de 4'000 fr. du 1 er janvier 2017 au 31 mai 2024, de 5'750 fr. du 1 er juin 2024 au 31 mai 2026 et de 6'200 fr. dès le 1 er juin 2026.
C.
Par acte du 19 juillet 2017, A.A._ interjette un recours en matière civile au Tribunal fédéral contre l'arrêt du 14 juin 2017. Il conclut à son annulation et à sa réforme en ce sens que la garde des enfants lui est confiée, qu'un large droit de visite est réservé à la mère d'entente entre les parties ou, à défaut d'entente, un week-end sur deux du vendredi soir à 18h00 au dimanche soir à 18h00, un soir par semaine de 16h30 à 19h30 et durant une semaine à Noël et à Pâques, les fêtes étant passées alternativement chez l'un et l'autre des parents, durant une semaine pendant les vacances d'automne et de printemps ainsi que durant deux semaines pendant les vacances d'été. Il requiert également qu'aucune curatelle de surveillance des relations personnelles au sens de l'<ref-law> ne soit instituée en faveur des enfants, que B.A._ soit exemptée de contribuer à l'entretien des enfants et qu'il soit dit qu'il contribuera à l'entretien de celle-ci par le versement d'une pension mensuelle de 2'000 fr. par mois du 15 mars au 30 avril 2015, puis de 1'500 fr. dès le 1 er mai 2015, sous déduction des montants déjà versés par ses soins durant ces périodes. Il conclut à ce que les frais de première instance soient répartis par moitié entre les parties et leurs dépens assumés par elles-mêmes et ceux de deuxième instance arrêtés à 5'500 fr. et mis intégralement à la charge de B.A._, de sorte que cette dernière lui doit remboursement de la somme de 4'000 fr. ainsi que le paiement de dépens à hauteur de 6'804 fr. Il requiert enfin que son recours soit muni de l'effet suspensif.
Des déterminations sur le fond n'ont pas été requises.
D.
Par ordonnance présidentielle du 15 août 2017, la requête d'effet suspensif a été admise uniquement pour les arriérés de contributions d'entretien dues jusqu'à la fin du mois de juin 2017 et rejetée pour le surplus.

Considérant en droit :
1.
Le présent recours a été déposé en temps utile (<ref-law>) ainsi que dans la forme légale (<ref-law>), contre une décision finale (<ref-law>; <ref-ruling> consid. 2.2; <ref-ruling> consid. 4) rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF), dans une affaire matrimoniale, autrement dit, en matière civile (<ref-law>; ATF <ref-ruling> consid. 2). Comme le litige porte sur l'attribution du droit de garde, l'institution d'une curatelle de surveillance des relations personnelles et la contribution due à l'entretien de l'épouse, l'affaire est de nature non pécuniaire dans son ensemble (arrêts 5A_265/2015 du 22 septembre 2015 consid. 1.1; 5A_267/2015 du 3 juillet 2015 consid. 1.2; 5A_46/2015 du 26 mai 2015 consid. 1; 5A_724/2014 du 27 mars 2015 consid. 1.1). Le recourant a en outre pris part à la procédure devant l'autorité précédente (<ref-law>) et a un intérêt à l'annulation ou à la modification de la décision attaquée (<ref-law>). Le recours en matière civile est en principe recevable au regard des dispositions qui précèdent.
2.
2.1. Comme la décision attaquée porte sur le prononcé de mesures protectrices de l'union conjugale (<ref-law>), lesquelles sont considérées comme des mesures provisionnelles au sens de l'<ref-law> (<ref-ruling> consid. 1.1; <ref-ruling> consid. 5), le Tribunal fédéral dispose d'un pouvoir d'examen limité, seule la violation des droits constitutionnels pouvant être invoquée. Il n'examine en outre les griefs de violation de tels droits que s'ils ont été invoqués et motivés conformément au principe d'allégation (<ref-law>), à savoir expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 2.2; <ref-ruling> consid. 3.2; <ref-ruling> consid. 1.4.2). Le recourant qui se plaint de la violation d'un droit fondamental ne peut donc se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours jouit d'une libre cognition; il ne peut, en particulier, se contenter d'opposer sa thèse à celle de l'autorité cantonale, mais doit démontrer ses allégations par une argumentation précise (<ref-ruling> consid. 3; <ref-ruling> consid. 3.2). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 2.3; <ref-ruling> consid. 10.1). Par ailleurs, lorsqu'une décision attaquée se fonde sur plusieurs motivations indépendantes, alternatives ou subsidiaires, toutes suffisantes, le recourant doit, sous peine d'irrecevabilité, démontrer que chacune d'entre elles est contraire au droit en se conformant aux exigences de motivation requises (<ref-ruling> consid. 4.1.4; <ref-ruling> consid. 2; <ref-ruling> consid. 6.3).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Dans le cadre d'un recours soumis à l'<ref-law>, le recourant qui entend invoquer que les faits ont été établis de manière manifestement inexacte ne peut obtenir la rectification ou le complètement des constatations de fait de l'arrêt cantonal que s'il démontre la violation de droits constitutionnels, conformément au principe d'allégation susmentionné (cf. supra consid. 2.1). Le recourant ne peut donc pas se borner à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; il doit indiquer de façon précise en quoi ces constatations sont contraires au droit ou entachées d'une erreur indiscutable, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (ATF <ref-ruling> consid. 1.2.2). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (<ref-law>; <ref-ruling> consid. 2.3; <ref-ruling> consid. 1.4.3).
En matière d'appréciation des preuves et de constatation des faits, le Tribunal fédéral n'intervient, du chef de l'art. 9 Cst., que si le juge précédent n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans motifs objectifs de tenir compte de preuves pertinentes ou a opéré, sur la base des éléments recueillis, des déductions insoutenables (<ref-ruling> consid. 2.3; <ref-ruling> consid. 4.1.2; <ref-ruling> consid. 4.2); encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause. La partie recourante qui se plaint d'arbitraire dans l'établissement des faits et l'appréciation des preuves doit motiver son grief d'une manière correspondant aux exigences déduites de l'<ref-law> (cf. supra consid. 2.1; ATF <ref-ruling> consid. 4.1.2).
3.
Le recourant se plaint de la violation de son droit d'être entendu au motif que la Cour d'appel a refusé d'ordonner une contre-expertise pédopsychiatrique ou à tout le moins d'entendre une nouvelle fois les enfants. Il reproche aussi à la cour cantonale d'avoir apprécié arbitrairement l'expertise à laquelle elle s'est ralliée. Dans la mesure où il se plaint de cette appréciation arbitraire aux seules fins de démontrer la nécessité d'ordonner une nouvelle expertise, il convient de traiter ces deux griefs ensemble.
3.1.
3.1.1. Pour ce qui est de l'expertise pédopsychiatrique, le recourant estime que la Cour d'appel l'a appréciée arbitrairement. Il lui reproche plus particulièrement de ne pas avoir tenu compte du fait que l'intimée y était présentée comme une victime puisqu'elle avait souffert d'une enfance difficile et que ses relations avec son père étaient conflictuelles alors que sa propre histoire ne serait pas présentée avec le même " pathos ", ce qui enlèverait toute humanité à ses dires. Dès qu'un élément n'irait pas en faveur d'une attribution de la garde des enfants à l'intimée, la faute lui en incomberait. Ainsi, les déclarations de D._ selon lesquelles il souhaiterait vivre avec son père étaient présentées comme le résultat d'une aliénation parentale. Les juges cantonaux n'avaient par ailleurs pas tenu compte des nombreuses incohérences que l'expertise contenait, à savoir que le principal argument en faveur d'une attribution de la garde à l'intimée était son ouverture par rapport à une collaboration avec lui s'agissant des enfants car cette dernière reconnaissait ses qualités de père alors que le rapport retenait également que l'intimée l'avait traité de " manipulateur pervers narcissique " et de " pas très équilibré " et qu'il n'y était même pas fait mention de la dénonciation de l'intimée selon laquelle il serait pédophile. L'experte avait en revanche retenu à son égard qu'il n'avait " à aucun moment des entretiens [...] su dire quelque chose de positif sur la mère de ses enfants ". Bien que l'intimée ait reconnu qu'elle buvait de l'alcool devant la télévision pour se calmer et que l'experte avait fait état de ses problèmes d'alcool, de nourriture et d'achats compulsifs, elle les avait occultés pour finalement retenir que " rien dans son allure et son discours n'évoquait un problème de dépendance ". Selon le recourant, l'experte avait par ailleurs considéré de manière contradictoire que l' " argument le plus pertinent " pour l'attribution de la garde à l'intimée était à la fois l'aliénation parentale qu'il exerce sur les enfants et l'ouverture de l'intimée par rapport à l'idée de collaborer avec le père de ses enfants. Il déduit de ce qui précède que l'experte n'a tenu compte que des paroles de l'intimée et a écarté tous les éléments de fait en sa faveur, de sorte que son rapport serait partial, subjectif, contradictoire et entaché de défauts. La cour cantonale aurait donc dû s'en écarter et ordonner une nouvelle expertise. Il lui reproche enfin d'avoir constaté que le rapport d'expertise était rédigé de manière dure et peu flatteuse envers lui mais de ne pas en avoir tiré les conséquences nécessaires.
3.1.2. Lorsque la juridiction cantonale se rallie au résultat d'une expertise, le Tribunal fédéral n'admet le grief d'appréciation arbitraire des preuves que si l'expert n'a pas répondu aux questions, si ses conclusions sont contradictoires ou si, de quelque autre manière, l'expertise est entachée de défauts à ce point évidents et reconnaissables, que, même en l'absence de connaissances ad hoc, il n'était tout simplement pas possible de les ignorer. Il ne lui appartient pas de vérifier que toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite à examiner si l'autorité cantonale pouvait, sans arbitraire, faire siennes les conclusions de l'expertise (arrêts 5A_478/2016 du 10 mars 2017 consid. 5.2.2; 5A_327/2009 du 1 er septembre 2009 consid. 2.1.2; 5A_839/2008 du 2 mars 2009 consid. 3.2; cf. aussi <ref-ruling> consid. 4.2.3; <ref-ruling> consid. 5.4.2; <ref-ruling> consid. 2 in fine).
3.1.3. Au regard de l'argumentation du recourant, il apparaît que celui-ci oppose pour l'essentiel sa propre lecture du rapport d'expertise à celle de la Cour d'appel en mettant en exergue de prétendues contradictions qui n'en sont en réalité pas. Il n'y a ainsi rien de contradictoire à considérer que l'attribution de la garde à l'intimée se justifie à la fois du fait du syndrome d'aliénation parentale décelé par l'experte et imputé au recourant et du fait de la plus grande disposition de l'intimée à collaborer avec le père de ses enfants. Par ailleurs, si l'experte a bien fait état des propos tenus par l'intimée envers le recourant, à savoir qu'il était " manipulateur pervers narcissique " et " pas très équilibré ", elle a aussi précisé que, si le discours de l'intimée par rapport au recourant était très critique quant à son rôle de mari, elle ne remettait pas en question ses qualités de père, hormis l'allégation de manipulation de D._. Partant, on ne perçoit là non plus aucune incohérence dans le rapport d'expertise. Dans la mesure où le recourant reproche à l'experte de ne pas avoir mentionné les accusations de pédophilie proférées par l'intimée à son encontre, on relèvera qu'il ressort bien du rapport d'expertise que cette dernière a affirmé qu'elle n'avait jamais fait état de tels agissements de la part du recourant mais avait raconté à la police que ce dernier fréquentait un homme canadien qui avait été accusé de pédophilie par sa première épouse et qui ne voyait plus ses enfants depuis dix ans. Dès lors que cet épisode n'a vraisemblablement eu aucune suite pénale et n'a manifestement pas eu d'incidence sur la prise de décision quant à l'attribution de la garde des enfants, on ne saisit pas la pertinence de la critique du recourant. S'agissant de la consommation d'alcool de l'intimée et de prétendus achats compulsifs, celle-ci a certes admis que, durant l'union conjugale, elle avait pour habitude de boire un verre de vin ou de Baileys le soir devant la télévision pour se calmer et qu'elle dépensait 100 à 200 fr. par mois pour des habits. L'experte a toutefois relevé qu'elle ne s'était jamais présentée en état d'ébriété à la consultation et que rien dans son allure et son discours n'évoquait un problème de dépendance. Ses achats ne s'étaient pas soldés par des dettes ou des factures impayées et elle semblait actuellement gérer son budget restreint sans difficultés majeures. On ne discerne pas en quoi ces constatations contrediraient les déclarations de l'intimée reprises dans le rapport d'expertise. Enfin, pour ce qui est de la volonté exprimée par D._ de vivre chez son père, l'experte a clairement exposé les raisons pour lesquelles il fallait s'en écarter, de sorte que l'analyse du recourant, qui estime que l'experte lui a à tort fait supporter la faute de tous les éléments qui n'allaient pas en faveur d'une attribution de la garde à l'intimée, est erronée. L'experte a en effet constaté que D._ présentait tous les symptômes d'une forte aliénation parentale. Lors de leur premier entretien, il avait débité un long discours tendant à convaincre qu'il devait vivre chez son père car sa mère était incompétente. Il ne pouvait pas s'exprimer sur ce qu'il ressentait mais cherchait à analyser la situation pour voir ce que l'on attendait de lui. Il essayait de comprendre qui allait lire le rapport afin de donner les bonnes réponses et il suffisait d'exprimer de l'étonnement pour qu'il change de discours, ce qui démontrait à quel point ses déclarations étaient manipulables. Il rejetait sa mère et la diffamait en l'accusant de mensonge, de kidnapping, de négligence et de maltraitance. A ces fins, il citait des scénarios empruntés à son père. Il n'avait pas la moindre ambivalence par rapport à sa mère dont il n'avait pas dit une seule fois qu'il l'aimait mais allait jusqu'à soutenir qu'il n'avait pas besoin de maman. Dans son rejet de sa mère, il avait été jusqu'à l'espionner en tournant une vidéo à son insu et la surveillait. Il la traitait de noms obscènes dont il ne pouvait saisir le sens. L'experte a relevé qu'un enfant de cinq ans ne pouvait s'engager dans une telle attitude de sa propre initiative. Il était instigué et encouragé par son père qui lui fournissait les arguments et l'instruisait.
Sur le vu de ce qui précède, il apparaît que le recourant n'est pas parvenu à démontrer que l'experte n'aurait pas répondu aux questions, que ses conclusions étaient contradictoires ou l'expertise entachée de défauts au sens de la jurisprudence, ce qui aurait justifié de s'écarter de ses conclusions et/ou d'ordonner une nouvelle expertise. Le constat de la cour cantonale selon lequel il fallait concéder que le rapport d'expertise était rédigé de manière dure et peu flatteuse envers le recourant ne permet pas à lui seul de cons idérer les conclusions dudit rapport comme arbitraires, ce d'autant que la cour cantonale a expressément relevé que celui-ci n'avait pas été l'élément déterminant pour attribuer la garde des enfants à l'intimée puisqu'elle serait arrivée au même résultat si elle avait écarté les conclusions de l'experte.
3.2.
3.2.1. S'agissant d'une nouvelle audition des enfants, la cour cantonale a relevé qu'ils avaient déjà été entendus à deux reprises chacun lors de l'établissement de l'expertise pédopsychiatrique et qu'ils avaient pu exprimer leur ressenti de la situation. Il importait donc selon elle de leur éviter une nouvelle audition afin de ne pas les perturber davantage, ce d'autant que, vu leurs âges respectifs (7 et 9 ans), il était peu probable qu'ils aient des éléments décisifs à fournir pour statuer.
3.2.2. La question de savoir si et à quelles conditions un enfant doit être entendu est résolue au premier chef par l'<ref-law>, selon lequel les enfants sont entendus personnellement et de manière appropriée par le juge ou par un tiers nommé à cet effet, pour autant que leur âge ou de justes motifs ne s'y opposent pas. Dans le cadre des procédures relatives aux enfants, la maxime inquisitoire - et la maxime d'office - trouvent application, conformément à l'<ref-law>. Le juge est dès lors tenu d'entendre l'enfant, non seulement lorsque celui-ci ou ses parents le requièrent, mais aussi dans tous les cas où aucun juste motif ne s'y oppose (arrêts 5A_714/2015 du 28 avril 2016 consid. 4.2.2; 5A_402/2011 du 5 décembre 2011 consid. 5.1 et les références).
L'audition ne présuppose pas que l'enfant ait la capacité de discernement au sens de l'<ref-law>. La capacité de discernement est relative: elle ne doit pas être appréciée dans l'abstrait, mais concrètement, par rapport à un acte déterminé, en fonction de sa nature et de son importance (<ref-ruling> consid. 4.3.2; <ref-ruling> consid. 1a). S'il n'a pas encore de capacité de discernement par rapport aux enjeux, l'audition de l'enfant vise avant tout à permettre au juge compétent de se faire une idée personnelle et de disposer d'une source de renseignements supplémentaire pour établir l'état de fait et prendre sa décision (<ref-ruling> consid. 2.6; <ref-ruling> consid. 1.1; arrêt 5A_119/2010 du 12 mars 2010 consid. 2.1.3). Pour cette raison, on ne doit pas interroger les jeunes enfants sur leurs désirs concrets quant à leur attribution à l'un ou l'autre de leurs parents, dans la mesure où ils ne peuvent pas s'exprimer à ce sujet en faisant abstraction de facteurs d'influence immédiats et extérieurs et n'arrivent pas à formuler une volonté stable (<ref-ruling> consid. 2.6; <ref-ruling> consid. 1.2.2; arrêt 5A_482/2007 du 17 décembre 2007 consid. 3.1).
L'audition d'un enfant est en principe possible dès qu'il a six ans révolus (<ref-ruling> consid. 3; <ref-ruling> consid. 1.2.3; arrêt 5A_971/2015 du 30 juin 2016 consid. 5.1). Cet âge minimum est indépendant du fait que, en psychologie enfantine, on considère que les activités mentales de logique formelle ne sont possibles qu'à partir d'un âge variant entre onze et treize ans environ et que la capacité de différenciation et d'abstraction orale ne se développe plus ou moins qu'à partir de cet âge-là (arrêt 5A_43/2008 du 15 mai 2008 consid. 4.1).
Le juge ou un tiers nommé à cet effet entend les enfants personnellement, de manière appropriée, pour autant que leur âge ou d'autres motifs importants ne s'opposent pas à l'audition. Même si elle peut aussi être menée par un spécialiste de l'enfance, en particulier en cas de conflit familial aigu et de dissensions entre les époux concernant le sort des enfants, cette audition est effectuée, en principe, par la juridiction compétente elle-même (<ref-ruling> consid. 4; <ref-ruling> consid. 2a-2b et les références; arrêts 5A_971/2015 du 30 juin 2016 consid. 5.2; 5A_465/2012 du 18 septembre 2012 consid. 3.1.2; 5A_397/2011 du 14 juillet 2011 consid. 2.4).
3.2.3. Bien que l'âge des enfants ne puisse en l'espèce être utilisé comme un argument pour renoncer à leur audition puisque les enfants sont en principe entendus dès l'âge de six ans révolus si aucun juste motif ne s'y oppose, il apparaît qu'ils ont en l'occurrence effectivement déjà été entendus dans le cadre de l'établissement de l'expertise. Le recourant sollicite donc qu'un moyen de preuve qui a déjà été administré le soit à nouveau. A cet égard, il ne se plaint toutefois pas du fait que l'audition ait été déléguée à l'experte et n'ait pas été effectuée par la cour cantonale. Par ailleurs, il n'est pas parvenu à démontrer que le rapport d'expertise dans le cadre de laquelle les enfants ont été entendus serait arbitraire et ne démontre pas non plus en quoi une nouvelle audition serait nécessaire. Il ne fait en particulier pas valoir que les enfants n'auraient pas été entendus sur des éléments décisifs ou que les résultats de l'audition ne seraient plus actuels (cf. <ref-ruling> consid. 4; arrêt 5A_575/2017 du 17 août 2017 consid. 2.3 et les arrêts cités). Il se contente de soutenir que les enfants peuvent mieux que quiconque décrire ce qu'ils ressentent et exprimer leur désir de vivre avec lui et qu'une nouvelle audition permettrait de garantir leur protection dès lors qu'ils pourraient s'exprimer librement sur leur situation actuelle. Ce faisant, il ne fait toutefois que substituer de manière irrecevable sa propre appréciation de la nécessité d'une nouvelle audition à celle de la cour cantonale et ne fait pas valoir de motif qui justifierait impérativement d'entendre à nouveau les enfants à ce stade de la procédure. Dans ces circonstances, autant que recevable, le grief apparaît infondé.
4.
Le recourant soulève également un grief de violation de son droit d'être entendu du fait que la cour cantonale a refusé d'administrer plusieurs autres moyens de preuve.
4.1. Selon lui, elle avait ainsi refusé à tort de tenir compte de deux SMS des 30 septembre et 6 octobre 2016 que lui avait adressés E._, voisine proche de l'intimée. Elle aurait également dû entendre ce témoin qui l'avait contacté spontanément et avait fait état de ses préoccupations au sujet de la vie des enfants auprès de leur mère. E._ lui avait en effet expliqué qu'elle ne désirait pas être citée à comparaître sauf s'il devait recourir. De ce fait, il était dans l'impossibilité de produire ces moyens de preuve en première instance, de sorte que ceux-ci, bien que nouveaux, étaient recevables en procédure d'appel. La cour cantonale avait également écarté à tort un classeur contenant des SMS échangés avec l'intimée et une clé USB comportant une vidéo ainsi que des documents prouvant les investissements de la société F._ SA et des courriers échangés entre G._, F._ SA et l'intimée.
4.2. S'agissant de l'audition de E._, la cour cantonale a constaté que, si le recourant faisait certes valoir que celle-ci lui avait envoyé des messages disant qu'elle avait découvert la vraie personnalité de l'intimée et que les agissements de cette dernière envers les enfants étaient intolérables, l'intimée avait elle aussi produit des échanges avec cette personne dont il résultait qu'elle n'avait rien dit envers l'épouse et que le mari avait essayé de lui " faire dire " des choses. Dans ces circonstances, la cour cantonale a considéré que l'audition de ce témoin était vraisemblablement sujette à caution et donc inutile. Ce n'est donc pas le caractère nouveau du moyen de preuve requis mais la crédibilité du témoin qui a conduit la cour cantonale à écarter cette offre de preuve. Dans la mesure où le recourant soutient que son moyen de preuve devait être admis puisqu'il ne pouvait le faire valoir en première instance, il ne s'en prend pas à la motivation cantonale. Ce grief est en conséquence irrecevable faute de satisfaire à l'<ref-law>.
Pour ce qui est du classeur contenant plusieurs centaines de pages d'impression de SMS échangés par les parties entre 2012 et 2015, à savoir majoritairement du temps de la vie commune, la cour cantonale a estimé, d'une part, que ces messages anciens n'apparaissaient pas pertinents pour juger de la solution de garde adéquate actuellement et qu'il résultait, d'autre part, du dossier que le recourant avait voulu déposer un classeur similaire en première instance mais y avait finalement renoncé, de sorte qu'il était forclos à produire ces moyens en appel.
S'agissant de la clé USB contenant une vidéo tournée par D._, il ressort de l'arrêt attaqué que cette offre de preuve a déjà été refusée par le premier juge par décision du 25 novembre 2015 contre laquelle le recourant n'a pas interjeté recours et qu'il n'a pas non plus critiqué les motifs de refus du premier juge dans son appel du 30 novembre 2016.
En soutenant que le premier juge et la Cour d'appel ont refusé sans fondement ces moyens de preuve qui " permettent pourtant de démontrer que l'intimée a des problèmes de compulsion ainsi qu'une attitude envers les enfants tout simplement incompatible avec leur bien ", le recourant ne s'en prend pas à la motivation de la cour cantonale s'agissant de la production de la clé USB, ni à la seconde motivation développée par celle-ci pour écarter le classeur contenant les impressions de SMS. Ces griefs sont en conséquence irrecevables. Il en va de même s'agissant des échanges de courriers entre G._, F._ SA et l'intimée qui ont été écartés par la cour cantonale au motif que le recourant n'avait pas exposé pourquoi il n'avait pas produit ces pièces en première instance, motivation à laquelle le recourant ne s'en prend pas dans le présent recours. En ce qui concerne les " documents prouvant les investissements de la société F._ SA ", la critique du recourant est infondée puisque, contrairement à ce qu'il allègue, il ressort de l'arrêt entrepris que ces pièces ont été admises à la procédure malgré leur caractère nouveau.
5.
Le recourant se plaint d'arbitraire dans l'établissement des faits.
5.1. Il reproche en premier lieu à la cour cantonale d'avoir omis de prendre en compte ou évalué arbitrairement un certain nombre d'éléments probants dans le cadre de l'appréciation des circonstances justifiant l'attribution de la garde des enfants à leur mère.
En tant qu'il reproche à la cour cantonale d'avoir arbitrairement retenu que les enfants sont plus habitués à vivre avec leur mère puisque, malgré ses obligations professionnelles, il avait joué un rôle au moins aussi important que l'intimée dans l'éducation des enfants durant l'union dès lors que c'est lui qui les baignait, leur racontait des histoires et les couchait, son grief est infondé. La cour cantonale a en effet, d'une part, reconnu que le recourant s'était aussi occupé des enfants le soir et s'était engagé pour leur éducation et leur bien-être. Par ailleurs, il n'apparaît pas arbitraire de retenir que les enfants sont plus habitués à vivre avec leur mère et que cette dernière est plus disponible pour s'occuper personnellement d'eux dans la mesure où, contrairement au recourant, elle travaille à un faible pourcentage depuis la naissance de l'aînée des enfants et a continué à assumer leur garde depuis la séparation du couple il y a plus de deux ans. A cet égard, le fait que le recourant disposerait d'un bureau mobile dans son bus VW aménagé lui permet certes d'être plus flexible pour aller chercher les enfants à l'école et les conduire à leurs activités mais ne lui offre pas la même disponibilité que l'intimée qui peut assurer une présence au quotidien auprès des enfants, ce qu'il admet d'ailleurs en précisant qu'il engagera une aide pour la préparation des repas et pour " assurer une présence féminine ". Partant, cet élément n'étant pas déterminant, il n'y avait rien d'arbitraire à ne pas le mentionner.
Le recourant allègue être une personne stable et constante. On ne perçoit toutefois pas pourquoi cela aurait dû être explicitement mentionné dès lors que ces qualités ne lui ont jamais été niées. Il reproche encore à la cour cantonale de ne pas avoir fait état du fait que les enfants voulaient vivre avec lui. Cette affirmation est erronée s'agissant de C._ puisque la Cour d'appel a retenu que celle-ci avait insisté lors de chaque entretien avec l'experte pour faire comprendre qu'elle aimerait vivre avec sa maman. Le recourant se contente d'affirmer le contraire sans apporter la moindre preuve de ces allégations. Pour ce qui est de D._, il relève à juste titre que celui-ci a exprimé son désir de vivre avec lui devant l'experte. Comme déjà mentionné (cf. supra consid. 3.1.3), l'experte a toutefois exposé de manière circonstanciée pourquoi il fallait dans ce cas précis s'écarter de la volonté de l'enfant. Il n'y a par conséquent pas lieu d'y revenir dans la mesure où le recourant n'est pas parvenu à démontrer l'arbitraire dans les constatations de l'experte. Pour ce qui est des allégations du recourant selon lesquelles les enfants se plaindraient de la présence d'un tiers à la maison ainsi que du fait que leur mère les mettrait constamment devant la télévision, ne mangerait pas avec eux et boirait de l'alcool devant la télévision, elles ne reposent sur aucune preuve, de sorte que, là encore, il n'était pas arbitraire pour la cour cantonale d'en faire abstraction. En tant que le recourant reproche à la Cour d'appel de ne pas avoir tenu compte du fait que l'intimée souffrait de " compulsion d'alcool et d'achats ", on rappellera qu'il s'agit de sa propre appréciation qui a été contredite sur ce point par l'experte laquelle n'a décelé aucun signe de dépendance de quelque nature que ce soit chez l'intimée (cf. supra consid. 3.1.3).
S'agissant des voies de fait, des accusations de pédophilie ou encore d'appartenir à une secte et des insultes que l'intimée aurait proférées à l'encontre du recourant, celles-ci ressortent en partie de ses seules écritures et ne sont pas établies. Pour le surplus, l'intimée a relevé que les accusations de pédophilie n'ont jamais été dirigées contre le recourant et qu'il s'agissait d'un malentendu. Quoi qu'il en soit, aucune de ces accusations n'a eu de suite pénale ni n'a été retenue comme un motif pour refuser d'attribuer la garde au père des enfants. Ces diverses accusations et insultes semblent relever davantage de propos tenus dans le cadre de tensions au sein du couple inhérentes à toute séparation, l'intimée ayant également fait part à l'experte de propos insultants tenus par le recourant. C'est donc sans arbitraire qu'elles n'ont pas été évoquées dans l'arrêt querellé. Enfin, les affirmations du recourant selon lesquelles l'intimée lui interdirait l'accès à sa propre maison depuis plus de deux ans et avait avoué être débordée s'agissant de l'éducation des enfants ne sont pas non plus étayées, étant par ailleurs rappelé que la jouissance du domicile conjugal a à ce stade été attribuée à l'intimée, de sorte qu'il n'y a rien de surprenant à ce qu'il ne puisse prétendument pas accéder à sa maison.
5.2. Le recourant fait ensuite valoir que la Cour d'appel aurait arbitrairement établi ses revenus dans le cadre du calcul des contributions d'entretien. S'agissant de son salaire mensuel net, il relève qu'au regard de ses déclarations fiscales 2014 et 2015 et de son certificat de salaire 2016, il s'élèverait à 9'500 fr. et non à 12'000 fr. comme retenu par la cour cantonale. Or, il ressort des constatations du premier juge, reprises par la Cour d'appel, que le recourant a lui-même allégué qu'à son salaire mensuel de 9'500 fr. s'ajoutaient des dépenses que la société F._ SA prenait en charge, de sorte que le revenu tiré de cette activité devait être estimé à 12'000 fr. par mois. Le recourant ne s'en prend pas à cette motivation se contentant d'affirmer à nouveau que le salaire qui ressort de ses déclarations fiscales 2014 et 2015 et du certificat de salaire 2016 s'élève à 9'500 fr. par mois. Son grief est en conséquence irrecevable.
Le recourant reproche ensuite à la cour cantonale de s'être fondée arbitrairement sur sa seule déclaration d'impôts 2014 pour retenir qu'il percevait également une participation au bénéfice de la société F._ SA. Or, sur ce point, la cour cantonale a considéré que, dans la mesure où le recourant n'avait pas fourni les comptes de la société F._ SA pour les années 2014 et 2015, il n'était pas possible de déterminer si la perte subie ou l'absence de bénéfice durant ces années était réelle ou résultait de la constitution de réserves. Le recourant ne s'en prend pas à cette motivation notamment en expliquant pour quels motifs ces pièces n'avaient pas été produites. Il se contente en effet de réitérer de manière irrecevable l'argumentation développée devant l'instance précédente, à savoir que le dividende pour l'année 2013 apparaissant dans sa déclaration fiscale était une simple opération comptable de sorte qu'aucun versement n'avait en réalité été opéré en sa faveur et que ce dividende présentait de toute manière un caractère tout à fait exceptionnel puisque cette situation ne s'était pas représentée en 2014 et 2015, ce dont avait attesté la fiduciaire H._ SA. Enfin, s'agissant des loyers qu'il perçoit, là encore, le recourant ne fait que répéter l'argumentation développée autant devant le premier juge qu'en appel. Il allègue ainsi que ces loyers n'ont jamais représenté un revenu dont il pouvait librement disposer, que le compte sur lequel les loyers sont versés est bloqué depuis mai 2015 en raison d'un litige successoral avec sa soeur et que le solde du compte est actuellement de 22'606 fr. 72 alors qu'il devrait être bien plus élevé si les rentrées annuelles retenues par le premier juge y étaient effectivement versées. Ce faisant, il ne répond à nouveau pas à la motivation de la Cour d'appel qui a relevé qu'aucun élément au dossier ne venait appuyer sa thèse selon laquelle ces revenus n'avaient jamais servi à l'entretien de la famille et que rien ne prouvait qu'ils n'étaient pas désormais sur un autre compte que celui dont il alléguait le blocage. Le grief est en conséquence irrecevable.
En dernier lieu, le recourant considère que la cour cantonale a établi arbitrairement le train de vie mensuel arrêté à 23'009 fr. en le situant bien au-delà de " la réalité du standard de vie de la famille A._ durant la vie conjugale ". Il fonde cette argumentation uniquement sur un document intitulé " Budget Home " établi et produit par l'intimée d'où il ressortirait que la famille vivait uniquement avec son salaire mensuel de 9'500 fr. et la prise en charge de quelques frais par F._ SA, de sorte que le train de vie mensuel s'était toujours situé aux alentours de 12'000 fr. Il fait valoir que, si le standard de vie de la famille avait été supérieur, l'intimée n'aurait pas manqué de le mentionner dans ce document. En l'occurrence, l'argumentation du recourant repose intégralement sur une pièce dont il n'est fait mention ni dans la décision de première instance ni dans l'arrêt attaqué sans qu'il ne soulève pour autant un grief de violation du droit d'être entendu ou d'arbitraire dans l'établissement des faits au motif que la cour cantonale aurait omis d'en tenir compte. A la lecture de ses écritures d'appel du 30 novembre 2016, on s'aperçoit qu'il n'est pas non plus fait état de cette pièce. Partant, le recourant ne saurait à présent reprocher aux juges cantonaux de ne pas avoir établi le train de vie des parties sur la seule base de ce document. Autant que recevable, le grief est infondé.
6.
Le recourant se plaint ensuite du fait que la garde des enfants ne lui ait pas été attribuée. Il estime que la Cour d'appel a appliqué arbitrairement l'art. 176 al. 3 en lien avec les <ref-law>.
6.1. Il rappelle avoir toujours été un père présent et que son amour pour ses enfants, ses compétences éducatives et la possibilité matérielle et pratique de s'occuper d'eux n'ont jamais été remis en question. Il affirme avoir réorganisé ses activités professionnelles pour assurer une grande disponibilité et une flexibilité " bienvenue " pour les enfants. Il allègue ne jamais avoir rencontré le moindre problème lors des droits de visite, être une personne stable et de confiance et être prêt à sacrifier ses " activités annexes " ainsi que ses relations sociales et/ou personnelles pour passer le maximum de temps possible avec ses enfants. Il met ensuite en doute l'aptitude de l'intimée à apporter la stabilité nécessaire aux enfants. Les difficultés de l'intimée à maintenir des " relations professionnelles et affectives durables " laisseraient selon lui craindre que le cadre de vie offert ne soit pas " celui que l'on oserait espérer pour des enfants de cet âge ". Il reproche enfin à l'autorité précédente de ne pas avoir retenu les nombreuses preuves démontrant l'impossibilité pour l'intimée de garantir un climat propice aux bonnes relations entre lui-même et ses enfants et craint que celles-ci ne soient mises en péril si la garde exclusive venait à être attribuée à l'intimée. Il estime qu'il est " patent " que l'intérêt de C._ et D._ est de vivre auprès de lui puisqu'il veillera non seulement à leur bien-être et à un climat stable à la maison mais garantira également des contacts bons et réguliers entre les enfants et leur mère. Pour les mêmes motifs, il estime que la curatelle de surveillance des relations personnelles n'est pas nécessaire.
6.2. L'argumentation du recourant repose pour l'essentiel sur des faits qui ne ressortent pas de l'arrêt attaqué ou pour lesquels le grief d'appréciation arbitraire a d'ores et déjà été écarté (cf. supra consid. 5.1). Il en va ainsi notamment du fait qu'il aurait réorganisé ses activités professionnelles, déléguerait une grande partie de ses tâches professionnelles et disposerait d'un bureau mobile dans son bus aménagé afin d'être plus disponible pour les enfants. Le recourant ne parvient au surplus pas à démontrer que la cour cantonale aurait retenu arbitrairement que les capacités éducatives de l'intimée sont adéquates. Sur ce point, il se contente en effet d'apporter un jugement de valeur sur la vie sentimentale de l'intimée et de soutenir qu'elle serait incapable de maintenir des relations personnelles et professionnelles durables sans que l'on sache à quoi il se réfère précisément ni en quoi cela aurait un impact sur ses capacités éducatives. Par ailleurs, la question des insultes que l'intimée aurait proférées à son encontre et dont il entend déduire l'impossibilité pour elle de garantir un climat propice aux bonnes relations entre lui et ses enfants a déjà été traitée (cf. supra consid. 5.1), de sorte qu'il n'y a pas lieu d'y revenir. On relèvera toutefois que la meilleure capacité de la mère des enfants à collaborer avec leur père a été mise en évidence par l'experte dont le rapport a été jugé exempt de lacunes, de contradictions ou de défauts. L'experte contredit également les allégations du recourant qui soutient pouvoir garantir des contacts bons et réguliers entre les enfants et leur mère puisqu'elle a précisément retenu que D._ souffrait d'un syndrome d'aliénation parentale en raison de l'attitude de son père et qu'il n'avait aucune chance de développer une personnalité saine s'il était maintenu dans cet état d'aliénation. Pour le surplus, le recourant ne s'en prend pas à la motivation cantonale en tant que celle-ci retient qu'aucun élément au dossier ne vient contrebalancer, en faveur d'une attribution de la garde au père, le poids important devant être accordé au besoin de stabilité des enfants et, partant, au maintien de la situation de garde qu'ils ont connue non seulement depuis leur naissance mais surtout depuis le début de la séparation il y a plus de deux ans. Dans ces circonstances, on ne discerne aucune application arbitraire de l'<ref-law> en tant que la cour cantonale a considéré que la solution la plus conforme à l'intérêt des enfants consistait à confier leur garde à l'intimée. Quant à l'instauration d'une curatelle de surveillance des relations personnelles, le recourant se contente de soutenir qu'elle n'est pas nécessaire. Une telle motivation est manifestement insuffisante et conduit à l'irrecevabilité du grief sur ce point.
7.
Le recourant remet également en cause la contribution d'entretien allouée à l'intimée et invoque à ce titre une application arbitraire de l'<ref-law>. Il ne conteste en revanche plus les pensions alimentaires fixées en faveur des enfants.
7.1. Il reproche à la Cour d'appel de s'être fondée sur un budget mensuel de 23'009 fr. pour arrêter le montant de la contribution d'entretien due à son épouse alors que le standard de vie durant l'union était limité à 12'000 fr. par mois. Ce faisant, elle aurait rendu une décision contraire à la jurisprudence selon laquelle le maintien du train de vie qui prévalait durant la vie commune constitue la limite supérieure du droit à l'entretien. Il estime ensuite qu'un revenu hypothétique à hauteur d'un taux d'occupation de 80% devrait être imputé à l'intimée si la garde lui est attribuée et à hauteur d'au moins 50% si elle était par impossible confiée à l'intimée. S'agissant du calcul de la contribution d'entretien à proprement parler, le recourant reproche à la Cour d'appel d'avoir arbitrairement mélangé plusieurs méthodes de calcul puisqu'elle avait appliqué la méthode du minimum vital avec répartition de l'excédent s'agissant de la contribution due à l'intimée et la méthode concrète fondée sur les tabelles zurichoises pour celle due en faveur des enfants. Il estime que seule la méthode concrète pouvait être appliquée en l'espèce faute de quoi l'intimée bénéficierait d'un déplacement de patrimoine.
7.2. La modification du Code civil du 20 mars 2015 relative à l'entretien de l'enfant, directement applicable aux procédures en cours (art. 13c bis al. 1 Tit. fin. CC), est entrée en vigueur le 1 er janvier 2017. S'agissant de la contribution d'entretien due au conjoint dans le cadre d'une procédure de mesures protectrices de l'union conjugale - seule encore litigieuse en l'espèce - l'<ref-law> n'a pas connu de modification majeure si ce n'est que les enfants y ont été ajoutés comme destinataires de la contribution d'entretien aux côtés de l'époux, ce pour tenir compte de l'obligation du juge de distinguer, dans le dispositif de la décision, la contribution due à l'époux de celle due à l'enfant (cf. art. 282 al. 1 let. b et 301a CPC; Message du 29 novembre 2013 concernant la révision du code civil suisse (Entretien de l'enfant), FF 2014 p. 511, 560 s.).
7.3.
7.3.1. En tant que le recourant remet en cause le montant retenu au titre du train de vie des parties, dont découle le choix de la méthode de calcul, cette question avait déjà été soulevée dans le cadre du grief d'arbitraire dans l'établissement de son revenu qui a été écarté (cf. supra consid. 5.2). Il n'y a donc pas lieu d'y revenir.
A la lecture des écritures d'appel du recourant du 30 novembre 2016, il apparaît qu'il n'a pas remis en cause les méthodes de calcul utilisées par le premier juge pour arrêter les contributions dues à l'entretien de son épouse et de ses enfants alors même que la Cour d'appel n'a fait que reprendre et confirmer les méthodes de calcul utilisées en les adaptant au nouveau droit entré en vigueur dans l'intervalle. Partant, le recourant est forclos à soulever ce grief devant le Tribunal de céans faute de s'en être plaint devant l'instance précédente (<ref-law>; <ref-ruling> consid. 1.1 et les références). Le grief est donc irrecevable.
Par surabondance de motifs, il convient de préciser que, contrairement à ce que soutient le recourant, il est parfaitement admissible et conforme à la jurisprudence d'utiliser des méthodes de calcul différentes pour établir la contribution due à l'entretien des enfants et la pension due en faveur du conjoint, ce d'autant qu'elles reposent sur des bases légales différentes. C'est dans le cadre de la fixation du montant de chacune de ces pensions que les méthodes de calcul ne peuvent pas être mélangées (cf. sur l'interdiction du mélange des méthodes sous l'empire de l'ancien droit: <ref-ruling> consid. 3). Hormis le grief irrecevable tiré du prétendu mélange de plusieurs méthodes de calcul, le recourant se contente d'alléguer que seule la méthode concrète pouvait être appliquée s'agissant de l'établissement de la contribution due à l'entretien de l'intimée au motif que la méthode choisie entraînerait un déplacement de patrimoine en faveur de cette dernière. Il ne fournit toutefois aucun chiffre à l'appui de son argumentation et n'allègue en particulier pas que le couple réalisait effectivement des économies durant l'union.
7.3.2. Le recourant se plaint également en vain du fait qu'aucun revenu hypothétique n'ait été imputé à l'intimée. En l'occurrence, il se contente de soutenir que l'intimée - qui occupe actuellement une place de travail à 40% - peut travailler à hauteur de 80% puisque la garde des enfants doit lui être transférée, voire à hauteur de 50% si par impossible tel n'était pas le cas. Dans la mesure où l'attribution de la garde à l'intimée a été confirmée (cf. supra consid. 6.2), seule l'argumentation subsidiaire du recourant doit être examinée. En reprenant le calcul de la cour cantonale que le recourant n'est pas parvenu à remettre valablement en cause, il apparaît qu'une augmentation du taux de travail de l'intimée de 10%, et donc la prise en compte d'un revenu mensuel de 2'275 fr. en lieu et place de 1'820 fr., n'aurait pour seule conséquence que de réduire la contribution d'entretien mensuelle due en sa faveur à 6'286 fr. (2'188 fr. 50 (disponible rectifié de l'intimée) + 1⁄2 x (10'384 fr. 05 - 2'188 fr. 50)) au lieu de 6'500 fr. pour la période comprise entre le 15 mars 2015 et le 31 décembre 2016. L'imputation d'un tel revenu hypothétique n'aurait en revanche aucune incidence pour les contributions dues à compter de l'entrée en vigueur du nouveau droit le 1er janvier 2017 puisque, dès cette date, le déficit mensuel subi par l'intimée est couvert par la contribution de prise en charge due en faveur des enfants que le recourant n'a pas remise en cause. Ainsi, quand bien même on imputerait un revenu hypothétique à hauteur d'un taux d'occupation de 50% à l'intimée, une différence de contribution d'entretien de 214 fr. par mois sur une période de moins de deux ans ne saurait conduire à un résultat arbitraire eu égard au disponible mensuel oscillant entre 7'884 fr. et 10'384 fr. dont bénéficie encore le recourant une fois les pensions alimentaires des enfants payées. Le grief est en conséquence infondé.
8.
Le recourant conteste enfin la répartition des frais et dépens de première et deuxième instances.
8.1. Il soutient que, au vu de la nature de la procédure, à savoir un litige portant sur des mesures protectrices de l'union conjugale, les frais judiciaires de première instance auraient dû être répartis par moitié entre les deux époux et les dépens compensés. Il se fonde sur un avis doctrinal selon lequel, dans ce type de procédures, il ne pourrait être dérogé au principe de la répartition des frais judiciaires par moitié qu'en cas de manoeuvres dolosives ou téméraires de la part d'un des époux. Pour ce qui est de la procédure d'appel, il estime que les frais judiciaires fixés à 5'500 fr. et des dépens de 6'804 fr. devraient être mis intégralement à la charge de l'intimée qui succombe.
8.2. S'agissant des frais de première instance, la cour cantonale a suivi le raisonnement du premier juge qui avait estimé que la procédure avait pris une grande ampleur du fait du recourant qui avait déposé de longues déterminations et refusé de confier l'enquête sociale au Service de l'enfance et de la jeunesse, souhaitant la nomination d'un expert neutre et augmentant ainsi les coûts de l'expertise. Le recourant avait par ailleurs succombé sur la quasi-totalité des points contestés, en particulier l'attribution du logement et la garde des enfants, ainsi que le montant des contributions d'entretien. Pour ces motifs, et bien qu'il s'agisse en l'espèce d'un litige relevant du droit de la famille (cf. art. 107 al. 1 let. c CPC), le premier juge et, à sa suite, la cour cantonale ont refusé de s'écarter de la règle de l'<ref-law> et ont mis les frais à la charge de la partie succombante, à savoir du recourant. Ce dernier ne s'en prend pas à cette motivation et en particulier aux motifs qui ont conduit la cour cantonale à appliquer l'art. 106 al. 1 et non l'art. 107 al. 1 let. c CPC mais se contente de reprendre mot pour mot l'argumentation développée dans ses écritures d'appel. Une telle motivation ne satisfait pas aux réquisits de l'<ref-law> et est donc irrecevable.
Le recourant part du principe qu'il obtient gain de cause devant le Tribunal de céans et soutient pour ce seul motif que les frais et dépens de deuxième instance doivent être mis à la charge de l'intimée. Dès lors que tel n'est pas le cas, ce grief ne peut qu'être rejeté.
9.
Sur le vu de ce qui précède, le recours est rejeté dans la mesure de sa recevabilité aux frais de son auteur (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimée qui ne s'est pas déterminée sur le fond et n'a que partiellement obtenu gain de cause s'agissant de l'octroi de l'effet suspensif au recours (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Ie Cour d'appel civil du Tribunal cantonal de l'Etat de Fribourg.
Lausanne, le 26 octobre 2017
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière : Hildbrand