Faits:
A.
A.a. Dame A._, née en 1977, de nationalité roumaine, et A._, né en 1968, de nationalité canadienne, se sont mariés en 2011 à Vevey.
Aucun enfant n'est issu de cette union. Dame A._ est mère d'un enfant, B._, né en 2004 d'une précédente union, et A._ est également père de deux enfants nés d'une précédente union, à savoir C._, née en 2001, et D._, né en 2003.
Les parties se sont séparées une première fois durant deux mois dès le 27 janvier 2012, séparation qui a conduit Dame A._ à déposer une première requête de mesures protectrices de l'union conjugale qu'elle a finalement retirée. Les parties se sont définitivement séparées le 13 août 2012.
A.b. Avant le 1er janvier 2011, A._ était salarié d'une assurance et percevait à ce titre un revenu mensuel net moyen de l'ordre de 20'605 fr. 85. A compter de cette date, il a repris l'une des agences de son employeur en qualité d'agent principal indépendant. Pour l'année 2012, il ressort des comptes de son agence un chiffre d'affaires des ventes et prestations de services de 747'490 fr. 75 pour des dépenses de 705'750 fr. 90, soit un solde positif de 41'739 fr. 85. L'autorité cantonale a toutefois retenu à titre de salaire mensuel un montant de 12'000 fr. du moins pour l'année 2012 et le début de 2013. Ce montant est contesté par A._.
Ses charges mensuelles ont été arrêtées à 5'862 fr. 90, de sorte que l'autorité cantonale a retenu un disponible mensuel de 6'137 fr.
A.c. Avant le mariage, Dame A._ travaillait à 100% en qualité de serveuse. A compter du mariage, elle a progressivement diminué son activité professionnelle pour l'interrompre complètement après six mois de cohabitation, tout en effectuant de temps à autre des extras dans la restauration. Depuis le mois d'août 2012 jusqu'à la fin du mois de janvier 2013, elle a été en incapacité totale de travail. La durée de son incapacité de travail est toutefois contestée. Elle n'a perçu aucun revenu jusqu'au mois de novembre 2012, date à compter de laquelle elle a bénéficié mensuellement d'un revenu d'insertion de 2'900 fr. jusqu'au 31 décembre 2012, puis de 2'965 fr. à compter du 1er janvier 2013. En décembre 2012 et janvier 2013, elle a également perçu des prestations de l'assurance-chômage qui ont toutefois intégralement été reversées au Service social de Lausanne.
Ses charges mensuelles - partiellement contestées - ont été arrêtées à 2'940 fr. pour l'année 2012 et à 3'393 fr. 40 pour l'année 2013, de sorte que son budget présente un manco de 2'940 fr. du 1er août au 31 octobre 2012, un manco de 40 fr. du 1er novembre 2012 au 31 décembre 2012 (2'900 fr. - 2'940 fr.) et un manco de 428 fr. 40 à compter du 1er janvier 2013 (2'965 fr. - 3'393 fr. 40).
B.
B.a. Par ordonnance de mesures superprovisionnelles de l'union conjugale rendue le 16 août 2012 sur requête de l'épouse, le Président du Tribunal civil de l'arrondissement de Lausanne (ci-après: le Président) a donné ordre au mari de verser à son épouse la somme de 3'000 fr. à faire valoir sur la contribution d'entretien à fixer ultérieurement et lui a fait interdiction d'approcher son épouse à moins de vingt mètres et de la contacter de quelque manière que ce soit, sous la menace de la peine d'amende prévue par l'<ref-law>.
Par ordonnance de mesures superprovisionnelles de l'union conjugale rendue le 21 août 2012 à la demande du mari, le Président a attribué la jouissance de l'appartement conjugal à celui-ci et a donné ordre à l'épouse de lui restituer dans les 48 heures à réception de la décision les clés de l'appartement conjugal et de son véhicule.
B.b. Par ordonnance de mesures protectrices de l'union conjugale rendue le 14 janvier 2013, le Président a rappelé la convention partielle signée par les parties à l'audience du 25 septembre 2012 et l'a ratifiée séance tenante pour valoir ordonnance de mesures protectrices de l'union conjugale. A cette occasion, les parties se sont mises d'accord sur le principe de la séparation, le fait que la jouissance de l'appartement conjugal soit attribuée au mari, le fait que ce dernier ne doive pas s'approcher de son épouse et les divers biens que cette dernière pouvait venir chercher au domicile conjugal. Le Président a de surcroît notamment ordonné à l'époux de restituer à son épouse, dans un délai de sept jours dès réception de l'ordonnance, un ordinateur portable et l'ensemble des objets mentionnés par elle dans sa requête du 9 octobre 2012 (ch. II et III) et l'a condamné à verser en mains de son épouse une pension mensuelle de 4'700 fr. payable d'avance le premier de chaque mois dès et y compris le 1er septembre 2012 et pour une durée de six mois à compter de la fin de l'incapacité de travail de celle-ci (ch. V).
B.c. Par arrêt du 27 mars 2013, la Juge déléguée de la cour d'appel civile du Tribunal cantonal vaudois (ci-après: la Juge déléguée) a partiellement admis autant l'appel interjeté par A._ contre cette décision que celui interjeté par Dame A._. Elle a réformé le chiffre V de la décision entreprise en ce sens que A._ a été condamné à contribuer à l'entretien de son épouse par le versement d'une pension mensuelle de 4'005 fr. 70 du 1er août au 31 octobre 2012, de 2'072 fr. 35 du 1er novembre au 31 décembre 2012 et de 2'331 fr. 30 du 1er janvier 2013 au 31 juillet 2013, sous déduction des 3'000 fr. dont le versement avait été ordonné par ordonnance de mesures superprovisionnelles du 16 août 2012, dans l'hypothèse où ce montant aurait effectivement été acquitté par A._, et a confirmé l'ordonnance pour le surplus (ch. III).
C.
Par acte du 27 mai 2013, A._ exerce un recours en matière civile au Tribunal fédéral contre cette décision. Il conclut principalement à la réforme de l'arrêt entrepris en ce sens que les chiffres II et III de l'ordonnance de mesures protectrices de l'union conjugale du 14 janvier 2013 concernant la restitution à son épouse d'un ordinateur portable et de divers autres objets soient supprimés et qu'il soit dit qu'il n'est pas tenu de contribuer à l'entretien de cette dernière par un quelconque montant. A l'appui de ses conclusions, le recourant se plaint de la violation de l'interdiction de l'arbitraire en particulier dans l'établissement des faits, de l'<ref-law>, du principe de la bonne foi et de son droit d'être entendu. Il sollicite en outre d'être mis au bénéfice de l'assistance judiciaire.
Invitées à se déterminer, la Cour d'appel s'est référée aux considérants de son arrêt et Dame A._ a conclu au rejet du recours.
D.
Par ordonnance présidentielle du 10 juin 2013, la requête d'effet suspensif formée par le recourant a été admise pour les aliments dus du 1er août 2012 au 30 avril 2013 et rejetée pour les sommes dues postérieurement à cette date.

Considérant en droit:
1.
La décision de mesures protectrices de l'union conjugale (<ref-law>) est une décision finale (<ref-ruling> consid. 4), et elle a été rendue en matière civile (<ref-law>) par une autorité supérieure cantonale statuant sur recours (<ref-law>), dans une affaire pécuniaire, dont la valeur litigieuse atteint 30'000 fr. (<ref-law>, <ref-law>). Le recours a par ailleurs été interjeté dans le délai légal (art. 46 al. 3 et 100 al. 1 LTF), par la partie qui a succombé dans ses conclusions devant l'instance précédente (<ref-law>), de sorte qu'il est recevable au regard de ces dispositions.
2.
La décision sur mesures protectrices de l'union conjugale étant une décision portant sur des mesures provisionnelles au sens de l'<ref-law> (<ref-ruling> consid. 5.1), seule peut être dénoncée la violation de droits constitutionnels. Le Tribunal fédéral n'examine de tels griefs que s'ils ont été invoqués et motivés conformément au principe d'allégation (<ref-law>), à savoir expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 1.4). Lorsque le recourant se plaint d'arbitraire (art. 9 Cst.), il ne peut se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours dispose d'une libre cognition; il ne saurait se contenter d'opposer son opinion à celle de la juridiction précédente, mais doit démontrer, par une argumentation précise, que cette décision se fonde sur une application du droit ou une appréciation des preuves manifestement insoutenables (<ref-ruling> consid. 3 et les arrêts cités). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 2).
3.
Le recourant conteste en premier lieu la manière dont son revenu a été établi.
3.1. Pour ce faire, la Juge déléguée a dans un premier temps examiné le compte des dépenses et des recettes de l'agence du recourant pour l'année 2012 duquel ressort un solde positif de 41'739 fr. (chiffre d'affaires de 747'490 fr. 75 - dépenses de 705'750 fr. 90). Elle a toutefois estimé que cette pièce constituait un document interne à l'agence, qui n'avait de surcroît pas encore été validé par la fiduciaire de l'intéressé, de sorte que sa valeur probante était sujette à caution. Elle s'est ensuite fondée sur les déclarations du recourant en audience du 19 mars 2013, qui a indiqué avoir eu pour pratique de virer une partie du compte de son agence sur son compte privé pour payer ses charges, en fonction des factures du ménage qu'il recevait. Elle a relevé que les extraits du compte privé du recourant laissaient effectivement apparaître qu'un montant moyen de 12'000 fr. était mensuellement viré au crédit de ce compte et a par conséquent retenu ce montant au titre de salaire mensuel perçu par le recourant pour l'année 2012 et le début de 2013, à tout le moins.
3.2.
3.2.1. Le revenu d'un indépendant est constitué par son bénéfice net, à savoir la différence entre les produits et les charges. En cas de revenus fluctuants, pour obtenir un résultat fiable, il convient de tenir compte, en général, du bénéfice net moyen réalisé durant plusieurs années (arrêts 5A_246/2009 du 22 mars 2010 consid. 3.1 publié in: FamPra.ch 2010 678 et les références; 5A_687/2011 du 17 avril 2012 consid. 5.1.1) : plus les fluctuations de revenus sont importantes et les données fournies par l'intéressé incertaines, plus la période de comparaison doit être longue (arrêt 5A_246/2009 précité consid. 3.1 et la référence).
3.2.2. Lorsque les allégations sur le montant des revenus ne sont pas vraisemblables et que les pièces produites ne sont pas convaincantes - par exemple lorsque les comptes de résultat manquent -, les prélèvements privés constituent un indice permettant de déterminer le train de vie de l'intéressé, cet élément pouvant alors servir de référence pour fixer la contribution due (arrêt 5A_246/2009 précité consid. 3.1). Pour subvenir à ses besoins courants, un indépendant opère en effet généralement des prélèvements privés réguliers en cours d'exercice, anticipant ainsi le bénéfice net de l'exercice qui résulte des comptes établis à la fin de celui-ci.
Des prélèvements inférieurs au bénéfice net entraînent toutefois la constitution de réserves, tandis que des prélèvements supérieurs impliquent la dissolution de réserves. Il s'ensuit que l'on ne peut retenir que les revenus de l'intéressé ont baissé lorsqu'il a opéré des prélèvements privés inférieurs au bénéfice net de l'exercice; l'on ne saurait davantage affirmer que ses revenus n'ont pas baissé entre deux exercices de référence simplement parce que, indépendamment des bénéfices réalisés, les prélèvements privés sont comparables (arrêt 5P.330/2006 du 12 mars 2007 consid. 3.3).
3.2.3. La détermination du revenu d'un indépendant peut en conséquence se faire en référence soit au bénéfice net, soit aux prélèvements privés, ces deux critères étant toutefois exclusifs l'un de l'autre: l'on ne peut ainsi conclure que le revenu d'un indépendant est constitué de son bénéfice net, additionné à ses prélèvements privés (arrêt 5A_259/2012 du 14 novembre 2012 consid. 4).
3.3. La Juge déléguée a choisi d'établir le revenu du recourant plutôt sur la base des prélèvements privés effectués par celui-ci que sur la base du bénéfice net de l'agence qu'il gère. Dans la mesure où elle a motivé ce choix par le fait que le compte des dépenses et des recettes de l'agence était peu probant, dès lors qu'il s'agissait d'un document interne à l'agence non validé par la fiduciaire, cette façon de procéder est conforme à la jurisprudence susmentionnée et ne prête pas le flanc à la critique. La Juge déléguée a ainsi constaté que le compte privé du recourant était mensuellement crédité d'un montant moyen de 12'000 fr. Même si le recourant n'a effectivement pas affirmé, lors de son audition du 19 mars 2013, procéder à des retraits mensuels privés de l'ordre de 12'000 fr., il n'en demeure pas moins qu'il a confirmé que le compte en question était bien uniquement un compte privé. L'autorité cantonale ne s'est de surcroît pas fondée sur cette seule déclaration pour arriver à une telle conclusion, mais aussi sur le contenu des relevés de ce compte, appréciation à laquelle ce dernier ne s'en prend nullement. En revanche, il soutient que les montants nécessaires au règlement de certaines de ses charges professionnelles, telles que les repas offerts à de bons clients ou à un indicateur d'affaires, tout comme le loyer des locaux de l'agence et les frais de nettoyage seraient directement prélevés en espèces au bancomat. Le recourant semble ainsi soutenir, sans le dire explicitement, que les retraits effectués sur son compte privé ne servent pas uniquement à couvrir ses frais personnels mais également certaines charges de l'entreprise. Toutefois, si le recourant a bien produit devant les instances précédentes des pièces de nature à démontrer que certaines charges sont effectivement payées en espèces par ses soins, rien ne démontre toutefois que ces montants sont issus de son compte privé. En outre, la Juge déléguée a retenu que ce montant de 12'000 fr. était inférieur au minimum vital arrêté à 15'046 fr. 60 par le premier juge. Dans la mesure où le recourant a déclaré ne pas contester ce montant dans ses écritures en appel et ne s'en prend pas davantage à cette constatation dans le présent recours, il ne paraît pas arbitraire de retenir que l'intégralité du montant mensuel moyen de 12'000 fr. retiré de son compte privé sert effectivement à couvrir ses besoins personnels, de sorte que son grief doit être rejeté.
4.
Le recourant s'en prend ensuite à la manière dont la capacité de travail de l'intimée et les revenus qu'elle peut en tirer ont été évalués.
4.1. Considérant que l'épouse avait toujours travaillé à 100% en qualité de serveuse et s'assumait financièrement avant le mariage, l'autorité cantonale a estimé qu'on pouvait attendre d'elle qu'elle retrouve du travail assez rapidement et que le délai de six mois dès la fin de son incapacité de travail fixé à cette fin par le premier juge pouvait dès lors être confirmé.
4.2. En tant que le recourant reproche à l'autorité cantonale de ne pas avoir établi le revenu mensuel perçu par l'intimée ou tout au moins le revenu hypothétique qu'elle peut réaliser, son grief est infondé. En effet, à compter du 1er août 2013, à savoir six mois après la fin de l'incapacité de travail de l'intimée, l'autorité cantonale n'a plus mis de contribution d'entretien à charge du recourant, de sorte qu'il est sans pertinence de savoir quel revenu l'intimée peut raisonnablement réaliser à compter de cette date. Si le recourant n'a pas contesté ce délai de six mois, il estime toutefois qu'il ne pouvait courir jusqu'au 31 juillet 2013 dès lors que l'incapacité de travail de l'intimée aurait selon lui pris fin antérieurement au 31 janvier 2013. Comme le relève à juste titre le recourant, le constat de l'autorité cantonale selon lequel l'incapacité de travail de l'intimée aurait pris fin au 31 janvier 2013 est en contradiction avec le fait qu'elle a parallèlement perçu des prestations de l'assurance-chômage en décembre 2012 et janvier 2013. Compte tenu de ces contradictions, l'autorité cantonale ne pouvait sans arbitraire se fonder sur les seuls dires de l'intimée pour déterminer la date à laquelle son incapacité de travail a effectivement pris fin, ce d'autant que le dernier certificat médical produit par ses soins n'est pas probant dans la mesure où il date du 7 septembre 2012 et mentionne expressément que la capacité de travail de la patiente devra être réévaluée un mois plus tard. Le grief d'arbitraire dans l'appréciation des faits et des preuves du recourant est par conséquent fondé et il convient de renvoyer la cause à l'instance précédente pour qu'elle détermine la date à laquelle l'incapacité de travail de l'intimée a effectivement pris fin et qu'elle recalcule sur cette base la date jusqu'à laquelle le recourant devait contribuer à l'entretien de celle-ci. Dans la mesure où ce grief est admis, il n'y a pas lieu d'examiner le grief de violation du droit d'être entendu du recourant en lien avec le refus de certaines mesures d'instruction qu'il avait requises et qui tendaient également à démontrer que l'incapacité de travail de l'intimée avait pris fin antérieurement à la date alléguée.
5.
Le recourant conteste en outre certains postes de charges de l'intimée.
5.1. S'agissant des charges de l'épouse, la Juge déléguée y a inclus le montant de 400 fr. correspondant au minimum vital de son fils issu d'une précédente union - tout en déduisant 260 fr. perçus à titre d'allocation familiale - considérant que le père de l'enfant ne lui reversait que ce dernier montant à l'exclusion d'une contribution d'entretien et ce d'autant qu'une base mensuelle de 1'000 fr. avait également été comptabilisée dans les charges de l'époux pour ses deux enfants aussi issus d'une précédente union et que le solde disponible avait été réparti à raison d'un tiers pour son épouse et de deux tiers pour lui précisément pour tenir compte du fait qu'il avait deux enfants à charge. S'agissant des primes d'assurance-maladie de l'intimée et de son fils, la Juge déléguée a estimé, sur la base des pièces du dossier et en l'absence d'indication contraire, que celles de l'année 2012 avaient été intégralement couvertes par les subsides cantonaux perçus à ce titre alors qu'il convenait de retenir un montant de 453 fr. 40 dans les charges de l'intimée pour les primes de 2013, cette dernière ayant affirmé ne plus percevoir de subsides désormais. Contrairement à ce que requérait le recourant, elle a en revanche refusé de déduire un montant de 400 fr. du loyer de 1'400 fr. de l'intimée pour tenir compte du fait qu'une chambre était occupée par le fils de celle-ci, estimant que rien ne justifiait la prise en compte d'une quelconque participation de l'enfant, ce d'autant que le loyer n'apparaissait nullement disproportionné. Elle a pour le surplus confirmé les autres charges de l'intimée dès lors qu'elles n'étaient pas contestées par le recourant.
5.2. Le recourant reproche à l'autorité cantonale de s'être appuyée sur les seuls dires de l'intimée sans exiger de preuve formelle pour retenir qu'elle n'avait pas perçu en 2013, contrairement à 2012, de subsides pour son assurance-maladie et retenir par conséquent dans ses charges un montant de 453 fr. 40 à ce titre. Il estime qu'elle a ainsi violé l'<ref-law> ainsi que son droit d'être entendu, dès lors qu'il avait pour sa part requis la production d'une pièce pertinente qui lui a été refusée. Il persiste en outre à soutenir qu'il n'a pas à assumer l'entretien du fils de son épouse et qu'il n'y a par conséquent pas lieu d'inclure le montant afférent au minimum vital de celui-ci dans les charges de celle-ci, ce d'autant que l'intimée percevrait une contribution d'entretien pour l'enfant remise de main à main par le père de ce dernier. Afin d'en apporter la preuve, le recourant relève avoir requis l'audition du père de l'enfant. Aucune suite n'ayant été donnée à cette réquisition par la Juge déléguée, il invoque une violation de son droit d'être entendu. Il reproche également à l'autorité cantonale d'avoir apprécié arbitrairement les faits dans la mesure où elle n'a pas tenu compte dans la fortune de l'intimée de divers bijoux d'une "valeur non négligeable" qu'il lui aurait offerts et de ne pas avoir instruit d'office la cause pour déterminer comment l'intimée a pu assumer ses charges depuis le mois d'août 2012 alors qu'elle n'a fait état d'aucune dette.
5.3.
5.3.1. L'appel peut être formé pour violation du droit (<ref-law>) et constatation inexacte des faits (<ref-law>). L'instance d'appel dispose ainsi d'un plein pouvoir d'examen de la cause en fait et en droit. En particulier, le juge d'appel contrôle librement l'appréciation des preuves effectuée par le juge de première instance (<ref-law> en relation avec l'<ref-law>) et vérifie si celui-ci pouvait admettre les faits qu'il a retenus. Que la cause soit soumise à la maxime des débats (<ref-law>) ou, comme en matière de mesures protectrices de l'union conjugale, à la maxime inquisitoire (art. 55 al. 2, art. 272 et, pour le sort des enfants, <ref-law>), il incombe toutefois au recourant de motiver son appel (<ref-law>), c'est-à-dire de démontrer le caractère erroné de la motivation attaquée. Pour satisfaire à cette exigence, il ne lui suffit cependant pas de renvoyer aux moyens soulevés en première instance, ni de se livrer à des critiques toutes générales de la décision attaquée. Sa motivation doit être suffisamment explicite pour que l'instance d'appel puisse la comprendre aisément, ce qui suppose une désignation précise des passages de la décision que le recourant attaque et des pièces du dossier sur lesquelles repose sa critique.
Conformément à l'<ref-law>, l'instance d'appel peut librement décider d'administrer des preuves: elle peut ainsi ordonner que des preuves administrées en première instance le soient à nouveau devant elle, faire administrer des preuves écartées par le tribunal de première instance ou encore décider l'administration de toutes autres preuves. Néanmoins, cette disposition ne confère pas au recourant un droit à la réouverture de la procédure probatoire et à l'administration de preuves. Le droit à la preuve, comme le droit à la contre-preuve, découlent de l'<ref-law> ou, dans certains cas, de l'art. 29 al. 2 Cst., dispositions qui n'excluent pas l'appréciation anticipée des preuves (cf. <ref-ruling> consid. 4.3.1; <ref-ruling> consid. 5.2.2, 295 consid. 7.1; <ref-ruling> consid. 2.6).
5.3.2. Il s'ensuit que l'instance d'appel peut rejeter la requête de réouverture de la procédure probatoire et d'administration d'un moyen de preuve déterminé présentée par l'appelant si celui-ci n'a pas suffisamment motivé sa critique de la constatation de fait retenue par la décision attaquée.
Elle peut également refuser une mesure probatoire en procédant à une appréciation anticipée des preuves, lorsqu'elle estime que le moyen de preuve requis ne pourrait pas fournir la preuve attendue ou ne pourrait en aucun cas prévaloir sur les autres moyens de preuve déjà administrés par le tribunal de première instance, à savoir lorsqu'il ne serait pas de nature à modifier le résultat des preuves qu'elle tient pour acquis. Le refus d'une mesure probatoire par appréciation anticipée des preuves ne peut toutefois être remis en cause devant le Tribunal fédéral qu'en invoquant l'arbitraire (arrêt 138 III 374 consid. 4.3.2 et les arrêts cités).
En vertu du principe de la bonne foi applicable en procédure (<ref-law>), l'instance d'appel peut aussi refuser d'administrer un moyen de preuve régulièrement offert en première instance lorsque la partie a renoncé à son administration, notamment en ne s'opposant pas à la clôture de la procédure probatoire (arrêt 5A_597/2007 du 17 avril 2008 consid. 2.3; cf. <ref-ruling> consid. 5; <ref-ruling> consid. 3b).
Il n'en va pas différemment lorsque le procès est soumis à la maxime inquisitoire (art. 55 al. 2, 272 et 296 al. 1 CPC). Si le recourant reproche néanmoins au tribunal de première instance de ne pas avoir instruit la cause conformément à la maxime inquisitoire, en particulier lorsqu'il se plaint du fait que le tribunal n'aurait pas administré de preuves sur tous les faits pertinents, sans s'assurer, par l'interpellation des parties, que leurs allégués de fait et leurs offres de preuves étaient complets alors qu'il devait avoir des motifs objectifs d'éprouver des doutes à ce sujet - ce qui constitue une violation du droit (<ref-law>) -, l'instance d'appel qui admet ce grief peut procéder aux investigations nécessaires et compléter l'état de fait; elle renoncera pourtant à procéder elle-même à des vérifications et renverra la cause au tribunal de première instance lorsque l'instruction à laquelle celui-ci a procédé est incomplète sur des points essentiels (art. 318 al. 1 let. c ch. 2 CPC; arrêt 138 III 374 consid. 4.3.2).
5.4.
5.4.1. En l'espèce, il apparaît effectivement que l'autorité de première instance a retenu dans les charges de l'épouse une base mensuelle de 400 fr. pour son enfant. Le recourant a contesté la prise en compte de ce montant en appel, sollicitant l'audition du père de l'enfant pour démontrer que celui-ci versait une pension pour l'entretien de son fils à l'intimée et que la prise en compte de ce montant dans les charges de cette dernière était dès lors injustifiée.
Il convient de rappeler ici que, contrairement à ce qu'affirme le recourant, le beau-parent peut être amené à contribuer à l'entretien des enfants de son conjoint issus d'une précédente union ou nés hors mariage. En effet, il résulte du devoir général d'assistance entre époux selon les art. 159 al. 3 et 278 al. 2 CC que les conjoints doivent en principe s'entraider financièrement pour l'éducation des enfants issus d'une précédente union ou nés hors mariage, bien que la responsabilité de l'entretien de ces enfants incombe au premier chef à leurs parents et non aux conjoints de ceux-ci (arrêts 5A_352/2010 du 29 octobre 2010 consid. 6.2.2; 5C.18/2000 du 17 juillet 2000 consid. 4b non publié in: <ref-ruling>).
Dans la décision entreprise, il s'avère que la Juge déléguée a fait état de plusieurs pièces dont le recourant avait sollicité la production, précisant sans davantage d'explications que la production de certaines d'entre elles avait été refusée. En revanche, l'arrêt cantonal ne contient aucune explication quant aux motifs pour lesquels le père de l'enfant de l'intimée n'a pas été entendu, de sorte que l'autorité cantonale n'a pas exposé les motifs de son refus d'administrer ce moyen de preuve pourtant régulièrement offert et qui est en l'espèce déterminant compte tenu du caractère subsidiaire de la contribution éventuellement due par le recourant à l'entretien de son beau-fils. Ce faisant, elle a violé le droit d'être entendu du recourant, de sorte que son grief doit être admis et la cause renvoyée à l'autorité cantonale pour ce motif également.
5.4.2. Les parties se sont séparées au mois d'août 2012, période correspondant également au début de l'incapacité de travail de l'intimée, ainsi que cela ressort de l'état de fait cantonal. L'autorité cantonale a également retenu que l'intimée n'avait perçu aucun revenu jusqu'au mois de novembre 2012, date à partir de laquelle elle a bénéficié du revenu d'insertion. Le recourant s'est toutefois limité dans ses écritures en appel à sous-entendre que l'incapacité de travail de la recourante pour la période d'août et septembre 2012 était simulée et que le premier juge n'avait pu déterminer quelles étaient les nouvelles activités et les nouvelles sources de revenus de l'intimée en raison du mutisme de celle-ci. Dans la mesure où l'intimée a produit deux certificats médicaux attestant de son incapacité de travail datés des 13 août et 7 septembre 2013, l'autorité cantonale n'a commis aucun arbitraire en ne lui imputant aucun revenu pour cette période, ce d'autant que l'allégué du recourant ne repose que sur de simples spéculations à l'appui desquelles il n'a fourni aucune offre de preuve. En outre, contrairement à ce que soutient le recourant, la question des bijoux offerts à son épouse ainsi que l'éventuel revenu qu'elle pourrait tirer de leur vente n'est pas pertinente dès lors que l'entretien ne doit en principe être assuré par prélèvement dans la substance de la fortune que lorsque les revenus du travail et de la fortune des époux ne suffisent pas à leur entretien, ce qui n'est pas le cas en l'espèce (<ref-ruling> consid. 11.1.2; arrêt 5A_14/2008 du 28 mai 2008 consid. 5).
5.4.3. S'agissant enfin de la critique du recourant relative à la prise en compte dans les charges de l'intimée d'un montant de 453 fr. 40 pour les frais d'assurance-maladie, il appert qu'il avait requis dans sa réponse à l'appel interjeté par son épouse que le Service des assurances sociales de la Commune de Lausanne soit invité à produire le dossier de son épouse afin de déterminer si elle percevait encore un subside pour son assurance-maladie en 2013 comme cela avait été le cas en 2012. Dans la décision entreprise, la Juge déléguée a relevé, sans davantage de précisions, que le recourant avait produit une pièce et sollicité la production de quatre nouvelles pièces, production qui lui avait toutefois été refusée. Lors de son audition du 19 mars 2013, l'intimée a déclaré que le subside concernant l'assurance-maladie avait bien été demandé pour 2013 mais qu'aucune décision n'avait encore été rendue au jour de l'audition. Toutefois, dans la mesure où l'intimée a perçu des subsides pour l'année 2012, il est arbitraire de retenir qu'elle n'a bénéficié d'aucun subside pour l'année 2013 sur la seule base de ses propres déclarations. Il conviendra par conséquent d'instruire cette question également.
6.
Le recourant s'en prend ensuite à la manière dont la contribution due à l'entretien de son épouse a été fixée, tant dans sa quotité que dans sa durée.
6.1. L'autorité cantonale a arrêté trois périodes distinctes durant lesquelles des contributions différenciées seraient dues par le recourant à son épouse pour tenir compte du fait que les revenus et charges de cette dernière avaient fluctué en 2012 et 2013. Le recourant a ainsi été condamné à lui verser une pension de 4'005 fr. 70 du 1er août 2012 au 31 octobre 2012, de 2'072 fr. 35 du 1er novembre 2012 au 31 décembre 2012 et de 2'331 fr. 30 du 1er janvier 2013 au 31 juillet 2013.
6.2.
6.2.1. En ce qui concerne sa critique de la quotité de la contribution d'entretien due, le recourant fonde en grande partie son argumentation sur le fait que l'autorité cantonale ne pouvait sans arbitraire estimer son revenu mensuel à 12'000 fr. Dès lors que ce grief a déjà été rejeté (cf. supra consid. 3), il n' y a pas lieu d'y revenir. Le recourant reproche en outre à l'autorité cantonale de ne pas avoir fait mention de divers emprunts qu'il aurait été contraint de contracter une fois la situation du ménage devenue précaire en raison de l'épuisement de ses réserves et du fait qu'il a dû faire face à une charge fiscale plus élevée que ce qu'il avait prévu pour l'année 2010. Ce grief est infondé dans la mesure où l'autorité cantonale a bien fait état de ces emprunts, mais a toutefois refusé d'en tenir compte dans les charges du recourant dès lors qu'il a admis avoir contracté ces dettes dans le cadre de son activité professionnelle d'indépendant, ce qu'il ne conteste d'ailleurs pas.
Le recourant reproche également à l'autorité cantonale d'avoir retenu arbitrairement qu'il ne paierait pas ses impôts pour l'année 2013 alors que l'année était à peine entamée lorsque la décision a été rendue. A l'examen de la décision entreprise, on s'aperçoit que la Juge déléguée fait mention du fait que le paiement des acomptes d'impôts 2012 et 2013 n'a pas été établi. Dans la mesure où seules les charges effectives, dont le débirentier s'acquitte réellement, doivent être prises en compte (<ref-ruling> consid. 3a et les arrêts cités) et que le recourant n'a pas été en mesure de démontrer le paiement de ses impôts, c'est sans arbitraire que l'autorité cantonale a refusé de prendre en compte la charge fiscale du recourant pour l'année 2012 et en a déduit qu'il ne s'acquitterait vraisemblablement pas davantage des impôts 2013.
6.2.2. S'agissant de la durée durant laquelle la contribution d'entretien est due, il n'y a pas lieu d'examiner les critiques du recourant relatives au dies ad quem dans la mesure où cette question devra être réexaminée par l'autorité cantonale (cf. supra consid. 4.2). En ce qui concerne le dies a quo, le recourant se plaint du fait qu'il ait été fixé au 1er août 2012 alors que la séparation effective des parties est intervenue au milieu du mois seulement. Bien que l'autorité cantonale ait retenu dans sa partie en fait que la séparation des parties remonte au 13 août 2012, elle a justifié de fixer le dies a quo au 1er août 2012 au motif qu'il s'agissait du "premier jour du mois le plus proche de la séparation effective des parties". Cette appréciation n'apparaît pas arbitraire. La critique est par conséquent mal fondée.
7.
Le recourant conteste ensuite que divers objets qu'il a été condamné à remettre à l'intimée appartiennent effectivement à cette dernière.
7.1. S'agissant des objets litigieux, la Juge déléguée a confirmé le prononcé de première instance considérant qu'il y avait suffisamment d'indices au dossier - parmi lesquels notamment la date de la facture de l'ordinateur proche de la date de l'anniversaire de l'intimée - permettant légitimement d'affirmer que l'ordinateur lui avait été offert et que le recourant n'avait en outre avancé aucun élément permettant de dire, même sous l'angle de la vraisemblance, que les autres objets en question auraient déjà été restitués ou seraient inexistants.
7.2. Lorsqu'il soutient que, tout comme celle afférente à l'ordinateur portable, l'une des factures relatives à l'achat de montres et de bijoux produites démontre que l'objet en question aurait été acheté à une date proche de l'anniversaire de l'intimée mais qu'un bijou serait toutefois un cadeau beaucoup plus vraisemblable qu'un appareil informatique, le recourant se contente de substituer sa propre appréciation à celle de la cour cantonale sans pour autant en démontrer l'arbitraire, de sorte que son grief est irrecevable (cf. supra consid. 2). S'agissant des autres objets listés dans un courrier adressé par le conseil de l'intimée au Président du Tribunal d'arrondissement en date du 9 octobre 2012, il convient de relever que le recourant admet dans les présentes écritures s'être contenté d'avoir conclu "en bloc à libération" dans son procédé complémentaire du 29 octobre 2012. Dans la mesure où certains objets revendiqués par l'intimée n'étaient effectivement plus ou n'avaient jamais été en sa possession, il lui appartenait toutefois d'en faire état dans ses écritures. Faute d'avoir épuisé les instances cantonales, le grief relatif à la restitution des objets litigieux doit également être rejeté.
8.
En dernier lieu, le recourant reprend de manière succincte, sous le titre "résumé et remarques finales", les griefs développés dans son recours et reproche en outre en une phrase à l'autorité cantonale la manière dont elle a calculé le loyer de l'intimée. Dans la mesure où le recourant n'invoque aucun grief d'arbitraire en lien avec ce calcul et ne satisfait manifestement pas aux exigences de motivation posées par l'<ref-law>, son grief doit être déclaré irrecevable.
9.
En conclusion, le recours est partiellement admis, dans la mesure de sa recevabilité, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision dans le sens des considérants. S'agissant de sa requête d'assistance judiciaire, le recourant ne fait qu'alléguer que sa situation serait précaire, son état d'endettement élevé et que ses charges minimales excéderaient ses revenus sans toutefois fournir de pièces de nature à démontrer que sa requête est fondée. Partant, le recourant ne démontre pas que la condition de l'indigence de l'<ref-law> serait remplie, de sorte que sa requête doit être rejetée. Les frais judiciaires, arrêtés à 2'000 fr., sont répartis à raison de 500 fr. à la charge de l'intimée et de 1'500 fr. à la charge du recourant qui succombe dans la plupart de ses chefs de conclusions (<ref-law>). Le recourant versera à l'intimée une indemnité de dépens réduite à hauteur de 1'500 fr. (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est partiellement admis, dans la mesure où il est recevable, l'arrêt attaqué annulé et la cause renvoyée à la cour cantonale pour complément d'instruction et nouvelle décision au sens des considérants.
2.
La requête d'assistance judiciaire du recourant est rejetée.
3.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis pour 500 fr. à la charge de l'intimée et pour 1'500 fr. à la charge du recourant.
4.
Une indemnité de 1'500 fr., à payer à l'intimée à titre de dépens, est mise à la charge du recourant.
5.
Le présent arrêt est communiqué aux parties et à la Juge déléguée de la Cour d'appel civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 26 février 2014
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président: von Werdt
La Greffière: Hildbrand