Faits:
A.
Par prononcé du 3 juillet 2013, le Tribunal de police de l'arrondissement de La Côte a pris acte des retraits de plainte et a ordonné la cessation des poursuites pénales dirigées contre A._ et B._, a mis une part des frais de la cause par 1500 fr. à la charge de B._, une part de 1700 fr. à la charge de A._ et laissé le solde à la charge de l'Etat.
B.
Statuant sur l'appel formé par A._, la Cour d'appel pénale du Tribunal cantonal vaudois l'a rejeté par jugement du 13 août 2013.
En bref, il en ressort les éléments suivants.
A._, serveuse dans le restaurant géré par B._, a été accusée d'avoir, à tout le moins entre l'automne 2009 et le 15 février 2010, dérobé de l'argent dans la caisse enregistreuse pour un montant global estimé à 50 fr. et de la nourriture. Elle aurait également omis volontairement de facturer certaines consommations de clients et encaissé l'argent pour elle-même. Le 15 février 2010, A._ a été licenciée et est montée au domicile de son employeur, B._, situé à l'étage du restaurant, pour régler la fin de leurs rapports de travail. Il s'en est suivi une altercation. A._ a été accusée d'avoir injurié et menacé B._ qui de son côté aurait commis des voies de fait. B._ et A._ ont chacun déposé une plainte pénale, respectivement les 19 février et 13 avril 2010, plaintes finalement retirées à l'audience devant le tribunal de première instance.
C.
A._ forme un recours en matière pénale au Tribunal fédéral contre ce jugement. Elle conclut, avec suite de frais et dépens, à sa réforme en ce sens qu'aucune participation aux frais de la cause de première instance n'est mise à sa charge. Elle requiert par ailleurs l'assistance judiciaire.
Invités à déposer des observations sur le recours, la cour cantonale et le Ministère public y ont renoncé, se référant aux considérants de la décision attaquée.

Considérant en droit:
1.
Se plaignant d'une violation de l'<ref-law> et de l'établissement arbitraire des faits, la recourante conteste la mise à sa charge d'une part des frais de la procédure de première instance.
1.1. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). La partie recourante ne peut ainsi critiquer ces faits que s'ils ont été établis en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (cf. <ref-ruling> consid. 2.4 p. 313; sur la notion d'arbitraire, v. <ref-ruling> consid. 6.1 p. 379 s.), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le Tribunal fédéral n'entre en matière sur les moyens fondés sur la violation de droits fondamentaux que s'ils ont été invoqués et motivés de manière précise (<ref-law>). L'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits violés et préciser en quoi consiste la violation (<ref-ruling> consid. 1.3.1 p. 68 et les références citées). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 5.1 p. 356 et les références citées).
1.2. L'<ref-law> prévoit que les frais de procédure sont mis à la charge de la Confédération ou du canton qui a conduit la procédure, sauf disposition contraire. Selon l'<ref-law>, lorsque la procédure fait l'objet d'une ordonnance de classement ou que le prévenu est acquitté, tout ou partie des frais de procédure peuvent être mis à sa charge s'il a, de manière illicite et fautive, provoqué l'ouverture de la procédure ou rendu plus difficile la conduite de celle-ci.
Un retrait de plainte, comme en l'espèce, s'apparente d'un point de vue procédural à un classement (cf. art. 319 al. 1 let. d CPP). En ce sens, l'<ref-law> est susceptible de s'appliquer dans le cadre d'un retrait de plainte pour une infraction poursuivie sur plainte (arrêt 6B_87/2012 du 27 avril 2012 consid. 1.1).
La condamnation d'un prévenu acquitté à supporter tout ou partie des frais doit respecter la présomption d'innocence, consacrée par les art. 32 al. 1 Cst. et 6 par. 2 CEDH. Celle-ci interdit de rendre une décision défavorable au prévenu libéré en laissant entendre que ce dernier serait néanmoins coupable des infractions qui lui étaient reprochées. Une condamnation aux frais n'est ainsi admissible que si le prévenu a provoqué l'ouverture de la procédure pénale dirigée contre lui ou s'il en a entravé le cours. A cet égard, seul un comportement fautif et contraire à une règle juridique, qui soit en relation de causalité avec les frais imputés, entre en ligne de compte (<ref-ruling> consid. 1b p. 334; <ref-ruling> consid. 2c p. 168).
Pour déterminer si le comportement en cause est propre à justifier l'imputation des frais, le juge peut prendre en considération toute norme de comportement écrite ou non écrite résultant de l'ordre juridique suisse pris dans son ensemble, dans le sens d'une application par analogie des principes découlant de l'<ref-law> (ATF 119 la 332 consid. 1 b p. 334; 116 la 162 consid. 2c p. 169). Le fait reproché doit constituer une violation claire de la norme de comportement (ATF 119 la 332 consid. 1 b p. 334; 116 la 162 consid. 2d p. 171). En cas d'acquittement partiel, la jurisprudence a reconnu qu'une certaine marge d'appréciation devait être laissée à l'autorité parce qu'il est difficile de déterminer avec exactitude les frais qui relèvent de chaque fait imputable ou non au condamné (arrêts 6B_218/2013 du 13 juin 2013 consid. 5.2; 6B_45/2011 du 12 septembre 2011 consid. 3.1). Ce principe doit également valoir dans le cas où seule une partie des faits pour lesquels le poursuivi a bénéficié d'un acquittement constitue un comportement fautif contraire à une règle juridique.
1.3. En substance, la cour cantonale a retenu, sur la base de deux témoignages, que l'essentiel des faits à l'origine de la procédure étaient établis. La recourante avait prélevé indûment de l'argent dans la caisse enregistreuse et n'avait pas enregistré certaines consommations et encaissé l'argent pour elle. Ce comportement était fautif sur le plan civil et se trouvait à l'origine de la plainte et de l'ouverture de l'enquête pénale. Le comportement de la recourante ayant une relation de causalité avec les frais imputés, il y avait lieu d'appliquer l'<ref-law> et de maintenir la part des frais de procédure de première instance par 1700 fr. à la charge de la recourante.
1.4. La recourante soutient que ce serait l'altercation du 15 février 2010 qui serait à l'origine de la plainte de B._ et non les vols, qui n'auraient été évoqués qu'à la toute fin de la plainte de celui-ci. Les faits reprochés à la recourante durant cette altercation n'ayant pas été établis, c'est de manière arbitraire que la cour cantonale aurait retenu que le comportement fautif de la recourante, pour l'essentiel des faits, était avéré, qu'il avait un lien de causalité avec les frais imputés et qu'il convenait ainsi de maintenir sa part des frais à 1700 francs. De plus, la recourante avait elle-même déposé plainte contre B._ pour les événements du 15 février 2010. Ce n'était qu'à l'audience de jugement du 3 juillet 2013 que B._ avait admis les faits, permettant le retrait des plaintes respectives. S'il avait d'emblée reconnu ceux-ci, des mesures d'instruction auraient pu être évitées et par conséquent des frais également.
1.5. Dans une grande mesure, l'argumentation de la recourante consiste à opposer sa propre appréciation des faits à celle de la cour cantonale, sans démontrer en quoi celle-ci serait arbitraire. A cet égard, sa critique est appellatoire, partant irrecevable. Pour le surplus, il ressort du dispositif du jugement de première instance qu'une part des frais à hauteur de 1700 fr. a été mise à la charge de la recourante, mais également qu'une part de 1500 fr. a été mise à la charge de B._ et qu'enfin le solde a été laissé à la charge de l'Etat. La cour cantonale a retenu qu'il était établi que la recourante avait pris indûment de l'argent dans la caisse du restaurant de B._ et qu'elle avait volontairement omis de facturer certaines consommations pour garder l'argent. On comprend ainsi de la motivation cantonale que la part de 1700 fr. correspond aux frais relatifs à ce comportement fautif. Il constitue bien, au demeurant, un comportement contraire à une règle juridique, ce que la recourante ne conteste pas. Quant à la part des frais relatifs à l'altercation, elle a été pour partie mise à la charge de B._ et pour partie à celle de l'Etat. La recourante ne prétend, ni ne démontre que cette répartition des frais violerait la marge d'appréciation de l'autorité cantonale à cet égard et tel n'est pas le cas. La cour cantonale n'a ainsi pas violé le droit fédéral.
2.
La recourante soutient que la cour cantonale aurait commis un déni de justice en n'examinant pas la possibilité d'appliquer l'<ref-law> comme elle l'avait requis devant cette autorité. Elle se plaint également du fait que la cour cantonale n'a pas tenu compte de sa situation financière, moins favorable et établie par pièces, au moment où elle a statué, mais de celle ressortant du jugement de première instance.
2.1. Selon la jurisprudence, commet un déni de justice formel et viole l'art. 29 al. 1 Cst. l'autorité qui ne statue pas ou n'entre pas en matière sur un recours ou un grief qui lui est soumis dans les formes et délai légaux, alors qu'elle était compétente pour le faire (<ref-ruling> consid. 2.1 p. 9; <ref-ruling> consid. 2.3 p. 232). Le droit d'être entendu, garanti par l'art. 29 al. 2 Cst. implique en outre pour l'autorité l'obligation de motiver sa décision; elle peut toutefois se limiter aux questions décisives pour l'issue du litige (<ref-ruling> consid. 2.2 p. 84; <ref-ruling> consid. 4.1 p. 88 et les références citées).
2.2. L'arrêt attaqué est muet sur la question de l'application de l'<ref-law>, bien que la recourante en ait requis l'application dans son appel (cf. pièce 48/1 du dossier cantonal). La cour cantonale s'est limitée à confirmer la part des frais mise à la charge de la recourante et ne s'est pas prononcée sur la possibilité de réduire ou remettre les frais compte tenu de la situation de la personne astreinte à les payer. Ce faisant, la cour cantonale a violé l'art. 3 al. 2 let. c CPP et l'art. 29 Cst., de sorte que le recours doit être admis sur ce point. Il appartiendra à la cour cantonale de statuer sur cette question en tenant compte de toutes les circonstances et de la situation, notamment financière, de la recourante au moment où elle statue.
3.
Le recours doit être partiellement admis, l'arrêt attaqué annulé et la cause renvoyée à la cour cantonale pour qu'elle statue sur la question de l'application de l'<ref-law>. Pour le surplus, le recours est rejeté dans la mesure où il est recevable.
La recourante a requis l'assistance judiciaire. Cette requête est sans objet dans la mesure où elle obtient gain de cause et peut, à ce titre, prétendre à des dépens réduits de la part du canton (art. 64 al. 2 et 68 al. 1 LTF). Le recours était, pour le surplus, dénué de chance de succès, si bien que l'assistance judiciaire doit être refusée dans cette mesure (<ref-law>). Une partie des frais sera ainsi supportée par la recourante (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière.

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est partiellement admis, le jugement attaqué annulé et la cause renvoyée à l'autorité cantonale pour nouvelle décision. Pour le surplus, le recours est rejeté, dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
3.
La demande d'assistance judiciaire est rejetée dans la mesure où elle n'est pas sans objet.
4.
Une indemnité de 1000 fr., à verser au conseil de la recourante à titre de dépens, est mise à la charge du canton de Vaud.
5.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 27 mars 2014
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Livet