Faits:
A. H._, née en 1969, mariée et mère de deux enfants, nés respectivement en 1992 et 1994, est arrivée en Suisse en 1991. Sans formation professionnelle, elle a travaillé dans l'industrie alimentaire entre 1994 et 1999. Le 16 septembre 2003, l'intéressée a déposé une demande de prestations de l'assurance-invalidité, sous la forme d'une rente, invoquant souffrir de dépression depuis la naissance de son premier enfant.
Dans le cadre de l'instruction de la demande, l'assurée a indiqué que si elle était en bonne santé, elle travaillerait à 50% dans l'industrie alimentaire afin de subvenir aux besoins familiaux d'une part, et pour lui permettre de s'occuper de son enfant handicapé, d'autre part.
Dans un rapport du 9 octobre 2003, le docteur F._, généraliste FMH et médecin traitant de l'assurée, a posé comme diagnostic ayant des répercussions sur la capacité de travail, un état dépressif sévère traité par des psychiatres (centre X._), une réaction de deuil, un enfant (trisomique) à charge nécessitant des soins, des problèmes d'adaptation, la disparition et le décès de membres de la famille ainsi que des cervico-dorso-lombalgies. Il a précisé que le pronostic était défavorable sans traitements médicaux et un soutien dans la prise en charge de son enfant handicapé.
Le 1er décembre 2003, les docteurs P._ et L._, respectivement médecin-adjoint et médecin-assistante auprès de l'Hôpital Y._, ont posé le diagnostic de trouble dépressif récurrent épisode actuel sévère sans symptôme somatique, enfant à charge au domicile nécessitant des soins, réaction de deuil, difficultés liées à l'acculturation et disparition et décès d'un membre de la famille. Ils ont retenu que l'assurée présentait un état dépressif récurrent, entretenu par un grave sentiment de culpabilité à l'égard de son enfant handicapé. La chronification de son état ne lui permettait pas d'assurer une activité lucrative à 100%, ni de gérer ses tâches ménagères. Aux yeux des médecins, il était illusoire d'améliorer la capacité de travail de l'assurée - laquelle était nulle depuis le 2 novembre 2001 - par des mesures médicales.
L'assurée a fait l'objet d'un examen psychiatrique auprès du Service médical régional AI (SMR) le 22 septembre 2005. Dans son rapport subséquent du 6 octobre 2005, la doctoresse C._, spécialiste FMH en psychiatrie, n'a retenu aucun diagnostic du point de vue psychiatrique ayant une répercussion sur la capacité de travail. En revanche, elle a noté des difficultés dans les rapports avec le conjoint, des difficultés d'adaptation à une nouvelle étape de vie et une dysthymie, lesquelles étaient sans répercussion sur la capacité de travail. L'examen psychiatrique mettait en évidence une souffrance psychique claire, dont la cause était consécutive au conflit conjugal, lequel ne pouvait être reconnu comme une maladie invalidante. La psychiatre a conclu à une capacité de travail exigible de 100% dans toute activité.
Par décision du 26 octobre 2005, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'OAI) a rejeté la demande de prestations. L'assurée a formé opposition contre cette décision, à l'appui de laquelle elle a produit un rapport des docteurs D._ et L._, respectivement chef de clinique et médecin-assistante auprès de l'Hôpital Y._, du 4 janvier 2006. Dans ce rapport, il est fait état d'un trouble somatoforme associé à une comorbidité psychiatrique (état dépressif récurrent). Selon ces médecins, l'assurée présentait des affections corporelles chroniques, sans rémission durable malgré un traitement antalgique assuré par son médecin traitant, une perte ou une baisse de l'intégration sociale (l'assurée n'ayant pas de vie sociale et n'étant en relation qu'avec les membres de sa famille), un état psychique cristallisé, actuellement sans évolution possible malgré les traitements médicamenteux, associé à un conflit psychique important ainsi que l'échec du traitement des troubles somatoformes conformément aux règles de l'art, lequel est assuré par son médecin traitant.
Dans un rapport du 3 janvier 2007, le docteur M._, généraliste FMH et médecin-conseil auprès du SMR, a admis l'existence d'un état psychique cristallisé mais rejeté les trois autres critères jurisprudentiels retenus par les médecins de l'Hôpital Y._. Par ailleurs, ce médecin a estimé que l'assurée souffrait essentiellement de difficultés d'adaptation à sa condition de vie actuelle, associées à des difficultés familiales mais non d'un trouble dépressif ni d'un trouble somatoforme douloureux invalidants.
Par une nouvelle décision du 12 février 2007, l'OAI a rejeté l'opposition et confirmé sa décision du 26 octobre 2005, estimant la capacité de travail exigible de l'assurée de 100% dans toute activité.
B. H._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud, en concluant préalablement à la mise en oeuvre d'une expertise psychiatrique et, principalement, à l'octroi d'une rente entière d'invalidité.
Par jugement du 13 novembre 2007, le tribunal des assurances a rejeté le recours.
C. H._ interjette un recours en matière de droit public contre ce jugement dont elle demande, principalement, l'annulation et le renvoi de la cause à la juridiction cantonale pour la mise en oeuvre d'une expertise psychiatrique. Subsidiairement, elle conclut à l'annulation du chiffre III du dispositif du jugement attaqué et au renvoi de la cause aux premiers juges afin qu'ils fixent le montant des frais de justice en fonction de la charge liée à la procédure. Elle requiert par ailleurs le bénéfice de l'assistance judiciaire.
Tant l'intimé que l'Office fédéral des assurances sociales ont renoncé à se déterminer.
Considérant en droit:
1. 1.1 Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF).
1.2 En ce qui concerne plus particulièrement l'évaluation de l'invalidité, les principes relatifs au pouvoir d'examen développés dans l'ATF 132 V 393 consid. 3 p. 397 ss (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application qu'elle fait du droit (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (ATF 132 V 393 consid. 3.2 p. 398).
1.3 Les modifications de la LAI du 6 octobre 2006 (5ème révision de la LAI), entrées en vigueur le 1er janvier 2008, n'ont pas à être prises en considération dans le présent litige, eu égard au principe selon lequel les règles applicables sont celles en vigueur au moment de la réalisation de l'état de fait dont les conséquences juridiques font l'objet de la décision (ATF 129 V 1 consid. 1.2 p. 4 et les arrêts cités).
2. Le litige porte sur la question de savoir si la recourante présente une atteinte psychiatrique invalidante, ouvrant droit à des prestations de l'assurance-invalidité. A cet égard, le jugement entrepris expose correctement les règles légales et la jurisprudence sur la notion d'invalidité et son évaluation ainsi que les principes jurisprudentiels relatifs à la valeur probante des rapports médicaux. Il suffit donc d'y renvoyer.
3. Invoquant à la fois une violation du principe de la libre appréciation des preuves (art. 61 let. c LPGA) et la violation de son droit d'être entendue (art. 29 al. 2 Cst.), la recourante reproche aux premiers juges de ne pas avoir ordonné la mise en oeuvre d'une nouvelle expertise psychiatrique afin de départager les avis médicaux contradictoires se trouvant au dossier.
4. 4.1 Le Tribunal fédéral examine librement le grief tiré d'une violation du droit d'être entendu, lequel découle de l'art. 29 al. 2 Cst. et, pour la procédure de recours devant les tribunaux cantonaux en matière d'assurances sociales, des règles énoncées à l'art. 61 LPGA. En particulier, selon l'art. 61 let. c LPGA, le tribunal établit avec la collaboration des parties les faits déterminants pour la solution du litige, administre les preuves nécessaires et les apprécie librement. Cette disposition prévoit ainsi le principe de la libre appréciation des preuves (ATF 125 V 351 consid. 3a p. 352) et le devoir de la juridiction cantonale de procéder à une appréciation complète, rigoureuse et objective des preuves (ATF 132 V 393 consid. 4.1 p. 400). La violation du droit d'être entendu (sur cette notion en corrélation avec l'administration de preuves, cf. ATF 130 II 425 consid. 2.1 p. 429, 119 Ib 492 consid. 5b/bb p. 505 sv.) dans le sens invoqué par l'intéressée est une question qui n'a pas de portée propre par rapport au grief tiré d'une mauvaise appréciation des preuves.
4.2 Selon le principe de la libre appréciation des preuves, le juge apprécie librement les preuves médicales qu'il a recueillies, sans être lié par des règles formelles, en procédant à une appréciation complète et rigoureuse de celles-ci. Le juge doit examiner objectivement tous les documents à disposition, quelle que soit la provenance, puis décider s'ils permettent de porter un jugement valable sur le droit litigieux. S'il existe des avis contradictoires, il ne peut trancher l'affaire sans indiquer les raisons pour lesquelles il se fonde sur une opinion plutôt qu'une autre. Au demeurant, l'élément déterminant pour la valeur probante d'un rapport médical n'est ni l'origine du moyen de preuve ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (ATF 125 V 351 consid. 3a p. 352, 122 V 157 consid. 1c p. 160 et les références). Un rapport médical ne saurait ainsi être écarté pour la simple et unique raison qu'il émane du médecin traitant ou qu'il a été établi par un médecin se trouvant dans un rapport de subordination vis-à-vis d'un assureur.
5. 5.1 En l'espèce, les premiers juges ont confirmé l'absence d'atteinte psychique invalidante de la recourante en se fondant sur les conclusions de l'examen psychiatrique du SMR. Dans son rapport du 6 octobre 2005, la doctoresse C._ a expliqué que la problématique fondamentale dont souffrait la recourante apparaissait être un conflit conjugal majeur survenu dès son mariage en 1988. Celle-ci réagissait à cette situation en passant ses journées au lit et à se positionner dans un rôle d'incompétence totale. Même si elle ne sortait presque pas de chez elle et négligeait la prise en charge de son ménage et de ses enfants, son attitude correspondait à un mécanisme de défense sur un mode passif-agressif. Selon la psychiatre, la capacité de synthèse de l'assurée face aux questions qui lui étaient posées, le fait qu'elle sache très bien que la naissance de son enfant trisomique était une conséquence d'une négligence de sa prise en charge gynécologique et non une punition divine contre l'avortement précédent, confirmait sa volonté délibérée de "jouer au malade". Il n'y avait pas de maladie psychiatrique, mais une volonté de passivité en réponse à un conflit avec son mari et sa belle-famille. La souffrance psychique devait clairement être mise sur le compte de ses problèmes relationnels, aggravés par ceux liés à son expatriation en Suisse. Dans ce contexte, le SMR était d'avis qu'elle ne présentait aucune incapacité de travail, une activité lui permettant d'échapper momentanément aux difficultés relationnelles avec son mari.
5.2 A l'appui de son opposition contre la décision de refus de prestations de l'AI, la recourante a produit un nouveau rapport médical des psychiatres de l'Hôpital Y._, du 4 janvier 2006. Ces médecins ont rappelé les diagnostics qu'ils avaient posé en 2001, à savoir un épisode dépressif sévère sans symptôme psychotique ainsi qu'un deuil pathologique (le père de la recourante avait disparu en Bosnie en 1995, avait été déclaré mort en 2001 et retrouvé puis enterré en 2004). Depuis lors, l'évolution se montrait fluctuante, avec des épisodes dépressifs récurrents et une persistance des douleurs au niveau du dos, des membres supérieurs et inférieurs. L'évolution et la chronification de son état psychique mettaient en évidence un trouble somatoforme douloureux associé à une comorbidité psychiatrique (état dépressif récurrent).
Dans un rapport du 3 janvier 2007, le SMR a pris position sur ce nouveau rapport médical. Il a cependant contesté le diagnostic de trouble somatoforme douloureux, estimant en outre que seul un des critères retenus par la jurisprudence sur les quatre avancés par les médecins de l'Hôpital Y._ était réalisé.
6. 6.1 La juridiction cantonale a estimé qu'il n'y avait pas lieu de s'écarter des observations et conclusions auxquelles était parvenu le SMR. L'avis du SMR était solidement étayé, exempt de toute contradiction et répondait aux questions déterminantes alors que celui des docteurs P._ et L._ n'était pas véritablement motivé. Ils ont suivi l'appréciation du premier, parce que les seconds retenaient le diagnostic de réaction de deuil alors que ses symptômes n'étaient guère décrits et n'apparaissaient pas dans la description de l'état de l'assurée; en outre, la description du comportement de l'assurée et le fait que la thérapie se limitait à un entretien mensuel étaient incompatibles avec le diagnostic de trouble dépressif récurrent, épisode actuel sévère. Enfin, l'allégation d'une invalidité totale de la part des médecins de l'Hôpital Y._ était peu crédible au regard du fait que la recourante avait travaillé à plein temps jusqu'en 1999 et qu'aucune décompensation ultérieure entraînant une incapacité de travail totale depuis le 2 novembre 2001 n'était étayée. Quant au trouble somatoforme diagnostiqué par les médecins de l'Hôpital Y._, il n'avait aucun caractère invalidant, non seulement parce qu'une comorbidité psychiatrique faisait défaut, mais encore parce que les autres critères mentionnés par la jurisprudence pour fonder le caractère non exigible de la réintégration dans le processus de travail n'étaient pas réalisés.
6.2 La recourante ne formule à juste titre aucune critique à l'égard des rapports du SMR. Le rapport d'examen psychiatrique du SMR répond aux critères définis par la jurisprudence pour accorder pleine valeur probante à une expertise médicale. Il contient une anamnèse complète et un résumé des renseignements tirés du dossier; il fait également état des indications subjectives de l'intéressée ainsi que du résultat des observations faites au cours de l'examen clinique ("status psychiatrique"); les conclusions auxquelles il a abouti sont motivées de manière convaincante. Les médecins de l'Hôpital Y._, dans leur rapport du 4 janvier 2006, se limitent en revanche à rappeler le diagnostic qu'ils avaient déjà posé dans leur rapport précédent, à savoir un état dépressif récurrent et un deuil pathologique, sans toutefois décrire les symptômes de ce dernier. Ils ne se prononcent pas non plus sur l'évaluation du SMR, si ce n'est pour préciser que la dysthymie retenue par celui-ci est décrite comme une dépression chronique de l'humeur, mais dont la sévérité est insuffisante et la durée des différents épisodes trop brève et que ce diagnostic correspondait à l'état psychique de la recourante à la fin des années 1990. Ils ne font pas non plus état des problèmes familiaux et d'intégration de la recourante alors que selon le SMR, toute la problématique psychique de la recourante repose sur ces éléments. Quant au diagnostic de trouble somatoforme associé à une comorbidité psychiatrique, il est très peu étayé, les médecins se contentant de relever que les quatre critères précisés par la jurisprudence étaient remplis en l'espèce. Dans ces circonstances, le rapport des médecins de l'Hôpital Y._ apparaît insuffisamment motivé, ses auteurs ne tenant au demeurant pas suffisamment compte des conclusions contraires de l'expertise du SMR. Vu ce qui précède, le rapport des médecins de l'Hôpital Y._ n'était pas de nature à mettre en doute les conclusions de l'expertise psychiatrique du SMR. Dans ces conditions, la recourante ne peut faire grief à la juridiction cantonale de s'être écartée de leurs conclusions sans ordonner une nouvelle expertise psychiatrique.
7. A titre subsidiaire, la recourante s'en prend au montant des frais judiciaires. A son avis, "rien ne permet d'imaginer que le tribunal des assurances a fourni plus de travail que dans d'autres cas où les frais de justice n'atteignent pas 1000 fr. En effet, les faits retenus constituent deux pages et demie, la partie droit est des plus ordinaires, avec des jurisprudences connues qui apparaissent dans la plupart des jugements rendus, aucune audience n'a été fixée, ni mesures d'instruction ordonnées".
La juridiction cantonale a fondé sa décision relative aux frais judiciaires sur l'art. 69 al. 1bis LAI, lequel prévoit notamment que le montant des frais est fixé en fonction de la charge liée à la procédure, indépendamment de la valeur litigieuse, et doit se situer entre 200 et 1000 fr. Quoi qu'en dise la recourante, la charge liée à une procédure ne se mesure pas ou, du moins, pas seulement au nombre de pages du jugement attaqué ou au nombre de mesures d'instruction mises en oeuvre. Si le présent litige ne présente pas de difficultés particulières d'un point de vue juridique, on ne saurait sous-estimer la charge qu'il représente pour un tribunal cantonal, tant il est vrai que l'appréciation de la capacité de travail d'un assuré, lorsque celui-ci souffre de troubles psychiques, figure parmi les questions les plus délicates et les plus controversées dans les litiges en matière de prestations de l'assurance-invalidité. Dans ces circonstances, un émolument de justice de 1000 fr. n'apparaît pas critiquable.
Mal fondé, le recours doit par conséquent être rejeté.
8. La recourante a sollicité le bénéfice de l'assistance judiciaire pour l'instance fédérale. Les conditions d'octroi de l'assistance judiciaire gratuite étant réalisées (art. 64 al. 1 et 2 LTF), celle-ci lui est accordée de sorte qu'elle sera dispensée des frais judiciaires et que les honoraires de son avocat seront pris en charge par la caisse du Tribunal fédéral. L'attention de la recourante est attirée sur le fait qu'elle devra rembourser la caisse du Tribunal fédéral si elle devient en mesure de le faire ultérieurement (art. 64 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. L'assistance judiciaire est accordée à la recourante.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante. Ils sont provisoirement supportés par la caisse du Tribunal.
4. Une indemnité de 1'500 fr., supportée par la caisse du Tribunal, est allouée à Me Hüsnü Yilmaz à titre d'honoraires.
5. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 11 novembre 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Fretz