Faits: A. H._, née en 1961, sans formation ni activité professionnelle, a déposé une première demande de prestations de l'assurance-invalidité (AI) le 27 août 1999. Dans un questionnaire du 1er septembre 1999, l'assurée a indiqué qu'elle aurait exercé une activité lucrative à 100% si elle avait été en bonne santé, par nécessité financière. Par décision du 1er mai 2000, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'OAI) a rejeté sa demande. Suite à ce refus, H._ a déposé une nouvelle demande de prestations le 21 mai 2001, sur laquelle l'OAI n'est pas entré en matière (cf. décision du 6 janvier 2003). Une troisième demande de prestations a été déposée par l'assurée le 5 décembre 2003, sur laquelle l'OAI n'est pas non plus entré en matière (cf. décision du 14 mai 2004). Après que l'assurée eut déposé une quatrième demande de rente le 25 février 2005 en se fondant sur un rapport de son médecin traitant, le docteur B._ (généraliste) du 24 décembre 2004, l'OAI a rendu une décision de non-entrée en matière le 18 mai 2005. L'assurée a formé opposition contre cette décision, en produisant un nouveau rapport du docteur B._, du 9 juin 2005. De son côté, l'OAI a demandé l'avis de son Service médical régional (SMR), lequel a rendu son rapport le 24 juillet 2006. Par une nouvelle décision du 27 octobre 2006, l'OAI a confirmé sa décision de non-entrée en matière du 18 mai 2005, motif pris que l'assurée n'avait pas rendu plausible une aggravation de son état de santé. B. Saisi d'un recours de l'assurée contre cette décision, le Tribunal des assurances du canton de Vaud l'a rejeté par jugement du 7 mai 2008. C. H._ interjette un recours en matière de droit public contre ce jugement dont elle demande la réforme en ce sens que la cause est renvoyée à l'OAI pour instruction complémentaire et nouvelle décision. Elle demande en outre à être mise au bénéfice de l'assistance judiciaire gratuite. L'OAI a conclu au rejet du recours tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.