Faits:
A. D._, née en 1962, a travaillé comme nettoyeuse pour le compte de l'entreprise X._ SA depuis 1990. A partir du 4 août 2005, elle a présenté une incapacité de travail de 100 % en raison d'une hernie discale. Le 13 juin 2006, elle a déposé une demande de prestations de l'assurance-invalidité tendant à l'octroi d'une orientation professionnelle et d'un reclassement dans une nouvelle profession.
Après avoir recueilli divers avis médicaux et mis en oeuvre un stage d'évaluation et d'observation au centre de formation Y._, l'office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a soumis l'assurée à un examen rhumatologique effectué par le docteur R._, spécialiste FMH en médecine physique et rééducation, du Service médical régional de l'AI (SMR). Dans un rapport du 8 novembre 2007, ce médecin a posé comme diagnostic ayant des répercussions sur la capacité de travail des lombosciatalgies séquellaires (syndrome irritatif S1 et troubles de désafférentation S1 droit sur status après cure de hernie discale L5-S1 droite). Après avoir fait état de diverses limitations fonctionnelles, le médecin a indiqué que l'activité antérieure de femme de ménage ne pouvait être exercée à un taux supérieur à 50 %. Une activité adaptée, respectant de façon stricte les limitations fonctionnelles était théoriquement possible à 100 %. Au vu des limitations fonctionnelles, une diminution de rendement de 25 % devait être retenue, de sorte que la capacité de travail globale dans une activité adaptée était de 75 % depuis le mois de mars 2006.
Le 19 mai 2008, l'office AI a informé D._ que son degré d'invalidité, évalué à 36 %, était insuffisant pour ouvrir droit à une rente et qu'il ne comptait pas non plus lui allouer une mesure de reclassement, la condition subjective nécessaire à l'octroi d'une telle mesure n'étant pas remplie en l'espèce. L'assurée ayant contesté ce projet de décision, l'administration l'a confirmé, par décision du 8 septembre 2008.
B. D._ a recouru contre cette décision devant la Cour des assurances sociales du Tribunal cantonal vaudois. Reprochant à l'office AI d'avoir admis qu'elle pouvait exercer une activité adaptée à ses limitations fonctionnelles alors que celle-ci n'existait pas sur le marché du travail, elle concluait à l'octroi d'une rente entière d'invalidité.
La juridiction cantonale a partiellement admis le recours par jugement du 14 octobre 2009. Elle a réformé la décision attaquée, accordant à D._ un quart de rente d'invalidité dès le 1er août 2006.
C. D._ interjette un recours en matière de droit public contre ce jugement dont elle requiert la réforme, concluant à l'octroi d'une rente entière d'invalidité, subsidiairement d'une demi-rente, le tout sous suite de frais et dépens.
Tant l'office AI que l'Office fédéral des assurances sociales ont renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p. 140).
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF) et peut rectifier ou compléter d'office les constatations de celle-ci si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
2. Faisant siennes les conclusions du docteur R._, la juridiction cantonale a constaté qu'en raison des atteintes à la santé de la recourante, les limitations fonctionnelles suivantes devaient être respectées:
- absence de port de charges de plus de 5 kg de façon répétitive,
- absence de position statique assise au-delà de 30 minutes sans possibilité de varier les positions assise et debout, au moins deux fois par heure, de préférence à la guise de l'assurée,
- absence de position en porte-à-faux ou en antéflexion du tronc contre résistance,
- absence de montée ou descente d'escaliers à répétition,
- absence d'activité sur terrain instable ou en hauteur,
- absence de position en génuflexion ou accroupie,
- absence d'activité nécessitant des élévations des membres supérieurs au-delà de 90° de façon répétitive et contre résistance,
- possibilité de réaliser une pause toutes les deux heures pendant laquelle l'assurée peut s'allonger pendant 5 à 10 minutes.
Au vu de ces limitations, la juridiction cantonale a retenu que la recourante disposait depuis le mois d'août 2005 (recte: mars 2006) d'une capacité de travail de 100 % dans une activité adaptée à ces restrictions, mais avec une diminution de rendement de 25 %. Les premiers juges sont partis du revenu sans invalidité retenu par l'office AI (58'133 fr.) et l'ont recalculé, obtenant un montant légèrement plus élevé de 58'176 fr.; ils ont fixé le revenu d'invalide à 32'052 fr., compte tenu d'un abattement de 15 %. Celui-ci était justifié par la présence de plusieurs facteurs susceptibles de limiter la mise en valeur de la capacité de travail: la recourante était âgée de 46 ans et n'avait suivi que l'école primaire, elle avait travaillé pendant 15 ans chez le même employeur et présentait de multiples limitations fonctionnelles. Il résultait de la comparaison de ces revenus un taux d'incapacité de gain de 44,91 %, lequel ouvrait droit à un quart de rente.
3. Sans critiquer les constatations de fait d'ordre médical de l'autorité judiciaire de première instance, la recourante estime que ses limitations fonctionnelles ne lui permettent pas de prétendre à une activité exigible sur le marché du travail. Elle soutient en particulier qu'ajoutée aux autres limitations, la nécessité de faire des pauses toutes les deux heures pour s'allonger entre cinq et dix minutes rend illusoire toute possibilité de retrouver un travail.
4. 4.1 Lorsqu'il s'agit d'examiner dans quelle mesure un assuré peut encore exploiter économiquement sa capacité de gain résiduelle sur le marché du travail entrant en considération pour lui (art. 16 LPGA), on ne saurait subordonner la concrétisation des possibilités de travail et des perspectives de gain à des exigences excessives. Il s'ensuit que pour évaluer l'invalidité, il n'y a pas lieu d'examiner la question de savoir si un invalide peut être placé eu égard aux conditions concrètes du marché du travail, mais uniquement de se demander s'il pourrait encore exploiter économiquement sa capacité résiduelle de travail lorsque les places de travail disponibles correspondent à l'offre de la main d'oeuvre (arrêt I 198/97 du 7 juillet 1998 consid. 3b et les références, in VSI 1998 p. 293). On ne saurait toutefois se fonder sur des possibilités de travail irréalistes. Ainsi, on ne peut parler d'une activité exigible au sens de l'art. 16 LPGA, lorsqu'elle ne peut être exercée que sous une forme tellement restreinte qu'elle n'existe pratiquement pas sur le marché général du travail ou que son exercice suppose de la part de l'employeur des concessions irréalistes et que, de ce fait, il semble exclu de trouver un emploi correspondant (arrêts I 350/89 du 30 avril 1991 consid. 3b, in RCC 1991 p. 329; I 329/88 du 25 janvier 1989 consid. 4a, in RCC 1989 p. 328).
D'après ces critères, il y a lieu de déterminer dans chaque cas et de manière individuelle si l'assuré est encore en mesure d'exploiter une capacité de travail résiduelle sur le plan économique et de réaliser un salaire suffisant pour exclure une rente. Ni sous l'angle de l'obligation de diminuer le dommage, ni sous celui des possibilités qu'offre un marché du travail équilibré aux assurés pour mettre en valeur leur capacité de travail résiduelle, on ne saurait exiger d'eux qu'ils prennent des mesures incompatibles avec l'ensemble des circonstances objectives et subjectives (arrêt 9C_313/2007 du 8 janvier 2008 consid. 5.2 in fine et la référence).
4.2 Il n'est pas contesté en l'espèce que les lombosciatalgies présentées par la recourante ont pour conséquence un certain nombre de limitations fonctionnelles. Si les limitations décrites par le SMR peuvent de prime abord sembler importantes, elles représentent, pauses comprises, les mesures classiques d'épargne lombaire en vue d'éviter les douleurs provoquées par la pathologie susmentionnée. D'un point de vue médical, le SMR a considéré que la recourante était en mesure de reprendre l'exercice d'une activité lucrative, certes légère, à plein temps. Quoi qu'en dise la recourante, il convient d'admettre que le marché du travail offre un éventail suffisamment large d'activités légères, dont on doit convenir qu'un nombre significatif sont adaptées aux limitations de la recourante et accessibles sans aucune formation particulière. A cet égard, la recourante n'établit pas de manière convaincante en quoi des activités simples de manutention légère ou de contrôle, ne seraient pas exigibles au regard des limitations retenues. On rappellera au demeurant qu'il n'y a pas lieu, dans ce contexte, d'examiner dans quelle mesure la situation concrète du marché du travail permettrait à la recourante de retrouver un emploi. En ce qui concerne plus particulièrement la nécessité pour la recourante de réaliser une pause toutes les deux heures pendant laquelle elle peut s'allonger pendant 5 à 10 minutes, les premiers juges ont considéré que le SMR en avait tenu compte puisque le rendement exigible de la recourante avait en définitive été réduit de 25 %.
4.3 La recourante critique par ailleurs le taux d'abattement retenu par la juridiction cantonale pour déterminer son revenu d'invalide. Elle soutient particulièrement qu'au vu de ses limitations fonctionnelles, elle pouvait prétendre à une réduction maximale de 25 %.
Ainsi que l'ont correctement exposé les premiers juges, il y a lieu de faire une distinction entre la prise en compte des limitations fonctionnelles de l'assurée dans la détermination de sa capacité résiduelle de travail (cf. consid. 4.2 supra) et l'impact que peuvent avoir ces limitations fonctionnelles sur les perspectives salariales. La mesure dans laquelle les salaires ressortant des statistiques doivent être réduits dépend de l'ensemble des circonstances personnelles et professionnelles du cas particulier (limitations liées au handicap, âge, années de service, nationalité/catégorie d'autorisation de séjour et taux d'occupation). Une déduction globale maximale de 25 % sur le salaire statistique permet de tenir compte des différents éléments qui peuvent influencer le revenu d'une activité lucrative (cf. ATF 126 V 75 consid. 5b/aa-cc p. 79 s.). L'étendue de l'abattement (justifié dans un cas concret) constitue une question typique relevant du pouvoir d'appréciation, qui est soumise à l'examen du juge de dernière instance uniquement si la juridiction cantonale a exercé son pouvoir d'appréciation de manière contraire au droit, soit si elle a commis un excès positif ou négatif de son pouvoir d'appréciation ou a abusé de celui-ci (cf. ATF 132 V 393 consid. 3.3 p. 399), notamment en retenant des critères inappropriés, en ne tenant pas compte de circonstances pertinentes, en ne procédant pas à un examen complet des circonstances pertinentes ou en n'usant pas de critères objectifs (cf. ATF 130 III 176 consid. 1.2 p. 180).
En l'espèce, la recourante était loin de rassembler en sa personne l'ensemble des critères pouvant justifier un abattement maximal de 25 %. Par conséquent, en retenant un taux d'abattement de 15 % sur le revenu d'invalide pour tenir compte de l'impact des limitations fonctionnelles de la recourante sur ses perspectives salariales, les premiers juges n'ont pas abusé de leur pouvoir d'appréciation.
Mal fondé, le recours doit être rejeté.
5. La recourante, qui succombe, supportera les frais de la procédure (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal vaudois et à l'Office fédéral des assurances sociales.
Lucerne, le 22 septembre 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Fretz Perrin