Faits: A. A.a M._ travaillait en qualité de caissière pour la société X._ à raison de 30 heures par semaine depuis le 1er juillet 2005. Son salaire mensuel s'élevait à 2620 fr. par mois depuis le 1er mars 2007. Souffrant de polyarthrite rhumatoïde séropositive sévère, elle a déposé le 23 novembre 2007 une demande de prestations de l'assurance-invalidité sous forme d'un reclassement dans une nouvelle profession. L'office cantonal de l'assurance-invalidité de Genève (ci-après: l'OCAI) a recueilli des renseignements médicaux et procédé à une enquête économique sur le ménage (cf. rapport du 28 février 2008). Par décision du 16 avril 2008, l'OCAI a rejeté la demande de prestations de l'assurée. Il a considéré que celle-ci présentait un empêchement de 31,5 % dans son activité habituelle - ce qui conduisait à une perte de gain de 23 % vu son taux d'activité de 73 % - et de 42,5 % dans les activités ménagères exercées dans la mesure de 27 %, d'où une incapacité sur ce plan de 11,47 %. En application de la méthode mixte d'évaluation de l'invalidité, l'OCAI a fixé à 34,47 % le degré d'invalidité de l'assurée, lequel était insuffisant pour ouvrir droit à une rente. Quant aux mesures de reclassement, elles n'étaient pas envisageables car elles n'étaient pas de nature à améliorer la capacité de gain de l'assurée. A.b L'assurée a recouru contre cette décision devant le Tribunal des assurances du canton de Genève en concluant, préalablement, à la mise en oeuvre d'une expertise rhumatologique et, principalement, à l'octroi d'une demi-rente d'invalidité ainsi qu'à la prise en charge de mesures professionnelles. Elle indiquait qu'une aggravation de son état de santé intervenue en automne 2007 l'avait contrainte à interrompre son activité, puis à se réorienter sur le plan professionnel. C'est ainsi que son employeur lui avait proposé un stage à l'accueil de Y._, où il était question de lui proposer un emploi fixe à 50 %. Lors d'une audience du 27 novembre 2008, le tribunal cantonal des assurances sociales a entendu la doctoresse T._, cheffe de clinique au service de rhumatologie de l'Hôpital Z._, en qualité de témoin. Celle-ci a confirmé que la maladie dont souffrait l'assurée était évolutive, qu'elle progressait par poussées et engendrait une grande fatigue, laquelle avait une incidence sur la capacité de travail. Elle a également indiqué que dans sa nouvelle activité de caissière-réceptionniste à Y._ exercée à 50 % depuis le mois de février 2008, l'assurée était au maximum de ses capacités, compte tenu de l'asthénie engendrée par la maladie. A.c Par écriture du 3 février 2009, l'OCAI a informé le tribunal cantonal qu'il acceptait de prendre en charge des cours d'anglais en tant que mesure professionnelle. Il a précisé cependant que le droit à une indemnité journalière n'était pas ouvert car l'assurée avait la possibilité de suivre ces cours en dehors de ses heures de travail. Invitée à se déterminer sur cette proposition, l'assurée s'est déclarée satisfaite par la proposition de l'OCAI mais a persisté dans ses conclusions concernant l'allocation d'une demi-rente d'invalidité. Elle alléguait qu'eu égard à son état de santé, les heures effectuées dans son travail de réceptionniste (20 heures 50 par semaine) correspondaient au maximum exigible. Dans cette nouvelle activité, elle réalisait un revenu mensuel de 1804 fr. (cf. courrier du 28 avril 2008 du responsable de gestion des ressources humaines chez X._ à N._). Par ailleurs, l'assurée contestait l'évaluation de son empêchement dans la sphère ménagère. B. Par jugement du 29 octobre 2009, le Tribunal des assurances du canton de Genève a partiellement admis le recours interjeté par l'assurée en ce sens que M._ avait droit à la prise en charge de cours d'anglais (chiffre 2) ainsi qu'à un quart de rente d'invalidité à compter du 26 novembre 2008 (chiffre 3). C. L'OCAI interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation partielle en ce sens que l'assurée n'a pas droit à un quart de rente d'invalidité à compter du 26 novembre 2008. Il conclut au maintien du jugement cantonal pour le surplus. M._ conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.