Faits: A. A._ a travaillé en qualité de vendeuse auprès de X._ SA, à plein temps à partir du mois de mars 1987, puis à 90 % dès le 1er janvier 2005. Invoquant différentes incapacités de travail présentées à partir du 23 mars 2006 en raison d'une arthrose, elle a déposé le 22 juin 2007 une demande de prestations tendant à l'octroi d'une rééducation dans la même profession auprès de l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI); l'assurée a précisé que depuis le 1er juin 2007, elle travaillait à 50 %. Dans le cadre de l'instruction de la demande, l'administration a sollicité le docteur L._, spécialiste FMH en médecine interne générale et médecin traitant, lequel a retenu une capacité de travail de 70 à 90 % dans une activité adaptée (rapport du 4 août 2007). L'office AI a également interpellé le docteur N._, spécialiste FMH en neurologie, pour qui l'activité habituelle pouvait être exercée avec une diminution de rendement de 50 % alors qu'un aménagement du poste de travail de l'intéressée lui permettrait très probablement de recouvrer une capacité de travail entière dans un délai d'une année (rapport du 15 octobre 2007). L'administration a encore procédé à une enquête économique sur le ménage retenant notamment un statut mixte (rapport du 17 janvier 2008) et mandaté le docteur S._, spécialiste FMH en rhumatologie et en médecine interne générale, afin qu'il réalise une expertise. Celui-ci a conclu à l'exigibilité de l'activité habituelle à 50 % et d'une activité adaptée à 90 % (rapport du 20 février 2008). Interpellé à nouveau par l'office AI, le docteur L._ a conclu à une capacité de travail de 50 % dans l'activité habituelle et entière dans une activité adaptée (rapport du 25 février 2008). Les docteurs C._, spécialiste FMH en anesthésiologie, et H._, médecins auprès du Service médical régional de l'office AI (ci-après: le SMR), ont pour leur part entériné les conclusions de l'expert (rapport du 1er avril 2008). Lors d'un entretien du 5 août 2008, l'office AI a fait savoir à l'assurée qu'il la considérait comme capable d'exercer à 90 % une activité adaptée à son état de santé. L'intéressée a alors indiqué qu'elle souhaitait demeurer au service de son employeur actuel; elle espérait, par le biais d'une formation interne, accéder à un poste administratif ou de caissière et augmenter son taux de travail pour atteindre celui que l'administration tenait pour exigible. L'office AI a estimé que A._ disposait des compétences nécessaires à l'exercice de ce type d'activités et qu'il y avait lieu d'examiner avec X._ SA la faisabilité de ce projet. Le 6 octobre 2008, l'employeur de l'assurée a indiqué à l'office AI que celle-ci présentait de nouvelles atteintes à la santé. L'administration a alors recueilli l'avis des docteurs N._ (rapport du 21 octobre 2008), R._, spécialiste FMH en médecine interne générale auprès du SMR (rapport du 27 octobre 2008) et L._ (rapport du 15 novembre 2008). Par décision du 4 septembre 2009 confirmant un projet du 7 mai précédent, l'administration a reconnu le droit de A._ à une rente entière d'invalidité du 1er mars au 31 août 2007. Elle estimait que l'assurée avait été en incapacité totale de travail de mars 2006 à mai 2007, laquelle justifiait dans le cadre de la méthode mixte d'évaluation une invalidité de 93 %; en revanche, depuis juin 2007 la capacité résiduelle de travail était de 90 % dans une activité adaptée, dans l'industrie légère, comme aide de bureau ou réceptionniste d'hôtel et il en résultait un degré d'invalidité global de 35 %, insuffisant pour justifier le maintien du droit à la rente. L'assurée ne pouvait dès lors plus prétendre à aucune prestation pour la période postérieure au 31 août 2007. B. A._ a déféré cette décision devant le Tribunal cantonal du canton de Vaud, Cour des assurances sociales. Par jugement du 31 octobre 2011, celui-ci a partiellement admis le recours, reconnu à l'assurée le droit à une rente entière entre le 1er mars et le 31 août 2007 suivie d'un quart de rente du 1er septembre 2007 au 31 août 2009, et renvoyé la cause à l'office AI pour instruction complémentaire puis nouvelle décision s'agissant de la période postérieure au 31 août 2009. C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut à la confirmation de sa décision du 4 septembre 2009. L'intimée conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.