Faits: A. A.a M._, mère de trois enfants, a travaillé comme maman de jour depuis 1994, puis dès le 1er juin 2002 en qualité d'employée de la cafétéria auprès de l'Hôpital X._. A partir du 1er décembre 2005, elle a également exercé l'activité de concierge non professionnelle à raison de cinq heures par semaine, puis de deux heures par jour depuis le 1er août 2006. Le 29 décembre 2001, M._ a été victime d'une chute qui a entraîné une fracture bimalléolaire de la cheville gauche, traitée par réduction sanglante et ostéosynthèse avec greffe. Depuis lors, elle a été mise en arrêt de travail à plusieurs reprises pour une durée déterminée, puis indéterminée à partir du 13 octobre 2006. Les suites de l'événement ont été prises en charge par l'assureur-accidents, la Winterthur Assurances (devenu Axa Winterthur). Le 9 janvier 2008, M._ a présenté une demande de prestations de l'assurance-invalidité. L'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a recueilli les pièces médicales du dossier de l'assureur-accidents, dont ceux du docteur R._, médecin chef du département de l'appareil locomoteur du Centre hospitalier Y._, qui a attesté une capacité de travail de 50 % dans un poste adapté (principalement sédentaire) dès le 15 avril 2009 (rapport du 12 mars 2009). L'administration a également requis les avis du docteur B._, médecin traitant, et des médecins de la Clinique Z._, que l'assurée consultait régulièrement depuis mai 2007 (rapport du 14 mai 2009). Après avoir sollicité l'avis de son Service médical régional (SMR), l'office AI a, par décision du 10 janvier 2011, alloué à l'assurée un quart de rente d'invalidité, fondé sur un degré d'invalidité de 49 %, à partir du 1er février 2011. Le 7 mars 2011, il a rendu une décision, par laquelle il a mis M._ au bénéfice d'une rente entière d'invalidité du 1er octobre 2007 au 31 juillet 2009, puis d'un quart de rente à partir du 1er août 2009 (soit trois mois après une amélioration constatée le 15 avril 2009, correspondant à la reconnaissance d'une capacité de travail de 50 % dans une activité adaptée) jusqu'au 31 janvier 2011. A.b Entre-temps, le 2 février 2011, les docteurs A._ et D._, respectivement chef de clinique et médecin assistant de Z._, ont indiqué à l'office AI qu'ils avaient réalisé un examen psychologique de l'intéressée (rapport du 15 décembre 2010) et concluaient à une structure de personnalité psychotique ainsi qu'à un niveau d'intelligence limite. Considérant le courrier des médecins comme une demande d'augmentation de la rente d'invalidité, l'office AI a informé M._, par projet de décision du 3 mars 2011, qu'il comptait rejeter sa demande, au motif que son état de santé ne s'était pas aggravé. Par courrier du 9 avril 2011, la prénommée a contesté le refus d'une rente supérieure à un quart et indiqué que l'Hôpital X._ avait mis fin aux rapports de travail avec effet au 31 mai 2011. Le 12 avril 2011, l'office AI a refusé toute augmentation de la rente d'invalidité. B. M._ a déféré cette décision au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, qui a confié une expertise psychiatrique au docteur U._, spécialiste FMH en psychiatrie et psychothérapie. Dans son rapport du 20 décembre 2011, celui-ci a diagnostiqué un trouble anxieux et dépressif mixte et un trouble mixte de la personnalité, mais n'a pas retenu d'incapacité de travail. Les parties se sont prononcées sur les conclusions de l'expertise, que le docteur U._ a complétée le 17 février 2012. Statuant le 21 septembre 2012, la Cour des assurances sociales a rejeté le recours, dans la mesure où il était recevable (ch. I du dispositif), et confirmé la décision du 12 avril 2011 (ch. II du dispositif). C. Agissant par la voie du recours en matière de droit public, M._ demande au Tribunal fédéral d'annuler le jugement cantonal et la décision du 12 avril 2011, puis de renvoyer la cause à l'office AI "pour entrée en matière sur la demande de révision procédurale du 2 février 2010 (recte 2011), expertise pluridisciplinaire, et nouvelle décision au sens des considérants". Elle sollicite par ailleurs le bénéfice de l'assistance judiciaire.