Faits: A. Employée de commerce née en 1968, M._ a déposé une demande de prestations de l'assurance-invalidité le 5 mai 2006, en invoquant souffrir d'un syndrome de viscéroptose et d'un côlon spastique sévère depuis plus de vingt ans. Après avoir recueilli les avis des docteurs D._, médecin-chef du Service de gastro-entérologie et d'hépatologie du Centre hospitalier X._, et S._, généraliste, tous deux médecins traitants de l'assurée, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a confié une expertise au Centre d'observation médicale de l'assurance-invalidité (COMAI). Dans leur rapport du 20 juin 2007, les docteurs B._, médecin-chef adjoint, O._, spécialiste FMH en médecine physique et réadaptation, et A._, médecin-chef, ont diagnostiqué, avec effet sur la capacité de travail, des douleurs abdominales d'origine indéterminée. A titre de diagnostics sans effet sur la capacité de travail, ils ont fait état d'une dysthymie, d'un trouble obsessionnel-compulsif, forme mixte avec pensées obsédantes et comportements compulsifs, d'une personnalité émotionnellement labile de type borderline, de trouble hypocondriaque et d'asthme bronchique. Les médecins ont conclu qu'en l'absence de diagnostic définitif au niveau abdominal, il leur était impossible de se prononcer sur la capacité de travail de l'assurée, alors que les autres affections psychiques et physiques ne limitaient pas la capacité de travail en tant que secrétaire. Ils préconisaient des investigations supplémentaires telles qu'indiquées par le docteur I._, spécialiste FMH en gastro-entérologie et médecine interne, dont ils avaient requis l'évaluation spécialisée. Ce médecin a mentionné quatre diagnostics différentiels (entérite inflammatoire de type maladie de Crohn, syndrome adhérentiel avec bride et subvolvulus répétitifs, invagination intestinale récurrente et trouble fonctionnel intestinal de type syndrome de l'intestin irritable) et indiqué ne pas pouvoir poser un diagnostic définitif, avant que certains examens complémentaires ne fussent effectués (rapport du 1er mai 2007, complété le 8 mai suivant). Dans un avis du 16 août 2007, le docteur N._, médecin auprès du Service médical régional de l'assurance-invalidité (SMR) a considéré que l'expertise du COMAI devait être transmise au médecin de l'assurée, afin de mettre en place les investigations recommandées par le docteur I._ dans le cadre de l'assurance-maladie. Par courrier du 5 mai 2008, l'office AI a envoyé l'expertise au docteur S._, en le priant d'y donner la suite qu'il convenait. Celui-ci n'a jamais répondu. Le 16 juillet 2009, le docteur D._ a fait état d'un syndrome sévère du côlon irritable et d'un état anxio-dépressif et retenu que le rendement de l'assurée était réduit de 100 % pendant les crises douloureuses. L'assurée a été soumise à un examen effectué au SMR par les docteurs R._, spécialiste FMH en médecine interne et rhumatologie, et G._, spécialiste FMH en psychiatrie, qui ont conclu à une capacité de travail entière tant sur le plan somatique que psychiatrique (rapport du 2 novembre 2009). Fort de ces conclusions, l'office AI a informé M._ qu'il comptait nier son droit à des prestations de l'assurance-invalidité (projet de décision du 26 novembre 2009). Après avoir obtenu de l'administration un délai pour se déterminer, l'assurée lui a fait parvenir une expertise rendue le 19 juillet 2010 par le docteur F._, spécialiste FMH en gastro-entérologie et hépatologie. Celui-ci a diagnostiqué un syndrome de l'intestin irritable et conclu à une capacité résiduelle de travail de 60 % (l'activité exercée antérieurement étant exigible). Le docteur N._ s'est prononcé sur le dossier de l'assurée (avis du 11 mars 2011) et une enquête économique sur le ménage a encore été mise en oeuvre. Par décision du 25 novembre 2011, l'office AI a nié le droit de M._ à une rente d'invalidité. En bref, il a considéré que l'assurée disposait d'une capacité de travail de 60 % depuis 2004 dans son activité habituelle de secrétaire (qu'elle aurait continué à exercer à 80 % sans atteinte à la santé), de sorte qu'elle subissait une perte de gain de 27,2 %, insuffisante pour ouvrir le droit à une rente. B. M._ a déféré cette décision au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en produisant un avis du docteur I._ (du 23 décembre 2011) et une expertise du docteur C._, spécialiste FMH en psychiatrie et psychothérapie (du 23 juillet 2010). Celui-ci a diagnostiqué des syndromes comportementaux non spécifiés (ici fluctuations dysthymiques), associés à des perturbations physiologiques (ici intestin irritable), qui n'entraînaient aucune incapacité de travail. Par la suite, l'assurée a encore versé à la procédure un rapport du docteur E._, médecin-adjoint du Service de psychiatrie Y._ (du 31 janvier 2012), tandis que l'office AI s'est déterminé en déposant deux avis du SMR (des 1er mars et 29 mai 2012). Par jugement du 10 septembre 2012, le Tribunal cantonal vaudois a débouté l'assurée. C. Agissant par la voie du recours en matière de droit public, M._ demande sous suite de frais et dépens au Tribunal fédéral, principalement, de réformer ce jugement, en ce sens que lui soit reconnu le droit à une rente entière de l'assurance-invalidité depuis la date "que Justice dira". A titre subsidiaire, elle conclut à l'annulation du jugement cantonal et au renvoi de la cause à la juridiction cantonale, voire à l'office AI pour complément d'instruction et nouvelle décision dans le sens des considérants.