Faits: A. Le 18 octobre 2007, M._ (née en 1967) a présenté une demande de prestations de l'assurance-invalidité, en invoquant souffrir de dépression. L'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a pris des renseignements économiques auprès de X._, au service duquel la prénommée avait travaillé comme employée principale d'administration jusqu'au 31 août 2005. Il a également recueilli différents rapports médicaux, dont ceux de la doctoresse B._, spécialiste FMH en psychiatrie et psychothérapie, que l'assurée avait consultée jusqu'en automne 2006, des docteurs E._ et A._ du Service de psychiatrie de liaison du Centre hospitalier Y._ et de la doctoresse S._. Dans un rapport du 25 novembre 2008, le docteur K._, psychiatre traitant depuis septembre 2008, a diagnostiqué un trouble dépressif récurrent, épisode actuel moyen, un trouble panique avec agoraphobie et un trouble de la personnalité émotionnellement labile de type borderline; il a attesté d'une incapacité de travail de 50 % dans l'activité exercée précédemment. L'office AI a encore soumis l'assurée à un examen auprès du docteur G._, spécialiste FMH en psychiatrie auprès du Service médical Z._. Faisant état d'une personnalité émotionnellement labile non décompensée (F60.31) et de troubles paniques (F41.0), diagnostics sans répercussion sur la capacité de travail, ce médecin a conclu à une capacité entière de travail dans l'activité habituelle (rapport du 13 février 2009). Après que les docteurs K._ (rapport du 12 mars 2009) et G._ (rapport du 6 mai 2009, co-signé par la doctoresse V._) eurent fait part de leurs observations sur leurs conclusions respectives, l'office AI a, par décision du 9 juillet 2009, rejeté la demande de prestations de l'assurée. En bref, il a considéré qu'elle ne présentait pas d'atteinte à la santé invalidante au sens de la loi. B. M._ a déféré cette décision à la Cour des assurances sociales du Tribunal cantonal vaudois, en produisant un avis de son médecin traitant (du 3 août 2009). Elle a été déboutée par jugement du 29 novembre 2010, les juges cantonaux constatant, sur la base des conclusions du médecin du Service Z._, qu'elle ne présentait pas d'incapacité de travail médicalement avérée dans son activité habituelle ou dans toute autre activité, de sorte qu'elle ne subissait aucune perte de gain. C. M._ interjette un recours en matière de droit public contre le jugement cantonal, dont elle demande l'annulation. Sous suite de frais et dépens, elle conclut au renvoi de la cause au Tribunal cantonal vaudois afin qu'il décide s'il ordonne lui-même une expertise psychiatrique ou renvoie pour ce faire la cause à l'office AI. L'office AI conclut implicitement au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.