Faits:
A. Le 26 octobre 2005, S._ a présenté une demande de prestations de l'assurance-invalidité, singulièrement une "rééducation dans la même profession". Entre autres mesures d'instruction, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a confié une expertise au docteur A._, spécialiste FMH en psychiatrie et psychothérapie. Dans son rapport du 17 juillet 2008, ce médecin a conclu à une incapacité entière de travail dans toute activité en raison de troubles psychiques. Après avoir été informé par l'office AI qu'il comptait lui allouer une rente entière d'invalidité, l'assuré a fait verser à son dossier un rapport du docteur M._, spécialiste FMH en psychiatrie et psychothérapie, selon lequel il disposait d'une capacité entière de travail. Par décision du 8 août 2011, l'office AI a mis S._ au bénéfice d'une rente entière d'invalidité, fondée sur un degré d'invalidité de 80 %, à partir du 1er octobre 2004.
B. L'assuré a interjeté un recours contre cette décision, en concluant à son annulation et au renvoi de la cause pour nouvelle décision. Statuant le 9 juillet 2012, le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, a rejeté le recours dans la mesure où il était recevable et a confirmé la décision du 8 août 2011.
C. Agissant par la voie du recours en matière de droit public, S._ demande sous suite de frais et dépens au Tribunal fédéral d'annuler le jugement cantonal et la décision administrative, ainsi que de supprimer la rente de l'assurance-invalidité "dès l'arrêt du Tribunal fédéral". A titre subsidiaire, il conclut au renvoi "à la première autorité pour nouvelle décision au sens des considérants".
Considérant en droit:
1. Conformément à l'art. 89 al. 1 let. c LTF, la qualité pour exercer un recours en matière de droit public suppose un intérêt digne de protection à l'annulation ou à la modification de la décision attaquée. Selon la jurisprudence, l'intérêt digne de protection consiste en l'utilité pratique que l'admission du recours apporterait au recourant, en lui évitant de subir un préjudice de nature économique, idéale, matérielle ou autre que la décision attaquée lui occasionnerait; l'intérêt invoqué ne doit pas être juridiquement protégé mais peut être un intérêt de fait (ATF 131 II 649 consid. 3.1 p. 651; cf. aussi ATF 135 II 145 consid. 6.1 p. 150; 133 II 400 consid. 2.2 p. 404 s. et les arrêts cités).
Au regard des conclusions du recourant, qui tendent à faire supprimer en instance fédérale une prestation qui lui a été octroyée, on peut douter de l'existence d'un intérêt digne de protection à l'annulation du jugement entrepris et de la décision administrative, par laquelle le droit à une rente entière d'invalidité lui a été reconnu. La recevabilité du recours sous cet angle peut cependant rester indécise, parce qu'il doit être rejeté pour les motifs qui suivent.
2. Saisi d'un recours en matière de droit public, le Tribunal fédéral statue sur la base des faits retenus par la juridiction de première instance (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Le recourant ne peut critiquer la constatation des faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 LTF). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF, et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF).
3. Sur le fond, le recourant soutient que l'expertise du docteur A._, dont les conclusions ont été suivies par les premiers juges pour constater qu'il était totalement incapable de travailler depuis 2002, n'a pas valeur probante. Il se borne cependant dans une très large mesure à citer des extraits du rapport du 17 juillet 2008 pour en déduire l'absence de valeur probante, sans établir en quoi l'expertise du docteur A._ ne remplirait pas les exigences posées par la jurisprudence en la matière (cf. ATF 125 V 351). Pour le reste, c'est en vain qu'il reproche au médecin d'avoir posé les diagnostics sur la base de "check-listes du CIM et DSM-IV-TR" sans avoir effectué de "test biologique", puisque la reconnaissance de l'existence d'une atteinte à la santé psychique suppose précisément la présence d'un diagnostic émanant d'un expert (psychiatre) et s'appuyant lege artis sur les critères d'un système de classification reconnu, tel le CIM ou le DSM-IV (ATF 130 V 396 consid. 6.3 p. 403; 131 V 49 consid. 1.2 p. 50).
En tant que le recourant se borne ensuite à alléguer que "l'entier des faits de l'expertise ne permettent pas d'établir une quelconque causalité entre la soi-disant affection et l'incapacité de gain", il oppose sa propre appréciation des faits à celle des premiers juges, sans toutefois démontrer en quoi leur point de vue découlerait d'une appréciation manifestement inexacte des faits ou d'une application erronée du droit fédéral. Il n'y a dès lors pas lieu de s'écarter des constatations de fait de la juridiction cantonale, ni de l'appréciation qu'elle en a faite (consid. 2 supra).
En conséquence, le recours se révèle mal fondé et doit être rejeté selon la procédure simplifiée de l'art. 109 al. 2 let. a LTF, sans qu'il y ait lieu d'ordonner un échange d'écritures.
4. Compte tenu de l'issue du recours, les frais judiciaires sont mis à la charge du recourant (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 12 décembre 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Moser-Szeless