Faits:
A. A.a Par décision du 15 janvier 1996, K._ a été mis au bénéfice d'une rente entière d'invalidité à partir du 1er juillet 1994, fondée sur un taux d'invalidité de 100 %. A l'époque, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) avait recueilli notamment les avis de la doctoresse G._, spécialiste FMH en médecine interne et rhumatologie, ainsi que des docteurs S._ et C._, médecins auprès de l'Hôpital X._. Se référant aux conclusions des médecins de X._, la division de réadaptation professionnelle de l'office AI avait préconisé l'octroi d'une rente entière d'invalidité. Le droit à cette prestation a été maintenu au cours d'une première révision en 1999.
A.b En mars 2003, l'office AI a initié une nouvelle procédure de révision et confié une expertise rhumatologique et psychiatrique au Centre d'observation médicale de l'assurance-invalidité (COMAI) à W._. Dans leur rapport du 28 octobre 2004, les docteurs L._, spécialiste FMH en rhumatologie, et B._, spécialiste FMH en psychiatrie et psychothérapie, n'ont fait état d'aucun diagnostic ayant des répercussions sur la capacité de travail. En automne 2005, l'assuré a effectué un stage d'observation à la Fondation Y._ d'une durée de trois mois (rapport du 18 novembre 2005), pendant lequel le docteur M._, médecin traitant, a attesté d'une incapacité de travail de 50 % après une semaine. Par la suite, l'office AI a soumis K._ à une nouvelle expertise psychiatrique auprès de la doctoresse O._, spécialiste FMH en psychiatrie et psychothérapie, selon laquelle l'assuré ne présentait pas d'atteinte (psychique) interférant sur la capacité de travail (rapport du 10 juillet 2008). L'office AI a rendu une décision, le 11 décembre 2008, par laquelle il a supprimé la rente d'invalidité de l'intéressé avec effet au premier jour du deuxième mois suivant la notification de la décision.
B. K._ a déféré cette décision à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et produit, en cours de procédure, un rapport établi le 15 avril 2009 par le docteur D._ et la psychologue I._ du Centre hospitalier Z._. Par jugement du 6 avril 2010, la Cour des assurances sociales du Tribunal cantonal vaudois a débouté l'assuré.
C. Agissant par la voie du recours en matière de droit public, K._ demande en substance au Tribunal fédéral de réformer le jugement cantonal, en ce sens que son droit à une rente entière d'invalidité soit maintenu. A titre subsidiaire, il conclut à l'annulation du jugement cantonal et au renvoi de la cause pour nouvelle décision au sens des considérants. Il a assorti son recours d'une demande d'assistance judiciaire et d'une requête en restitution de l'effet suspensif, qui a été rejetée (également en tant qu'elle pouvait être interprétée comme une requête de mesures provisionnelles) par ordonnance du 16 août 2010.
L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le recourant qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées sinon un état de fait divergent ne peut être pris en considération (cf. <ref-law>).
2. Le litige porte sur la suppression, par la voie de la reconsidération, de la rente entière d'invalidité allouée par décision du 15 janvier 1996. A cet égard, le jugement entrepris expose correctement la règle légale et la jurisprudence sur les conditions de la reconsidération applicables au présent cas. Il suffit d'y renvoyer.
3. La juridiction cantonale a retenu que la décision initiale d'octroi de la rente était manifestement erronée, car l'office AI avait statué sur le droit à une rente d'invalidité sans procéder à une comparaison du revenu sans invalidité avec le revenu que l'assuré aurait pu obtenir en exerçant une activité adaptée, laquelle était raisonnablement exigible sur le plan ostéoarticulaire comme il ressortait du rapport de la doctoresse G._. L'intimé s'était uniquement fondé sur les hypothétiques bénéfices, sur le plan thérapeutique, de l'octroi d'une rente entière dont avaient fait état les docteurs S._ et C._ de X._, qui ne s'étaient pas prononcés sur la capacité de travail de l'assuré, pas plus que sur les limitations fonctionnelles qu'il présentait.
Les premiers juges ont ensuite constaté qu'au moment de la décision de reconsidération, le recourant présentait un degré d'invalidité inférieur au seuil ouvrant le droit à une rente d'invalidité. Du point de vue somatique, le recourant disposait en effet d'une pleine capacité de travail dans une activité adaptée aux limitations fonctionnelles décrites par le rapport du COMAI du 28 octobre 2004, ce qu'il ne contestait pas. Sur le plan psychique, se fondant sur les conclusions de la doctoresse O._, l'autorité cantonale de recours a retenu que le seul diagnostic présent était celui de majoration de symptômes physiques pour des raisons psychologiques existant depuis au moins 2004 et que l'assuré disposait d'une capacité de travail entière dans toute activité (ce qu'avaient déjà mis en évidence par le passé les docteurs L._ et B._). Elle a précisé que les rapports du docteur M._ n'étaient pas de nature à remettre en cause l'appréciation de l'experte psychiatre, dès lors qu'ils étaient extrêmement succincts, ne mentionnaient aucun élément objectif dont celle-ci n'avait pas tenu compte et émanaient du médecin traitant, qui n'était pas spécialiste en psychiatrie et psychothérapie. Elle a également écarté le rapport de la Fondation Y._, ainsi que celui des docteurs D._ et I._ qui, en dehors d'un diagnostic déjà posé par leur consoeur O._, avaient fait état d'affections survenues postérieurement à la décision litigieuse, soit de faits nouveaux qui ne pouvaient être pris en considération pour examiner la légalité de celle-ci. Se référant à la comparaison des revenus effectuée par l'intimé en fonction d'une capacité entière de travail dans une activité adaptée, les premiers juges ont confirmé le degré d'invalidité ainsi obtenu de 19 % et, partant, la suppression de la rente.
4. Le recourant soutient tout d'abord que la décision initiale de rente n'était pas manifestement erronée, puisque l'office AI avait retenu, en se fondant sur le rapport de X._ du 2 mai 1995, que l'octroi d'une rente entière était préférable pour "permettre de diminuer ses angoisses" et "d'éviter une surenchère de ses revendications".
4.1 S'il est vrai que les docteurs S._ et C._ se sont prononcés en faveur de l'octroi d'une rente entière d'invalidité ("rente AI à 100 %"), force est de constater que leur appréciation était manifestement insuffisante pour admettre que le recourant présentait une diminution de la capacité de travail et, partant, de gain qui résultait d'une atteinte à la santé mentale (cf. 4 al. 1 LAI dans sa teneur en vigueur jusqu'au 31 décembre 2002). Les médecins de X._ se sont en effet contentés d'indiquer que le recourant "présent[ait] une structure de la personnalité de type paranoïaque", de sorte que "par la persistance de ses troubles somatoformes douloureux, [il] revendiqu[ait] réparation du préjudice de ses douleurs lombaires". Ils ont conclu que "l'évaluation, avec le patient, d'une rente AI 100 % dev[ait] permettre de diminuer ses angoisses comme d'éviter une surenchère de ses revendications". Dès lors que les médecins n'ont pas clairement posé un diagnostic psychiatrique ou, pour le moins, expliqué en quoi la structure de la personnalité de type paranoïaque correspondait à une atteinte psychique, ni pris position sur les effets entraînés par une telle structure de la personnalité sur la capacité de l'assuré à exercer une activité professionnelle, on ne pouvait tirer de leurs constatations un fondement médical suffisant pour reconnaître une atteinte à la santé ayant des répercussions sur la capacité de travail de l'assuré. Au demeurant, leurs conclusions quant à "l'évaluation, avec le patient, d'une rente AI à 100 %" auraient dû faire douter de l'objectivité de leur appréciation puisque l'avis de l'assuré a semblé jouer un rôle non négligeable pour les médecins.
En conséquence, on ne saurait reprocher aux premiers juges d'avoir violé l'<ref-law> en constatant que la décision initiale reposait sur une instruction médicale manifestement insuffisante - le dossier ne contenait aucune évaluation psychiatrique en dehors de celle de X._ - et était (pour ce motif déjà) manifestement erronée.
4.2 C'est en vain que le recourant évoque dans ce contexte les rapports médicaux établis postérieurement à la décision du 15 janvier 1996, tels ceux du docteur M._ (dont le plus récent date du 30 mai 2003). Pour juger s'il est admissible de reconsidérer cette décision pour le motif qu'elle est sans nul doute erronée, il faut en effet se fonder sur les faits et la situation juridique existant au moment où cette décision a été rendue, compte tenu de la pratique en vigueur (<ref-ruling> consid. 3 p. 389 et les arrêts cités).
Comme l'ont par ailleurs retenu à juste titre les premiers juges, la référence que fait à nouveau l'assuré en instance fédérale à l'<ref-ruling> n'est pas pertinente, puisque cet arrêt ne concerne pas la reconsidération en droit des assurances sociales. Cette institution juridique permet de corriger une application initiale erronée du droit ainsi qu'une constatation erronée résultant de l'appréciation de faits, même si celles-ci sont dues entièrement à un manquement de l'administration, pour autant toutefois que l'irrégularité soit manifeste, afin que le principe de la sécurité du droit (invoqué par le recourant) ne soit pas mis à mal (cf. arrêts 9C_575/2007 du 18 octobre 2007 consid. 2.2 et I 907/06 du 7 mai 2007 consid. 3.2.1).
5. 5.1 Le recourant soutient ensuite ne disposer d'aucune capacité résiduelle de travail, même dans une activité adaptée à ses limitations fonctionnelles, de sorte que son degré d'invalidité doit être évalué à 100 %. Il reproche en particulier aux premiers juges de s'être fondés uniquement sur les conclusions de la doctoresse O._, sans tenir compte des avis discordants des docteurs S._ et C._, du docteur M._ et des responsables de la Fondation Y._ et sans avoir procédé à une instruction complémentaire.
5.2 La juridiction cantonale a en l'espèce procédé à une appréciation complète et convaincante des preuves, qui ne saurait être qualifiée d'arbitraire, comme le fait valoir en vain l'assuré.
5.2.1 L'autorité cantonale de recours a, tout d'abord, clairement indiqué les raisons pour lesquelles elle faisait siennes les conclusions de la doctoresse O._ et non celles du docteur M._. A l'inverse de ce qu'allègue le recourant, elle a pris en considération les rapports du médecin traitant dans une appréciation globale de leur valeur probante (cf. <ref-ruling> consid. 3b p. 352) et ne les a pas écartés au seul motif qu'ils avaient été établis par le médecin traitant. Elle a dûment précisé que les avis du docteur M._, qui n'était pas un spécialiste en psychiatrie, étaient extrêmement succincts et ne faisaient état d'aucun élément objectif dont l'experte psychiatre n'avaient pas tenu compte. De même, elle a expliqué de manière convaincante les raisons pour lesquelles les données médicales permettaient une appréciation plus objective que celles des responsables du stage auprès de la Fondation Y._. Ensuite, le rapport des docteurs S._ et C._, qui ne se sont prononcés qu'une seule fois en 1995, n'était d'aucune utilité aux premiers juges pour apprécier si le recourant présentait, au jour de la décision relative à la suppression de la rente par la voie de la reconsidération, un degré d'invalidité suffisant pour maintenir le droit à une rente (entière) d'invalidité (cf. arrêt I 859/05 du 10 mai 2006 consid. 2.3; MEYER, Bundesgesetz über die Invalidenversicherung [IVG], 2ème éd., 2010, ad art. 30/31 LAI p. 387). C'est donc à juste titre que la juridiction cantonale a écarté l'avis de X._ dans ce contexte.
5.2.2 Les critiques d'ordre général du recourant relatives à une prétendue partialité de la doctoresse O._ en raison du rapport de mandat qui la liait à l'intimé ne sont par ailleurs pas fondées. On rappellera que la jurisprudence tient simplement compte de la différence entre un mandat de soins et un mandat d'expertise (<ref-ruling> consid. 3b/cc p. 353). Le Tribunal fédéral n'a en revanche pas posé de règles de préséance fondées uniquement sur le statut des médecins consultés et a toujours considéré que l'indépendance des médecins traitants comme des experts mandatés par l'administration était présumée en l'absence d'éléments concrets permettant d'établir le contraire (cf. <ref-ruling>). Il a toujours jugé que le point essentiel d'un rapport médical était son contenu et non son origine (<ref-ruling> consid. 3a p. 352). En l'occurrence, le fait d'invoquer la jurisprudence concernant la valeur probante des rapports émanant des médecins traitants - qui n'a pas la teneur que le recourant lui attribue - et d'en réclamer l'application analogique à l'experte mandatée par l'office AI ne suffit pas pour mettre en évidence une violation du droit fédéral.
En ce qui concerne le contenu de l'expertise de la doctoresse O._, le recourant reproche à la psychiatre de n'avoir pas retenu le diagnostic de troubles somatoformes douloureux, alors qu'il en présenterait à première vue tous les symptômes. Le recourant se limite cependant à présenter sa propre appréciation de son état de santé sans se référer à un avis médical pour fonder ses allégations, de sorte que celles-ci ne sont pas pertinentes. Elles le sont d'autant moins que l'évaluation de l'experte rejoint celle des médecins du COMAI qui avaient déjà fait état du même diagnostic psychiatrique sans répercussion sur la capacité de travail que leur consoeur ("majoration de symptômes physiques pour des raisons psychiques" F68.0").
5.2.3 Vu ce qui précède, la conclusion du recourant tendant au maintien de sa rente d'invalidité est mal fondée. Il en va de même de sa conclusion subsidiaire relative au renvoi de la cause à la juridiction cantonale pour la mise en oeuvre d'une expertise judiciaire. Dès lors que les rapports médicaux sur lesquels se sont fondés les premiers juges étaient suffisants pour se forger une conviction, un complément d'instruction n'apparaît pas nécessaire.
6. La procédure est onéreuse (<ref-law>). Le recourant, qui succombe, doit en supporter les frais (<ref-law>). Il ne saurait en outre prétendre des dépens (<ref-law>). Cependant, les conditions auxquelles l'art. 64 al. 1 et 2 LTF subordonne l'octroi de l'assistance judiciaire gratuite sont réalisées, de sorte que celle-ci lui est accordée. L'attention de l'intéressé est attirée sur le fait qu'il devra rembourser la caisse du Tribunal s'il devient en mesure de le faire ultérieurement (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. L'assistance judiciaire est accordée au recourant.
3. Il n'est pas perçu de frais judiciaires.
4. Me Philippe Chaulmontet est désigné en tant qu'avocat d'office du recourant et une indemnité de 2'800 fr. lui est allouée à titre d'honoraire, supportée par la caisse du Tribunal.
5. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 28 mars 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless