Faits: A. A.a Par décision du 15 janvier 1996, K._ a été mis au bénéfice d'une rente entière d'invalidité à partir du 1er juillet 1994, fondée sur un taux d'invalidité de 100 %. A l'époque, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) avait recueilli notamment les avis de la doctoresse G._, spécialiste FMH en médecine interne et rhumatologie, ainsi que des docteurs S._ et C._, médecins auprès de l'Hôpital X._. Se référant aux conclusions des médecins de X._, la division de réadaptation professionnelle de l'office AI avait préconisé l'octroi d'une rente entière d'invalidité. Le droit à cette prestation a été maintenu au cours d'une première révision en 1999. A.b En mars 2003, l'office AI a initié une nouvelle procédure de révision et confié une expertise rhumatologique et psychiatrique au Centre d'observation médicale de l'assurance-invalidité (COMAI) à W._. Dans leur rapport du 28 octobre 2004, les docteurs L._, spécialiste FMH en rhumatologie, et B._, spécialiste FMH en psychiatrie et psychothérapie, n'ont fait état d'aucun diagnostic ayant des répercussions sur la capacité de travail. En automne 2005, l'assuré a effectué un stage d'observation à la Fondation Y._ d'une durée de trois mois (rapport du 18 novembre 2005), pendant lequel le docteur M._, médecin traitant, a attesté d'une incapacité de travail de 50 % après une semaine. Par la suite, l'office AI a soumis K._ à une nouvelle expertise psychiatrique auprès de la doctoresse O._, spécialiste FMH en psychiatrie et psychothérapie, selon laquelle l'assuré ne présentait pas d'atteinte (psychique) interférant sur la capacité de travail (rapport du 10 juillet 2008). L'office AI a rendu une décision, le 11 décembre 2008, par laquelle il a supprimé la rente d'invalidité de l'intéressé avec effet au premier jour du deuxième mois suivant la notification de la décision. B. K._ a déféré cette décision à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et produit, en cours de procédure, un rapport établi le 15 avril 2009 par le docteur D._ et la psychologue I._ du Centre hospitalier Z._. Par jugement du 6 avril 2010, la Cour des assurances sociales du Tribunal cantonal vaudois a débouté l'assuré. C. Agissant par la voie du recours en matière de droit public, K._ demande en substance au Tribunal fédéral de réformer le jugement cantonal, en ce sens que son droit à une rente entière d'invalidité soit maintenu. A titre subsidiaire, il conclut à l'annulation du jugement cantonal et au renvoi de la cause pour nouvelle décision au sens des considérants. Il a assorti son recours d'une demande d'assistance judiciaire et d'une requête en restitution de l'effet suspensif, qui a été rejetée (également en tant qu'elle pouvait être interprétée comme une requête de mesures provisionnelles) par ordonnance du 16 août 2010. L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.