Faits:
A. A.a D._ a travaillé comme aide-couvreur. Le 24 novembre 1997, il a été victime d'un accident professionnel ayant entraîné des fractures à la colonne vertébrale. La CNA a pris en charge le cas. Par décision du 25 avril 2007, confirmée sur opposition le 29 mai 2008, elle a supprimé le droit de l'intéressé à des prestations, motif pris qu'il avait recouvré une pleine capacité de travail dans une activité adaptée. La décision est entrée en force de chose décidée.
A compter du 1er mai 2007, D._ a travaillé en qualité de ferrailleur. Le 21 juin suivant, alors qu'il se trouvait sur un chantier, il a subi un nouvel accident pour lequel il été hospitalisé à la Clinique X._ du 11 au 28 décembre 2007. Après s'être adjoint les services des docteurs M._ et A._, spécialistes FMH en neurologie, et de la physiothérapeute B._, les docteurs R._, spécialiste FMH en médecine physique et réhabilitation et en rhumatologie, et V._ ont posé les diagnostics de dorsolombalgies chroniques irradiant dans les membres inférieurs, de cervicalgies chroniques, de cyphose D11-L2 (séquelle post-traumatique), de fractures de D11 et L1 en 1997 suivies d'une ostéosynthèse D12-L2 puis d'une ablation du matériel d'ostéosynthèse en 1998 et de discret rétrolisthésis L2-L3 d'origine dégénérative. Considérant que l'accident de juin 2007 n'avait pas affecté durablement l'état de santé de l'intéressé, ces spécialistes n'ont pas retenu d'incapacité de travail dans l'activité habituelle postérieure à son séjour dans l'établissement précité (rapport du 10 janvier 2008). Après avoir examiné l'assuré, le docteur O._, spécialiste FMH en chirurgie et médecin d'arrondissement à la CNA, a estimé que l'accident de juin 2007 n'avait eu qu'une faible incidence sur l'état de santé de l'assuré et ne développait plus d'effets (rapport du 10 mars 2008). Par décision du 9 avril 2008 confirmée sur opposition le 29 mai suivant, la CNA a mis fin avec effet au 31 mars 2008 aux prestations allouées à D._ à la suite de son second accident. Le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, puis le Tribunal fédéral ont rejeté les recours formés par l'intéressé (jugement du 16 juin 2009, respectivement arrêt du 7 avril 2010 [8C_698/2009]).
A.b Le 28 février 2008, D._ a déposé une demande de prestations auprès de l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) en raison de douleurs dorsales. Dans le cadre de l'instruction de cette demande, l'administration a notamment interpellé les docteurs R._ et V._, lesquels ont indiqué que l'accident du 21 juin 2007 n'avait pas eu d'effets durables sur la capacité de travail de l'intéressé, et E._, spécialiste FMH en médecine générale et médecin traitant (rapports des 13 mai respectivement 26 mars 2008). Le 16 avril 2009, l'office AI a envisagé de refuser à l'assuré le droit à des prestations au motif qu'il disposait d'une pleine capacité de travail dans une activité adaptée. S'opposant à ce projet, D._ a fait verser à son dossier un rapport des docteurs U._, spécialiste FMH en psychiatrie et psychothérapie, et L._, médecins auprès du département de psychiatrie de la Clinique Y._, lesquels faisaient état d'un épisode dépressif "moyen, léger à moyen" et d'un trouble somatoforme douloureux (rapport du 11 mars 2009). Après avoir soumis ce document à l'appréciation de son Service médical régional (ci-après: le SMR; rapport des docteurs Q._, spécialiste FMH en chirurgie, et C._, spécialiste FMH en anesthésiologie, du 17 juin 2009), l'office AI a confirmé sa position par décision du 23 septembre 2009.
B. L'assuré a déféré cette décision auprès du Tribunal cantonal du canton de Vaud, Cour des assurances sociales, concluant principalement à l'octroi d'une rente entière de l'assurance-invalidité et subsidiairement au renvoi de la cause à l'administration pour instruction complémentaire et nouvelle décision. Il a déposé l'avis du docteur S._, de la Clinique Z._ (rapport du 30 mars 2010). Le Tribunal cantonal l'a débouté par jugement du 18 octobre 2011.
C. D._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut au renvoi de la cause au Tribunal cantonal, éventuellement à la CNA (recte: à l'office AI), pour complément d'instruction sous la forme d'une expertise pluridisciplinaire et nouvelle décision; il sollicite le bénéfice de l'assistance judiciaire pour la procédure fédérale.
Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.
Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente. Il n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF, et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). La partie recourante qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées sinon un état de fait divergent ne peut être pris en considération.
2. 2.1 Le litige porte sur le droit du recourant à une rente de l'assurance-invalidité, plus particulièrement sur l'appréciation de son état de santé et de sa capacité de travail. Le jugement attaqué expose correctement les règles et principes jurisprudentiels topiques, notamment ceux relatifs à la valeur probante d'un rapport médical et à l'appréciation anticipée des preuves. Il suffit donc d'y renvoyer.
2.2 Les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées par le Tribunal fédéral que sous un angle restreint (ATF 132 V 393 consid. 3.2 p. 398; arrêt 9C_648/2008 du 30 juin 2009 consid. 1.2).
Comme le Tribunal fédéral est en principe lié par les faits constatés par la juridiction cantonale (cf. supra consid. 1), il ne revoit l'appréciation anticipée des preuves que sous l'angle restreint de l'arbitraire (ATF 131 I 153 consid. 3 p. 157; cf. également arrêt 8C_15/2009 du 11 janvier 2010 consid. 3.2).
3. 3.1 Se fondant sur l'avis du docteur O._ et des médecins de X._ - dont les constatations se conciliaient avec celles du docteur E._ -, l'instance cantonale a considéré que le recourant présentait une capacité de travail entière dans une activité adaptée. Les conclusions diamétralement opposées du docteur S._ n'étaient pas motivées et les diagnostics posés par ce médecin étaient déjà connus. Les docteurs U._ et L._ ne se prononçaient pas sur la capacité de travail du recourant et le status clinique qu'ils décrivaient - qui ne différait pas de celui dont avaient fait état les docteurs R._ et V._ - ne correspondait pas à un épisode dépressif moyen au sens de la CIM-10, ainsi que l'avaient relevé les docteurs Q._ et C._; en outre, le trouble somatoforme douloureux retenu par les médecins de Y._ ne pouvait pas être qualifié d'invalidant en l'absence d'une comorbidité psychiatrique significative, d'une perte d'intégration sociale dans toutes les manifestations de la vie, de profits primaires tirés de la maladie et de l'échec d'un traitement ambulatoire ou stationnaire conforme aux règles de l'art. Compte tenu de ces éléments, il n'y avait pas lieu d'ordonner une expertise pluridisciplinaire.
3.2 Le recourant invoque en substance une violation de son droit d'être entendu et une appréciation arbitraire des preuves. L'opinion exprimée par les médecins de X._ ne serait pas pertinente dans le cadre du présent litige car leur rapport du 10 janvier 2008 aurait été rédigé pour permettre à la CNA de trancher une question relevant spécifiquement du droit de l'assurance-accidents, à savoir l'existence d'un lien de causalité entre son second accident et les atteintes à sa santé. Quant au rapport des docteurs U._ et L._, il aurait été établi dans la phase initiale de sa prise en charge thérapeutique par ces médecins et devrait dès lors être considéré avec circonspection. Il serait impossible d'en tirer des conclusions définitives s'agissant de l'existence d'un trouble somatoforme douloureux et, le cas échéant, des effets de cette affection sur son état de santé; cela vaudrait d'autant que les médecins de Y._ ne s'étaient pas exprimés en qualité d'experts. Les documents précités n'auraient dès lors pas permis aux premiers juges de déterminer valablement sa capacité de travail, si bien que ceux-ci auraient dû procéder à un complément d'instruction sous la forme d'une expertise. Une telle démarche aurait été d'autant plus nécessaire que les conclusions des docteurs R._ et V._, en ce qu'elles se rapportent à sa capacité de travail sur le plan psychique, seraient remises en cause par les constatations du docteur S._.
4. Dans leur rapport du 10 janvier 2008, les docteurs R._ et V._ ont dressé un bilan complet de l'état de santé du recourant. Ils se sont livrés à une anamnèse, ont posé des diagnostics clairs et leurs conclusions, bien motivées, se fondent notamment sur un consilium psychiatrique, un examen détaillé de l'appareil locomoteur, une consultation neurologique, un rapport de physiothérapie et une électroneuromyographie. Les docteurs U._ et L._ avaient quant à eux examiné à trois reprises le recourant lorsqu'ils ont rédigé leur rapport, ce qui avait permis à ces spécialistes de se faire une idée précise de l'état de santé de leur patient. Les premiers juges pouvaient donc, sur la base de ces documents, considérer sans tomber dans l'arbitraire que la capacité de travail du recourant était entière, les critères posés par la jurisprudence pour admettre le caractère invalidant d'un trouble somatoforme douloureux n'étant notamment pas remplis. Sur ce dernier point, les observations des médecins de Y._ permettaient à l'instance cantonale de renoncer à ordonner une expertise (ATF 132 V 65 consid. 4.3 p. 72). Enfin, en faisant état d'un "marasme psychologique", le docteur S._ n'a pas posé de diagnostic au sens de la CIM-10; il n'a en outre pas expliqué en quoi celui-ci, en s'ajoutant aux atteintes à la santé physique de l'intéressé, entraînerait une incapacité de travail. L'opinion de ce médecin n'était ainsi pas susceptible de remettre en question les conclusions des docteurs R._ et V._. L'argumentation du recourant n'est dès lors pas à même de démontrer que l'appréciation anticipée des preuves à laquelle a procédé l'instance cantonale serait insoutenable. La violation du droit d'être entendu telle qu'invoquée par le recourant n'ayant pas de portée propre par rapport à ce grief (cf. notamment arrêt 9C_664/2011 du 20 février 2012 consid. 3.2 et les références citées), ce moyen doit également être rejeté.
5. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant qui succombe (art. 66 al. 1 LTF). Il remplit toutefois les conditions du droit à l'assistance judiciaire dont il a requis le bénéfice (art. 64 LTF), dès lors que le recours n'était pas d'emblée voué à l'échec, qu'il ne dispose pas de ressources suffisantes et que l'assistance d'un avocat était indiquée. Le recourant sera ainsi provisoirement dispensé de payer les frais de justice et les honoraires de son mandataire d'office seront pris en charge par la caisse du tribunal; il est toutefois rendu attentif au fait qu'il devra rembourser la caisse du Tribunal, s'il retrouve ultérieurement une situation financière lui permettant de le faire.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. L'assistance judiciaire est accordée au recourant. Me Dupont est désignée comme avocate d'office.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant. Ils sont supportés provisoirement par la caisse du Tribunal.
4. Une indemnité de 2'800 fr., supportée par la caisse du Tribunal, est allouée à Me Dupont à titre d'honoraires.
5. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 1er juin 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Bouverat