Faits: A. M._ travaillait comme employé d'exploitation au service de l'entreprise X._ SA. A ce titre, il était assuré contre le risque d'accident auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA). Le 7 octobre 2002, M._ a été victime d'un accident de la circulation. Un autre automobiliste n'a pas respecté un "cédez le passage" à une intersection et lui a coupé la route. Le prénommé a été blessé à la jambe droite, au bras gauche et à la tête (avec laquelle il avait heurté le pare-brise). Il a été hospitalisé jusqu'au 22 octobre 2002 pour une fracture complexe du fémur droit et une fracture du cubitus gauche médio-diaphysaire. La CNA a pris en charge le cas, tout en appliquant une réduction de 10 % sur les indemnités journalières durant deux ans pour défaut du port de la ceinture de sécurité. La convalescence a été longue en raison d'un retard dans la consolidation de la fracture du fémur et du développement d'une pseudarthrose; plusieurs interventions chirurgicales ont été nécessaires (voir les rapports du docteur C._, chirurgien orthopédiste). Un bilan médical à la Clinique Y._ a également mis en évidence un état de stress post-traumatique, atteinte pour laquelle l'assuré a été suivi dès 2004 par le docteur S._, psychiatre de l'unité de psychiatrie ambulatoire de Z._. M._ a été examiné à intervalles réguliers par le docteur O._, médecin d'arrondissement de la CNA. A la demande de ce dernier, il été soumis à une expertise psychiatrique auprès de la doctoresse L._. Dans un rapport du 14 janvier 2006, ce médecin a posé les diagnostics de modification durable de la personnalité après une expérience de catastrophe [F62.0], de dysthymie [F34.1] et de syndrome douloureux somatoforme persistant [F45.4]. De 1992 à 1995, M._, avait été confronté à un vécu difficile lié à la guerre civile en ex-Yougoslavie (emprisonnement du père; décès d'un ami sous ses yeux; blessure au bras gauche par des éclats de grenade). L'accident de 2002 avait réactivé des symptômes de stress post-traumatique. Un lien de causalité devait être admis jusqu'en 2004, mais les symptômes persistants à partir de 2005 étaient plutôt à mettre sur le compte de facteurs étrangers (vécu de guerre; commémoration de Srebrenica). La capacité de travail au jour de l'expertise était de 70 % dans une activité simple. Le pronostic restait cependant réservé vu le sentiment de victimisation de l'assuré. Après avoir, dans un premier temps, mis fin aux indemnités journalières dès le 30 septembre 2006, la CNA en a repris le versement depuis le 1er octobre 2006 en raison d'une nouvelle intervention fixée en janvier 2007. Entre-temps, au mois de juillet 2003, M._ a présenté une demande de prestations de l'assurance-invalidité. L'Office AI pour le canton de Vaud a recueilli notamment le dossier de l'assuré auprès de la CNA, organisé un stage d'observation professionnelle au Centre W._ (en automne 2007), et mandaté la doctoresse L._ pour une nouvelle évaluation psychiatrique. Celle-ci a retenu une situation globalement superposable à celle qu'elle avait constatée en 2006, en précisant que l'incapacité de travail de M._ avait évolué depuis 2002 comme suit : 100 % d'octobre 2002 à début 2004; 60 % de mi-2004 à fin 2005; 30 % à partir de janvier 2006 (rapport d'expertise du 19 novembre 2008). Par décision du 9 avril 2010, l'Office AI a octroyé à l'assuré le droit à une rente entière du 1er octobre 2003 au 30 novembre 2004, à trois quarts de rente du 1er décembre 2004 au 31 mars 2006, puis à nouveau une rente entière du 1er janvier au 31 mai 2007. Les recours formés contre cette décision ont été rejetés par la Cour des assurances sociales du Tribunal cantonal vaudois (jugement du 15 septembre 2011; cause AI 186/10 - 428/2011) et par le Tribunal fédéral (arrêt de ce jour; cause 8C_781/2011). Le 14 octobre 2009, le docteur O._ a procédé à un examen final de l'assuré. Sur cette base et après pris connaissance de la dernière expertise de la doctoresse L._, la CNA a alloué à l'assuré une rente LAA fondée sur un degré d'invalidité de 39 % dès le 1er janvier 2010 (décision du 27 janvier 2010, confirmée sur opposition le 25 mars suivant). Elle a considéré que M._ était en mesure de reprendre à la date déterminante une activité adaptée à 70 % et fixé le revenu d'invalidité sur la base de cinq descriptions de poste de travail (DPT). B. Saisi d'un recours contre la décision sur opposition de la CNA, la Cour des assurances sociales du Tribunal cantonal vaudois l'a rejeté par jugement du 15 septembre 2011 (cause AA 41/10 - 106/2011). C. M._ interjette un recours en matière de droit public contre ce jugement dont il requiert l'annulation. Il conclut à l'octroi d'une rente LAA basée sur un degré d'invalidité de 56 %; subsidiairement, à la reconnaissance d'un degré d'invalidité de 41 %; plus subsidiairement encore, au renvoi de la cause à la juridiction cantonale pour complément d'instruction sous la forme d'une nouvelle expertise psychiatrique auprès du docteur A._, psychiatre. Il demande en outre à bénéficier de l'assistance judiciaire. La CNA conclut au rejet du recours. L'Office fédéral de la santé publique a renoncé à se déterminer.