Faits: A. Par décision du 17 mars 2011, l'Office de l'assurance-invalidité du canton du Jura (ci-après: l'office AI) a nié le droit à toute prestation à S._. L'office AI s'est notamment fondé sur le rapport d'expertise du docteur E._, spécialiste FMH en psychiatrie et psychothérapie, du 28 juin 2010, qu'il avait mandaté pour examiner l'assuré. Il s'est également référé à l'avis du 1er mars 2011 du docteur L._ du Service médical régional de l'assurance-invalidité (SMR). Il en a déduit que les troubles psychiques présentés par l'assuré n'entraînaient aucune incapacité de travail. B. L'assuré a déféré cette décision au Tribunal cantonal de la République et canton du Jura, Cour des assurances, qui l'a débouté par jugement du 23 novembre 2011. C. S._ interjette un recours en matière de droit public contre ce jugement dont il requiert l'annulation. Sous suite de frais et dépens, il conclut principalement à ce que l'office AI soit condamné à lui verser "les prestations légales découlant de la LAI" et, subsidiairement, au renvoi du dossier à l'office AI pour complément d'instruction sous la forme d'une expertise médicale. Le Tribunal fédéral a renoncé à ordonner un échange d'écritures.