Faits:
A. A.a R._, sans formation, a occupé en dernier lieu un poste de manutentionnaire. Devenu incapable de travailler en raison de douleurs dorsales, il a déposé le 24 août 2005 auprès de l'Office de l'assurance-invalidité Berne (ci-après: l'OAI) une demande de prestations de l'assurance-invalidité tendant à l'octroi de mesures médicales de réadaptation spéciales et d'une rente.
Dans le cadre de l'instruction de la demande le docteur W._, spécialiste en rhumatologie et médecine interne, a diagnostiqué notamment un syndrome douloureux généralisé. Sur le plan physique, la capacité résiduelle de travail de l'intéressé était totale (rapport du 7 décembre 2006).
L'OAI a nié le droit de R._ à une rente de l'assurance-invalidité, au motif qu'il présentait un taux d'invalidité de 22 %, insuffisant pour ouvrir le droit à une telle prestation (décision du 30 novembre 2007).
Par jugement du 14 août 2008, le Tribunal administratif du canton de Berne, Cour des affaires de langue française, a admis le recours de l'intéressé, annulé la décision attaquée et renvoyé la cause à l'OAI pour instruction complémentaire et nouvelle décision.
A.b Reprenant l'instruction du dossier, l'administration a demandé des renseignements au Service psychiatrique X._ à Y._. Le docteur A._ a indiqué qu'il suivait l'assuré depuis 2004 pour un trouble dépressif récurrent et que la symptomatologie dépressive ne s'était que très peu atténuée (rapport du 14 avril 2009). L'OAI a alors confié une expertise au docteur S._, spécialiste en psychiatrie et psychothérapie. Ce médecin a diagnostiqué, sans répercussion sur la capacité de travail, un trouble somatoforme douloureux persistant, une personnalité, de façon accentuée, narcissique, avec une immaturité et une instabilité émotionnelle et une impulsivité prédominante, existant probablement depuis l'adolescence, et une majoration de symptômes physiques, pour des raisons psychologiques. L'expert a nié l'existence d'une comorbidité psychiatrique importante par sa gravité et d'un trouble de la personnalité. R._ avait fait une tentative de suicide en 2007, qui était une décompensation due à l'éloignement prolongé du processus de travail (expertise du 21 décembre 2009). Sur la base de ces éléments, l'OAI a informé R._ qu'il entendait rejeter sa demande d'invalidité, le considérant comme capable de travailler à plein temps dans une activité adaptée (projet de décision du 5 février 2010).
L'assuré s'étant opposé à ce projet, l'administration a requis des informations complémentaires auprès de X._ à Z._. Les docteurs E._ et M._ ont diagnostiqué un trouble dépressif récurrent, épisode actuel sévère, sans symptômes psychotiques, et estimé qu'il ne fallait pas s'attendre à la reprise d'une activité professionnelle (rapport du 1er juin 2010). Dans une prise de position du 28 juillet 2010, le docteur U._ du SMR a nié l'existence d'un trouble dépressif récurrent. L'OAI a également interrogé le docteur A._, lequel a conclu à un rendement réduit, mentionnant un traitement hospitalier du 5 janvier au 26 mars 2010 (rapport du 19 juillet 2010).
L'OAI a confirmé son projet de décision (décision du 6 août 2010).
B. L'intéressé a déféré cette décision auprès du Tribunal administratif du canton de Berne, Cour des affaires de langue française, concluant à son annulation ainsi qu'à l'octroi d'une rente de l'assurance-invalidité. Il a déposé un rapport du docteur A._ dont il ressortait qu'il souffrait d'un trouble dépressif récurrent, épisode actuel sévère sans symptôme psychotique, ainsi que d'un trouble mixte de la personnalité, modification gênante de la personnalité, qui entraînaient une incapacité de travail totale; une évolution dans l'ensemble défavorable avait nécessité plusieurs hospitalisations (rapport du 21 octobre 2010). Se prononçant sur ces éléments, le docteur B._, du SMR, a écarté le diagnostic d'épisode dépressif sévère, considérant les explications de l'expert à ce sujet comme convaincantes (prise de position du 1er novembre 2010). Par jugement du 23 février 2011, la juridiction cantonale a rejeté le recours.
C. R._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il requiert principalement l'octroi d'une rente de l'assurance-invalidité, éventuellement la mise en ?uvre d'une expertise médicale pluridisciplinaire, et subsidiairement le renvoi de la cause au Tribunal administratif du canton de Berne, Cour des affaires de langue française, respectivement à l'OAI, pour nouvelle décision au sens des considérants ou, éventuellement, pour nouvelle décision après complément d'instruction.

Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le recourant qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées sinon un état de fait divergent ne peut être pris en considération. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
2. Le litige porte sur le droit du recourant à une rente de l'assurance-invalidité, en particulier sur le point de savoir quelle est sa capacité résiduelle de travail.
3. Se fondant sur l'appréciation de l'expert, dont elle a considéré que le rapport avait pleine valeur probante, la juridiction cantonale a conclu à une capacité de travail entière dans une activité adaptée. Il en découlait un taux d'invalidité s'élevant à 35 % au maximum, insuffisant pour justifier l'octroi d'une rente.
4. 4.1 Par un premier moyen, le recourant reproche à l'instance cantonale de ne pas avoir ordonné une expertise rhumatologique, laquelle se serait imposée eu égard notamment à d'éventuelles aggravations de son état de santé.
4.2 Cette critique n'est pas fondée. En effet, le recourant n'a jamais prétendu en instance cantonale que son état de santé physique se serait détérioré depuis son examen par le docteur W._ et il n'a pas requis la réalisation d'une expertise rhumatologique. Dans ces conditions, les premiers juges n'avaient aucune raison d'ordonner une telle expertise et c'est à bon droit qu'ils se sont limités à examiner les éventuelles répercussions des atteintes à la santé psychique du recourant sur sa capacité de travail.
5. 5.1 Le recourant soutient ensuite que les premiers juges auraient dû considérer son trouble somatoforme douloureux comme invalidant. Il conteste l'opinion exprimée par ceux-ci, selon laquelle une personne atteinte d'un tel syndrome pourrait, en principe, surmonter ses douleurs par un effort de volonté. Cette question dépendrait en réalité de l'intensité et la constance des douleurs de la personne concernée, laquelle devrait être analysée au cas par cas, sans qu'une liste limitative de critères ne puisse être établie.
5.2 Une telle position ne saurait être suivie. En effet, pour déterminer à quelles conditions un trouble somatoforme douloureux persistant doit être considéré comme invalidant, la juridiction cantonale s'est référée à l'arrêt publié aux <ref-ruling> (cf. jugement, p. 6). Dans celui-ci, le Tribunal de céans a jugé que cette seule affection n'entraînait pas, en règle générale, une limitation de longue durée de la capacité de travail pouvant conduire à une invalidité au sens de l'<ref-law>. Il a précisé à quelles conditions une dérogation à ce principe entrait exceptionnellement en considération, mentionnant notamment la présence d'une comorbidité psychiatrique importante par sa gravité, son acuité et sa durée. Dans la mesure où le recourant ne soulève aucun argument pertinent qui aurait échappé au Tribunal fédéral dans son arrêt de principe, il n'y a aucune raison justifiant de s'écarter de cette jurisprudence récente et constante (voir au sujet des critères justifiant un changement de jurisprudence <ref-ruling> consid. 4 p. 777; <ref-ruling> consid. 3a p. 292 s.).
6. Le recourant prétend également que les premiers juges n'auraient pas dû accorder une pleine valeur probante au rapport d'expertise du docteur S._.
6. Le recourant prétend également que les premiers juges n'auraient pas dû accorder une pleine valeur probante au rapport d'expertise du docteur S._.
6.1 6.1.1 Selon le recourant, l'expert aurait nié de manière injustifiée l'existence d'une comorbidité psychiatrique, contredisant ainsi manifestement l'opinion du docteur A._. L'affirmation du docteur S._, selon laquelle il pouvait surmonter les effets de son trouble somatoforme, ne reposerait en outre sur aucune constatation concrète et objective. Il serait également erroné, de la part de ce médecin, de considérer que sa tentative de suicide de 2007 ne serait pas en lien avec son trouble somatoforme douloureux. Enfin, l'expert n'aurait pas pu, en l'examinant à une seule reprise, pendant moins d'une heure, procéder à une analyse suffisamment complète des atteintes à sa santé.
6.1.2 Pour remettre en cause la valeur probante d'une expertise médicale, il ne suffit pas de prétendre que l'expert aurait dû logiquement présenter des conclusions différentes; il appartient d'établir l'existence d'éléments objectivement vérifiables - de nature clinique ou diagnostique - qui auraient été ignorés dans le cadre de l'expertise et qui seraient suffisamment pertinents pour remettre en cause le bien-fondé des conclusions de l'expert ou établir le caractère incomplet de son ouvrage (arrêt 9C_573/2009 du 16 décembre 2009 consid. 2.3). Cela vaut également lorsqu'un ou plusieurs médecins ont émis une opinion divergeant de celle de l'expert (arrêts 9C_876/2010 du 19 mai 2011 consid. 2.3.2, 9C_688/2010 du 24 janvier 2011 consid. 4.4, 9C_753/2010 du 22 décembre 2010 consid. 2.3.1).
6.1.3 Lorsque le pouvoir d'examen du Tribunal fédéral est limité, le recourant ne peut critiquer les constatations de faits que si ceux-ci ont été établis de manière manifestement inexacte ou en violation du droit au sens de l'<ref-law>, en particulier en violation de l'interdiction constitutionnelle de l'arbitraire. L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier ou contraire au sens de la justice et de l'équité ou encore lorsque l'autorité ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des conclusions insoutenables (<ref-ruling> consid. 4.3 p. 62; <ref-ruling> consid. 2.1 p. 9). L'appréciation des preuves doit être arbitraire non seulement en ce qui concerne les motifs évoqués par la juridiction cantonale pour écarter un moyen de preuve, mais également dans son résultat. Il n'y a pas arbitraire du seul fait qu'une autre solution que celle retenue par l'autorité précédente pourrait entrer en considération ou même serait préférable (cf. <ref-ruling> consid. 1.3 p. 4 sv.; <ref-ruling> consid. 5.4 p. 148).
6.1.4 Le recourant ne parvient pas à démontrer en quoi les premiers juges seraient tombés dans l'arbitraire en accordant une pleine valeur probante à l'expertise du docteur S._. Il ne fait pas état d'éléments pertinents et objectivement vérifiables que le rapport d'expertise aurait ignorés, ni de défauts flagrants dont les premiers juges auraient dû s'apercevoir. Au demeurant, le rapport en question se fonde sur une étude du dossier médical complet du recourant ainsi que sur un examen de celui-ci que l'expert qualifie de détaillé ("ausführlich", cf. rapport d'expertise, p. 1). Dans ces conditions, il y a lieu de considérer que le docteur S._ était tout à fait en mesure d'apprécier l'état de santé du recourant. Son rapport, particulièrement circonstancié, réalisé selon les règles de l'art et exempt de contradictions, explique de manière convaincante pourquoi il exclut la présence d'une comorbidité psychiatrique et pourquoi le recourant est, compte tenu des critères retenus par la jurisprudence, en mesure de surmonter les effets de son trouble somatoforme; il précise également que sa tentative de suicide de 2007 était due à une décompensation liée à l'éloignement prolongé du processus de travail (rapport d'expertise, pp. 17-20).
6.1.4 Le recourant ne parvient pas à démontrer en quoi les premiers juges seraient tombés dans l'arbitraire en accordant une pleine valeur probante à l'expertise du docteur S._. Il ne fait pas état d'éléments pertinents et objectivement vérifiables que le rapport d'expertise aurait ignorés, ni de défauts flagrants dont les premiers juges auraient dû s'apercevoir. Au demeurant, le rapport en question se fonde sur une étude du dossier médical complet du recourant ainsi que sur un examen de celui-ci que l'expert qualifie de détaillé ("ausführlich", cf. rapport d'expertise, p. 1). Dans ces conditions, il y a lieu de considérer que le docteur S._ était tout à fait en mesure d'apprécier l'état de santé du recourant. Son rapport, particulièrement circonstancié, réalisé selon les règles de l'art et exempt de contradictions, explique de manière convaincante pourquoi il exclut la présence d'une comorbidité psychiatrique et pourquoi le recourant est, compte tenu des critères retenus par la jurisprudence, en mesure de surmonter les effets de son trouble somatoforme; il précise également que sa tentative de suicide de 2007 était due à une décompensation liée à l'éloignement prolongé du processus de travail (rapport d'expertise, pp. 17-20).
6.2 6.2.1 Le recourant est d'avis que le docteur S._ n'offrirait pas les garanties d'impartialité pour fonctionner en qualité d'expert, étant donné que l'OAI lui confierait régulièrement des mandats. Il ne disposerait pas non plus des compétences suffisantes pour ce faire.
6.2.2 Le fait qu'un médecin indépendant se voit confier régulièrement des mandats d'expertise par un assureur ne constitue pas en soi un motif suffisant pour fonder un manque d'objectivité et d'indépendance (arrêt 9C_67/2007 du 28 août 2007 consid. 2.4 et les références). Au surplus, lorsque l'intimé a envisagé de confier une expertise au docteur S._, il a expressément informé le recourant de la possibilité de récuser ce médecin pour des motifs pertinents. N'ayant pas fait usage de celle-ci dans le délai qui lui était imparti, le recourant a laissé se périmer ce droit (<ref-ruling> consid. 4.3 p. 496 s.). Dès lors, ce grief et mal fondé.
6.2.3 Un médecin dispose des compétences nécessaires pour procéder à une expertise médicale lorsqu'il bénéficie d'une formation spécialisée dans le domaine en question (cf. arrêts 9C_736/2009 du 26 janvier 2010 consid. 2.1; 9C_270/2007 du 12 août 2008 consid. 3.3). En l'occurrence, le docteur S._ dispose d'un titre de médecin spécialiste en psychiatrie. Il y a dès lors lieu de considérer qu'il possède les compétences suffisantes pour procéder à l'expertise dont l'intimé l'a chargé. Du reste, le recourant ne fait valoir aucun élément concret qui permettrait d'en douter. Dans ces conditions, on ne saurait suivre son argumentation.
7. 7.1 L'instance cantonale aurait, à en croire le recourant, ignoré à tort certains éléments déterminants pour juger de sa capacité résiduelle de travail. Ainsi, elle n'aurait tenu compte ni des hospitalisations qu'il a subies en 2010, ni des rapports médicaux des docteurs E._ et M._ d'une part et A._ d'autre part, qu'il a déposés devant elle. Il ressortirait de ces derniers une dépression persistante ne lui permettant d'exercer aucune activité professionnelle, ainsi qu'un état suicidaire.
7.2 En l'occurrence, les premiers juges ont bien pris en compte ces éléments, qu'ils ont toutefois considérés, à l'issue de leur analyse, comme dénués de pertinence. Ils ont expliqué (jugement, p. 9 s.) qu'aucun diagnostic nouveau ne ressortait des rapports respectifs des docteurs E._ et M._ et A._; ceux-ci mentionnaient certes un trouble dépressif récurrent, mais l'expert avait expliqué de manière convaincante pourquoi ce diagnostic ne pouvait pas être retenu - ce que du reste confirmait le docteur U._. L'instance cantonale a également estimé, en se référant notamment au rapport du docteur B._, qu'il était peu probable que l'hospitalisation du recourant, du 5 janvier au 26 mars 2010, au terme de laquelle le docteur A._ a diagnostiqué un épisode dépressif sévère et retenu une incapacité de travail totale, ait constitué une péjoration de son état de santé. Quant à l'hospitalisation du recourant du 17 août au 17 septembre 2010, elle se rapportait à une période postérieure à la décision de l'OAI, si bien qu'elle ne pouvait pas être prise en compte. Le recourant ne démontre aucunement en quoi cette appréciation serait manifestement inexacte ou violerait le droit fédéral. Dès lors le recours doit être rejeté sur ce point également.
8. 8.1 Enfin, le recourant affirme que les premiers juges n'auraient pas tenu compte de son âge, lequel constituerait un obstacle à la mise en valeur de toute éventuelle capacité résiduelle de travail.
8.2 En l'espèce, il y a lieu de constater qu'au moment hypothétique de la naissance du droit à la rente (<ref-ruling> consid. 4.1 et 4.2 p. 223 s.), le recourant n'avait pas atteint le seuil à partir duquel la jurisprudence considère généralement qu'il n'existe plus de possibilité réaliste de mise en valeur de la capacité résiduelle de travail sur un marché du travail supposé équilibré (cf. arrêt 9C_1043/2008 du 2 juillet 2009), d'autant moins si l'on considère qu'une pleine capacité de travail dans une activité adaptée lui a été reconnue et qu'il dispose de bonnes capacités d'adaptation, ayant toujours, par le passé, trouvé une place de travail en dépit de son absence de formation professionnelle.
9. Au vu de ce qui précède, le recours se révèle mal fondé.
10. Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal administratif du canton de Berne, Cour des affaires de langue française, et à l'Office fédéral des assurances sociales.
Lucerne, le 26 juillet 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Bouverat