Faits:
A. R._, marié, père d'un enfant, travaillait comme ouvrier de production auprès de la Société X._ SA dont le personnel était assuré en matière de prévoyance professionnelle auprès de la compagnie d'assurance Winterthur Columna fondation LPP (ci-après: Winterthur). Incapable de travailler une première fois en novembre-décembre 1998 en raison de douleurs dorsales, il n'a plus exercé d'activité lucrative depuis le 22 janvier 1999 et son employeur a résilié le contrat de travail avec effet au 31 octobre 1999.
Le 8 février 2005, l'intéressé a demandé à l'institution de prévoyance professionnelle de son ancien employeur de lui verser les prestations dues en cas d'invalidité. Suite à une expertise pluridisciplinaire effectuée auprès de la Clinique Y._ (du 13 janvier 2005), l'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'OAI) lui a alloué, par décision du 23 mars 2005, une demi-rente d'invalidité depuis le 1er juillet 2002 et une rente entière à partir du 1er octobre 2002. Par lettre du 20 juin 2005, la Winterthur a signifié à l'intéressé son refus de prestations, au motif qu'il n'était plus assuré auprès d'elle au moment de la survenance de l'incapacité de travail due à des troubles sur le plan psychique dont la cause était à l'origine de son invalidité.
B. Par écriture du 2 novembre 2005, R._ a ouvert action contre la Winterthur, en concluant au versement des prestations d'invalidité LPP prévues par le certificat personnel en matière de prévoyance professionnelle valable dès le 1er janvier 1999. La défendresse a conclu au rejet de l'action, en invoquant le fait que le moment déterminant à partir duquel la capacité de travail du demandeur s'était détériorée de manière sensible et durable pour aboutir à l'invalidité était le 1er juillet 2001, soit après que le rapport d'assurance avait pris fin.
Par jugement du 8 mai 2008, après avoir eu accès au dossier constitué par l'assureur-invalidité, le Tribunal cantonal de Fribourg, Cour des assurances sociales, a rejeté la demande.
C. R._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation, en concluant, sous suite de dépens, au versement d'une rente d'invalidité LPP annuelle de 20'982 fr. pour lui-même et de 2'583 fr. pour son enfant, avec effet au 16 novembre 2000.
La Winterthur conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il renonce à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF).
Le Tribunal fédéral applique par ailleurs le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p. 140). Lorsqu'il s'agit, en particulier, de prestations de la prévoyance professionnelle, le Tribunal fédéral examine en principe librement les statuts et règlements d'institutions de prévoyance ou de fondations de libre passage de droit privé, en tant que contenu préformé du contrat de prévoyance (ATF 134 V 369 consid. 2 p. 371 et les arrêts cités).
2. En l'occurrence, le litige porte sur le droit éventuel du recourant à une rente d'invalidité en vertu du règlement de prévoyance, particulièrement sur la question de savoir si le recourant était assuré auprès de la Winterthur au moment de la survenance de l'incapacité de travail dont la cause est à l'origine de l'invalidité (art. 23 LPP, dans sa teneur en vigueur jusqu'au 31 décembre 2004).
L'autorité judiciaire de première instance a retenu que l'incapacité de travail durable du recourant, due à une aggravation de la situation sur le plan psychique, remontait au moins au mois d'avril 2002, soit après la période d'affiliation à la Winterthur, le contrat de travail ayant pris fin le 31 octobre 1999. Cette constatation de fait lie le Tribunal fédéral, à moins que le recourant ne démontre qu'elle est manifestement inexacte ou contraire au droit au sens de l'art. 97 al. 1 LTF, en relation avec l'art. 105 al. 2 LTF (ATF 133 II 249 consid. 1.4.3 p. 254; arrêt 9C_292/2008 du 22 août 2008). Le recourant fait valoir une constatation manifestement inexacte des faits, laquelle aurait conduit les premiers juges à nier l'existence d'une connexité matérielle entre l'invalidité existante et l'incapacité de travail totale survenue depuis le mois de novembre 1998.
2.1 Selon la jurisprudence, l'événement assuré au sens de l'art. 23 LPP est uniquement la survenance d'une incapacité de travail d'une certaine importance, indépendamment du point de savoir à partir de quel moment et dans quelle mesure un droit à une prestation d'invalidité est né. La qualité d'assuré doit exister au moment de la survenance de l'incapacité de travail, mais pas nécessairement lors de l'apparition ou de l'aggravation de l'invalidité. Ces principes sont aussi applicables en matière de prévoyance plus étendue, à tout le moins en l'absence de dispositions statutaires ou réglementaires contraires (ATF 123 V 262 consid. 1a et b p.263 sv et les références citées).
Cependant, pour que l'institution de prévoyance reste tenue à prestations, après la dissolution du rapport de prévoyance, il faut non seulement que l'incapacité de travail ait débuté à une époque où l'assuré lui était affilié, mais encore qu'il existe entre cette incapacité de travail et l'invalidité une relation d'étroite connexité. La connexité doit être à la fois matérielle et temporelle (ATF 130 V 270 consid. 4.1 p. 275). Il y a connexité matérielle si l'affection à l'origine de l'invalidité est la même que celle qui s'est déjà manifestée durant le rapport de prévoyance (et qui a entraîné une incapacité de travail). La connexité temporelle implique qu'il ne se soit pas écoulé une longue interruption de l'incapacité de travail; elle est rompue si, pendant une certaine période qui peut varier en fonction des circonstances du cas, l'assuré est à nouveau apte à travailler (ATF 123 V 262 consid. 1c p. 264, 120 V 112 consid. 2c/aa p. 117).
2.2 Selon les premiers juges, l'arrêt de travail de l'assuré en novembre 1998 avait été motivé par des douleurs dorsales vraisemblablement causées par un déménagement interne au sein de l'entreprise X._ SA durant ce mois. Le résultat de l'examen objectif du rachis, du genou gauche et de l'épaule droite ainsi que les constatations radiologiques étaient banals et, du point de vue rhumatologique, la capacité de travail était entière. L'assuré avait repris son travail au début de l'année 1999 et connu une rechute avec lombosciatalgies motivant une nouvelle incapacité de travail à 100 % depuis le 22 janvier 1999, soit alors qu'il s'était vu signifier son congé. La juridiction cantonale a ensuite relevé que, bien que très vite les différents médecins avaient également évoqué l'éventualité d'une composante psychique dans la symptomatologie du patient, le syndrome somatoforme douloureux dont il a été atteint par la suite n'était apparu que progressivement et n'avait évolué vers une maladie invalidante que dans un deuxième temps. L'existence d'un syndrome somatoforme douloureux combiné avec une comorbidité psychiatrique (état dépressif sévère), ne pouvait pas être établie au degré de la vraisemblance prépondérante au moment où le recourant était encore assuré à la Winterthur, soit le 30 novembre 1999. Un lien de connexité matérielle entre l'affection à l'origine de l'invalidité et celle qui s'était manifestée durant le rapport de prévoyance devait dès lors être nié, le trouble somatoforme douloureux remontant, selon l'expertise pluridisciplinaire de Y._ du 13 janvier 2005, au plus tôt en avril 2002. D'après celle-ci, le diagnostic posé était celui d'épisode dépressif sévère sans symptôme psychotique, de syndrome somatoforme douloureux chronique persistant et de retard mental léger. Enfin, selon les premiers juges, l'on pouvait même douter de l'existence d'un lien de connexité temporelle entre les affections constatées en 1999 et en 2002, ceci dans la mesure où les auteurs de cette expertise avaient nié, dans un premier temps, l'existence d'une incapacité de travail durable.
2.3 Le recourant, qui fait valoir une constatation manifestement inexacte des faits, relève que le rapport d'expertise de Y._ indique uniquement que la survenance de l'invalidité totale remontait à avril 2002 au plus tôt, mais que ceci n'exclut pas que l'incapacité de travail, à tout le moins partielle, soit survenue antérieurement. Il souligne que la première expertise psychiatrique avait été réalisée par le docteur B._ le 6 novembre 2000 déjà, et que ce médecin avait attesté une incapacité de travail totale et définitive du point de vue psychiatrique. Il reproche aux juges cantonaux d'avoir écarté, sans motifs pertinents, les rapports médicaux précédents l'expertise de Y._, du 13 janvier 2005, et considère que les auteurs de ces rapports attestent, bien qu'ils ne soient pas des spécialistes du domaine de la psychiatrie, qu'il souffrait d'atteintes psychiatriques depuis le mois de novembre 1998. En outre, en se fondant sur un arrêt du Tribunal fédéral (B 127/04, du 21 avril 2005, consid. 4.3.3), le recourant estime qu'il faut recouper tous les faits du dossier et qu'en particulier, en cas de syndrome somatoforme douloureux, il est normal que les troubles psychiques ne peuvent être diagnostiqués qu'après la constatation des affections rhumatologiques.
Pour fonder ses arguments, le recourant relève essentiellement que les docteurs V._, P._, G._ et M._ étaient de l'avis que l'incapacité de travail était due à des atteintes d'ordre psychique ou psychiatrique. Ainsi, le docteur V._ avait évoqué une surcharge psychogène en juin 1999 et le docteur P._ l'existence d'une problématique d'ordre psychologique ou existentielle en janvier 2000. Pour le docteur G._, l'état de santé de l'assuré faisait penser à des troubles somatoformes douloureux persistants, tandis que la doctoresse M._ avait attesté une réelle limitation de la capacité de travail pour des motifs psychiatriques dans un rapport du 26 juin 2006, dans lequel elle témoignait de problèmes psychologiques incontestables. Selon le recourant, tous ces médecins, bien que n'étant pas des spécialistes dans le domaine de la psychiatrie, ont établi avec une vraisemblance prépondérante que des causes de nature psychiatrique ont provoqué une incapacité de travail durable depuis le mois de novembre 1998.
2.4 La juridiction cantonale a constaté que, dans les différents rapports médicaux au dossier, une incapacité de travail attribuable à des affections d'ordre somatique n'avait pas été attestée. Sur le plan psychique, selon l'expertise psychiatrique du docteur B._, du 6 novembre 2000, c'est au moment de l'établissement du rapport en question que le recourant présentait une incapacité de travail totale dans son ancienne activité d'usine (cf. ATF 134 V 20 consid. 5.3 p. 27). Ceci ne permet pas pour autant de conclure à la survenance d'une incapacité de travail d'une certaine importance un an auparavant déjà, soit lors de la dissolution du rapport de prévoyance (30 novembre 1999). D'autre part, il ressort d'un rapport d'expertise psychiatrique établi le 6 avril 2002 par le docteur K._, que la péjoration de l'état de santé du recourant s'était installée progressivement et que la situation sur le plan psychique ne s'était pas aggravée de manière brusque. Or, s'il est vrai que, selon la teneur de l'expertise de Y._ du 13 janvier 2005, il n'est pas exclu que l'atteinte à la santé psychique ait entraîné une incapacité de travail d'une certaine importance déjà avant le mois d'avril 2002 (époque de l'établissement du rapport d'expertise du docteur K._), il n'en demeure pas moins qu'il ressort également de cette expertise que le recourant ne souffrait d'aucun problème psychique invalidant durant l'année 2000 et que, entre 2000 et 2002, la situation avait beaucoup évolué. En outre, contrairement à l'argument invoqué par le recourant, dans le cas d'espèce, un recoupement de tous les faits du dossier ne donne pas d'autres indications. En effet, les médecins auxquels il se réfère, soit notamment les docteurs V._, P._, G._ et M._, ne se sont pas prononcés en tant que spécialistes dans le domaine psychique ou psychiatrique. Dans leurs rapports, ces praticiens n'ont d'ailleurs posé aucun diagnostic psychiatrique précis, se limitant à formuler des hypothèses. Enfin, l'argument du recourant tombe à faux lorsqu'il invoque le fait que ses problèmes psychiques incapacitants, notamment les troubles somatoformes douloureux, ont conduit à l'octroi d'une demi-rente de l'assurance-invalidité depuis le 1er juillet 2002. Car, en s'appuyant sur cette date, il admet précisément, compte tenu du début du délai de carence d'une année à compter de laquelle l'assuré a présenté une incapacité de travail déterminante au sens de la LAI et au terme de laquelle est né son droit à une demi-rente de l'assurance-invalidité (cf. art. 29 LAI), qu'une incapacité de travail d'une certaine importance ne pouvait pas être survenue déjà à l'époque où il était encore affilié à l'institution de prévoyance intimée.
En conclusion de ce qui précède, le recourant ne démontre pas que la juridiction cantonale se serait fondée sur un état de fait établi de façon manifestement inexacte. Il faut dès lors admettre que, à défaut d'une connexité matérielle entre l'affection à l'origine de l'invalidité et celle qui s'est manifestée durant le rapport de prévoyance, la condition d'assurance posée par l'art. 23 LPP n'est en l'espèce pas réalisée. Le jugement entrepris doit dès lors être confirmé.
2.5 Par surabondance de droit, il sied de constater d'office (art. 106 al. 1 LTF) que la décision de l'OAI du 23 mars 2005 a été notifiée, parmi d'autres destinataires, à la Winterthur. Cette décision, par laquelle une rente de l'assurance-invalidité a été attribuée au recourant dès le 1er juillet 2002, présuppose que le début du délai de carence d'un an selon l'ancien art. 29 al. 1 let. b LAI (dans sa version valable jusqu'au 31 décembre 2007) se situe en juillet 2001, alors que - compte tenu du fait que le dépôt de la demande de prestations de l'assurance-invalidité date du 1er février 2000 (cf. l'arrêt du TFA I 521/03 du 14 août 2003, concernant le recourant) - l'OAI aurait pu fixer le début du cours du délai de carence à un moment antérieur à juillet 2001, ce qui n'est cependant pas le cas en l'occurrence. Par conséquent, compte tenu du fait que la décision de l'OAI a été notifiée à la Winterthur en tant qu'institution de prévoyance concernée et qu'elle est entrée en force sans avoir été attaquée ni par l'assuré ni par la Winterthur, la décision de l'assurance-invalidité lie cette dernière, en déployant ses effets contraignants aussi en matière de prévoyance professionnelle obligatoire, ceci sous réserve d'une inexactitude manifeste (ATF 129 V 73 consid. 4.1 et 4.2 p. 74 ss, 126 V 308 consid. 2a p. 311; arrêt B. 39/03 du 9 février 2004, in RSAS 2004 451). Or, prenant en compte tous les éléments découlant de la documentation médicale contenue dans le dossier, on ne peut pas sérieusement considérer que l'OAI aurait commis une faute manifeste et d'emblée insoutenable en fixant le début du délai de carence en juillet 2001.
3. Le recourant qui succombe, doit supporter les frais judiciaires (art. 66 al. 1 première phrase LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, d'un montant de 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal, Section administrative, et à l'Office fédéral des assurances sociales.
Lucerne, le 22 juillet 2009
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Scartazzini