Faits:
A. A.a Né en 1961, S._ a exercé dans un premier temps l'activité d'aide-couvreur, avant de suivre, dans le cadre de mesures de reclassement professionnel accordées par l'assurance-invalidité, des cours de français, de mathématiques et d'informatique, ainsi qu'une formation de "magasinier/distributeur-affûteur d'outilllage" de six mois auprès du centre X._. Au terme de sa formation, il a bénéficié d'indemnités de l'assurance-chômage jusqu'au mois d'avril 1998.
Le 2 avril 1998, S._ a présenté une demande de prestations de l'assurance-invalidité visant à l'octroi d'une rente. L'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après: l'office AI) a confié une expertise au docteur T._, rhumatologue. Se fondant sur les conclusions du rapport rendu par le médecin le 20 septembre 2002, l'office AI a nié le droit de l'assuré à une rente d'invalidité, par décision du 14 mars 2003, confirmée sur opposition de l'intéressé le 31 juillet suivant.
A.b L'intéressé a déféré la décision sur opposition au Tribunal administratif du canton de Neuchâtel qui l'a annulée et renvoyé la cause à l'administration pour qu'elle mette en oeuvre une expertise psychiatrique (jugement du 26 novembre 2004). En conséquence, l'office AI a soumis l'assuré à un examen auprès du docteur R._, psychiatre et psychothérapeute FMH. Le 21 juillet 2005, il a derechef rejeté la demande de prestation, en considérant qu'au vu de l'expertise psychiatrique, S._ ne présentait aucune incapacité de travail. Celui-ci s'est opposé à la décision administrative.
Saisi d'un recours pour déni de justice, le Tribunal administratif neuchâtelois l'a admis et imparti à l'office AI un délai de 15 jours dès notification du jugement pour statuer sur l'opposition dont il était saisi depuis le 13 septembre 2005 (jugement du 20 novembre 2007). Par décision sur opposition du 30 novembre 2007, l'office AI a confirmé le refus de prestations.
B. Statuant le 17 juin 2008 sur le recours formé par S._, le Tribunal administratif neuchâtelois l'a rejeté.
C. L'assuré interjette un recours en matière de droit public contre le jugement cantonal dont il demande l'annulation, avec suite de frais et dépens, en concluant principalement à l'octroi d'une rente entière d'invalidité à partir du 2 avril 1998; à titre subsidiaire, il demande le renvoi de la cause à l'office AI "pour nouvelle décision au sens des considérants". Il a par ailleurs sollicité le bénéfice de l'assistance judiciaire pour la procédure fédérale, qui lui a été refusée par ordonnance du Tribunal fédéral du 7 octobre 2008. Celui-ci a en outre renoncé à procéder à un échange d'écritures.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF).
Les constatations de la juridiction cantonale sur l'atteinte à la santé (diagnostic, pronostic, etc.), la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint. Il en est de même de l'appréciation concrète des preuves (ATF 132 V 393 consid. 3.2 p. 397).
2. Le litige porte sur le droit éventuel du recourant à une rente d'invalidité à partir du 2 avril 1998. A cet égard, le jugement entrepris expose correctement les règles légales et la jurisprudence applicables au présent cas, de sorte qu'il suffit d'y renvoyer.
3. 3.1 Se fondant sur les rapports des docteurs T._ et R._, les premiers juges ont considéré que le recourant disposait d'une capacité de travail entière dans l'activité de magasinier-distributeur d'outils pour laquelle il avait été formé au centre X._ et confirmé l'évaluation de l'invalidité par comparaison des revenus à laquelle avait procédé l'intimé dans sa décision du 4 mars 2003. L'abattement de 25 % retenu par l'administration sur le revenu d'invalide tenait compte du fait que les troubles du caractère dont avait fait état le docteur R._ nécessitaient certains aménagements sur le plan professionnel. Le psychiatre n'avait en revanche mis en évidence aucune pathologie psychiatrique conduisant à une invalidité. De même, le docteur T._ avait conclu à une capacité de travail de 100 % avec plein rendement dans le métier de magasinier-distributeur d'outils. Selon la juridiction cantonale, les considérations du rhumatologue sur une longue invalidation iatrogène qui rendait caduque toute tentative de reprise professionelle au vu notamment d'une perte de motivation ne permettaient pas d'admettre une invalidité. Les difficultés rencontrées par l'assuré relevaient en effet de facteurs étrangers à l'invalidité.
3.2 En invoquant tout d'abord "une détermination erronée" de son degré d'invalidité, le recourant reproche aux premiers juges d'avoir déduit du rapport du docteur T._ qu'il disposait d'une capacité de "gain" (recte travail) entière. Les constatations de la juridiction cantonale sur ce point n'apparaissent cependant ni manifestement inexactes, ni contraires au droit, puisque la juridiction cantonale a dûment expliqué pourquoi "la longue invalidation iatrogène" mentionnée par le rhumatologue n'avait pas à être prise en considération pour déterminer si le recourant présentait une invalidité. Comme l'a démontré l'instruction mise en oeuvre par l'intimé à la suite du jugement du Tribunal administratif neuchâtelois du 26 novembre 2004, le processus d'invalidation mis en évidence par le docteur T._ ne relève pas d'une atteinte à la santé psychique (cf. rapport du docteur R._ du 14 mai 2005), ni, partant, du risque couvert par l'assurance-invalidité (cf. art. 6 et 7 LPGA).
3.3 C'est en vain, ensuite, que le recourant s'en prend à l'expertise du docteur R._ au regard des rapports des docteurs U._, spécialiste FMH en médecine interne et rhumatologie, et A._, psychiatre et psychothérapeute, que les premiers juges auraient "occultés" de manière arbitraire. Ses critiques, qui visent à substituer sa propre appréciation de la situation à celle de la juridiction cantonale, ne sont pas fondées.
A la suite des premiers juges, on constate que dans son expertise, à laquelle il y a lieu d'accorder pleine valeur probante (cf. ATF 125 V 351 consid. 3a p. 352), le docteur R._ a tenu compte de l'appréciation de la doctoresse A._ (consultée par le recourant en 2003) et expliqué qu'à cette époque, aucune pathologie psychiatrique invalidante n'avait été constatée de façon objective. Quant au rapport ultérieur du docteur U._ (du 24 décembre 2007), dont la juridiction cantonale, loin d'en occulter la présence au dossier, a tenu compte dans son appréciation des preuves, il n'est pas non plus susceptible de remettre en cause les conclusions de l'expert R._. S'il fait état d'une aggravation des douleurs (liées aux troubles lombaires) et de l'état psychologique de son patient, le médecin traitant ne motive cependant pas ses constatations et ne se prononce pas sur une éventuelle incapacité de travail de l'assuré. Son avis ne suffit dès lors pas à rendre vraisemblable l'aggravation de l'état de santé invoquée par le recourant. Il en va de même des allégations de celui-ci sur le "retard considérable pris dans le dossier AI" qui aurait aggravé l'invalidation iatrogène, dès lors qu'il ne se réfère à aucun élément concret au dossier et que ses affirmations concernent un problème étranger à l'invalidité.
3.4 Il découle de ce qui précède qu'il n'y a pas lieu de s'écarter des faits retenus par la juridiction cantonale, ni de l'appréciation qu'elle en a faite. Mal fondé, le recours doit être rejeté.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal administratif du canton de Neuchâtel et à l'Office fédéral des assurances sociales.
Lucerne, le 15 décembre 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: p. la Greffière:
Meyer Beauverd