Faits: A. R._ a travaillé en qualité de conducteur de poids lourds, avec livraison de palettes et colis, au service de la société X._ jusqu'au 28 novembre 2003. Il a été licencié avec effet au 30 avril 2004 en raison du fait que son état physique ne lui permettait plus d'assumer les tâches demandées (cf. questionnaire de l'employeur du 10 août 2005). Le 14 juillet 2005, l'intéressé a déposé une demande de prestations tendant à l'octroi d'une rente en raison de maux de dos. Dans le cadre de l'instruction de la cause, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'OAI) a recueilli l'avis du docteur T._, médecin traitant de l'assuré depuis le mois d'octobre 2004 (cf. rapport du 19 août 2005) et confié la réalisation d'un examen rhumatologique à son Service médical régional (SMR). Retenant le diagnostic avec répercussion sur la capacité de travail de lombalgies chroniques non déficitaires dans un contexte de protrusion discale des deux derniers disques lombaires (M 54.5), le SMR a estimé que la capacité de travail de l'assuré était nulle dans son activité habituelle de conducteur de poids lourds. En revanche, dans une activité adaptée évitant les attitudes en porte-à-faux du tronc, les mouvements répétés de flexion-extension, le port de charges supérieures à 15 kilos, la position assise prolongée au-delà d'une heure et la position debout prolongée au-delà de 45 minutes, la capacité résiduelle de travail de l'assuré était entière depuis le mois d'octobre 2004 (cf. rapport du 13 décembre 2006). Par projet de décision du 21 mars 2007, confirmé par décision du 29 novembre suivant, l'OAI a rejeté la demande de prestations de l'assuré, au motif que son degré d'invalidité était insuffisant pour ouvrir droit à une rente ou des mesures professionnelles. Chargée de défendre les intérêts de l'assuré, l'association Procap a informé l'OAI, le 28 décembre 2007, d'une aggravation de l'état de santé de son mandant. A l'appui de son courrier, elle a produit un rapport du nouveau médecin traitant de l'assuré, du 19 décembre 2007. Dans ce dernier, la doctoresse H._, spécialiste FMH en médecine interne et rhumatologie, indiquait que depuis la mi-novembre 2007, son patient présentait des douleurs à l'épaule droite compatibles avec une tendinopathie, lesquelles prétéritaient une reprise de l'activité professionnelle habituelle. Par lettre du 11 janvier 2008, l'OAI a répondu que le rapport de la doctoresse H._ ne lui permettait pas de modifier la décision du 29 novembre 2007. B. R._ a déféré cette décision au Tribunal cantonal valaisan des assurances, en concluant principalement à l'octroi d'une rente d'invalidité, subsidiairement au renvoi de la cause à l'OAI pour instruction complémentaire et nouvelle décision, le tout sous suite de frais et dépens. Par jugement du 8 août 2008, la juridiction cantonale a débouté l'assuré de ses conclusions. C. R._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant au versement d'une rente entière d'invalidité. Il requiert également le bénéfice de l'assistance judiciaire. L'intimé conclut implicitement au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.