Faits: A. P._ exerçait l'activité d'ouvrier-monteur et a été licencié avec effet à fin octobre 2002 en raison d'une restructuration de l'entreprise dans laquelle il travaillait. Souffrant d'un syndrome cervical droit algique, d'arthrose cervicale, d'une tendinobursite sous-acromiale de l'épaule droite et d'un syndrome anxieux avec somatisation, il a déposé, le 19 décembre 2002, une demande de prestations de l'assurance-invalidité. Il a été mis au bénéfice d'une mesure de reclassement en qualité d'aide-comptable auprès du Centre X._, laquelle a eu lieu du 17 janvier 2005 au 31 juillet 2007, a été prolongée de six mois en raison de périodes d'incapacité de travail et a été couronnée de succès. L'administration a examiné le droit à une rente d'invalidité et, dans un projet de décision du 30 juillet 2007, a retenu que l'assuré était à même de travailler à la journée entière comme aide-comptable, avec un rendement normal et en réalisant un revenu supérieur à son ancien salaire d'ouvrier-monteur. Par décision du 7 novembre 2007, l'Office cantonal AI du Valais (ci-après: l'OAI) a confirmé le refus du droit à une rente d'invalidité. B. Saisi d'un recours contre cette décision, dans lequel P._ se prévalait du fait que ses ennuis de santé occasionnaient des incapacités de travail répétées, qui conduisaient à une diminution du rendement de 50 %, et dans lequel il concluait à l'octroi d'un quart de rente, le Tribunal cantonal des assurances du canton du Valais l'a rejeté par jugement du 4 août 2008. C. Contre ce jugement, P._ interjette un recours en matière de droit public en concluant, sous suite de frais et dépens, principalement à la mise au bénéfice d'un quart de rente et, subsidiairement, au renvoi du dossier à l'OAI afin de mettre sur pied une expertise médicale tendant à établir son taux de rendement dans une activité adaptée. Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.