Faits: A. A.a. Victime d'une chute dans un escalier survenue sur son lieu de travail le 21 août 1992, D._, mécanicien-outilleur, alors domicilié en France, a subi une fracture non déplacée de l'apophyse transverse L2 à droite. Le cas a été pris en charge par la Caisse nationale suisse d'assurance en cas d'accidents (CNA), laquelle a mis l'intéressé au bénéfice d'une rente d'invalidité, fondée sur un taux d'incapacité de gain de 40 %, dès le 1er février 1995. La décision sur opposition du 14 mai 1996, confirmant la prise de position de l'assureur-accidents du 18 octobre 1995, est entrée en force. A.b. A.b.a. Le 9 novembre 1994, la demande de prestations de l'assurance-invalidité tendant au reclassement dans une nouvelle profession, déposée par D._ en octobre 1993, a été rejetée par la Caisse suisse de compensation au motif que les conditions d'assurance n'étaient pas remplies. En revanche, l'Office AI pour les assurés résidant à l'étranger, se fondant sur un prononcé présidentiel de la Commission de l'assurance-invalidité du canton de Genève du 23 septembre 1994 qui retenait un degré d'invalidité de 100 % depuis le 6 novembre 1993, a, par décision du 17 juillet 1995, alloué au prénommé à partir du 1er novembre 1993 une rente entière d'invalidité, assortie d'une rente pour enfant et, dès le 1er mars 1995, d'une rente complémentaire pour son épouse. L'assuré a pris domicile en Suisse dès avril 1995, tout d'abord dans le canton d'Argovie, puis, à compter de septembre 1999, à Sion. A.b.b. Poursuivant une procédure de révision du droit à la rente entamée par l'Office cantonal AI de Genève en février 1998, l'Office cantonal AI du Valais a adressé un questionnaire au docteur A._, spécialiste FMH en chirurgie et médecin traitant de D._. Dans un rapport médical du 22 novembre 1999, ce praticien a indiqué que l'état de santé de son patient, stationnaire jusqu'en septembre 1999, s'était aggravé par une exacerbation de la douleur lombaire avec d'importantes irradiations dorsales. Il attestait la totale incapacité de travail de l'assuré depuis le 5 octobre 1992, pour une durée indéterminée. L'office AI a de plus soumis ce dernier à une expertise médicale confiée à la Clinique X._. Dans son rapport du 30 mai 2000, auquel ont été joints un consilium neurologique du docteur B._ et un consilium psychiatrique du docteur C._, le docteur E._, directeur médical de la Clinique X._, a relevé que l'ensemble des symptômes et des constatations objectives était compatible avec les plaintes de l'assuré, mais qu'ils ne pouvaient à eux seuls expliquer l'invalidation complète de ce dernier. En accord avec le docteur C._, l'expert a cependant conclu que le refus d'un reclassement professionnel en 1993 avait eu un effet extrêmement négatif sur le processus d'invalidation et que, même en l'absence de pathologie psychiatrique avérée, D._ était psychologiquement totalement et définitivement invalide. Estimant que ce rapport d'expertise était insuffisant pour lui permettre de rendre une décision, l'office AI a donné mandat au Centre d'observation médicale de l'assurance-invalidité de Lausanne (COMAI) de procéder à une nouvelle expertise pluridisciplinaire de l'assuré. D._ ayant refusé de se soumettre à cette mesure d'instruction, motif pris qu'il avait déjà rempli son devoir de collaboration en subissant l'expertise de la Clinique X._, l'office cantonal lui a imparti un délai pour revenir sur sa détermination en l'informant qu'à défaut il serait statué en l'état du dossier. Le 29 novembre 2001, l'assuré a persisté dans sa détermination. Par décision du 5 décembre 2001, l'office AI l'a avisé que son droit à la rente était supprimé au 31 janvier 2002. B. Par jugement du 26 septembre 2002, le Tribunal cantonal des assurances du canton du Valais a rejeté le recours formé par l'intéressé contre cette décision. C. D._ interjette recours de droit administratif contre ce jugement. Il demande, sous suite de dépens, qu'il soit dit que la rente entière de l'assurance-invalidité dont il a bénéficié ne peut être ni supprimée, ni suspendue à partir du 31 janvier 2002. L'Office cantonal AI du Valais conclut au rejet du recours. L'Office fédéral des assurances sociales n'a pas déposé d'observations.