Faits: A. A.a G._, né en 1950, a travaillé en qualité de maçon. Par décision du 6 juin 1996, l'Office de l'assurance-invalidité pour le canton de Vaud l'a mis au bénéfice d'une demi-rente d'invalidité à partir du 1er septembre 1993 pour une invalidité de 50 %. A.b Dans le cadre de la procédure de révision du droit de G._ à une demi-rente d'invalidité engagée dès mars 1998, celui-ci a présenté une demande de rente entière. Par décision du 10 avril 2002, l'office AI a rejeté la demande, au motif que l'assuré présentait une invalidité de 61 %, taux insuffisant pour ouvrir droit à une rente entière. Par jugement du 23 septembre 2003, le Tribunal des assurances du canton de Vaud a rejeté le recours formé par G._ contre cette décision. Par arrêt du 9 mars 2005, le Tribunal fédéral des assurances a rejeté le recours interjeté contre ce jugement. Retenant un revenu sans invalidité de 58'115 fr. en 2002 et un revenu d'invalide de 24'225 fr. (après abattement de 15 %) en 2002 calculé sur la base de l'Enquête suisse sur la structure des salaires, il a considéré que l'assuré présentait une invalidité de 58 %. Il indiquait que même en procédant à la déduction maximale de 25 % et en obtenant un revenu d'invalide de 21'375 fr., on aboutirait à un taux d'invalidité de 63 %, insuffisant pour fonder le droit à une rente entière. A.c Le 29 janvier 2004, G._ a présenté un questionnaire en vue d'un nouvel examen de son droit à la rente, en produisant une attestation du 17 janvier 2004 du docteur D._, docteur en chiropratique, et une lettre du 26 janvier 2004 du docteur N._, spécialiste FMH en médecine interne et en oncologie & hématologie. Indiquant qu'il était sans activité professionnelle depuis le 1er octobre 1999, il produisait également copie de la résiliation des rapports de travail pour le 30 septembre 1999 par l'entreprise X._, au service de laquelle il avait oeuvré en qualité de magasinier à temps partiel à partir du 1er décembre 1998. Le 30 septembre 2005, l'assuré a demandé à bénéficier d'un trois-quarts de rente pour une invalidité de 61 %, avec effet rétroactif dès le 30 septembre 2004. Dans sa réponse du 14 novembre 2005, l'office AI s'est référé à l'arrêt du Tribunal fédéral des assurances du 9 mars 2005, qui avait procédé à une comparaison des revenus sur la base des données ressortant de l'Enquête suisse sur la structure des salaires, dont il résultait une invalidité de 58 %, taux ne conférant aucun droit à un trois-quarts de rente. Le 22 décembre 2005, G._ a fait valoir que le Tribunal fédéral des assurances avait procédé dans cet arrêt à deux calculs, dont le premier donnait une invalidité de 58 % et le second une invalidité de 63 %, ce taux ouvrant le droit à un trois-quarts de rente. Le 12 janvier 2006, l'office AI a avisé G._ que l'arrêt du 9 mars 2005, dans lequel le Tribunal fédéral des assurances avait fixé son invalidité à 58 % et signalé qu'elle serait de 63 % dans l'hypothèse non retenue d'un abattement de 25 %, était entré en force. Par décision du 18 janvier 2006, il a refusé d'entrer en matière sur la demande de révision du 29 janvier 2004, au motif que l'assuré n'avait fait valoir aucun fait nouveau. Le 20 février 2006, G._ a formé opposition contre cette décision. Il faisait valoir que plus de trois années s'étaient écoulées depuis la décision de l'office AI du 10 avril 2002 et qu'il se trouvait dans la situation où, âgé de plus de 55 ans, il lui serait extrêmement difficile de retrouver une activité professionnelle, n'ayant plus exercé d'emploi à partir d'octobre 1999. Ainsi, l'abattement à prendre en compte pour calculer le revenu d'invalide était d'au moins 20 %, de sorte que la comparaison des revenus donnait une invalidité de 60 %, taux conférant un droit à un trois-quarts de rente. Par décision du 24 octobre 2007, l'office AI a rejeté l'opposition, tout en réfutant les arguments qui y étaient développés. B. Le 26 novembre 2007, G._ a formé recours contre cette décision devant le Tribunal des assurances du canton de Vaud (aujourd'hui: la Cour des assurances sociales du Tribunal cantonal), en concluant, sous suite de frais et dépens, à la réforme de celle-ci en ce sens qu'un trois-quarts de rente d'invalidité lui était alloué. Reprenant les arguments développés dans l'opposition du 20 février 2006, il alléguait que le revenu sans invalidité en 2006 calculé selon la Convention nationale du secteur principal de la construction en Suisse aurait été de 61'763 fr. par année et qu'il y avait lieu de calculer le revenu d'invalide en 2006 en tenant compte d'un abattement de 20 %, de sorte que la comparaison des revenus donnait une invalidité de 63,08 %, taux conférant un droit à un trois-quarts de rente. Par jugement du 6 mai 2008, la juridiction cantonale a rejeté le recours. C. G._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et dépens, à sa réforme en ce sens qu'un trois-quarts de rente lui est alloué. L'Office de l'assurance-invalidité pour le canton de Vaud déclare que les arguments dans le recours ne sont pas de nature à remettre en cause le jugement attaqué. L'Office fédéral des assurances sociales a renoncé à se déterminer.