Faits:
A. A.a M._ a présenté le 3 avril 2003 une demande de prise en charge par l'assurance-invalidité d'une prothèse oculaire en résine de synthèse de l'oeil gauche. Dans un rapport du 7 mai 2003, complété les 21 août et 19 septembre 2003, le docteur G._, spécialiste FMH en maladies des yeux, a indiqué que l'oeil gauche du patient était déformé par la maladie et que seule une empreinte précise permettait un bon maintien de la prothèse oculaire, de sorte qu'un montage plastique était nécessaire. Par décision du 14 novembre 2003, l'Office de l'assurance-invalidité pour le canton de Vaud a informé l'assuré que les conditions d'octroi d'une prothèse oculaire en résine de synthèse étaient remplies et que l'assurance-invalidité prenait en charge les frais d'une prothèse oculaire selon prescription médicale du 3 mars 2003 au 31 mars 2013 (révision), tout en indiquant que pour une prothèse en matière synthétique les assurés âgés de plus de 20 ans avaient droit à un remplacement de la prothèse tous les six ans. La facture de 4'000 fr. relative à la prothèse oculaire réalisée par l'oculariste D._ que M._ a produite a été prise en charge par l'office AI.
A.b Dans un avenant du 16 décembre 2009 à sa communication du 14 novembre 2003 de prise en charge d'une prothèse oculaire, l'office AI a avisé M._ que depuis le 1er janvier 2008 le ch. 5.01 de l'annexe à l'OMAI prévoyait les contributions maximales de 645 fr. (TVA comprise) pour les prothèses en verre et de 2'000 fr. (TVA comprise) pour les prothèses en matière synthétique et qu'à l'avenir, bien que l'assuré ait bénéficié d'une prothèse oculaire d'une valeur de 4'000 fr., la prise en charge par l'assurance-invalidité d'une prothèse en matière synthétique se limiterait à 2'000 fr.
Le 11 janvier 2010, M._ a informé l'office AI que l'ancienne prothèse oculaire n'était plus adaptée et avait été remplacée par une prothèse en résine de synthèse et sur mesure réalisée par l'oculariste D._, avec empreinte tridimensionnelle de la cavité et forme anatomique, d'un coût de 8'000 fr. dont il demandait qu'il soit intégralement pris en charge par l'assurance-invalidité pour les motifs exposés dans la lettre-circulaire de l'AI n° 268 du 17 octobre 2008 éditée par l'OFAS. L'office AI l'a invité à produire un devis comparatif d'un autre fournisseur en Suisse. Dans une lettre du 24 février 2010, l'assuré a déclaré que la solution proposée par l'Hôpital Ophtalmique X._ était "techniquement incomparable" avec la prothèse confectionnée par l'oculariste D._ et produit une attestation médicale du docteur G._ du 17 février 2010, selon laquelle le patient avait besoin d'une prothèse individuelle faite sur mesure vu que l'oeil gauche blessé avait une forme spéciale irrégulière ne permettant pas une prothèse standard. Dans un rapport du 1er avril 2010, ce médecin a qualifié de "statu quo" l'évolution depuis 2003 et indiqué que l'oeil gauche était très déformé du fait d'une atrophie totale en forme de poire et que seule une prothèse sur mesure pouvait tenir en place, ce qui devait être fait impérativement.
L'office AI a requis de l'Hôpital Ophtalmique X._ des renseignements. Le docteur A._, médecin associé de cet établissement, a indiqué qu'il était probablement nécessaire dans le cas de l'assuré de faire un équipement prothétique en résine afin d'adapter au mieux la prothèse à l'oeil existant et que ce genre de prothèse était bien réalisé à l'Hôpital Ophtalmique X._ et facturé à 2'000 fr. Par lettre du 24 juin 2010, l'office AI a informé M._ que les conditions d'octroi d'une contribution à l'achat d'une prothèse oculaire en matière synthétique étaient remplies et que l'assurance-invalidité prendrait en charge à ce titre une contribution de 2'000 fr. Le 12 juillet 2010 (timbre postal), l'assuré a fait part à l'office AI de ses observations. A la demande de l'office AI, M._ a été examiné à l'Hôpital Ophtalmique X._ par le docteur A._ le 7 septembre 2010. Le 14 octobre 2010, ce médecin a produit un rapport selon lequel il existait du côté gauche une cécité suite à un traumatisme survenu en 1990, où il confirmait qu'étant donné l'aspect actuel une prothèse sur mesure après moulage et réalisée en résine était nettement supérieure aux prothèses en verre, compte tenu de l'adaptation parfaite de la prothèse à l'oeil existant, et indiquait que les prothèses en résine réalisées à l'Hôpital Ophtalmique X._ étaient faites après moulage et en résine. Par décision du 18 octobre 2010, l'office AI, tout en s'exprimant dans un courrier séparé daté du même jour sur les observations de l'assuré, a octroyé à M._ une contribution de 2'000 fr. pour les frais d'une prothèse oculaire en matière synthétique, selon prescription médicale, dès le 5 décembre 2009.
B. Le 17 novembre 2010, M._ a formé recours contre cette décision devant le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en concluant à son annulation, la cause étant renvoyée à l'office AI pour nouvelle décision lui octroyant pour l'achat de la prothèse oculaire la contribution que justice dira. Le 6 janvier 2011, il a pris de nouvelles conclusions tendant à la réforme de la décision entreprise en ce sens qu'il avait droit à l'octroi de la prothèse oculaire réalisée sur mesure par l'oculariste D._ avec empreinte tridimensionnelle de la cavité et de la forme anatomique, d'un coût de 8'000 fr. Il produisait trois documents datés des 18 juillet, 24 novembre et 8 décembre 2010 dans lesquels l'oculariste D._ avait indiqué que les autres fabricants n'avaient pas la technicité nécessaire pour exécuter la prothèse oculaire avec l'empreinte tridimensionnelle et que l'assuré, en portant une prothèse qui ne respectait pas l'anatomie de l'oeil, s'exposait à un risque d'érosion de la cornée et d'énucléation de l'oeil si les douleurs persistaient et qu'une prothèse en résine réalisée à l'Hôpital Ophtalmique X._ ne constituait pas dans son cas un moyen auxiliaire adéquat vu qu'elle ne respectait pas la forme de l'oeil.
Dans sa réponse du 9 février 2011, l'Office de l'assurance-invalidité pour le canton de Vaud a conclu au rejet du recours. M._ a déposé ses observations le 4 mars 2011; l'office AI en a fait de même le 15 mars 2011.
Par arrêt du 9 juin 2011, la juridiction cantonale a rejeté le recours.
C. M._ interjette un recours contre ce jugement en concluant à sa réforme en ce sens qu'il est dit qu'il a droit non pas à une contribution à l'achat d'une prothèse oculaire en résine de synthèse, mais à l'octroi de la prothèse fabriquée sur mesure par l'oculariste D._ avec empreinte tridimensionnelle de la cavité oculaire et forme anatomique, d'un coût de 8'000 fr.
Considérant en droit:
1. 1.1 Le recours interjeté céans est formé pour violation du droit fédéral (art. 95 let. a LTF) - incluant les droits fondamentaux - et est dirigé contre une décision finale (art. 90 LTF) rendue en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans une cause de droit public (art. 82 let. a LTF), sans qu'une des exceptions prévues à l'art. 83 LTF soit réalisée. La voie du recours en matière de droit public est ainsi ouverte.
1.2 Le recours peut être formé notamment pour violation du droit fédéral (art. 95 let. a LTF), que le Tribunal fédéral applique d'office (art. 106 al. 1 LTF), n'étant ainsi limité ni par les arguments du recourant, ni par la motivation de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p.140). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF). Il examine sur la base des griefs soulevés dans le recours si le jugement entrepris viole (notamment) le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (art. 95 let. a LTF) y compris une éventuelle constatation des faits manifestement inexacte ou en violation du droit (art. 97 al. 1, art. 105 al. 2 LTF).
2. Il est constant que les conditions de remise d'une prothèse oculaire en résine de synthèse sont réalisées. L'office intimé a octroyé au recourant la contribution maximale de 2'000 fr. figurant sous ch. 5.01 de l'annexe à l'OMAI pour une prothèse en matière synthétique. Le litige porte sur le point de savoir si, au lieu de la contribution maximale de 2'000 fr., le recourant a droit à la prise en charge par l'assurance-invalidité de la prothèse oculaire en résine de synthèse réalisée par l'oculariste D._ avec empreinte tridimensionnelle de la cavité et forme anatomique, d'un coût de 8'000 fr.
2.1 Depuis le 1er janvier 2008, date de l'entrée en vigueur de la novelle du 22 novembre 2007 modifiant l'ordonnance concernant la remise de moyens auxiliaires par l'assurance-invalidité (OMAI), les limites de prix qui figuraient en annexe à la convention tarifaire entre l'OFAS et les fournisseurs de prothèses oculaires figurent sous ch. 5.01 de l'annexe à l'OMAI, dont la teneur est reproduite dans le jugement entrepris auquel on peut ainsi renvoyer.
2.2 Les règles régissant le droit à des mesures de réadaptation (art. 8 al. 1 LAI), singulièrement aux moyens auxiliaires (art. 21 LAI et art. 2 al. 4 OMAI) sont exposées correctement dans le jugement entrepris. Il convient d'y renvoyer, en particulier en ce qui concerne les limites de coûts fixées par l'OFAS qui concrétisent l'exigence légale du caractère simple du moyen auxiliaire et aussi, dans une certaine mesure, de son caractère adéquat (ATF 132 V 215 consid. 4.3.1 p. 225, 131 V 9 consid. 3.6.1 p. 19, 167 consid. 3 p. 170 s.).
2.3 La lettre-circulaire de l'AI n° 268 du 17 octobre 2008 éditée par l'OFAS, dans sa teneur relative aux prothèses oculaires, est reproduite dans le jugement entrepris auquel on peut renvoyer.
Dans la lettre-circulaire mentionnée ci-dessus, l'OFAS se réfère à l'arrêt I 440/05 et I 450/05 du 30 octobre 2006, où le Tribunal fédéral des assurances a admis que l'assurée avait droit à la prise en charge par l'assurance-invalidité de l'intégralité des frais de remise d'une prothèse oculaire en résine de synthèse avec empreinte tridimensionnelle du globe oculaire et forme anatomique. Ce type de prothèse oculaire avait été prescrit à l'assurée par son médecin traitant (spécialiste en ophtalmologie), lequel avait attesté qu'une prothèse synthétique réalisée sur mesure - en lieu et place d'une prothèse confectionnée de manière semi-industrielle - était nécessaire pour éviter des ulcérations et une possible infection de la cornée, en raison de la surface oculaire fragile et irrégulière. Sur le vu de cet avis médical, le Tribunal fédéral des assurances a retenu que l'assurée présentait un état de santé particulier qui nécessitait un besoin accru de réadaptation. Relevant notamment que l'assurance-invalidité ne fournissait aucune indication permettant de considérer que d'autres fabricants seraient en mesure de livrer ces prothèses de type particulier, médicalement indiquées partant appropriées et nécessaires, au prix du tarif conventionnel, il a considéré que l'on ne saurait présumer, en l'espèce, qu'une prothèse synthétique remise sur la base des montants tarifaires maximums - à savoir une prothèse oculaire de confection semi-industrielle - permettait, dans le cas particulier, d'atteindre le but de la réadaptation d'une manière adéquate.
3. La juridiction cantonale, se fondant sur l'avis des docteurs G._ et A._, a retenu qu'il était nécessaire que le recourant bénéficie d'une prothèse oculaire en résine confectionnée sur mesure. Considérant que l'Hôpital Ophtalmique X._ pouvait livrer à l'assuré une prothèse réalisée sur mesure, en résine synthétique, et adaptée à sa situation, au prix de 2'000 fr., elle a admis que dans le cas du recourant une telle prothèse était une mesure médicalement indiquée, appropriée et nécessaire, simple et adéquate, et permettait d'atteindre le but de la réadaptation d'une manière adéquate, dans la limite de la contribution maximale de 2'000 fr.
3.1 Devant la Cour de céans, le recourant reprend son argumentation de première instance selon laquelle le port d'une prothèse d'un coût de 2'000 fr. lui ferait courir le risque d'une érosion de la cornée et de l'énucléation de l'oeil en cas de persistance des douleurs, tel qu'évoqué par l'oculariste D._ dans sa lettre du 24 novembre 2010. Cette argumentation a été réfutée par la juridiction cantonale au motif que de l'avis du docteur A._, avec une prothèse adaptée les frottements étaient réduits au strict minimum et l'oeil existant était irrité le moins possible, ce qui augmentait la tolérance et le confort. Puisque ce médecin parle dans le rapport qu'il a produit le 14 octobre 2010 de frottements réduits au strict minimum et d'une augmentation de la tolérance, le recourant en déduit que cela démontre qu'un frottement existe et peut entraîner une érosion de la cornée avec le risque de perdre totalement l'oeil. Tel n'est toutefois pas le sens des renseignements consignés par le docteur A._ dans le rapport mentionné ci-dessus où, compte tenu de l'aspect "actuel" constaté lors de la consultation du 7 septembre 2010, ce médecin a confirmé qu'une prothèse sur mesure après moulage et réalisée en résine était nettement supérieure aux prothèses en verre, et cela en raison de l'adaptation parfaite de la prothèse à l'oeil existant.
Sur le vu de l'attestation du 17 février 2010 et du rapport du 1er avril 2010 du docteur G._ et du rapport du docteur A._ produit le 14 octobre 2010, les affirmations du recourant en ce qui concerne le respect de l'empreinte de l'oeil ne permettent pas de considérer que la juridiction cantonale, en retenant qu'il était nécessaire que le recourant bénéficie d'une prothèse oculaire en résine confectionnée sur mesure, ait établi les faits de façon manifestement inexacte ou en violation du droit (art. 105 al. 2 LTF; supra, consid. 1.2). Ainsi que l'a relevé le premier juge, il ne ressort pas des documents médicaux émanant du docteur G._ que le recourant doive pouvoir uniquement bénéficier de la prothèse confectionnée par l'oculariste D._. Il résulte du jugement entrepris que le docteur A._, dans le rapport qu'il a produit le 14 octobre 2010, a attesté que les prothèses en résine réalisées à l'Hôpital Ophtalmique X._ étaient faites après moulage et en résine. On ignore sur quels éléments a pu se fonder l'oculariste D._ dans sa lettre du 24 novembre 2010 pour affirmer que la prothèse en résine réalisée à l'Hôpital Ophtalmique X._ ne respecterait pas la forme de l'oeil. Quoi qu'il en soit, le docteur A._, en sa qualité de médecin associé de l'Hôpital Ophtalmique X._, est mieux à même pour s'exprimer sur les prothèses oculaires sur mesure réalisées en résine dans cet établissement. Il apparaît donc que la juridiction cantonale, en considérant que l'Hôpital Ophtalmique X._ pouvait livrer au recourant une prothèse réalisée sur mesure, en résine synthétique, et adaptée à sa situation, au prix de 2'000 fr., a apprécié les preuves de manière conforme au droit fédéral. Le recours est mal fondé de ce chef.
3.2 Le jugement entrepris, qui admet que dans le cas du recourant une prothèse oculaire réalisée sur mesure à l'Hôpital Ophtalmique X._ après moulage et en résine synthétique est une mesure médicalement indiquée, appropriée et nécessaire, simple et adéquate, et permet d'atteindre le but de la réadaptation d'une manière adéquate, dans la limite de la contribution maximale de 2'000 fr., est ainsi conforme au droit fédéral (supra, consid. 2.1 et 2.2). Le recours est mal fondé.
4. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 31 août 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Wagner