Faits:
A. S._, sans formation professionnelle, est arrivé en Suisse en 1989, où il a travaillé en tant que manoeuvre dans la maçonnerie. Depuis 1992, il est au bénéfice d'un permis de grutier. A partir du 1er mars 2000, il a été engagé en qualité de grutier A par l'entreprise X._ SA. A l'arrêt de travail de manière continue depuis le 24 septembre 2004, il a présenté le 14 avril 2005 une demande de prestations de l'assurance-invalidité, en requérant un reclassement dans une nouvelle profession.
Dans un rapport du 4 mai 2005, le docteur V._, médecin généraliste, a posé les diagnostics ayant des répercussions sur la capacité de travail de troubles somatoformes douloureux existant depuis 2003, de tendinite de la coiffe des rotateurs de l'épaule gauche existant depuis février 2004 et de déchirures des ménisques gauches et droits existant depuis 1992. Il indiquait que l'activité exercée jusque-là n'était plus exigible et préconisait une réadaptation professionnelle, par exemple dans l'horlogerie ou l'informatique. Dans un rapport du 7 juin 2005, le docteur D._, spécialiste FMH en chirurgie orthopédique, a conclu que les examens rhumatologiques n'avaient pas permis de mettre en évidence autre chose que des troubles somatoformes ou de postuler l'existence d'une fibromyalgie; objectivement il y avait bel et bien des lésions des ménisques qui justifiaient en tout cas à gauche un deuxième geste arthroscopique thérapeutique. Il relevait l'absence de signe objectif d'une affection somatique chez un patient où la pathologie anamnestiquement lui paraissait cohérente.
Le docteur E._, spécialiste FMH en psychiatrie et psychothérapie, a effectué une expertise psychiatrique pour l'assureur perte de gain de l'employeur. Dans un rapport du 15 août 2005, ce médecin et la psychologue - psychothérapeute C._ ont posé le diagnostic selon le DSM-IV-TR de trouble somatoforme indifférencié chez une personnalité à traits passifs-dépendants. Relevant qu'il n'y avait pas de comorbidité psychiatrique au trouble somatoforme indifférencié et qu'il s'agissait ici non d'un trouble majeur de la personnalité, mais d'un trait de fonctionnement, qui n'était pas assimilable de près ou de loin à une atteinte à la santé mentale, ils ont considéré que d'un point de vue psychiatrique, la capacité de travail était de 100 % dans toute activité adaptée aux éventuels problèmes somatiques dès le 1er août 2005.
A la suite d'un stage d'observation professionnelle effectué entre le 30 avril et le 16 mai 2007, S._ a bénéficié de la prise en charge par l'assurance-invalidité des coûts d'une formation dans le domaine de la mécanique industrielle acquise du 4 juin au 21 décembre 2007 et de l'électrotechnique industrielle acquise du 7 janvier au 11 juillet 2008 dans le cadre du Centre Neuchâtelois d'Intégration Professionnelle (CNIP).
Les docteurs P._, spécialiste FMH en médecine interne - rhumatologie, M._, spécialiste FMH en chirurgie orthopédique et traumatologie de l'appareil moteur, et H._, médecin-chef du Service de médecine physique et réadaptation de l'Hôpital Y._, ont consigné leur appréciation dans des documents datés respectivement du 10 décembre 2007, 12 et 7 février 2008. Le docteur T._, spécialiste FMH en médecine générale et médecin traitant de l'assuré, a posé les diagnostics ayant des répercussions sur la capacité de travail d'arthrose des genoux - status après déchirures des ménisques gauches et droits (existant depuis 1992) - status après intervention pour lésions méniscales sur genou gauche en 1995 et 2004 et à droite en 1996, de douleurs scapulaires gauches existant depuis février 2004 probablement en rapport avec une tendinite de la coiffe des rotateurs et de douleurs polyarticulaires (épaule, métacarpo-phalangienne 2 à 5, inter phalangien 2 à 5 de la main droite, hanche gauche) d'étiologie indéterminée, probablement dans un contexte de syndrome douloureux chronique (rapport du 8 avril 2008).
Par décision du 21 janvier 2009, l'Office de l'assurance-invalidité du canton de Neuchâtel a refusé d'allouer à S._ une rente d'invalidité, au motif qu'il était en mesure de travailler à 100 % dans le domaine de la mécanique et de l'électrotechnique industrielle et pourrait ainsi réaliser un revenu d'invalide de l'ordre de 57'335 fr. par année (valeur 2008) et que la comparaison des revenus, compte tenu d'un revenu sans invalidité de 69'056 fr. par année (valeur 2008), donnait une invalidité de 17 %, taux qui ne conférait aucun droit à une rente.
B. Le 20 février 2009, S._ a formé recours contre cette décision devant le Tribunal administratif de la République et canton de Neuchâtel, en concluant, sous suite de dépens, à son annulation, la cause étant renvoyée à l'office AI pour nouvelle décision au sens des considérants. Il a produit une lettre du docteur D._ du 18 mai 2009 indiquant que le patient avait subi une arthroscopie du genou gauche.
Par jugement du 13 août 2009, le Tribunal administratif a rejeté le recours.
C. S._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et dépens, à son annulation, la cause étant renvoyée à l'autorité précédente pour qu'une expertise pluridisciplinaire soit ordonnée. A titre subsidiaire, il demande que le dossier soit renvoyé à l'instance inférieure et que le Tribunal fédéral lui ordonne d'examiner la possibilité d'accorder des mesures d'ordre professionnel, par exemple sous la forme d'un reclassement professionnel.

Considérant en droit:
1. 1.1 Le recours peut être formé notamment pour violation du droit fédéral (art. 95 let. a LTF), que le Tribunal fédéral applique d'office (art. 106 al. 1 LTF), n'étant ainsi limité ni par les arguments du recourant, ni par la motivation de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p.140). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF). Il examine sur la base des griefs soulevés dans le recours si le jugement entrepris viole (notamment) le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (art. 95 let. a LTF) y compris une éventuelle constatation des faits manifestement inexacte ou en violation du droit (art. 97 al. 1, art. 105 al. 2 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
1.2 Par rapport aux dernières conclusions prises devant l'autorité précédente, lesquelles tendaient au renvoi de la cause à l'office AI pour qu'il complète l'instruction du dossier par la mise en place d'une expertise médicale pluridisciplinaire, la conclusion subsidiaire tendant au renvoi de la cause à l'instance inférieure par laquelle le recourant invite le Tribunal fédéral à ordonner à l'instance inférieure d'examiner la possibilité d'accorder des mesures d'ordre professionnel, par exemple sous la forme d'un reclassement professionnel, est nouvelle (BERNARD CORBOZ, in: Commentaire de la LTF, Berne 2009, N. 31, 32 et 34 ad Art. 99 LTF). Cette conclusion est dès lors irrecevable.
1.3 Les principes relatifs au pouvoir d'examen développés dans l'<ref-ruling> consid. 3 p. 397 s. (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application qu'elle fait du droit (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité - dans la mesure où elle dépend d'une évaluation de la personne concrète, de son état de santé et de ses capacités fonctionnelles - relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398). Dans la mesure cependant où il en va de l'évaluation de l'exigibilité d'une activité professionnelle au regard de l'expérience générale de la vie, il s'agit d'une question de droit qui peut être examinée librement en instance fédérale; il en va ainsi des conclusions tirées de l'expérience médicale, comme par exemple, la présomption que les troubles somatoformes douloureux ou un autre syndrome semblable dont l'étiologie est incertaine et leurs effets peuvent être surmontés par un effort de volonté raisonnablement exigible (<ref-ruling> consid. 4.2.1 p. 70 s. et les arrêts cités, 393 consid. 3.2 p. 398 s. et les arrêts cités).
2. Le litige porte sur le droit du recourant à une rente d'invalidité, singulièrement sur l'atteinte à la santé et son incidence sur sa capacité de travail et de gain.
2.1 Le jugement attaqué expose de manière exacte et complète les dispositions légales relatives aux notions d'incapacité de gain (art. 7 LPGA jusqu'au 31 décembre 2007; art. 7 al. 1 et 2 LPGA depuis le 1er janvier 2008) et d'invalidité (art. 4 al. 1 LAI et art. 8 al. 1 LPGA), ainsi que les règles régissant l'évaluation de l'invalidité des assurés exerçant une activité lucrative (art. 16 LPGA en corrélation avec l'art. 28 al. 2 LAI jusqu'au 31 décembre 2007 et avec l'art. 28a al. 1 LAI depuis le 1er janvier 2008) et les principes jurisprudentiels y relatifs, lesquels continuent à s'appliquer après l'entrée en vigueur, le 1er janvier 2008, de la novelle du 6 octobre 2006 [5e révision de l'AI] (arrêt 8C_373/2008 du 28 août 2008, consid. 2.1). Il expose correctement les principes jurisprudentiels applicables en cas de troubles somatoformes douloureux persistants (<ref-ruling>, 130 V 352) ainsi qu'en cas de fibromyalgie (<ref-ruling>) et les règles sur les tâches du médecin. On peut ainsi y renvoyer.
2.2 Selon le principe de la libre appréciation des preuves, le juge apprécie librement les preuves médicales qu'il a recueillies, sans être lié par des règles formelles, en procédant à une appréciation complète et rigoureuse des preuves. Le juge doit examiner objectivement tous les documents à disposition, quelle que soit leur provenance, puis décider s'ils permettent de porter un jugement valable sur le droit litigieux. S'il existe des avis contradictoires, il ne peut trancher l'affaire sans indiquer les raisons pour lesquelles il se fonde sur une opinion plutôt qu'une autre. En ce qui concerne la valeur probante d'un rapport médical, ce qui est déterminant, c'est que les points litigieux aient fait l'objet d'une étude circonstanciée, que le rapport se fonde sur des examens complets, qu'il prenne également en considération les plaintes exprimées par la personne examinée, qu'il ait été établi en pleine connaissance de l'anamnèse, que la description du contexte médical et l'appréciation de la situation médicale soient claires et enfin que les conclusions de l'expert soient dûment motivées. Au demeurant, l'élément déterminant pour la valeur probante n'est ni l'origine du moyen de preuve ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (<ref-ruling> consid. 3a p. 352; <ref-ruling> consid. 1c p. 160 et les références).
3. Du jugement cantonal, il ressort que le recourant présente une arthrose des genoux, un status après déchirures des ménisques gauches et droits existant depuis 1992, un status après intervention pour lésions méniscales sur genou gauche en 1995 et 2004 et à droite en 1996, des douleurs scapulaires existant depuis février 2004, d'étiologie indéterminée. Depuis 1997, il se plaint toutefois essentiellement de douleurs ostéo-articulaires (gonalgies, douleurs aux chevilles, à la hanche gauche, aux cervicales, aux lombaires et à l'épaule gauche). Les premiers juges ont relevé que les médecins consultés n'avaient pas décelé de lésions ostéo-articulaires, en particulier à l'épaule gauche, qu'ils s'accordaient à retenir que ces douleurs se manifestaient essentiellement dans un contexte de trouble somatoforme douloureux et que le docteur E._ avait également diagnostiqué un trouble somatoforme dans le rapport d'expertise psychiatrique du 15 août 2005. Seul le docteur D._ était convaincu que le patient était atteint d'un rhumatisme inflammatoire, sans que les spécialistes en orthopédie parviennent toutefois à mettre en évidence une affection rhumatismale (lettre du 15 juillet 2008), de sorte qu'il n'y avait pas lieu de considérer que le recourant présentait une telle affection. Examinant si le recourant était en mesure de fournir l'effort de volonté raisonnablement exigible en vue de surmonter les effets de sa symptomatologie douloureuse, la juridiction cantonale a fait siennes les conclusions du docteur E._ dans son rapport du 15 août 2005. Ainsi, niant l'existence d'une comorbidité psychiatrique, elle a retenu que le recourant ne souffrait d'aucune affection psychique significative. Celui-ci était capable de composer avec ses douleurs, soit de surpasser son état douloureux puisqu'il avait travaillé à 100 % durant les six mois de formation en électronique, avec un taux d'absence de 5 % et à la satisfaction des responsables. Il menait par ailleurs une vie émotionnelle et sociale pratiquement normale. Tous ces éléments concordants laissaient présumer que le trouble somatoforme douloureux et ses effets pouvaient être surmontés par un effort de volonté raisonnablement exigible de la part du recourant, ce qui conduisait à nier toute incapacité de travail résultant du seul diagnostic de trouble somatoforme douloureux et à admettre que celui-ci était encore capable d'exercer à temps complet une activité adaptée.
3.1 Le recourant se plaint d'arbitraire dans l'appréciation des preuves en ce qui concerne les affections somatiques. Il reproche à la juridiction cantonale de n'avoir pris en considération que le trouble somatoforme douloureux, sans tenir compte des affections dont il est atteint sur le plan somatique, lesquelles n'ont pu être clairement déterminées, ce qui nécessite la mise en oeuvre d'une expertise pluridisciplinaire. Il entend tirer argument du fait que le docteur D._ considère qu'il est atteint d'une affection rhumatismale et que le docteur T._, dans son rapport du 8 avril 2008, a qualifié de complexe sa situation, en relevant que le patient présentait «à la fois des douleurs de types mécaniques dégénératifs associées à des douleurs probablement en rapport avec un syndrome douloureux chronique».
3.2 L'appréciation des preuves n'est arbitraire que si l'autorité n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si elle a omis sans raison sérieuse de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, elle a fait des déductions insoutenables (<ref-ruling> consid. 4.3 p. 62 et les arrêts cités, 129 I 8 consid. 2.1 p. 9, 127 I 38 consid. 2a p. 41).
3.3 S'agissant des affections dont le recourant est atteint sur le plan somatique, les premiers juges ont retenu l'arthrose des genoux et les douleurs scapulaires. Ils ont relevé qu'en présence d'affection somatique avec un contexte de trouble somatoforme douloureux, il était difficile de distinguer la part de douleurs liées au syndrome douloureux et celles liées aux affections somatiques, soit, en l'occurrence l'arthrose aux genoux et, dans une moindre mesure, l'atteinte scapulaire à l'épaule.
Sur le vu des rapports des docteurs T._ du 8 avril 2008, M._ du 12 février 2008, H._ du 7 février 2008, V._ du 4 mai 2005, A._ des 23 février 2004 et 24 février 2003 et I._ du 11 décembre 2002, sur lesquels les premiers juges se sont fondés en relevant que les médecins consultés n'avaient pas décelé de lésions ostéo-articulaires, en particulier à l'épaule gauche, et s'accordaient à retenir que les douleurs se manifestaient essentiellement dans un contexte de trouble somatoforme douloureux, les affirmations du recourant (supra, consid. 3.1) ne permettent pas de considérer que les affections somatiques retenues par la juridiction cantonale aient été établies de façon manifestement inexacte ou en violation du droit. L'argument du recourant selon lequel la majorité des médecins consultés s'accordent pour dire qu'il souffre également de "lésions de types dégénératives arthrosiques des genoux, et de l'épaule", n'est étayé par aucun document. Dans son rapport du 8 avril 2008, le docteur T._ a posé le diagnostic de douleurs poly-articulaires (épaule, métacarpo-phalangienne 2 à 5, inter phalangien 2 à 5 de la main droite, hanche gauche) d'étiologie indéterminée, probablement dans un contexte de syndrome douloureux chronique, diagnostic qui va dans le sens des constatations de fait des premiers juges en ce qui concerne la problématique des douleurs de l'assuré. Quant à l'affection rhumatismale dont le docteur D._ est convaincu que le patient est atteint, le Tribunal administratif a relevé que, comme ce médecin le reconnaît lui-même (lettre du 15 juillet 2008), les rhumatologues n'ont pas confirmé le diagnostic de rhumatisme inflammatoire, malgré de nombreux examens. C'est la raison pour laquelle les premiers juges, se référant aux rapports des docteurs M._ du 12 février 2008, P._ du 10 décembre 2007 et A._ du 23 février 2004, ont nié que le recourant ait présenté une telle affection. Ainsi, en ce qui concerne les affections somatiques, il n'y a pas eu appréciation arbitraire des preuves de la part du Tribunal administratif, lequel, avec raison, n'a donné aucune suite à la requête tendant à la mise en oeuvre d'une expertise pluridisciplinaire sur ce point. Le jugement attaqué est conforme au droit fédéral (supra, consid. 2.2) et le recours mal fondé de ce chef.
3.4 Dans la mesure où le recourant se plaint d'arbitraire dans l'appréciation des preuves en ce qui concerne la capacité d'exercer à temps complet une activité adaptée, ce grief n'est pas motivé de manière suffisante pour que le Tribunal fédéral puisse l'examiner (art. 106 al. 2 LTF; <ref-ruling> consid. 1.6 p. 130 et l'arrêt cité, 134 II 244 consid. 2.2 p. 246). En effet, on ne peut en aucune manière déduire de ce reproche d'ordre général que celui-ci discute les motifs suivants du jugement attaqué. Ainsi, l'évaluation du docteur T._, selon laquelle les douleurs entraînaient une limitation très importante de l'activité conduisant à une capacité de travail de 50 %, se fondait en grande partie sur le diagnostic de trouble somatoforme douloureux, dont on ne saurait déduire l'existence d'une incapacité de travail (supra, consid. 3). Le docteur I._ tenait le patient en 2002 pour capable de travailler à 100 %. Les autres spécialistes en rhumatologie qui avaient examiné l'assuré ne s'étaient pas prononcés sur la capacité de travail en raison des seules atteintes somatiques, mais n'auraient pas manqué de signaler si elle était réduite, de sorte qu'il fallait admettre une capacité entière dans une activité adaptée, malgré l'avis divergent du docteur T._. Cela n'est pas discuté par le recourant, qui ne s'exprime pas non plus sur les limitations fonctionnelles prises en compte par le Tribunal administratif.
S'agissant de l'activité adaptée, la juridiction cantonale est de l'avis qu'il n'est pas arbitraire de considérer que l'activité exercée au CNIP dans le cadre des mesures professionnelles (mécanique industrielle), que l'assuré a pu accomplir à 100 % durant six mois, est adaptée à l'atteinte à la santé, ainsi que l'a relevé le SMR dans un avis du 14 juillet 2008. Le recourant lui reproche d'avoir méconnu le fait que pendant l'année où il a bénéficié d'une mesure de réinsertion professionnelle, il y a six mois où il n'a pas pu travailler à 100 % en raison de son handicap et que, depuis la fin de sa formation en juillet 2008, il n'a plus pu travailler. Ce grief tombe à faux. Même si l'assuré a présenté des périodes d'absence pour raisons médicales pendant sa formation dans le domaine de la mécanique industrielle acquise du 4 juin au 21 décembre 2007 et de l'électrotechnique industrielle acquise du 7 janvier au 11 juillet 2008, il n'en demeure pas moins que cette formation est adaptée à l'atteinte à la santé et peut être exercée à 100 % (avis médical SMR du 14 juillet 2008), ce qui est seul déterminant sous l'angle de l'exigibilité (art. 16 LPGA; <ref-ruling> consid. 3.2 p. 398). Le recours est mal fondé de ce chef.
3.5 Les premiers juges ont confirmé l'invalidité de 17 % retenue par l'office AI sur la base d'un revenu d'invalide de 57'335 fr (calculé avec un abattement de 10 %) et d'un revenu sans invalidité de 69'056 fr. par année (valeur 2008), taux qui ne conférait aucun droit à une rente d'invalidité. Ils ont considéré qu'il en irait de même si l'on se fondait sur un revenu d'invalide de 46'699 fr. 20 (calculé avec un abattement de 25 %) et un revenu sans invalidité de 69'058 fr. (recte: 69'056 fr.) par année (valeur 2008), la comparaison des revenus donnant dans ce cas une invalidité de 32 % (le taux de 32,37 % étant arrondi au pour-cent inférieur). Cela n'est pas discuté par le recourant. Le recours est dès lors mal fondé.
4. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (art. 66 al. 1 LTF). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal administratif de la République et canton de Neuchâtel et à l'Office fédéral des assurances sociales.
Lucerne, le 20 avril 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner