Faits:
A. G._ a travaillé en qualité de poseur de plafonds. A l'arrêt de travail à la suite d'un accident professionnel survenu le 27 août 2001, il a présenté le 19 juin 2002 une demande de prestations de l'assurance-invalidité.
Dans un rapport du 20 novembre 2002, le docteur N._, médecin assistant à la consultation d'orthopédie et de traumatologie de l'Hôpital X._, a posé le diagnostic ayant des répercussions sur la capacité de travail de fracture du plateau tibial externe gauche.
Du 2 au 27 juin 2003, l'assuré a effectué un stage d'observation professionnelle au COPAI de V._. La doctoresse M._, médecin-conseil, a déposé ses conclusions dans un rapport du 1er juillet 2003.
Dès le 15 septembre 2003, G._ a bénéficié dans le cadre de l'atelier Y._ du Centre d'Intégration Professionnelle (CIP) de T._ d'un stage de préparation à des activités industrielles légères, lequel a été prolongé dans le service Z._ jusqu'au 7 mars 2004.
Dans un avis médical SMR du 4 avril 2005, le docteur R._ a nié toute atteinte psychique, l'assuré ne présentant pas de comorbidité psychiatrique invalidante. Dans un avis du 5 septembre 2005, ce médecin, relevant que les stages avaient démontré que l'intéressé présentait un rendement d'environ 60 % dans une activité à plein temps, a indiqué qu'il était difficile de fixer la diminution de rendement de manière médico-théorique et que c'est pour cette raison qu'il avait retenu les 40 % évalués lors des stages.
Le 12 décembre 2006, l'Office de l'assurance-invalidité pour le canton de Vaud a avisé G._ qu'il présentait une invalidité de 26 %, taux ne donnant pas droit à une rente.
Par décision datée du 4 juillet 2007, l'office AI a rejeté la demande en refusant toute rente d'invalidité.
B. Par jugement du 20 novembre 2007, le Tribunal des assurances du canton de Vaud a rejeté le recours formé par G._ contre cette décision.
C. G._ interjette un recours en matière de droit public contre ce jugement, en concluant à l'annulation de celui-ci et de la décision de refus de rente du 4 juillet 2007 et à l'octroi d'une rente entière d'invalidité. Sa demande d'assistance judiciaire a été rejetée par ordonnance du 4 mars 2008.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 s. LTF) peut être formé pour violation du droit selon l'art. 95 s. LTF. Eu égard à l'exigence de motivation prévue à l'art. 42 al. 1 LTF, le Tribunal fédéral n'examine que les griefs invoqués, pour autant que les vices ne soient pas évidents. Il n'est pas tenu de traiter toutes les questions juridiques qui se posent, comme le ferait une autorité de première instance, lorsque celles-ci ne sont pas ou plus abordées devant lui.
Le Tribunal fédéral fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant qui entend s'en écarter doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées sinon un état de fait divergent ne peut être pris en considération.
2. Le litige concerne le droit éventuel du recourant à une rente d'invalidité, singulièrement porte sur l'atteinte à la santé et la capacité de travail de l'assuré, sur l'exigibilité et sur le taux d'invalidité fondant le droit à la prestation.
2.1 Le jugement cantonal expose correctement les règles légales et les principes jurisprudentiels applicables en l'espèce. On peut ainsi y renvoyer.
2.2 Les principes relatifs au pouvoir d'examen développés dans l'ATF 132 V 393 consid. 3 p. 397 s. (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application qu'elle fait du droit (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (ATF 132 V 393 consid. 3.2 p. 398).
3. Les premiers juges ont retenu que le recourant était apte à travailler à 80 % dans une activité adaptée.
3.1 Invoquant les critères dont peut résulter le caractère non exigible de la réintégration dans le processus de travail en cas de troubles somatoformes douloureux persistants (ATF 131 V 49 consid. 1.2 p. 50 s. et les références), le recourant fait valoir que ces critères permettent de fonder un pronostic défavorable dans son cas. Il mentionne la présence d'une douleur importante par sa gravité, son acuité et sa durée, un processus maladif s'étendant sur plusieurs années sans rémission durable, une perte d'intégration sociale dans toutes les manifestations de la vie et l'échec de traitements ambulatoires ou stationnaires conformément aux règles de l'art, cela en dépit de son attitude coopérative. Il en conclut qu'il présente une incapacité de travail résultant de ce diagnostic et qu'il est incapable d'exercer à temps complet une activité adaptée.
3.2 Cette argumentation n'est pas pertinente. Du point de vue psychique, les premiers juges ont constaté, de manière à lier la Cour de céans (consid. 2.2), que mis à part quelques symptômes dépressifs et des traits de personnalité dominés par une certaine impulsivité, le consilium effectué par le docteur S._ - le 23 mai 2002, lors du séjour de l'assuré à la Clinique W._ - n'avait pu mettre en évidence aucune pathologie. Relevant que les rapports médicaux au dossier ne mentionnaient pas de diagnostics psychiatriques et que l'intéressé lui-même n'invoquait pas des troubles de cet ordre, ils ont retenu que sa capacité de travail était entière sur ce plan.
Il n'apparaît pas que les faits retenus par la juridiction cantonale aient été établis de façon manifestement inexacte ou en violation du droit. Le diagnostic invoqué par le recourant n'est attesté par aucun médecin. Lors du consilium du 23 mai 2002, le docteur S._ n'a pas retenu de diagnostic spécifique du point de vue psychiatrique strict (document du 28 mai 2002). Dans son rapport du 1er juillet 2003, la doctoresse M._ a retenu une capacité de travail minimale de 60 % à un poste d'établi, d'usinage ou de contrôle, rendement susceptible d'augmenter après une période d'apprentissage et d'acquisition manuelle, tout en relevant certains signes de surcharge psychogène, malgré la bonne collaboration de l'assuré. De leur côté, les médecins SMR ont nié l'existence d'une atteinte psychique, l'intéressé ne présentant pas de comorbidité psychiatrique invalidante (avis du 4 avril 2005).
Dès lors, en l'absence d'une atteinte psychique, les critères invoqués par le recourant pour conclure à une incapacité de travail ne trouvent pas application dans le cas d'espèce. Ainsi que l'ont constaté les premiers juges, celui-ci présente une capacité de travail entière au plan psychique.
3.3 Sous l'angle somatique, la juridiction cantonale a retenu une diminution de rendement de 20 % engendrée par l'atteinte au genou. Cela n'est pas discuté par le recourant.
3.4 Les faits retenus par les premiers juges, selon lesquels le recourant est apte à travailler à 80 % dans une activité adaptée, n'ont donc pas été établis de façon manifestement inexacte ou en violation du droit.
4. Se reportant à juste titre à l'année 2002 de la naissance du droit éventuel à la rente, les premiers juges, se fondant sur les renseignements fournis par l'ancien employeur, ont fixé le revenu sans invalidité à 57'754 fr. par année (13ème salaire compris). Se référant aux données statistiques, ils ont retenu un revenu annuel d'invalide de 38'768 fr. 16. (valeur 2002). Ces montants ne sont pas discutés par le recourant.
La comparaison des revenus effectuée par la juridiction cantonale donne une invalidité de 33 % (le taux de 32,87 % étant arrondi au pour cent supérieur [ATF 130 V 121 consid. 3.2 p. 122 s.; SVR 2004 UV Nr. 12 p. 44]), taux ne conférant aucun droit à une rente (art. 28 al. 1 LAI).
Mal fondé, le recours doit dès lors être rejeté.
5. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (art. 66 al. 1 LTF). Sa requête d'assistance judiciaire a été rejetée par ordonnance du 4 mars 2008, qui est ici confirmée.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 12 septembre 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner