Faits:
A. R._, née en 1965, a travaillé comme ouvrière, avant d'être engagée à partir du 1er décembre 1999 par X._ en qualité de caissière, activité qu'elle a exercée à temps partiel. Dès le 9 avril 2002, elle a été à plusieurs reprises à l'arrêt de travail.
Le 4 mars 2003, R._ a présenté une demande de prestations de l'assurance-invalidité. Dans un rapport du 17 mars 2003, la doctoresse T._, spécialiste FMH en médecine générale, a posé le diagnostic ayant des répercussions sur la capacité de travail de troubles somatoformes dans le cadre d'un état dépressif sévère. Elle a donné tous renseignements sur les périodes d'arrêt de travail depuis le 9 avril 2002, tout en signalant que l'état de santé de la patiente s'aggravait. Elle a répondu par la négative aux questions de savoir si l'activité exercée jusque-là était encore exigible et si l'on pouvait exiger que l'assurée exerce une autre activité (annexe du 17 mars 2003).
Dans un rapport du 3 septembre 2003, le docteur S._ a retenu les diagnostics avec répercussion sur la capacité de travail de dysthymie [CIM-10 : F34.1] (dépression névrotique), de trouble de l'adaptation [F43.2] et de syndrome douloureux somatoforme persistant [F45.2] (céphalées et dorsalgies psychogènes). Ce médecin a répondu par la négative aux questions de savoir si l'activité exercée jusque-là était encore exigible et si l'on pouvait exiger de la patiente qu'elle exerce une autre activité (annexe du 3 septembre 2003). Dans un rapport intermédiaire du 17 mai 2004, le docteur S._, retenant le diagnostic F66.2 dans le cadre du trouble de l'adaptation [F43.2], a indiqué que les diagnostics de dysthymie [F34.1] et de syndrome douloureux somatoforme persistant [F45.2] étaient déterminants pour l'incapacité de travail.
Le docteur B._, spécialiste FMH en psychiatrie et psychothérapie, a procédé à une expertise psychiatrique pour le compte de l'assureur-maladie. Dans un rapport du 30 septembre 2003, il a posé les diagnostics de trouble somatoforme indifférencié [F45.1] et d'exagérations symptomatiques pour des motifs non médicaux. Indiquant qu'au moment de l'entrevue du 30 septembre 2003 l'incapacité de travail n'était plus justifiée, il concluait à une capacité de travail de 100 %.
L'Office de l'assurance-invalidité pour le canton de Vaud a mis en oeuvre une enquête économique pour les ménagères. Selon un rapport du 24 novembre 2004, R._, si elle était en bonne santé, travaillerait hors de son ménage en tant que caissière à 70 % par nécessité financière, de sorte qu'elle avait le statut d'une personne se consacrant pour 70 % à une activité lucrative et pour 30 % à son ménage. Elle présentait un empêchement d'accomplir ses travaux habituels de 22.5 % et une invalidité de 6.75 % comme ménagère (30 x 22.5 : 100).
Dans un rapport d'examen SMR du 18 avril 2005, la doctoresse N._ a retenu une capacité de travail exigible de 100 % dans l'activité habituelle comme ouvrière et dans une activité adaptée. Par décision du 20 avril 2005, l'office AI a rejeté pour ce motif la demande, en refusant toute rente ou mesure professionnelle.
R._ a formé opposition contre cette décision. Dans une lettre du 6 mai 2005, la doctoresse T._ a informé l'office AI que le pronostic était réservé, l'état psychologique et physique de la patiente ayant plutôt tendance à se dégrader, et que pour ces raisons, sa capacité de travail était nulle et la possibilité d'une reprise d'activité dans le futur très compromise.
Par décision du 8 mai 2006, l'office AI a rejeté l'opposition.
B. R._ a formé recours contre cette décision devant le Tribunal des assurances du canton de Vaud. Dans un mémoire du 27 octobre 2006, elle a produit un rapport du 26 juillet 2006 du docteur K._ et de la psychologue L._, respectivement chef de clinique adjoint et psychologue assistante à l'Hôpital Y._ (Département de psychiatrie). Elle invitait la juridiction cantonale à demander des renseignements complémentaires à ces médecins, subsidiairement à ordonner une expertise médicale. Dans un avis SMR du 9 novembre 2006, la doctoresse N._, prenant position sur ce document, a considéré qu'il n'apportait pas de nouveaux éléments en complément à l'expertise du docteur B._ du 30 septembre 2003.
Par décision du 27 mars 2007, le juge instructeur a rejeté la requête d'expertise. Le 30 mars 2007, R._ a formé opposition. Par jugement incident du 15 mai 2007, le Tribunal des assurances du canton de Vaud a rejeté l'opposition.
Par jugement du 26 février 2008, la juridiction cantonale a rejeté le recours.
C. R._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et dépens, à l'annulation de celui-ci, la cause étant renvoyée à la juridiction cantonale pour nouvelle décision dans le sens des considérants. A titre subsidiaire, elle demande que le jugement attaqué soit réformé en ce sens qu'elle a droit à une rente d'invalidité, entière ou selon des proportions à fixer à dire de justice. Sa demande d'assistance judiciaire a été rejetée par ordonnance du 5 juin 2008.
Considérant en droit:
1. Le Tribunal fédéral, qui est un juge du droit, fonde son raisonnement juridique sur les faits retenus par l'autorité précédente (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (cf. Art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente, il doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF seraient réalisées. A ce défaut, un état de fait divergent de celui de la décision attaquée ne peut être pris en compte (cf. arrêt 6B_2/2007 du 14 mars 2007, consid. 3). La faculté que l'art. 105 al. 2 LTF confère au Tribunal fédéral de rectifier ou compléter d'office les constatations de l'autorité précédente si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF ne dispense pas le recourant de son obligation d'allégation et de motivation. Il n'incombe pas au Tribunal fédéral de rechercher lui-même dans le dossier si ce dernier pourrait éventuellement contenir des indices d'une inexactitude de l'état de fait de l'autorité précédente. L'art. 105 al. 2 LTF trouve application lorsque le Tribunal fédéral, en examinant les griefs soulevés, constate une inexactitude manifeste dans l'état de fait de l'autorité précédente ou lorsque celle-ci saute d'emblée aux yeux (ATF 133 IV 286 consid. 6.2 p. 288; 133 II 249 consid. 1.4.3 p. 255).
2. Il est constant qu'au plan somatique, la recourante présente des paresthésies diurnes dans les jambes et un syndrome des jambes sans repos et que ces affections n'entraînent pas d'incapacité de travail médicalement attestée, ainsi que l'ont retenu les premiers juges.
Le litige, qui porte sur le droit éventuel à une rente d'invalidité, a trait au diagnostic psychiatrique et à son caractère invalidant.
2.1 Le jugement attaqué expose correctement les dispositions légales et les principes jurisprudentiels relatifs à la notion d'invalidité (art. 4 LAI et art. 8 al. 1 LPGA), notamment en cas de troubles somatoformes douloureux persistants (ATF 131 V 49, 130 V 352) et en cas de fibromyalgie (ATF 132 V 65). On peut ainsi y renvoyer.
On ajoutera qu'en cas de divergence d'opinion entre experts et médecins traitants, il n'est pas, de manière générale, nécessaire de mettre en oeuvre une nouvelle expertise. La valeur probante des rapports médicaux des uns et des autres doit bien plutôt s'apprécier au regard des critères jurisprudentiels (ATF 125 V 351 consid. 3a p. 352) qui permettent de leur reconnaître pleine valeur probante. A cet égard, il convient de rappeler qu'au vu de la divergence consacrée par la jurisprudence entre un mandat thérapeutique et un mandat d'expertise (ATF 124 I 170 consid. 4 p. 175; arrêt I 514/06 du 25 mai 2007 consid. 2.2.1, in SVR 2008 IV Nr. 15 p. 43), on ne saurait remettre en cause une expertise ordonnée par l'administration ou le juge et procéder à de nouvelles investigations du seul fait qu'un ou plusieurs médecins traitants ont une opinion contradictoire. Il n'en va différemment que si ces médecins traitants font état d'éléments objectivement vérifiables ayant été ignorés dans le cadre de l'expertise et qui sont suffisamment pertinents pour remettre en cause les conclusions de l'expert.
2.2 Les principes relatifs au pouvoir d'examen développés dans l'ATF 132 V 393 consid. 3 p. 397 s. (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application qu'elle fait du droit (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé (diagnostic, etc.), la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (ATF 132 V 393 consid. 3.2 p. 398).
3. Les premiers juges ont retenu qu'au plan psychiatrique, la recourante présentait un trouble somatoforme indifférencié selon le diagnostic posé par le docteur B._ ou une fibromyalgie selon le diagnostic posé par le docteur K._. En ce qui concerne l'état dépressif sévère mentionné par la doctoresse T._, la dysthymie diagnostiquée par le docteur S._ et l'état dépressif moyen retenu par le docteur K._, ils ont nié l'existence d'une comorbidité psychiatrique importante, se ralliant à l'expertise du docteur B._ du 30 septembre 2003, dans laquelle ce médecin n'avait pas constaté de dysthymie ni de dépression. Les autres critères consacrés par la jurisprudence, dont l'existence permet d'admettre le caractère non exigible de la reprise du travail, n'étaient pas non plus réalisés. Niant dès lors qu'une mise en valeur de la capacité de travail ne puisse pratiquement plus raisonnablement être exigée de la recourante, ils ont retenu qu'il n'y avait pas d'incapacité de travail due à la fibromyalgie ou au trouble somatoforme.
3.1 La recourante reproche à la juridiction cantonale de n'avoir donné aucune suite à sa requête tendant à la mise en oeuvre d'une nouvelle expertise médicale, en violation de son droit d'être entendue (art. 29 al. 2 Cst.), en particulier celui de participer à l'administration des preuves (ATF 132 V 368 consid. 3.1 p. 370 et les références).
Le point de savoir si les premiers juges auraient dû, avant de statuer, procéder à une instruction complémentaire en ce qui concerne l'état de santé de la recourante et sa capacité de travail est une question qui n'a pas de portée propre par rapport au grief que celle-ci invoque d'une appréciation arbitraire des preuves. Il se justifie donc de l'examiner avec le fond du litige.
3.2 La recourante fait valoir que le diagnostic d'épisode dépressif moyen posé par le docteur K._ doit être retenu pour apprécier le caractère invalidant du trouble somatoforme ou de la fibromyalgie. Selon elle, cela vaut également en ce qui concerne le diagnostic de troubles somatoformes dans le cadre d'un état dépressif sévère posé par la doctoresse T._, ainsi que le diagnostic de dysthymie, de trouble de l'adaptation et de syndrome douloureux somatoforme persistant posé par le docteur S._.
Cet argument a déjà été réfuté par les premiers juges. Confrontant l'expertise du docteur B._ du 30 septembre 2003 aux autres pièces du dossier, ils ont relevé que ce médecin n'avait pas constaté de dysthymie ni de dépression et que le diagnostic de trouble somatoforme indifférencié se fondait à la fois sur l'entretien qu'il avait eu avec l'assurée et sur l'échelle quantitative de la dépression et de l'angoisse de Hamilton. Ils n'ont pas retenu l'avis de la doctoresse T._, dès lors qu'elle n'était pas spécialiste et que son diagnostic était peu motivé. Il en allait de même en ce qui concerne le diagnostic posé par le docteur S._, qui se limitait à affirmer que les troubles dont souffrait la patiente étaient apparus dès l'âge de 29 ans après le deuil de son père, sans autre explication. Quant au rapport du 26 juillet 2006 du docteur K._ et de la psychologue L._, certes plus récent que l'expertise du 30 septembre 2003 du docteur B._, il n'apportait pas d'éléments nouveaux, ne prenait pas en compte l'ensemble du dossier, ne répondait que partiellement aux questions déterminantes pour l'issue du litige et ne se déterminait pas clairement sur la capacité résiduelle de travail.
Il n'est pas décisif que la recourante, comme elle l'affirme, ait produit le rapport du 26 juillet 2006 afin de démontrer qu'il y avait des éléments devant être creusés plus avant. Ainsi que l'ont relevé les premiers juges, ce document n'apportait pas d'éléments nouveaux. En effet, comme cela ressort du rapport du 26 juillet 2006, le docteur K._ et la psychologue L._ n'ont fait état d'aucun élément objectivement vérifiable, qui aurait été ignoré dans le cadre de l'expertise du docteur B._. En outre, le docteur K._ ne s'est pas prononcé au plan psychiatrique sur la capacité de travail exigible objectivement, mais, comme l'ont relevé les premiers juges, a indiqué qu'une rente AI paraissait inéluctable en raison d'une désinsertion du milieu du travail liée à des éléments non médicaux, dont l'assurance-invalidité n'avait pas à répondre. Dès lors, même si l'expertise du 30 septembre 2003 est antérieure de près de trois ans au rapport du 26 juillet 2006, cela ne justifiait pas de nouvelles investigations (supra, consid. 2.1).
Les premiers juges ont nié l'existence d'une comorbidité psychiatrique importante. Il n'apparaît pas que cette conclusion découle de faits établis de façon manifestement inexacte ou en violation du droit. Ni la doctoresse T._, ni le docteur S._, ni le docteur K._ et la psychologue L._ n'ont évoqué à propos de l'état dépressif sévère, de la dépression névrotique ou de l'épisode dépressif moyen une comorbidité psychiatrique importante par sa gravité, son acuité et sa durée. Le recours est mal fondé de ce chef.
3.3 Les premiers juges ont nié que les autres critères consacrés par la jurisprudence, dont l'existence permet d'admettre le caractère non exigible de la reprise du travail (ATF 132 V 65 consid. 4.2.2 p. 71, 131 V 49 consid. 1.2 p. 50, 130 V 352 consid. 2.2.3 p. 354), soient réalisés. Les griefs de la recourante ne sont pas pertinents, dans la mesure où l'existence d'une affection corporelle chronique ou d'un processus maladif s'étendant sur plusieurs années sans rémission durable, d'une perte d'intégration sociale dans toutes les manifestations de la vie et d'un état psychique cristallisé ne sont attestées par aucun médecin. Le recours est également mal fondé sur ce point.
4. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge de la recourante, qui succombe (art. 66 al. 1 LTF). Elle ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF). Sa requête d'assistance judiciaire a été rejetée par ordonnance du 5 juin 2008, qu'il y a lieu de confirmer (art. 64 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 27 février 2009
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner