Faits:
A. C._, né en 1953, s'est occupé d'un laboratoire de produits naturels, X._ SA, activité qu'il a interrompue à cause de problèmes avec ses associés. Il a participé à la commercialisation des produits de l'entreprise individuelle Y._ de son épouse D._, qui a été inscrite au registre du commerce en 1988 et dont l'objet est le développement, la fabrication, le commerce et la représentation de produits naturels complets, bio-organiques et diététiques. Dès le 1er mai 1991, ils ont tous deux été engagés en qualité de concierges professionnels par la Régie Z._ SA, activité exercée jusqu'au début de l'année 1997.
Du 29 décembre 1999 au 14 janvier 2000, C._ a séjourné dans le Service de rhumatologie de l'Hôpital V._. Dans un rapport du 24 janvier 2000, les docteurs U._, chef de clinique, et G._, médecin assistant, ont posé le diagnostic principal de lombalgies inférieures aspécifiques et de syndrome de l'angulaire de l'omoplate gauche.
Le 29 juin 2000, C._ a présenté une demande de prestations de l'assurance-invalidité. Dans un rapport du 10 septembre 2000, le docteur M._, spécialiste FMH en médecine générale, a consigné les renseignements dont il disposait. Selon un rapport du 7 juillet 2000 du docteur F._, médecin traitant de l'assuré depuis le 2 février 2000, le patient présentait une incapacité de travail de 100 % dès cette date-ci, d'une durée indéterminée. Dans un rapport médical intermédiaire du 18 mars 2001, ce médecin a signalé un changement dans les diagnostics dans le sens d'une orientation vers une fibromyalgie, avec influence identique sur l'incapacité de travail.
Le 2 octobre 2001, l'Office de l'assurance-invalidité pour le canton de Vaud a procédé à un examen de la situation. Lors de cet entretien, C._ l'a avisé qu'il souhaitait se relancer dans les produits naturels, en trouvant une entreprise pour les fabriquer et des partenaires pour les vendre, et qu'il attendait une aide financière de la part de l'assurance-invalidité.
L'office AI a confié une expertise au professeur S._, chef du Service de rhumatologie de l'Hôpital V._. Dans un rapport du 13 février 2003, ce spécialiste a posé le diagnostic ayant une répercussion sur la capacité de travail de lombalgies chroniques non spécifiques, présentes depuis 1999. Compte tenu d'une limitation de l'activité comme concierge en raison du port de charge, il a conclu à une diminution de 25 % de la capacité de travail. A son avis, une évaluation ergonomique et une évaluation psychiatrique étaient essentielles pour répondre à la question de savoir si des mesures de réadaptation professionnelle étaient envisageables. Dans une lettre du 12 mars 2003, répondant à un questionnaire complémentaire SMR du 5 mars 2003, il a retenu une capacité de travail exigible de 75 % pour l'activité de concierge. Il indiquait que dans une activité adaptée à une lombalgie chronique, une capacité de travail à 100 % pourrait être exigée.
Sur requête du docteur H._ (avis SMR du 5 mars 2003), le docteur L._, spécialiste FMH en psychiatrie, a procédé le 1er juillet 2003 à un examen psychiatrique en présence de la doctoresse R._, spécialiste FMH en médecine interne. Dans un rapport SMR du 15 septembre 2003, ces médecins ont posé le diagnostic d'état dépressif et anxieux mixte (F41.2), actuellement en rémission, et de trouble douloureux chronique. Ils n'ont pas mis en évidence de trouble psychiatrique sévère, susceptible de constituer une comorbidité au trouble douloureux chronique. La capacité de travail exigible était de 75 % dans une activité de conciergerie et de 100 % dans une activité adaptée sur le plan biomécanique. Ces conclusions ont été reprises dans un rapport d'examen SMR du 30 septembre 2003.
A la suite d'un entretien d'évaluation du 23 mars 2004, l'assuré a été mis au bénéfice de mesures de réadaptation professionnelle. Il a commencé une formation d'opérateur multimédia auprès de l'école O._, qu'il n'a pas pu mener à bien.
Lors d'une rencontre avec l'office AI du 27 mai 2004, C._ a formulé une requête d'aide en capital. Manifestant un intérêt pour la pratique de la médecine traditionnelle chinoise ainsi que pour le Chi Gong, tout en indiquant qu'il avait la possibilité de reprendre la gestion d'une école d'arts martiaux, il a été invité à déposer un projet ("business plan"). Le 9 mars 2005, il a présenté le projet "A._" et de Centre W._, en indiquant que la future société pourrait être une Sàrl.
Par décision du 27 janvier 2006, l'office AI a rejeté la demande, au motif que la forme juridique de société retenue dans le projet ne permettait pas l'octroi d'une aide en capital.
C._ a formé opposition contre cette décision.
Par décision du 3 août 2006, l'office AI a rejeté l'opposition, aux motifs que l'aide en capital n'était pas la mesure la plus appropriée dans le cas de l'assuré, dont on pouvait exiger qu'il reprenne une activité légère adaptée à ses limitations et ne nécessitant aucune formation, et que le droit à des mesures d'ordre professionnel n'était pas ouvert étant donné que le requérant présentait une invalidité de 12 %, taux n'y donnant pas droit.
B. Le 14 septembre 2006, C._ a formé recours contre cette décision devant le Tribunal des assurances du canton de Vaud, en concluant, sous suite de dépens, à l'allocation d'une aide en capital fixée à dire de justice, d'un montant non inférieur à 60'000 fr. Il invitait la juridiction de première instance à constater que le principe de la célérité avait été violé.
Lors d'une audience du 21 mai 2007, le Tribunal des assurances, donnant suite à une requête de C._ du 29 janvier 2007, a procédé à l'audition de témoins.
Les parties ont eu la possibilité de déposer leurs observations. Dans ses déterminations du 29 mai 2007, C._, produisant copie du contrat de conciergerie du 25 février 1991 conclu avec la Régie Z._ SA, a fait valoir que le revenu sans invalidité à prendre en compte dans la comparaison des revenus était de 5'630 fr. par mois, ce que l'office AI a contesté dans une prise de position du 5 juillet 2007.
Par jugement du 21 novembre 2007, la juridiction cantonale a rejeté le recours.
C. C._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de dépens, à l'annulation de celui-ci, la cause étant renvoyée à la juridiction de première instance pour nouvelle décision dans le sens des considérants.
L'Office de l'assurance-invalidité pour le canton de Vaud n'a pas de remarque à formuler à propos du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 s. LTF) peut être formé pour violation du droit selon l'art. 95 s. LTF. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF) et peut rectifier ou compléter d'office les constatations de celle-ci si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue à l'art. 105 al. 2 LTF seraient réalisées, sinon il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 133 III 249 consid. 1.4.3).
Le Tribunal fédéral applique le droit d'office, hormis les droits fondamentaux (art. 106 LTF). Il s'en tient cependant, d'ordinaire, aux questions juridiques que la partie recourante soulève conformément aux exigences légales relatives à la motivation du recours (art. 42 al. 2 LTF; ATF 133 II 249 consid. 1.4.1 p. 254) et ne se prononce sur la violation de droits fondamentaux que s'il se trouve saisi d'un grief invoqué et motivé de façon détaillée (art. 106 al. 2 LTF; ATF 133 II 249 consid. 1.4.2 p. 254).
2. Le litige porte sur le point de savoir si le recourant a droit à une aide en capital de l'assurance-invalidité.
2.1 Aux termes de l'art. 8 al. 1 première phrase LAI (dans sa teneur en vigueur jusqu'au 31 décembre 2007), les assurés invalides ou menacés d'une invalidité (art. 8 LPGA) imminente ont droit aux mesures de réadaptation nécessaires qui sont de nature à rétablir, à maintenir ou à améliorer leur capacité de gain ou leur capacité d'accomplir leurs travaux habituels, qu'ils aient ou non exercé une activité lucrative préalable.
L'assuré n'a droit, en règle générale, qu'aux mesures nécessaires, propres à atteindre le but de réadaptation visé, et non pas à celles qui seraient les meilleures dans son cas. Car la loi ne garantit la réadaptation que dans la mesure où elle est à la fois nécessaire et suffisante. En outre, il doit exister une proportion raisonnable entre le succès prévisible d'une mesure et son coût (ATF 130 V 163 consid. 4.3.3 p. 173, 124 V 108 consid. 2a p. 110, 121 V 258 consid. 2c p. 260 et les références).
2.2 L'aide en capital est une mesure de réadaptation d'ordre professionnel (art. 8 al. 3 let. b LAI). Le jugement attaqué expose correctement les dispositions réglant le droit à l'aide en capital (art. 18 al. 2 LAI [dans sa teneur en vigueur jusqu'au 31 décembre 2007]; art. 7 al. 1 et 2 RAI). On peut ainsi y renvoyer.
3. 3.1 Les premiers juges, considérant que le seuil minimum fixé par la jurisprudence pour ouvrir droit à une mesure de reclassement selon l'art. 17 LAI (diminution de la capacité de gain de 20 % environ; ATF 130 V 488 consid. 4.2 p. 490, 124 V 108 consid. 2b p. 110 s.) constitue une condition de l'octroi de l'aide en capital, ont procédé à une comparaison des revenus. Retenant un revenu sans invalidité de 61'164 fr. 50 et un revenu d'invalide de 51'205 fr. par année (valeur 2001), ils ont conclu à une invalidité de 16,28 % ([61'164 fr. 50 - 51'205 x 100] : 61'164 fr. 50), taux n'ouvrant pas droit à des mesures professionnelles. De l'avis de la juridiction cantonale, l'une des conditions permettant l'octroi d'une aide en capital n'est dès lors pas remplie.
3.2 Le calcul du revenu sans invalidité est litigieux. Ce point n'est toutefois pas décisif pour l'issue du litige et peut dès lors demeurer indécis.
En effet, selon la jurisprudence, l'octroi de l'aide en capital ne dépend pas d'un degré d'invalidité minimum déterminé (ATF 97 V 162 consid. 1 p. 163; ATFA 1964 238 let. b p. 239; VSI 1999 p. 133, I 178/96 consid. 2b; arrêt I 267/73 du 3 décembre 1973 consid. 1a).
Ainsi, le taux d'invalidité minimum de 20 % environ ouvrant droit à une mesure de reclassement selon l'art. 17 LAI n'est pas une condition de l'octroi de l'aide en capital selon l'art. 18 al. 2 LAI. Dans cette mesure, le jugement attaqué est erroné.
3.3 Dans la décision sur opposition du 3 août 2006, l'intimé a nié le caractère approprié de l'aide en capital requise, attendu que l'exercice d'une activité indépendante n'était pas nécessaire et que l'on pouvait exiger du recourant qu'il reprenne une activité lucrative légère adaptée aux limitations et sans formation.
Il s'agit là d'une nouvelle motivation du rejet de la demande, non évoquée dans la décision de refus d'aide en capital du 27 janvier 2006. Il est constant que le recourant a eu la possibilité de s'exprimer à ce sujet devant la juridiction cantonale jouissant d'un plein pouvoir d'examen, de sorte que la question de la violation de son droit d'être entendu (ATF 128 V 272 consid. 5b/bb p. 278) ne se pose plus (ATF 127 V 431 consid. 3d/aa p. 437).
Au regard de l'art. 8 al. 1 LAI, l'aide en capital requise n'est pas une mesure appropriée. Avant la survenance de l'atteinte à la santé en février 2000, le recourant avait exercé l'emploi de concierge jusqu'en janvier 1997. Les premiers juges ont retenu que c'est dans le domaine de la conciergerie qu'il avait travaillé la majorité du temps, point qui n'est pas discuté. Sa situation était donc celle d'un salarié. Or, l'exercice d'une activité indépendante n'apparaît pas nécessaire. En effet, malgré son handicap, on peut raisonnablement exiger de lui qu'il exerce une activité salariée. L'état de santé du recourant lui permet d'exercer l'activité de concierge avec une capacité de travail exigible de 75 %. Il présente une capacité de travail exigible de 100 % dans une activité adaptée, sur le plan biomécanique, à une lombalgie chronique (réponse du professeur S._ du 12 mars 2003; rapport du 15 septembre 2003 des docteurs L._ et R._, dont les conclusions ont été reprises dans le rapport d'examen SMR du 30 septembre 2003).
Dès lors le recourant ne se trouve pas dans la situation de l'art. 18 al. 2 LAI, n'étant pas contraint d'entreprendre une activité comme indépendant (VSI 2002 p. 185, I 122/01 consid. 2b). Les droits constitutionnels qu'il invoque, en particulier le principe de l'égalité de traitement consacré à l'art. 8 al. 1 Cst., ne lui sont d'aucun secours, le Tribunal fédéral étant tenu d'appliquer les lois fédérales (art. 190 Cst.). Le recours est mal fondé de ce chef.
4. Invoquant le droit à la protection de la bonne foi (art. 9 Cst.), le recourant reproche à la juridiction cantonale d'avoir passé sous silence l'attitude contradictoire de l'office AI, qui, à aucun moment depuis 2001, ne l'a informé sur les exigences, posées par la législation en matière d'AVS à l'exercice d'une activité comme travailleur indépendant, à satisfaire dans le cas d'une aide en capital.
Toutefois, même si le recourant, au lieu d'envisager la création d'une société à responsabilité limitée, avait choisi la forme de la raison individuelle, il n'avait de toute façon pas droit à une aide en capital au regard des art. 8 al. 1 et 18 al. 2 LAI, dont il ne remplissait pas les exigences. Ses griefs tombent donc à faux.
S'agissant de l'attitude prétendument contradictoire de l'intimé, qui n'a pas repris dans la décision sur opposition du 3 août 2006 le motif du refus d'aide en capital du 27 janvier 2006, les arguments du recourant ont déjà été réfutés par les premiers juges. Ceux-ci, sous l'angle de la bonne foi, ont retenu que le préavis favorable d'aide en capital du 12 août 2005 du membre de la division administrative qui avait suivi son projet ne liait pas l'office AI. En effet, dans son rapport, ledit membre B._ laissait à l'office le soin de soumettre le dossier à la commission compétente.
Ainsi, faute de renseignements erronés de la part de l'intimé, le droit à la protection de la bonne foi (ATF 131 II 627 consid. 6.1 p. 636 s. et les références) n'entre pas en considération.
5. Le recourant reproche à l'office AI d'avoir violé le principe de la célérité de la procédure (art. 29 al. 1 Cst.).
5.1 Cet argument a déjà été réfuté par la juridiction cantonale. Celle-ci a retenu qu'à la suite du dépôt de la demande de prestations de l'assurance-invalidité du 29 juin 2000, l'office AI avait réuni les renseignements médicaux nécessaires, qu'il avait fait effectuer une expertise par le professeur S._ puis examiner le recourant par le SMR. Il avait ensuite organisé un stage d'orientation professionnelle, lequel avait dû être interrompu. L'intimé avait ensuite instruit la demande d'aide en capital dès juin 2004, le recourant ayant déposé un premier business plan puis un second en mars 2005. Il avait alors rendu la décision de refus d'aide en capital en janvier 2006 et la décision sur opposition en août de la même année. Ainsi, l'office AI avait ordonné diverses mesures d'instruction tant en ce qui concerne les troubles de la santé présentés par le recourant que sur le plan économique. Compte tenu des diverses investigations qu'il avait effectuées, il n'avait pas violé le principe de la célérité de la procédure.
5.2 Les faits ci-dessus retenus par les premiers juges ne sont pas remis en cause par le recourant. Celui-ci leur reproche, cependant, de donner la fausse impression qu'il avait parlé de ses projets la première fois en mai 2004, qu'il avait demandé une aide en capital seulement à ce moment-là et que l'intimé avait mis moins de deux ans à instruire la demande d'aide en capital, soit de mai 2004 à janvier 2006. Il fait valoir qu'il a déposé sa demande d'aide en juin 2000, qu'il avait parlé de son projet en octobre et novembre 2001 déjà, qu'il avait ensuite dû attendre jusqu'à fin 2003 avant d'être convoqué à des examens médicaux, et que c'est à son initiative en 2004 que les parties ont repris contact et qu'un cours dans le domaine du multimédia lui a été proposé. En tout, près de six ans se sont ainsi écoulés entre le dépôt de la demande et la décision de l'office AI.
5.3 La LPGA et la LAI ne fixent pas le délai dans lequel l'assureur doit rendre sa décision. En pareil cas, le caractère raisonnable de la durée de la procédure s'apprécie en fonction des circonstances particulières de la cause, lesquelles commandent généralement une évaluation globale. Entre autres critères sont notamment déterminants le degré de complexité de l'affaire, l'enjeu que revêt le litige pour l'intéressé ainsi que le comportement de ce dernier et celui des autorités compétentes. A cet égard, il appartient au justiciable d'entreprendre ce qui est en son pouvoir pour que l'autorité fasse diligence, que ce soit en l'invitant à accélérer la procédure ou en recourant, le cas échéant, pour retard injustifié (ATF 130 I 312 consid. 5.2 p. 332 et les arrêts cités).
5.4 Dans sa demande de prestations de l'assurance-invalidité du 29 juin 2000, le recourant avait requis l'allocation d'une demi-rente. Aussi, l'office AI a-t-il réuni les renseignements médicaux nécessaires.
L'exigence de la célérité de la procédure ne saurait l'emporter sur la nécessité d'une instruction complète (ATF 119 Ib 311 consid. 5 p. 325). Le fait qu'il se soit écoulé un temps mort entre l'examen du 2 octobre 2001, au cours duquel le recourant a avisé l'intimé qu'il souhaitait se relancer dans les produits naturels et qu'il attendait une aide financière de l'assurance-invalidité, et la requête d'aide en capital formulée lors d'un entretien du 27 mai 2004 s'explique par les diverses mesures d'instruction sur le plan médical et sur le plan économique, nécessaires en ce qui concerne l'examen du droit à une rente d'invalidité, et par l'évaluation des aptitudes de l'assuré à la réadaptation professionnelle. Le recourant n'indique pas qu'il aurait invité l'intimé à accélérer la procédure.
Ainsi, il n'apparaît pas que l'office AI ait fait preuve dans le traitement de la requête d'aide en capital d'un retard injustifié prohibé par les art. 29 al. 1 Cst. et 6 § 1 CEDH.
6. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (art. 66 al. 1 LTF). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF).
L'assistance judiciaire gratuite (art. 64 al. 1 et 2 LTF) lui est accordée, de sorte qu'il sera dispensé des frais judiciaires et que les honoraires de son avocat seront pris en charge par la caisse du Tribunal fédéral. L'attention du recourant est attirée sur le fait qu'il devra rembourser la caisse du Tribunal fédéral s'il devient en mesure de le faire ultérieurement (art. 64 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. L'assistance judiciaire est accordée au recourant.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant. Ils sont toutefois supportés provisoirement par la caisse du Tribunal.
4. Les honoraires de Me Rouiller sont fixés à 2'800 fr. (y compris la taxe sur la valeur ajoutée). Ils sont supportés provisoirement par la caisse du Tribunal.
5. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 27 janvier 2009
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner