Faits:
Faits:
A. B._, né le 21 juin 1954, diplômé d'une école de commerce, est au bénéfice d'une expérience professionnelle acquise en qualité de comptable.
Le 2 juillet 2001, B._ a présenté une demande de prestations de l'assurance-invalidité, en requérant l'allocation d'une rente d'invalidité.
Dans un rapport médical du 17 janvier 2001, la doctoresse D._, spécialiste en médecine interne, a posé les diagnostics ayant des répercussions sur la capacité de travail de status après remplacement de la crosse aortique terminale par une prothèse (avril 2001) pour anévrisme disséquant de l'aorte thoracique en voie de rupture, de dissection chronique de type B de la crosse jusqu'à l'artère iliaque commune gauche, de status post dissection de type A rétrograde et remplacement de l'aorte ascendante et suspension de la valve aortique pour insuffisance aortique de stade 4 en 1997 et de dépendance chronique à l'alcool, actuellement en rémission.
Le 6 novembre 2002, B._ a subi une néphro-urétérectomie à gauche pour carcinome urothélial du rein gauche. En avril 2003, des investigations ont été effectuées par les médecins du Service de cardiologie de l'hôpital X._ pour une probable nouvelle dissection aortique et par les médecins du Service de neurologie de l'hôpital X._ pour syndrome de Reynaud des mains d'origine indéterminée. Dans un rapport médical intermédiaire du 29 avril 2003, la doctoresse D._ a retenu une capacité de travail nulle du 1er janvier au 31 mai 1998, une capacité de travail de 70 % du 1er juin 1998 au 31 mars 2001, une capacité de travail nulle du 1er avril 2001 au 30 juin 2001, une capacité de travail de 50 % du 1er juillet 2001 au 31 octobre 2002, une capacité de travail nulle du 1er novembre 2002 au 31 janvier 2003, une capacité de travail de 30 % du 1er février 2003 au 21 mars 2003 et une capacité de travail nulle dès le 1er avril 2003. Elle indiquait que l'état de santé s'était aggravé, l'évolution sur le plan cardio-vasculaire étant inquiétante, et que l'on pouvait reconnaître une diminution de la capacité de travail à partir du 13 janvier 1998. Dans le cadre des affections graves dont le patient est atteint, celui-ci présentait un état anxio-dépressif et une fatigue importante.
Dans un rapport d'examen SMR du 7 août 2003, le docteur A._ a fixé le début de l'incapacité de travail durable au 13 janvier 1998. Il indiquait que la capacité de travail exigible était nulle aussi bien dans l'activité habituelle de l'assuré que dans une activité adaptée.
Par décision du 7 octobre 2003, l'Office de l'assurance-invalidité pour le canton de Vaud a conclu que B._ avait droit à un quart de rente (invalidité de 47.7 %) à partir du 1er juillet 2001, à une demi-rente (invalidité de 50.83 %) à partir du 1er septembre 2001 et à une rente entière (invalidité de 100 %) à partir du 1er février 2003. Il lui a alloué une demi-rente pour cas pénible du 1er juillet au 31 août 2001 et une demi-rente du 1er septembre 2001 au 31 janvier 2003, assortie d'une demi-rente complémentaire pour sa conjointe et d'une demi-rente pour enfant. Par une autre décision rendue le même jour, l'office AI a alloué à l'assuré une rente entière dès le 1er février 2003, assortie d'une rente pour sa conjointe et d'une rente pour enfant.
Le 14 octobre 2003, B._ a formé opposition contre ces décisions.
Par décision du 7 juillet 2004, l'office AI a partiellement admis l'opposition. Il informait B._ que le début du droit à la rente devait être fixé au 23 mai 2001, date à laquelle il avait présenté une incapacité de travail moyenne de 40 % au moins durant une année, et qu'il avait donc droit à un quart de rente, cas échéant à une demi-rente pour cas pénible, dès le 1er mai 2001, et que le droit à une demi-rente était ouvert dès le 1er août 2001. En revanche, le droit à la rente entière était ouvert dès le 1er février 2003, comme le prévoyait la décision y relative du 7 octobre 2003.
Par décision du 7 juillet 2004, l'office AI a partiellement admis l'opposition. Il informait B._ que le début du droit à la rente devait être fixé au 23 mai 2001, date à laquelle il avait présenté une incapacité de travail moyenne de 40 % au moins durant une année, et qu'il avait donc droit à un quart de rente, cas échéant à une demi-rente pour cas pénible, dès le 1er mai 2001, et que le droit à une demi-rente était ouvert dès le 1er août 2001. En revanche, le droit à la rente entière était ouvert dès le 1er février 2003, comme le prévoyait la décision y relative du 7 octobre 2003.
B. B._ a formé recours contre cette décision devant le Tribunal des assurances du canton de Vaud, en contestant le degré de son invalidité. Dans un mémoire parvenu à la juridiction cantonale le 5 août 2004, il demandait que lui soit reconnu un taux de 50 % à partir du 13 janvier 1998 jusqu'au 31 mars 2001 et de 100 % depuis le 1er avril 2001. Il concluait au versement de dommages-intérêts en raison de la lenteur de la procédure devant l'office AI et à l'exonération rétroactive des redevances télévision réclamées par I._ SA.
Par jugement du 31 mai 2005, notifié à B._ le 15 août 2005, le Tribunal des assurances a rejeté le recours.
Par jugement du 31 mai 2005, notifié à B._ le 15 août 2005, le Tribunal des assurances a rejeté le recours.
C. Dans un mémoire du 14 septembre 2005, B._ interjette un recours de droit administratif contre ce jugement, dont il demande l'annulation. Reprenant ses conclusions cantonales, il déclare qu'il a présenté une incapacité de travail de 50 % dès le 13 janvier 1998 et de 100 % dès le 1er avril 2001 et demande que son invalidité soit fixée en conséquence. Il réclame des intérêts moratoires et conclut au versement d'une somme de 3'000 fr. à titre de dommages-intérêts en raison de la lenteur de la procédure devant l'office AI. Il invite le Tribunal fédéral des assurances à mettre à la charge de l'assurance-invalidité les redevances télévision qui lui sont réclamées par I._ SA. Dans une lettre du 19 septembre 2006, B._, produisant un rapport du Service de chirurgie cardio-vasculaire de l'hôpital X._ du 13 avril 2006, demande qu'une nouvelle expertise soit ordonnée et que le taux de son invalidité soit fixé à 50 % depuis le 1er janvier 1998 et à 100 % depuis le 1er avril 2002.
L'Office de l'assurance-invalidité pour le canton de Vaud conclut au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
Considérant en droit:
1. Le jugement entrepris porte sur des prestations de l'assurance-invalidité. Selon l'art. 132 al. 1 OJ dans sa version selon le ch. III de la loi fédérale du 16 décembre 2005 portant modification de la LAI (en vigueur depuis le 1er juillet 2006), dans une procédure concernant l'octroi ou le refus de prestations d'assurance, le Tribunal fédéral des assurances peut aussi examiner l'inopportunité de la décision attaquée et n'est pas lié par la constatation de l'état de fait de l'autorité cantonale de recours. En vertu de l'art. 132 al. 2 OJ, ces dérogations ne sont cependant pas applicables lorsque la décision qui fait l'objet d'un recours concerne les prestations de l'assurance-invalidité. Selon le ch. II let. c de la loi fédérale du 16 décembre 2005, l'ancien droit s'applique aux recours pendants devant le Tribunal fédéral des assurances au moment de l'entrée en vigueur de la modification. Dès lors que le recours qui est soumis au Tribunal fédéral des assurances était pendant devant lui au 1er juillet 2006, son pouvoir d'examen résulte de l'ancien art. 132 OJ, dont la teneur correspond à celle du nouvel alinéa 1.
1. Le jugement entrepris porte sur des prestations de l'assurance-invalidité. Selon l'art. 132 al. 1 OJ dans sa version selon le ch. III de la loi fédérale du 16 décembre 2005 portant modification de la LAI (en vigueur depuis le 1er juillet 2006), dans une procédure concernant l'octroi ou le refus de prestations d'assurance, le Tribunal fédéral des assurances peut aussi examiner l'inopportunité de la décision attaquée et n'est pas lié par la constatation de l'état de fait de l'autorité cantonale de recours. En vertu de l'art. 132 al. 2 OJ, ces dérogations ne sont cependant pas applicables lorsque la décision qui fait l'objet d'un recours concerne les prestations de l'assurance-invalidité. Selon le ch. II let. c de la loi fédérale du 16 décembre 2005, l'ancien droit s'applique aux recours pendants devant le Tribunal fédéral des assurances au moment de l'entrée en vigueur de la modification. Dès lors que le recours qui est soumis au Tribunal fédéral des assurances était pendant devant lui au 1er juillet 2006, son pouvoir d'examen résulte de l'ancien art. 132 OJ, dont la teneur correspond à celle du nouvel alinéa 1.
2. 2.1 Selon la jurisprudence (ATF 127 V 353), on ne peut produire de pièces nouvelles après l'échéance du délai de recours, sauf dans le cadre d'un deuxième échange d'écritures. Il convient toutefois de réserver le cas où de telles pièces constituent des faits nouveaux importants ou des preuves concluantes au sens de l'art. 137 let. b OJ et pourraient dès lors justifier la révision de l'arrêt du tribunal.
Il n'y a pas lieu de prendre en considération la lettre du recourant du 19 septembre 2006 ni le rapport du Service de chirurgie cardio-vasculaire de l'hôpital X._ du 13 avril 2006, documents qui ont été produits après l'échéance du délai de recours et ne répondent pas aux conditions prévues par la jurisprudence pour être cependant retenus.
2.2 La contestation est déterminée par la décision sur opposition du 7 juillet 2004. Dans la mesure où le recourant a pris des conclusions tendant à la prise en charge par l'assurance-invalidité des redevances télévision réclamées par I._ SA et au versement de 3'000 fr. à titre de dommages-intérêts en raison de la lenteur à statuer sur sa demande, celles-ci n'ont rien à voir avec l'objet de la contestation et sont dès lors irrecevables.
2.2 La contestation est déterminée par la décision sur opposition du 7 juillet 2004. Dans la mesure où le recourant a pris des conclusions tendant à la prise en charge par l'assurance-invalidité des redevances télévision réclamées par I._ SA et au versement de 3'000 fr. à titre de dommages-intérêts en raison de la lenteur à statuer sur sa demande, celles-ci n'ont rien à voir avec l'objet de la contestation et sont dès lors irrecevables.
3. Le litige concerne le droit du recourant à une rente d'invalidité et s'étend à son droit éventuel à des intérêts moratoires (ATF 130 V 503, 122 V 36 consid. 2a et les références). S'agissant du droit à la rente, il porte sur l'incapacité de travail et l'invalidité fondant le droit à la prestation et a trait au calcul du délai d'attente.
3.1 La loi fédérale sur la partie générale du droit des assurances sociales du 6 octobre 2000 (LPGA) est entrée en vigueur le 1er janvier 2003, entraînant la modification de nombreuses dispositions légales dans le domaine de l'assurance-invalidité. La décision sur opposition litigieuse, du 7 juillet 2004, est postérieure à l'entrée en vigueur de la LPGA. Conformément au principe général de droit transitoire, selon lequel - même en cas de changement des bases légales - les règles applicables sont celles en vigueur au moment où les faits juridiquement déterminants se sont produits, il y a lieu d'examiner le droit à une rente au regard de l'ancien droit pour la période jusqu'au 31 décembre 2002 et en fonction de la nouvelle réglementation légale après cette date (ATF 130 V 445 et les références). Pour la période s'étendant jusqu'au 31 décembre 2002, l'examen des conditions matérielles du droit à des intérêts moratoires intervient selon les principes établis aux ATF 119 V 81 consid. 3a. Pour la période postérieure, cet examen s'effectue d'après la règle de l'art. 26 al. 2 LPGA (ATF 130 V 329).
3.2 Les définitions de l'incapacité de travail, de l'incapacité de gain, de l'invalidité, de la méthode de comparaison des revenus et de la révision (de la rente d'invalidité et d'autres prestations durables) contenues dans la LPGA correspondent aux notions précédentes dans l'assurance-invalidité telles que développées à ce jour par la jurisprudence (ATF 130 V 343).
Pour évaluer le taux d'invalidité, le revenu que l'assuré aurait pu obtenir s'il n'était pas invalide (revenu sans invalidité) est comparé avec celui qu'il pourrait obtenir en exerçant l'activité qui peut raisonnablement être exigée de lui après les traitements et les mesures de réadaptation, sur un marché du travail équilibré (revenu d'invalide). C'est la méthode ordinaire de comparaison des revenus (jusqu'au 31 décembre 2002: art. 28 al. 2 LAI; du 1er janvier au 31 décembre 2003: art. 1 al. 1 LAI en corrélation avec l'art. 16 LPGA).
3.3 Aux termes de l'art. 41 aLAI (en vigueur jusqu'au 31 décembre 2002), si l'invalidité d'un bénéficiaire de rente se modifie de manière à influencer le droit à la rente, celle-ci est, pour l'avenir, augmentée, réduite ou supprimée.
Tout changement important des circonstances, propre à influencer le degré d'invalidité, et donc le droit à la rente, peut motiver une révision selon l'art. 41 aLAI. La rente peut être révisée non seulement en cas de modification sensible de l'état de santé, mais aussi lorsque celui-ci est resté en soi le même, mais que ses conséquences sur la capacité de gain ont subi un changement important (ATF 130 V 349 consid. 3.5, 113 V 275 consid. 1a; voir également ATF 112 V 372 consid. 2b et 390 consid. 1b).
Tout changement important des circonstances, propre à influencer le degré d'invalidité, et donc le droit à la rente, peut motiver une révision selon l'art. 41 aLAI. La rente peut être révisée non seulement en cas de modification sensible de l'état de santé, mais aussi lorsque celui-ci est resté en soi le même, mais que ses conséquences sur la capacité de gain ont subi un changement important (ATF 130 V 349 consid. 3.5, 113 V 275 consid. 1a; voir également ATF 112 V 372 consid. 2b et 390 consid. 1b).
4. Le calcul du délai d'attente est litigieux.
4.1 Selon l'art. 4 al. 2 LAI, l'invalidité est réputée survenue dès qu'elle est, par sa nature et sa gravité, propre à ouvrir droit aux prestations entrant en considération. Ce moment doit être déterminé objectivement, d'après l'état de santé; des facteurs externes fortuits n'ont pas d'importance. Il ne dépend en particulier ni de la date à laquelle une demande a été présentée, ni de celle à partir de laquelle une prestation a été requise, et ne coïncide pas non plus nécessairement avec le moment où l'assuré apprend, pour la première fois, que l'atteinte à sa santé peut ouvrir droit à des prestations d'assurance (ATF 126 V 9 consid. 2b, 160 consid. 3a, 118 V 82 consid. 3a et les références). Selon l'art. 29 al. 1 let. b LAI (applicable en l'espèce dans sa version en vigueur du 1er janvier 1988 au 31 décembre 2002; ATF 126 V 9 consid. 2b), le droit à la rente prend naissance au plus tôt à la date à partir de laquelle l'assuré a présenté, en moyenne, une incapacité de travail de 40 % au moins pendant une année sans interruption notable. La jurisprudence a déduit de cette disposition légale qu'une interaction existe en cas d'affection pathologique labile au sens de l'art. 29 al. 1 let. b LAI entre la naissance du droit à la rente, d'une part, et son étendue ainsi que les bases de calcul, d'autre part, même si des conditions différentes sont applicables. C'est ainsi qu'une incapacité de gain d'au moins 40 % due à une affection labile n'entraîne pas la naissance d'un droit sans incapacité de travail préalable au moins équivalente pendant l'année qui précède. A l'inverse, une incapacité de travail d'au moins 40 % pendant une année ne suffit pas à elle seule à créer un droit, mais doit pour cela être suivie d'une incapacité de gain au moins équivalente. Cela vaut pour tous les types de rente que définit la loi (art. 28 al. 1 LAI). Le degré moyen d'incapacité de travail pendant une année et l'incapacité de gain subsistant après la période d'attente doivent être cumulés et atteindre le degré minimum légal ouvrant droit à la rente (ATF 121 V 274 consid. 6b/cc; arrêt C. du 17 août 2006 [I 531/05 et I 543/05]).
4.2 Devant la Cour de céans, le recourant a produit copie de divers documents, dont des pièces médicales. Toutefois, celles-ci ne remettent pas en cause le bien-fondé des constatations de la doctoresse D._ en ce qui concerne le degré de son incapacité de travail. Ainsi que cela ressort du rapport médical intermédiaire du 29 avril 2003, établi par ce médecin, l'assuré a présenté les incapacités de travail suivantes: 100 % du 13 janvier au 31 mai 1998, 30 % du 1er juin 1998 au 31 mars 2001, 100 % du 1er avril 2001 au 30 juin 2001, 50 % du 1er juillet 2001 au 31 octobre 2002, 100 % du 1er novembre 2002 au 31 janvier 2003, 70 % du 1er février 2003 au 21 mars 2003 et 100 % dès le 1er avril 2003. Sur cette base, le docteur A._, dans le rapport d'examen SMR du 7 août 2003, a fait remonter le début de l'incapacité de travail durable au 13 janvier 1998, cela aussi bien dans l'activité habituelle de l'assuré que dans n'importe quelle autre activité professionnelle.
4.3 Le fait que l'incapacité de travail du recourant a débuté le 13 janvier 1998 n'a pas, toutefois, les conséquences qu'il en tire.
En effet, le recourant a présenté une période d'incapacité de travail totale à partir du 13 janvier 1998, laquelle s'est étendue jusqu'au 31 mai 1998. Toutefois, au-delà de cette date, il n'a plus présenté qu'une incapacité de travail de 30 % dans n'importe quelle activité (comparaison en pour-cent; ATF 114 V 313 consid. 3a, 104 V 136 s. consid. 2b). Une année après le début de l'incapacité de travail, soit au 13 janvier 1999, le recourant ne présentait pas une incapacité de gain d'un taux ouvrant droit à une rente.
4.4 Entre le 1er avril et le 30 juin 2001, le recourant a présenté une nouvelle incapacité de travail de 100 %, ce que l'intimé a pris en compte dans la décision sur opposition du 7 juillet 2004, dont il ressort que dès le 23 mai 2001, l'assuré avait présenté, en moyenne, une incapacité de travail de 40 % au moins durant une année et qu'il présentait une incapacité de gain au moins équivalente. Il en résulte que le droit à la rente a pris naissance le 23 mai 2001, ce que conteste le recourant, au motif qu'il a présenté dès le 1er avril 2001 une incapacité de travail de 100 %.
Il y a lieu d'examiner le calcul du délai d'attente effectué par l'office AI, qui prend en compte 312 jours d'incapacité de travail de 30 % pendant la période antérieure au 1er avril 2001 et 53 jours d'incapacité de travail de 100 % dès le 1er avril 2001.
Selon la formule [a jours à 30 %] + [b jours à 100 %] (cf. ch. 2028 de la Circulaire de l'OFAS concernant l'invalidité et l'impotence de l'assurance-invalidité [CIIAI]), le calcul de l'incapacité de travail moyenne et du délai d'attente se présente de la façon suivante :
a jours + b jours = 365 jours
b jours = 365 jours - a jours
Calcul
(a x 30 %) + ([365 - a] x 100 %) = 365 x 40 %
30a + 365 x 100 - 100a = 14'600
30a + 36'500 - 100a = 14'600
21'900 - 70a = 0
21'900 = 70a
21'900 : 70 = a
312,85 = a
a = 312 jours b = 53 jours
Il en résulte que le délai d'attente était échu le 23 mai 2001 (53 jours à 100 % à partir du 1er avril 2001).
Ainsi, le droit à la rente a pris naissance le 23 mai 2001. A cette date, en effet, le recourant avait présenté pendant une année une incapacité de travail moyenne de 40 % et il présentait une incapacité de gain au moins équivalente (supra, consid. 4.1). Son droit à un quart de rente d'invalidité a donc pris naissance à ce moment-là (art. 28 al. 1 LAI), sous réserve du cas pénible (art. 28 al. 1bis LAI dans sa version en vigueur jusqu'au 31 décembre 2003). Etant donné que l'assuré remplit la condition du cas pénible, il a droit à une demi-rente à partir du 1er mai 2001. Sur ce point, la décision sur opposition du 7 juillet 2004 est exacte.
4.5 Le 23 mai 2001, le recourant présentait une incapacité de travail moyenne de plus d'une année de 40 %; à ce moment cependant, l'incapacité de travail effective était totale puis s'est stabilisée à 50 % dès le 1er juillet 2001. L'incapacité de gain corrélative (ATF 114 V 313 consid. 3a, 104 V 136 consid. 2b) s'est également modifiée. Le 23 août 2001, au terme du délai de trois mois (art. 88a al. 2 RAI), l'incapacité de gain du recourant avait subi une aggravation sans interruption notable; celle-ci s'élevait dès lors à 50 % et ouvrait droit à une demi-rente dès le 1er août 2001. Sur ce point également, la décision sur opposition du 7 juillet 2004 est exacte.
4.6 A partir du 1er novembre 2002, le recourant a présenté une incapacité de travail de 100 % jusqu'au 31 janvier 2003. Du 1er février au 21 mars 2003, son incapacité de travail a été de 70 %. Depuis le 1er avril 2003, l'assuré présente une incapacité de travail de 100 % (rapport médical intermédiaire de la doctoresse D._, du 29 avril 2003). Selon le docteur A._ (rapport d'examen SMR du 7 août 2003), celui-ci ne présente aucune capacité de travail exigible, que ce soit dans son activité habituelle ou dans une autre activité.
Il s'ensuit que les conséquences de l'état de santé sur la capacité de gain du recourant ont subi un changement important, dans le sens d'une aggravation de l'invalidité. Celle-ci a duré trois mois sans interruption notable (art. 88a al. 2 RAI). Depuis le 1er février 2003, le recourant a droit à une rente entière pour une invalidité dont le taux est supérieur à 66 2/3 % (art. 28 al. 1 LAI, dans sa teneur en vigueur jusqu'au 31 décembre 2003). Sur ce point également, la décision sur opposition du 7 juillet 2004 est exacte.
Il s'ensuit que les conséquences de l'état de santé sur la capacité de gain du recourant ont subi un changement important, dans le sens d'une aggravation de l'invalidité. Celle-ci a duré trois mois sans interruption notable (art. 88a al. 2 RAI). Depuis le 1er février 2003, le recourant a droit à une rente entière pour une invalidité dont le taux est supérieur à 66 2/3 % (art. 28 al. 1 LAI, dans sa teneur en vigueur jusqu'au 31 décembre 2003). Sur ce point également, la décision sur opposition du 7 juillet 2004 est exacte.
5. Le litige s'étend au droit éventuel du recourant à des intérêts moratoires.
5. Le litige s'étend au droit éventuel du recourant à des intérêts moratoires.
5.1 5.1.1 En matière d'intérêts moratoires, jusqu'au 31 décembre 2002, le droit des assurances sociales connaissait une réglementation particulière qui divergeait du principe non écrit admis par le Tribunal fédéral pour les dettes de droit public (ATF 95 I 262 consid. 3). Selon une jurisprudence ancienne (ATFA 1952 p. 88 et les références), le Tribunal fédéral des assurances considérait qu'il n'y avait en principe pas place pour des intérêts moratoires, dans la mesure où ils n'étaient pas prévus par la législation. La principale raison de l'exclusion de la dette d'intérêts dans ce domaine résidait dans le rôle dévolu à l'administration. Celle-ci se présentait comme détentrice de la puissance publique chargée d'instruire, parfois longuement, les demandes de prestations émanant des particuliers et de leur appliquer le droit de manière objective. Lui imposer systématiquement des intérêts moratoires serait revenu à la pénaliser pour avoir accompli son devoir avec soin.
Seules des circonstances spéciales pouvaient justifier une exception à la règle. L'octroi d'intérêts de retard, dans l'hypothèse de manoeuvres illicites et fautives ou purement dilatoires, pouvait alors se justifier, mais il ne devait intervenir qu'avec retenue, notamment quand le sentiment du droit était heurté de manière particulière. Malgré les critiques de la doctrine, cette jurisprudence a été confirmée par la Cour de céans (ATF 127 V 446 s. consid. 4 et les arrêts cités).
5.1.2 Le recourant invoque la lenteur inadmissible avec laquelle son dossier a été traité par l'intimé. Pour autant, il ne fait état ni d'un acte illicite ni d'une manoeuvre purement dilatoire de la part de l'autorité. Avec l'office AI, la Cour de céans constate que le traitement de sa demande du 2 juillet 2001 a fait l'objet de mesures d'instruction utiles et régulières et que le temps nécessaire pour statuer sur la demande de rente n'est nullement le fruit de manoeuvres illicites ou purement dilatoires de la part de celui-ci. Dès lors, des intérêts moratoires ne sont pas dus.
5.1.2 Le recourant invoque la lenteur inadmissible avec laquelle son dossier a été traité par l'intimé. Pour autant, il ne fait état ni d'un acte illicite ni d'une manoeuvre purement dilatoire de la part de l'autorité. Avec l'office AI, la Cour de céans constate que le traitement de sa demande du 2 juillet 2001 a fait l'objet de mesures d'instruction utiles et régulières et que le temps nécessaire pour statuer sur la demande de rente n'est nullement le fruit de manoeuvres illicites ou purement dilatoires de la part de celui-ci. Dès lors, des intérêts moratoires ne sont pas dus.
5.2 5.2.1 Entrée en vigueur le 1er janvier 2003 (voir également ATF 130 V 329), la LPGA prévoit expressément une réglementation en matière d'intérêts moratoires, réglementation qui demeure particulière et propre au droit des assurances sociales (Ueli Kieser, ATSG-Kommentar, Kommentar zum Bundesgesetz über den Allgemeinen Teil des Sozialversicherungsrechts vom 6. Oktober 2000, Zurich 2003, ch. 3 ad art. 26).
Selon l'art. 26 al. 2 LPGA, des intérêts moratoires sont dus pour toute créance de prestations d'assurances sociales à l'échéance d'un délai de 24 mois à compter de la naissance du droit, mais au plus tôt douze mois à partir du moment où l'assuré fait valoir ce droit, pour autant qu'il se soit entièrement conformé à l'obligation de collaborer qui lui incombe.
En vertu de l'art. 6 OPGA, n'ont pas droit à des intérêts moratoires, au sens de l'art. 26 al. 2 LPGA, l'ayant droit ou ses héritiers, lorsque des prestations accordées rétroactivement sont versées à un tiers.
5.2.2 Dans sa réponse au recours, l'intimé indique que les rentes dues rétroactivement au recourant pour la période de mai 2001 à septembre 2003 ont été intégralement versées à des tiers. Dès lors, le droit à des intérêts moratoires à partir du 1er janvier 2003 pour les créances de prestations dont le droit serait né 24 mois auparavant doit être nié.
Par ces motifs, le Tribunal fédéral des assurances prononce:
Par ces motifs, le Tribunal fédéral des assurances prononce:
1. Dans la mesure où il est recevable, le recours est rejeté.
1. Dans la mesure où il est recevable, le recours est rejeté.
2. Il n'est pas perçu de frais de justice.
2. Il n'est pas perçu de frais de justice.
3. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 25 octobre 2006
Au nom du Tribunal fédéral des assurances
La Présidente de la IIe Chambre: Le Greffier: