Faits:
A. A.a A._, né en 1951, a été au service X._ du 1er février 2001 au 31 mai 2005. Pendant cette période, il était affilié à la Caisse de retraite X._. Dès le 1er juin 2005, il est entré au service de la société Z._ SA et a été affilié au Fonds d'assurance-retraite Y._. Le 10 juin 2005, il a été admis d'office à l'Hôpital psychiatrique W._, où il a séjourné jusqu'au 22 juin 2005 pour un épisode maniaque. Le 23 juin 2005, il a été licencié par la société Z._ SA, qui a annoncé au Fonds d'assurance-retraite Y._ le départ de son employé au 31 juillet 2005 (avis de mutation du 5 août 2005).
A.b Le 12 septembre 2006, A._ a présenté une demande de prestations de l'assurance-invalidité, en requérant l'octroi d'une rente d'invalidité. Dans un préavis du 20 novembre 2007, l'Office de l'assurance-invalidité pour le canton de Vaud l'a informé que sa capacité de travail était considérablement restreinte depuis le 25 mai 2005 et qu'il présentait une invalidité de 100 % depuis le 25 mai 2006, de sorte qu'il avait droit à une rente entière dès le 1er mai 2006. Par deux décisions du 20 mars 2008, dont un exemplaire a été communiqué au Fonds d'assurance-retraite Y._ - aujourd'hui: le Fonds de prévoyance Y._ (ci-après: le Fonds de prévoyance) -, il lui a alloué une rente entière d'invalidité à partir du 1er mai 2006, assortie d'une rente pour enfant pendant la période du 1er mai 2006 au 31 janvier 2007.
Le 17 juillet 2008, le Fonds de prévoyance a communiqué à la Caisse de retraite X._ une copie des décisions de rentes de l'assurance-invalidité du 20 mars 2008. Le 5 août 2008, l'office AI a remis le dossier de A._ à la Caisse de retraite X._, laquelle, par lettre du 21 octobre 2008, l'a invité à réexaminer le cas de A._, en fixant le début de l'incapacité de travail durable au 10 juin 2005. Le 27 novembre 2008, l'office AI a refusé d'entrer en matière sur cette requête, au motif que le courrier du 21 octobre 2008 considéré comme un recours était tardif et que les conditions d'une reconsidération des décisions de rentes du 20 mars 2008 n'étaient pas réalisées.
B. Le 19 décembre 2008, la Caisse de retraite X._ a saisi la Cour des assurances sociales du Tribunal cantonal du canton de Vaud d'un recours contre la décision de rente entière d'invalidité du 20 mars 2008 et le refus de l'office AI du 27 novembre 2008 d'entrer en matière sur sa requête et d'un autre recours contre la décision de rente pour enfant du 20 mars 2008 et le refus d'entrer en matière du 27 novembre 2008, en prenant notamment des conclusions tendant à fixer le début de l'incapacité de travail durable de A._ au 10 juin 2005.
Le 2 mars 2009, la juridiction cantonale a joint les causes. Dans sa réponse du 2 avril 2009, l'Office de l'assurance-invalidité pour le canton de Vaud a conclu au rejet (des) recours. Appelés en cause, A._ et sa fille B._ (le 21 mai 2010) et le Fonds de prévoyance Y._ (le 9 juillet 2010) ont conclu au rejet des recours.
Par arrêt du 27 juillet 2010, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud a rejeté les recours dans la mesure où ils étaient recevables.
C. La Caisse de retraite X._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et dépens, à son annulation, le Tribunal fédéral étant invité à fixer le début de l'incapacité de travail de A._ au 10 juin 2005. A titre subsidiaire, elle demande que la cause soit renvoyée à la juridiction inférieure pour nouvelle décision dans le sens des considérants.
L'Office de l'assurance-invalidité pour le canton de Vaud conclut au rejet du recours. Le Fonds de prévoyance Y._ conclut, sous suite de frais et dépens, à l'irrecevabilité du recours, subsidiairement à son rejet. A._ conclut, sous suite de frais et dépens, à l'irrecevabilité du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Sous réserve de l'art. 106 al. 2 LTF, le Tribunal fédéral examine d'office les conditions formelles de validité et de régularité de la procédure précédente (ATF 132 V 93 consid. 1.2 p. 95, 128 V 89 consid. 2a, 125 V 345 consid. 1a p. 347, 122 V 320 consid. 1 p. 322; ULRICH MEYER, in Basler Kommentar zum Bundesgerichtsgesetz, 2008, n° 8 ad art. 106). Il convient en l'espèce d'examiner si la juridiction cantonale était en droit d'entrer en matière sur les recours dont elle a été saisie le 19 décembre 2008 par la Caisse de retraite X._.
2. Des décisions de rentes du 20 mars 2008, il ressort qu'un exemplaire de celles-ci a été communiqué par l'office AI au Fonds de prévoyance Y._. En revanche, l'office AI a omis d'intégrer dans la procédure de l'assurance-invalidité la Caisse de retraite X._, dont il y avait lieu toutefois de présumer l'obligation d'allouer des prestations puisque le début de l'incapacité de travail durable avait été fixé par l'assurance-invalidité au 25 mai 2005 (art. 49 al. 4 LPGA), soit à une époque où A._ était affilié à la Caisse de retraite X._. La Caisse de retraite X._ n'est dès lors pas liée par l'évaluation de l'invalidité de A._ selon le droit de l'assurance-invalidité, si bien qu'il n'y avait pas de motif de lui ouvrir une voie de droit dans le cas où, comme en l'espèce, elle a pris connaissance ultérieurement - soit à la suite de la communication du Fonds de prévoyance du 17 juillet 2008 - des décisions de rentes du 20 mars 2008 (ATF 132 V 1 consid. 3.3.2 p. 5). Il découle de ce qui précède que c'est à tort que la juridiction cantonale est entrée en matière sur les recours formés par la Caisse de retraite X._.
3. Le jugement entrepris doit dès lors être modifié en ce sens que les recours interjetés le 19 décembre 2008 par la Caisse de retraite X._ auraient dû être déclarés irrecevables. La recourante, dont les conclusions tendent à l'annulation du jugement entrepris et portent sur le fond du litige, succombe. Compte tenu des circonstances, il y a lieu de renoncer à percevoir des frais de justice (art. 66 al. 1, 2ème phrase, LTF). La recourante ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 et 3 LTF). Le Fonds de prévoyance Y._ ne saurait non plus prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 3 LTF). A._, qui a conclu à l'irrecevabilité du recours et n'obtient pas gain de cause, n'a pas droit à une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Le jugement de la Cour des assurances sociales du Tribunal cantonal du canton de Vaud du 27 juillet 1010 (AI 634/08 et 635/08 - 321/2010) dans la cause entre la Caisse de retraite X._ (recourante) et l'Office de l'assurance-invalidité pour le canton de Vaud (intimé) est réformé en ce sens que les recours interjetés par la Caisse de retraite X._ sont irrecevables.
3. Il n'est pas perçu de frais judiciaires.
4. Le présent arrêt est communiqué aux parties, au Fonds de prévoyance Y._, à A._, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 20 mai 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner