Faits:
A. X._ (ci-après: l'intéressée), ressortissante du Bangladesh née le *** 1974, est entrée en Suisse le 22 décembre 2009 dans le cadre d'un séjour touristique. Son visa valable pour trois mois a été prolongé pour une durée identique. Elle est divorcée et a un fils vivant au Bangladesh avec son père.
Le 23 février 2010, elle a sollicité du Service de la population du canton de Vaud la délivrance d'une autorisation de séjour afin de s'occuper de l'épouse de son frère, A._, tous deux ressortissants suisses, et des tâches domestiques de ces derniers. Elle a notamment produit une attestation du 26 janvier 2010 de la Dresse B._, médecin associé au département de psychiatrie du Centre hospitalier universitaire vaudois (CHUV) certifiant que sa belle-s?ur, C._, avait besoin de son assistance afin d'être soutenue dans sa vie quotidienne, pour des raisons médicales.
Après en avoir informé l'intéressée par lettre du 12 juillet 2010, le Service de la population a décidé le 2 mai 2011 de ne pas lui délivrer une autorisation de séjour, de prononcer son renvoi de Suisse dans le délai imparti.
B. Par acte du 3 juin 2011, X._ a recouru auprès du Tribunal cantonal du canton de Vaud contre la décision du 2 mai 2011 concluant, sous suite de frais et dépens, principalement à son annulation et à l'octroi de l'autorisation de séjour sollicitée et, subsidiairement, à son annulation et au renvoi du dossier au Service de la population pour nouvelle décision dans le sens des considérants. Elle a produit un certificat médical établi le 30 mai 2011 par la Dresse B._, du département de psychiatrie du CHUV, dont il ressort ce qui suit s'agissant de la belle-s?ur de la recourante:
"La patiente susnommée est suivie depuis 2004 à la Consultation de D._, Département de psychiatrie du CHUV, pour une schizophrénie paranoïde continue. La prise en charge de la patiente nécessite une psychothérapie de soutien associée à un traitement médicamenteux (plusieurs anti-psychotiques). Nous devons malheureusement constater que depuis 2009, son état de santé s'est détérioré, nécessitant à deux reprises une hospitalisation, en raison d'une décompensation psychotique. Malgré le traitement médicamenteux lourd, la patiente reste très symptomatique; elle présente des hallucinations et des épisodes d'agitation réguliers. Madame C._ nécessite une assistance continue et permanente pour les [tâches] de la vie courante (toilette, lessive, repas, ménage, ...). Madame X._, belle-s?ur de la patiente, assume au quotidien l'ensemble de cette assistance et permet en cela à Monsieur A._ (mari de la patiente) de pouvoir exercer son activité professionnelle et de subvenir financièrement aux besoins du couple et de sa s?ur (Madame X._). Toute mesure venant à prononcer et/ou exécuter l'expulsion de Mme X._ se traduirait immédiatement par la nécessité impérative de placer la patiente dans un établissement médical de soins aigus dans l'attente d'un placement en foyer ou EMS, et ce, à la charge de la collectivité".
C. Par arrêt du 3 août 2011, le Tribunal cantonal a rejeté le recours de l'intéressée. Les conditions d'un regroupement familial n'étaient réunies.
D. Agissant par la voie du recours en matière de droit public et celle du recours constitutionnel subsidiaire pour violation de l'art. 8 § 1 CEDH et constatation incomplète des faits, X._ demande au Tribunal fédéral d'annuler l'arrêt rendu le 3 aout 2011 par le Tribunal cantonal.
L'Office fédéral des migrations conclut au rejet du recours alors que le Service de la population renonce à se déterminer.
E. Par ordonnance du 20 septembre 2011, le Président de la IIe Cour de droit public a accordé l'effet suspensif au recours.
Le 23 septembre 2011, l'intéressée a sollicité l'octroi de l'assistance judiciaire.
Considérant en droit:
1. 1.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon la jurisprudence, un étranger peut, selon les circonstances, se prévaloir du droit au respect de sa vie privée et familiale au sens de l'art. 8 § 1 CEDH, respectivement 13 al. 1 Cst., pour s'opposer à une éventuelle séparation de sa famille. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse soit étroite et effective (ATF 135 I 143 consid. 1.3.1 p. 145; 130 II 281 consid. 3.1 p. 285/et les arrêts cités). Le Tribunal fédéral admet qu'un étranger puisse, exceptionnellement et à des conditions restrictives, déduire un droit à une autorisation de séjour de l'art. 8 § 1 CEDH, s'il existe un rapport de dépendance particulier entre lui et un proche parent au bénéfice d'un droit de présence assuré en Suisse (nationalité suisse ou autorisation d'établissement; cf. ATF 135 I 143 consid. 1.3.1 p. 145 ss; 130 II 281 consid. 3.1 p. 285), par exemple en raison d'une maladie ou d'un handicap (ATF 120 Ib 257 consid. 1d p. 261). Cette jurisprudence est applicable lorsque ce n'est pas l'étranger qui est dépendant, mais la personne au bénéfice d'un droit de présence assuré en Suisse, en tout cas lorsque le lien de dépendance particulier qui est invoqué pour fonder le droit à séjourner en Suisse s'ajoute au lien de parenté nucléaire, soit entre parents et enfants (arrêt 2C_942/2010 du 27 avril 2011; voir aussi arrêt 2C_253/2010 du 18.7.2011, consid. 1.5).
1.2 En l'espèce, le lien dont se prévaut la recourante n'est pas celui existant entre un parent et son enfant majeur, mais entre une personne étrangère et sa belle-soeur suisse. Il est extrêmement douteux qu'un tel lien suffise à fonder une prétention déduite de l'art. 8 CEDH, en tout cas à défaut de liens antérieurs extrêmement serrés et avérés faisant défaut en l'espèce. Il n'est pas nécessaire de trancher définitivement cette question dès lors que le recours doit de toute manière être rejeté. Au demeurant, le point de savoir si le lien de dépendance permet de fonder une autorisation de séjour sous l'angle de l'art. 8 CEDH est une question de fond et non de recevabilité. Le recours en matière de droit public étant recevable, le recours constitutionnel subsidiaire est par conséquent irrecevable (art. 113 LTF a contrario).
2. 2.1 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'art. 106 al. 2 LTF. Il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. art. 105 al. 1 LTF), à moins que ceux-ci n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire de l'art. 9 Cst. (ATF 134 V 53 consid. 4.3 p. 62) - ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF), ce qu'il appartient au recourant d'exposer et de démontrer de manière claire et circonstanciée. La correction du vice soulevé doit en outre être susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. ATF 136 II 101 consid. 3 p. 104 s.; 135 II 313 consid. 5.2.2).
2.2 La recourante semble se plaindre de ce que le Tribunal cantonal n'aurait pas procédé à l'administration de deux preuves, à savoir sa propre audition et celle de l'auteur du certificat médical. Pour ce faire, elle n'invoque aucune violation de règle régissant le droit à la preuve, se bornant à se référer brièvement à la violation de la maxime d'office. Un tel grief est irrecevable au regard des exigences de motivation de l'art. 106 al. 2 LTF.
2.3 Au surplus, dans la mesure où la Cour cantonale a estimé sans arbitraire que la belle-soeur de la recourante pourra disposer de toutes les prestations de l'assurance-maladie, dont, le cas échéant, une aide à domicile, il ne s'agit pas d'un défaut de preuves, mais bien plutôt de l'appréciation de celles, convaincantes, figurant au dossier. A cet égard, si le droit d'être entendu, qui est garanti par l'art. 29 al. 2 Cst., comprend notamment le droit pour l'intéressé d'obtenir qu'il soit donné suite à ses offres de preuves, à condition qu'elles portent sur des éléments qui sont pertinents pour décider de l'issue du litige (cf. ATF 135 I 279 consid. 2.3 p. 282; 133 I 270 consid. 3.1 p. 277; arrêt 1C_333/2010 du 16 février 2011, consid. 2.1), il ne s'oppose pas à ce que l'autorité mette un terme à l'instruction lorsque les preuves administrées lui ont permis de forger sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (ATF 130 II 425 consid. 2.1 p. 428; arrêt 2C_723/2010 du 14 février 2011, consid. 3). Tel est précisément le cas en l'espèce, dans la mesure où le certificat médical n'indique pas que la présence personnelle de la recourante s'impose pour garantir le soutien de la malade. Au contraire, le médecin envisage clairement la possibilité de placer la patiente dans un établissement médical de soins aigus dans l'attente d'un placement en foyer ou EMS. Dans de telles circonstances, on ne voit pas que les autorités auraient dû procéder à l'administration de preuves complémentaires sur cette question.
Les griefs d'arbitraire dans l'appréciation des preuves, respectivement de violation du droit d'être entendu, doivent donc être rejetés dans la mesure où ils sont recevables.
3. La recourante invoque l'art. 8 CEDH. Nonobstant le fait que le statut de belle-soeur ne semble par lui-même pas suffisant pour autoriser la mise en oeuvre du regroupement familial garanti par l'art. 8 CEDH, en tout cas hors circonstances tout à fait particulières, il ressort clairement de l'arrêt attaqué, dont les faits lient le Tribunal fédéral (art. 105 al. 1 LTF), qu'il existe d'autres solutions pratiques pour assurer la garde de la belle-soeur de la recourante, que ce soit par le biais d'une aide à domicile ou d'une hospitalisation, respectivement par le placement dans un EMS. Dans de telles circonstances, il est certain que l'aide, certes appréciable, fournie par la recourante et donc la présence de celle-ci en Suisse n'est pas indispensable. Les conditions restrictives de l'art. 8 CEDH ne sont dès lors pas réunies.
4. Les considérants qui précèdent conduisent au rejet du recours dans la mesure où il est recevable. Le recours étant d'emblée dénué de chances de succès, la demande d'assistance judiciaire doit être rejetée (art. 64 LTF). Succombant, la recourante supporte les frais judiciaires réduits (art. 66 al. 1 LTF) et n'a pas droit à des dépens (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. La requête d'assistance judiciaire est rejetée.
4. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante.
5. Le présent arrêt est communiqué au mandataire de la recourante, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 26 janvier 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Dubey