Faits:
A. X._, ressortissant de Serbie et Monténégro, né en 1973, est entré en Suisse au mois d'octobre 1998 et y a déposé une demande d'asile, qui a été définitivement rejetée, le 26 juillet 2000.
Le 25 août 2000, X._ a épousé à Monthey, en Valais, une ressortissante suisse, A._, née en 1959. Il a obtenu, sur recours, une autorisation de séjour pour regroupement familial, le 25 avril 2002. Par ordonnance de mesures protectrices de l'union conjugale du 1er juin 2004, les époux ont été autorisés à vivre séparés dès le 21 avril 2004, pour une durée indéterminée. L'intéressé s'est alors rendu dans le canton de Vaud et y séjourne depuis sa séparation. Quant aux époux, ils n'ont jamais repris la vie commune et leur divorce est entré en force le 3 septembre 2009.
Par arrêt du 22 février 2010 (2C_548/2009), le Tribunal fédéral a confirmé l'arrêt du Tribunal cantonal vaudois du 12 août 2009 qui rejetait le recours de l'intéressé contre la décision refusant de prolonger son autorisation de séjour au motif que l'union conjugale était vidée de toute substance et que sa situation ne constituait pas un cas de rigueur.
B. Le 12 avril 2010, le Service cantonal vaudois de la population a prononcé le renvoi de Suisse de X._.
Saisi d'un recours de l'intéressé contre cette décision, le Tribunal cantonal l'a rejeté, par arrêt du 6 janvier 2011.
C. X._ forme auprès du Tribunal fédéral un recours constitutionnel subsidiaire et conclut, avec suite de dépens, à l'annulation de l'arrêt du Tribunal cantonal du 6 janvier 2011, l'affaire étant renvoyée à cette juridiction pour nouvelle décision dans le sens des considérants. Il présente également une demande d'effet suspensif et une requête d'assistance judiciaire complète.
Le Tribunal cantonal conclut au rejet du recours, en se référant aux considérants de son arrêt. De son côté, le Service de la population a renoncé à se déterminer sur le recours. Le 13 avril 2011, il a toutefois adressé au Tribunal fédéral une copie de l'acte de mariage, traduit le 21 mars 2011, selon lequel X._ s'était marié au Kosovo, le 28 juillet 2010, avec B._.
D. Par ordonnance présidentielle du 11 février 2011, l'effet suspensif a été attribué au recours.
Considérant en droit:
1. 1.1 L'arrêt attaqué porte exclusivement sur le renvoi du recourant, prononcé en application de l'art. 66 de la loi fédérale sur les étrangers (LEtr; RS 142.20). En vertu de l'art. 83 let. c ch. 4 in fine LTF, le recours en matière de droit public est irrecevable contre les décisions concernant le renvoi. Par conséquent, cette voie de droit n'est pas ouverte contre une décision fondée, comme en l'espèce, sur l'art. 66 LEtr. En revanche, dans la mesure où une autorité cantonale a statué en dernière instance, la décision de renvoi peut être attaquée par la voie du recours constitutionnel subsidiaire (arrêt 2D_56/2010 du 25 mai 2011, consid. 1.1, destiné à la publication).
Le mémoire du recourant ne sera donc examiné que dans la mesure où il remplit les exigences de recevabilité propres à un recours constitutionnel subsidiaire.
1.2 Selon l'art. 115 LTF, la qualité pour former un recours constitutionnel subsidiaire suppose d'avoir pris part à la procédure devant l'autorité précédente ou d'avoir été privé de la possibilité de le faire (let. a) et d'avoir un intérêt juridique à l'annulation ou à la modification de la décision attaquée (let. b). La notion d'intérêt juridique ne découle pas déjà de l'arbitraire (art. 9 Cst.) ou du principe de la proportionnalité (ATF 134 I 153 consid. 4; arrêt précité 2D_56/2010, consid. 2, destiné à la publication). Un partie a donc qualité pour se plaindre de l'arbitraire que si elle peut se prévaloir d'une norme qui lui accorde un droit dans le domaine en cause ou qui, à tout le moins, a pour but de protéger ses intérêts (ATF 133 I 185 consid. 6.1 p. 198). En l'absence de qualité pour agir au fond, le recourant peut invoquer la violation de ses droits de partie, équivalant à un déni de justice formel ("Star"-Praxis). En revanche, les moyens qui tendent à remettre en cause la décision attaquée quant au fond sont irrecevables (ATF 114 Ia 307 consid. 3c p. 313, rendu sous l'empire de l'ancien art. 88 OJ, repris sous l'angle de 115 let. b LTF in ATF 133 I 185 consid. 6.2 p. 199; arrêt précité 2D_56/2010, consid. 2, destiné à la publication).
2. Le recourant se plaint essentiellement de l'interprétation et de l'application arbitraire de l'art. 83 LEtr par les autorités cantonales, qui ont refusé de l'admettre provisoirement pour des raisons médicales, ainsi que le permet l'alinéa 4 de cette disposition.
2.1 Il convient toutefois de rappeler que la présente procédure ne concerne que le renvoi du recourant. La décision attaquée n'a pas les caractéristiques d'un prononcé sur le fond, mais seulement d'une décision d'exécution (cf. ANDREAS ZÜND/LADINA ARQUINT HILL, Beendingung der Anwesenheit, Entfernung und Fernhaltung, in Ausländerrecht, 2e éd., 2009, no 8.61). Dans ce cadre, le recourant ne peut donc faire valoir des griefs reposant sur un droit de séjourner en Suisse, ni remettre en cause le refus de lui octroyer une autorisation de séjour (cf. arrêt 2D_2009 du 4 février 2010, consid. 2.4; ALAIN WURZBURGER, Commentaire de la LTF, 2009, p. 780 no 58 ad art. 83 LTF). Du reste, le Tribunal fédéral a statué définitivement sur ce point dans son arrêt du 22 février 2010. Le recours n'est ainsi pas recevable en tant qu'il s'écarte de la décision d'exécution.
2.2 L'admission provisoire n'est pas une autorisation de séjour, mais un simple statut qui règle la présence de l'étranger en Suisse, lorsque le renvoi de ce dernier n'est pas possible, n'est pas licite ou ne peut être raisonnablement exigé. Il appartient à l'Office fédéral des migrations de statuer sur l'admission provisoire (art. 83 al. 1 LEtr). Celle-ci "peut" être proposée par les autorités cantonales, mais pas par l'étranger lui-même qui n'a aucun droit à une admission provisoire (art. 83 al. 6 LEtr; ANDREAS ZÜND/LADINA ARQUINT HILL, op. cit. n. 8.103; arrêt précité 2D_56/2010 consid. 3.2, destiné à la publication). Comme le Tribunal fédéral l'a décidé dans cet arrêt, il n'y a donc pas lieu d'entrer en matière sur les griefs d'arbitraire soulevés par le recourant.
En revanche, dans le cadre d'un recours constitutionnel subsidiaire contre une décision de renvoi des autorités cantonales, l'étranger a la faculté d'invoquer des droits constitutionnels particuliers qui lui confèrent un intérêt juridique protégé au sens de l'art. 115 let. b LTF. Tel est le cas, par exemple, du droit à la vie (art. 10 al. 1 Cst. et 2 CEDH), de l'interdiction de la torture et de tout autre traitement ou peine cruels, inhumains ou dégradants (art. 10 al. 3 Cst. et 3 CEDH) ou encore de l'interdiction d'un renvoi dans lequel l'intéressé risque la torture ou tout autre traitement ou peine cruels et inhumains (art. 25 al. 3 Cst). Ces griefs doivent cependant répondre aux exigences de motivation du recours constitutionnel subsidiaire formé pour violation des droits constitutionnels (art. 116 et 106 al. 2 LTF). Le Tribunal fédéral n'examine en effet pas d'office la violation des droit fondamentaux, mais seulement si celle-ci est clairement soulevée et motivée de façon détaillée dans le recours (ATF 133 II 249 consid. 1.4.2 p. 254; arrêt 2D_56/2010, consid. 3.3, destiné à la publication).
2.3 En l'espèce, le recourant mentionne certes l'art. 3 CEDH, mais se borne à soutenir qu'il ne pourrait pas bénéficier des soins médicaux nécessaires dans son pays d'origine et que son état de santé se dégraderait rapidement. En réalité, le recourant ne fait qu'opposer sa propre version de la situation sanitaire au Kosovo, avec celle analysée par le Tribunal cantonal qui, sur la base du rapport de l'Office fédéral des migrations du 23 août 2010, a retenu que les médicaments qui lui sont administrés sont disponibles dans ce pays et que, même si le nombre de psychothérapeutes n'y est pas aussi élevé qu'en Suisse, un suivi psychologique y demeure possible. L'état de santé du recourant ne tombe dès lors manifestement pas sous le coup de l'art. 3 CEDH qui exige qu'un mauvais traitement atteigne un minimum de gravité. En effet, selon la jurisprudence de la Cour européenne des droits de l'homme concernant le défaut de traitement médical approprié dans le pays de renvoi, ce n'est que dans des situations exceptionnelles, en raison de "considérations humanitaires impérieuses", que la mise à exécution d'une décision d'éloignement d'un étranger peut emporter violation de l'art. 3 CEDH (arrêt CourEDH Emre contre Suisse du 22 mai 2008 § 88). Ainsi, le fait que la situation d'une personne dans son pays d'origine serait moins favorable que celle dont elle jouit dans le pays d'accueil n'est pas déterminant du point de vue de l'art. 3 CEDH (arrêt Emre § 91, voir aussi arrêt 2D_67/2009 du 4 février 2010, consid. 6). Dans la mesure où il est recevable, le grief tiré de l'art. 3 CEDH ne peut donc qu'être rejeté.
3. Au vu de ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité.
Les conclusions du recourant apparaissant dénuées de toute chance de succès, sa requête d'assistance judiciaire doit être rejetée (art. 64 al. 1 LTF). Les frais de justice seront ainsi mis à la charge du recourant (art. 66 al. 1 LTF), en tenant compte toutefois de sa situation (art. 65 al. 2 LTF). Il ne sera pas alloué de dépens (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population du canton de Vaud et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 3 août 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Rochat