Faits:
A. X._, ressortissant du Kosovo, né en 1981, s'est marié le 24 mars 2004 au Kosovo avec une ressortissante allemande, dont il s'est séparé environ une année après. N'ayant pas obtenu le renouvellement de son autorisation annuelle de séjour en Allemagne en raison de cette séparation, il est arrivé en Suisse en octobre 2005 et a vécu à Lausanne, d'abord dans un appartement loué par une amie, puis dans un studio que lui sous-louait un compatriote. En tant que boxeur, il a continué à s'entraîner dans une salle de fitness et a travaillé sur appel sans autorisation, réalisant un salaire mensuel de 2'000 à 2'500 fr. Il recevait également une aide financière ponctuelle de ses frères et de sa soeur résidant en Allemagne.
Le 7 août 2006, X._ a été arrêté à la suite du trafic important d'héroïne et de cocaïne auquel il avait participé pendant environ un mois et demi. Par jugement du 16 janvier 2008, le Tribunal correctionnel de l'arrondissement de Lausanne l'a condamné à une peine privative de liberté de 30 mois, sous déduction de 528 jours de détention préventive, et à une amende de 480 fr. pour infraction grave et contravention à la loi fédérale sur les stupéfiants (LStup; RS 812.121), ainsi que pour infraction et contravention à la loi fédérale sur le séjour et l'établissement des étrangers (LSEE, abrogée par l'entrée en vigueur, le 1er janvier 2008, de la loi fédérale sur les étrangers: LEtr; RS 142.20). Le Tribunal a également suspendu l'exécution d'une partie de la peine portant sur 15 mois et fixé à l'intéressé un délai d'épreuve de 5 ans.
B. Le 30 janvier 2008, Y._, ressortissant suisse, né en 1948, et X._ ont déposé une demande en vue de l'enregistrement d'un partenariat. Ce dernier a aussi déposé une demande d'autorisation de séjour, le 14 février 2008.
Par décision du 16 octobre 2008, le Service de la population du canton de Vaud a refusé d'accorder à X._ l'autorisation de séjour sollicitée, en raison de sa condamnation pénale et du fait que le partenariat enregistré ne s'était pas concrétisé.
Le partenariat entre Y._ et X._ ayant été enregistré le 4 septembre 2009, celui-ci a présenté une demande de réexamen, qui a été rejetée par le Service de la population, le 27 octobre 2009.
C. Par arrêt du 12 mars 2010, le Tribunal cantonal vaudois (Cour de droit administratif et public) a rejeté le recours de X._ et confirmé la décision du Service de la population du 16 octobre 2008. Il a retenu en bref que l'intérêt privé du recourant à vivre avec son partenaire et la mère de ce dernier, personnes dont il avait fait la connaissance à sa sortie de prison il y avait un peu plus de deux ans, ne saurait l'emporter sur l'intérêt public à éloigner le recourant de Suisse.
D. X._ forme un recours en matière de droit public auprès du Tribunal fédéral et conclut, avec suite de frais et dépens, à la réforme de l'arrêt du Tribunal cantonal du 12 mars 2010, en ce sens qu'une autorisation de séjour lui est délivrée et, subsidiairement, à l'annulation dudit arrêt, la cause étant renvoyée au Tribunal cantonal pour complément d'instruction et nouvelle décision dans le sens des considérants.
Le Tribunal cantonal et le Service de la population ont renoncé à se déterminer sur le recours. De son côté, l'Office fédéral des migrations propose de rejeter ce dernier.
E. Par ordonnance présidentielle du 22 avril 2010, l'effet suspensif a été attribué au recours.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence et la recevabilité des recours qui lui sont soumis (cf. <ref-law>; <ref-ruling> consid. 1.1 p. 3, 430 consid. 1 p. 431, 483 consid. 1 p. 485).
1.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
1.2 Selon l'art. 52 LEtr, les dispositions relatives au conjoint étranger d'un ressortissant suisse s'appliquent par analogie aux partenaires enregistrés du même sexe.
L'art. 42 al. 1 LEtr prescrit que le conjoint d'un ressortissant suisse a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité à condition de vivre en ménage commun avec lui.
Au bénéfice d'un partenariat enregistré avec un ressortissant suisse chez lequel il habite, le recourant a donc en principe un droit à l'octroi d'une autorisation de séjour. Son recours est ainsi recevable au regard de l'art. 83 let. c ch. 2 LTF.
Le recourant peut également se prévaloir de l'art. 8 § 1 CEDH, qui garantit le respect de la vie privée et familiale, pour s'opposer à l'éventuelle séparation de son partenaire, avec lequel il vit et entretient une relation étroite et effective au sens de la jurisprudence (<ref-ruling> consid. 5 p. 269; <ref-ruling> consid. 5.3.1 p. 211).
1.3 Pour le surplus, le recours est dirigé contre une décision finale (<ref-law>) rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF); il a été formé en temps utile (art. 100 al. 1 et 46 al. 1 let. a LTF) et dans les formes prescrites (<ref-law>) par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>). Il y a lieu dès lors d'entrer en matière sur le recours.
2. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral et du droit international (cf. art. 95 let. a et b ainsi que 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Il est lié par les constatations de fait de l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Le recourant qui entend s'écarter des faits retenus par l'autorité précédente (cf. <ref-law>), doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans l'acte attaqué (<ref-ruling> consid. 5.2.2 p. 322; <ref-ruling> consid. 6.2 p. 288). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. <ref-ruling> consid. 5.2.2 p. 322; <ref-ruling> consid. 1.4.3 p. 254 s).
Bien que le recourant se plaigne des constatations inexactes de faits pertinents, il s'en prend en réalité non pas tant à l'établissement des faits qu'à leur appréciation juridique. Il s'agit donc là d'une question que le Tribunal fédéral revoit librement.
3. 3.1 L'art. 51 al. 1 let. b LEtr établit que les droits prévus à l'art. 42 LEtr (droits des membres étrangers de la famille d'un ressortissant suisse à l'octroi d'une autorisation de séjour et à sa prolongation) s'éteignent s'il existe des motifs de révocation au sens de l'art. 63 LEtr. Cette dernière disposition classe les cas de révocation en trois catégories dont la première (al. 1 let. a) comprend les situations où les conditions visées à l'art. 62 let. a et b LEtr sont réalisées. Selon ce dernier article, la révocation est possible notamment si l'étranger a été condamné à une peine privative de liberté de longue durée ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 CP (let. b). Dans son arrêt du 25 septembre 2009, publié aux <ref-ruling> ss, le Tribunal fédéral, examinant la genèse de l'art. 62 let. b LEtr, a jugé qu'une peine privative de liberté est de longue durée lorsqu'elle dépasse un an d'emprisonnement (arrêt précité consid. 4.2 p. 379 ss). Les motifs de révocation de l'art. 63 LEtr correspondent en principe aux motifs d'expulsion prévus à l'art. 10 LSEE (arrêts 2C_739/2009 du 8 juin 2010, consid. 4.2 et 2C_418/2009 du 30 novembre 2009 consid. 4.1). Ainsi, comme sous l'empire de l'ancienne loi fédérale sur le séjour et l'établissement des étrangers, le refus - ou la révocation - de l'autorisation ne se justifie que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître cette mesure comme proportionnée (arrêt 2C_793/2008 du 27 mars 2009 consid. 2.1 et les références). Il y a donc lieu de prendre en considération la gravité de la faute commise, le degré d'intégration, respectivement la durée du séjour effectué en Suisse, et le préjudice que l'intéressé et sa famille auraient à subir du fait de la mesure (cf. art. 96 al. 1 LEtr; arrêt 2C_739/2009 du 8 juin 2010 consid. 4.2.1 et les références citées). Quand le refus d'octroyer une autorisation de séjour se fonde sur la commission d'une infraction, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à procéder à la pesée des intérêts en présence (cf. arrêt 2C_464/2009 du 21 octobre 2009 consid. 5).
3.2 En l'espèce, la condition de l'art. 62 let. b LEtr est clairement réalisée, car le recourant a été condamné, notamment pour infraction grave à la loi fédérale sur les stupéfiants, à une peine privative de liberté de 30 mois, dont 15 mois avec sursis pendant 5 ans, après découverte à son domicile de plus de 4'300 fr et de 62 g de produit de coupage pour la drogue. Or, il s'agit d'un domaine où la jurisprudence se montre particulièrement rigoureuse (<ref-ruling> consid. 2c p. 436). La protection de la collectivité publique face au développement du marché de la drogue constitue incontestablement un intérêt public prépondérant justifiant l'éloignement d'un étranger qui s'est rendu coupable d'infraction grave à la législation sur les stupéfiants. Les étrangers qui sont mêlés au commerce des stupéfiants doivent donc s'attendre à faire l'objet de mesures d'éloignement (jurisprudence constante: arrêts 2C_ 739/2009 du 8 juin 2010, consid. 4.2; 2C_418/2009 du 30 novembre 2009 consid. 4.1; 2C_464/2009 du 21 octobre 2009 consid. 6.1; 2C_277/2009 du 20 août 2009 consid. 4.2).
Il existe donc bien, dans le cas du recourant, un motif de refuser l'octroi d'une l'autorisation de séjour. Reste à déterminer sur la base d'une pesée des intérêts en présence qui prend en considération toutes les circonstances particulières, si la mesure paraît proportionnée (cf. art. 96 LEtr). Cette question sera traitée ci-dessous en relation avec l'art. 8 § 2 CEDH.
4. 4.1 Le droit au respect de la vie privée et familiale garanti par l'art. 8 § 1 CEDH n'est pas absolu. Une ingérence dans l'exercice de ce droit est possible, selon l'art. 8 § 2 CEDH, à certaines conditions, notamment lorsqu'une telle mesure est nécessaire à la défense de l'ordre et à la prévention des infractions pénales. L'application de cette disposition implique aussi la pesée des intérêts en présence et l'examen de la proportionnalité de la mesure (cf. <ref-ruling> consid. 4.3 p. 381; <ref-ruling> consid. 2.1 et 2.2 p. 154 ss).
En présence d'une peine privative de liberté de longue durée, le Tribunal fédéral a estimé qu'il y avait lieu de s'en tenir à sa pratique selon laquelle un étranger qui n'a séjourné en Suisse que peu de temps et qui a été condamné à une peine de deux ans ou plus ne saurait en principe bénéficier d'un titre de séjour en Suisse, même lorsqu'on ne peut pas ou difficilement exiger de son conjoint suisse qu'il quitte son pays (<ref-ruling> consid. 4.4 p. 382; <ref-ruling> consid. 4.3 p. 24; <ref-ruling> consid. 4.1 p. 185). Comme auparavant, cette limite de deux ans n'est pas absolue. Elle doit au contraire être appréciée au regard de toutes les circonstances du cas et, en particulier, de la durée du séjour en Suisse de l'étranger (<ref-ruling> consid. 4.4 p. 382). On doit aussi prendre en compte la nature du délit commis et, en ce sens, il s'agit de se montrer particulièrement rigoureux avec les ressortissants étrangers qui se livrent au trafic de drogue, surtout s'ils ne sont pas eux-mêmes consommateurs de drogue, mais agissent par pur appât du gain (arrêts 2C_739/2009 du 8 juin 2010 consid. 4.3 et 2C_651/2009 du 1er mars 2010 consid. 4.3).
4.2 Le recourant fait valoir qu'il ne s'est livré que pendant une courte période au trafic de drogue (de fin juin au 3 août 2006), qu'il a peu participé aux bénéfices et a toujours agi sous les ordres de son cousin, à qui il devait obédience, de sorte qu'il n'y aurait aucun risque de récidive. Il se prévaut également de sa bonne intégration et du développement positif de sa personnalité depuis l'exécution de sa peine, ayant tissé des liens très forts avec son partenaire et la mère de ce dernier, âgée de 95 ans. Il fait enfin valoir qu'il serait complètement abandonné de sa famille si celle-ci venait à apprendre son homosexualité.
4.3 Il est en l'espèce constant que le recourant n'a pas obtenu l'autorisation de séjourner plus d'une année en Allemagne, à la suite de la séparation d'avec son ex-épouse, suivie d'un divorce. Arrivé en Suisse en automne 2005, il y a travaillé de manière occasionnelle sans être au bénéfice d'une autorisation de séjour, jusqu'à son arrestation, le 7 août 2006. Il n'y a pas lieu non plus de revenir sur le jugement pénal qui a largement tenu compte, pour la fixation de la peine, du fait que le recourant avait connu des conditions difficiles dans son pays d'origine, qu'il a été entraîné dans le trafic de drogue par son cousin, avec lequel il s'était brouillé le 3 août 2006, soit quatre jours avant son arrestation, et qu'il n'a tiré que peu de profit du trafic auquel il a participé. Face à sa condamnation à une peine privative de liberté de longue durée, les liens solides qu'il paraît avoir tissé avec son partenaire et la mère de ce dernier ne suffisent pas à considérer que l'on est en présence de circonstances exceptionnelles qui justifieraient l'octroi d'une autorisation de séjour. Arrivé en Suisse en automne 2005, à l'âge de 24 ans, il n'a en effet fréquenté que des compatriotes, jusqu'à son arrestation début août 2006. Libéré en janvier 2008, il a fait la connaissance de son partenaire et de l'entourage de ce dernier, mais ne peut pas vraiment se prévaloir d'une vie sociale et professionnelle si intense qu'elle pourrait jouer un rôle déterminant dans la pesée des intérêts en présence. Quant à son homosexualité, même si elle n'est pas appréciée dans son pays d'origine, rien ne permet de penser qu'elle lui fasse courir un danger particulier. On ne voit pas non plus que l'attitude de sa famille pourrait être différente à son égard, qu'il vive en Suisse avec son partenaire enregistré ou au Kosovo.
Pour le reste, contrairement à ce que prétend le recourant, le Tribunal cantonal a procédé à une juste pesée des intérêts en présence, à laquelle il peut être renvoyé, non seulement au regard de l'importance accordée à la gravité des infractions commises et de l'intensité de l'intégration du recourant, mais aussi au sujet du retour de celui-ci dans son pays d'origine et du risque de récidive qui ne saurait être totalement exclu, compte tenu de la facilité avec laquelle le recourant s'est laissé entraîné dans le trafic de drogue développé par son cousin. Il est vrai qu'en raison de son absence de condamnation antérieure au jugement du 16 janvier 2008 et de son comportement irréprochable depuis sa sortie de prison, le recourant compare sa situation à celle jugée par le Tribunal fédéral dans son arrêt 2A.579/2006 du 15 février 2006, où la cause avait été renvoyée à la juridiction cantonale pour complément d'instruction. Le cas de cet étranger, marié, avec un enfant en bas âge et particulièrement bien intégré sur le plan professionnel était toutefois différent de celui du recourant et l'on ne voit pas ce qui justifierait, en l'espèce, un renvoi au Tribunal cantonal pour complément d'instruction.
4.4 Ainsi, compte tenu de l'ensemble des circonstances, il apparaît que l'intérêt public à éloigner le recourant l'emporte sur l'intérêt privé de celui-ci et de son partenaire à pouvoir vivre ensemble en Suisse. Par conséquent, en rendant l'arrêt attaqué, le Tribunal cantonal a respecté le droit. En particulier, il a procédé à une pesée des intérêts correcte et n'a porté atteinte ni à la loi fédérale sur les étrangers, ni à l'art. 8 CEDH.
5. Au vu de ce qui précède, le recours doit être rejeté, avec suite de frais à la charge du recourant (<ref-law>). Il n'a en outre pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué à la mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 13 septembre 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Zünd Rochat