Faits:
A. X._, ressortissant du Kosovo, né en 1985, et Y._, également ressortissante du Kosovo, née en 1986, se sont mariés à Prizren (Kosovo) le 15 novembre 2005. Aucun enfant n'est issu de cette union.
Y._ est titulaire d'une autorisation d'établissement en Suisse. Elle habite Payerne. X._ est arrivé en Suisse le 18 mars 2006. Le 1er mai 2006, le Service de la population du canton de Vaud (ci-après SPOP) lui a octroyé une autorisation de séjour pour vivre auprès de son épouse.
Y._ et X._ ont cessé la vie commune le 4 février 2009.
B. Par courriers des 20 février et 13 mars 2009, Y._ a informé le SPOP qu'elle était en instance de divorce.
Après avoir fait entendre X._ par la Police de sûreté à plusieurs reprises, le SPOP a, le 17 décembre 2010, refusé à celui-ci la prolongation de son autorisation de séjour et lui a imparti un délai de trois mois pour quitter la Suisse.
X._ a recouru contre cette décision auprès du Tribunal cantonal du canton de Vaud. Celui-ci a, par arrêt du 8 avril 2011, rejeté son recours et confirmé la décision rendue par le SPOP.
C. Par acte du 13 mai 2011, X._ a interjeté un recours en matière de droit public. Il demande au Tribunal fédéral, avec suite de frais et dépens, d'annuler l'arrêt du Tribunal cantonal du 8 avril 2011 et de prolonger son autorisation de séjour. II requiert en outre l'octroi de l'effet suspensif à son recours.
Le SPOP a renoncé à se déterminer sur le recours. Le Tribunal cantonal s'est référé aux motifs de l'arrêt attaqué. L'Office fédéral des migrations propose le rejet du recours en se référant aux considérants des instances précédentes.
Par ordonnance présidentielle du 19 mai 2011, l'effet suspensif a été accordé au recours.

Considérant en droit:
1. Le présent litige porte sur le refus de prolonger une autorisation de séjour. La procédure y relative a été initiée à la suite de la cessation, le 4 février 2009, de la vie commune entre le recourant et son épouse, soit après l'entrée en vigueur, le 1er janvier 2008, de la loi fédérale sur les étrangers du 16 décembre 2005 (LEtr; RS 142.20), de sorte que le nouveau droit est applicable (art. 126 al. 1 a contrario LEtr).
2. Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon l'art. 43 al. 1 LEtr, le conjoint étranger d'un titulaire d'une autorisation d'établissement a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité, à condition de vivre en ménage commun avec lui. Or, le recourant et son épouse on cessé leur vie commune le 4 février 2009. Il ne peut donc se prévaloir d'un droit à séjourner en Suisse en raison de cette disposition.
Le recourant invoque l'art. 50 al. 1 LEtr selon lequel, après dissolution de la famille, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité subsiste dans certains cas. En pareilles circonstances, il convient d'admettre le droit de recourir sous l'angle de l'art. 83 let. c ch. 2 LTF. En effet, la question de savoir si c'est à juste titre que les juges cantonaux ont considéré que les conditions de l'art. 50 al. 1 LEtr n'étaient pas réalisées ressortit au fond et non à la recevabilité (cf. arrêt 2C_304/2009 du 9 décembre 2009 consid. 1.1, non publié aux <ref-ruling>).
Pour le surplus, l'arrêt attaqué est une décision finale (<ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF). Déposé en temps utile (<ref-law>) et dans les formes requises (<ref-law>) par le destinataire de l'arrêt attaqué qui a qualité pour recourir au sens de l'<ref-law>, le recours en matière de droit public est par conséquent recevable.
3. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Aux termes de cet alinéa, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant.
En outre, le Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>), soit arbitrairement (<ref-ruling> consid. 1.2.2 p. 252). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées; à défaut, il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 3 p. 104 s.). Par ailleurs, l'<ref-law> dispose qu'aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente.
Le recourant méconnaît à l'évidence ces principes. Il fonde son argumentation sur des faits et sa propre interprétation des événements qui ne ressortent pas de l'arrêt attaqué, sans démontrer que cet acte serait manifestement inexact ou arbitraire. Le Tribunal fédéral n'est pas une autorité d'appel habilitée à revoir librement les faits et à tenir compte de circonstances nouvelles. Partant, l'Autorité de céans se limitera à examiner si le droit fédéral a été correctement appliqué par le Tribunal cantonal sur la base des faits ressortant de l'arrêt entrepris.
4. Selon l'art. 50 al. 1 LEtr, après dissolution de la famille, le droit du conjoint et des enfants à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité en vertu des art. 42 et 43 LEtr subsiste dans les cas suivants:
a) l'union conjugale a duré au moins trois ans et l'intégration est réussie;
b) la poursuite du séjour en Suisse s'impose pour des raisons personnelles majeures.
4.1 Pour être applicable, l'art. 50 al. 1 let. a LEtr requiert notamment que le ressortissant étranger ait effectivement fait ménage commun avec son conjoint durant trois années de leur mariage passées en Suisse (<ref-ruling> consid. 3.3.5 p. 120; arrêt 2C_735/2010 du 1er février 2011 consid. 4.1). La durée de trois ans vaut de façon absolue, quand bien même la fin de la vie conjugale serait intervenue quel- ques jours ou semaines seulement avant l'expiration de ce délai (arrêt 2C_735/2010 du 1er février 2011 consid. 4.1 et les arrêts cités).
Cette condition n'est pas réalisée en l'espèce. En effet, le recourant est arrivé en Suisse le 18 mars 2006 et les époux ont cessé la vie commune le 4 février 2009, soit moins de trois ans après son arrivée en Suisse.
4.2 L'art. 50 al. 1 let. b LEtr a été introduit pour permettre aux autorités d'autoriser le séjour dans les cas où les conditions de la let. a ne sont pas données, soit que, comme en l'espèce, la vie commune en Suisse a duré moins de trois ans, soit que l'intégration n'est pas réussie. Pour que l'art. 50 al. 1 let. b LEtr permette de fonder une autorisation de séjour, il faut en tous les cas que des raisons personnelles majeures imposent la poursuite du séjour en Suisse. L'art. 50 al. 2 LEtr précise que les raisons personnelles majeures sont notamment données lorsque le conjoint est victime de violence conjugale et que la réintégration sociale dans le pays de provenance semble fortement compromise. La jurisprudence a précisé que la violence conjugale et la réintégration sociale fortement compromise dans le pays de provenance ne devaient pas forcément être réalisées cumulativement pour justifier l'application de l'art. 50 al. 1 let. b et al. 2 LEtr (cf. <ref-ruling> consid. 5.3 p. 4). Cette disposition a en effet pour vocation d'éviter les cas de rigueur ou d'extrême gravité (cf. <ref-ruling> consid. 3.1 p. 3 s.). A cet égard, la violence conjugale ou la réintégration fortement compromise dans le pays d'origine peuvent revêtir une importance et un poids différents dans cette appréciation et suffire isolément à admettre des raisons personnelles majeures. S'agissant de la violence conjugale, il faut toutefois qu'il soit établi que l'on ne peut exiger plus longtemps de la personne admise dans le cadre du regroupement familial qu'elle poursuive l'union conjugale, parce que cette situation risque de la perturber gravement. La violence conjugale doit par conséquent revêtir une certaine intensité. En résumé, selon les circonstances, violence conjugale et réintégration fortement compromise peuvent chacune constituer une raison personnelle majeure (cf. <ref-ruling> consid. 5.3 p. 4; confirmé notamment in <ref-ruling> consid. 4.1 p. 7).
4.2.1 En l'espèce, le Tribunal cantonal a nié que le recourant ait été victime de violences de la part de son épouse. Il a considéré que l'intéressé avait formulé de simples allégations, sans décrire ni documenter celles-ci. La production de deux photographies montrant des marques de griffures sur le bras et sur le crâne n'était à cet égard pas suffisante, car rien ne permettait de les imputer à son épouse. Du reste cette dernière s'était elle-même plainte de menaces de la part du recourant, parce qu'elle se refusait à lui. Devant le Tribunal fédéral, le recourant se contente d'affirmer avoir subi des violences conjugales, perdant de vue les constatations de fait cantonales retenant l'inverse, ce qui n'est pas admissible (cf. supra consid. 3). Au demeurant, même si ses allégations étaient prises en compte, on ne voit pas que les violences invoquées aient l'intensité propre à justifier l'existence de raisons personnelles majeures au sens de l'art. 50 al. 2 LEtr.
4.2.2 En ce qui concerne la réintégration sociale du recourant dans son pays d'origine, elle ne peut non plus être considérée comme fortement compromise. Le recourant est arrivé en Suisse il y a cinq ans. Hormis un frère qui habite en Suisse, l'ensemble de sa famille demeure au Kosovo, pays dont il partage la langue et la culture. Il est en bonne santé et n'a pas d'attaches particulières en Suisse.
Le recourant prétend certes que sa vie serait en danger s'il devait retourner au Kosovo en raison de l'échec de son mariage qui serait ressenti négativement par ses beaux-parents, ce qui les amènerait à des mesures de représailles à son égard et à celui de son entourage. Il est tout à fait possible, ainsi que l'a retenu le Tribunal cantonal, que les beaux-parents du recourant aient réagi négativement à la séparation des époux et qu'ils aient cherché à l'empêcher. Mais les éléments fournis par le recourant ne permettent guère d'étayer la thèse d'un complot mortel ourdi contre lui par sa belle-famille en raison de la séparation du couple. Le Tribunal cantonal en veut pour preuve, et on ne peut que le suivre dans ce raisonnement, que le recourant a séjourné récemment au Kosovo, ce qu'il n'aurait certainement pas fait si sa vie était menacée. Dans ces conditions, on n'est pas non plus en présence de raisons personnelles majeures au sens de l'art. 50 al. 2 LEtr sous ce motif.
5. Aucune des conditions de l'art. 50 al. 1 LEtr n'est ainsi remplie. Le recours en matière de droit public doit par conséquent être rejeté.
Succombant, le recourant doit supporter les frais judiciaires (art. 66 aI. 1 LTF) et n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué à la mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 4 octobre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti