Faits:
A. AX._, né en 1980, ressortissant du Kosovo, est entré en Suisse le 21 juillet 2002. Il a déposé une demande d'asile dans le canton de Fribourg qui a été définitivement rejetée le 10 septembre 2002.
Le 18 septembre 2002, il s'est marié avec BX._, de nationalité suisse, laquelle avait déjà un enfant d'un premier lit. Le même jour, AX._ a déclaré son arrivée dans le canton de Vaud. Une autorisation de séjour lui a été octroyée du fait de son mariage avec une ressortissante suisse. Dès le 5 juin 2003, il a été autorisé à travailler en qualité d'aide-maçon auprès d'une société à P._. Le 1er janvier 2004, les époux X._ se sont séparés.
B. A la requête du Service de la population du canton de Vaud (ci-après: le Service de la population), qui devait se déterminer sur la prolongation de l'autorisation de séjour de AX._, le Contrôle des habitants de la commune de O._ a posé différentes questions aux époux X._ par courrier du 15 février 2005. Ils ont répondu que, malgré leur séparation, ils se voyaient toujours, précisant qu'ils étaient amis. A la question de savoir pourquoi ils ne divorçaient pas, ils ont répondu qu'ils préféraient "rester comme ça", AX._ tenait à garder son permis B ce que son épouse approuvait. Le Service de la population a alors renouvelé l'autorisation de séjour de AX._ pour une durée de six mois, soit jusqu'au 19 octobre 2005.
Le 20 octobre 2005, l'autorisation de séjour de AX._ a été prolongée jusqu'au 17 septembre 2006. Depuis le 7 août 2006, celui-ci travaille en qualité d'aide-maçon auprès d'une société de O._. Il réalise un revenu brut mensuel de 4'701 fr.
Dans le cadre d'une nouvelle demande de prolongation de son autorisation de séjour, AX._, dans une lettre du 2 mai 2007, a fait savoir au Service cantonal de la population qu'il n'avait pas repris la vie commune avec son épouse depuis leur séparation et qu'ils étaient désormais bons amis. Il a précisé que son épouse souffrait de sclérose en plaques et qu'elle ne voulait ainsi plus d'enfants. Il a ajouté espérer pouvoir fonder une famille avec "une femme prête à cela" en Suisse, s'y sentant bien et intégré.
Le Service de la population a refusé la prolongation de l'autorisation de AX._ le 1er octobre 2007. Un délai d'un mois dès la notification de la décision lui a été imparti pour quitter le territoire suisse.
C. Par arrêt du 7 avril 2008, le Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours de AX._. Il a en substance estimé que le lien conjugal était définitivement rompu et qu'il n'existait plus de perspective de reprise de la vie commune. Dès lors, invoquer ce mariage afin d'obtenir la prolongation de son autorisation de séjour constituait un abus de droit. En outre, les conditions légales pour octroyer à AX._ une autorisation de séjour malgré sa situation matrimoniale n'étaient pas remplies.
D. Agissant par la voie du recours de droit administratif, subsidiairement par celle du recours de droit public, AX._ demande au Tribunal fédéral d'annuler l'arrêt du 7 avril 2008 du Tribunal cantonal, et de lui accorder une autorisation de séjour, subsidiairement, de renvoyer la cause à l'autorité inférieure pour une nouvelle décision dans le sens des considérants. Il invoque une mauvaise appréciation des faits manifeste par le Tribunal cantonal. De plus, il demande que l'effet suspensif soit octroyé au présent recours.
Il n'a pas été requis d'observations.

Considérant en droit:
1. La loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20) est entrée en vigueur le 1er janvier 2008 (RO 2007 5487). En vertu de l'art. 126 al. 1 LEtr, les demandes déposées avant l'entrée en vigueur de la loi sont régies par l'ancien droit. Tel est le cas de la demande de prolongation de l'autorisation de séjour du recourant, laquelle doit donc être examinée à la lumière de l'ancienne loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; en vigueur jusqu'au 31 décembre 2007).
2. 2.1 Le recourant a formé un recours de droit administratif. Cette voie de droit n'existe cependant plus depuis l'entrée en vigueur, le 1er janvier 2007, de la loi du 17 juin 2005 sur le Tribunal fédéral (LTF; RS 173.110). Cette méprise ne doit néanmoins pas être préjudiciable au recourant si les conditions de recevabilité du recours qui aurait dû être interjeté sont réunies (cf. <ref-ruling> consid. 1.3 p. 296; <ref-ruling> consid. 1b p. 509 in fine et les arrêts cités). Il convient dès lors d'examiner si, nonobstant son intitulé, le recours est recevable comme recours en matière de droit public au sens des art. 82 ss LTF.
2.2 En tant que la décision attaquée concerne une autorisation de séjour, elle est fondée sur le droit public fédéral, de sorte que la voie du recours en matière de droit public est en principe ouverte en vertu de l'art. 82 LTF.
Toutefois, selon l'art. 83 lettre c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
En vertu de l'art. 7 al. 1 LSEE, le conjoint étranger d'un ressortissant suisse a droit à l'octroi et à la prolongation de l'autorisation de séjour. Pour juger de la recevabilité du recours en matière de droit public, seule est déterminante la question de savoir si un mariage au sens formel existe (cf. <ref-ruling> consid. 1b p. 266 s'agissant du recours de droit administratif au sens des art. 97 ss de l'ancienne loi fédérale d'organisation judiciaire du 16 décembre 1943 [OJ; en vigueur jusqu'au 31 décembre 2006]). Le recourant est marié à une Suissesse. Son recours est donc recevable sous cet angle.
2.3 Au surplus, interjeté par une partie directement touchée par la décision attaquée et qui a un intérêt digne de protection à son annulation ou sa modification (art. 89 al. 1 LTF), dirigé contre un jugement rendu par une autorité cantonale de dernière instance (art. 86 al. 1 lettre d LTF) et déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi, le recours en matière de droit public est recevable.
2.4 Dans la mesure où le recourant entendait, par son "recours de droit public", introduire un recours constitutionnel subsidiaire (art. 116 LTF), celui-ci est irrecevable, du moment qu'une autre voie de droit est ouverte au recourant (art. 113 LTF).
3. 3.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente, il doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (cf. art. 97 al. 1 LTF). A défaut, un état de fait divergent de celui de la décision attaquée ne peut être pris en compte.
3.2 Selon le recourant, le Tribunal cantonal aurait procédé à une constatation des faits inexacte en retenant que celui-ci se prévaut abusivement de son mariage afin d'obtenir la prolongation de son autorisation de séjour. L'intéressé ne prétend toutefois pas que ledit Tribunal se serait basé sur des faits erronés ou établis en violation du droit. Dans ce grief, il tente de remettre en question la qualification et l'appréciation juridique de certains faits et soulève ainsi une question de droit que le Tribunal fédéral examine librement (<ref-ruling> consid. 3 p. 184 et l'arrêt cité). La Cour de céans est par conséquent liée par les faits constatés souverainement par le Tribunal cantonal (art. 105 al. 1 LTF).
4. 4.1 Selon l'art. 7 al. 1 LSEE, le conjoint étranger d'un ressortissant suisse a droit à l'octroi et à la prolongation de l'autorisation de séjour; après un séjour régulier et ininterrompu de cinq ans, il a droit à l'autorisation d'établissement; ce droit s'éteint lorsqu'il existe un motif d'expulsion. Quant à l'art. 7 al. 2 LSEE, il prévoit que le conjoint étranger d'un ressortissant suisse n'a pas droit à l'octroi ou à la prolongation de l'autorisation de séjour, lorsque le mariage a été contracté dans le but d'éluder les dispositions sur le séjour et l'établissement des étrangers et notamment celles sur la limitation du nombre des étrangers. D'après la jurisprudence, le fait d'invoquer l'art. 7 al. 1 LSEE peut être constitutif d'un abus de droit, en l'absence même d'un mariage contracté dans le but d'éluder les dispositions sur le séjour et l'établissement des étrangers au sens de l'art. 7 al. 2 LSEE (<ref-ruling> consid. 4.2 p. 117; <ref-ruling> consid. 5a p. 56 et la jurisprudence citée).
L'existence d'un abus de droit découlant du fait de se prévaloir de l'art. 7 al. 1 LSEE ne peut être simplement déduit de ce que les époux ne vivent plus ensemble, puisque le législateur a volontairement renoncé à faire dépendre le droit à une autorisation de séjour de la vie commune (cf. <ref-ruling> consid. 3 p. 149 ss). Pour admettre l'existence d'un abus de droit, il ne suffit pas non plus qu'une procédure de divorce soit entamée; le droit à l'octroi ou à la prolongation d'une autorisation de séjour subsiste en effet tant que le divorce n'a pas été prononcé, car les droits du conjoint étranger ne doivent pas être compromis dans le cadre d'une telle procédure. Enfin, on ne saurait uniquement reprocher à des époux de vivre séparés et de ne pas envisager le divorce. Toutefois, il y a abus de droit lorsque le conjoint étranger invoque un mariage n'existant plus que formellement dans le seul but d'obtenir une autorisation de séjour, car ce but n'est pas protégé par l'art. 7 al. 1 LSEE. Le mariage n'existe plus que formellement lorsque l'union conjugale est rompue définitivement, c'est-à-dire lorsqu'il n'y a plus d'espoir de réconciliation; les causes et les motifs de la rupture ne jouent pas de rôle (<ref-ruling> consid. 4.2 p. 267; <ref-ruling> consid. 4.2 p. 117 et les arrêts cités).
4.2 Le recourant et BX._ se sont mariés le 18 septembre 2002. Ils se sont séparés le 1er janvier 2004 et n'ont depuis jamais repris la vie commune. En 2005, ils avaient laissé entendre qu'ils ne divorçaient pas car le recourant tenait à garder son permis B ce que son épouse approuvait. L'intéressé ne nie pas que le mariage n'existe plus que formellement puisque, dans un courrier du 2 mai 2007 au Service de la population, il précise être resté en bons termes avec sa femme malgré leur séparation et mentionne vouloir fonder une famille en Suisse "avec une femme prête à cela". Il ne prétend donc plus vouloir reprendre la vie commune avec BX._. Celle-ci a d'ailleurs affirmé, dans un courrier du 16 octobre 2007, qu'il n'était plus question de fonder une famille avec le recourant ou d'envisager de vivre à nouveau avec lui. Dans ces conditions, il est évident qu'il n'y a plus d'espoir de reconciliation entre le recourant et BX._.
Au vu de ce qui précède, l'union conjugale est définitivement rompue. En s'en prévalant pour obtenir une autorisation de séjour, le recourant commet un abus de droit.
5. Le recourant se prévaut du chiffre 654 des directives et commentaires; entrée, séjour et marché du travail (Directives LSEE) de l'Office fédéral des migrations selon lesquels l'autorisation de séjour peut être prolongée, à certaines conditions, même en cas de dissolution du mariage ou de la communauté conjugale. La délivrance d'une telle autorisation est laissée à la libre appréciation de l'autorité (cf. art. 4 LSEE).
Le recourant ne peut donc tirer aucun droit de ces directives et son grief est dès lors irrecevable (art. 83 lettre c ch. 2 LTF; cf. arrêt 2C_758/2007 du 10 mars 2008 consid. 6).
6. Vu ce qui précède, le recours doit être rejeté dans la mesure où il est recevable selon la procédure simplifiée de l'art. 109 LTF.
Avec le présent arrêt, la requête d'effet suspensif devient sans objet.
Succombant, le recourant doit supporter les frais judiciaires (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au représentant du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud.
Lausanne, le 19 juin 2008
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
T. Merkli E. Kurtoglu-Jolidon