Faits:
A. X._, ressortissant kosovar né en 1961, a été condamné le 12 septembre 1995 par le Tribunal du district de Y._ (Allemagne) à neuf ans et six mois de réclusion pour trafic de stupéfiants en bande et port d'arme illégal. Le 8 juillet 1999, l'intéressé n'étant pas rentré d'un congé accordé dans le cadre de l'exécution de sa peine, ledit Tribunal a émis un mandat d'arrêt.
Le 15 janvier 2001, X._ a été interpellé par la gendarmerie dans le cadre d'un contrôle sur un chantier dans le canton de Vaud. Lors de son audition du même jour, il a allégué avoir quitté son pays d'origine en septembre 1988 pour Fribourg et avoir bénéficié ensuite de trois autorisations de séjour et de travail temporaires d'une durée respective de trois mois et de deux fois quatre mois. Il a ajouté qu'il serait retourné au Kosovo en "décembre 1991" et revenu illégalement en Suisse le 14 janvier 2001. Il a précisé n'avoir "jamais été condamné ni en Suisse ni ailleurs".
Sur la base du mandat d'arrêt susmentionné, l'Office fédéral de la justice a émis, le 23 avril 2003, une ordonnance d'arrestation provisoire en vue d'extradition à l'encontre de X._. Le 24 avril 2003, celui-ci a été interpellé par la police à Fribourg et remis le 28 avril 2003 aux autorités allemandes. Par décision du 21 octobre 2003, l'Office fédéral des migrations a prononcé à l'égard de l'intéressé une décision d'interdiction d'entrée en Suisse d'une durée indéterminée en raison de son comportement qui avait donné lieu à des plaintes et parce que son retour en Suisse était indésirable pour des motifs préventifs de police.
Lors d'un contrôle de circulation à Fribourg le 7 février 2005, X._ a pris la fuite au volant d'un véhicule et a causé un accident, avant d'être interpellé par la police. Auditionné, il a allégué avoir été relâché de prison en 2004 par les autorités allemandes et renvoyé à Pristina, avant de revenir illégalement en Suisse le 3 février 2005. Le 7 février 2005, le Service de la population et des migrants du canton de Fribourg a rendu une décision de refoulement à l'encontre de X._ et lui a notifié la décision d'interdiction d'entrée en Suisse du 21 octobre 2003 à l'encontre de laquelle l'intéressé a formé un recours. La cause a été rayée du rôle par décision du 6 avril 2005 du Département fédéral de justice et police. Par ordonnance du 21 avril 2005, le juge d'instruction du canton de Fribourg a condamné X._ par défaut à 40 jours d'emprisonnement avec sursis durant deux ans et à une amende de 800 fr. pour opposition aux actes de l'autorité, violation des règles de la circulation, conduite en état d'ébriété, opposition à une prise de sang, violation des devoirs en cas d'accident, vol d'usage et séjour illégal.
Le 27 avril 2005, X._ a été interpellé sur un chantier dans le canton de Vaud. Une carte de sortie lui a alors été délivrée avec un délai au 29 avril suivant pour quitter le territoire suisse.
L'intéressé s'est marié le 20 décembre 2005 avec une ressortissante suisse auprès de l'état civil de Z._. Le 29 décembre 2005, il a déposé une demande d'autorisation de séjour devant l'Office du séjour et de l'établissement du canton de Neuchâtel. Cet Office a transmis le dossier, en date du 7 février 2006, à l'Office fédéral des migrations en l'informant qu'il était disposé à délivrer une autorisation de séjour à l'intéressé et en le priant de bien vouloir lever la mesure d'interdiction d'entrée en Suisse.
Par décision du 27 septembre 2006, l'Office fédéral des migrations a refusé de donner son approbation à l'octroi d'une autorisation de séjour à X._ et a prononcé son renvoi de Suisse.
B. Par arrêt du 23 octobre 2008, le Tribunal administratif fédéral a rejeté le recours de X._ en tant qu'il concernait le refus d'approbation d'octroi d'une autorisation de séjour et le renvoi de Suisse. Il a considéré que l'autorité précédente avait refusé à juste titre son approbation à l'octroi d'une autorisation de séjour à l'intéressé. Se référant aux antécédents pénaux de X._, il a estimé, d'une part, que l'intérêt public à l'éloigner l'emportait sur son intérêt privé à rester en Suisse et que, d'autre part, le principe de la proportionnalité était respecté. C'était, en outre, à bon droit que le renvoi de Suisse de l'intéressé avait été prononcé. Le recours a par contre été partiellement admis en tant qu'il avait trait au réexamen de la décision d'interdiction d'entrée en Suisse. En effet, le Tribunal administratif fédéral a jugé qu'une interdiction d'entrée en Suisse de durée indéterminée était contraire au principe de la proportionnalité et il l'a ramenée à une durée limitée au 20 octobre 2013.
C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 23 octobre 2008 du Tribunal administratif fédéral, de lui octroyer une autorisation de séjour, de lever l'interdiction d'entrée en Suisse; subsidiairement, de renvoyer la cause à l'autorité inférieure pour un nouveau jugement dans le sens des considérants et de réduire la durée d'interdiction d'entrée en Suisse lui ayant été imposée. Le recourant se plaint de la violation des art. 7 LSEE et 8 CEDH. Il estime que le Tribunal administratif fédéral a violé le principe de proportionnalité et, en ne tenant pas compte, dans la pesée des intérêts, de certains éléments, a abusé de son pouvoir d'appréciation.
L'Office fédéral des migrations conclut au rejet du recours. Le Tribunal administratif fédéral renonce à prendre position, tout en concluant à l'irrecevabilité du recours en tant qu'il porte sur l'interdiction d'entrée en Suisse.
D. Par ordonnance du 4 décembre 2008, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la demande d'effet suspensif.

Considérant en droit:
1. La loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20) est entrée en vigueur le 1er janvier 2008 (RO 2007 5487). En vertu de l'art. 126 al. 1 LEtr, les demandes déposées avant l'entrée en vigueur de la loi sont régies par l'ancien droit. La demande d'autorisation de séjour déposée le 29 décembre 2005 doit donc être examinée à la lumière de l'ancienne loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; en vigueur jusqu'au 31 décembre 2007).
2. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1.1 p. 3).
2.1 L'art. 83 let. c ch. 1 LTF prévoit que le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent l'entrée en Suisse. Dès lors, en tant qu'il porte sur l'interdiction d'entrée en Suisse prononcée à l'encontre de l'intéressé, le recours est irrecevable. L'autorité de dernière instance étant une autorité judiciaire fédérale, le recours constitutionnel subsidiaire est également exclu (cf. <ref-law> a contrario).
2.2 Selon l'art. 83 lettre c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
En vertu de l'art. 7 al. 1 LSEE, le conjoint étranger d'un ressortissant suisse a droit à l'octroi et à la prolongation de l'autorisation de séjour. Pour juger de la recevabilité du recours en matière de droit public, seule est déterminante la question de savoir si un mariage au sens formel existe (arrêt 2C_117/2008 du 17 avril 2008 consid. 3.1; <ref-ruling> consid. 1.1.2 p. 148). Le recourant est marié à une Suissesse. Son recours est donc recevable sous cet angle.
2.3 Au surplus, interjeté par une partie directement touchée par la décision attaquée et qui a un intérêt digne de protection à son annulation ou sa modification (<ref-law>), dirigé contre un jugement final rendu par le Tribunal administratif fédéral (<ref-law>) et déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi, le recours en matière de droit public est recevable.
3. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral, qui comprend les droits de nature constitutionnelle (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>).
4. 4.1 Selon l'art. 7 al. 1 LSEE, le conjoint étranger d'un ressortissant suisse a droit à l'octroi et à la prolongation de l'autorisation de séjour. Après un séjour régulier et ininterrompu de cinq ans, il a droit à une autorisation d'établissement. Ce droit s'éteint lorsqu'il existe un motif d'expulsion.
Selon l'art. 10 al. 1 LSEE, l'étranger peut être expulsé de Suisse notamment s'il a été condamné par une autorité judiciaire pour crime ou délit (lettre a) ou si sa conduite, dans son ensemble, et ses actes permettent de conclure qu'il ne veut pas s'adapter à l'ordre établi dans le pays qui lui offre l'hospitalité ou qu'il n'en est pas capable (lettre b). Le refus d'octroyer une autorisation de séjour en cas de motif d'expulsion suppose toutefois une pesée des intérêts en présence, ainsi que l'examen de la proportionnalité de la mesure (cf. art. 11 al. 3 LSEE; <ref-ruling> consid. 3.3.4 p. 182; <ref-ruling> consid. 4a p. 12 s.).
De même, le droit au respect de la vie privée et familiale garanti par l'art. 8 par. 1 CEDH n'est pas absolu. Une ingérence dans l'exercice de ce droit est possible selon l'art. 8 par. 2 CEDH, pour autant qu'elle soit prévue par la loi et qu'elle constitue une mesure qui, dans une société démocratique, est nécessaire à la sécurité nationale, à la sûreté publique, au bien-être économique du pays, à la défense de l'ordre et à la prévention des infractions pénales, à la protection de la santé ou de la morale, ou à la protection des droits et libertés d'autrui. Il y a donc également lieu de procéder à une pesée des intérêts en présence sous cet angle (cf. <ref-ruling> consid. 4.1 p. 22/23; <ref-ruling> consid. 5 p. 529).
4.2 Pour apprécier ce qui est équitable, l'autorité tiendra notamment compte de la gravité de la faute commise par l'étranger, de la durée de son séjour en Suisse et du préjudice qu'il aurait à subir avec sa famille du fait de l'expulsion (cf. art. 16 al. 3 du règlement d'exécution de la loi sur le séjour et l'établissement des étrangers, du 1er mars 1949 [RSEE; en vigueur jusqu'au 31 décembre 2007; RO 1949 p. 243]). Lorsque le motif de l'expulsion est la commission d'un délit ou d'un crime, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à peser les intérêts. Une condamnation à deux ans de privation de liberté constitue la limite à partir de laquelle, en général, il y a lieu de refuser une autorisation de séjour du conjoint étranger d'un ressortissant suisse, du moins quand il s'agit d'une demande d'autorisation initiale ou d'une requête de prolongation déposée après un séjour de courte durée (<ref-ruling> consid. 4.3 p. 23; <ref-ruling> consid. 4.1 p. 185; <ref-ruling> consid. 4b p. 14). On considère alors que l'intérêt public à l'éloignement de cet étranger est prépondérant, même lorsqu'on ne peut pas - ou difficilement - exiger de son épouse suisse qu'elle quitte sa patrie, ce qui empêche de fait les conjoints de vivre ensemble de manière ininterrompue (<ref-ruling> consid. 3e-f p. 358 ss). La durée de présence en Suisse d'un étranger constitue un autre critère important; plus la durée de ce séjour aura été longue, plus les conditions pour prononcer l'expulsion administrative doivent être appréciées restrictivement. On tiendra en outre particulièrement compte, pour apprécier la proportionnalité de la mesure, de l'intensité des liens de l'étranger avec la Suisse et des difficultés de réintégration dans son pays d'origine (cf. <ref-ruling> consid. 4.4.2 p. 190; <ref-ruling> consid. 2b p. 523 s.; <ref-ruling> consid. 2c p. 436). Toutefois, il existe un intérêt public prépondérant à expulser des étrangers qui ont, en particulier, commis des infractions graves à la loi fédérale sur les stupéfiants, même lorsque ces étrangers vivent en Suisse depuis de nombreuses années. En pareil cas, seules des circonstances exceptionnelles permettent de faire pencher la balance des intérêts en faveur de l'étranger (ATF <ref-ruling> consid. 2c p. 436).
5. 5.1 Le motif d'expulsion de l'art. 10 al. 1 lettre a LSEE est réalisé, le recourant ayant été condamné à neuf ans et six mois de réclusion en Allemagne. Il s'agit d'une condamnation qui conduit en principe au refus de l'octroi d'une autorisation de séjour au conjoint étranger d'un ressortissant suisse. Il est en effet incontestable qu'une condamnation à une peine de plus de neuf ans d'emprisonnement pour trafic de drogue implique une faute très grave. Contrairement à ce que soutient le recourant, le fait que cette peine ait été prononcée à l'étranger importe peu, même s'il s'agit d'évaluer le danger que représente celui-ci pour l'ordre public suisse (cf. arrêt 2A.597/2006 du 10 novembre 2006). A cet effet, le comportement de l'intéressé n'est pas à prendre en compte uniquement à partir du moment où il franchit la frontière de notre pays. En outre, affirmer que cette condamnation aurait été nettement moins lourde si elle avait été prononcée par une autorité judiciaire suisse, car "selon une jurisprudence bien établie, les tribunaux de notre pays accordent une importance non négligeable aux circonstances qui entourent le trafic de drogue", n'est que supputation dénuée de fondement. Les quelques éléments cités par le recourant sur les circonstances ayant entouré ce trafic ne sont, en effet, pas de nature à établir la réalité de cette allégation. Au vu de la peine, les risques de récidive doivent s'apprécier avec d'autant plus de rigueur. Or, s'il est vrai que le recourant n'a pas été condamné pour infraction à la loi sur les stupéfiants dans notre pays, il l'a par contre été, par l'ordonnance du 21 avril 2005 des autorités pénales fribourgeoises, à 40 jours d'emprisonnement, avec sursis pendant deux ans, et à une amende de 800 fr. pour opposition aux actes de l'autorité, violation des règles de la circulation, conduite en état d'ébriété, opposition à une prise de sang, violation des devoirs en cas d'accident, vol d'usage (contesté par le recourant) et séjour illégal. A ces éléments s'ajoute le fait, tel que constaté par l'arrêt attaqué, que le recourant est entré et a séjourné illégalement en Suisse à quatre reprises au moins. Il a en outre donné de fausses informations aux autorités de police quant à son casier judiciaire et son état civil. L'intéressé a finalement commis une rupture de ban, alors qu'il savait faire l'objet d'une mesure d'éloignement du territoire suisse. Le motif d'expulsion de l'art. 10 al.1 let. b LSEE est ainsi réalisé. De plus, les faits décrits ne permettent pas de porter un prognostic favorable sur son aptitude à respecter l'ordre public.
Au vu de ce qui précède, seules des circonstances exceptionnelles permettraient de faire pencher la balance des intérêts en faveur du recourant.
5.2 Le recourant estime que le Tribunal administratif fédéral n'a pas suffisamment tenu compte de son séjour en Suisse. Celui-ci n'a vécu légalement en Suisse que durant une période limitée entre 1988 et 1991 puisqu'il n'a obtenu que trois autorisations de séjour et de travail temporaires d'une durée respective de trois mois et de deux fois quatre mois, étant mentionné que les années passées dans l'illégalité ne sont pas déterminantes dans la pesée des intérêts (<ref-ruling> consid. 4.3 p. 24 et les arrêts cités). De plus, il ne séjourne dans le canton de Neuchâtel que depuis le 30 novembre 2005. La durée de son séjour en Suisse n'a ainsi rien de remarquable. En outre, selon l'arrêt attaqué, le recourant a affirmé ne maîtriser que sommairement le français. Par contre, il est vrai que l'intéressé semble s'être intégré professionnellement puisqu'il aurait créé une entreprise dans le domaine de la plâtrerie-peinture qui emploierait deux ouvriers. Toutefois, même si la création de cette société est positive et dénote une certaine volonté d'intégration, cet élément n'est pas à ce point exceptionnel qu'il suffirait à contrebalancer les éléments susmentionnés. L'expérience professionnelle acquise en tant qu'indépendant pourra, à n'en pas douter, lui être utile dans son pays. Quant à l'intégration sociale que le recourant met en avant, elle est toute relative puisque les seules relations qu'il mentionne sont celles établies dans le cadre professionnel, soit avec ses employés, des ouvriers et des clients. Il a, en revanche, de la famille au Kosovo, pays où il a grandi et qu'il n'a quitté que jeune adulte.
5.3 Finalement, l'intéressé rappelle qu'il s'agit de prendre en compte l'intérêt de son épouse à pouvoir vivre auprès de lui, étant rappelé que le couple n'a pas d'enfant. Or, selon lui, on ne peut pas demander à son épouse, au vu, notamment, de l'âge de celle-ci et de la barrière de la langue, qu'elle le rejoigne au Kosovo. Il paraît en effet difficile d'exiger de l'épouse qu'elle suive le recourant dans son pays. On ne saurait toutefois accorder un poids décisif à cet aspect, car, comme l'admet l'intéressé (recours p. 7), son épouse savait qu'il séjournait en Suisse de façon illégale. Partant, lorsque celle-ci a décidé de se marier en 2005, elle n'ignorait rien du risque de devoir faire sa vie à l'étranger ou vivre séparée de lui.
Compte tenu de l'ensemble des circonstances du cas d'espèce, en particulier de la gravité des infractions commises, l'intérêt public à éloigner le recourant de Suisse l'emporte sur l'intérêt privé de celui-ci à rester dans ce pays. Dès lors, le Tribunal administratif fédéral a respecté le droit, en particulier les art. 7, 10 LSEE et 8 CEDH, ainsi que le principe de la proportionnalité et il n'a pas abusé de son pouvoir d'appréciation en refusant l'octroi d'une autorisation de séjour au recourant.
6. Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Succombant, le recourant doit supporter les frais judiciaires (art. 65 et 66 al. 1 LTF) et n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, à l'Office fédéral des migrations et au Tribunal administratif fédéral, 3ème Cour.
Lausanne, le 24 avril 2009
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
R. Müller E. Kurtoglu-Jolidon