Sachverhalt:
A. Der aus dem Kosovo stammende X._ (geb. 1981) erhielt 1994 im Rahmen des Familiennachzuges zu seinen Eltern die Niederlassungsbewilligung. Im Jahre 2000 kehrte er in sein Heimatland zurück, um dort zu arbeiten. Damit verzichtete er auf seine Niederlassungsbewilligung. Ende November 2005 heiratete X._ die Schweizer Bürgerin Y._, worauf ihm der Kanton Luzern eine Aufenthaltsbewilligung erteilte. Im November 2007 verwarnte das Amt für Migration des Kantons Luzern X._. Seit November 2009 leben die Eheleute getrennt. Aus der Ehe gingen keine Kinder hervor.
Am 18. Januar 2010 stellte X._ ein Gesuch um Verlängerung der Aufenthaltsbewilligung, welches das Amt für Migration mit Verfügung vom 18. Januar 2011 ablehnte. Die dagegen erhobenen Rechtsmittel wurden vom Justiz- und Sicherheitsdepartement des Kantons Luzern am 5. November 2010 und vom Verwaltungsgericht des Kantons Luzern am 8. Juli 2011 abgewiesen.
B. Mit Beschwerde an das Bundesgericht vom 5. September 2011 beantragt X._, das Urteil des Verwaltungsgerichts aufzuheben und den Aufenthalt zu bewilligen bzw. die Aufenthaltsbewilligung zu verlängern.
Das Verwaltungsgericht des Kantons Luzern und das Bundesamt für Migration beantragen die Abweisung der Beschwerde. Mit Eingabe vom 16. Januar 2012 hält X._ an seinen Anträgen fest.
C. Mit Verfügung vom 8. September 2011 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde hinsichtlich der Ausreiseverpflichtung antragsgemäss aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Art. 83 lit. c Ziff. 2 BGG schliesst die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide über ausländerrechtliche Bewilligungen aus, auf deren Erteilung weder nach dem Bundes- noch dem Völkerrecht ein Rechtsanspruch besteht. Entgegen den Ausführungen des Beschwerdeführers geht es vorliegend nicht um eine (altrechtliche) Ausweisung sondern um die Verlängerung bzw. Nichtverlängerung der Aufenthaltsbewilligung. Der ausländische Ehegatte einer Schweizerin hat nach Auflösung der Ehe oder der Familiengemeinschaft u.a. dann weiterhin einen Anspruch auf Verlängerung der Aufenthaltsbewilligung, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration besteht (Art. 50 Abs. 1 lit. a des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer [AuG; SR 142.20] i.V.m. Art. 42 Abs. 1 AuG). Für das Eintreten ist einzig von Belang, ob der Beschwerdeführer eine Verletzung dieser behaupteten Rechte in vertretbarer Weise geltend macht. Ob der Rechtsanspruch besteht und, soweit dies zutrifft, im konkreten Fall auch tatsächlich verletzt wurde, ist eine Frage der materiellen Prüfung (BGE 136 II 177 E. 1.1 S. 179 f.). Auf die Beschwerde ist einzutreten.
1.2 Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dabei prüft es, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), an sich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 135 II 384 E. 2.2.1 S. 389). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht prüft es hingegen nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
2. 2.1 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, wie die Vorinstanz ihn festgestellt hat (Art. 105 Abs. 1 BGG). Es kann diesen bloss berichtigen oder ergänzen, falls er offensichtlich unrichtig oder in Verletzung wesentlicher Verfahrensrechte ermittelt worden ist (Art. 105 Abs. 2 BGG). Der Betroffene muss dartun, dass und inwiefern der festgestellte Sachverhalt in einem entscheidwesentlichen Punkt klar und eindeutig mangelhaft erscheint (vgl. Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.3 S. 254 f.; 133 III 350 E. 1.3 S. 351, 393 E. 7.1 S. 398, 462 E. 2.4 S. 466). Auf rein appellatorische Kritik an der Sachverhaltsermittlung oder der Beweiswürdigung tritt das Bundesgericht nicht ein (BGE 136 II 101 E. 3 S. 104 f.).
2.2 Der Beschwerdeführer rügt eine unrichtige und unvollständige Feststellung des rechtserheblichen Sachverhalts. Er reicht in diesem Zusammenhang neu eine Bestätigung seiner Ehefrau und weitere Unterlagen ein.
Gemäss Art. 99 Abs. 1 BGG dürfen neue Tatsachen und Beweismittel nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt. Diese Voraussetzungen sind vorliegend nicht gegeben. Der Umstand, dass der Beschwerdeführer insgesamt 66-mal betrieben wurde, ist bereits im Entscheid des Justiz- und Sicherheitsdepartementes enthalten. Hat der Beschwerdeführer - wie von ihm behauptet - seiner Ehefrau effektiv Geld zur Begleichung der Schulden übergeben und ist er trotzdem in der Folge betrieben worden, so hätte für den Beschwerdeführer spätestens nach dem genannten Entscheid Anlass bestanden, abzuklären, wie das angeblich übergebene Geld verwendet wurde. Gleich verhält es sich mit der Situation im Kosovo, zu welcher der Beschwerdeführer eine zusätzliche Eingabe gemacht hat. Was sodann die weiteren Vorbringen des Beschwerdeführers in Bezug auf seine Integration und seine wirtschaftliche Situation anbelangt, berühren diese nicht die Feststellung des Sachverhaltes, sondern dessen rechtliche Würdigung.
3. 3.1 Gemäss Art. 42 Abs. 1 AuG hat der ausländische Ehegatte einer Schweizerin Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie zusammenwohnen. Nach Auflösung der Ehe oder der Familiengemeinschaft hat der ausländische Ehegatte - wie erwähnt - gemäss Art. 50 Abs. 1 AuG weiterhin einen Anspruch auf Verlängerung der Aufenthaltsbewilligung nach Art. 42 AuG, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration gegeben ist (lit. a) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (lit. b).
3.2 Der Beschwerdeführer lebt gemäss eigenen Ausführungen seit November 2009 faktisch getrennt von seiner Ehefrau. Er beruft sich zu Recht nicht auf Art. 42 Abs. 1 AuG, macht jedoch geltend, er habe gestützt auf Art. 50 Abs. 1 lit. a AuG Anspruch auf Verlängerung der Aufenthaltsbewilligung.
Es ist unbestritten, dass die Ehegemeinschaft vorliegend länger als drei Jahre bestand. Die Vorinstanz hat jedoch eine Verlängerung der Aufenthaltsbewilligung mangels erfolgreicher Integration des Beschwerdeführers abgelehnt.
3.2.1 Die Integration soll längerfristig und rechtmässig anwesenden Ausländerinnen und Ausländern ermöglichen, am wirtschaftlichen, sozialen und kulturellen Leben der Gesellschaft teilzuhaben (Art. 4 Abs. 2 AuG; vgl. BGE 134 II 1 E. 4.1 S. 4 f.). Nach Art. 77 Abs. 4 der Verordnung vom 24. Oktober 2007 über Zulassung, Aufenthalt und Erwerbstätigkeit (VZAE; SR 142.201) liegt eine erfolgreiche Integration nach Art. 50 Abs. 1 lit. a AuG vor, wenn die Ausländerin oder der Ausländer namentlich die rechtsstaatliche Ordnung und die Werte der Bundesverfassung respektiert (lit. a) sowie den Willen zur Teilnahme am Wirtschaftsleben und zum Erwerb der am Wohnort gesprochenen Landessprache bekundet (lit. b). Nach Art. 4 der Verordnung vom 24. Oktober 2007 über die Integration von Ausländerinnen und Ausländern (VintA; SR 142.205) zeigt sich der Beitrag der Ausländerinnen und Ausländer zu ihrer Integration namentlich in der Respektierung der rechtsstaatlichen Ordnung und der Werte der Bundesverfassung (lit. a), im Erlernen der am Wohnort gesprochenen Landessprache (lit. b), in der Auseinandersetzung mit den Lebensbedingungen in der Schweiz (lit. c) sowie im Willen zur Teilnahme am Wirtschaftsleben und zum Erwerb von Bildung (lit. d). Das Bundesgericht hat festgehalten, dass das Adverb "namentlich", welches sowohl in Art. 77 Abs. 4 VZAE wie auch in Art. 4 VintA verwendet wird, auf den nicht ausschliesslichen Charakter der in diesen Bestimmungen aufgezählten Kriterien hinweist. Bei der Prüfung der Integrationskriterien verfügen die zuständigen Behörden über einen grossen Ermessensspielraum, in welchen das Bundesgericht nur zurückhaltend eingreift (vgl. Art. 54 Abs. 2 und 96 Abs. 1 AuG; vgl. zum Ganzen Urteil 2C_749/2011 vom 20. Januar 2012 E. 3.2 mit Hinweisen).
3.2.2 Das Verwaltungsgericht führt aus, der Beschwerdeführer sei mit Verfügung vom 14. Dezember 2007 unter Hinweis auf zwölf Strafverfügungen (vor allem Übertretungen im Bereich des Schweizerischen Strassenverkehrsgesetzes mit verhältnismässig geringen Bussen) und 41 Betreibungen im Betrag von Fr. 45'277.90 verwarnt worden. Nach der fremdenpolizeilichen Verwarnung hätten gegenüber dem Beschwerdeführer nochmals sechs Verurteilungen ausgesprochen werden müssen wegen eher geringfügiger Verfehlungen wiederum vorwiegend im Bereich der Strassenverkehrsgesetzgebung und wegen Ungehorsams im Betreibungs- und Konkursverfahren. Zwar habe es sich dabei fast ausnahmslos um Bagatelldelikte gehandelt. Der Hinweis des Beschwerdegegners, er habe bloss wegen finanzieller Probleme die Bussen nicht rechtzeitig bezahlen können und nur deswegen seien Strafverfügungen ausgesprochen worden, weshalb nicht von mangelndem Respekt der schweizerischen Rechtsordnung gesprochen werden könne, zeuge von einem bedenklichen Rechtsverständnis und belege, zumindest im Zusammenhang mit der Vielzahl der seit der Rückkehr in die Schweiz begangenen Delikte, klarerweise eine nicht erfolgreiche Integration in strafrechtlicher Hinsicht, zumal bereits eine Verwarnung ausgesprochen worden sei.
Bezüglich der wirtschaftlichen Situation des Beschwerdeführers hielt das Verwaltungsgericht fest, über den Beschwerdeführer, der seit Frühjahr 2006 als Selbständigerwerbender einen Coiffeursalon betrieb, sei am 28. August 2008 der Konkurs eröffnet worden und dieser sei am 2. März 2010 geschlossen worden. Diese Tatsache lasse nicht auf einen erfolgreichen Start seit seiner Rückkehr in die Schweiz in wirtschaftlicher Hinsicht schliessen. Das Verwaltungsgericht attestiert dem Beschwerdeführer indessen, dass er sich mit der Gründung des Reinigungsunternehmens A._ im Jahre 2008 wirtschaftlich gefestigt zu haben scheine. Weiter stellt es fest, die Verwarnung vom 14. Dezember 2007 habe ihre Wirkung in dieser Hinsicht nicht verfehlt. Unter diesen Umständen würde sich aber als unverhältnismässig erweisen, die finanzielle Situation des Beschwerdeführers als gegen dessen erfolgreiche Integration sprechendes Indiz zu werten.
3.2.3 Die Vorinstanz verneint die erfolgreiche Integration allerdings im Wesentlichen gestützt auf die Straffälligkeit des Beschwerdeführers. Diesbezüglich hält jedoch das Verwaltungsgericht selber fest, es habe sich fast ausnahmslos um Bagatelldelikte gehandelt und führt sechs Verurteilungen wegen solcher Delikte auf. Aufgrund der Art und Anzahl der Delikte kann nicht von erheblicher Straffälligkeit gesprochen werden. Der vorinstanzliche Vorwurf, was der Beschwerdeführer hinsichtlich der Bussen vorbringe, zeuge von einem bedenklichen Rechtsverständnis, rechtfertigt sich zudem nicht. Den Ausführungen des Beschwerdeführers im vorinstanzlichen Beschwerdeverfahren lässt sich in diesem Zusammenhang lediglich entnehmen, dass nur deshalb Strafverfügungen gegen ihn erlassen worden seien, weil er aufgrund finanzieller Probleme die Bussen nicht habe bezahlen können. Er verweist damit bloss auf die gesetzliche Regelung, wonach derartige Übertretungen im Normalfall im Ordnungsbussenverfahren erledigt werden, ohne dass die Verfehlungen aktenkundig würden. Auch wenn der Beschwerdeführer sich nicht völlig straffrei verhielt, erscheint der Schluss der Vorinstanz, aufgrund dieser Bagatelldelikte sei das Erfordernis der erfolgreichen Integration als nicht erfüllt zu betrachten, als unverhältnismässig.
3.2.4 Der inzwischen 30-jährige Beschwerdeführer erhielt im Alter von 13 Jahren die Niederlassungsbewilligung (1994-2000) und lebte im Zeitpunkt des vorinstanzlichen Entscheids insgesamt 11 Jahre in der Schweiz. Zu berücksichtigen ist insbesondere, dass er die prägenden Jugendjahre in der Schweiz verbracht, hier eine Anlehre als Coiffeur erfolgreich absolviert und Schweizer Freunde hat. Die Vorinstanz beachtete sodann nicht gebührend, dass der Beschwerdeführer unbestrittenermassen deutsch spricht und hier gemäss seinen Angaben erfolgreich ein Reinigungsunternehmen führt. Die vom Beschwerdeführer vor der Vorinstanz aufgelegten Abschlüsse dieses Reinigungsunternehmens - deren Beweiskraft angesichts der unklaren Abschlussdaten allerdings nicht ohne Weiteres ersichtlich ist und die zu zusätzlichen Abklärungen Anlass geben könnten - wurden von der Vorinstanz nicht näher gewürdigt. Aufgrund der Sachverhaltsfeststellungen des Verwaltungsgerichts lässt sich damit nicht beurteilen, inwieweit der Beschwerdeführer insbesondere mit Blick auf die Teilnahme am Wirtschaftsleben erfolgreich integriert ist. Diesbezüglich erscheinen zusätzliche tatsächliche Abklärungen als notwendig.
4. Die Beschwerde erweist sich damit als begründet und ist gutzuheissen. Der angefochtenen Entscheid ist aufzuheben und die Sache in Anwendung von Art. 107 Abs. 2 BGG an die Vorinstanz zur Vornahme zusätzlicher Sachverhaltsabklärungen und zur neuen Entscheidung zurückzuweisen. Bei diesem Verfahrensausgang sind keine Kosten zu auferlegen (vgl. Art. 66 Abs. 1 und 4 BGG). Der Kanton Luzern hat den Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und das Urteil des Verwaltungsgerichts des Kantons Luzern vom 8. Juli 2011 aufgehoben. Die Sache wird zu neuer Entscheidung im Sinne der Erwägungen an das Verwaltungsgericht zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Der Kanton Luzern hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration des Kantons Luzern, dem Justiz- und Sicherheitsdepartement des Kantons Luzern, dem Verwaltungsgericht des Kantons Luzern, Verwaltungsrechtliche Abteilung, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 23. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Dubs