Sachverhalt:
A. Der kosovarische Staatsangehörige X._ (geb. 1983) reiste am 3. März 1989 zusammen mit seiner Mutter und seinen Geschwistern zu seinem Vater in die Schweiz ein und wurde im Rahmen des Familiennachzugs in die Niederlassungsbewilligung des Vaters miteinbezogen. X._ wurde mehrfach strafrechtlich verurteilt: Mit Verfügung der Jugendanwaltschaft vom 5. Oktober 1999 wurde er wegen betrügerischen Missbrauchs einer Datenverarbeitungsanlage, Urkundenfälschung sowie Betrugsversuchs zu sechs Tagen Arbeitsleistung verurteilt. Weiter verurteilte ihn das Amtsstatthalteramt Luzern mit Strafverfügung vom 6. Mai 2003 zu einer Busse von Fr. 400.-- wegen Pornografie. Mit Urteil des Obergerichts des Kantons Luzern vom 15. Dezember 2009 wurde er wegen gewerbsmässigen Betrugs, gewerbsmässigen betrügerischen Missbrauchs einer Datenverarbeitungsanlage, mehrfacher Urkundenfälschung, mehrfacher Widerhandlung gegen das Betäubungsmittelgesetz und der gewerbsmässigen Widerhandlung gegen das Heilmittelgesetz für schuldig befunden und mit einer Freiheitsstrafe von fünf Jahren und sechs Monaten bestraft, unter Anrechnung von 1'886 Tagen Freiheitsentzug (Untersuchungshaft, vorsorglicher stationärer Massnahmevollzug und vorzeitiger Strafvollzug).
B. Das Amt für Migration des Kantons Luzern widerrief aufgrund dieser Verurteilung mit Verfügung vom 6. Dezember 2010 die Niederlassungsbewilligung von X._ und wies diesen aus der Schweiz weg. Dagegen liess X._ Verwaltungsbeschwerde beim Justiz- und Sicherheitsdepartement des Kantons Luzern führen, das die Beschwerde mit Entscheid vom 10. Mai 2011 abwies. Eine daraufhin beim Verwaltungsgericht des Kantons Luzern erhobene Beschwerde wies dieses mit Urteil vom 23. August 2011 ab.
C. Mit Eingabe vom 22. September 2011 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt, das Urteil des Verwaltungsgerichts vom 23. August 2011 sei aufzuheben und die Niederlassungsbewilligung sei ihm zu belassen. Sinngemäss rügt er, der Widerruf der Niederlassungsbewilligung sei unverhältnismässig.
Das Verwaltungsgericht des Kantons Luzern und das Bundesamt für Migration beantragen die Abweisung der Beschwerde.

Erwägungen:
1. 1.1 Nach <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts unzulässig gegen Entscheide betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt. Vorliegend geht es nicht um die erstmalige Erteilung oder die Verlängerung, sondern um den Widerruf einer bereits gewährten Bewilligung. Die Beschwerde bleibt in diesem Zusammenhang zulässig, soweit die Bewilligung - wäre sie nicht widerrufen worden - nach wie vor Rechtswirkungen entfalten würde. Dies ist bei der unbefristeten Niederlassungsbewilligung der Fall (vgl. <ref-ruling> E. 1.2.1 S. 4). Die Zulässigkeit des Rechtsmittels beruht auf dem schutzwürdigen Vertrauen, dass eine einmal erteilte Bewilligung für die Dauer ihrer Gültigkeit fortbesteht und grundsätzlich nicht in die entsprechende Rechtsposition eingegriffen wird (vgl. Urteil 2C_515/2009 vom 27. Januar 2010 E. 1.1 mit Hinweisen). Als Adressat des angefochtenen, kantonal letztinstanzlichen Urteils (<ref-law>) ist der Beschwerdeführer ohne Weiteres zur Beschwerdeführung legitimiert (<ref-law>). Auf das im Übrigen form- und fristgerecht eingereichte Rechtsmittel (Art. 42 und Art. 100 Abs. 1 BGG) ist daher grundsätzlich einzutreten (unter Vorbehalt von E. 1.2 und E. 1.3 hiernach).
1.2 Das Bundesgericht legt seinem Urteil die Sachverhaltsfeststellungen der Vorinstanz zugrunde (<ref-law>). Mit einer Beschwerde in öffentlich-rechtlichen Angelegenheiten können diese nur dann gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind (<ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398) oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen. Zudem ist vom Beschwerdeführer aufzuzeigen, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
1.3 Die Beschwerdeschrift hat gemäss <ref-law> die Begehren und deren Begründung zu enthalten; im Rahmen der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (<ref-law>). Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheides auseinandersetzt (<ref-ruling> E. 2.1 S. 245 f.). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insoweit, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>).
Die beim Bundesgericht eingereichte Beschwerde unterscheidet sich nur unwesentlich von der Eingabe, welche der Beschwerdeführer vor Verwaltungsgericht eingereicht hat. Die Beschwerdebegründung setzt sich kaum mit den differenzierten Erwägungen des Verwaltungsgerichts auseinander und legt insbesondere nicht substantiiert dar, inwiefern diese Bundesrecht verletzen sollen. Es erscheint deshalb als fraglich, ob überhaupt eine formgültige Beschwerde vorliegt (<ref-ruling> E. 2.3 S. 246 f.). Die Frage kann jedoch offen bleiben, da die Beschwerde ohnehin abgewiesen werden muss.
2. 2.1 Nach Art. 63 Abs. 1 lit. a (in Verbindung mit Art. 62 lit. b) und Art. 63 Abs. 2 des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) kann die Niederlassungsbewilligung auch nach einem - wie hier - länger als 15 Jahre dauernden ununterbrochenen und ordnungsgemässen Aufenthalt in der Schweiz widerrufen werden, wenn der Ausländer zu einer längerfristigen Freiheitsstrafe verurteilt wurde. Als längerfristig gilt eine Freiheitsstrafe von mehr als einem Jahr (<ref-ruling> E. 4.2 S. 379 ff.).
2.2 Ebenso ist ein Bewilligungswiderruf gemäss Art. 63 Abs. 1 lit. b und Art. 63 Abs. 2 AuG u.a. dann möglich, wenn der Ausländer in schwerwiegender Weise gegen die öffentliche Sicherheit und Ordnung verstossen oder diese gefährdet hat. Dabei ist in erster Linie auf den Stellenwert des beeinträchtigten Rechtsguts abzustellen; wenn die ausländische Person durch ihre Handlungen besonders hochwertige Rechtsgüter wie namentlich die körperliche, psychische und sexuelle Integrität eines Menschen verletzt oder gefährdet hat, sind die Tatbestandsvoraussetzungen von Art. 63 Abs. 1 lit. b AuG zumeist erfüllt. Indes können auch vergleichsweise weniger gravierende Pflichtverletzungen als "schwerwiegend" im Sinne von Art. 63 Abs. 1 lit. b AuG bezeichnet werden: Ein Widerruf der Niederlassungsbewilligung ist namentlich auch dann möglich, wenn sich eine ausländische Person von strafrechtlichen Massnahmen nicht beeindrucken lässt und damit zeigt, dass sie auch zukünftig weder gewillt noch fähig ist, sich an die Rechtsordnung zu halten. Ob der Ausländer willens und in der Lage ist, sich in die hier geltende Ordnung einzufügen, kann nur anhand einer Gesamtbetrachtung seines Verhaltens beurteilt werden; auch eine Summierung von Verstössen, die für sich genommen für einen Widerruf nicht ausreichen würden, können deshalb einen Bewilligungsentzug rechtfertigen (<ref-ruling> E. 3 S. 302 ff. mit Hinweisen).
2.3 Wenn ein Ausländer durch sein Verhalten einen Widerrufsgrund gesetzt hat, bleibt zu prüfen, ob diese Massnahme auch als verhältnismässig erscheint. Dabei sind namentlich die Schwere des Verschuldens, der Grad der Integration sowie die dem Betroffenen drohenden Nachteile zu berücksichtigen (<ref-ruling> E. 4.3 ff. S. 381 ff.; vgl. auch Art. 96 Abs. 1 AuG). Nach der Rechtsprechung des Bundesgerichts zu dieser gesetzlichen Regelung und zu den analogen früheren Bestimmungen (Art. 10 Abs. 1 lit. a und Art. 11 Abs. 3 des Bundesgesetzes vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer [ANAG; in Kraft gewesen bis zum 31. Dezember 2007]) sind umso strengere Anforderungen an eine fremdenpolizeiliche Massnahme zu stellen, je länger ein Ausländer in der Schweiz anwesend war. Selbst bei einem Ausländer, der bereits hier geboren ist und sein ganzes bisheriges Leben in der Schweiz verbracht hat (Ausländer der zweiten Generation), sind fremdenpolizeiliche Massnahmen aber nicht ausgeschlossen; bei schweren bzw. wiederholten Straftaten, insbesondere bei Gewalt- und Betäubungsmitteldelikten, besteht hieran ein wesentliches öffentliches Interesse (<ref-ruling> E. 2c S. 436; <ref-ruling> E. 4.4.2 S. 190).
2.4 Die Notwendigkeit einer Verhältnismässigkeitsprüfung ergibt sich auch aus Art. 8 Ziff. 2 EMRK, soweit überhaupt ein Eingriff in das von Art. 8 Ziff. 1 EMRK geschützte Privat- und Familienleben vorliegt; ein solcher ist dann statthaft, wenn er gesetzlich vorgesehen ist und eine Massnahme darstellt, die in einer demokratischen Gesellschaft für die nationale Sicherheit, die öffentliche Ordnung, das wirtschaftliche Wohl des Landes, die Verteidigung der Ordnung oder zur Verhinderung von strafbaren Handlungen, zum Schutz der Gesundheit und Moral sowie der Rechte und Freiheiten anderer notwendig erscheint. Bei der Interessenabwägung im Rahmen von Art. 8 Ziff. 2 EMRK sind - wie bei jener nach Art. 11 Abs. 3 ANAG bzw. nach Art. 96 Abs. 1 AuG - die Schwere des begangenen Delikts, der seit der Tat vergangene Zeitraum, das Verhalten des Ausländers während dieser Periode, die Auswirkungen auf die primär betroffene Person sowie deren familiäre Situation zu berücksichtigen (<ref-ruling> E. 4.3 S. 381).
3. 3.1 Der Beschwerdeführer wurde unter anderem rechtskräftig zu einer Freiheitsstrafe von fünf Jahren und sechs Monaten verurteilt, womit er einen Widerrufsgrund im Sinne von Art. 62 lit. b AuG gesetzt hat. Ob das Verhalten des Beschwerdeführers zugleich als schwerwiegender Verstoss gegen die öffentliche Sicherheit und Ordnung im Sinne von Art. 63 Abs. 1 lit. b AuG zu werten ist, bedarf somit keiner näheren Betrachtung, weil dieser Widerrufsgrund in der vorliegenden Konstellation ohnehin nur subsidiär zur Anwendung kommt, wenn es an den Voraussetzungen für einen Widerruf in Anwendung von Art. 62 lit. b (in Verbindung mit Art. 63 Abs. 1 lit. a) AuG gebricht (vgl. <ref-ruling> E. 4.2 S. 381).
3.2 Der Widerruf der Niederlassungsbewilligung muss - wie in E. 2.3 erwähnt - verhältnismässig sein. Es ist eine sorgfältige Prüfung des Einzelfalles vorzunehmen. Insoweit haben die zuständigen Behörden namentlich die öffentlichen Interessen und die persönlichen Verhältnisse sowie den Grad der Integration der betroffenen Ausländer zu berücksichtigen (Art. 96 AuG).
3.2.1 Die Vorinstanz hat richtig festgestellt, dass Ausgangspunkt und Massstab der fremdenpolizeilichen Güterabwägung in erster Linie die Schwere des Verschuldens ist, das sich in der Dauer der Freiheitsstrafe niederschlägt (vgl. angefochtener Entscheid E. 3a). Sie hat zudem mit überzeugender Begründung, auf welche verwiesen werden kann, dargelegt, dass der Beschwerdeführer über einen langen Zeitraum von sechs Jahren intensiv - vor allem über das Medium Internet - delinquiert hat (über 1'600 Fälle von betrügerischen Bestellungen im Internet mit einem Deliktsbetrag von über Fr. 700'000.--) und sich auch durch mehrmalige Inhaftierungen nicht hat davon abbringen lassen, nach jeweiliger Entlassung erneut im grossen Stil gegen das Strafgesetz zu verstossen. Zwar liegen keine eigentlichen Gewaltdelikte vor, hingegen fallen insbesondere auch die begangenen Betäubungsmitteldelikte negativ ins Gewicht: Der Beschwerdeführer hat mehrfach gegen Art. 19 Ziff. 1 aBetmG (SR 812.121) verstossen, indem er an verschiedene Abnehmer Heroin und Kokain verkauft hat. Zudem hat er versucht, eine Person als Drogenverkäufer anzuwerben (vgl. Urteil des Obergerichts des Kantons Luzern vom 15. Dezember 2009 Ziff. 3.4). Die Schwere der begangenen Straftaten und die Schuld des Beschwerdeführers sind demnach vom Obergericht und der Vorinstanz zu Recht als sehr schwer bezeichnet worden (vgl. angefochtener Entscheid E. 3b).
3.2.2 Nichts zu seinen Gunsten kann der Beschwerdeführer aus seinem Verhalten in der Zeit nach der (letzten) Tat ableiten: Grundsätzlich wird eine gute Führung im Strafvollzug vom Strafgefangenen generell erwartet und lässt angesichts der dort vorhandenen, verhältnismässig engmaschigen Betreuung keine verlässlichen Rückschlüsse auf das künftige Verhalten in Freiheit zu. Hier kommt dazu, dass sich der Beschwerdeführer im vorzeitigen Strafvollzug nicht massnahmewillig gezeigt hat (vgl. angefochtener Entscheid E. 3c).
Ebenfalls gegen den Beschwerdeführer spricht der Umstand, dass er mehrfach auch nach einer Inhaftierung wieder straffällig geworden ist. Seine Begründung dazu ("Ich war der Auffassung, eine Methode gefunden zu haben, wie ich unendlich und einschränkungslos delinquieren kann, ohne dass man mir etwas anhaben kann") sowie die Behauptung, er sei "an sich nicht wegen schwerwiegenden Delikten so lange im Gefängnis" gewesen, lassen auf wenig Einsicht in sein kriminelles Verhalten schliessen.
3.2.3 Die Vorinstanz hat im Weiteren eine sorgfältige Interessenabwägung vorgenommen und zu Recht erkannt, für den Verbleib des Beschwerdeführers in der Schweiz spreche einzig der Umstand, dass er schon seit über 25 Jahren in der Schweiz lebe. Sodann stellte sie verbindlich fest, es bestünden weder soziale, kulturelle noch wirtschaftliche Bindungen zur Schweiz, die über eine normale Integration hinausgehen (vgl. angefochtener Entscheid E. 4a). Auch dieser Feststellung ist zuzustimmen. Entgegen der Auffassung des Beschwerdeführers führt der Umstand, dass er einen grossen Teil seines Lebens in der Schweiz verbracht hat, nicht automatisch zur Annahme einer vollständigen Verwurzelung. Vielmehr trifft zu, dass der Beschwerdeführer, obwohl er hier aufgewachsen und zur Schule gegangen ist und Schweizerdeutsch spricht, über keine vertieften sozialen Beziehungen verfügt und auch keine Berufsausbildung vollendet hat. Immerhin scheint er zur Zeit einer geregelten Arbeit nachzugehen.
Der Schluss der Vorinstanz wird zudem bekräftigt durch die Tatsache, dass der Beschwerdeführer während seines Aufenthaltes in der Schweiz mit der wiederholten Straffälligkeit eine gleichgültige Haltung der hiesigen Rechtsordnung gegenüber bezeugte und sich auch durch strafrechtliche Massnahmen nicht abschrecken liess. Schliesslich ergibt sich aus den Akten, dass der Beschwerdeführer im Betreibungsregister mit 14 Betreibungen über einen Betrag von Fr. 7'336.05 verzeichnet war und vier Verlustscheine in der Höhe von Fr. 2'819.85 vorlagen (Stand August 2010).
3.2.4 Die Vorinstanz legt weiter dar, dass den Beschwerdeführer eine Rückkehr in den Kosovo vermutlich hart treffen würde, zumal er es versäumt habe, sich in der Schweiz beruflich zu qualifizieren. Andererseits dürften die seit seiner Entlassung erworbenen Kenntnisse im Telefoniebereich auch im Kosovo hilfreich sein (vgl. angefochtener Entscheid E. 4b). Sie schliesst daraus, dem ledigen und kinderlosen Beschwerdeführer sei es zumutbar, die Schweiz zu verlassen und in seinem Heimatland Fuss zu fassen. Diese Einschätzung ist nicht zu beanstanden, auch wenn der Beschwerdeführer behauptet, er spreche gar nicht oder nur wenig Albanisch und habe keine Bezugspersonen im Kosovo. Es ist nicht ersichtlich, weshalb es dem Beschwerdeführer nicht möglich sein sollte, in seiner Heimat wieder ein neues Beziehungsnetz aufzubauen und dabei seine Kenntnisse der albanischen Sprache noch zu verbessern. Selbst wenn der Beschwerdeführer am Verbleib in der Schweiz verständlicherweise sehr interessiert sein mag, besteht damit nicht ein derart gewichtiges privates Interesse, welches das sehr erhebliche öffentliche Interesse an der Fernhaltung des Beschwerdeführers zu überwiegen vermöchte.
3.3 Es wird schliesslich auch nicht in vertretbarer Weise geltend gemacht, inwiefern sich unter den gegebenen Umständen ein Anspruch auf Bewilligungsverlängerung aus <ref-law> bzw. Art. 8 EMRK ableiten liesse. Im Übrigen erfüllt die Beschwerde in diesem Punkt die Begründungsanforderungen von <ref-law> nicht, weshalb darauf nicht weiter einzugehen ist (vgl. E. 1.3 hiervor).
3.4 Zusammenfassend ist festzuhalten, dass die Vorinstanz im vorliegenden Fall zu Recht erkannt hat, bei einer Gesamtwürdigung des Verhaltens des Beschwerdeführers sei das öffentliche Interesse an seiner Fernhaltung höher zu gewichten als sein persönliches Interesse an einem Verbleib in der Schweiz.
4. 4.1 Nach dem Dargelegten ist der Widerruf der Niederlassungsbewilligung bundesrechts- und konventionskonform. Die Beschwerde erweist sich damit als unbegründet und ist abzuweisen.
4.2 Diesem Ausgang entsprechend hat der Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 f. BGG). Es sind keine Parteientschädigungen geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration, dem Justiz- und Sicherheitsdepartement und dem Verwaltungsgericht des Kantons Luzern sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 29. März 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Winiger