Sachverhalt:
A. Der aus dem Libanon stammende X._ (geb. 1976) reiste im März 2002 illegal in die Schweiz ein und stellte unter einer falschen Identität ein Asylgesuch. Nachdem er für die Behörden nicht mehr erreichbar war, trat das Bundesamt für Flüchtlinge (heute Bundesamt für Migration) auf das Asylgesuch mit Entscheid vom 16. September 2002 nicht ein. Im April 2003 heiratete X._ in seiner Heimat die Schweizer Bürgerin Y._ (geb. 1964). Im Oktober 2003 reiste er im Rahmen des Familiennachzugs in die Schweiz ein und erhielt eine bis zum 24. Oktober 2004 gültige Jahresaufenthaltsbewilligung.
Im Dezember 2003 wurde X._ verhaftet und anschliessend während rund einem Jahr in Untersuchungshaft gehalten. Das Kriminalgericht des Kantons Luzern verurteilte ihn am 12. Januar 2007 unter anderem wegen mehrfacher Widerhandlung gegen das Betäubungsmittelgesetz, begangen als schwerer Fall im Sinne von <ref-law>, zu einer teilbedingten Freiheitsstrafe von drei Jahren. Davon waren 18 Monate unbedingt zu vollziehen; für die restlichen 18 Monate wurde der bedingte Vollzug gewährt. Unter Anrechnung der erwähnten Untersuchungshaft wurde X._ vom 12. November 2007 bis 3. Mai 2008 in den Strafvollzug genommen.
B. Unter Hinweis auf die strafrechtliche Verurteilung lehnte das Amt für Migration des Kantons Luzern mit Verfügung vom 14. Februar 2008 das Gesuch um Verlängerung der am 24. Oktober 2004 ausgelaufenen Aufenthaltsbewilligung ab. Gleichzeitig verfügte es die Ausweisung von X._ für unbestimmte Zeit gemäss Art. 10 des Bundesgesetzes vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG, BS 1 121, in der Fassung vom 9. Oktober 1948, AS 1949 I 221). Das Verwaltungsgericht des Kantons Luzern wies die dagegen erhobene Beschwerde am 20. August 2008 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde vom 23. September 2008 beantragt X._ dem Bundesgericht, seine Beschwerden "gutzuheissen". Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Das kantonale Amt für Migration, das Verwaltungsgericht sowie das Bundesamt für Migration stellen den Antrag, die Beschwerden abzuweisen.
D. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 2. Oktober 2008 antragsgemäss die aufschiebende Wirkung zuerkannt.

Erwägungen:
1. Der vom Beschwerdeführer vor Bundesgericht gestellte Antrag auf Gutheissung der Beschwerden ist aus sich allein nicht verständlich (vgl. <ref-law>). Es lässt sich allerdings aus der Beschwerdebegründung gerade noch hinreichend entnehmen, was er begehrt (vgl. <ref-ruling> E. 2 S. 236 f.): Das angefochtene Urteil des Verwaltungsgerichts soll aufgehoben, von einer Ausweisung soll abgesehen und ihm die Aufenthaltsbewilligung erneuert werden; eventualiter sei die Ausweisung auf eine Dauer von zwei Jahren zu beschränken (siehe Ziff. 55 der Beschwerde).
2. Am 1. Januar 2008 ist das neue Ausländerrecht in Kraft getreten. Dennoch bleibt gemäss Art. 126 Abs. 1 AuG (SR 142.20) auf Gesuche um Verlängerung der Aufenthaltsbewilligung, die - wie hier - vorher eingereicht worden sind, das bisherige Recht (ANAG) anwendbar. Diese Übergangsregelung gilt entsprechend für die Ausweisung. Wie sich aus dem Schreiben des kantonalen Migrationsamtes vom 13. Dezember 2007, mit welchem dem Beschwerdeführer das rechtliche Gehör gewährt wurde, ergibt, ist das Ausweisungsverfahren vor dem 1. Januar 2008 eröffnet worden. Unerheblich ist, dass dieses nicht auf ein Gesuch hin, sondern von Amtes wegen eingeleitet wird, und dass die Ausweisung selber erst nach dem Inkrafttreten des neuen Rechts verfügt worden ist (vgl. Urteil 2C_745/2008 vom 24. Februar 2009, E. 1.2.2 - 1.2.4 mit Hinweisen).
3. Gegen die Verweigerung der Bewilligungsverlängerung steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen, da der Beschwerdeführer noch mit der Schweizer Bürgerin verheiratet ist und somit gemäss Art. 7 ANAG (in der Fassung vom 23. März 1990, AS 1991 1034) und Art. 8 EMRK einen Aufenthaltsanspruch geltend machen kann, so dass der Ausschlussgrund des <ref-law> nicht greift (vgl. <ref-ruling> E. 1b S. 266; <ref-ruling> E. 1.1.5 S. 149 f.). Diese Beschwerde ist ebenfalls gegen die Ausweisung zulässig (Urteil 2C_32/2008 vom 25. April 2008 E. 1.1, in: ZBl 109/2008 S. 497). Deshalb ist gemäss <ref-law> auf die zusätzlich erhobene subsidiäre Verfassungsbeschwerde nicht einzutreten.
4. Der Beschwerdeführer macht die Verletzung des Anspruchs auf rechtliches Gehör im Sinne von <ref-law> und der daraus abgeleiteten Pflicht zur Begründung eines Entscheids geltend. Er habe bei der Vorinstanz dargelegt, dass das kantonale Amt für Migration diffamierende Schreiben des Stiefvaters seiner Ehefrau, die auf das Jahr 1996 zurückgehen, in sein Dossier überführt habe. Das Verwaltungsgericht habe sich damit nicht befasst, insbesondere nicht ausgeführt, inwieweit diese Unterlagen sein Verfahren beeinflusst hätten.
Soweit diese Rüge überhaupt den Anforderungen des <ref-law> genügt, stösst sie ins Leere. Die Behörden können sich in der Begründung auf die für ihren Entscheid wesentlichen Gesichtspunkte beschränken (vgl. Näheres in <ref-ruling> E. 3.1 S. 277 mit Hinweisen). Das hat die Vorinstanz getan. Jedenfalls spielten die besagten Unterlagen für den Ausgang des fremdenpolizeilichen Verfahrens ihrer Auffassung nach keine Rolle, weshalb sie unerwähnt blieben. Es ist nicht ersichtlich und vom Beschwerdeführer auch nicht dargelegt worden, warum sie sich damit dennoch hätte explizit befassen müssen. Ob die von der Vorinstanz in ihrem Entscheid ausdrücklich aufgeführten Umstände im Übrigen genügen, um die fremdenpolizeilichen Massnahmen zu rechtfertigen, ist eine Frage des materiellen Rechts und wird nachfolgend behandelt.
Ebenso geht die Rüge des Beschwerdeführers fehl, er habe nie die Möglichkeit gehabt, sich zu den erwähnten Schreiben des Stiefvaters zu äussern. Seinen Ausführungen zufolge sind ihm diese erstmals anlässlich der seinem Rechtsvertreter gewährten Akteneinsicht bekannt geworden. Aus den Akten ergibt sich aber, dass diese Akteneinsicht vor Ergehen der Verfügung der Fremdenpolizei vom 14. Februar 2008 ermöglicht worden war, wobei der Rechtsvertreter die Akten am 14. Januar 2008 zurücksandte, so dass er genügend Gelegenheit zur vorherigen Äusserung gehabt hätte. Zwar gibt der - sich insoweit widersprechende - Beschwerdeführer an anderer Stelle seiner Eingabe an, er habe erst "im Rahmen der nach Erlass der Verfügung" erfolgten Akteneinsicht entsprechende Kenntnis erlangt. Doch auch in diesem Fall kann er nichts zu seinen Gunsten ableiten, da er zumindestens vor dem Verwaltungsgericht, das über eine umfassende Überprüfungsbefugnis verfügt, die Möglichkeit zur Stellungnahme hatte oder dort allenfalls eine Gehörsverletzung hätte rügen können. Dass er Letzteres getan hat, behauptet er jedoch nicht, weswegen er eine diesbezügliche Rüge wegen Verwirkung nicht mehr bzw. nicht erst vor Bundesgericht erheben kann (vgl. <ref-law>; <ref-ruling> E. 4.3 S. 496 f.; <ref-ruling> E. 4b S. 126; <ref-ruling> E. 5b S. 155).
5. 5.1 Materiell macht der Beschwerdeführer geltend, die fremdenpolizeilichen Massnahmen seien unverhältnismässig. Die Behörden hätten die für seinen Verbleib in der Schweiz sprechenden Umstände "minimiert" und wären entgegen seinen Darstellungen davon ausgegangen, dass er kein inniges Verhältnis zu seiner Ehefrau habe. Auch habe die Vorinstanz zu Unrecht ausschliesslich auf den vom Bundesgericht entwickelten Richtwert der zweijährigen Freiheitsstrafe abgestellt, obwohl dieser seit der Veränderung des Sanktionssystems im Strafgesetzbuch nicht mehr haltbar sei.
5.2 Das Vorliegen eines Ausweisungsgrundes nach Art. 10 Abs. 1 lit. a ANAG ist unbestritten. Der Beschwerdeführer war vor allem wegen gewerbsmässigem und teilweisem bandenmässigem Betäubungsmittelhandels verurteilt worden. Zwischen Juni und September 2002 hatte er an verschiedene Abnehmer über 1,4 kg Kokain verkauft oder vermittelt. Dabei spielte er nicht bloss eine untergeordnete Rolle als sog. "Läufer". Auch war er selber nicht drogensüchtig. Durch sein Verhalten hatte er das Leben und die Gesundheit vieler Menschen gefährdet. Kaum in der Schweiz angelangt, nahm er am Drogenhandel teil. Insoweit besteht ein sehr starkes Interesse an seiner Fernhaltung.
Zwar ist der Beschwerdeführer nach seiner bis Dezember 2004 dauernden Untersuchungshaft meist einer (legalen) Arbeitstätigkeit nachgegangen. Auch relativ kurze Zeit nach Verbüssung des Strafvollzugs fand er erneut eine Beschäftigung. Betreibungen und Verlustscheine liegen nicht vor. Auch mag seine Ehe intakt sein und mögen die Eheleute einen - bisher nicht erfüllten - Kinderwunsch hegen. Daraus allein ergibt sich indes noch nicht, dass beim Beschwerdeführer eine gelungene Integration gegeben ist und die anderslautenden Feststellungen der Vorinstanz deshalb falsch sind. Eine vollständige bzw. gute Integration umfasst weitere Komponenten als bloss ein geregeltes Berufs- und intaktes Eheleben. Zudem hat der Beschwerdeführer den überwiegenden Teil seines Lebens in der Heimat verbracht, wo er auch heute noch Kontakte hat und wohin eine Rückkehr zumutbar ist.
Schliesslich ist davon auszugehen, dass die Ehefrau bei Heirat damit rechnete, die Ehe möglicherweise nicht in der Schweiz führen zu können. Dafür sprechen die Umstände im Zusammenhang mit dem Kennenlernen, der Eheschliessung im Libanon und dem Nachzugsgesuch. Zwar wurde der Beschwerdeführer erst nach der Eheschliessung und Wiedereinreise in die Schweiz im Herbst 2003 wegen den schon im Jahre 2002 begangenen Delikten belangt. Die Ehefrau lernte ihn jedoch über ihren ehemaligen Dealer bereits im Frühjahr 2002 kennen. Als sie anlässlich des ersten Nachzugsgesuchs im Juli 2003 gefragt wurde, wie sie ihn kennengelernt hatte, gab sie indes das Internet an. Auf den Vorhalt dieser Aussage erklärte der Beschwerdeführer, seine Ehefrau habe seinerzeit befürchtet, ihn strafrechtlich zu belasten.
5.3 Nach dem Gesagten überwiegen die Interessen an der Fernhaltung des Beschwerdeführers diejenigen an seinem Verbleib in der Schweiz deutlich, und zwar nicht nur für eine vorübergehende Zeit von zwei Jahren. Daran ändert auch der nachträglich im bundesgerichtlichen Verfahren eingereichte Führungsbericht der Strafanstalt vom 3. Mai 2008 nichts. Für alles Weitere kann auf die Ausführungen der Vorinstanz verwiesen werden. Ob unter dem neuen Strafrecht, das auf den Beschwerdeführer - immerhin als lex mitior gemäss <ref-law> - Anwendung gefunden hat, am Richtwert gemäss der sog. Reneja-Praxis festzuhalten ist (vgl. dazu <ref-ruling> E. 4.1 S. 185 mit Hinweisen; zuletzt bestätigt mit Urteil 2C_299/2008 vom 30. Januar 2009, E. 3.2), kann offen gelassen werden, da dieser vorliegend nicht ausschlaggebend ist; auch die Vorinstanz hat sich nicht starr an ihm orientiert. Damit erweisen sich die Nichtverlängerung der Aufenthaltsbewilligung sowie die verfügte Ausweisung als verhältnismässig im Sinne von Art. 11 Abs. 3 ANAG und insoweit auch als bundesrechtmässig.
6. Dem Gesagten zufolge ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen, soweit auf sie einzutreten ist. Diesem Ausgang entsprechend hat der Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 und 66 Abs. 1 BGG). Parteientschädigungen werden nicht geschuldet.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf einzutreten ist.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Die Gerichtskosten von Fr. 1'800.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration sowie dem Verwaltungsgericht des Kantons Luzern und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 26. Februar 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Merz