Sachverhalt:
A. Der algerische Staatsangehörige X._ (geb. 1967) und die Schweizer Bürgerin A._ (geb. 1965) heirateten am 28. Januar 2001 in Algerien. Genau drei Monate später reiste X._ in die Schweiz ein. Am 8. Mai 2001 erhielt er eine Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau im Kanton Luzern. In der Folge verlängerte das Amt für Migration des Kantons Luzern die Aufenthaltsbewilligung jeweils, zuletzt bis zum 28. April 2006.
Am 20. Februar 2006 ersuchte X._ um Erteilung der Niederlassungsbewilligung. Das Amt für Migration lehnte diesen Antrag am 22. März 2007 ab und verfügte seine Wegweisung. Es warf X._ vor, er habe sich im Oktober 2002 von seiner Ehefrau getrennt und seither in rechtsmissbräuchlicher Weise auf die Ehe berufen, um die Verlängerung seiner Aufenthaltsbewilligung zu erreichen. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern am 20. Juni 2008 ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 28. Juli 2008 beantragt X._ dem Bundesgericht sinngemäss, den Entscheid des Verwaltungsgerichts aufzuheben und ihm die Niederlassungsbewilligung zu erteilen. Eventualiter sei ihm die Aufenthaltsbewilligung zu verlängern. Subeventualiter sei die Sache an das kantonale Amt für Migration zurückzuweisen mit der Anweisung, ihm die begehrten Bewilligungen zu erteilen, erforderlichenfalls nach weiteren Abklärungen sowie "Begutachtung" der Ehefrau.
C. Das kantonale Amt für Migration, das Verwaltungsgericht sowie das Bundesamt für Migration beantragen, die Beschwerde abzuweisen.
D. Mit Verfügung vom 4. August 2008 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung zuerkannt.

Erwägungen:
1. Am 1. Januar 2008 ist das Bundesgesetz vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) in Kraft getreten und damit das Bundesgesetz vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG; BS 1 121) aufgehoben worden. Wie die Vorinstanz zurecht festhält, bleibt vorliegend aber das alte Recht anwendbar, weil der Beschwerdeführer seine ausländerrechtlichen Gesuche vor dem erwähnten Datum gestellt hat (vgl. Art. 126 Abs. 1 AuG). Auf die Beschwerde ist einzutreten, da Letztgenannter zumindest formell noch mit der Schweizer Bürgerin verheiratet ist und damit grundsätzlich einen Anspruch auf Bewilligung nach Art. 7 Abs. 1 ANAG (in der Fassung vom 23. März 1990, AS 1991 1034) hat, so dass insoweit der Ausschlussgrund gemäss <ref-law> nicht greift (vgl. <ref-ruling> E. 1b S. 266).
2. Gemäss Art. 7 Abs. 2 ANAG hat der ausländische Ehegatte eines Schweizer Bürgers keinen Anspruch auf Erteilung der ihm - wie erwähnt - nach Absatz 1 grundsätzlich zustehenden Bewilligung, wenn die Ehe eingegangen worden ist, um die Vorschriften über Aufenthalt und Niederlassung von Ausländern zu umgehen (sog. Scheinehe oder Ausländerrechtsehe). Auch wenn die Eheschliessung nicht bloss zum Schein stattfand, heisst dies nicht zwingend, dass dem ausländischen Ehepartner der Aufenthalt ungeachtet der weiteren Entwicklung gestattet werden muss. Zu prüfen ist diesfalls, ob sich die Berufung auf die Ehe nicht anderweitig als rechtsmissbräuchlich erweist, was namentlich dann der Fall ist, wenn ein Ausländer sich im fremdenpolizeilichen Verfahren auf eine Ehe beruft, welche nur noch formell besteht oder aufrechterhalten wird mit dem alleinigen Ziel, dem Ausländer eine Anwesenheitsbewilligung zu ermöglichen. Dieses Ziel wird von Art. 7 ANAG nicht geschützt (vgl. <ref-ruling> E. 4.2 S. 117; <ref-ruling> E. 2 S. 151 f.; <ref-ruling> E. 4a und 5a S. 55 ff., je mit Hinweisen). Der Sachverhalt, der den Vorwurf des Rechtsmissbrauchs rechtfertigt, muss allerdings vor Ablauf der Fünfjahresfrist nach Art. 7 Abs. 1 Satz 2 ANAG erfüllt sein. Denn nach einem ordnungsgemässen und ununterbrochenen Aufenthalt von fünf Jahren hat der Ausländer einen vom Fortbestand der Ehe unabhängigen Anspruch auf Niederlassungsbewilligung (<ref-ruling> E. 4c S. 104 f.).
3. Das Verwaltungsgericht stellt im Wesentlichen fest, dass die Ehefrau des Beschwerdeführers zahlreiche Eingaben machte, worin sie sich über den Zustand ihrer Ehe ausliess. Nicht nur die Anzahl, sondern auch die Widersprüchlichkeit der Eingaben falle auf. Manchmal sei es der Ehefrau darum gegangen, den Beschwerdeführer von sich fernzuhalten, andere Male darum, seinen Verbleib in der Schweiz zu ermöglichen. Aus den Akten ergebe sich, dass die Ehefrau psychisch krank und deswegen IV-berentet sei und bei einem Psychiater in Behandlung stehe. Wegen der wechselnden Belastungssituationen, in denen sie sich äusserte, und den erheblichen inhaltlichen "Inkonsistenzen" ihrer Erklärungen sei bei deren Würdigung Zurückhaltung angebracht. Die Aussagen der Ehefrau seien letztlich aber auch nicht entscheidend. In erster Linie sei von der Haltung und den Erklärungen des Beschwerdeführers auszugehen.
Insoweit ergebe sich, dass die eheliche Gemeinschaft nach der Einreise im April 2001 lediglich 19 Monate gedauert habe. Anschliessend, von November 2002 bis April 2007 und damit während viereinhalb Jahren, habe das Ehepaar getrennt gelebt. Zwar sei der Kontakt nie erloschen. Der Beschwerdeführer habe im November 2006 erklärt, sie hätten sich monatlich einmal getroffen und wöchentlich einmal telefoniert. Die Ehefrau hatte ihrerseits erklärt, zwischen Herbst 2002 und Sommer 2006 hätte sich der Beschwerdeführer höchstens einmal monatlich telefonisch bei ihr gemeldet. Die Vorinstanz hält fest, dass sich die Beziehung oder die Kontakte nur intensiviert hätten, wenn es darum gegangen sei, gegenüber der Fremdenpolizei Rechenschaft über die Beziehung abzulegen. Eine Stabilisierung der Beziehung habe jedoch nicht stattgefunden, auch wenn der Beschwerdeführer erklärt habe, die Trennung habe sich positiv ausgewirkt. Während des Zusammenlebens sei es schon bald zu heftigen Auseinandersetzungen gekommen, wobei die Ehefrau mehrfach die Behörden und Gerichte einschaltete. Zwar hätten die Eheleute im April 2007 wieder an einer Adresse gewohnt. Dazu sei es aber erst unter dem Druck der drohenden Wegweisung gekommen und das Zusammenwohnen habe nur bis zum Juni 2007 gedauert, wobei die Ehefrau - wie schon früher - Polizeibeamte einsetzte, um den Auszug des Beschwerdeführers zu regeln. Aus diesen Umständen schliesst die Vorinstanz, dass noch vor Ablauf der Fünfjahresfrist nach Art. 7 Abs. 1 Satz 2 ANAG keine reelle Aussicht mehr auf Wiedervereinigung bestanden habe.
4. Der Beschwerdeführer wirft der Vorinstanz vor, sie habe den Sachverhalt widersprüchlich und einseitig zu seinen Lasten und damit letztlich offensichtlich falsch sowie unter Verletzung von Bundesrecht ermittelt und gewürdigt.
4.1 Er rügt, die Vorinstanz habe ohne zutreffende Begründung auf eine eigene Befragung der Eheleute verzichtet und Mutmassungen zum psychischen Zustand der Ehefrau angestellt, die nur gestützt auf ein Gutachten zu beantworten seien; ein solches habe sie jedoch zu Unrecht nicht eingeholt. Das gelte auch, soweit die Vorinstanz behaupte, das Festhalten der Ehefrau an ihm und an der Ehe sei Ausfluss ihrer Krankheit. Seine Ehefrau sei durchaus in der Lage, differenziert wahrzunehmen und zu entscheiden; insoweit sei sie auch nach wie vor gewillt, die Ehe mit ihm zu leben.
Diese Rüge geht fehl. Zum einen hat die Vorinstanz nicht behauptet, dass die Ehefrau nur wegen ihrer psychischen Verfassung an der Ehe festhalte. Vielmehr hat sie zutreffend auf ihre gegensätzlichen Äusserungen hingewiesen, während der Beschwerdeführer einseitig nur die ihm günstigen Erklärungen der Ehefrau anführt. Zum anderen hatte bereits das Amt für Migration eingeräumt, dass die Ehefrau den Beschwerdeführer aus Liebe geheiratet und sie auch in der Folge wiederholt Zuneigung für ihn bekundet hatte. Das schliesst ein rechtsmissbräuchliches Berufen auf eine Ehe durch den ausländischen Ehepartner indes nicht aus. Entscheidend ist, ob vor Ablauf der erwähnten Fünfjahresfrist objektiv erwartet werden konnte, dass die Ehegemeinschaft in absehbarer Zeit wieder aufgenommen wird. Dabei hat die Vorinstanz zurecht auf die Haltung des Beschwerdeführers abgestellt. Insoweit durfte sie auf eine Begutachtung und Befragung der Ehefrau verzichten. Anders hätte es sich verhalten, wenn der Beschwerdeführer die Schwierigkeiten in der Beziehung auf einen prekären Gesundheitszustand der Ehefrau zurückgeführt und die Vorinstanz diesen angezweifelt hätte; das ist vorliegend aber gerade nicht der Fall.
4.2 Den Sachverhaltsfeststellungen der Vorinstanzen zufolge, auf die verwiesen wird, hat sich der Beschwerdeführer nach der Trennung im Oktober 2002 nicht mehr um eine Wiederherstellung der Ehegemeinschaft bemüht. Der Beschwerdeführer behauptet zwar, er habe sein Alkoholproblem behoben; auch hätten er und seine Ehefrau eine Ehetherapie durchlaufen. Zudem seien sie im Frühjahr 2008 wieder zusammengezogen. Obwohl er diese Umstände der Vorinstanz mitgeteilt habe, sei diese darauf nicht eingegangen.
4.3 Den Akten zufolge warf die Ehefrau dem Beschwerdeführer schon bald nach Eheschliessung unter anderem einen übermässigen Alkoholkonsum vor; dies war mit ein Grund für die von ihr gewünschte Trennung. Aus den vom Beschwerdeführer vorgelegten Dokumenten ergibt sich aber, dass dieser sein Alkoholproblem erst im Oktober 2007 ernsthaft anging. Zwar behauptet er, er habe sich hierfür schon im November 2002 zum Allgemeinarzt Dr. B._ begeben. In der Bestätigung dieser Arztpraxis wird wegen des Alkoholproblems jedoch erst der 18. Oktober 2007 erwähnt. Der Beschwerdeführer belegt nicht weiter, dass er bereits früher diesbezügliche Schritte unternommen hatte. Somit ist davon auszugehen, dass er seit der Trennung im Herbst 2002 fünf Jahre lang einfach zugewartet hatte und erst unter dem Eindruck des bei der Vorinstanz laufenden Beschwerdeverfahrens entsprechend tätig wurde. Daher gereicht es der Vorinstanz nicht zum Vorwurf, wenn sie diesen Umstand nicht weiter erwähnt und insbesondere nicht zu seinen Gunsten gewürdigt hat.
4.4 Ähnlich verhält es sich mit der Ehetherapie: Hierzu hatte der Beschwerdeführer bei der Vorinstanz ausgeführt, er und seine Ehefrau hätten bei einer Beratungsstelle für Ausländer bezüglich der ehelichen Probleme vorgesprochen. Aus der insoweit beigebrachten Bestätigung ergibt sich indes nur, dass es anlässlich der vier Besuche (am 22. Juli 2003 nur durch die Ehefrau, ferner am 14. September 2004, 14. Februar und 29. März 2007) vornehmlich um den ausländerrechtlichen Status des Beschwerdeführers ging. Im Übrigen erklärte dieser in seiner an das Verwaltungsgericht gerichteten Beschwerde vom 16. April 2007, es sei bei einer anderen Beratungsstelle eine Anmeldung für eine Ehetherapie von April bis Juni 2007 erfolgt. Diesem Umstand brauchte die Vorinstanz jedoch keine Bedeutung beizumessen, nachdem sich die Eheleute bereits im Juni 2007 im Streit wieder getrennt hatten. Der Beschwerdeführer hat auch nicht behauptet, er habe sich schon früher um eine Ehetherapie bemüht. Demgegenüber hatte die Ehefrau noch während des Zusammenlebens entsprechende Massnahmen angeregt, auf die sich der Beschwerdeführer nicht einliess.
4.5 Mit der Vorinstanz ist somit zu schliessen, dass Letzterer sich spätestens seit der Trennung im Jahre 2002 nicht mehr weiter um eine Wiederaufnahme des Ehelebens bemüht und sich mit der Trennung abgefunden hat. Wie von der Vorinstanz festgestellt, beschränkten sich die zwischenmenschlichen Beziehungen der Eheleute auf ein bescheidenes Mass. Die wenigen Kontakte genügen nicht, um auf eine Lebensgemeinschaft zu schliessen, die einen Aufenthaltsanspruch vermittelt (vgl. Urteil 2C_278/2008 vom 18. Juni 2008 E. 4.3). Erst nach Verweigerung des Aufenthaltes durch das Ausländeramt ging der Beschwerdeführer auf die Durchführung einer Ehetherapie ein. Mit Blick auf die Gesamtumstände ist der Schluss berechtigt, dass es ihm dabei und beim dreimonatigen Zusammenleben im Jahre 2007 nur um den Erhalt einer Anwesenheitsbewilligung ging und nicht eigentlich um die Ehegemeinschaft.
4.6 Zur angeblichen erneuten Wiederaufnahme des Zusammenlebens Anfang Mai 2008 führt das Verwaltungsgericht aus, die vom Beschwerdeführer als Beweismittel vorgelegte Wohnsitzbescheinigung vom 13. Mai 2008, in der ein Zuzug am 18. April 2007 vermerkt ist, stimme adressenmässig nicht mit dem gleichzeitig eingereichten Betreibungsregisterauszug vom 25. April 2008 überein; daher seien diese Eingaben wenig aussagekräftig.
Zu der Feststellung der unterschiedlichen Adressen äussert sich der Beschwerdeführer nicht, so dass sich rechtfertigen würde, schon deswegen seine Rüge aus dem Recht zu weisen. Abgesehen davon ist der Schluss der Vorinstanz nicht zu beanstanden, zumal der Beschwerdeführer ihr gegenüber nur ausführte, die Eheleute hätten wieder einen gemeinsamen "offiziellen" Wohnsitz. Das will nicht heissen, dass das Eheleben tatsächlich wieder aufgenommen wurde. Ausserdem enthält die Bescheinigung als Zuzugsdatum April 2007 und nicht wie behauptet Mai 2008. Offenbar hatte sich der Beschwerdeführer nach dem kurzen Zusammenleben im Jahr 2007 bei der Gemeinde vorerst nicht abgemeldet.
4.7 Dem Gesagten zufolge ist der Schluss der Vorinstanzen, wonach sich der Beschwerdeführer spätestens seit der Trennung im Oktober 2002 nur noch rechtsmissbräuchlich auf die Ehe beruft und deshalb keinen Anspruch auf eine Niederlassungs- oder Aufenthaltsbewilligung gestützt auf Art. 7 ANAG und Art. 8 EMRK hat, bundesrechtmässig und insbesondere in tatsächlicher Hinsicht willkürfrei. Bei der vorliegenden Aktenlage durfte das Verwaltungsgericht auf eine Anhörung des Beschwerdeführers verzichten. Dieser hatte genügend Gelegenheit und aufgrund seiner Mitwirkungspflicht sogar die Obliegenheit, bei den Vorinstanzen substantiiert darzutun, wie er sich nach der Trennung von seiner Ehefrau unter anderem für die Rettung der Ehe eingesetzt hatte (vgl. Art. 3 Abs. 2 und Art. 13f ANAG sowie erwähntes Urteil 2C_278/ 2008 E. 4.3 in fine).
5. Demnach erweist sich die Beschwerde als unbegründet und ist abzuweisen. Bei diesem Ausgang hat der Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 und 66 Abs. 1 BGG. Parteientschädigungen werden nicht geschuldet (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration und dem Verwaltungsgericht des Kantons Luzern sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 30. Januar 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Merz