Sachverhalt:
A. A._ (geb. 3. Mai 1954) und B._ (geb. 17. Juli 1952) heirateten am 20. Mai 1975 in Stans (NW). Sie haben einen gemeinsamen mündigen Sohn, C._ (geb. 10. Mai 1990).
Mit Aussöhnungsbegehren vom 13. November 2003 verlangte B._ (Beschwerdegegnerin) die Scheidung der Ehe. Das Amtsgericht Luzern-Stadt schied mit Urteil vom 29. Februar 2008 die Ehe der Parteien. A._ (Beschwerdeführer) wurde verpflichtet, der Beschwerdegegnerin Fr. 2'769.40 aus Güterrecht und einen indexierten Unterhaltsbeitrag von Fr. 3'150.-- pro Monat bis zu deren Eintritt ins AHV-Alter zu bezahlen. Die Luzerner Kantonalbank wurde angewiesen, vom Freizügigkeitskonto des Beschwerdeführers Fr. 81'556.40 auf ein Vorsorgekonto der Beschwerdegegnerin zu überweisen.
B. Die vom Beschwerdeführer dagegen eingereichte Appellation wurde vom Obergericht des Kantons Luzern (II. Kammer) mit Urteil vom 8. Juli 2008 abgewiesen.
C. Der Beschwerdeführer hat mit Eingabe vom 9. September 2008 hiergegen Beschwerde beim Bundesgericht eingereicht. Er beantragt, den angefochtenen Entscheid aufzuheben und die Unterhaltsforderung der Beschwerdegegnerin abzuweisen. Sodann ersucht er um Gewährung der unentgeltlichen Rechtspflege.
Es wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1. 1.1 Angefochten ist der in einem kantonal letztinstanzlichen Scheidungsurteil festgesetzte nacheheliche Unterhalt in einem Fr. 30'000.-- übersteigenden Umfang. Auf die Beschwerde ist somit grundsätzlich einzutreten (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b, Art. 75 Abs. 1 und Art. 90 BGG).
1.2 Mit der Beschwerde kann insbesondere die Verletzung von Bundesrecht, Völkerrecht und kantonaler verfassungsmässiger Rechte geltend gemacht werden (Art. 95 BGG). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Dabei ist "offensichtlich unrichtig" mit "willkürlich" gleichzusetzen (<ref-ruling> E. 1.2.2; <ref-ruling> E. 7.1 S. 398). Es genügt aber nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten. Vielmehr ist in der Beschwerdeschrift im Einzelnen darzulegen, inwiefern die tatsächlichen Feststellungen willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sein sollen (<ref-ruling> E. 1.4.3 S. 255).
Da das Bundesgericht an den von der Vorinstanz festgestellten Sachverhalt gebunden ist, kann vorweg die ausführliche Schilderung des Beschwerdeführers zu seinem familiären Hintergrund und zu seinem beruflichen Werdegang und zu demjenigen der Beschwerdegegnerin nicht gehört werden, da diesbezüglich Feststellungen im angefochtenen Entscheid fehlen und keine begründeten Willkürrügen erhoben werden.
1.3 Der Beschwerdeführer hat dem Bundesgericht zahlreiche Dokumente eingereicht. Gemäss Art. 99 Abs. 1 BGG dürfen neue Tatsachen und Beweismittel nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (im gleichen Sinne schon die Praxis zur staatsrechtlichen Beschwerde: <ref-ruling> E. 6c S. 357 mit Hinweisen). In der Beschwerde ist darzutun, inwiefern die erwähnte Voraussetzung für eine nachträgliche Einreichung von Beweismitteln erfüllt sein soll (BGE <ref-ruling> E. 3). Soweit der Beschwerdeführer nicht begründet, inwiefern diese Bedingung erfüllt sei, sind die neu ins Recht gelegten Schriftstücke von vornherein unbeachtlich. Das betrifft namentlich die Anmeldung zum Bezug einer IVRente vom 1. Juli 2008.
Echte tatsächliche Noven werden in keinem Fall berücksichtigt (<ref-ruling> E. 2.1). Das betrifft insbesondere das Arztzeugnis vom 3. September 2008 und die Bestätigung der SUISA vom 26. August 2008.
2. 2.1 Das Obergericht führt aus, bei der Ehe der Parteien handle es sich infolge der Dauer von rund 33 Jahren und der traditionellen Aufgabenteilung der Parteien zweifelsohne um eine lebensprägende Ehe. Die Beschwerdegegnerin habe bis ins Jahr 2004 gegenüber dem Sohn C._ Kinderbetreuungspflichten wahrgenommen. Gestützt auf die bundesgerichtliche Rechtsprechung habe sie daher Anspruch auf gebührenden Unterhalt im Sinne einer nachehelichen Solidarität (<ref-ruling> ff.).
Die Vorinstanz fährt fort, die Parteien hätten sich einen hohen Lebensstandard leisten können, ohne dass nennenswerte Ersparnisse gebildet worden seien. Im Massnahmeentscheid vom 12. Juni 2007 sei der Beschwerdegegnerin nur das tatsächlich erzielte Einkommen von monatlich Fr. 300.-- aus Fremdsprachenunterricht angerechnet worden. Der Beschwerdeführer habe sich in seinem Abänderungsgesuch nicht darauf berufen, weshalb die heute 56-jährige Beschwerdegegnerin während des Scheidungsverfahrens keine Veranlassung gehabt habe, ihre Erwerbstätigkeit auszudehnen. Angesichts ihrer mangelhaften beruflichen Qualifikationen halte es das Obergericht für ausgeschlossen, dass sie sich wiederum im Pflege- oder kaufmännischen Bereich werde betätigen können. Selbst das vom Beschwerdeführer genannte Nettoeinkommen von monatlich Fr. 3'500.-- im Dienstleistungsbereich erscheine ausserhalb des Erreichbaren, liege doch gemäss der Schweizer Lohnstrukturerhebung 2006 der monatliche Durchschnittslohn in diesem Bereich für Frauen ohne berufliche Qualifikation bei Fr. 4'048.-- brutto. Weiter sei notorisch, dass Frauen im fortgeschrittenen Alter kaum noch Vollzeitstellen fänden, sondern häufig im Stundenlohn oder auf Abruf eingestellt würden. Das von der Vorinstanz angerechnete Einkommen von Fr. 1'000.--, welches einem Arbeitspensum von rund einem Drittel im Niedriglohnbereich entspreche, erscheine daher den tatsächlichen Möglichkeiten der Beschwerdegegnerin angemessen. Dazu komme, dass sie aufgrund der guten sozialen Stellung während der Ehe und der immer noch relativ guten Einkommensverhältnisse des Beschwerdeführers nicht verpflichtet sei, jede Arbeit anzunehmen. Sie habe Anspruch auf Fortführung des gelebten Lebensstils, zumal der Beschwerdeführer sich immer noch im angestammten Beruf betätige (Urteil des Bundesgerichts 5C.139/2005 vom 28. Juli 2005 E. 1.2).
Das der Beschwerdegegnerin anzurechnende hypothetische Einkommen liege unterhalb der Grenze für die berufliche Vorsorge, weshalb sie eine Vorsorgelücke aufweisen werde. Umgekehrt könne der zwei Jahre jüngere Beschwerdeführer ein Erwerbseinkommen in der Grössenordnung von monatlich mindestens Fr. 6'873.-- netto erzielen, womit er seine berufliche Vorsorge aufstocken könne. Im Weiteren begründe er in keiner Weise, weshalb der von der Vorinstanz der Beschwerdegegnerin unter dem Titel "Vorsorgeunterhalt" zugesprochene Betrag von monatlich Fr. 500.-- nicht angemessen sein solle, weshalb dieser zu bestätigen sei.
2.2 2.2.1 Der Beschwerdeführer trägt dazu vor, von einem hohen Lebensstandard könne nicht gesprochen werden und das Obergericht gehe zu Unrecht von einer klassischen Rollenteilung aus, denn die Beschwerdegegnerin sei während der gesamten Ehedauer Verwaltungsratspräsidentin gewesen, auch wenn sie keinen Lohn bezogen habe. Mit diesen Einwänden widersetzt sich der Beschwerdeführer den tatsächlichen Feststellungen der Vorinstanz, ohne indessen eine willkürliche Sachverhaltsermittlung darzulegen. Darauf ist nicht einzutreten. Das gilt auch für die Behauptung, die Beschwerdegegnerin sei zum Bezug von Tantiemen berechtigt. Mit Bezug auf das entsprechende Auskunftsbegehren wird nicht kritisiert, dass dieses vom Obergericht in Verletzung von Art. 29 Abs. 2 BV abgelehnt oder übergangen worden sei, weshalb es als unzulässig gemäss Art. 99 Abs. 2 BGG zu gelten hat.
2.2.2 In diesem Zusammenhang macht der Beschwerdeführer weiter geltend, da die Beschwerdegegnerin über ein Englischdiplom verfüge und Gruppenleiterin für E._ (fernöstliche Religion) sei, auf ihrer Homepage tibetische Klangmassage zum Preis von Fr. 50.-- für die erste Sitzung und für die folgenden Fr. 90.-- verlange, sei ihr ein hypothetisches Einkommen von brutto Fr. 5'000.-- monatlich anzurechnen. In der Beschwerdeschrift wird nicht dargetan, dass diese Argumente bereits im Appellationsverfahren prozesskonform vorgebracht wurden, weshalb sie Noven darstellen und unzulässig sind.
2.2.3 Zur Leistungsfähigkeit des Beschwerdeführers wird im angefochtenen Urteil - zusammengefasst - ausgeführt (E. 3.3), als Geschäftsleiter und Verwaltungsratspräsident der D._ AG habe er es in der Hand, sein Gehalt seiner tatsächlich ausgeübten Funktion und Verantwortung in der Gesellschaft anzupassen. Die vorinstanzliche Annahme, dass er ein monatliches Einkommen (inkl. Tantiemen) von Fr. 7'720.-- erzielen könne, sei daher zu korrigieren, und es sei davon auszugehen, dass der Beschwerdeführer zumindest wieder den ursprünglich vereinbarten Jahreslohn von Fr. 90'600.-- brutto erzielen könnte. Damit werde auch seiner etwas eingeschränkten Belastbarkeit gemäss dem Bericht seines Hausarztes vom 28. März 2008 Rechnung getragen. Dazu kämen die Tantiemen von monatlich Fr. 3'500.--.
Der Beschwerdeführer hält dagegen, er habe 2006 einen Burn-out erlitten, von dem er sich nicht erholt habe, weshalb ihm kein hypothetisches Einkommen angerechnet werden könne. Zusammen mit den Tantiemen und dem Verdienst der Beschwerdegegnerin hätten die Parteien nie ein höheres Einkommen als Fr. 68'000.-- jährlich erzielen können, und von einem höheren Einkommen als monatlich Fr. 7'000.--brutto dürfe auch nach der Scheidung nicht ausgegangen werden. Darauf kann nicht eingetreten werden, denn der Beschwerdeführer setzt sich mit den vorstehenden Erwägungen nicht auseinander und begründet nicht, inwiefern diese vor Art. 9 BV nicht Stand halten sollen (E. 1.2 hiervor).
Schliesslich bringt der Beschwerdeführer vor, die obergerichtlichen Ausführungen zum Erfolg der D._ AG beruhten keinesfalls auf seinem Einsatz, sondern vielmehr auf den innovativen Ideen der neuen Geschäftsinhaberin. Es könne nicht verlangt werden, dass die Gesellschaft ihm jahrelang einen Soziallohn ausrichte, welcher nicht seiner tatsächlichen Leistungsfähigkeit entspreche. Die Vorinstanz hat dazu u.a. bemerkt, gemäss Pressemitteilung vom 17. Januar 2007 sei der Beschwerdeführer CEO und Präsident der Gesellschaft und als solcher für die strategische Planung, den Verkauf, die Finanzen sowie für die Geschäftsleitung verantwortlich. Das von ihm gemäss Lohnliste bezogene Brutto-Jahresgehalt von Fr. 48'000.-- (in der angeblichen Funktion "Administration und Verkaufsunterstützung") sei seiner Erfahrung und Verantwortung völlig unangemessen, vor allem wenn man es in Beziehung setze zu den übrigen Gehältern der Angestellten der Gesellschaft (operative Geschäftsleitung Fr. 156'000.--, Entwicklungsleitung Fr. 144'000.--, Produkt-Management Fr. 105'600.--, Verkauf und Projekte Fr. 72'000.--). Die gestützt auf diese Vergleichslöhne gezogene Schlussfolgerung der Vorinstanz, der Beschwerdeführer könne einen Jahreslohn von Fr. 90'600.-- brutto erzielen, kann nicht mit blossen - und unzulässigen - Verweisen auf das Arztzeugnis vom 3. September 2008 und die Anmeldung bei der IV (E. 1.3 hiervor) in Frage gestellt werden. Das Obergericht hat die gesundheitlichen Probleme des Beschwerdeführers nicht übersehen. Er rügt jedoch nicht, die Vorinstanz habe den Begriff der Zumutbarkeit verkannt (dazu: <ref-ruling> ff.) und das von ihr aufgrund von Indizien angerechnete hypothetische Einkommen sei mit dem Willkürverbot nicht zu vereinbaren. Im Übrigen ist eine materielle Rechtsverweigerung nicht schon dann gegeben, wenn eine andere Lösung ebenfalls vertretbar oder gar zutreffender erschiene, sondern nur dann, wenn das Ergebnis schlechterdings mit vernünftigen Gründen nicht zu vertreten ist (<ref-ruling> E. 2a mit Hinweisen; <ref-ruling> E. 3a S. 373). Und dass Letzteres der Fall sein soll, kann mit den bloss appellatorischen Vorbringen des Beschwerdeführers nicht dargetan werden.
3. Auf die Beschwerde kann nach dem Gesagten insgesamt nicht eingetreten werden. Sie erwies sich von vornherein als aussichtslos, womit das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege abzuweisen ist (Art. 64 Abs. 1 BGG). Ausgangsgemäss sind ihm die Verfahrenskosten aufzuerlegen (Art. 66 Abs. 1 BGG). Die Zusprechung einer Parteientschädigung an die Beschwerdegegnerin entfällt, da sie nicht zur Vernehmlassung aufgefordert wurde (vgl. Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, II. Kammer als Appellationsinstanz nach ZPO, schriftlich mitgeteilt.
Lausanne, 3. November 2008
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Raselli Schett