Sachverhalt:
A. Der 1950 geborene F._ bezog seit Dezember 1996 eine ganze Invalidenrente. Zufolge Verbesserung der gesundheitlichen Verhältnisse und der Arbeitsfähigkeit setzte die IV-Stelle Luzern die ganze Rente mit Verfügung vom 29. Juni 2005 auf den 31. August 2005 revisionsweise auf eine Viertelsrente bei einem Invaliditätsgrad von 42 % herab, woran sie auf Einsprache hin mit Entscheid vom 16. November 2006 festhielt.
B. Die von F._ hiegegen eingereichte Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 28. November 2007 ab.
C. F._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Anträgen, unter Aufhebung des vorinstanzlichen Entscheides sei ihm ab 1. September 2005 weiterhin eine ganze, allenfalls eine Dreiviertels- oder eine halbe Invalidenrente auszurichten; eventuell sei die Sache zu ergänzenden Abklärungen in medizinischer Hinsicht und neuer Verfügung über den Rentenanspruch an die Verwaltung zurückzuweisen; subeventuell sei die Invalidenrente erst auf den 1. Januar 2006 herabzusetzen.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2. Im Einspracheentscheid, auf welchen sich die Vorinstanz bezieht, und im angefochtenen Entscheid sind die Bestimmungen und Grundsätze über den Umfang des Rentenanspruchs (<ref-law>), die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (<ref-law>) sowie die Revision der Invalidenrente (<ref-law>; <ref-ruling> E. 2 S. 369) und die dabei zu vergleichenden Sachverhalte (<ref-ruling> E. 2 S. 369) richtig wiedergegeben. Darauf kann verwiesen werden.
3. 3.1 Das Verwaltungsgericht hat in eingehender, pflichtgemässer Würdigung der medizinischen Unterlagen festgestellt, dass sich der Gesundheitszustand des Versicherten seit März 2001 verbessert habe; insbesondere sei sein Krebsleiden geheilt und Kniebeschwerden lägen nicht mehr vor; in einer angepassten Tätigkeit ohne Heben schwerer Lasten sei der Beschwerdeführer voll arbeitsfähig.
3.2 Da der rechtserhebliche medizinische Sachverhalt hinreichend abgeklärt ist, erübrigen sich zusätzliche ärztliche Untersuchungen. Hievon können keine neuen Erkenntnisse erwartet werden, welche abweichende Folgerungen nahelegen würden. Die Einwendungen in der Beschwerde sind nicht geeignet, die vorinstanzlichen Feststellungen zur Entwicklung des Gesundheitszustandes und der Arbeitsunfähigkeit als offensichtlich unrichtig oder auf einer Bundesrechtsverletzung beruhend erscheinen zu lassen. Vielmehr äussert der Versicherte über weite Strecken appellatorische Kritik an der vorinstanzlichen Beweiswürdigung, welche im Rahmen der letztinstanzlich geltenden eingeschränkten Überprüfungsbefugnis nicht gehört werden kann.
3.3 Soweit der Beschwerdeführer sich gegen den vom kantonalen Gericht vorgenommenen Einkommensvergleich wendet, der einen Invaliditätsgrad von 43 % ergeben hat, was den Anspruch auf eine Viertelsrente begründet, ist auf die Erwägungen der Vorinstanz zu verweisen. Diese hat richtig dargelegt, dass der vom Versicherten tatsächlich erzielte Lohn nicht als Invalideneinkommen gelten kann, weil er damit seine Leistungsfähigkeit nicht in zumutbarer Weise ausschöpft, weshalb das Invalideneinkommen anhand der Tabellenlöhne gemäss der Schweizerischen Lohnstrukturerhebung des Bundesamtes für Statistik festzusetzen ist. Wenn in der Beschwerde der von der Vorinstanz auf 10 % festgesetzte leidensbedingte Abzug vom Tabellenlohn als zu tief kritisiert und stattdessen ein Abzug von 25 % als gerechtfertigt erachtet wird, ist dem Versicherten entgegenzuhalten, dass die Frage nach der Höhe des (im konkreten Fall grundsätzlich angezeigten) Leidensabzuges eine typische Ermessensfrage ist, deren Beantwortung letztinstanzlicher Korrektur nurmehr dort zugänglich ist, wo das kantonale Gericht das Ermessen rechtsfehlerhaft ausgeübt hat, also Ermessensüberschreitung, -missbrauch oder -unterschreitung vorliegt (<ref-ruling> E. 3.3 S. 399). Dass die Vorinstanz ihr Ermessen rechtsfehlerhaft ausgeübt habe, vermag der Beschwerdeführer nicht zu begründen. Ob die von ihm vorgetragenen Argumente im Rahmen einer Ermessenskontrolle zu einem abweichenden Resultat zu führen vermöchten, ist nicht zu prüfen. Ebenso wenig zu beurteilen ist die Höhe des Invalidenrentenanspruchs ab 1. Januar 2008. Denn massgebend für die gerichtliche Beurteilung sind die tatsächlichen Verhältnisse, wie sie sich bis zum Erlass des Einspracheentscheides (vom 16. November 2006) entwickelt haben. <ref-law> in der ab 1. Januar 2008 in Kraft stehenden Fassung vom 6. Oktober 2006 wiederum ist im vorliegenden Fall nicht anwendbar, weil in zeitlicher Hinsicht grundsätzlich diejenigen Rechtssätze relevant sind, die bei der Verwirklichung des zu Rechtsfolgen führenden Sachverhalts in Geltung standen (<ref-ruling> E. 1.2.1 S. 446 f., 129 V 1 E. 1.2 S. 4).
3.4 Nicht zu beanstanden ist schliesslich, dass die Vorinstanz die revisionsweise Herabsetzung der ganzen auf eine Viertelsrente der Invalidenversicherung auf den 31. August 2005 gestützt auf <ref-law> bestätigt hat. Wie die IV-Stelle in der Vernehmlassung unter Hinweis auf die auch in diesem Punkt verbindlichen Feststellungen der Vorinstanz zu Recht bemerkt hat, dauerte die Verbesserung des Gesundheitszustandes zum Zeitpunkt der Rentenherabsetzung bereits mehr als drei Monate an.
4. Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse des Schweizerischen Baumeisterverbandes und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 8. Mai 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
i.V. Lustenberger Widmer