Sachverhalt:
A. A.a Der 1950 geborene M._ meldete sich am 9. März 1998 bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 28. Juli 2000 lehnte die IV-Stelle Zürich die Zusprechung einer Invalidenrente ab. Das Sozialversicherungsgericht des Kantons Zürich hiess die hiegegen erhobene Beschwerde mit Entscheid vom 31. Oktober 2001 in dem Sinne teilweise gut, dass es die Verfügung vom 28. Juli 2000 aufhob und die Sache an die IV-Stelle zurückwies, damit diese nach Durchführung ergänzender Abklärungen im Sinne der Erwägungen über den Rentenanspruch neu verfüge.
A.b Die IV-Stelle des Kantons Zürich holte hierauf ein Gutachten der Medizinischen Abklärungsstelle (Medas) vom 30. Januar 2003 ein und zog die Akten der SUVA betreffend einem Arbeitsunfall bei, den der Versicherte am 13. Januar 1997 erlitten hatte. Nach Durchführung des Vorbescheidverfahrens sprach sie ihm mit Verfügungen vom 6. Juni 2007 und 19. Juli 2007 rückwirkend ab 1. Januar 1998 eine halbe Invalidenrente nebst einer Kinderrente auf der Grundlage eines Invaliditätsgrades von 58 % zu.
B. M._ liess Beschwerde führen mit dem Rechtsbegehren, es sei ihm ab 1. Januar 1998 eine ganze Invalidenrente zuzusprechen. Mit Entscheid vom 31. Januar 2008 wies das Sozialversicherungsgericht des Kantons Zürich die Beschwerde ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt M._ sein vorinstanzliches Rechtsbegehren erneuern und ersucht um Bewilligung der unentgeltlichen Rechtspflege.
Die IV-Stelle beantragt Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen (BSV) hat auf eine Vernehmlassung verzichtet.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann gemäss Art. 95 und 96 BGG nur wegen Rechtsverletzung erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhaltes durch die Vorinstanz kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG).
1.2 Der Beschwerdeführer, welcher die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen gemäss Art. 97 Abs. 1 BGG gegeben sind. Er hat im Einzelnen darzulegen, weshalb die beanstandeten Feststellungen offensichtlich unrichtig sind, und zudem aufzuzeigen, dass das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre (vgl. Botschaft zur Totalrevision der Bundesrechtspflege, BBl 2001 S. 4338). Ergänzungen des Sachverhalts haben nur zu erfolgen, soweit sie entscheidwesentliche Tatsachen betreffen (Art. 97 Abs. 1 BGG; vgl. BGE 132 III 209 E. 2.1 S. 211, 545 E. 3.3.2 S. 548; 111 II 471 E. 1c S. 473, je mit Hinweisen).
2. Das kantonale Gericht hat die Rechtsgrundlagen in ihrer intertemporalrechtlich massgebenden Fassung und die von der Rechtsprechung entwickelten Grundsätze, welche bei der Beurteilung des streitigen Anspruches auf eine ganze Invalidenrente zu beachten sind, mittels Verweisung auf seinen Rückweisungsentscheid vom 31. Oktober 2001 zutreffend dargelegt: zum Begriff der Invalidität (bis 31. Dezember 2002: Art. 4 Abs. 1 aIVG in der bis 31. Dezember 2002 in Kraft gewesenen Fassung; ab 1. Januar 2003: Art. 4 Abs. 1 IVG in Verbindung mit Art. 8 Abs. 1 ATSG), zu den Voraussetzungen und zum Umfang des Anspruches auf eine Rente der Invalidenversicherung (bis 31. Dezember 2003: Art. 28 Abs. 1 und Abs. 1bis aIVG in der bis 31. Dezember 2003 in Kraft gewesenen Fassung; ab 1. Januar 2004: Art. 28 Abs. 1 IVG in der seit 1. Januar 2004 geltenden Fassung), zum Beginn des Rentenanspruches (bis 31. Dezember 2002: Art. 29 Abs. 1 lit. a und b aIVG in der bis 31. Dezember 2002 in Kraft gewesenen Fassung; ab 1. Januar 2003: Art. 29 Abs. 1 lit. a und b IVG in Verbindung mit Art. 6 und 7 ATSG), zur Invaliditätsbemessung bei Erwerbstätigen nach der allgemeinen Methode des Einkommensvergleichs (bis 31. Dezember 2002: Art. 28 Abs. 2 aIVG in der bis 31. Dezember 2002 in Kraft gewesenen Fassung; ab 1. Januar 2003: Art. 16 ATSG; BGE 128 V 29 E. 1 S. 30, 104 V 135 E. 2a und b S. 136; vgl. auch BGE 130 V 343 E. 3.4 S. 348).
3. 3.1 Streitig ist der Anspruch auf eine ganze Invalidenrente, wobei nur noch die Frage nach der Höhe des für den Einkommensvergleich massgebenden Valideneinkommens, also ein für die Höhe des Invaliditätsgrades und damit für den Umfang des Rentenanspruches entscheidwesentliches Teilelement zu beurteilen ist.
3.2 Der Versicherte vertritt die Auffassung, es sei "in erster Linie" die Frage streitig, ob ihm "zusätzlich zum Grundlohn eine vom Geschäftsergebnis abhängige Umsatzbeteiligung zustand oder nicht". Dabei gehe es um die "rechtliche Qualifikation" dieser "Zuwendung" - als beitragsfreier Kapitalertrag oder beitragspflichtiges Erwerbseinkommen - und somit um eine vom Bundesgericht frei überprüfbare Rechtsfrage. Dieser Rechtsauffassung kann nicht beigepflichtet werden.
3.3 Die Feststellung der beiden für den Einkommensvergleich massgebenden Vergleichseinkommen ist eine Tatfrage. Um eine Rechtsfrage geht es dabei nur insoweit, als der Richter bei der Ermittlung der beiden Vergleichseinkommen auf die allgemeine Lebenserfahrung und damit auf normative Hypothesen abstellt (BGE 132 V 393 E. 3.3 S. 399). Dass und inwiefern das kantonale Gericht im vorliegenden Fall das Valideneinkommen auf der Grundlage solcher Erfahrungssätze ermittelt hätte, wird vom Beschwerdeführer weder dargelegt noch geht solches aus dem angefochtenen Entscheid hervor.
3.4 Was der Beschwerdeführer vortragen lässt, sind ausschliesslich Sachverhaltsrügen, mit denen er im Kern die Beweiswürdigung des kantonalen Gerichts beanstandet, wonach die Leistung von Provisionen in der Höhe von je Fr. 50'000.-- in den Jahren 1996 und 1997 durch die Firma X._ an ihn selbst nicht mit dem erforderlichen Beweismass der überwiegenden Wahrscheinlichkeit nachgewiesen ist. Dass der Versicherte seine appellatorische Kritik der vorinstanzlichen Beweiswürdigung unter die AHV-beitragsrechtlich relevante Unterscheidung von massgebendem Lohn (Art. 5 Abs. 2 AHVG) und nicht der AHV-Beitragspflicht von Selbständigerwerbenden unterliegendem Kapitalertrag (Art. 9 Abs. 2 lit. f AHVG) subsumiert, ändert nichts. Denn diese AHV-rechtlichen Fragen sind im vorliegenden Verfahren irrelevant und werden nur zwecks Verschleierung der rechtserheblichen Tatfrage nach der Höhe des mutmasslich im Jahr des Rentenbeginns, das heisst im Jahre 1998 erzielten Valideneinkommens, vorgetragen.
3.5 In der Beschwerde wird in keiner Weise dargelegt, inwiefern die Vorinstanz von offensichtlich unrichtigen Tatsachen ausgegangen und weshalb ihre gesamthafte Würdigung des Sachverhaltes krass falsch sein soll, wonach die beiden massgebenden hypothetischen Vergleichseinkommen im Jahre 1998 auf Fr. 62'850.-- (Valideneinkommen) und Fr. 25'751.40 (Invalideneinkommen) zu beziffern sind und der Invaliditätsgrad demgemäss 59 % beträgt. Ebenso wenig ergibt sich aus den Vorbringen die Entscheidwesentlichkeit von offensichtlich unrichtigen oder auf einer Rechtsverletzung beruhenden Tatsachenfeststellungen, was zur Bestätigung des vorinstanzlichen Entscheids führt.
4. Die unentgeltliche Rechtspflege setzt voraus, dass eine Partei bedürftig ist und ihr Rechtsbegehren nicht aussichtslos erscheint (Art. 64 Abs. 1 BGG). Die hier ausschlaggebende Frage, ob der Beschwerdeführer in den Jahren 1996 und 1997 abweichend von den sozialversicherungsrechtlich und steuerlich deklarierten Erwerbseinkünften zusätzliches unselbständiges Erwerbseinkommen von Fr. 100'000.-- erzielt hat oder nicht, ist bisher vier Mal verwaltungsgerichtlich beurteilt und jedes Mal verneint worden; nämlich in der arbeitslosenversicherungsrechtlichen Streitsache mit Entscheid der Vorinstanz vom 23. November 2004 und mit Urteil des Eidgenössischen Versicherungsgerichts vom 23. Januar 2006, mit dem hier angefochtenen vorinstanzlichen Entscheid vom 31. Januar 2008, sowie im unfallversicherungsrechtlichen Beschwerdeverfahren mit Entscheid der Vorinstanz gleichen Datums. Bei einer solchen Konstellation hätte eine Partei, die über die nötigen finanziellen Mittel verfügt, sich bei vernünftiger Überlegung nicht entschlossen, zur gleichen Tatfrage noch ein fünftes verwaltungsgerichtliches Beschwerdeverfahren anzustrengen. Dem Beschwerdeführer sind daher wegen Aussichtslosigkeit ausgangsgemäss die Gerichtskosten aufzuerlegen (Art. 96 Abs. 1 BGG) und die unentgeltliche Verbeiständung kann ihm nicht gewährt werden. Die Frage seiner Bedürftigkeit kann offen bleiben.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 27. August 2008
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Polla