Sachverhalt:
A. Mit Verfügung vom 5. März 2007 lehnte die IV-Stelle des Kantons Solothurn den Anspruch des 1953 geborenen F._ auf eine Invalidenrente und berufliche Eingliederungsmassnahmen ab, weil der Invaliditätsgrad nur 10 % betrage.
B. Die hiegegen eingereichte Beschwerde, mit welcher F._ die Zusprechung einer Dreiviertelsrente der Invalidenversicherung beantragt hatte, wies das Versicherungsgericht des Kantons Solothurn gestützt auf einen Invaliditätsgrad von 39,46 % ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt F._ das vorinstanzlich gestellte Rechtsbegehren erneuern. Ferner ersucht er um die Bewilligung der unentgeltlichen Rechtspflege.
Während die IV-Stelle und das kantonale Gericht auf Abweisung der Beschwerde schliessen, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>). Schliesslich darf das Bundesgericht nicht über die Begehren der Parteien hinausgehen (<ref-law>).
2. Die Vorinstanz hat die Bestimmungen und Grundsätze über die Voraussetzungen und den Umfang des Rentenanspruchs (<ref-law>), die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (<ref-law>), die Bedeutung ärztlicher Auskünfte für die Belange der Invaliditätsschätzung (<ref-ruling> f. E. 2, 105 V 156 E. 1 S. 158) zutreffend wiedergegeben. Darauf kann verwiesen werden.
3. 3.1 Nach den verbindlichen Feststellungen des Versicherungsgerichts ist gestützt auf das Gutachten des Dr. med. L._, Innere Medizin und Rheumaerkrankungen, vom 14. September 2006 von einer Einschränkung in der Arbeitsfähigkeit für leichte, wechselbelastende Tätigkeiten von 20 Prozent auszugehen. Das Vorbringen des Beschwerdeführers, er wäre im Gesundheitsfall nur teilzeitlich tätig gewesen, ist ein unzulässiges Novum (Art. 99 BGE). Mit Recht hat die Vorinstanz den Invaliditätsgrad anhand eines Einkommensvergleichs ermittelt.
3.2 In erwerblicher Hinsicht stellte die Vorinstanz hinsichtlich des hypothetischen Einkommens ohne Invalidität (Valideneinkommen) auf den Lohn ab, den der Beschwerdeführer bei der C._ SA, bei welcher er seit 1996 zunächst vollzeitlich gearbeitet hat und seit 2002 noch in einem Teilzeitpensum von 40 % tätig ist, im Jahr 2005 in einem vollen Pensum hätte verdienen können. Diese Einkünfte von Fr. 88'380.- im Jahr passte sie an die Nominallohnentwicklung per 2006 an, womit sich ein Valideneinkommen von Fr. 89'352.- ergab. Diesem stellte sie zunächst ein Einkommen von Fr. 75'129.- gegenüber, das sich aus den Salärempfehlungen 2006 des kaufmännischen Verbandes ergab, reduzierte diesen Betrag um 20 % zufolge eingeschränkter Leistungsfähigkeit und nahm zudem einen leidensbedingten Abzug von 10 % vor, sodass ein Invalideneinkommen von Fr. 54'093.- resultierte. Aus dem Vergleich der beiden hypothetischen Einkommen ermittelte das kantonale Gericht eine Einkommenseinbusse von Fr. 35'259.-, entsprechend einem Invaliditätsgrad von 39,46 %.
3.3 Wie das Eidgenössische Versicherungsgericht im Urteil I 708/06 vom 23. November 2006 in Bestätigung früherer Urteile dargelegt hat, ist für die Ermittlung des Invalideneinkommens bei Fehlen eines tatsächlich erzielten Erwerbseinkommens grundsätzlich nicht auf die unverbindlichen Empfehlungen des Kaufmännischen Verbandes abzustellen, sondern auf die (auf tatsächlich erzielten Gehältern beruhenden) Tabellenlöhne gemäss Lohnstrukturerhebung des Bundesamtes für Statistik (LSE). Die gegenteilige Vorgehensweise der Vorinstanz hatte das Gericht als rechtsfehlerhaft bezeichnet. Die Salärempfehlungen des Kaufmännischen Verbandes hat das Eidgenössische Versicherungsgericht nur in Ausnahmefällen beigezogen, namentlich wenn diese (ausnahmsweise) bereits Grundlage für die Ermittlung des Valideneinkommens bildeten. Da es sich bei den nach Gesetz und Rechtsprechung geltenden Regeln über die Durchführung des Einkommensvergleichs, einschliesslich derjenigen über die Anwendung der LSE und der Dokumentation von Arbeitsplätzen, um Rechtsfragen handelt (<ref-ruling> E. 3.3 S. 399), ist das Bundesgericht in diesem Punkt nicht an die Feststellungen der Vorinstanz gebunden.
3.4 Gemäss der Tabelle TA 1 der LSE 2004, Sektor Dienstleistungen, betrug der Durchschnittslohn von Männern im Anforderungsniveau 3 (Berufs- und Fachkenntnisse vorausgesetzt) im Jahr 2004 bei 40 Arbeitsstunden in der Woche Fr. 5496.- im Monat (Fr. 65'952.-). Da dieser standardisierte Lohn auf einer 40-Stunden-Woche basiert, müsste er der durchschnittlichen Arbeitszeit von 41,7 Stunden angepasst werden (Die Volkswirtschaft 4/2008, Tabelle B 9.2, S. 90), womit sich ein Betrag von rund Fr. 68'755.- (Fr. 65'952.- / 40 x 41,7) ergäbe. Dieser wäre alsdann noch der Nominallohnentwicklung 2004 - 2006 anzugleichen, die gemäss Bundesamt für Statistik in diesem Zeitraum 2 % betrug, sodass sich ein Einkommen von Fr. 70'130.- ergibt. Hievon ist zunächst die Reduktion von 20 % für die Einschränkung in der Arbeitsfähigkeit vorzunehmen. Vom Resultat von Fr. 56'104.- (80 % x Fr. 70'130.-) ist schliesslich der leidensbedingte Abzug von 10 % vorzunehmen, dessen Festlegung als Ermessenfrage einer Korrektur durch das Bundesgericht nur mehr dort zugänglich ist, wo das kantonale Gericht das Ermessen rechtsfehlerhaft ausgeübt hat, also Ermessensüberschreitung, -missbrauch oder -unterschreitung vorliegt (vgl. <ref-ruling> E. 3.3 S. 399), was hier nicht zutrifft. Es resultiert demnach ein Invalideneinkommen von höchstens Fr. 50'494.-. Verglichen mit dem unbestritten gebliebenen Valideneinkommen von Fr. 89'352.- beläuft sich die Erwerbseinbusse auf Fr. 38'858.-. Der Invaliditätsgrad beträgt somit 43,48 % (Fr. 38'858.- x 100 / Fr. 89'352.-). Der Versicherte hat demzufolge Anspruch auf eine Viertelsrente der Invalidenversicherung. Nachdem die Arbeitsunfähigkeit von mindestens 40 % im Zeitpunkt der Anmeldung bei der Invalidenversicherung (am 4. Februar 2005) gemäss den medizinischen Unterlagen im Sinne von <ref-law> schon seit über einem Jahr bestanden hatte, und dannzumal eine Invalidität von über 40 Prozent vorlag, ist der Rentenbeginn antragsgemäss auf den 1. Februar 2005 festzusetzen; eine Prüfung der Frage, ob der Rentenanspruch allenfalls bereits in einem früheren Zeitpunkt entstanden ist, entfällt mit Blick auf <ref-law>.
4. Der Beschwerdeführer obsiegt teilweise, indem ihm anstelle der beantragten Dreiviertelsrente eine Viertelsrente zugesprochen wird. Diesem Verfahrensausgang entsprechend sind die Gerichtskosten den Parteien je zur Hälfte aufzuerlegen (<ref-law>). Überdies hat der Versicherte Anspruch auf eine reduzierte Parteientschädigung zu Lasten der IV-Stelle (<ref-law>). Soweit er nicht obsiegt, ist ihm die unentgeltliche Rechtspflege zu gewähren, da die Beschwerde nicht als aussichtslos erscheint, die Bedürftigkeit aktenkundig ist und die anwaltliche Vertretung geboten war (Art. 64 Abs. 1 und 2 BGG). Der Beschwerdeführer hat der Gerichtskasse Ersatz zu leisten, wenn er später dazu in der Lage ist (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen. Der Entscheid des Versicherungsgerichts des Kantons Solothurn vom 12. Februar 2008 und die Verfügung der IV-Stelle des Kantons Solothurn vom 5. März 2007 werden insoweit abgeändert, als dem Beschwerdeführer ab 1. Februar 2005 eine Viertelsrente der Invalidenversicherung zugesprochen wird. Im Übrigen wird die Beschwerde abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Von den Gerichtskosten von Fr. 700.- werden Fr. 350.- dem Beschwerdeführer und Fr. 350.- der Beschwerdegegnerin auferlegt. Der Anteil des Beschwerdeführers wird vorläufig auf die Gerichtskasse genommen.
4. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1300.- zu entschädigen.
5. Rechtsanwältin Martina Fausch, Wallisellen, wird als unentgeltliche Anwältin des Beschwerdeführers bestellt, und es wird ihr für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 1300.- ausgerichtet.
6. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn, dem AHV-Ausgleichskasse FER-CIFA und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 8. Juni 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Lustenberger Widmer