Sachverhalt: A. Der 1965 geborene, zuletzt als Werkzeugmechaniker tätige L._ meldete sich am 3. September 2003 bei der IV-Stelle des Kantons St. Gallen unter Hinweis auf Rücken- und Beinprobleme zum Leistungsbezug (Berufsberatung, Umschulung und Rente) an. Nach diversen medizinischen Abklärungen insbesondere dem Beizug eines polydisziplinären Gutachtens des Dr. med. B._, Spezialarzt FMH Innere Medizin, FMH Physikalische Medizin und Rehabilitation, Spez. Rheumaerkrankungen und des Dr. med. V._, FMH Psychiatrie und Psychotherapie (vom 22. Mai 2004/3. Juni 2004) verneinte die IV-Stelle mit Verfügung vom 14. Dezember 2005, bestätigt mit Einspracheentscheid vom 7. August 2006, einen Rentenanspruch des Versicherten basierend auf einem Invaliditätsgrad von 37 %. B. Die dagegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 17. Oktober 2007 bei einem Invaliditätsgrad von 38 % ab. C. Der Versicherte lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Rechtsbegehren, in Aufhebung des kantonalen Gerichtsentscheides sei ihm spätestens ab 1. Juli 2004 eine ganze Invalidenrente zuzusprechen, eventuell sei die Sache zu weiteren medizinischen Abklärungen an die Vorinstanz oder die Verwaltung zurückzuweisen. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.