Sachverhalt: A. Nachdem ein erstes Leistungsbegehren mit Verfügung vom 28. August 2003 abgewiesen worden war, meldete sich der 1950 geborene, seit 1972 in der Schweiz im Baugewerbe und in der holzverarbeitenden Industrie tätig gewesene J._ unter Hinweis auf Rückenschmerzen im Juni 2004 erneut bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen in medizinischer und erwerblicher Hinsicht, insbesondere einem Gutachten der ärztlichen Begutachtungsstelle X._ vom 24. Januar 2006, wies die IV-Stelle des Kantons St. Gallen mit Verfügung vom 13. April 2006 den Rentenanspruch gestützt auf einen Invaliditätsgrad von 0 % ab und hielt mit Einspracheentscheid vom 17. Januar 2007 daran fest. B. Die dagegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 3. September 2008 ab. C. J._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheides sei ihm ab Mai 2005 mindestens eine halbe IV-Rente zuzusprechen. Eventualiter sei die Sache im Sinne der Erwägungen an die Vorinstanz zurückzuweisen. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen (BSV) auf eine Vernehmlassung.