Sachverhalt: A. Der 1962 geborene P._ war zuletzt im Jahr 1999 als Gruppenleiter bei der Firma R._ AG tätig und anschliessend arbeitslos. Nachdem er am 21. Januar 2001 beim Skifahren auf den Rücken gestürzt war, meldete er sich am 26. September 2001 unter Hinweis auf eine seit dem Unfall bestehende Diskushernie bei der Invalidenversicherung zum Leistungsbezug (Umschulung, Rente) an. Die Schweizerische Unfallversicherungsanstalt (SUVA) hatte P._ mit Verfügung vom 31. Juli 2002 ab 1. September 2002 eine Invalidenrente entsprechend einer Erwerbsunfähigkeit von 27 % zugesprochen, hob diese Verfügung auf Einsprache hin jedoch auf und gewährte dem Versicherten mit Verfügung vom 24. Juli 2003 ab 1. September 2002 eine Invalidenrente aufgrund einer Erwerbsunfähigkeit von nunmehr 58 %. Mit Verfügung vom 5. Dezember 2002 hatte die IV-Stelle des Kantons Zürich - ausgehend von einem Invaliditätsgrad von 27 % - einen Leistungsanspruch von P._ verneint. Nachdem das Sozialversicherungsgericht des Kantons Zürich eine hiegegen erhobene Beschwerde mit Entscheid vom 18. November 2003 in dem Sinne gutgeheissen hatte, als es die Sache zur ergänzenden medizinischen Abklärung und neuen Verfügung an die IV-Stelle zurückwies, liess diese den Versicherten im Zentrum X._ polydisziplinär abklären. Gestützt auf das Gutachten vom 10. Januar 2006 verneinte die IV-Stelle mit Verfügung vom 7. April 2006 - ausgehend von einem Invaliditätsgrad von 24 % - erneut einen Leistungsanspruch. Mit Einspracheentscheid vom 14. August 2006 hielt sie an ihrem Standpunkt fest. B. Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 7. Dezember 2007 ab. C. P._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, es sei ihm eine Invalidenrente entsprechend einem Erwerbsunfähigkeitsgrad von 70 %, zumindest aber von 58 % gemäss Verfügung der SUVA vom 23. (recte 24.) Juli 2003 zuzusprechen, eventualiter sei die Angelegenheit zur Neubeurteilung des Invaliditätsgrades und der sich daraus ergebenden Rente an die IV-Stelle zurückzuweisen. Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.