Sachverhalt:
A. Der 1954 geborene A._ meldete sich am 15. Februar 2008 bei der Invalidenversicherung zum Leistungsbezug (Umschulung/ Rente) an. Nach Abklärungen in medizinischer und erwerblicher Hinsicht verneinte die IV-Stelle des Kantons Thurgau mit Vorbescheid vom 1. Juli 2008 und Verfügung vom 10. September 2008 einen Anspruch auf berufliche Massnahmen. Mit Vorbescheid vom 24. März 2009 und Verfügung vom 8. September 2009 sprach sie dem Versicherten sodann nach Einholung eines interdisziplinären Gutachtens vom 24. November 2008 eine Viertelsrente ab 1. März 2008 zu.
B. Die hiegegen erhobene Beschwerde, mit welcher A._ die Zusprechung einer ganzen Invalidenrente beantragen liess, wies das Verwaltungsgericht des Kantons Thurgau mit Entscheid vom 9. Dezember 2009 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ wiederum die Zusprechung einer ganzen Invalidenrente beantragen, eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG; vgl. auch Art. 97 Abs. 1 BGG). Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde ans Bundesgericht zu prüfen, ob der angefochtene Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (u.a.) Bundesrecht verletzt (Art. 95 lit. a BGG), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG). Hingegen hat eine freie Überprüfung des vorinstanzlichen Entscheides in tatsächlicher Hinsicht zu unterbleiben, ausser wenn sich die Beschwerde gegen einen Entscheid über die Zusprechung oder Verweigerung von Geldleistungen der Militär- oder Unfallversicherung richtet (Art. 97 Abs. 2 BGG).
2. Streitig und zu prüfen ist der Anspruch auf eine Rente der Invalidenversicherung. Die Vorinstanz hat in materiell- und beweisrechtlicher Hinsicht die für die Beurteilung des Leistungsanspruchs massgeblichen Grundlagen sowie die diesbezügliche Rechtsprechung zutreffend dargelegt. Darauf wird verwiesen.
3. 3.1 In pflichtgemässer Würdigung der medizinischen Aktenlage hat das kantonale Gericht zutreffend dargelegt, weshalb für die Beurteilung der Arbeitsfähigkeit des Versicherten auf das interdisziplinäre Gutachten der Dres. med. G._, Rheumatologie und Innere Medizin FMH und F._, Psychiatrie und Psychotherapie FMH, vom 24. November 2008 abzustellen ist, wonach dem Beschwerdeführer eine 60-80%ige Arbeitsfähigkeit in allen Tätigkeiten zumutbar ist, und dass daher mit der IV-Stelle von einer 70%igen Arbeitsfähigkeit ausgegangen werden kann. Insbesondere hat die Vorinstanz auch einlässlich dargetan, weshalb die davon abweichenden Einschätzungen des Hausarztes Dr. med. S._ und des behandelnden Psychiaters Dr. med. E._, nicht geeignet sind, die Schlüssigkeit des interdisziplinären Gutachtens in Frage zu stellen.
3.2 Die Einschätzung des noch vorhandenen Leistungsvermögens durch das kantonale Gericht zählt zur vorinstanzlichen Sachverhaltsermittlung, welche einer letztinstanzlichen Überprüfung grundsätzlich entzogen ist ( BGE 132 V 393 E. 3.2 S. 397 ff.). Eine im Sinne von Art. 97 Abs. 1 BGG offensichtlich unrichtige Feststellung des rechtserheblichen Sachverhalts, die einer Korrektur durch das Bundesgericht zugänglich wäre, ist nicht ersichtlich. Daran vermögen die Vorbringen in der Beschwerde nichts zu ändern. Soweit der Vorinstanz eine Missachtung des Grundsatzes der freien Beweiswürdigung und der daraus fliessenden Pflicht zu umfassender, sorgfältiger, objektiver und inhaltsbezogener Beweiswürdigung vorgeworfen wird - was eine Rechtsverletzung wäre -, ist die Rüge unbegründet; denn das kantonale Gericht hat in nachvollziehbarer Weise dargelegt, warum es nicht der durch die Dres. med. S._ und E._ vertretenen Gesamtarbeitsunfähigkeit von 100 % gefolgt ist, auf welche sich der Beschwerdeführer beruft. In diesem Zusammenhang kann auch auf die beweisrechtlich bedeutsame Verschiedenheit von Behandlungs-/Therapieauftrag einerseits und Begutachtungsauftrag andererseits (vgl. BGE 124 I 170 E. 4 S. 175; s. auch Urteil 8C_1033/2009 vom 19. März 2010 E. 2.2.1) verwiesen werden. Der eventualiter beantragten Beweisweiterungen bedarf es nicht.
3.3 Die konkrete Invaliditätsbemessung durch Einkommensvergleich rügt der Beschwerdeführer zu Recht nicht. Es besteht kein Anlass zu einer näheren Prüfung.
4. Die Beschwerde hatte keine Aussicht auf Erfolg, weshalb sie im vereinfachten Verfahren nach Art. 109 BGG als offensichtlich unbegründet (Abs. 2 lit. a), ohne Durchführung des Schriftenwechsels, mit summarischer Begründung und unter Verweis auf den vorinstanzlichen Entscheid, erledigt wird.
5. Die Gerichtskosten werden dem Beschwerdeführer als unterliegender Partei auferlegt (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Thurgau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 28. Juli 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Kopp Käch