Sachverhalt: A. Der 1969 geborene B._ meldete sich am 12. November 2003 bei der Invalidenversicherung zum Leistungsbezug an. Nach medizinischen und beruflichen Abklärungen, namentlich unter Beachtung des polydisziplinären Gutachtens des Instituts X._, vom 13. November 2008 sprach die IV-Stelle des Kantons Solothurn ab 1. Januar 2004 bis 31. März 2004 eine halbe und ab 1. April 2004 bis 28. Februar 2009 eine ganze Rente der Invalidenversicherung zu. Für die Zeit danach verneinte sie einen Anspruch auf Rentenleistungen (Verfügungen vom 17. Juli 2009). B. B._ liess hiegegen vor Versicherungsgericht des Kantons Solothurn Beschwerde erheben und u.a. beantragen, es sei ab 1. Januar 2004 eine ganze Invalidenrente und ab 28. Februar 2009 eine Rente bei einem Invaliditätsgrad von mindestens 40 % (inkl. Verzugszins) zuzusprechen zudem seien berufliche Massnahmen zu gewähren. Das Versicherungsgericht des Kantons Solothurn wies mit Entscheid vom 7. Oktober 2010 die Beschwerde gegen die Verfügungen vom 17. Juli 2009 ab. C. Gegen den Entscheid vom 7. Oktober 2010 lässt B._ Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen einreichen, es sei ab 1. Januar 2004 eine ganze Invalidenrente und über den 28. Februar 2009 hinaus eine Rente bei einem Invaliditätsgrad von zumindest 50 %, zuzüglich Verzugszins von 5 %, zuzusprechen. Eventualiter sei die Sache zu neuer Abklärung an die Verwaltung zurückzuweisen. Die IV-Stelle und Vorinstanz beantragen die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Stellungnahme.