Sachverhalt:
A. P._, geboren 1977, war vom 1. August 2000 bis 30. April 2001 als Mitarbeiter bei der Firma G._ AG angestellt. In der Folge bezog er Leistungen der Arbeitslosenversicherung. Nachdem die IV-Stelle des Kantons Aargau mit Verfügung vom 2. September 2002, bestätigt mit Entscheid des Versicherungsgerichts des Kantons Aargau vom 25. Februar 2003, den Anspruch auf berufliche Massnahmen abgelehnt hatte, meldete sich P._ am 21. Juli 2003 erneut zum Leistungsbezug an. Mit Verfügungen vom 2. Juli 2007 verneinte die IV-Stelle nach verschiedenen Abklärungen, darunter auch berufliche Massnahmen in den Jahren 2003 und 2004, den Anspruch auf eine Invalidenrente sowie auf (weitere) berufliche Massnahmen.
B. Das Versicherungsgericht des Kantons Aargau wies die dagegen erhobene Beschwerde mit Entscheid vom 21. Mai 2008 ab.
C. P._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, es seien der vorinstanzliche Entscheid sowie die Verfügungen vom 2. Juli 2007 aufzuheben und ihm die gesetzlichen Leistungen nach IVG bei einem Invaliditätsgrad von 70 % zuzusprechen. Eventualiter sei die Sache zur weiteren Abklärung an die IV-Stelle zurückzuweisen. Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzung im Sinne von Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 2 BGG; vgl. zur Invaliditätsbemessung auch <ref-ruling>).
2. Die Vorinstanz hat die Bestimmungen und Grundsätze über das zeitlich anwendbare Recht (<ref-ruling> E.3.1 S. 220 mit Hinweis), die Begriffe der Invalidität (Art. 4 Abs. 1 IVG in Verbindung mit Art. 8 Abs. 1 ATSG), der Erwerbsunfähigkeit (Art. 7 ATSG in der bis 31. Dezember 2007 geltenden Fassung) und der Arbeitsunfähigkeit (Art. 6 ATSG), den Anspruch auf eine Invalidenrente (Art. 28 Abs. 1 IVG in der bis 31. Dezember 2007 geltenden Fassung) und die Ermittlung des Invaliditätsgrades nach der allgemeinen Methode des Einkommensvergleichs (Art. 28 Abs. 2 IVG in der bis 31. Dezember 2007 geltenden Fassung in Verbindung mit Art. 16 ATSG; <ref-ruling> E. 1 S. 30 mit Hinweisen), einschliesslich des Begriffs des ausgeglichenen Arbeitsmarktes (vgl. etwa Urteil U 463/00 vom 28. Oktober 2003, E. 3.4 mit Hinweisen), zutreffend dargelegt. Dasselbe gilt für den erforderlichen Beweisgrad der überwiegenden Wahrscheinlichkeit (<ref-ruling> E. 5b S. 360 mit Hinweisen), die Aufgabe des Arztes bei der Ermittlung des Invaliditätsgrades (<ref-ruling> E. 4 S. 99 mit Hinweisen) und die Anforderungen an einen ärztlichen Bericht sowie dessen beweisrechtliche Würdigung (<ref-ruling> E. 3a S. 352 mit Hinweisen). Auch die rechtlichen Ausführungen über Eingliederungsmassnahmen allgemein (Art. 8 IVG) sowie den Anspruch auf Berufsberatung (Art. 15 IVG), Umschulung (Art. 17 IVG; AHI 2000 S. 25 E. 2b und S. 61 E. 1) und Arbeitsvermittlung (Art. 18 IVG; SVR 2003 IV Nr. 7 S. 19 E. 2c [I 421/01]) sind richtig. Darauf wird verwiesen.
3. Streitig und zu prüfen ist der Anspruch des Versicherten auf eine Invalidenrente sowie auf berufliche Massnahmen.
4. Die Vorinstanz hat unter einlässlicher und überzeugender Begründung gestützt auf das Gutachten des Instituts X._ vom 17. November 2006 und des ergänzenden Schreibens vom 18. Dezember 2006 sowie den Berichten des Dr. med. E._, Facharzt für Innere Medizin, vom 11. Dezember 2004 und 20. Juni 2005, der Reha S._ vom 26. August 2005 und des Regionalärztlichen Dienstes (RAD) vom 20. Juni 2007 in für das Bundesgericht verbindlicher Weise (E. 1) festgestellt, dass kein die Arbeitsfähigkeit beeinträchtigendes psychisches Leiden vorliegt und aus somatischer Sicht eine volle Arbeitsfähigkeit für leichte, wechselbelastende Tätigkeiten ohne Gewichtsbelastung über 10 kg besteht.
Daran vermögen auch das Gutachten des Dr. med. M._, Facharzt für Psychiatrie und Psychotherapie, vom 1. März 2007 und die verschiedenen Verlaufsberichte des Externen Psychiatrischen Dienstes (EPD) sowie das Schreiben des Dr. med. B._, Facharzt für Neurochirurgie, vom 2. März 2007 nichts zu ändern. Denn auf Grund der unterschiedlichen Natur von Begutachtungs- und Behandlungsauftrag wird ein Administrativgutachten nicht schon deshalb in Frage gestellt, weil der Gutachter zu einem anderen Ergebnis als die behandelnden Ärzte gelangt (Urteil I 844/06 vom 24. September 2007, E. 2.3.2 mit Hinweisen). So vermag die Einschätzung des Dr. med. B._, welcher diese grösstenteils nicht begründet und sich mit der Beurteilung der übrigen Ärzte (insbesondere Institut X._ und Reha S._) nicht auseinandersetzt, nicht zu überzeugen. Was die Berichte des EPD betrifft, so ist zu beachten, dass namentlich für den therapeutisch tätigen Psychiater mit seinem besonderen Vertrauensverhältnis zum Patienten, welcher die geklagten Beschwerden als Faktum hinzunehmen hat, die Rechtsprechung zur Beweiswürdigung von Berichten der Hausärzte gilt (vgl. Urteile I 655/05 vom 20. März 2006, E. 5.4, und 9C_176/2008 vom 19. Juni 2008, E. 3). Schliesslich vermag auch das Gutachten des Dr. med. M._ die Feststellungen des Instituts X._ nicht in Zweifel zu ziehen, da er sich mit den Schlussfolgerungen der anderen Gutachter nicht auseinandersetzt und nicht überzeugend begründet, weshalb er zu einem anderen Ergebnis gelangt.
5. Der Beschwerdeführer rügt weiter, die IV-Stelle habe es unterlassen, ein Mahn- und Bedenkzeitverfahren nach Art. 21 Abs. 4 ATSG durchzuführen.
5.1 Art. 21 Abs. 4 ATSG besagt, dass einer versicherten Person, welche sich einer zumutbaren Behandlung oder Eingliederung ins Erwerbsleben, die eine wesentliche Verbesserung der Erwerbsfähigkeit verspricht, entzieht oder widersetzt oder nicht aus eigenem Antrieb das ihr Zumutbare dazubeiträgt, die Leistungen vorübergehend oder dauernd gekürzt oder verweigert werden können. Sie muss vorher schriftlich gemahnt und auf die Rechtsfolgen hingewiesen werden; ihr ist eine angemessene Bedenkzeit einzuräumen.
5.2 Gestützt auf das Urteil I 601/05 vom 11. August 2006 verneint die Vorinstanz im Ergebnis den Anspruch auf Durchführung des Mahn- und Bedenkzeitverfahrens, da die hier indizierte medizinische Trainingstherapie nicht spezifisch und unmittelbar auf die Eingliederung in das Erwerbsleben gerichtet sei, sondern einer Behandlung des Leidens an sich entspreche, womit sie gemäss Art. 12 IVG nicht zu Lasten der Invalidenversicherung gehe. Wie es sich damit verhält, kann angesichts der nachfolgenden Erwägungen offen bleiben.
5.2 Gestützt auf das Urteil I 601/05 vom 11. August 2006 verneint die Vorinstanz im Ergebnis den Anspruch auf Durchführung des Mahn- und Bedenkzeitverfahrens, da die hier indizierte medizinische Trainingstherapie nicht spezifisch und unmittelbar auf die Eingliederung in das Erwerbsleben gerichtet sei, sondern einer Behandlung des Leidens an sich entspreche, womit sie gemäss Art. 12 IVG nicht zu Lasten der Invalidenversicherung gehe. Wie es sich damit verhält, kann angesichts der nachfolgenden Erwägungen offen bleiben.
5.3 5.3.1 Wie jede Rechtsnorm steht auch die Berufung auf Art. 21 Abs. 4 ATSG unter dem Vorbehalt des Rechtsmissbrauchs gemäss Art. 2 Abs. 2 ZGB. Art. 2 Abs. 2 ZGB findet analog auch im Rahmen des öffentlichen Rechts Anwendung, da damit ein allgemeines Rechtsprinzip zum Ausdruck kommt (Heinrich Honsell, in Basler Kommentar, Zivilgesetzbuch, Band I, 3. Aufl. 2006, N. 4 zu Art. 2 ZGB; vgl. auch Häfelin/ Müller/Uhlmann, Allgemeines Verwaltungsrecht, 5. Aufl. 2006, Rz. 715 ff. und Thomas Gächter, Rechtsmissbrauch im öffentlichen Recht, 2005, S. 4 ff.), und gilt sowohl für Behörden wie für Private (Pierre Tschannen/Ulrich Zimmerli, Allgemeines Verwaltungsrecht, 2. Aufl. 2005, § 22 Rz. 21). Das Verbot des Rechtsmissbrauchs "... soll für die Fälle als eine Art von Notausgang dienen, wo durch die Betätigung eines behaupteten Rechtes offenbares Unrecht geschaffen und dem wirklichen Recht jeder Weg zur Anerkennung verschlossen würde" (Botschaft des Bundesrates zum Entwurf des ZGB, zitiert bei Gächter, a.a.O., S. 3). Es will dabei die Bestimmung nicht allgemein für bestimmte Arten von Fällen ausser Kraft setzen, sondern den Richter lediglich anweisen, besonderen Tatsachen Rechnung zu tragen, die nur dem einzelnen Fall eigen sind, und dient der Abwehr individuellen Rechtsmissbrauchs, nicht aber der generellen Normenkorrektur (Honsell, a.a.O., N. 3 und 28 zu Art. 2 ZGB). Rechtsmissbrauch liegt namentlich dann vor, wenn ein Rechtsinstitut zweckwidrig zur Verwirklichung von Interessen verwendet wird, die dieses Rechtsinstitut nicht schützen will (<ref-ruling> E. 4.2 S. 267 mit Hinweisen), oder anders gesagt, wenn die Inanspruchnahme eines Rechts zu einem stossenden, vom Gesetzgeber nicht gewollten Resultat führt (Tschannen/Zimmerli, a.a.O., § 22 Rz. 21).
5.3.2 Die Experten des Instituts X._ gingen in ihrem Gutachten vom 17. November 2006 von einer Einschränkung der Leistungsfähigkeit von 50 % aus, welche jedoch mit einer konsequent durchgeführten medizinischen Trainingstherapie (nachfolgend: MTT) schon längst hätte behoben werden können (vgl. zudem das Schreiben des Instituts X._ vom 18. Dezember 2006). Dem Versicherten war denn auch gemäss zahlreichen früheren Arztberichten ein andauerndes Aufbautraining der Rückenmuskulatur empfohlen worden, um seinen Gesundheitszustand resp. seine Arbeitsfähigkeit zu verbessern. So führte Dr. med. E._ bereits in seinem Bericht vom 3. Dezember 2001 aus, leichte, körperliche Tätigkeit sei bis 8 Stunden pro Tag durchaus zumutbar; der Versicherte benötige aber ein regelmässiges Training seiner Wirbelsäule und müsse dieses Training auch wirklich durchführen. Als zumutbare Massnahme zur Verbesserung der Arbeitsfähigkeit nannte er regelmässiges körperliches Training der Wirbelsäule zur Stärkung der Haltemuskulatur, was in jedem Fitnesscenter möglich sei. Auch in seinen Berichten vom 11. Dezember 2004 und 20. Juni 2005 hielt Dr. med. E._ fest, dass der Versicherte bei trainierter Muskulatur aus medizinischer Sicht für eine körperlich nicht belastende Tätigkeit mit wechselnder Körperhaltung arbeitsfähig sei. Die Reha S._ führte am 26. August 2005 aus, therapeutisch sei eine regelmässige körperliche Aktivität wichtig; wöchentliches Schwimmen werde durchgeführt, aber daneben sei auch eine konsequente medizinische Trainingstherapie über mindestens drei Monate zur muskulären Stabilisation resp. muskulären Rekompensation nötig. Die IV-Stelle schrieb in ihrem Vorbescheid vom 6. März 2002 u.a.:
"Ebenfalls ist davon auszugehen, dass mit überwiegender Wahrscheinlichkeit mit einem regelmässigen körperlichen Training die heute bestehende geringfügige Einschränkung zukünftig nicht mehr vorhanden wäre. Diesbezüglich verweisen wir auf Ihre Mitwirkungspflicht.
Entziehen oder widersetzen sich Versicherte einer angeordneten zumutbaren Abklärungs- und Eingliederungsmassnahme oder tragen sie nicht aus eigenem Antrieb das ihnen Zumutbare zur Verbesserung der Erwerbsfähigkeit bei, können gemäss Art. 10 und 31 des Bundesgesetzes über die Invalidenversicherung allfällige Leistungen eingestellt oder verweigert werden."
5.3.3 Weitere Verweise auf die Mitwirkungspflichten finden sich in der Verfügung vom 2. September 2002 und der Stellungnahme der IV-Stelle vom 6. November 2002 im Rahmen des ersten kantonalen Gerichtsverfahrens. Zudem wurde der Versicherte im kantonalen Entscheid vom 25. Februar 2003 (E. 3e in fine) explizit auf seine Mitwirkungspflicht und die Rechtsfolgen bei deren Nichtbefolgung hingewiesen:
"Schliesslich ist der Beschwerdeführer auf seine Pflicht hinzuweisen, nach Kräften selbst zu seiner beruflichen Eingliederung beizutragen. Konkret bedeutet dies insbesondere, dass er die ärztlicherseits nachdrücklich empfohlene regelmässige Trainingstherapie zur Kräftigung der Wirbelsäulenmuskulatur durchzuführen hat, andernfalls er eine Einstellung von IV-Leistungen zu gewärtigen hätte, falls seine Erwerbsfähigkeit infolge Nichteinhaltung der Therapie in grundsätzlich leistungsbegründendem Ausmass vermindert würde (vgl. Art. 10 Abs. 2 IVG)."
5.3.4 Auch im Vorbescheid vom 4. Januar 2007 hat die IV-Stelle unter Berufung auf Art. 21 Abs. 4 ATSG festgehalten, dass dem Versicherten bei Nichtdurchführung des ärztlich empfohlenen Aufbautrainings die Leistungen gekürzt oder verweigert werden können. In seiner Stellungnahme zum Vorbescheid vom 4. Januar 2007 verwies der Rechtsvertreter des Versicherten darauf, dass sich der Versicherte in den Jahren 2002, 2004 und 2005 jeweils ein oder zwei Serien Physiotherapie unterzogen habe; für mehr komme die Krankenversicherung nicht auf. Zudem sei der Versicherte nun in Behandlung bei Dr. med. B._, welcher eine Spritzentherapie durchführe. Diese Therapien entsprechen jedoch nicht dem als notwendig erachteten Aufbautraining der Rückenmuskulatur. Entgegen den Ausführungen des Rechtsvertreters des Versicherten geht es seit Jahren nicht um eine Therapie zur Bekämpfung der Schmerzen, sondern um den Aufbau der Rückenmuskulatur, damit eine bessere Haltung antrainiert sowie das Entstehen von Haltungsinsuffizienzen und dadurch bedingten Schmerzen verhindert werden.
5.3.5 Es steht damit fest, dass der Versicherte in der Zeit vor Erlass der Verfügung vom 2. Juli 2007 mehrfach, wiederholt und von verschiedener Seite auf die Notwendigkeit eines Aufbautrainings hingewiesen worden ist. Er hat sich einem solchen Training indessen nicht unterzogen, obwohl es ihm seit Jahren klar sein musste, dass zur Verbesserung seines Gesundheitszustandes und damit auch zur Verbesserung seiner Arbeitsfähigkeit ein solches Aufbautraining erforderlich war. Unter diesen Umständen ist es offenkundig rechtsmissbräuchlich, wenn der Versicherte sich nun auf die (nochmalige) Durchführung eines Mahn- und Bedenkzeitverfahrens beruft, und die IV-Stelle durfte in der Verfügung vom 2. Juli 2007 von einer vollen Arbeitsfähigkeit für leichte, wechselbelastende Tätigkeiten ausgehen.
6. Nachdem der Versicherte keine weiteren Einwände gegen die Festlegung des Validen- und Invalideneinkommens vorbringt und sich auch aus den Akten keine Anhaltspunkte ergeben, wonach diese offensichtlich unrichtig ermittelt worden wären, ist die vorinstanzliche Feststellung des Invaliditätsgrades von 12 % nicht zu beanstanden. Bei diesem Ergebnis hat das kantonale Gericht zu Recht auch den Anspruch auf berufliche Massnahmen abgewiesen. Denn bezüglich der Umschulung fehlt es an einem Invaliditätsgrad von mindestens 20 % (vgl. AHI 2000 S. 25 E. 2b und S. 61 E. 1) und der Versicherte ist für die Ausübung der ihm zumutbaren Tätigkeiten nicht auf die Hilfe der Invalidenversicherung angewiesen, da entsprechende Stellen auf dem ausgeglichenen Arbeitsmarkt in genügender Zahl gegeben sind, so dass kein Anspruch auf Arbeitsvermittlung besteht. Schliesslich hat die Vorinstanz den Anspruch auf Berufsberatung zutreffend unter Verweis auf die bereits früher durchgeführten Massnahmen verneint.
7. Das Verfahren ist kostenpflichtig. Der unterliegende Versicherte hat die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau, der Ausgleichskasse des Schweizerischen Gewerbes und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 27. März 2009
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Riedi Hunold