Sachverhalt:
A. S._, geboren 1952, meldete sich am 21. Juli 2008 zum Leistungsbezug bei der Invalidenversicherung an. Mit Verfügung vom 27. Mai 2010 wies die IV-Stelle das Gesuch um eine Invalidenrente ab. Nachdem S._ dagegen hatte Beschwerde erheben lassen, hob das Versicherungsgericht des Kantons Aargau diese Verfügung mit Entscheid vom 17. November 2010 auf und wies die Sache zur weiteren Abklärung an die IV-Stelle zurück. Gestützt auf das Gutachten des Dr. med. E._, Facharzt für orthopädische Chirurgie, vom 9. Mai 2011 und der Ergänzung vom 19. Juli 2011 wies die IV-Stelle mit Verfügung vom 17. August 2011 erneut das Gesuch um eine Invalidenrente ab. Am 18. August 2011 lehnte sie berufliche Eingliederungsmassnahmen ab.
B. Das Versicherungsgericht des Kantons Aargau hiess mit Entscheid vom 14. März 2012 die dagegen erhobene Beschwerde gut und sprach S._ ab 1. Juni 2009 eine Viertelsrente zu.
C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben; zudem ersucht sie um Erteilung der aufschiebenden Wirkung der Beschwerde.
S._ lässt auf Abweisung der Beschwerde schliessen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.
D. Mit Verfügung vom 9. Juli 2012 sprach das Bundesgericht der Beschwerde aufschiebende Wirkung zu.
Erwägungen:
1. Die Sachurteilsvoraussetzungen sind erfüllt, da die Beschwerde unter Einhaltung der gesetzlichen Frist (Art. 100 Abs. 1 BGG) und Form (Art. 42 BGG) von einer durch die Entscheidung besonders berührten Partei mit einem schutzwürdigen Interesse an deren Aufhebung oder Änderung (Art. 89 Abs. 1 BGG) eingereicht wurde und sich das Rechtsmittel gegen einen von einer letzten kantonalen Instanz (Art. 86 Abs. 1 lit. d BGG) gefällten Endentscheid (Art. 90 BGG) in einer Angelegenheit des öffentlichen Rechts (Art. 82 lit. a BGG) richtet und keine der in Art. 83 BGG erwähnten Ausnahmen greift.
2. Es ist unbestritten, dass dem Versicherten eine ganztägige Arbeitstätigkeit bei einer Leistungsfähigkeit von 65 % zumutbar ist. Streitig ist hingegen der von der Vorinstanz gewährte höhere leidensbedingte Abzug bei der Ermittlung des Invalideneinkommens.
3. 3.1 Die Frage, ob und in welchem Ausmass Tabellenlöhne herabzusetzen sind, hängt von sämtlichen persönlichen und beruflichen Umständen des konkreten Einzelfalles ab (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad). Der Einfluss sämtlicher Merkmale auf das Invalideneinkommen ist nach pflichtgemässem Ermessen gesamthaft zu schätzen, wobei der Abzug auf insgesamt höchstens 25 % zu begrenzen ist (BGE 129 V 472 E. 4.2.3 S. 481; 126 V 75 E. 5b/bb S. 80).
Die Rechtsprechung anerkennt unter dem Titel Beschäftigungsgrad bei Männern, welche aus gesundheitlichen Gründen nur noch teilzeitlich erwerbstätig sein können, einen Abzug vom Tabellenlohn nach BGE 126 V 75. Dagegen rechtfertigt der Umstand, dass eine grundsätzlich vollzeitlich arbeitsfähige versicherte Person krankheitsbedingt lediglich reduziert leistungsfähig ist, keinen über die Berücksichtigung der eingeschränkten Leistungsfähigkeit und damit des Rendements hinaus gehenden Abzug (Urteile 8C_20/2012 vom 4. April 2012 E. 3.2, 8C_939/2011 vom 13. Februar 2012 E. 5.2.3 und 9C_582/2011 vom 3. November 2011 E. 3.1 mit Hinweisen).
3.2 Wie die IV-Stelle zu Recht geltend macht, ist die Vorinstanz von dieser Rechtsprechung abgewichen. Weshalb aus betriebswirtschaftlicher Sicht jene Faktoren, die bei Teilzeitarbeitenden zu einer unterdurchschnittlichen Entlöhnung führen, auch bei jenen Personen, die vollzeitlich mit eingeschränktem Rendement erwerbstätig sind, zu einem geringeren Einkommen führen sollen, wird im vorinstanzlichen Entscheid nicht überzeugend begründet. Zwar mag es zutreffen, dass, wie von der Lehre (PHILIPP GEERTSEN, Der Tabellenlohnabzug, in: Kieser/Lendfers [Hrsg.]: Jahrbuch zum Sozialversicherungsrecht 2012, S. 139 ff., S. 149) vermutet und der Vorinstanz angenommen, Arbeitskräfte mit reduzierter Leistungsfähigkeit die Infrastruktur des Arbeitgebers ineffizienter und damit kostenintensiver beanspruchen, als Arbeitskräfte mit uneingeschränkter Leistungsfähigkeit. Es bestehen indessen nicht ausreichend Anhaltspunkte dafür, dass dieser Effekt nicht durch die Vorteile der ganztägigen Präsenz des Arbeitnehmers aufgewogen wird (vgl. SVR 2012 Nr. 17 S. 78 E. 4.2.3, 8C_379/2011). Insgesamt sind somit nicht genügende Gründe für eine Praxisänderung (BGE 135 I 79 E. 3 S. 82; 134 V 72 E. 3.3 S. 76) dargetan.
3.3 Weitere Umstände, die einen über die gewährten 10 % hinausgehenden Abzug rechtfertigen würden, sind weder ersichtlich noch geltend gemacht. Die vorinstanzlich gewährte Erhöhung des Abzugs auf 15 % ist damit bundesrechtswidrig. Da ohne diese Erhöhung des Abzugs kein Anspruch auf eine Invalidenrente besteht, ist der vorinstanzliche Entscheid aufzuheben.
4. Das Verfahren ist kostenpflichtig. Der unterliegende Beschwerdegegner hat die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Entscheid des Versicherungsgerichts des Kantons Aargau vom 14. März 2012 aufgehoben.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdegegner auferlegt.
3. Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Versicherungsgericht des Kantons Aargau zurückgewiesen.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 21. September 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Riedi Hunold