Sachverhalt:
A.
A._ zog sich als Beifahrer am 15. Juli 2000 bei einem Autounfall verschiedene Verletzungen zu. Im Juli 2003 meldete er sich erstmals zum Leistungsbezug bei der Invalidenversicherung an. Die IV-Stelle des Kantons St. Gallen lehnte den Leistungsanspruch mit Verfügung vom 23. Februar 2005 ab, dies gestützt auf das Gutachten des Dr. med. B._, Facharzt für orthopädische Chirurgie, vom 27. Januar 2004, mit welchem A._ eine zumutbare Arbeitsfähigkeit von 80 % bei voller zeitlicher Präsenz attestiert wurde. Das Versicherungsgericht des Kantons St. Gallen bestätigte dies mit Entscheid vom 21. April 2006. Auf die Anmeldungen vom Februar 2007 und Mai 2009 trat die IV-Stelle nicht ein.
Die IV-Stelle trat am 28. Mai 2013 auf die erneute Anmeldung vom Januar 2013 nicht ein. Nachdem sie diese Verfügung am 9. Juli 2013 widerrufen hatte, wurde das Verfahren vor dem Versicherungsgericht am 4. September 2013 als gegenstandslos abgeschrieben. Nach weiteren medizinischen und beruflichen Abklärungen lehnte die IV-Stelle am 3. März 2015 den Anspruch auf eine Invalidenrente ab.
B.
Das Versicherungsgericht hiess die dagegen erhobene Beschwerde mit Entscheid vom 21. September 2017 teilweise gut, hob die Verfügung vom 3. März 2015 auf und sprach A._ ab 1. Juli 2013 eine Viertelsrente zu. Es wies die Sache zur Berechnung der Rentenhöhe an die IV-Stelle zurück.
C.
Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, es seien der vorinstanzliche Entscheid aufzuheben und die Verfügung vom 3. März 2015 zu bestätigen. Zudem sei der Beschwerde aufschiebende Wirkung zu erteilen.
Mit Eingabe vom 3. November 2017 erklärte sich A._ mit der Erteilung der aufschiebenden Wirkung einverstanden und ersuchte um Gewährung der unentgeltlichen Rechtspflege. Das Bundesamt für Sozialversicherungen verzichtete auf eine Vernehmlassung.
D.
Das Bundesgericht erteilte am 8. November 2017 der Beschwerde der IV-Stelle aufschiebende Wirkung.
E.
Mit Vernehmlassung vom 27. November 2017 liess A._ die Abweisung der Beschwerde der IV-Stelle beantragen.
F.
Im Nachgang zum Erlass der zur Publikation vorgesehenen Urteile 8C_130/2017 und 8C_841/2016 vom 30. November 2017 gewährte das Bundesgericht den Parteien das rechtliche Gehör zur vorgenommenen Änderung der Rechtsprechung, welches A._ mit Eingabe vom 16. Januar 2018 wahrnahm und die Abweisung der Beschwerde, eventualiter die Rückweisung an die Vorinstanz zur Einholung eines den Anforderungen von BGE 141 V 281 entsprechenden Gutachtens, beantragen liess. Die IV-Stelle liess sich nicht vernehmen.
Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 141 V 234 E. 1 S. 236 mit Hinweisen).
1.2. Das Bundesgericht kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Die beschwerdeführende Partei, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substanziiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden (BGE 140 III 16 E. 1.3.1 S. 18 mit Hinweisen).
2.
Streitig ist, ob die Vorinstanz dem Versicherten zu Recht eine Viertelsrente ab 1. Juli 2013 zugesprochen hat.
3.
Die Vorinstanz hat die massgebenden Bestimmungen und Grundsätze über den Begriff der Invalidität (Art. 8 Abs. 1 ATSG in Verbindung mit Art. 4 Abs. 1 IVG), den Anspruch auf eine Rente der Invalidenversicherung (Art. 28 Abs. 2 IVG) und die Ermittlung des Invaliditätsgrades nach der allgemeinen Methode des Einkommensvergleichs (Art. 16 ATSG; BGE 135 V 297 E. 5 S. 299; 128 V 29 E. 1 S. 30) zutreffend dargelegt. Darauf wird verwiesen.
4.
Das orthopädisch-psychiatrische Gutachten der Swiss Medical Assessment- and Business-Center AG (SMAB), St. Gallen, vom 21. November 2014 diagnostizierte mit Einfluss auf die Arbeitsfähigkeit rezidivierende depressive Episode, aktuell leichtgradig (ICD-10: F 33.0), den Status nach Weichteilverletzung der rechten Kniekehle und der rechten Wade mit subtotalem Verlust der Wadenmuskulatur und ausgedehnten Defektheilungen (röntgenologisch beginnende posttraumatische degenerative Veränderungen auch mit Femoropatellararthrose), den Status nach Calcaneus-Slide-Osteotomie rechts und korrigierender USG-Arthrodese rechts, den Status nach Substanzschädigungen des Nervus peronaeus communis und des Nervus suralis (Fallfuss rechts) sowie ein lumbovertrebrales Schmerzsyndrom mit/bei anhaltender statischer Fehlbelastung infolge sekundärer unfallbedingter Gehbehinderung am rechten Bein und röntgenologisch rechtskonvexe Rotationsskoliose-Fehlhaltung der lumbalen Wirbelsäule mit mässigen degenerativen Veränderungen. Als Diagnose ohne Auswirkung auf die Arbeitsfähigkeit wurde eine anhaltend somatoforme Schmerzstörung (ICD-10: F 45.4) diagnostiziert. Den bisherigen Beruf als Hilfsarbeiter/Verkäufer erachteten die Experten seit dessen Aufgabe im Jahr 2005 als nicht mehr zumutbar. In einer den Fähigkeiten des Versicherten und dem Belastungsprofil angepassten Tätigkeit bescheinigten sie ihm integral eine Arbeitsfähigkeit von 70 %.
5.
Die IV-Stelle begründet ihre Beschwerde gegen den vorinstanzlichen Entscheid mit der Rechtsprechung zu den depressiven Leiden. Nachdem das Bundesgericht mit den zur Publikation bestimmten Urteilen 8C_130/2017 und 8C_841/2016 vom 30. November 2017 seine Rechtsprechung geändert hat, vermag die IV-Stelle mit ihren Einwänden nicht durchzudringen. Das bedeutet aber nicht, dass der Rentenanspruch ohne weitere Prüfung des Einzelfalls zu bejahen ist.
6.
6.1. Vorweg stellt sich die Frage, ob der strittige Rentenanspruch gestützt auf das SMAB-Gutachten vom 21. November 2014, das die Parteien zumindest bezüglich der gestellten Diagnosen als beweiskräftig erachten, beantwortet werden kann. Dabei ist zu beachten, dass es vor Erlass von BGE 141 V 281 erging. Dieser Umstand macht das SMAB-Gutachten nicht einfach unbeachtlich, sondern es kann nach der Rechtsprechung weiterhin Grundlage der Rentenprüfung sein, sofern es eine schlüssige Beurteilung im Lichte der nunmehr massgeblichen Indikatoren erlaubt; je nach Abklärungstiefe und -dichte kann unter Umständen eine punktuelle Ergänzung genügen (BGE 141 V 281 E. 8 S. 309; 137 V 210 E. 6 S. 266; vgl. auch Urteil 8C_300/2017 vom 1. Februar 2018 E. 4.2).
6.2.
6.2.1. Zunächst sind die allgemeinen beweisrechtlichen Anforderung an ein ärztliches Gutachten zu beachten: Bei der Beurteilung der Arbeits (un) fähigkeit stützt sich die Verwaltung und im Beschwerdefall das Gericht auf Unterlagen, die von ärztlichen und gegebenenfalls auch anderen Fachleuten zur Verfügung zu stellen sind. Ärztliche Aufgabe ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsfähig ist. Hinsichtlich des Beweiswertes eines Arztberichtes ist entscheidend, ob dieser für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge sowie der medizinischen Situation einleuchtet und ob die Schlussfolgerungen der Experten begründet sind (BGE 134 V 231 E. 5.1 S. 232; 125 V 351 E. 3a S. 352 mit Hinweis).
6.2.2. Den im Rahmen des Verwaltungsverfahrens eingeholten Gutachten von externen Spezialärzten, welche auf Grund eingehender Beobachtungen und Untersuchungen sowie nach Einsicht in die Akten Bericht erstatten und bei der Erörterung der Befunde zu schlüssigen Ergebnissen gelangen, ist bei der Beweiswürdigung Beweiskraft zuzuerkennen, solange nicht konkrete Indizien gegen die Zuverlässigkeit der Expertise sprechen (BGE 125 V 351 E. 3b/bb S. 353; Urteil 9C_278/2016 vom 22. Juli 2016 E. 3.2.2). Werden bei deren Anordnung Beteiligungsrechte der versicherten Person (vgl. insbesondere BGE 137 V 210 E. 3.4.2.9 S. 258; 139 V 349 E. 5.4 S. 357) verletzt, so machen bereits relativ geringe Zweifel an der Zuverlässigkeit und Schlüssigkeit der Expertise eine neue Begutachtung erforderlich (BGE 139 V 99 E. 2.3.2 S. 103). Zweck eines interdisziplinären Gutachtens ist es, alle relevanten gesundheitlichen Beeinträchtigungen zu erfassen und die sich daraus je einzeln ergebenden Einschränkungen der Arbeitsfähigkeit in ein Gesamtergebnis zu bringen (BGE 137 V 210 E. 1.2.4 S. 224; SVR 2008 IV Nr. 15 S. 43, I 514/06 E. 2.1). Die Frage, ob ein Gutachten beweiskräftig ist oder nicht, beurteilt sich danach, ob sich gestützt auf die Expertise die rechtsrelevanten Fragen beantworten lassen oder nicht. Mit anderen Worten verletzt das Abstellen auf ein polydisziplinäres Gutachten Art. 43 Abs. 1 ATSG nicht allein schon deshalb, weil einem Teilgutachten oder der Gesamtbeurteilung der Beweiswert abgesprochen wird. Daher darf bei einem polydisziplinären Gutachten auf beweiskräftige Teilgutachten abgestellt werden, die mit der - ohne Konsensbesprechung erfolgten - interdisziplinären Gesamtwürdigung im Hauptgutachten nicht übereinstimmen (BGE 143 V 124 E. 2.2.4 S. 128).
6.2.3. Für die Beurteilung der Arbeitsfähigkeit bei psychischen Störungen (vgl. dazu das zur Publikation vorgesehene Urteil 8C_130/2017 vom 30. November 2017) definiert zudem das für somatoforme Leiden entwickelte strukturierte Beweisverfahren systematisierte Indikatoren, die - unter Berücksichtigung leistungshindernder äusserer Belastungsfaktoren einerseits und von Kompensationspotentialen (Ressourcen) anderseits - erlauben, das tatsächlich erreichbare Leistungsvermögen einzuschätzen (BGE 141 V 281 E. 2 S. 285 ff., E. 3.4 bis 3.6 und 4.1 S. 291 ff.).
6.2.4. Neben den durch den Rechtsanwender zu prüfenden allgemeinen beweisrechtlichen Vorgaben (E. 6.2.1) ergibt sich daher aus BGE 141 V 281 Folgendes: Die ärztliche Arbeitsfähigkeitsschätzung, zumindest ohne einlässliche Befassung mit den spezifischen normativen Vorgaben und ohne entsprechende Begründung, kann zwar den rechtlich geforderten Beweis des Vorliegens einer Erwerbsunfähigkeit (Art. 7 Abs. 2 ATSG) nicht erbringen, weil sie weitgehend vom Ermessen des medizinisch-psychiatrischen Sachverständigen abhängt. Die medizinische Einschätzung der Arbeitsfähigkeit ist aber eine wichtige Grundlage für die anschliessende juristische Beurteilung der Frage, welche Arbeitsleistung der versicherten Person noch zugemutet werden kann (BGE 140 V 193 E. 3.2 S. 195). Dabei gilt, dass die versicherte Person als grundsätzlich gesund anzusehen ist und sie ihrer Erwerbstätigkeit nachgehen kann (BGE 141 V 281 E. 3.7.2 S. 295 f.). Hinsichtlich der Beurteilung der Arbeitsfähigkeit haben sich sowohl die medizinischen Sachverständigen als auch die Organe der Rechtsanwendung bei ihrer Einschätzung des Leistungsvermögens an den normativen Vorgaben zu orientieren; die Gutachter im Idealfall gemäss der entsprechend formulierten Fragestellung (BGE 141 V 281 E. 5.2 S. 306 f.). Die Rechtsanwender prüfen die medizinischen Angaben frei insbesondere daraufhin, ob die Ärzte sich an die massgebenden normativen Rahmenbedingungen gehalten haben und ob und in welchem Umfang die ärztlichen Feststellungen anhand der rechtserheblichen Indikatoren auf Arbeitsunfähigkeit schliessen lassen (Urteil 8C_130/2017 vom 30. November 2017 E. 6, zur Publikation vorgesehen). Im Rahmen der Beweiswürdigung obliegt es den Rechtsanwendern zu überprüfen, ob in concreto ausschliesslich funktionelle Ausfälle bei der medizinischen Einschätzung berücksichtigt wurden und ob die Zumutbarkeitsbeurteilung auf einer objektivierten Grundlage erfolgte (BGE 141 V 281 E. 5.2.2; Art. 7 Abs. 2 ATSG). Eine rentenbegründende Invalidität ist nur dann anzunehmen, wenn funktionelle Auswirkungen medizinisch anhand der Indikatoren schlüssig und widerspruchsfrei festgestellt sind und somit den versicherungsmedizinischen Vorgaben Rechnung getragen wurde (BGE 141 V 281 E. 6 S. 307 f., Urteil 8C_260/2017 vom 1. Dezember 2017 E. 4.2.4).
6.2.5. Gelangt der Rechtsanwender nach dieser Beweiswürdigung zum Schluss, ein Gutachten erfülle sowohl die mit BGE 141 V 281 definierten versicherungsmedizinischen Massstäbe wie auch die allgemeinen rechtlichen Beweisanforderungen (E. 6.2.1), ist es beweiskräftig und die darin formulierten Stellungnahmen zur Arbeitsfähigkeit sind zu übernehmen. Eine davon losgelöste juristische Parallelüberprüfung nach Massgabe des strukturierten Beweisverfahrens soll nicht stattfinden (BGE 141 V 281 E. 5.2.3 S. 307; vgl. auch ANDREAS TRAUB, in: Ueli Kieser [Hrsg.], Sozialversicherungsrechtstagung 2016, S. 142 Ziff. 3.3.3).
6.3. Gemäss dem SMAB-Gutachten vom 21. November 2014 bestehen beim Versicherten fraglos gewisse (im Alltag bestätigte) Ressourcen und es liegt kein vollständiger sozialer Rückzug vor. Ferner ist "ein gewisser Motivationsverlust" in beruflicher Hinsicht, aber auch ein fachärztlich, unter Abgrenzung der psychosozialen Faktoren attestiertes verselbständigtes affektives Leiden im Verbund mit einem Schmerzleiden gegeben. Dass sich daraus eine relevante Einschränkung des Leistungsvermögens ergeben kann, fällt nicht von vornherein ausser Betracht. Dies gilt umso mehr, als es laut vorinstanzlicher Feststellung keine Hinweise auf relevante Inkonsistenzen gibt und der Regionale Ärztliche Dienst (RAD) die Beurteilung der Arbeitsfähigkeit gemäss SMAB-Gutachten nicht beanstandete. Jedoch kann gestützt auf dieses Gutachten nicht beurteilt werden, wie es sich hinsichtlich der Indikatoren (Schweregrad: Ausprägung der diagnoserelevanten Befunde und Symptome, Behandlungserfolg oder -resistenz, Komorbidität, Komplex der Persönlichkeit und sozialer Kontext; Konsistenz: Einschränkung des Aktivitätsniveaus in allen vergleichbaren Lebensbereichen und Inanspruchnahme von therapeutischen Optionen; BGE 141 V 281 E. 4.3 S. 298 ff. und E. 4.4 S. 303 f.) verhält, zumal die Experten den Gesundheitszustand anhand der bei Erstattung des Gutachtens im Jahr 2014 (mithin vor Erlass von BGE 141 V 281) bezüglich der somatoformen Schmerzstörung noch massgebenden Foersterkriterien bewerteten. Es ist deshalb notwendig, ein neues Gutachten einzuholen, welches den Anforderungen von BGE 141 V 281 entspricht. Namentlich haben die Experten sich auch zu den Eingliederungsbemühungen und dem Ergebnis der bei Verfügungserlass noch laufenden BEFAS-Abklärung zu äussern und ein besonderes Augenmerk auf die erfolgten therapeutischen Bemühungen zu richten. Die Vorinstanz wird zudem bei der Prüfung des Rentenanspruchs gestützt auf dieses von ihr einzuholende Gutachten insbesondere zu beachten haben, dass sich am Verständnis von Art. 7 Abs. 2 ATSG wie auch am Grundsatz, wonach von Validität der versicherten Person auszugehen ist, und diese bei fehlendem Nachweis einer genügend starken Einschränkung die Beweislosigkeit zu tragen hat (BGE 142 V 106 E. 4.3 S. 110), auch mit den Rechtsprechungsänderungen von BGE 141 V 281 sowie den Urteilen 8C_130/2017 und 8C_841/2016 vom 30. November 2017 nichts geändert hat.
6.4. Nach dem Gesagten ist der vorinstanzliche Entscheid aufzuheben und die Sache an das kantonale Gericht zurückzuweisen (BGE 137 V 210 E. 4.4.1.4 S. 264), damit es ein Gutachten im Sinne der Erwägungen einhole und hernach erneut über den Rentenanspruch befinde.
7.
Das Verfahren ist kostenpflichtig. Da nach der Rechtsprechung eine Rückweisung an die Vorinstanz unter Aufhebung des kantonalen Entscheids als Obsiegen gilt, hat der unterliegende Versicherte die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Infolge Gewährung der unentgeltlichen Rechtspflege (Art. 64 Abs. 1 und 2 BGG) werden diese vorläufig auf die Gerichtskasse genommen und seinem Anwalt wird daraus eine Entschädigung bezahlt. Der Versicherte hat jedoch Ersatz zu leisten, wenn er später dazu in der Lage ist (Art. 64 Abs. 4 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen und der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 21. September 2017 aufgehoben. Die Sache wird zur Einholung eines Gutachtens und zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Dem Beschwerdegegner wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Benno Lindegger wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdegegner auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdegegners wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 28. Februar 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Riedi Hunold