Sachverhalt:
A.
A._ meldete sich im Oktober 1998 zum Bezug von Leistungen der Invalidenversicherung an. Mit Verfügung vom 21. März 2000 verneinte die IV-Stelle des Kantons Solothurn einen Leistungsanspruch. Das Versicherungsgericht des Kantons Solothurn hiess die dagegen erhobene Beschwerde am 18. September 2001 insofern gut, als es die Sache wegen Verletzung des rechtlichen Gehörs an die Verwaltung zu neuem Entscheid zurückwies. Gestützt auf das Gutachten des Dr. med. B._, Facharzt für Psychiatrie und Psychotherapie, vom 9. Mai 2002, sprach die IV-Stelle am 1. November 2002 ab 1. April 1998 eine halbe sowie ab 1. August 2000 eine ganze Invalidenrente zu. Mit Mitteilung vom 1. Dezember 2005 bestätigte die IV-Stelle den bisherigen Rentenanspruch.
Im Rahmen der 2008 eingeleiteten erneuten Revision teilte die IV-Stelle A._ gestützt auf das Gutachten des Instituts C._, vom 27. Oktober 2009 mit, es bestehe nur noch Anspruch auf eine halbe Rente. Im Rahmen seiner Einwendungen liess A._ je ein Gutachten des Prof. Dr. med. D._, Facharzt für Chirurgie, speziell Allgemeinchirurgie und Traumatologie, sowie des Dr. med. E._, Facharzt für Psychiatrie und Psychotherapie, vom 3. Oktober 2010 einreichen. Am 9. Mai 2011 teilte die IV-Stelle mit, angesichts des nunmehr ermittelten Invaliditätsgrades von 39 % beabsichtige sie, die Rente einzustellen. Mit Verfügung vom 4. Januar 2013 reduzierte die IV-Stelle den Rentenanspruch auf eine Viertelsrente bei einem Invaliditätsgrad von 42 %.
B.
Das Versicherungsgericht des Kantons Solothurn hiess die dagegen erhobene Beschwerde mit Entscheid vom 1. Mai 2014 gut, hob die Verfügung vom 4. Januar 2013 auf, stellte fest, A._ habe weiterhin Anspruch auf die bisherige Rente, und wies die Sache zur Prüfung sowie allfälligen Durchführung von Eingliederungsmassnahmen an die IV-Stelle zurück.
C.
Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, es sei in Gutheissung der Beschwerde der vorinstanzliche Entscheid aufzuheben und die Verfügung vom 4. Januar 2013 zu bestätigen; eventualiter sei der vorinstanzliche Entscheid soweit aufzuheben, als festgestellt werde, A._ habe weiterhin Anspruch auf die bisherige Rente. Zudem beantragt die IV-Stelle, ihrer Beschwerde sei die aufschiebende Wirkung zuzuerkennen.
A._ lässt auf Abweisung der Beschwerde schliessen, soweit darauf eingetreten werden könne. Eventualiter seien bei Gutheissung der Beschwerde der vorinstanzliche Entscheid in Dispositivziffer 1 sowie die Verfügung vom 4. Januar 2013 aufzuheben; subeventualiter seien bei Gutheissung der Beschwerde der vorinstanzliche Entscheid in Dispositivziffer 1 sowie die Verfügung vom 4. Januar 2013 aufzuheben, verbunden mit der Feststellung, die IV-Stelle habe ihm eine Dreiviertelsrente, subsubeventualiter eine halbe Rente zukommen zu lassen. Zudem sei der Beschwerde die aufschiebende Wirkung nicht zuzuerkennen. Die Vorinstanz beantragt die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.
D.
Mit Verfügung vom 23. September 2014 gewährte das Bundesgericht der Beschwerde der IV-Stelle die aufschiebende Wirkung.

Erwägungen:
1.
1.1. Vor- und Zwischenentscheide sind alle Entscheide, die das Verfahren nicht abschliessen und daher weder End- noch Teilentscheide sind; sie können formell- oder materiellrechtlicher Natur sein. Formeller Natur sind die in <ref-law> genannten, zwingend selbständig anzufechtenden Entscheide über Zuständigkeit und Ausstand, aber auch weitere prozessuale Anordnungen. Materiellrechtliche Grundsatzentscheide, die einen Teilaspekt einer Streitsache (z.B. eine von mehreren materiellrechtlichen Anspruchsvoraussetzungen) beantworten und bisher in der verwaltungsrechtlichen Praxis des Bundesgerichts als (Teil-) Endentscheide betrachtet wurden, gelten nach der Systematik des BGG nicht als Teil-, sondern als materiellrechtliche Zwischenentscheide (BBl 2001 4334). Solche Entscheide sind unter den alternativen Voraussetzungen von Art. 93 Abs. 1 lit. a oder b BGG anfechtbar. Namentlich mit der Voraussetzung gemäss lit. b ("wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde") kann dem prozessökonomischen Anliegen Rechnung getragen werden, welches bisher mit der Qualifikation von Entscheiden über materielle Teilfragen als Teilendentscheide verfolgt wurde (<ref-ruling> E. 4.1.3 S. 481 mit Hinweisen; vgl. auch <ref-ruling> E. 1.3.2 und 1.3.3).
1.2. Die IV-Stelle hat gemäss Anordnung der Vorinstanz die bisherige ganze Invalidenrente auszubezahlen; diesbezüglich hat sie - ungeachtet davon, ob ihre Abklärungen einen Anspruch auf Eingliederungsmassnahmen ergeben oder nicht - keinen Ermessensspielraum mehr. Insofern unterscheidet sich der vorliegende Sachverhalt von jenem gemäss Urteil 9C_711/2012 vom 25. Oktober 2012, da dort keine Weiterausrichtung der Rente vom kantonalen Gericht angeordnet worden war und der mit der Rentenaufhebung verfügte Entzug der aufschiebenden Wirkung demnach auch während der Eingliederungsabklärungen andauerte. Damit erwächst vorliegend der IV-Stelle ein nicht wieder gutzumachender Nachteil im Sinne von <ref-law>. Entgegen den Ausführungen des Versicherten ist die kumulative Erfüllung der Voraussetzung von <ref-law> nicht notwendig. Auf die Beschwerde ist deshalb einzutreten.
2.
Der Versicherte stellt in seiner Vernehmlassung über die Abweisung der Beschwerde hinausgehende materielle Anträge im Sinne einer Anschlussbeschwerde.
2.1. Im Verfahren vor Bundesgericht gibt es keine Anschlussbeschwerde (<ref-ruling> E. 2.5 S. 335). Wer mit dem angefochtenen Entscheid nicht einverstanden ist, muss diesen selbst innert der Beschwerdefrist (<ref-law>) anfechten. Sodann kann das Bundesgericht nicht über die fristgerecht gestellten Rechtsbegehren der Parteien hinausgehen (<ref-law>). Gibt die Vorinstanz beiden Parteien teilweise Recht und erhebt nur eine Partei Beschwerde ans Bundesgericht mit dem Antrag, es sei ihr vollumfänglich Recht zu geben, so kann deshalb die andere Partei nicht im Rahmen der Vernehmlassung zu dieser Beschwerde wieder diejenigen Anträge stellen, bezüglich welcher die Vorinstanz ihr Unrecht gegeben hat. Auf den vom Beschwerdegegner gestellten Antrag wäre deshalb nicht einzutreten, soweit dieser über den Antrag auf Abweisung der Beschwerde hinausgeht.
Anders verhält es sich mit Bezug auf Rückweisungsentscheide der Vorinstanz, welche nur nach Massgabe von <ref-law> anfechtbar sind. Denn nach der gesetzlichen Konzeption ist die Anfechtung in diesem Fall fakultativ; die vor der Vorinstanz unterlegene Partei kann auf eine selbstständige Anfechtung des Rückweisungsentscheids verzichten und sich gegen das darin Entschiedene noch im Rahmen der Beschwerde gegen den Endentscheid wenden, soweit es sich auf dessen Inhalt auswirkt (<ref-law>). Erhebt nun gegen einen Rückweisungsentscheid, der beiden Parteien teilweise Recht gibt, nur die eine Partei Beschwerde und erlässt daraufhin das Bundesgericht einen Endentscheid, so wird dadurch der anderen Partei die Möglichkeit genommen, das im vorinstanzlichen Rückweisungsentscheid zu ihrem Nachteil Entschiedene anzufechten. Es ist ihr auch nicht möglich, eine bedingte Beschwerde für den Fall zu erheben, dass die Gegenpartei den Rechtsmittelweg einschlägt (<ref-ruling>). In dieser Konstellation muss demnach derjenigen Partei, welche den Rückweisungsentscheid nicht selbst angefochten hat, die Möglichkeit eingeräumt werden, in der Beschwerdevernehmlassung auch diejenigen Punkte zu thematisieren, bezüglich welcher sie vor der Vorinstanz unterlegen ist (vgl. Hansjörg Seiler, Rückweisungsentscheide in der neueren Sozialversicherungspraxis des Bundesgerichts, in: Sozialversicherungsrechtstagung 2008, S. 9 ff., 38 f.). Dies muss umso mehr gelten, wenn die vor Vorinstanz teilweise unterlegene Partei mangels nicht wieder gutzumachenden Nachteils oder mangels Aufwandersparnis zur selbstständigen Anfechtung des Rückweisungsentscheides gar nicht berechtigt wäre (<ref-ruling> E. 2 S. 110).
2.2. Nach dem Gesagten ist auf die im Falle der Beschwerdegutheissung gestellten materiellen Anträge des Versicherten einzutreten, sofern das Bundesgericht der Darstellung der IV-Stelle folgen sollte.
3.
3.1. Die Beschwerde kann wegen Rechtsverletzung gemäss Art. 95 und Art. 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 1.4 S. 140). Gemäss <ref-law> ist die Beschwerde hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (<ref-law>). Das Bundesgericht prüft grundsätzlich nur die geltend gemachten Rügen; es ist nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu prüfen, wenn diese vor Bundesgericht nicht mehr vorgetragen wurden. Es kann die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht nur insofern prüfen, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>).
3.2. Nach <ref-law> legt das Bundesgericht seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Abs. 1). Es kann diese Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (Abs. 2). Die Voraussetzungen für eine Sachverhaltsrüge nach <ref-law> und für eine Berichtigung des Sachverhalts von Amtes wegen nach <ref-law> stimmen im Wesentlichen überein. Soweit es um die Frage geht, ob der Sachverhalt willkürlich oder unter verfassungswidriger Verletzung einer kantonalen Verfahrensregel ermittelt worden ist, sind strenge Anforderungen an die Begründungspflicht der Beschwerde gerechtfertigt. Entsprechende Beanstandungen sind vergleichbar mit den in <ref-law> genannten Rügen. Demzufolge genügt es nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten. Vielmehr ist in der Beschwerdeschrift nach den erwähnten gesetzlichen Erfordernissen darzulegen, inwiefern diese Feststellungen willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sind. Andernfalls können Vorbringen mit Bezug auf einen Sachverhalt, der von den Feststellungen im angefochtenen Entscheid abweicht, nicht berücksichtigt werden. Vorbehalten bleiben offensichtliche Sachverhaltsmängel im Sinne von <ref-law>, die dem Richter geradezu in die Augen springen (<ref-ruling> E. 6.2 S. 288; <ref-ruling> E. 1.4.3 S. 255).
4.
4.1. Es ist unbestritten, dass die Rechtsprechung von SVR 2011 IV Nr. 30 S. 86 (Urteil 9C_163/2009) auf jene Fälle zu beschränken ist, in welchen die versicherte Person über 55 Jahre alt ist oder seit mehr als 15 Jahren eine Rente bezieht (vgl. etwa SVR 2011 IV Nr. 73 S. 220, 9C_228/2010). Streitig ist hingegen, ob die Verwaltung auch vorliegend, da der Versicherte bei Erlass der rentenaufhebenden Verfügung am 4. Januar 2013 knapp 54 Jahre alt war und seit 14 Jahren und 11 Monaten eine Invalidenrente bezog, gehalten gewesen wäre, vor der Rentenaufhebung Eingliederungsmassnahmen zu prüfen und durchzuführen.
4.2.
4.2.1. Für die Ermittlung, ob die Eckwerte des 55. Altersjahres resp. des 15-jährigen Rentenbezugs vorliegt, hat das Bundesgericht in anderen Fällen ohne einlässliche Begründung auf den Zeitpunkt der rentenaufhebenden Verfügung resp. auf den darin verfügten Zeitpunkt der Rentenaufhebung und nicht auf den Zeitpunkt der Einleitung des Revisionsverfahrens oder der ärztlichen Begutachtung abgestellt (vgl. etwa SVR 2012 IV Nr. 25 S. 104 E. 3.2.1, 9C_363/2011, sowie Urteil 9C_178/2014 vom 29. Juli 2014 E. 7.2, Urteil 9C_920/2013 vom 20. Mai 2014 E. 4.5, Urteil 9C_128/2013 vom 4. November 2013 E. 4.2.1, Urteil 8C_39/2012 vom 24. April 2012 E. 5.2 und Urteil 9C_254/2011 vom 15. November 2011 E. 7.2). Daran ist festzuhalten. Denn massgeblicher Gedanke bei der Einführung dieser zu berücksichtigenden Parameter ist der Schutz der versicherten Person, welcher infolge eines langjährigen Rentenbezugs eine Eingliederung in den Arbeitsmarkt nicht mehr zugemutet werden kann (vgl. <ref-ruling> E. 4.2.2.2 S. 448). Bei Einleitung des Revisionsverfahrens ist der Ausgang der Überprüfung in aller Regel noch offen und die versicherte Person muss namentlich bei den periodisch durchgeführten Revisionen nicht von vornherein mit der Aufhebung ihrer Rente rechnen. Auch die Erstattung des medizinischen Gutachtens kann nicht als massgebend erachtet werden, da zu diesem Zeitpunkt das Ergebnis der Rentenüberprüfung ebenfalls noch nicht abschliessend feststeht, weil bei der Ermittlung des Invaliditätsgrades noch weitere Faktoren mitspielen (etwa Abklärungen zur Festlegung der anwendbaren Methode [z.B. Haushaltsabklärung] oder zu den beruflichen Einsatzmöglichkeiten). Mit Erlass der rentenaufhebenden Verfügung ist jedoch für die versicherte Person ohne Zweifel klar, dass ihr Rentenanspruch unsicher ist und sie sich neu orientieren muss. Diese Überlegungen stimmen denn auch mit jenen zur Schutzbedürftigkeit der versicherten Person beim andauernden Entzug der aufschiebenden Wirkung in Fällen der Rückweisung zu weiteren Abklärungen überein, wo die versicherte Person ab Erlass der strittigen Verfügung mit der Rentenaufhebung rechnen und bereits während des Rechtsmittelverfahrens entsprechend anders disponieren muss (SVR 2011 IV Nr. 33 S. 96 E. 4.2.2, 8C_451/2010). Auch stellt diese Anknüpfung an die rentenaufhebende Verfügung einen klar terminierten Fixpunkt dar (vgl. <ref-ruling> E. 4.2.2.2 S. 449). Damit ist die Vorinstanz zu Recht von einem massgebenden Alter von knapp 54 Jahren sowie einem Rentenbezug von 14 Jahren und 11 Monaten ausgegangen ist. Entgegen der Ansicht der IV-Stelle spielt es für die Berechnung der 15-jährigen Bezugsdauer denn auch keine Rolle, ob es sich dabei um eine Voll- oder eine Teilrente handelt, denn massgebend ist die andauernde Abwesenheit vom Arbeitsmarkt (vgl. etwa <ref-ruling> E. 5.2; <ref-ruling> E. 5.1 S. 450).
4.2.2. Nach der Rechtsprechung kann die Eingliederung auch in Grenzfällen wie dem vorliegenden (Renteneinstellung im Alter von knapp 54 Jahren und nach einem Rentenbezug von 14 Jahren und 11 Monaten) angeordnet werden, wenn aus den Akten hervorgeht, dass die Verwertung eines bestimmten Leistungspotenzials ohne vorgängige Durchführung befähigender Massnahmen allein mittels Eigenanstrengung der versicherten Person nicht möglich ist (vgl. etwa in <ref-ruling> nicht publizierte E. 5.2 oder SVR 2012 IV Nr. 25 S. 104 E. 3.1, 9C_363/2011). Das bedeutet nicht, dass sich die versicherte Person auf eine Bestandesgarantie berufen kann, sondern lediglich, dass ihr zugestanden wird, dass ihre Rente erst nach Prüfung und Durchführung von Eingliederungsmassnahmen eingestellt wird (vgl. etwa Urteil 9C_920/2013 vom 20. Mai 2014 E. 4.4 mit Hinweis auf SVR 2011 IV Nr. 73 S. 220, 9C_228/2010). Angesichts der konkreten Umstände, wonach der Versicherte bei Rentenaufhebung seit mindestens 13 Jahren keiner Erwerbstätigkeit mehr nachgegangen ist, nur eine rudimentäre berufliche Ausbildung aufweist und sowohl bezüglich des Alters als auch des Rentenbezugs die vorgegebene Grenze nur knapp nicht erreicht, ist nicht zu beanstanden, dass die Vorinstanz die Prüfung und Durchführung von Eingliederungsmassnahmen vor Aufhebung der Rente anordnete (vgl. insbesondere SVR 2012 IV Nr. 25 S. 104 E. 3.2.1, 9C_363/2011).
4.2.3. Soweit die IV-Stelle geltend macht, angesichts der subjektiven Krankheitsüberzeugung seien Eingliederungsmassnahmen sinnlos, ist festzuhalten, dass sich aus den Akten Hinweise auf eine überhöhte Krankheitsüberzeugung finden (vgl. etwa das Gutachten des Instituts C._ vom 27. Oktober 2009, wie auch die Gutachten des Dr. med. E._ vom 3. Oktober 2010 resp. des Prof. Dr. med. D._ vom 3. Oktober 2010). Es ist jedoch unzulässig, allein daraus auf die Aussichtslosigkeit von Eingliederungsmassnahmen zu schliessen, da solche durchaus geeignet sein können, den Eingliederungswillen zu fördern, was der Versicherte denn auch selbst beantragt. Insofern ist die Vorinstanz bei ihrer Beurteilung nicht von einem willkürlich festgestellten Sachverhalt ausgegangen.
4.2.4. Was schliesslich den Einwand der IV-Stelle betrifft, der vorinstanzliche Entscheid stelle einen Verstoss gegen die Rechtsprechung zum Entzug der aufschiebenden Wirkung (<ref-ruling>; SVR 2011 IV Nr. 33 S. 96, 8C_451/2010) dar, kann ihr nicht gefolgt werden. So ergibt sich etwa aus den vorerwähnten Urteilen 9C_920/2013 vom 20. Mai 2014 E. 4.4 und 9C_178/2014 vom 29. Juli 2014 E. 7.1.2 sowie SVR 2012 IV Nr. 25 S. 104 E. 3.1 (9C_363/2011), dass die Aufhebung der bisherigen Rente erst nach Durchführung von Eingliederungsmassnahmen erfolgen kann, mithin in Fällen der nicht zumutbaren Selbsteingliederung die Prüfung und allfällige Durchführung von Eingliederungsmassnahmen Voraussetzung der Rentenaufhebung darstellen. Etwas anderes kann auch nicht aus dem Urteil 9C_711/2012 vom 25. Oktober 2012 E. 2 abgeleitet werden. Jene Ausführungen beziehen sich auf die Eintretensvoraussetzungen im Sinne von <ref-law>; hingegen fand keine materielle Beurteilung statt. Auch aus dem Urteil 8C_502/2013 vom 11. November 2013 kann die IV-Stelle nichts zu ihren Gunsten ableiten; denn dort waren ebenfalls mit dem vorliegenden Fall nicht vergleichbare Fragen (Rechtsverweigerung/Rechtsverzögerung, kantonaler Nichteintretensentscheid) streitig.
5.
Nachdem die Beschwerde der IV-Stelle vollumfänglich abzuweisen ist, erübrigt sich eine Auseinandersetzung mit den Anträgen des Versicherten (E. 2.2), welche nur für den Fall der Gutheissung der Beschwerde gestellt wurden.
6.
Das Verfahren ist kostenpflichtig. Die unterliegende IV-Stelle hat die Gerichtskosten zu tragen (<ref-law>). Der Versicherte hat Anspruch auf eine Parteientschädigung (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdeführerin auferlegt.
3.
Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 12. Januar 2015
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Die Gerichtsschreiberin: Riedi Hunold