Sachverhalt:
A.
Der 1964 geborene A._ bezog gestützt auf die Verfügung der IV-Stelle des Kantons Zürich vom 10. April 1997 (bestätigt mit Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 18. August 1999) ab 1. September 1993 eine halbe Härtefallrente der Invalidenversicherung. Mit Verwaltungsakt vom 23. Mai 2000 sprach die IV-Stelle ihm anstelle der bisherigen Härtefallrente, basierend auf einem Invaliditätsgrad von 45 %, ab 1. Mai 1998 eine ordentliche halbe Rente, entsprechend einem Invaliditätsgrad von 53 %, zu, welche sie in der Mitteilung vom 15. Mai 2003 bei einem Invaliditätsgrad von nunmehr 64 % bestätigte. Verfügungsweise gewährte sie am 16. Februar 2004 aufgrund der 4. IV-Revision bei einem Invaliditätsgrad von 63 % ab 1. Januar 2004 eine Dreiviertelsrente. In der Folge setzte sie diese unter Hinweis auf einen 50%igen Invaliditätsgrad ab 1. August 2009 auf eine halbe Rente herab (Verfügung vom 19. Juni 2009, bestätigt mit unangefochten in Rechtskraft erwachsenem Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 3. Dezember 2010). Im Rahmen eines von Amtes wegen eingeleiteten Revisionsverfahrens holte die IV-Stelle unter anderem die Gutachten der Dr. med. B._, Fachärztin für Innere Medizin FMH, speziell Rheumaerkrankungen, vom 9. Juni 2011 und des Dr. med. C._, Spezialarzt für Psychiatrie und Psychotherapie, vom 5. Juli 2011 (mit bidisziplinärer Zusammenfassung vom 8. Juli 2011) ein. Bei einem ermittelten 44%igen Invaliditätsgrad zahlte sie fortan ab 1. Mai 2012 eine Viertelsrente aus (Verfügung vom 2. März 2012). Aufgrund der am 12. März 2010 rechtskräftig gewordenen Ehescheidung nahm sie ausserdem mit zwei Verfügungen vom 14. März 2012 eine Neuberechnung der halben Invalidenrente für den Zeitraum vom 1. April 2010 bis 30. April 2012 vor. Nachdem das kantonale Gericht A._ im Rahmen der gegen die Verfügungen vom 2. und 14. März 2012 angehobenen Beschwerdeverfahren mit Beschluss vom 15. Oktober 2013 eine reformatio in peius angedroht hatte, zog er seine Rechtsmittel wieder zurück, womit die Verfügungen vom 2. und 14. März 2012 rechtskräftig wurden.
Am 27. Dezember 2013 ersuchte A._ um berufliche Massnahmen. Die IV-Stelle veranlasste daraufhin medizinische und beruflich-erwerbliche Abklärungen und holte namentlich das Gutachten der Medizinischen Abklärungsstelle Bern (nachfolgend: MEDAS) vom 15. Dezember 2014 ein. Nach Durchführung des Vorbescheidverfahrens hob sie die Verfügung vom 2. März 2012, mit welcher die bisherige halbe auf eine Viertelsrente herabgesetzt worden war, mit Verwaltungsakt vom 3. Dezember 2015 wiedererwägungsweise auf und stellte die Rente ein.
B.
In Gutheissung der dagegen erhobenen Beschwerde hob das Sozialversicherungsgericht des Kantons Zürich die Verfügung vom 3. Dezember 2015 auf und stellte fest, A._ habe weiterhin Anspruch auf eine Viertelsrente (Entscheid vom 23. März 2017).
C.
Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der angefochtene Entscheid sei aufzuheben und es sei festzustellen, dass kein Rentenanspruch bestehe. Ferner beantragt sie, der Beschwerde sei die aufschiebende Wirkung zuzuerkennen.
A._ schliesst auf Abweisung der Beschwerde und Ablehnung des Gesuchs um aufschiebende Wirkung. Ferner beantragt er die Gewährung der unentgeltlichen Rechtspflege. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Stellungnahme.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Nach <ref-law> in Verbindung mit <ref-law> und <ref-law> kann der Versicherungsträger auf formell rechtskräftige Verfügungen oder Einspracheentscheide zurückkommen, wenn diese zweifellos unrichtig sind und wenn ihre Berichtigung von erheblicher Bedeutung ist. Die erstgenannte Voraussetzung meint, dass kein vernünftiger Zweifel an der (von Beginn weg bestehenden) Unrichtigkeit der Verfügung möglich, also einzig dieser Schluss denkbar ist. Das Erfordernis der zweifellosen Unrichtigkeit ist in der Regel erfüllt, wenn eine Leistungszusprechung aufgrund falsch oder unzutreffend verstandener Rechtsregeln erfolgt war oder wenn massgebliche Bestimmungen nicht oder unrichtig angewandt wurden (<ref-ruling> E. 3.1 S. 79). Anders verhält es sich, wenn der Wiedererwägungsgrund im Bereich materieller Anspruchsvoraussetzungen liegt, deren Beurteilung notwendigerweise Ermessenszüge aufweist. Erscheint die Beurteilung einzelner Schritte bei der Feststellung solcher Anspruchsvoraussetzungen (Invaliditätsbemessung, Arbeitsunfähigkeitsschätzung, Beweiswürdigung, Zumutbarkeitsfragen) vor dem Hintergrund der Sach- und Rechtslage, wie sie sich im Zeitpunkt der rechtskräftigen Leistungszusprechung darbot, als vertretbar, scheidet die Annahme zweifelloser Unrichtigkeit aus. Zweifellos ist die Unrichtigkeit, wenn kein vernünftiger Zweifel daran möglich ist, dass die Verfügung unrichtig war. Es ist nur ein einziger Schluss - derjenige auf die Unrichtigkeit der Verfügung - denkbar (<ref-ruling> E. 3.3 S. 328; Urteil 9C_125/2013 vom 12. Februar 2014 E. 4.1 mit Hinweisen, nicht publ. in: <ref-ruling>, aber in: SVR 2014 IV Nr. 10 S. 39).
3.
3.1. Die Vorinstanz führte aus, sie sei zwar im Rahmen des Beschwerdeverfahrens gegen die Verfügung vom 2. März 2012 unpräjudiziell zum Schluss gelangt, dass sich der von der Verwaltung gewährte 20%ige Leidensabzug vom Invalideneinkommen mit Blick auf die geringe Einschränkung des Tätigkeitsprofils und die vollschichtige Arbeitsfähigkeit mit einer zu 20 % (bzw. 30 %) reduzierten Leistungsfähigkeit nicht rechtfertige. Es stehe aber fest, dass der Versicherte in seiner ursprünglich ausgeübten Tätigkeit als Hilfsschlosser körperliche Schwerarbeit verrichtet habe, weshalb die Gewährung eines Leidensabzugs an sich im Rahmen einer Ermessensausübung durchaus vertretbar erscheine. Dies gelte umso mehr, als mit dem Leidensabzug ursprünglich beabsichtigt gewesen sei, der versicherten Person, welche ehemals Schwerarbeit verrichtet habe, bei der Invaliditätsbemessung entgegenzukommen. Wenn auch anhand der aktuellen Einschätzung ein tieferer Leidensabzug wohl richtiger gewesen wäre, sei damit aber die Schwelle zur zweifellosen Unrichtigkeit noch nicht überschritten. Folglich komme eine Wiedererwägung wegen zweifelloser Unrichtigkeit nicht in Betracht und die Renteneinstellung sei zu Unrecht erfolgt.
3.2. Die IV-Stelle wendet ein, dass die vorinstanzliche Argumentation, wonach der Versicherte ursprünglich Schwerarbeit verrichtet habe und daher ein Leidensabzug durchaus vertretbar erscheine, nicht nachvollziehbar sei. Die frühere Schwerarbeit sei zudem bereits dadurch berücksichtigt, dass das damals erzielte Einkommen nun mit einem durchschnittlichen Einkommen eines Hilfsarbeiters verglichen werde. Denn wenn leichte bis mittelschwere Arbeiten zumutbar seien, so sei allein deswegen auch bei eingeschränkter Leistungsfähigkeit noch kein Abzug gerechtfertigt, weil der Tabellenlohn im Anforderungsniveau 4 bereits eine Vielzahl von leichten bis mittelschweren Tätigkeiten umfasse. Es erstaune, dass das kantonale Gericht dies in seinem Beschluss vom 15. Oktober 2013 so klar festgehalten habe und nunmehr im angefochtenen Entscheid zu einem anderen Ergebnis gelange.
3.3. Der Versicherte lässt geltend machen, die Androhung einer reformatio in peius im Beschwerdeverfahren gegen die Verfügung vom 2. März 2012 mit Beschluss vom 15. Oktober 2013 beruhe lediglich auf einer erstmaligen summarischen und provisorischen Überprüfung des massgebenden Sachverhalts. Darum könne die IV-Stelle für den vorliegenden Fall nichts daraus ableiten. Die damalige Ermessensbetätigung sei nicht zweifellos unrichtig gewesen, weshalb eine Wiedererwägung nicht in Betracht komme.
4.
4.1.
4.1.1. Wird das Invalideneinkommen auf der Grundlage der Lohnstrukturerhebung des Bundesamtes für Statistik (LSE) ermittelt, ist der entsprechende Ausgangswert allenfalls zu kürzen. Ohne für jedes zur Anwendung gelangende Merkmal separat quantifizierte Abzüge vorzunehmen, ist der Einfluss aller Merkmale auf das Invalideneinkommen (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad) unter Würdigung der Umstände im Einzelfall nach pflichtgemässem Ermessen gesamthaft zu schätzen. Der Abzug darf 25 % nicht übersteigen (<ref-ruling> E. 5.2 S. 301 mit Hinweisen). Ob und in welcher Höhe statistische Tabellenlöhne herabzusetzen sind, hängt von sämtlichen persönlichen und beruflichen Umständen des Einzelfalles ab, die nach pflichtgemässem Ermessen gesamthaft zu schätzen sind. Ob ein (behinderungsbedingt oder anderweitig begründeter) Abzug vom hypothetischen Invalideneinkommen vorzunehmen sei, ist eine Rechtsfrage. Demgegenüber stellt die Höhe des Abzuges eine typische Ermessensfrage dar. Diesbezüglich scheidet die Annahme einer zweifellosen Unrichtigkeit aus, soweit der Abzug vor dem Hintergrund der Sach- und Rechtslage einschliesslich der Rechtspraxis im Zeitpunkt der rechtskräftigen Leistungszusprechung in vertretbarer Weise beurteilt worden ist (vgl. E. 2 hiervor).
4.1.2. Um wiedererwägungsweise auf eine verfügte Leistung zurückkommen zu können, genügt es nicht, wenn ein einzelnes Anspruchselement rechtswidrig festgelegt wurde. Vielmehr hat sich die Leistungszusprache auch im Ergebnis als offensichtlich unrichtig zu erweisen. So muss etwa, damit eine zugesprochene Rente wegen einer unkorrekten Invaliditätsbemessung wiedererwägungsweise aufgehoben werden kann - nach damaliger Sach- und Rechtslage - erstellt sein, dass eine korrekte Invaliditätsbemessung hinsichtlich des Leistungsanspruchs zu einem andern Ergebnis geführt hätte (<ref-ruling> E. 3.1 S. 79).
4.2.
4.2.1. Im Rahmen der Rentenüberprüfung vor Erlass der Herabsetzungsverfügung vom 2. März 2012 holte die IV-Stelle die Gutachten der Dr. med. B._ vom 9. Juni 2011 und des Dr. med. C._ vom 5. Juli 2011 ein. Gestützt darauf ging sie von einer 20%igen Einschränkung der Leistungsfähigkeit in einer vollschichtigen Verweistätigkeit aus. Aus den Expertisen bzw. der bidisziplinären Zusammenfassung vom 8. Juli 2011 ergibt sich, dass der Versicherte aus internistisch-rheumatologischer Sicht in einer wechselbelastenden, rückenschonenden Tätigkeit mit Hantieren von Gewichten bis zu 10 kg zu 100 % einsetzbar war und aus psychiatrischer Sicht - bei Vorliegen einer leichten depressiven Episode und einer anhaltenden somatoformen Schmerzstörung - eine 20%ige Leistungseinbusse in einer vollschichtigen Tätigkeit bestand. Der RAD empfahl der IV-Stelle am 15. Juli 2011, auf diese gutachtlichen Einschätzungen vollumfänglich abzustellen.
4.2.2. Die Rechtsprechung gewährt insbesondere dann einen Abzug auf dem Invalideneinkommen, wenn eine versicherte Person selbst im Rahmen körperlich leichter Hilfsarbeitertätigkeit in ihrer Leistungsfähigkeit eingeschränkt ist (<ref-ruling> E. 5a/bb S. 78). Sind hingegen leichte bis mittelschwere Arbeiten zumutbar, ist allein deswegen auch bei eingeschränkter Leistungsfähigkeit noch kein Abzug gerechtfertigt, weil der Tabellenlohn im Anforderungsniveau 4 (bzw. ab LSE 2012: Kompetenzniveau 1) bereits eine Vielzahl von leichten und mittelschweren Tätigkeiten umfasst (Urteile 8C_253/2017 vom 29. Juni 2017 E. 4.3.2; 8C_805/2016 vom 22. März 2017 E. 3.4.2). Mit Blick auf die Anforderungen an eine Verweistätigkeit im vorliegenden Fall (vgl. E. 4.2.1 hiervor) kam damit ein zusätzlicher Abzug infolge einer leidensbedingten Einschränkung offensichtlich nicht in Frage. Ebenso wenig gaben das Alter, die Dienstjahre und die Nationalität/Aufenthaltskategorie Anlass dazu. Da dem Versicherten ein volles Pensum (mit einer qualitativen Einschränkung von 20 %) zumutbar war, stellte auch der Beschäftigungsgrad keinen Grund für einen zusätzlichen Abzug dar.
Ob ein Leidensabzug vorzunehmen oder von einem solchen abzusehen sei, ist eine Rechts- und keine Ermessensfrage (vgl. E. 4.1.1 hiervor). Diese Rechtsfrage ist im vorliegenden Fall klar zu verneinen. Die Argumentation von Vorinstanz und Versichertem, wonach die damalige Ermessensausübung der IV-Stelle in der Verfügung vom 2. März 2012 vertretbar erscheine, ist nicht stichhaltig. Im angefochtenen Entscheid wird im Übrigen eingeräumt, dass sich im Grunde kein Abzug rechtfertigen lasse.
4.2.3. Da somit die Kriterien für einen zusätzlichen Abzug vom Invalideneinkommen klarerweise fehlten, kann nicht beanstandet werden, dass die IV-Stelle am 3. Dezember 2015 wegen zweifelloser Unrichtigkeit auf die Verfügung vom 2. März 2012 zurückgekommen ist. Daran vermag nichts zu ändern, dass der Versicherte in einer früheren Anstellung körperliche Schwerarbeit verrichten musste. Die Vorinstanz verkennt diesbezüglich, dass ein Leidensabzug sich nicht mit dem theoretischen Hinweis rechtfertigen lässt, damit sei ursprünglich beabsichtigt worden, der versicherten Person entgegenzukommen, welche angestammt Schwerarbeit habe verrichten müssen (<ref-ruling> E. 5a/aa S. 78). Denn Tatsache bleibt, dass die Kriterien für einen Leidensabzug im konkreten Fall nicht erfüllt waren. Da schliesslich an der Erheblichkeit der wiedererwägungsweisen Berichtigung nicht zu zweifeln ist, ist die Verfügung vom 3. Dezember 2015 rechtens und der kantonale Gerichtsentscheid muss aufgehoben werden.
5.
Mit dem Urteil in der Sache wird das Gesuch der IV-Stelle um Gewährung der aufschiebenden Wirkung der Beschwerde gegenstandslos.
6.
Das Verfahren ist kostenpflichtig. Der unterliegende Beschwerdegegner hat die Gerichtskosten zu tragen (<ref-law>). Seinem Gesuch um Gewährung der unentgeltlichen Rechtspflege kann entsprochen werden (Art. 64 Abs. 1 und 2 BGG), weshalb die Gerichtskosten vorläufig auf die Gerichtskasse genommen werden und seinem Anwalt eine Entschädigung aus der Gerichtskasse bezahlt wird. Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Bundesgerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu in der Lage ist (Urteil 8C_210/2016 vom 24. August 2016 E. 9).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 23. März 2017 wird aufgehoben und die Verfügung der IV-Stelle des Kantons Zürich vom 3. Dezember 2015 bestätigt.
2.
Dem Beschwerdegegner wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Massimo Aliotta wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdegegner auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdegegners wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
6.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 7. August 2017
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Berger Götz