Sachverhalt:
A.
Der 1980 geborene A._ meldete sich am 4. April 2013 unter Hinweis auf eine im Jahr 2012 diagnostizierte psychische Erkrankung und eine seit der Kindheit bestehende Aufmerksamkeitsdefizit-Hyperaktivitätsstörung (ADHS) bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich tätigte Abklärungen in erwerblicher und medizinischer Hinsicht und forderte den Versicherten unter Hinweis auf die Mitwirkungspflicht auf, sich einer sechmonatigen Cannabis- und Alkoholabstinenz zu unterziehen. Mit Verfügung vom 4. Januar 2016 wies sie das Leistungsbegehren ab. Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 16. August 2017 in dem Sinne gut, als es die angefochtene Verfügung aufhob und die Sache zur weiteren Abklärung (psychiatrische Begutachtung) an die IV-Stelle zurückwies.
Daraufhin aktualisierte die IV-Stelle die medizinischen Akten und forderte den Versicherten dazu auf, sich einer intensiven psychiatrischen Therapie mit anschliessender Suchtmittelabstinenz zu unterziehen. A._ trat deshalb in ein entsprechendes Programm des B._ Zentrums für Suchtmedizin (nachfolgend: B._) ein. Nachdem ein Arzt dieses Zentrums auf das Risiko für die psychische Stabilität des Versicherten hingewiesen hatte, verzichtete die IV-Stelle auf die Auferlegung einer Schadenminderungspflicht in Form einer Suchtmittelabstinenz. Stattdessen liess sie A._ von med. pract. C._, Facharzt für Psychiatrie und Psychotherapie, begutachten (Expertise vom 3. November 2019) und stellte ihm in der Folge mit Vorbescheid vom 14. Februar 2020 die Abweisung des Anspruchs auf eine Invalidenrente in Aussicht. Dagegen liess der Versicherte durch seine Rechtsvertreterin Einwände erheben. Gleichzeit ersuchte er um Bewilligung der unentgeltlichen Rechtsverbeiständung. Mit Verfügung vom 2. Juni 2020 wies die IV-Stelle das Gesuch um unentgeltliche Rechtsverbeiständung mangels Notwendigkeit der anwaltlichen Vertretung ab.
B.
Die hiergegen geführte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Urteil vom 29. Dezember 2020 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, es sei der angefochtene Entscheid aufzuheben und die IV-Stelle zu verpflichten, ihm für das Verwaltungsverfahren die unentgeltliche Rechtsverbeiständung zu gewähren und Rechtsanwältin Regula Aeschlimann Wirz als unentgeltliche Rechtsbeiständin einzusetzen. Zudem ersucht er um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung für das bundesgerichtliche Verfahren.
Während die IV-Stelle unter Verweis auf den vorinstanzlichen Entscheid auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen (BSV) auf eine Vernehmlassung.

Erwägungen:
1.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts durch die Vorinstanz nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
2.
Der vorinstanzliche Entscheid, welcher wie vorliegend ausschliesslich über den Anspruch der versicherten Person auf einen unentgeltlichen Rechtsbeistand für das (im Entscheidzeitpunkt weiterhin hängige) Verwaltungsverfahren befindet, stellt einen durch den Versicherten anfechtbaren Zwischenentscheid im Sinn von <ref-law> dar, droht ihm dadurch doch in aller Regel ein nicht wieder gutzumachender Nachteil, der auch mit einem für ihn günstigen Endentscheid nicht oder nicht vollständig behebbar wäre (<ref-ruling> E. 2; Urteile 8C_669/2016 vom 7. April 2017 E. 1 mit Hinweisen; 8C_557/2014 vom 18. November 2014 E. 2.4.2, in: SVR 2015 IV Nr. 18 S. 53). Auf die frist- und formgerecht erhobene Beschwerde ist daher einzutreten.
3.
3.1. Streitig und zu prüfen ist, ob das kantonale Gericht Bundesrecht verletzt hat, indem es die Abweisung des Gesuchs um unentgeltliche Verbeiständung für das Verwaltungsverfahren bestätigt hat.
3.2. Das kantonale Gericht hat die rechtlichen Grundlagen für den Anspruch auf unentgeltliche Verbeiständung für das Verwaltungsverfahren (<ref-law>; <ref-law>; <ref-ruling> E. 4.1; vgl. auch SVR 2017 IV Nr. 57 S. 177, 8C_669/2016 E. 2.1 mit Hinweisen) zutreffend dargelegt. Darauf wird verwiesen.
3.3. Die Frage nach der sachlichen Gebotenheit der anwaltlichen Verbeiständung im Administrativverfahren ist eine vom Bundesgericht frei überprüfbare Rechtsfrage (Urteile 9C_29/2017 vom 6. April 2017 E. 1 und 8C_246/2015 vom 6. Januar 2016 E. 2.2, je mit Hinweisen).
4.
4.1. Das kantonale Gericht verneinte die sachliche Gebotenheit der unentgeltlichen Verbeiständung für das Verwaltungsverfahren im Wesentlichen mit der Begründung, dass sich keine schwierigen rechtlichen oder tatsächlichen Fragen stellten. Damit seien auch keine Gründe ersichtlich, weshalb eine soziale Institution resp. - wie im vorangehenden Verwaltungsverfahren - die Sozialbehörde nicht in der Lage hätte sein sollen, die Interessen des Beschwerdeführers in genügender Weise zu vertreten. Beanstandungen im Zusammenhang mit der seit der Praxisänderung eingeführten Indikatorenprüfung und Würdigung der einzelnen Kriterien liessen sich nunmehr bei fast allen psychischen Leiden anführen, vermöchten aber den Ausnahmecharakter der Notwendigkeit einer anwaltlichen Vertretung nicht zu begründen. Auch die Beweiswertigkeit könne im Prinzip in jedem Fall vorgebracht werden. Wäre dies ausreichend, liefe dies drauf hinaus, dass der Anspruch auf unentgeltliche Verbeiständung in praktisch allen Verfahren bejaht werden müsste, in denen ein medizinisches Gutachten nach gerichtlicher Rückweisung im wieder aufzunehmenden Verwaltungsverfahren veranlasst werde, was der Konzeption von <ref-law> widersprechen würde.
4.2. Der Beschwerdeführer rügt eine Verletzung von <ref-law>. Er macht geltend, der Fall habe aufgrund der langen Dauer des Verfahrens und der zu beurteilenden Rechtsfragen eine Komplexität erreicht, welche die Unterstützung durch eine spezialisierte Rechtsvertreterin bedürfe.
5.
5.1. Zwar nannte das kantonale Gericht zutreffend verschiedene Gründe dar, welche im Einzelfall praxisgemäss zur Ablehnung eines Anspruchs auf unentgeltliche Verbeiständung im sozialversicherungsrechtlichen Administrativverfahren führen können. Daraus ist jedoch nicht zu schliessen, dass jeder einzelne Grund für sich allein oder in Kombination mit anderen Gründen ungeachtet der konkreten Verhältnisse im Einzelfall die Verneinung der Erforderlichkeit eines unentgeltlichen Rechtsbeistandes nach <ref-law> zur Folge hat.
5.2. So trifft zu, dass die hohe Bedeutung medizinischer Gutachten für sich allein genommen die Notwendigkeit einer anwaltlichen Vertretung nicht zu begründen vermag. Daran ändert auch nichts, dass im Rahmen der Stellungnahme zu einem medizinischen Gutachten regelmässig gewisse medizinische Kenntnisse und ein gewisser juristischer Sachverstand erforderlich sind, um Schwachstellen einer fachärztlichen Expertise und deren rechtliche Relevanz zu erkennen. Denn die gegenteilige Auffassung liefe in der Tat darauf hinaus, dass ein Anspruch auf unentgeltliche Rechtsverbeiständung kaum verneint werden könnte, wenn ein medizinisches Gutachten zur Diskussion steht. Dies aber wäre mit der Konzeption von <ref-law> als einer Ausnahmeregelung nicht mehr vereinbar (vgl. Urteile 8C_468/2016 vom 13. September 2016 E. 3.2; 8C_676/2015 vom 7. Juli 2016 E. 7, nicht publ. in: <ref-ruling>). Es bedarf mithin weiterer Umstände, welche die Sache als nicht (mehr) einfach und eine anwaltliche Vertretung als notwendig erscheinen lassen (SVR 2018 IV Nr. 32 S. 103, 9C_436/2017 E. 3.5; 2017 IV Nr. 57 S. 177, 8C_669/2016 E. 3.2; Urteil 9C_908/2012 vom 22. Februar 2013 E. 5.2 mit Hinweisen).
5.3.
5.3.1. Richtig ist auch, dass nicht jede Rückweisung an die IV-Stelle zur weiteren Abklärung in Bezug auf die Wiederaufnahme des Administrativverfahrens einen Anspruch auf unentgeltliche Rechtspflege begründet. Dieser setzt vielmehr zusätzliche, besondere Umstände voraus, welche die Sache als nicht (mehr) einfach erscheinen lassen. Solche Besonderheiten liegen beispielsweise vor, wenn die Verwaltung nicht bloss einzelne rechtsverbindliche Anweisungen gemäss Rückweisungsentscheid ohne eigenen Ermessensspielraum konkret umzusetzen hat, sondern das kantonale Gericht die Sache zur umfassenden medizinischen Abklärung und Veranlassung eines polydisziplinären Gutachtens an die IV-Stelle zurückweist, ein komplexer Sachverhalt vorlag und die versicherte Person bereits im damaligen gerichtlichen Verfahren vertreten war (SVR 2018 IV Nr. 32 S. 103, 9C_436/2017 E. 3.6.1 mit Hinweis). Besondere Umstände können des Weiteren dann gegeben sein, wenn die Rückweisung an die Verwaltung zur mono- oder bidisziplinären Begutachtung erfolgt, weil in diesem Kontext die zufallsbasierte Zuweisung einer Gutachterstelle entfällt, so dass den übrigen Verfahrensgarantien im Sinn von <ref-ruling> (Partizipationsrechte, Verfügungspflichten und Rechtsschutz) umso grössere Bedeutung zukommt (SVR 2015 IV Nr. 18 S. 53, 8C_557/2014 E. 5.2.1 in fine mit Hinweis). Ferner können auch besondere Vorgaben rechtlicher Natur (z.B. Rückweisung nicht nur zur umfassenden Neubeurteilung des Gesundheitszustands, sondern auch zur Neuüberprüfung des Einkommensvergleichs unter allfälliger Parallelisierung der Einkommen) die Verbeiständung erforderlich machen (SVR 2017 IV Nr. 57 S. 177, 8C_669/2016 E. 3.3.1 mit Hinweisen).
5.3.2. In ihrem Rückweisungsentscheid vom 16. August 2017 erwog die Vorinstanz, es könne nicht ausgeschlossen werden, dass es sich vorliegend um eine sekundäre Suchtproblematik handle und dementsprechend eine ausreichend schwere und ihrer Natur nach für die Entwicklung einer Suchtkrankheit geeignete Gesundheitsstörung zugrunde liege (E. 5.2). Zur Klärung dieser Frage dränge sich eine psychiatrische Begutachtung auf. Eine vorgängige Abstinenz könne zudem nur verlangt werden, wenn diese aus medizinischer Sicht zumutbar sei.
5.3.3. In der Folge forderte die IV-Stelle den Beschwerdeführer dazu auf, sich einer intensiven psychiatrischen Therapie mit anschliessender Suchtmittelabstinenz zu unterziehen. Auf die Schadenminderungsauflage einer Suchtmittelabstinenz kam sie im weiteren Verlauf auf Intervention des Arztes des Zentrums für Suchtmedizin hin zurück und veranlasste eine psychiatrische Begutachtung durch med. pract. C._. Zwischenzeitlich änderte das Bundesgericht seine Rechtsprechung im Zusammenhang mit Abhängigkeitssyndromen (<ref-ruling>). Es hat entschieden, dass fortan - gleich wie bei allen anderen psychischen Erkrankungen - nach dem strukturierten Beweisverfahren zu ermitteln sei, ob und gegebenenfalls inwieweit sich ein fachärztlich diagnostiziertes Abhängigkeitssyndrom im Einzelfall auf die Arbeitsfähigkeit der versicherten Person auswirke (E. 6.3).
5.4. Hier hatte das kantonale Gericht die Sache zur weiteren medizinischen Abklärung resp. zur Veranlassung eines monodisziplinären Gutachtens an die IV-Stelle zurückgewiesen, und die Beschwerdeführerin war bereits im damaligen gerichtlichen Verfahren durch die heute nach wie vor gleiche Rechtsbeiständin vertreten. Dieser Umstand spricht für die Erforderlichkeit der Vertretung (SVR 2015 IV Nr. 18 S. 53, 8C_557/2014 E. 5.2.2 mit Hinweisen; Urteil 8C_572/2014 vom 28. Januar 2015 E. 5.2.4). Hinzu kommt, dass das IV-Verfahren seit nunmehr fast acht Jahren hängig ist (Anmeldung vom 4. April 2013), sowie der Umstand, dass sich die Rechtsprechung betreffend die Beurteilung von Abhängigkeitssyndromen zwischenzeitlich geändert hat. Damit kann - entgegen der Vorinstanz - nicht mehr von einem einfachen, durchschnittlichen Sachverhalt ausgegangen werden (vgl. SVR 2018 IV Nr. 32 S. 103, 9C_436/2017 E. 3.6.3 mit Hinweis). Schliesslich ist in Bezug auf die konkreten subjektiven Verhältnisse des Beschwerdeführers (vgl. Urteil 8C_572/2014 vom 28. Januar 2015 E. 5.2.3.2 mit Hinweis) auch der fehlenden (nicht abgeschlossenen) beruflichen Ausbildung und der psychischen Erkrankung Rechnung zu tragen.
5.5. Aufgrund des komplexen Verfahrensverlaufs und der nicht mehr einfachen Fragestellungen kann dem Beschwerdeführer schliesslich auch nicht entgegengehalten werden, er hätte sich mit dem Beizug von Fach- und Vertrauensleuten sozialer Institutionen oder unentgeltlicher Rechtsberatungsstellen behelfen müssen (vgl. SVR 2018 IV Nr. 32 S. 103, 9C_436/2017 E. 3.6.3 mit Hinweis; SVR 2017 IV Nr. 57 S. 177, 8C_669/2016 E. 3.3.3).
5.6. Zusammenfassend war vorliegend der Beizug eines Anwalts resp. einer Anwältin mit Blick auf die dargelegten Grundsätze für die Dauer des Vorbescheidverfahrens ausnahmsweise erforderlich.
6.
Kumulative Voraussetzungen für die unentgeltliche Verbeiständung im Rahmen von <ref-law> sind Bedürftigkeit, Nichtaussichtslosigkeit der Rechtsbegehren sowie sachliche Gebotenheit der Vertretung (<ref-ruling> E. 4.1). Nebst der Gebotenheit der Vertretung ist auch die Bedürftigkeit ausgewiesen, sodass einzig noch die Frage der Nichtaussichtslosigkeit der Rechtsbegehren zu klären ist. Dazu hat bislang weder die IV-Stelle noch die Vorinstanz Stellung genommen. Die Sache ist deshalb an die IV-Stelle zurückzuweisen, damit sie die verbleibende Voraussetzung der Nichtaussichtslosigkeit prüfe und anschliessend erneut über die unentgeltliche Verbeiständung verfüge. Insoweit ist die Beschwerde begründet.
7.
7.1. Praxisgemäss entspricht die Rückweisung der Sache zu neuem Entscheid einem vollen Obsiegen (<ref-ruling> E. 7.1 mit Hinweisen). Entsprechend sind die Gerichtskosten der Beschwerdegegnerin zu überbinden (<ref-law>). Sie hat dem anwaltlich vertretenen Beschwerdeführer ferner eine angemessene Parteientschädigung zu leisten (Art. 68 Abs. 1 und 2 BGG). Ausgehend von dem von der Rechtsvertreterin mit Eingabe vom 14. April 2021 geltend gemachten Aufwand (inkl. Auslagen) wird die Entschädigung auf pauschal Fr. 1500.- festgelegt. Damit wird das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren gegenstandslos.
7.2. Über die Entschädigungsfolgen des kantonalen Gerichtsverfahrens wird die Vorinstanz, die im angefochtenen Entscheid einen Entschädigungsanspruch des Rechtsvertreters des Beschwerdeführers unter dem Titel der unentgeltlichen Verbeiständung bejaht hat, neu befinden.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Das Urteil des Sozialversicherungsgerichts des Kantons Zürich vom 29. Dezember 2020 und die entsprechende Verfügung der IV-Stelle des Kantons Zürich vom 2. Juni 2020 werden aufgehoben. Die Sache wird zu neuer Verfügung an die IV-Stelle zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat die Rechtsvertreterin des Beschwerdeführers für das bundesgerichtliche Verfahren mit Fr. 1500.- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Parteientschädigung für das vorangegangene Verfahren an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 18. Mai 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Wüest