Sachverhalt:
A.
A.a. A._ (geb. 1961), Staatsangehöriger von Italien, reiste gemäss den Akten 1983 und gemäss eigenen Darstellungen im Kindesalter in die Schweiz ein. Eigenen Angaben zufolge hielt er sich zwischenzeitlich im Ausland auf, insbesondere im Militärdienst in Italien und als Koch in Deutschland. Zuletzt war er im Besitz der Niederlassungsbewilligung, kontrollbefristet bis 31. Dezember 2014.
A.b. Am 18. Oktober 2014 reiste A._ nach Italien, wo er wegen eines Betäubungsmitteldelikts verhaftet wurde und eine mehrjährige Freiheitsstrafe in Form von Hausarrest verbüssen musste. Nach seiner Rückkehr in die Schweiz ersuchte er am 22. Mai 2017 um Verlängerung seiner Niederlassungsbewilligung. Am 15. August 2018 wurde A._ in der Schweiz verhaftet.
A.c. A._ erwirkte vor seiner Ausreise nach Italien am 18. Oktober 2014 folgende Straferkenntnisse:
- Mit Urteil des Kreisgerichts Chur vorn 24. Mai 1989 wurde er des unvollendeten Diebstahlversuchs, der fortgesetzten Hehlerei, des fortgesetzten Betrugs und des unvollendeten Betrugsversuchs sowie der fortgesetzten Urkundenfälschung schuldig gesprochen und zu einer Gefängnisstrafe von zwölf Monaten verurteilt.
- Mit Strafbefehl des Polizeirichteramts des Kantons Zug vom 26. Juni 1989 wurde er wegen Verkehrsregelverletzungen mit einer Busse von Fr. 100.-- bestraft.
- Die Bezirksanwaltschaft Bülach sprach ihn am 11. März 1994 des mehrfachen Diebstahls schuldig und bestrafte ihn mit einer bedingten Gefängnisstrafe von 30 Tagen.
- Die Bezirksanwaltschaft Zürich erkannte ihn am 25. November 1997 der mehrfachen Widerhandlung gegen das ANAG (heute AIG) schuldig und bestrafte ihn mit einer Busse von Fr. 1'000.--.
- Mit Strafbefehl der Staatsanwaltschaft Winterthur/Unterland vom 9. Juni 2006 wurde er des Erleichterns des rechtswidrigen Aufenthalts sowie der Beschäftigung eines Ausländers ohne Bewilligung schuldig gesprochen und mit einer bedingten Gefängnisstrafe von drei Monaten bestraft.
- Mit Strafbefehl der Staatsanwaltschaft Graubünden vom 20. Juni 2012 wurde er wegen grober Verletzung von Verkehrsregeln mit einer bedingten Geldstrafe von zehn Tagessätzen zu je Fr. 60.-- und mit einer Busse von Fr. 500.-- bestraft.
A.d. Am 25. April 1994 wurde A._ ausländerrechtlich verwarnt.
A.e. Nach seiner Ausreise nach Italien am 18. Oktober 2014 wurde er mit Urteil des Tribunale di Messina vom 19. Dezember 2014 wegen Betäubungsmitteldelikten zu einer Freiheitsstrafe von vier Jahren und einer Geldstrafe von Euro 11'477.-- verurteilt.
A.f. Nach seiner Wiedereinreise hat A._ erneut Anlass zu Klagen gegeben:
- Mit Strafbefehl der Staatsanwaltschaft Baden vom 5. Juni 2018 wurde er wegen Diebstahls schuldig gesprochen und mit einer bedingten Geldstrafe von 30 Tagessätzen zu je Fr. 30.-- sowie einer Busse von Fr. 500.-- bestraft.
- Mit Urteil vom 5. Juni 2019 sprach ihn das Bezirksgericht Zürich wegen Widerhandlungen gegen das Betäubungsmittelgesetz vom 3. Oktober 1951 (Betäubungsmittelgesetz; SR 812. 121), begangen zwischen Juli 2017 und August 2018, sowie der Förderung des rechtswidrigen Aufenthalts, begangen zwischen dem 4. August 2018 und 15. August 2018, schuldig, weshalb es ihn zu einer Freiheitsstrafe von 42 Monaten sowie einer Busse von Fr. 500.-- verurteilte. Von der obligatorischen Landesverweisung im Sinne von Art. 66a Abs. 1 lit. o des Schweizerischen Strafgesetzbuches vom 21. Dezember 1937 (StGB) sah es ab.
A._ befand sich vom 5. Juni 2019 bis 14. April 2020 im Strafvollzug und wurde aufgrund der bestehenden gesundheitlichen Beeinträchtigungen in Bezug auf eine Infizierung mit dem Coronavirus als Hochrisikopatient danach in den modifizierten Vollzug an den Wohnort seiner Familie versetzt. Mit Entscheid vom 7. Dezember 2020 wurde er per 20. Dezember 2020 bedingt aus dem Strafvollzug entlassen.
A.g. Mit Vorbescheid vom 24. November 2020 hat die IV-Stelle das am 10. August 2017 eingereichte Leistungsgesuch von A._ abgelehnt.
A.h. A._ ist mit der brasilianischen Staatsangehörigen B._ (geb. 1985) verheiratet. Aus der Ehe sind Sohn C._ (geb. 2003) und Tochter D._ (geb. 2013) hervorgegangen. Ehefrau und Sohn verfügen über eine bis zum 31. Dezember 2024 gültige Aufenthaltsbewilligung EU/EFTA, die Tochter ist im Besitz der Niederlassungsbewilligung. Die Familie wird seit Juni 2013 von der Sozialhilfe unterstützt.
B.
Am 13. März 2020 wies das Migrationsamt des Kantons Zürich das Gesuch um Wiedererteilung der Niederlassungsbewilligung bzw. um Erteilung einer Aufenthaltsbewilligung EU/EFTA von A._ ab, wies ihn aus der Schweiz weg und ordnete an, dass die Wegweisung auf das Ende des Strafvollzugs vollzogen werde.
Dieser Entscheid wurde von den kantonalen Rechtsmittelinstanzen bestätigt (vgl. Entscheid der Sicherheitsdirektion des Kantons Zürich vom 13. Oktober 2020 und Urteil des Verwaltungsgerichts des Kantons Zürich vom 31. März 2021).
C.
Mit "Einheits"- und Verfassungsbeschwerde vom 17. Mai 2021 beantragt A._ die Aufhebung der Ziffern 2 bis 4 des Entscheides vom 31. März 2021 des Verwaltungsgerichts des Kantons Zürich 2021; es sei ihm eine Aufenthaltsbewilligung zu erteilen; eventualiter sei der Streitgegenstand im Sinne der Erwägungen zur Neubeurteilung an die Vorinstanz zurückzuweisen; eventualiter sei das Beschwerdeverfahren bis zum Abschluss des IV-Verfahrens zu sistieren. Er beantragt die Bewilligung der unentgeltliche Rechtspflege.
Mit Präsidialverfügung vom 21. Mai 2021 hat das Bundesgericht den Beschwerden die aufschiebende Wirkung erteilt.
Das Verwaltungsgericht des Kantons Zürich beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Sicherheitsdirektion des Kantons Zürich verzichtet auf eine Vernehmlassung. Das Migrationsamt des Kantons Zürich sowie das Staatssekretariat für Migration lassen sich nicht vernehmen.
Am 3. Juni 2021 reicht A._ weitere Beweismittel ein.

Erwägungen:
1.
1.1. Gegen den kantonal letztinstanzlichen Endentscheid (Art. 86 Abs. 1 lit. d und Art. 90 BGG) betreffend eine ausländerrechtliche Bewilligung ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig, sofern das Bundesrecht oder das Völkerrecht einen Anspruch auf eine Bewilligung einräumt (<ref-law>), wobei es für das Eintreten genügt, dass ein solcher Anspruch in vertretbarer Weise geltend gemacht wird (<ref-ruling> E. 1.1). Der Beschwerdeführer beruft sich auf Art. 43 und Art. 44 des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer und über die Integration (Ausländer- und Integrationsgesetz, AIG; SR 142.20), auf Art. 8 EMRK sowie auf Art. 4 Abs. 1, Art. 6 Abs. 6 und Art. 3 Abs. 6 Anhang I des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten über die Freizügigkeit (FZA; SR 0.142.112.681). Er macht in vertretbarer Weise geltend, dass er gestützt auf Art. 8 EMRK über ein abgeleitetes Anwesenheitsrecht in Bezug auf seine minderjährigen Kindern verfügt. Ob die einzelnen Voraussetzungen für den geltend gemachten Anspruch erfüllt sind, ist eine Frage der materiellen Beurteilung der Beschwerde und keine solche des Eintretens (vgl. <ref-ruling> E. 1.1 mit Hinweisen; Urteil 2C_870/2018 vom 13. Mai 2019 E. 1). Da auch die weiteren Sachurteilsvoraussetzungen gegeben sind, ist auf die rechtzeitig erhobene Beschwerde einzutreten (vgl. Art. 42, Art. 82 lit. a i.V.m. Art. 86 Abs. 1 lit. d, Art. 89 Abs. 1, Art. 90 und Art. 100 Abs. 1 BGG). Da sich die öffentlich-rechtliche Beschwerde als zulässig erweist, ist auf die subsidiäre Verfassungsbeschwerde nicht einzutreten.
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und Art. 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (<ref-law>), grundsätzlich nur die geltend gemachten Vorbringen, sofern allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.7.1; <ref-ruling> E. 1.6 mit Hinweis). Im Rahmen der Rechtsanwendung von Amtes wegen ist das Bundesgericht weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (Motivsubstitution; vgl. <ref-ruling> E. 3). Die Verletzung von Grundrechten sowie von kantonalem und interkantonalem Recht untersucht es in jedem Fall nur insoweit, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (vgl. <ref-law>; <ref-ruling> E. 5.1).
2.2. Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zu Grunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (<ref-law>). Offensichtlich unrichtig festgestellt ist ein Sachverhalt, wenn er willkürliche Feststellungen beinhaltet (<ref-ruling> E. 1.3.1). Die beschwerdeführende Person muss rechtsgenügend dartun, dass und inwiefern der festgestellte Sachverhalt bzw. die beanstandete Beweiswürdigung klar und eindeutig mangelhaft, mit anderen Worten willkürlich erscheint (Art. 42 Abs. 2; vgl. <ref-ruling> E. 4.1.2). Zur Sachverhaltsfeststellung gehört auch die auf Indizien gestützte Beweiswürdigung (<ref-ruling> E. 2.3). Rügt die beschwerdeführende Partei eine offensichtlich unrichtige Sachverhaltsfeststellung, haben ihre Vorbringen den Anforderungen von <ref-law> zu genügen (<ref-ruling> E. 9.2.3.6). Auf rein appellatorische Kritik an der Sachverhaltsermittlung und an der Beweiswürdigung geht das Bundesgericht nicht ein (<ref-ruling> E. 3).
2.3. Der Beschwerdeführer bringt vor, dass die Vorinstanz den Sachverhalt insofern nicht richtig abgeklärt habe, als sie einseitig auf die Aussagen seiner Ehefrau abgestellt habe. Insoweit dieser Vorwurf nicht näher substanziiert wird, ist darauf nicht weiter einzugehen. Zudem macht er geltend, dass den Akten bzw. dem Entscheid der IV entnommen werden könne, dass seine Arbeitsunfähigkeit bereits 2012 eingesetzt habe. Soweit mit diesem Vorwurf geltend gemacht wird, dass die Aufgabe seiner Erwerbstätigkeit im Jahre 2014 auf seine Arbeitsunfähigkeit zurückzuführen sei, ist dem Beschwerdeführer entgegenzuhalten, dass diese Behauptung in keinerlei Weise durch Beweise erhärtet worden ist. Es ist insofern von dem durch die Vorinstanz verbindlich festgestellten Sachverhalt auszugehen.
2.4. Neue Tatsachen und Beweismittel dürfen vor Bundesgericht nur vorgebracht werden, falls der Entscheid der Vorinstanz hierzu Anlass gibt ("unechte" Noven gemäss <ref-law>; vgl. <ref-ruling> E. 1.2). Dies wird in Bezug auf das medizinische Attest vom 26. Februar 2021 und die Aktennotiz der SVA ZH vom 4. Februar 2021 nicht aufgezeigt. Diese Beweismittel hätten bereits im kantonalen Verfahren ohne Weiteres vorgebracht werden können. Insoweit die eingereichten Beweismittel erst nach bzw. am gleichen Tag wie der angefochtene Entscheid entstanden sind, handelt es sich um echte Noven, welche im bundesgerichtlichen Verfahren unzulässig sind. Die Verfügung der SVA Zürich vom 31. März 2021, das Schreiben des Sozialamtes Buchs vom 17. Mai 2021, die medizinischen Berichte vom 13. April 2021 und 28. Mai 2021, der Verlaufsbericht der Spitex vom 24. Mai 2021 sowie das Urteil des Sozialversicherungsgerichts des Kantons Zürich vom 15. September 2021 können im vorliegenden Verfahren insofern nicht berücksichtigt werden.
3.
Der Beschwerdeführer beruft sich auf die Artikel 43 und 44 AIG, Artikel 8 und 3 EMRK sowie auf Artikel 4 Abs. 1, Art. 6 Abs. 6 und Art. 3 Abs. 6 Anhang I FZA, um eine Aufenthaltsberechtigung zu begründen. Er macht namentlich geltend, seine aus dem FZA abgeleiteten Ansprüche könnten nicht durch Art. 5 Abs. 1 Anhang I FZA eingeschränkt werden, da keine Rückfallgefahr bestehe.
4.
Vorab ist zu untersuchen, ob dem Beschwerdeführer ein Rechtsanspruch gestützt auf <ref-law> sowie auf <ref-law> i.V. mit Art. 8 EMRK und Art. 3 EMRK zusteht. Der Beschwerdeführer macht geltend, dass er aufgrund des gefestigten Aufenthaltsrechts seiner Ehefrau und seiner minderjährigen Kinder einen Anspruch auf Familiennachzug besitze.
4.1. Gemäss <ref-law> haben ausländische Ehegatten und ledige Kinder unter 18 Jahren von Personen mit Niederlassungsbewilligung unter den in Art. 43 Abs. 1-3 AIG genannten Voraussetzungen Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung.
Ein möglicher Anspruch des Beschwerdeführers auf Erteilung einer Aufenthaltsbewilligung gestützt auf <ref-law> fällt von vornherein ausser Betracht, da seine Ehefrau nicht über eine Niederlassungsbewilligung verfügt. Die vom Beschwerdeführer vorgebrachte Rüge, es sei nicht erwiesen, dass die Familie weiterhin auf Sozialhilfe angewiesen sei, zielt insofern ins Leere. Unbehelflich ist auch sein Einwand, dass die Vorinstanz zu Unrecht davon ausgegangen sei, der Bezug von Ergänzungsleistungen schliesse einen Familiennachzug gestützt auf <ref-law> aus, da kein Anspruch auf Erteilung einer Bewilligung besteht. Die Rüge, <ref-law> sei verletzt, ist insofern unbegründet.
4.2.
4.2.1. <ref-law> selbst verleiht keinen Rechtsanspruch auf Familiennachzug. Sind die dort genannten Voraussetzungen erfüllt, besteht jedoch rechtsprechungsgemäss im Verbund mit Art. 8 EMRK ein Rechtsanspruch auf Bewilligung des Familiennachzugs. Es müssen gute Gründe gegeben sein, um den begehrten Nachzug zu verweigern. Diese bestehen regelmässig, wenn die Bewilligungsvoraussetzungen des <ref-law> nicht erfüllt sind. Zum anderen ist die Bewilligung auch zu verweigern, wenn eine der in <ref-law> geregelten Situationen gegeben ist (<ref-ruling> E. 6.2; <ref-ruling> E. 2.6)
4.2.2. Gemäss <ref-law> kann dem ausländischen Ehegatten eine Aufenthaltsbewilligung erteilt werden, wenn er nicht auf Sozialhilfe angewiesen ist. Die Vorinstanz hat diesbezüglich festgestellt, dass der Beschwerdeführer seit 2012 nur noch teilweise erwerbstätig und seit seiner Einreise in die Schweiz im Mai 2017 von der Sozialhilfe abhängig ist. Seine Familie wurde zudem seit dem 1. Juni 2013 fortdauernd von der Sozialhilfe unterstützt und hat bis September 2020 Fr. 375'000.-- an Sozialhilfegeldern bezogen. Soweit der Beschwerdeführer ausführt, seine Ehefrau habe sich nun die notwendigen Ressourcen für die berufliche Integration aneignen können, so dass nunmehr ihre Integration auf dem Arbeitsmarkt erfolgen könne, vermag diese nicht weiter belegte Aussage die langjährige Sozialhilfeabhängigkeit der Familie nicht in Frage zu stellen (vgl. Urteile 2C_914/2020 vom 11. März 2021 E..10; 2C_639/2012 vom 13. Februar 2013 E. 2). Die Voraussetzungen von <ref-law> sind mithin nicht erfüllt, weshalb der Beschwerdeführer keine Aufenthaltsberechtigung gestützt auf diese Bestimmung im Verbund mit Art. 8 EMRK besitzt (vgl. <ref-ruling> E. 6.2 mit Hinweisen; <ref-ruling> E. 2.6).
4.2.3. Die Einschränkung des Rechts des Beschwerdeführers auf Familiennachzug erweist sich auch konform mit Art. 8 EMRK, welcher die Gemeinschaft der Ehegatten mit ihren minderjährigen Kindern vor einer staatlichen Entfernungs- oder Fernhaltemassnahme schützt (vgl. <ref-ruling> E. 6.1, mit Hinweisen; Urteil 2C_642/2021 vom 3. September 2021 E. 3.1). Der seit 1983 meist in der Schweiz lebende Beschwerdeführer hat zwar aufgrund seiner in der Schweiz lebenden Kinder und Ehefrau und seiner gesundheitlichen Angeschlagenheit grundsätzlich ein grosses privates Interesse an der Erteilung einer Aufenthaltsbewilligung, diesem stehen jedoch erhebliche öffentliche Interessen an seiner Fernhaltung bzw. Wegweisung gegenüber. So wurde der Beschwerdeführer siebenmal von 1989 bis 2018, unter anderem wegen Diebstahls, Hehlerei, Betrugs, Urkundenfälschung, Verkehrsregelverletzungen, Widerhandlungen gegen das Ausländergesetz in der Schweiz mit Freiheitsstrafen von insgesamt 16 Monaten bestraft. Dazu kommt, dass er 2014 in Italien wegen Betäubungsmitteldelikten zu einer Freiheitsstrafe von vier Jahren sowie am 5. Juni 2019 wegen Verbrechen gegen das Betäubungsmittelgesetz zu 42 Monaten Freiheitsstrafe verurteilt worden ist. Diese Strafhandlungen begründen zweifelsohne ein grosses Interesse an seiner Fernhaltung bzw. Wegweisung, welches durch die langfristige und bedeutende Sozialhilfeabhängigkeit noch erhöht wird. Dieses öffentliche Interesse überwiegt eindeutig das privates Interesse des Beschwerdeführers an einem Verbleib in der Schweiz.
4.2.4. Dem öffentlichen Interesse an der Fernhaltung des Beschwerdeführers steht schliesslich auch nicht entgegen, dass das Bezirksgericht Zürich von einer Landesverweisung abgesehen hat. Der am 1. Oktober 2016 in Kraft getretene <ref-law> hindert die Migrationsbehörden nicht daran, bei der Prüfung der Verhältnismässigkeit einer Fernhaltemassnahme über das Delikt hinausreichende Aspekte in ihre Beurteilung einfliessen zu lassen, etwa solche, die zum Zeitpunkt des Urteils nicht bekannt waren, erst später eintraten oder rein ausländerrechtliche Gründe betreffen, wie beispielsweise eine langjährige Sozialfhilfeabhängigkeit (vgl. Urteile 2C_305/2018 vom 18. November 2019 E. 4.1; 2C_744/2019 vom 20. August 2020 E. 6 nicht publ. in <ref-ruling>).
4.3. Die Fernhaltung des gesundheitlich angeschlagenen Beschwerdeführers ist schliesslich auch im Lichte von Art. 3 EMRK nicht zu beanstanden. Die Aussage, seine Gesundheit und sein Leben würden durch seine Wegweisung gefährdet, da Italien weiterhin nicht über ein zumutbares Gesundheitssystem verfüge, um seine Leiden wirksam zu behandeln, zielt ins Leere. Weder ist eine krankheitsbedingte aktuelle unmittelbare Gefährdung ersichtlich, noch wird ansatzweise aufgezeigt, dass Italien über ein unzureichendes Gesundheitssystem verfügt, weshalb auch diese Rüge unbegründet ist (vgl. Urteil 2C_348/2020 vom 7. Oktober 2020 E. 7.4.6 unter Hinweis auf das EGMR-Urteil vom 13. Dezember 2016 Paposhvili gegen Belgien [Nr. 41738/10] § 191). In diesem Zusammenhang ist ferner darauf hinzuweisen, dass aufgrund von Art. 3 EMRK per se kein Anspruch auf eine Aufenthaltsbewilligung besteht, sondern nur gegebenenfalls eine Unzulässigkeit des Wegweisungsvollzugs (Art. 83 Abs. 1 und 3 AIG; Urteil 2C_663/2020 vom 2. März 2021 E. 4.1).
4.4. Zusammenfassend ist insofern festzuhalten, dass der Entscheid der Vorinstanz, dem Beschwerdeführer eine Aufenthaltsbewilligung zu verweigern, sich als konventions- und bundesrechtskonform erweist.
5.
Der Beschwerdeführer macht weiter geltend, dass ihm ein Verbleiberecht gestützt auf Art. 4 Abs. 1 und 6 Abs. 6 Anhang I FZA sowie ein abgeleitetes Aufenthaltsrecht gestützt auf Art. 3 Abs. 6 Anhang I FZA zustehe.
5.1. Die Ansprüche aus dem FZA stehen unter dem Vorbehalt von Art. 5 Abs. 1 Anhang I FZA. Sind Einschränkungen aufgrund dieser Bestimmung zulässig, so kann die Frage, ob Ansprüche gestützt auf das FZA bestehen, offengelassen werden. Es ist insofern vorab zu untersuchen, ob Art. 5 Abs. 1 Anhang I FZA ihrer Geltendmachung entgegensteht.
5.2. Gemäss Art. 5 Abs. 1 Anhang I FZA dürfen die auf Grund des FZA eingeräumten Rechte nur durch Massnahmen, die aus Gründen der öffentlichen Ordnung, Sicherheit und Gesundheit gerechtfertigt sind, eingeschränkt werden. Nach Art. 3 der Richtlinie 64/221/EWG - auf welche Art. 5 Abs. 2 Anhang I FZA verweist - darf bei Massnahmen der öffentlichen Ordnung oder Sicherheit ausschliesslich das persönliche Verhalten der betreffenden Person ausschlaggebend sein; strafrechtliche Verurteilungen allein können nicht ohne Weiteres diese Massnahmen begründen. Rechtsprechungsgemäss darf daher eine strafrechtliche Verurteilung nur insoweit als Anlass für eine Massnahme herangezogen werden, als die ihr zugrunde liegenden Umstände ein persönliches Verhalten erkennen lassen, das eine gegenwärtige Gefährdung der öffentlichen Ordnung darstellt. Art. 5 Abs. 1 Anhang I FZA steht somit Massnahmen entgegen, die (allein) aus generalpräventiven Gründen verfügt werden. Insoweit kommt es wesentlich auf das Rückfallrisiko an (<ref-ruling> E. 4.2; Urteile 2C_468/2020 vom 27. August 2020 E. 4.1; 2C_556/2020 vom 22. Januar 2021 E. 2.3; 2C_634/2018 vom 5. Februar 2019 E. 4.1.2).
Verlangt wird eine nach Art und Ausmass der möglichen Rechtsgüterverletzung zu differenzierende, hinreichende Wahrscheinlichkeit, dass der Ausländer auch künftig die öffentliche Sicherheit und Ordnung stören wird. Die Bejahung einer Rückfallgefahr setzt nicht voraus, dass ein Straftäter mit an Sicherheit grenzender Wahrscheinlichkeit wieder delinquieren wird; ebensowenig kann für die Verneinung einer Rückfallgefahr verlangt werden, dass überhaupt kein Restrisiko einer Straftat besteht (Urteil 2C_765/2018 vom 21. September 2018 E. 3.2.1). Je schwerer die befürchtete bzw. vernünftigerweise absehbare Verletzung wichtiger Rechtsgüter wiegt, umso weniger ist die Möglichkeit eines Rückfalls freizügigkeitsrechtlich hinzunehmen (<ref-ruling> E. 5.3 S. 125 f.; Urteil 2C_765/2018 vom 21. September 2018 E. 3.2.1 mit Hinweis).
5.3. Wenn zwar für die ausländerrechtliche Prüfung der Rückfallgefahr etwaige Erwägungen des Strafgerichts von Bedeutung sind (vgl. <ref-ruling> E. 4.3.3), sind die Fremdenpolizeibehörden nicht an die Prognose des Strafrichters gebunden (<ref-ruling> E. 7.4; Urteile 2C_815/2018 vom 24. April 2019 E. 4.3.2; 2C_998/2012 vom 19. Februar 2013 E. 3.2). Straf- und das ausländerrechtliche Verfahren verfolgen unterschiedliche Zwecke. Während es strafrechtlich um die verschuldensabhängige Sanktionierung verpönten Verhaltens und die Reintegration des Täters geht, steht ausländerrechtlich der Sicherheitsaspekt im Vordergrund (Urteile 2C_231/2019 vom 23. Mai 2019 E. 2.4.1; 2C_815/2018 vom 24. April 2019 E. 4.3.1 mit zahlreichen Hinweisen)
5.4. Die Vorinstanz hat sich zur Rückfallgefahr gemäss Art. 5 Abs. 1 Anhang I FZA nicht geäussert, da sie zum Schluss kam, der Beschwerdeführer könne sich nicht auf das FZA berufen, um daraus ein Aufenthalts- bzw. Verweilrecht abzuleiten. Das Bezirksgericht Zürich hat in seinem Urteil vom 5. Juni 2019 eine Rückfallgefahr mit dem Verweis verneint, dass aufgrund der Warnwirkung des letzten Strafurteils sowie der persönlichen Umstände des Beschwerdeführers davon auszugehen sei, dass der Beschwerdeführer ein deliktsfreies Leben führen werde (<ref-law>). Dieser Würdigung ist aus ausländerrechtlicher Perspektive entgegenzusetzen, dass, auch wenn der Beschwerdeführer aufrichtig Reue gezeigt hat und gesundheitlich angeschlagen ist, ein Rückfallrisiko vor dem Hintergrund seiner langjährigen schweren Straffälligkeit besteht. Die Legalprognose des Beschwerdeführers wird massgeblich dadurch belastet, dass er nach seiner Verurteilung zu vier Jahren Freiheitsstrafe in Italien im Jahre 2014 wegen Betäubungsmitteldelikten unmittelbar im Anschluss an seine Entlassung aus dem italienischen Strafvollzug in der Schweiz erneut schwer straffällig geworden ist, was zu seiner Verurteilung im Jahre 2019 zu 42 Monaten Freiheitsstrafe geführt hat. Angesichts dieser Umstände ergibt sich auch in Anbetracht dessen, dass der Beschwerdeführer gesundheitlich angeschlagen ist, eine relevante Rückfallgefahr. Eine solche wäre nur dann zu verneinen, wenn dem Beschwerdeführer eine eigentliche "biographische Kehrtwende" gelungen wäre (vgl. Urteil 2C_468/2020 vom 27. August 2020 E. 6.4). Davon kann angesichts der kurzen Zeit, welche seit seiner Entlassung aus dem Strafvollzug verstrichen ist, keine Rede sein.
5.5. Im Ergebnis ist insofern aufgrund der schwerwiegenden Delinquenz des Beschwerdeführers von einer hinreichend schweren und aktuellen Gefährdung der öffentlichen Ordnung und Sicherheit im Sinne von Art. 5 Abs. 1 Anhang I FZA auszugehen, weshalb offengelassen werden kann, ob er sich überhaupt auf das FZA berufen könnte.
6.
Soweit der Beschwerdeführer glaubhaft machen kann, dass sich seine Gesundheit nach dem vorinstanzlichen Urteil in rechtserheblicher Weise verschlechtert hat, steht es ihm frei, sich gegen den Wegweisungsvollzug zu wehren.
7.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich als unbegründet und ist abzuweisen. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten. Das Gesuch um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren ist abzuweisen, weil die Beschwerde von vornherein aussichtslos war (<ref-law>). Bei diesem Ausgang des Verfahrens sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2.
Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3.
Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege wird abgewiesen.
4.
Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
5.
Dieses Urteil wird den Verfahrensparteien, dem Verwaltungsgericht des Kantons Zürich, 2. Abteilung, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 24. November 2021
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: de Sépibus