Sachverhalt:
A.
A.a. Der 1979 geborene A._ arbeitete als Betriebsmitarbeiter bei der B._ GmbH, als er sich am 23. September 2010 bei einem Verkehrsunfall unter anderem eine Distorsion der Halswirbelsäule zuzog. Am 2. Mai 2011 meldete er sich wegen Nackenschmerzen und thorakalen Schmerzen bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärung des medizinischen Sachverhaltes, unter anderem durch ein psychiatrisches Gutachten der Dr. med. C._, Spezialärztin für Psychiatrie und Psychotherapie, vom 22. September 2012, verneinte die Sozialversicherungsanstalt des Kantons Zürich, IV-Stelle, mit Verfügung vom 29. Mai 2013 ihre Leistungspflicht. Das Sozialversicherungsgericht des Kantons Zürich wies eine gegen diese Verfügung erhobene Beschwerde mit Urteil vom 8. September 2014 rechtskräftig ab.
A.b. Am 6. Juni 2017 machte A._ bei der Invalidenversicherung eine Verschlechterung seines psychischen Gesundheitszustandes geltend. Die IV-Stelle trat auf diese Neuanmeldung ein und tätigte medizinische Abklärungen. Sie liess den Versicherten insbesondere durch das Zentrum für Medizinische Begutachtung (ZMB) polydisziplinär untersuchen. Gestützt auf die Expertise vom 27. September 2018 lehnte die IV-Stelle das Leistungsgesuch mit Verfügung vom 8. Juli 2019 ab, da keine Veränderung der tatsächlichen Verhältnisse und keine erhebliche und langandauernde Beeinträchtigung der Arbeitsfähigkeit vorlägen.
B.
Die dagegen geführte Beschwerde wies das Sozialversicherungsgericht mit Urteil vom 29. Dezember 2020 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des vorinstanzlichen Urteils und der Verfügung vom 8. Juli 2019 seien ihm Leistungen der Invalidenversicherung zuzusprechen; eventualiter sei die Sache zur Vornahme ergänzender medizinischer Abklärungen an die Beschwerdegegnerin zurückzuweisen. Ferner ersucht er um Gewährung der unentgeltlichen Rechtspflege.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
1.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG).
1.2. Als Rechtsfrage gilt, ob die rechtserheblichen Tatsachen vollständig festgestellt und ob der Untersuchungsgrundsatz bzw. die Beweiswürdigungsregeln nach <ref-law> beachtet wurden. Gleiches gilt für die Frage, ob den medizinischen Gutachten und Arztberichten im Lichte der rechtsprechungsgemässen Anforderungen Beweiswert zukommt (<ref-ruling> E. 5.1). Bei den aufgrund dieser Berichte getroffenen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit und bei der konkreten Beweiswürdigung geht es um Sachverhaltsfragen (nicht publ. E. 1 des Urteils <ref-ruling>). Frei überprüfbare Rechtsfrage ist hingegen, ob und in welchem Umfang die ärztlichen Feststellungen anhand der Indikatoren nach <ref-ruling> auf Arbeitsunfähigkeit schliessen lassen (<ref-ruling> E. 7).
2.
2.1. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie die Verfügung vom 8. Juli 2019 bestätigte, wonach kein Anspruch auf eine Invalidenrente besteht.
2.2. Die Vorinstanz hat die zur Beurteilung des Streitgegenstandes die bei einer Neuanmeldung in analoger Weise anzuwendenden rechtlichen Grundlagen zur Revision der Invalidenrente und die in diesem Zusammenhang zu beachtenden Grundsätze zutreffend dargelegt (<ref-law>; <ref-ruling> E. 2.3 mit Hinweisen). Das betrifft insbesondere auch die Tatsache, dass eine lediglich unterschiedliche Beurteilung eines im Wesentlichen gleich gebliebenen Sachverhalts im revisionsrechtlichen Kontext unbeachtlich ist (<ref-ruling> E. 2.3). Richtig sind auch ihre Erwägungen zum Beweiswert medizinischer Unterlagen (<ref-ruling> E. 5.1, <ref-ruling> E. 3a). Darauf wird verwiesen. Zu verdeutlichen ist, dass einer neuen ärztlichen Einschätzung, die sich nicht hinreichend darüber ausspricht, inwiefern im Vergleich zur früheren Beurteilung eine effektive Veränderung des Gesundheitszustands eingetreten ist, für die Belange der Rentenrevision kein genügender Beweiswert zukommt. Vorbehalten bleiben Sachlagen, in denen es evident ist, dass die gesundheitlichen Verhältnisse sich geändert haben (Urteil 9C_137/2017 vom 8. November 2017 E. 3.1; Bestätigung von SVR 2012 IV Nr. 18 S. 81, 9C_418/2010 sowie des Urteils 9C_710/2014 vom 26. März 2015).
3.
3.1. Die Vorinstanz mass dem polydisziplinären Gutachten des ZMB vom 27. September 2018 Beweiswert zu (<ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352 mit Hinweis) und stellte fest, der Gesundheitszustand des Beschwerdeführers habe sich seit Erlass der rentenabweisenden Verfügung vom 29. Mai 2013 nicht wesentlich verschlechtert, weshalb er keinen Anspruch auf Leistungen der Invalidenversicherung habe. Selbst wenn aber von veränderten Verhältnissen auszugehen wäre, würde dies nichts ändern. Das kantonale Gericht stellte fest, die Gutachter hätten in allen Disziplinen eine ausgesprochene Selbstlimitierung sowie erhebliche Diskrepanzen zwischen den geklagten Beschwerden und den spärlichen objektivierbaren Befunden bis hin zur Aggravation erhoben. Auch angesichts der Stellungnahme der behandelnden Fachpersonen vom medizinischen Zentrum D._ (Dr. med. H._, Facharzt Psychiatrie und Psychotherapie FMH, und Dr. phil. klin. psych. I._) vom 28. Februar 2019 ändere sich nichts an der Beweiskraft des ZMB-Gutachtens. In der Folge prüfte das Gericht in einem strukturierten Beweisverfahren gemäss <ref-ruling> die in diesem Gutachten attestierte Arbeitsunfähigkeit von 40 % und erkannte, dass insbesondere mit Blick auf das selbstlimitierende bis aggravierende Verhalten des Beschwerdeführers eine medizinische Anspruchsgrundlage für die IV-rechtliche Anerkennung einer Arbeitsunfähigkeit nicht mit überwiegender Wahrscheinlichkeit nachgewiesen sei. Entsprechend wies es die Beschwerde ab.
3.2. Der Beschwerdeführer wirft der Vorinstanz eine Verletzung des Untersuchungsgrundsatzes vor. Sie habe verkannt, dass sich sein Gesundheitszustand seit Erstellung des Gutachtens des ZMB vom 27. September 2018 bis zur Abweisungsverfügung vom 8. Juli 2019 weiter verschlechtert habe. Dies ergebe sich aus dem Bericht des medizinischen Zentrums D._ vom 28. Februar 2019 und insbesondere aus der Einschätzung des Sanatoriums E._ vom 21. März 2019 sowie weiteren Berichten behandelnder Ärzte (Bericht Dr. med. F._, Facharzt für Neurologie, Zürich, vom 27. März 2019; Verlaufsbericht medizinisches Zentrum G._ vom 18. Juni 2019). Wenn auf das ZMB-Gutachten abzustellen wäre, hätte das kantonale Gericht auch die in diesem attestierte Arbeitsunfähigkeit von 40 % berücksichtigen müssen. Es lägen keine Gründe für ein Abweichen von der gutachterlichen Beurteilung vor.
4.
4.1. Die Rügen des Beschwerdeführers sind nicht stichhaltig. Die in der Beschwerde geäusserten Vorwürfe, die Vorinstanz habe den Untersuchungsgrundsatz verletzt, stützen sich lediglich auf Kritik am im angefochtenen Urteil verbindlich festgestellten Sachverhalt. Entgegen den Vorbringen hat das kantonale Gericht auch die nach der Begutachtung ergangenen medizinischen Berichte aus dem Jahre 2019 berücksichtigt und gewürdigt. Entscheidend ist dabei die im angefochtenen Urteil getroffene Feststellung, auch die behandelnden Fachpersonen würden bei der ihrer Ansicht nach seit Jahren unverändert bestehenden schweren depressiven Störung keine Verschlechterung des Gesundheitszustandes zwischen dem Zeitpunkt der Begutachtung und demjenigen des Erlasses der angefochtenen Verfügung behaupten. Das gilt auch für die nunmehr geltend gemachte Verschlechterung in somatischer Hinsicht mit angeblichem neuen Taubheitsgefühl und Gefühlsstörungen. Diesbezüglich wird im Verlaufsbericht interdisziplinäre Schmerzbehandlung des medizinischen Zentrums G._ vom 18. Juni 2019 sogar festgehalten, es lägen seit dem 17. März 2015 unveränderte Befunde vor. Auch der Neurologe Dr. med. F._, Zürich, hält in seinem Bericht vom 27. März 2019 fest, seine neuroangiologische Untersuchung habe wiederum unauffällige Befunde ergeben. Aus diesen Berichten lassen sich somit weder Anhaltspunkte für eine Verschlechterung des Gesundheitszustandes noch für einen weiteren Abklärungsbedarf entnehmen. Eine Verletzung des Untersuchungsgrundsatzes liegt nicht vor. Das kantonale Gericht hat kein Bundesrecht verletzt, indem es in antizipierter Beweiswürdigung auf weitere Beweismassnahmen verzichtete.
4.2. Weiter rügt der Beschwerdeführer das Resultat des von der Vorinstanz durchgeführten strukturierten Beweisverfahrens. Das kantonale Gericht sei zu Unrecht von der im ZMB-Gutachten attestierten Arbeitsunfähigkeit aus psychischen Gründen von 40 % abgewichen.
4.2.1. Es liegt regelmässig keine versicherte Gesundheitsschädigung vor, soweit die Leistungseinschränkung auf Aggravation oder einer ähnlichen Erscheinung beruht. Hinweise auf solche und andere Äusserungen eines sekundären Krankheitsgewinns ergeben sich namentlich, wenn: eine erhebliche Diskrepanz zwischen den geschilderten Schmerzen und dem gezeigten Verhalten oder der Anamnese besteht; intensive Schmerzen angegeben werden, deren Charakterisierung jedoch vage bleibt; keine medizinische Behandlung und Therapie in Anspruch genommen wird; demonstrativ vorgetragene Klagen auf den Sachverständigen unglaubwürdig wirken; schwere Einschränkungen im Alltag behauptet werden, das psychosoziale Umfeld jedoch weitgehend intakt ist. Nicht per se auf Aggravation weist blosses verdeutlichendes Verhalten hin (<ref-ruling> E. 2.2.1).
Wann ein Verhalten (nur) verdeutlichend und unter welchen Voraussetzungen die Grenze zur Aggravation und vergleichbaren leistungshindernden Konstellationen überschritten ist, bedarf einer einzelfallbezogenen, sorgfältigen Prüfung auf einer möglichst breiten Beobachtungsbasis auch in zeitlicher Hinsicht (SVR 2015 IV Nr. 38 S. 121, 9C_899/2014 E. 4.2.2; Urteil 9C_658/2018 vom 11. Januar 2019 E. 4.1). Besteht im Einzelfall Klarheit darüber, dass solche Ausschlussgründe die Annahme einer Gesundheitsbeeinträchtigung verbieten, so besteht von vornherein keine Grundlage für eine Invalidenrente, selbst wenn die klassifikatorischen Merkmale einer Störung gegeben sein sollten (vgl. Art. 7 Abs. 2 erster Satz ATSG). Soweit die betreffenden Anzeichen neben einer ausgewiesenen verselbstständigten Gesundheitsschädigung auftreten, sind deren Auswirkungen derweil im Umfang der Aggravation zu bereinigen (<ref-ruling> E. 2.2.2; Urteile 9C_524/2020 vom 23. November 2020 E. 4.3; 9C_501/2018 vom 12. März 2019 E. 5.1; 8C_825/2018 vom 6. März 2019 E. 8.3).
4.2.2. Im ZMB-Gutachten vom 27. September 2018 werden als Diagnosen mit Auswirkung auf die Arbeitsfähigkeit eine rezidivierende depressive Störung, gegenwärtig mittelgradige Episode, eine anhaltende somatoforme Schmerzstörung und Aggravation aufgeführt. Wie dargelegt (E. 4.2.1 hievor), liegt keine versicherte Gesundheitsschädigung vor, soweit eine Leistungseinschränkung auf Aggravation beruht. Im angefochtenen Urteil wird denn auch geschlossen, angesichts des erheblichen selbstlimitierenden bis aggravierenden Verhaltens des Beschwerdeführers liege keine medizinisch-gesundheitliche Anspruchsgrundlage vor, welche zur Anerkennung einer Arbeitsunfähigkeit aus psychischer Sicht führen könnte. Darüber hinaus werde die Einschränkung in der Arbeitsfähigkeit von den Gutachtern nicht mit den Auswirkungen der Depression oder der Schmerzstörung, sondern lediglich mit der langen Abwesenheit vom Arbeitsmarkt begründet. Auch daraus ergibt sich keine rechtlich relevante Leistungseinschränkung.
4.3. Zusammenfassend verneinte die Vorinstanz einen Rentenanspruch gestützt auf die Neuanmeldung zu Recht mangels einer relevanten sachverhaltlichen Veränderung im massgebenden Zeitraum. Weiterer Abklärungen bedarf es nicht. Auch mit dem im Sinne einer Eventualbegründung vom kantonalen Gericht durchgeführten strukturierten Beweisverfahren hat es kein Bundesrecht verletzt. Die Beschwerde erweist sich damit als unbegründet.
5.
Das Verfahren ist kostenpflichtig (<ref-law>). Die Gerichtskosten werden dem unterliegenden Beschwerdeführer auferlegt (<ref-law>). Gemäss <ref-law> wird einer Partei die unentgeltliche Rechtspflege nur gewährt, wenn sie bedürftig ist und ihr Rechtsbegehren nicht aussichtslos erscheint (zum Erfordernis der Nichtaussichtslosigkeit auch bei der unentgeltlichen Verbeiständung: Urteil 8C_258/2009 vom 24. August 2009 E. 7 mit Hinweisen). Dem Gesuch um unentgeltliche Rechtspflege kann zufolge Aussichtslosigkeit der Beschwerde (<ref-ruling> E. 5.1; <ref-ruling> E. 9.1; je mit Hinweisen; vgl. auch Urteil 8C_187/2021 vom 8. Juni 2021 E. 5 mit Hinweis) nicht entsprochen werden.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 2. Juli 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Schüpfer