Sachverhalt:
A.
Der 1964 geborene A._ war seit 1. Oktober 2010 bei der B._ AG, in der Folge C._ AG, als Bauarbeiter angestellt. Am 15. Juli 2015 wurde bei ihm im Spital D._ eine mikrochirurgische Dekompression der Bandscheibe L5/S1 links durchgeführt. Am 5. November 2015 meldete er sich bei der IV-Stelle des Kantons Zürich zum Leistungsbezug an. Am 14. März und 14. September 2016 erfolgten weitere Rückenoperationen. Die IV-Stelle sprach A._ mit Verfügungen vom 27. Juni 2019 ab 1. Juli 2016 bis 30. September 2017 eine ganze Invalidenrente und ab 1. Oktober 2017 bis 31. Dezember 2018 eine halbe Invalidenrente zu.
B.
Das Sozialversicherungsgericht des Kantons Zürich hiess die Beschwerde des A._ teilweise gut. Es änderte die Verfügungen dahingehend ab, dass es ihm vom 1. Juli 2016 bis 30. September 2017 eine ganze Invalidenrente, vom 1. Oktober 2017 bis 31. Dezember 2018 eine Dreiviertelsrente und ab 1. Januar 2019 eine Viertelsrente zusprach (Entscheid vom 8. Oktober 2020).
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, in Aufhebung des kantonalen Entscheides sei ihm ab 1. Januar 2019 eine Dreiviertelsrente zuzusprechen. Eventuell sei die Sache zu weiteren Abklärungen und neuem Entscheid an die Vorinstanz zurückzuweisen.
Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung, wobei Erstere auf Abweisung der Beschwerde schliesst.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG). Als Rechtsfrage gilt, ob die rechtserheblichen Tatsachen vollständig festgestellt und ob der Untersuchungsgrundsatz bzw. die Beweiswürdigungsregeln nach Art. 61 lit. c ATSG beachtet wurden. Gleiches gilt für die Frage, ob den medizinischen Gutachten und Arztberichten im Lichte der rechtsprechungsgemässen Anforderungen Beweiswert zukommt (<ref-ruling> E. 5.1). Bei den aufgrund dieser Berichte getroffenen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit und bei der konkreten Beweiswürdigung geht es um Sachverhaltsfragen (nicht publ. E. 1 des Urteils <ref-ruling>).
2.
2.1. Streitig ist, ob die vorinstanzliche Zusprache einer Viertels- statt einer Dreiviertelsrente ab 1. Januar 2019 bundesrechtskonform ist.
2.2. Die Vorinstanz hat die rechtlichen Grundlagen betreffend die Erwerbsunfähigkeit (Art. 7 ATSG), die Invalidität (Art. 8 Abs. 1 ATSG), die Invaliditätsbemessung bei im Gesundheitsfall voll erwerbstätigen Versicherten nach dem Einkommensvergleich (Art. 16 ATSG) und die Voraussetzungen des Rentenanspruchs (Art. 28 IVG) zutreffend dargelegt. Richtig wiedergegeben hat sie auch die Rechtsprechung, wonach bei rückwirkender Zusprechung einer abgestuften und/oder befristeten Invalidenrente die Revisionsregeln analog anwendbar sind (Art. 17 Abs. 1 ATSG; Art. 88a IVV; nicht publ. E. 4.3.1 des Urteils <ref-ruling>, in SVR 2012 IV Nr. 12 S. 61 [9C_226/2011]; <ref-ruling> E. 6.1). Gleiches gilt bezüglich der gesetzlichen Verankerung des Regionalen Ärztlichen Dienstes der IV-Stelle (RAD) und der ihm obliegenden Beurteilung der funktionellen Leistungsfähigkeit der versicherten Person (vgl. Art. 59 Abs. 2 und 2bis IVG; Art. 49 IVV), sowie der dazu (<ref-ruling> E. 1.2.1, 135 V 254 E. 3.3.2) und allgemein zum Beweiswert von Arztberichten ergangenen Rechtsprechung (E. 1 hievor; <ref-ruling> E. 5.2, 125 V 351 E. 3a). Darauf wird verwiesen.
3.
Die Vorinstanz erwog in medizinischer Hinsicht im Wesentlichen, die Berichte des RAD-Arztes Dr. med. E._, Facharzt für Orthopädische Chirurgie und Traumatologie, vom 12. April 2017 und 4. Oktober 2018 seien beweiswertig. Er habe nachvollziehbar aufgezeigt, dass der Beschwerdeführer in seiner angestammten Tätigkeit als Bauarbeiter nicht mehr arbeitsfähig sei. In Übereinstimmung mit dem behandelnden Orthopäden Dr. med. F._, sei Dr. med. E._ davon ausgegangen, dass der Beschwerdeführer ab 28. Juni 2017 in einer leidensangepassten Tätigkeit zu 50 % arbeitsfähig sei. Ab 17. September 2018 sei er zu 70 % arbeitsfähig. Dr. med. E._ habe nachvollziehbar auf Inkonsistenzen hingewiesen, die er bei der Festlegung der 70%igen Arbeitsfähigkeit berücksichtigt habe. Die Berichte des Dr. med. F._ änderten an diesem Ergebnis nichts. Gleiches gelte für das Zeugnis des Hausarztes Dr. med. G._, Facharzt FMH Allgemeinmedizin, vom 14. September 2018, wonach der Beschwerdeführer seit 28. Juli 2017 dauernd zu 50 % arbeitsunfähig und wegen eines Unfalls seit 28. Juli 2018 zu 100 % arbeitsunfähig sei.
4.
4.1. Der Beschwerdeführer bringt vor, er habe im vorinstanzlichen Verfahren substanziiert vorgebracht, weshalb die Einschätzung des Dr. med. E._ nicht nachvollziehbar sei und insbesondere die von ihm festgestellten Inkonsistenzen nicht bestünden. Die Vorinstanz sei auf seine begründeten Ausführungen mit keinem Wort eingegangen und habe damit seinen Anspruch auf rechtliches Gehör verletzt.
4.2. Der Gehörsanspruch nach Art. 29 Abs. 2 BV verlangt nicht, dass sich die Behörde bei der Begründung ihres Entscheides mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich die betroffene Person über die Tragweite des Entscheids Rechenschaft geben und ihn in voller Kenntnis der Sache an die höhere Instanz weiterziehen kann. In diesem Sinne müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt (<ref-ruling> E. 9.2 mit Hinweisen).
Es trifft zu, dass sich die Vorinstanz nicht mit sämtlichen Einwänden des Beschwerdeführers gegen die Beurteilung des Dr. med. E._ auseinandergesetzt hat. Aus den Erwägungen im angefochtenen Entscheid wird jedoch klar, dass sie seine Berichte vom 12. April 2017 und 4. Oktober 2018 als schlüssig und nachvollziehbar begründet qualifizierte, wobei sie hinsichtlich des von ihm umschriebenen Zumutbarkeitsprofils auch auf die Übereinstimmug mit den Angaben des behandelnden Dr. med. F._ Bezug nahm. Der Beschwerdeführer konnte den vorinstanzlichen Entscheid somit sachgerecht anfechten. Die Begründung der Vorinstanz kann daher unter verfassungsrechtlichen Gesichtspunkten noch als genügend betrachtet werden, weshalb keine Verletzung von Art. 29 Abs. 2 vorliegt (vgl. auch Urteil 8C_466/2017 vom 9. November 2017 E. 4.2.3).
5.
5.1. Der Beschwerdeführer bringt sodann mit Blick auf den Beweiswert des RAD-Berichts vom 4. Oktober 2018 im Wesentlichen vor, Dr. med. E._ habe bei der Arbeitsfähigkeit nur den erhöhten Pausenbedarf berücksichtigt, nicht aber die Lumboischialgie, die zeitweise starke Schmerzen verursache. Zudem habe er ein Impingement-Syndrom beider Schultern, ein degeneratives HWS-Syndrom und den Verdacht auf eine Bursitis trochanterica links diagnostiziert, aber nicht begründet, weshalb sie ohne Einfluss auf die Arbeitsfähigkeit seien. Demgegenüber sei das HWS-Syndrom gemäss den Berichten des Dr. med. F._ vom 1. September 2016 sowie 6. Februar und 8. Mai 2017 ein nennenswerter Faktor für die glaubhafte Symptomatik entlang der Wirbelsäule.
5.2.
5.2.1. Soweit sich der Beschwerdeführer auf die Berichte des Dr. med. F._ vom 1. September 2016 sowie 6. Februar und 8. Mai 2017 beruft, kann er daraus nichts zu seinen Gunsten ableiten. Dr. med. F._ hielt nämlich im Bericht vom 15. Mai 2018 fest, der Beschwerdeführer leide an einer linksseitigen Lumboischialgie. Er attestierte ihm eine 50%ige Arbeitsunfähigkeit bis 8. Juli 2018 und empfahl eine Evaluation durch den RAD. Zu prüfen ist mithin einzig seine Arbeitsfähigkeit seit der Untersuchung durch Dr. med. E._ vom 17. September 2018, da unbestritten ist, dass sie davor 50 % betrug.
5.2.2. Entgegen dem Beschwerdeführer schrieb Dr. med. E._ im Bericht vom 4. Oktober 2018 dem lumbospondylogenen Schmerzsyndrom eine Auswirkung auf die Arbeitsfähigkeit zu. Gestützt hierauf kam er nämlich zum Schluss, die Bauarbeitertätigkeit sei ihm nicht mehr zumutbar. Es bestehe nur noch in leichten leidensangepassten Tätigkeiten eine Arbeitsfähigkeit von 70 % bei ganztägiger Präsenz (um 30 % reduzierte Leistung wegen vermehrten Pausenbedarfs). Diese Beurteilung sei unter Berücksichtigung der Inkonsistenzen erfolgt.
5.2.3. Der Beschwerdeführer bestreitet das Vorliegen von Inkonsistenzen.
5.2.3.1. Dr. med. E._ führte dazu folgende Umstände an: Trotz Angabe stärkster Schmerzen habe der Beschwerdeführer die Einnahme von Targin (Opioid) abgesetzt. Von den angegebenen Schmerzmitteln (Ibuprofen und Paracetamol) werde nur das Ibuprofen in ausreichender Dosierung genommen. Der Medikamentenspiegel von Paracetamol liege unter der Wirksamkeitsgrenze. Im August 2017 habe der Beschwerdeführer eine lange Busreise nach Portugal unternehmen können, obwohl er starke Rückenschmerzen habe. Bei der Untersuchung habe er aktiv gegengespannt. Auch seien bei der Untersuchung neu Schwielenbildungen prätibial registriert worden, die auf eine kniende Tätigkeit hinwiesen, obwohl der Beschwerdeführer seit 2015 nicht mehr arbeite.
5.2.3.2. Der Beschwerdeführer wendet ein, mangels Erwerbstätigkeit könne er sich schonen und somit zwecks Vermeidung von Folgeerkrankungen den Medikamentenkonsum tief halten. Moderne Reisebusse ermöglichten mit ihren verstellbaren Sitzen eine Wechselbelastung. Zudem würden regelmässig Pausen eingelegt und er habe sich nach der Reise erholen können. Der aktive Gegenspann zwecks Schmerzvermeidung sei bei ängstlichen Menschen nach drei Operationen nachvollziehbar. Hinsichtlich der Schwielen habe er vorinstanzlich Dr. med. G._ als Zeugen offeriert; dieser habe zwar prätibiale Hautveränderungen festgestellt, die aber weder auffällig seien noch eine eindeutige Ursache hätten.
Im Unterschied zu den nach Art. 44 ATSG eingeholten Administrativgutachten geben bereits geringe Zweifel an der Zuverlässigkeit und Schlüssigkeit der versicherungsinternen ärztlichen Feststellungen Anlass zu ergänzenden Abklärungen (<ref-ruling> E. 8.5; <ref-ruling> E. 5.1 i.f. mit Hinweisen). Solche Zweifel werden hinsichtlich des RAD-Berichts nach Art. 49 Abs. 2 IVV des Dr. med. E._ vom 4. Oktober 2018 mit dem darin umschriebenen Belastungsprofil (vgl. E. 5.2.2. oben) nicht dargetan. Seine Bewertung der besagten Umstände als Inkonsistenzen ist einleuchtend. Der Bericht des RAD genügt im Übrigen den von der Rechtsprechung umschriebenen Anforderungen an ein ärztliches Gutachten (vgl. auch E. 5.3 hiernach), weshalb darauf abgestellt werden kann (vgl. <ref-ruling> E. 1.2.1 mit Hinweis).
5.2.3.3. Ebenso wenig vermag der Beschwerdeführer aus dem vorinstanzlichen Verzicht auf die Befragung des behandelnden Arztes Dr. med. G._ als Zeugen für sich abzuleiten. Dass und weshalb das kantonale Gericht dadurch den Gehörsanspruch (Art. 29 Abs. 2 BV) verletzt haben oder in Willkür verfallen sein könnte, wird in der Beschwerde nicht hinreichend begründet (vgl. Art. 106 Abs. 2 BGG) dargetan. Davon abgesehen war hier auch nicht zu erwarten, dass aufgrund der Angaben des Dr. med. G._, der seinerseits ebenfalls prätibiale Hautveränderungen bestätigt, diese aber hinsichtlich Ausmass und Ursache anders beschrieben hatte, Zweifel an der RAD-ärztlichen Einschätzung des Zumutbarkeits- und Belastungsprofils zu begründen wären. Dies ergibt sich nicht zuletzt aus dem Umstand, dass sich die Einschränkung der Beweiskraft der Berichte von behandelnden Ärzten (vgl. <ref-ruling> E. 4.5 S. 470 f.) auch auf Aussagen bezieht, welche diese Personen als Zeugen machen würden (Urteil 9C_867/2018 vom 28. Mai 2019 E. 5.1.2).
5.3. Letztlich ist für die Bestimmung des Rentenanspruchs grundsätzlich unbesehen der Diagnose und der Ätiologie massgebend, ob und in welchem Ausmass eine Beeinträchtigung der Arbeits- bzw. Erwerbsfähigkeit vorliegt (<ref-ruling> E. 4.2.1; Urteil 8C_642/2020 vom 16. Dezember 2020 E. 5.2). Dr. med. E._ erstattete den Bericht vom 4. Oktober 2018 in Kenntnis sämtlicher Vorakten und aufgrund einer eingehenden klinischen Untersuchung des Beschwerdeführers. Gestützt hierauf gab er seine Beurteilung der Arbeitsfähigkeit ab. Damit wurde der Bericht - entgegen der Auffassung des Beschwerdeführers - ausreichend begründet, da es sich bei der Festlegung der Arbeitsfähigkeit in der Regel um eine Schätzung handelt, die naturgemäss auch einen Ermessensspielraum umfasst. Sie basiert massgebend auf der Würdigung der erfragten und entdeckten Symptome (<ref-ruling> E. 3.1; Urteile 8C_465/2019 vom 12. November 2019 E. 8.2.1 und 8C_170/2017 vom 13. Oktober 2017 E. 7.3).
Die nachfolgenden Berichte des Dr. med. F._ vom 29. November und 20. Dezember 2018 sowie 25. März 2019 enthalten keine Angaben zur Arbeitsfähigkeit. Vor allem geht daraus auch nicht hervor, inwiefern das Leiden des Beschwerdeführers die Realisierung der von Dr. med. E._ festgestellten 70%igen Arbeitsfähigkeit in einer leichten leidensangepassten Tätigkeit nicht zuliesse. Dies tut es umso weniger, als der Beschwerdeführer gemäss dem letztgenannten Bericht des Dr. med. F._ weitere therapeutische Massnahmen (Infiltrationen, Physiotherapie) ablehnte. Das spricht jedenfalls nicht für einen grossen Leidensdruck.
5.4. Insgesamt erfüllt der Bericht des Dr. med. E._ vom 4. Oktober 2018 die Beweisanforderungen an eine medizinische Beurteilungsrundlage. Da die vom Beschwerdeführer angeführten Arztberichte daran keine auch nur geringen Zweifel zu begründen vermögen, stellte die Vorinstanz zu Recht darauf ab. Mängel in ihrer Sachverhaltsfeststellung oder Beweiswürdigung sind nicht ersichtlich. Sie durfte auf weitere medizinische Abklärungen verzichten, weil davon keine entscheidrelevanten Resultate zu erwarten waren (antizipierte Beweiswürdigung; <ref-ruling> E. 6.5, 136 I 229 E. 5.3; Urteil 8C_658/2020 vom 14. Januar 2021 E. 7).
6.
Strittig ist weiter die beruflich-erwerbliche Seite der Invaliditätsbemessung (Art. 16 ATSG; zur bundesgerichtlichen Kognition siehe <ref-ruling> E. 3.3).
Das vom Beschwerdeführer im Gesundheitsfall erreichbare Valideneinkommen setzte die Vorinstanz auf jährlich Fr. 84'459.- fest. Dies ist unbestritten, weshalb sich Weiterungen hierzu erübrigen.
7.
7.1. Umstritten ist das vom Beschwerdeführer trotz Gesundheitsschadens erzielbare Invalideneinkommen. Hat die versicherte Person nach Eintritt des Gesundheitsschadens keine oder jedenfalls keine ihr an sich zumutbare neue Erwerbstätigkeit aufgenommen, können die Tabellenlöhne gemäss den vom Bundesamt für Statistik periodisch herausgegebenen Lohnstrukturerhebungen (LSE) herangezogen werden (<ref-ruling> E. 2.2). Mit dem Abzug vom LSE-Tabellenlohn nach <ref-ruling> soll der Tatsache Rechnung getragen werden, dass persönliche und berufliche Merkmale, wie Art und Ausmass der Behinderung, Lebensalter, Dienstjahre, Nationalität oder Aufenthaltskategorie und Beschäftigungsgrad Auswirkungen auf die Lohnhöhe haben können und je nach Ausprägung die versicherte Person deswegen die verbliebene Arbeitsfähigkeit auch auf einem ausgeglichenen Arbeitsmarkt nur mit unterdurchschnittlichem erwerblichem Erfolg verwerten kann. Der Abzug soll aber nicht automatisch erfolgen. Er ist unter Würdigung der Umstände im Einzelfall nach pflichtgemässem Ermessen gesamthaft zu schätzen und darf 25 % nicht übersteigen (<ref-ruling> E. 4.1 mit Hinweisen).
7.2. Die Vorinstanz erwog im Wesentlichen, bei der Bemessung des Invalideneinkommens habe die IV-Stelle auf den Zentralwert der monatlichen Bruttolöhne von Männern im Bereich "Total" des privaten Sektor, Kompetenzniveau 1 (Einfache Tätigkeiten körperlicher oder handwerklicher Art), laut Tabelle TA1 der LSE 2016 von monatlich Fr. 5340.- abgestellt. Umgerechnet auf die betriebsübliche Anzahl Wochenarbeitsstunden resultiere beim zumutbaren 70%igen Pensum ein Jahreslohn von Fr. 46'762.-. Für einen leidensbedingten Abzug bestehe kein Anlass, da der verminderten Leistungsfähigkeit des Beschwerdeführers mit dem erhöhten Pausenbedarf von 30 % bereits genügend Rechnung getragen worden sei. Abzugsgründe seien nicht ersichtlich und auch nicht substanziiert geltend gemacht worden. Der Vergleich des Valideneinkommens von Fr. 84'459.- mit dem Invalideneinkommen von Fr. 46'762.- ergebe bei der ab 17. September 2018 verbliebenen 70%igen Arbeitsfähigkeit einen Invaliditätsgrad von 45 % bzw. ab 1. Januar 2019 den Anspruch auf eine Viertelsrente.
7.3. Der Beschwerdeführer beanstandet in materieller Hinsicht einzig die Nichtgewährung eines Tabellenlohnabzugs, wobei er einen solchen von 20 % verlangt. Auf seine diesbezüglichen Vorbringen ging das kantonale Gericht nicht näher ein, sondern es begnügte sich mit dem Vermerk, Abzugsgründe seien nicht substanziiert geltend gemacht worden. Dies trifft nicht zu, wie der Beschwerdeführer unter Wiedergabe seiner vorinstanzlichen Vorbringen im Einzelnen aufzuzeigen vermag. Damit verletzte das kantonale Gericht in diesem Punkt - wie der Beschwerdeführer zu Recht rügt - seine Prüfungs- und Begründungspflicht (E. 4.2 hiervor).
7.4. In materieller Hinsicht verweist der Beschwerdeführer im gegebenen Zusammenhang auf sein fehlendes Verhandlungsgeschick und auf seine beschränkte Einsetzbarkeit in zeitlicher und funktionaler Hinsicht. Weiter streicht er nebst seinen fehlenden Schreib- und Sprachkenntnissen, die ihn nach 31-jähriger Erwerbstätigkeit in der Schweiz nicht über den Status eines einfachen Hilfsarbeiters und Zudieners im Baugewerbe hinausgebracht und eine Stellenvermittlung durch die IV verhindert hätten, insbesondere sein vorgerücktes Alter heraus. Dabei verweist er zum einen auf die altersbedingt eingeschränkte Anpassungs- und Lernfähigkeit und die damit verbundenen Schwierigkeiten bei der Stellensuche, die er nicht mit besonderen Kenntnissen und Erfahrungen kompensieren könne. Zum andern hebt er die Mehrkosten für den Arbeitgeber hervor, namentlich hinsichtlich der beruflichen Vorsorge.
Ob die damit geschilderten Umstände zur Folge haben, dass der Beschwerdeführer seine gesundheitlich bedingt eingeschränkte Arbeits- und Leistungsfähigkeit auf dem allgemeinen Arbeitsmarkt nur mit unterdurchschnittlichem erwerblichem Erfolg verwerten kann, ist nicht erstmals vom Bundesgericht zu beurteilen. Zur Prüfung dieser Frage ist die Sache vielmehr an das kantonale Gericht zurückzuweisen.
7.5. Nach dem Gesagten ist die Beschwerde teilweise gutzuheissen.
8.
Die Rückweisung an die Verwaltung zu weiterer Abklärung und neuer Verfügung mit noch offenem Ausgang gilt für die Frage der Auferlegung der Gerichtskosten und den Anspruch auf Parteientschädigung als vollständiges Obsiegen im Sinne von Art. 66 Abs. 1 und Art. 68 Abs. 1 und 2 BGG, unabhängig davon, ob sie überhaupt beantragt oder ob das entsprechende Begehren im Haupt- oder Eventualantrag gestellt wird (vgl. <ref-ruling> E. 7.1). Entsprechend sind die Gerichtskosten der unterliegenden Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG), die dem Beschwerdeführer überdies eine angemessene Parteientschädigung zu entrichten hat (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Dispositiv-Ziffer 1 des Entscheids des Sozialversicherungsgerichts des Kantons Zürich vom 8. Oktober 2020 wird insoweit aufgehoben, als sie den Anspruch auf eine Viertelsrente ab dem 1. Januar 2019 betrifft. Die Sache wird zu neuer Entscheidung an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 29. April 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Jancar