Sachverhalt:
A.
Der 1965 geborene A._ meldete sich im Juni 2014 bei der Invalidenversicherung zum Leistungsbezug an. Nach durchgeführtem Vorbescheidverfahren verneinte die IV-Stelle des Kantons Zürich mit Verfügung vom 2. Juli 2018 einen Rentenanspruch des Versicherten (Invaliditätsgrad: 12 %)
B.
Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 9. März 2020 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._ unter Aufhebung des vorinstanzlichen Entscheids eine halbe Invalidenrente ab 1. Dezember 2014. Eventualiter verlangt er die Rückweisung der Sache an die IV-Stelle zur Durchführung ergänzender Abklärungen bezüglich Valideneinkommen und zur neuen Verfügung.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1 S. 389). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG).
2.
Zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie in Bestätigung der Verfügung vom 2. Juli 2018 einen Rentenanspruch des Versicherten verneinte. Streitig ist dabei einzig die Höhe der Vergleichseinkommen, die der Invaliditätsbemessung (<ref-law> i.V.m. <ref-law>; Urteil 9C_63/2018 vom 9. November 2018 E. 4.4.2) zugrunde liegen.
2.1. Das kantonale Gericht erkannte, da der vom Beschwerdeführer bei der B._ GmbH als Geschäftsführer erzielte Verdienst erhebliche Schwankungen aufgewiesen habe, sei die IV-Stelle für die Ermittlung des Valideneinkommens im Jahr 2015 zu Recht vom Durchschnittswert der Jahre 2008 bis 2012 (Fr. 75'755.-) ausgegangen. Die Vorinstanz bestätigte auch das von der Verwaltung auf der Grundlage von Tabellenlöhnen der schweizerischen Lohnstrukturerhebung (LSE) des Bundesamtes für Statistik (BfS) herangezogene Invalideneinkommen für das Jahr 2015 (Fr. 66'653.-). Beim resultierenden Invaliditätsgrad von 12 % verneinte das kantonale Gericht einen Anspruch auf eine Invalidenrente.
2.2. Der Versicherte bringt vor, es sei willkürlich, bei der Bemessung des Valideneinkommens auf das Durchschnittseinkommen über mehrere Jahre vor Eintritt des Gesundheitsschadens abzustellen. Es sei überwiegend wahrscheinlich, dass er ohne gesundheitliche Einschränkung auch nach 2012 konstant ein Einkommen wie zuletzt im Jahr 2012 erzielt hätte. Er verlangt eine Erhöhung des Valideneinkommens auf mindestens Fr. 128'065.-. In Bezug auf das Invalideneinkommen macht er geltend, es sei ihm ein leidensbedingter Tabellenlohnabzug von 10 % zu gewähren.
3.
3.1. Für die Ermittlung des Valideneinkommens ist entscheidend, was der Versicherte im Zeitpunkt der Invaliditätsbemessung überwiegend wahrscheinlich als Gesunder tatsächlich verdient hätte. Dabei wird in der Regel am zuletzt erzielten, nötigenfalls der Teuerung und der realen Einkommensentwicklung angepassten Verdienst angeknüpft, da es der Erfahrung entspricht, dass die bisherige Tätigkeit ohne Gesundheitsschaden fortgesetzt worden wäre. Ausnahmen müssen mit überwiegender Wahrscheinlichkeit erstellt sein (<ref-ruling> E. 3.3.2 S. 30; <ref-ruling> E. 4.1 S. 325; Urteil 8C_576/2008 vom 10. Februar 2009 E. 6.2, in: SVR 2009 IV Nr. 28 S. 79; bereits erwähntes Urteil 9C_63/2018 E. 4.4.2). Weist das zuletzt erzielte Einkommen starke und verhältnismässig kurzfristig in Erscheinung getretene Schwankungen auf, ist auf den während einer längeren Zeitspanne erzielten Durchschnittsverdienst abzustellen (Urteile 9C_14/2019 vom 24. April 2019 E. 2.2.2; 8C_443/2018 vom 30. Januar 2019 E. 2.1 mit Hinweisen).
3.2. Auf der nichtmedizinischen beruflich-erwerblichen Stufe der Invaliditätsbemessung stellt sich die Feststellung der beiden hypothetischen Vergleichseinkommen als Tatfrage dar, soweit sie auf konkreter Beweiswürdigung beruht, hingegen als Rechtsfrage, soweit sich der Entscheid nach der allgemeinen Lebenserfahrung richtet. Letzteres betrifft etwa die Frage, ob Tabellenlöhne anwendbar sind (<ref-ruling> E. 3.3 S. 399; Urteil 8C_728/2018 vom 12. Februar 2019 E. 2.2).
4.
4.1. Im vorinstanzlichen Verfahren blieben die erwerblichen Auswirkungen der festgestellten Einschränkungen der Arbeitsfähigkeit unbestritten, weshalb das kantonale Gericht diesbezüglich auf die Ausführungen in der Verfügung vom 2. Juli 2018 verwies und darüber hinaus keine weiteren Feststellungen traf. Das Bundesgericht kann den Sachverhalt diesbezüglich ergänzen (<ref-ruling> E. 5.4.5 S. 31 f.).
Dem Beschwerdeführer ist dahingehend zuzustimmen, dass der gemäss Auszug aus dem Individuellen Konto (IK) zuletzt im Jahr 2012 erzielte Lohn als Geschäftsführer bei der B._ GmbH in Übereinstimmung mit den Angaben der GmbH vom 13. Juni 2014 Fr. 128'065.- betrug. Dem IK-Auszug ist im Weiteren zu entnehmen, dass der Verdienst des Versicherten seit Beginn seiner Anstellung im Jahr 2005 sehr starken Schwankungen unterlag. So erzielte er in den Jahren vor seiner Gesundheitsbeeinträchtigung (2013) Einkommen von Fr. 45'600.- (2008), Fr. 66'600.- (2009), Fr. 75'123.- (2010), Fr. 51'076.- (2011) sowie die erwähnten Fr. 128'065.- im Jahr 2012.
4.2. Es mag zutreffen, dass es sich grundsätzlich beim Jahreseinkommen von rund Fr. 128'000.- um ein nicht aussergewöhnlich hohes Einkommen für einen Inhaber und Geschäftsführer einer GmbH handelt, wie der Versicherte vorbringt. Entscheidend ist jedoch, was der Beschwerdeführer im massgebenden Zeitpunkt als Gesunder tatsächlich verdienen würde und nicht, was er bestenfalls verdienen könnte (<ref-ruling> E. 3.1 S. 59; Urteil 8C_194/2020 vom 12. Mai 2020 E. 4.5). Wenn er geltend macht, es habe sich bei seinem erzielten Lohn im Jahr 2012 nicht um einen Ausnahmefall gehandelt, ist ihm mit Blick auf die seit Beginn seiner Anstellung bei der GmbH auf einem sehr viel tieferen Niveau stark aufgetretenen Einkommensschwankungen nicht zu folgen. Mithin kann für die Bemessung des Valideneinkommens nicht allein auf die Einkommensverhältnisse im Jahr 2012 abgestellt werden. Vielmehr ist ein während einer längeren Zeitspanne erzielter Durchschnittsverdienst heranzuziehen (vgl. E. 3.1). Die Durchschnittsberechnung der Vorinstanz anhand der Verdienste von 2008 bis 2012 (E. 2.1), und somit auch unter Berücksichtigung des hohen Einkommens aus dem Jahr 2012, ist folglich nicht willkürlich. Damit erübrigt sich eine Rückweisung an die IV-Stelle zu weiteren Abklärungen.
4.3. Ergänzend ist darauf hinzuweisen, dass der Beschwerdeführer vorbringt, er sei Inhaber und Geschäftsführer der GmbH. Es stellt sich die Frage, ob er nicht allenfalls - obwohl formellrechtlich Arbeitnehmer der GmbH - sozialversicherungsrechtlich einem Selbstständigerwerbenden gleichgestellt wäre (Urteile 8C_121/2017 vom 5. Juli 2018 E. 7.1 mit Hinweisen, in: SVR 2019 UV Nr. 3 S. 9; 8C_202/2019 vom 9. März 2020 E. 3.3; 9C_453/2014 vom 17. Februar 2015 E. 4.2). Dies kann jedoch offen bleiben, da auch in dieser Konstellation im vorliegenden Fall ein Durchschnittsverdienst heranzuziehen wäre (vgl. Urteil 8C_150/2019 vom 19. August 2019 E. 6.1.1 mit weiteren Hinweisen).
4.4. Soweit der Beschwerdeführer auf das Urteil 8C_85/2015 vom 28. Oktober 2015 verweist und vorbringt, seine Situation sei nicht mit jener in diesem Entscheid zu vergleichen, ändert dies nichts am Gesagten. Im vorliegenden Fall ist der Durchschnittsverdienst, anders als im Urteil 8C_85/2015, nicht deshalb massgebend, weil der Versicherte ein nicht über eine längere Zeit zumutbares Pensum ausgeübt haben soll, sondern aufgrund der aufgetretenen starken Einkommensschwankungen.
5.
Mit Blick auf dieses Ergebnis kann offen bleiben, ob ein Tabellenlohnabzug (<ref-ruling>) angezeigt wäre oder nicht. Denn selbst bei einem Abzug von 10 % (E. 2.2) würde bei einem Valideneinkommen von Fr. 75'755.- (E. 2.1) und einem Invalideneinkommen von Fr. 59'988.- ein rentenausschliessender Invaliditätsgrad von gerundet 21 % resultieren. Die Beschwerde ist unbegründet und der vorinstanzliche Entscheid zu bestätigen.
6.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Kosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 3. November 2020
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Die Gerichtsschreiberin: Huber