Sachverhalt:
A.
Der 1961 geborene A._ war Managing Direktor und Präsident des Verwaltungsrates der X._ AG, einer auf Software spezialisierten Firma. Am 23. März 2015 meldete er sich bei der Invalidenversicherung infolge einer chronischen lymphatischen Leukämie zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich holte Berichte der behandelnden Ärzte und ihres ärztlichen Dienstes (RAD) ein und traf erwerbliche Abklärungen. Mit Verfügung vom 23. Februar 2018 sprach die IV-Stelle dem Versicherten ab 1. Dezember 2015 eine bis 31. Juli 2016 befristete halbe Invalidenrente zu.
B.
Das Sozialversicherungsgericht des Kantons Zürich wies die von A._ hiegegen erhobene Beschwerde mit Entscheid vom 16. Januar 2020 ab. Gleichzeitig stellte das kantonale Gericht nach angedrohter reformatio in peius fest, es bestehe kein Rentenanspruch.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, in Aufhebung des kantonalen Entscheides seien ihm die gesetzlichen Leistungen auszurichten. Eventuell sei die Sache zu weiteren Abklärungen an die IV-Stelle oder die Vorinstanz zurückzuweisen.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Die Vorinstanz und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1 S. 389). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG). Rechtsfrage ist, ob die rechtserheblichen Tatsachen vollständig festgestellt und ob der Untersuchungsgrundsatz bzw. die Beweiswürdigungsregeln nach <ref-law> beachtet wurden.
2.
2.1. Streitig ist, ob die Vorinstanz Bundesrecht verletzte, indem sie dem Beschwerdeführer keine Rente zusprach.
2.2. Die Vorinstanz hat die für die Beurteilung der Streitsache massgeblichen Grundlagen gemäss Gesetz und Rechtsprechung zutreffend dargelegt, worauf verwiesen wird. Dies betrifft namentlich die Bestimmungen und Grundsätze zum Begriff der Invalidität (<ref-law> in Verbindung mit <ref-law>), zum Anspruch auf eine Invalidenrente und deren Umfang (Art. 28 Abs. 1 und 2 IVG). Gleiches gilt hinsichtlich der Voraussetzungen für die rückwirkende Zusprechung einer befristeten Invalidenrente (<ref-ruling> E. 6.1; Urteil 8C_334/2018 vom 8. Januar 2019 E. 2.2).
3.
Zusammenfassend hielt das kantonale Gericht fest, der Beschwerdeführer sei vom 1. Dezember 2014 bis zum 30. Juli 2015 wegen der krankheitsbedingten Einschränkungen zu 100 % arbeitsunfähig gewesen. Aufgrund der Verbesserung des Gesundheitszustandes sei bis zum 31. Juli 2016 eine Arbeitsfähigkeit von 50 % und seit August 2016 eine solche von 70 % ausgewiesen. Es sei davon auszugehen, dass der Beschwerdeführer infolge einer Fatigue-Symptomatik in zeitlicher (zu 50 %, später zu 30 %), nicht jedoch in qualitativer Hinsicht eingeschränkt gewesen sei, sodass ihm seine angestammte Tätigkeit seit August 2015 unter Berücksichtigung der zeitlichen Einschränkungen auch weiterhin zumutbar sei. In antizipierter Beweiswürdigung könne daher von weiteren Beweismassnahmen abgesehen werden. Das Invalideneinkommen für Dezember 2015 bis August 2016 sei auf Fr. 85'714.- und ab September 2016 auf Fr. 120'000.- festzusetzen. Hinsichtlich des Valideneinkommens führte die Vorinstanz aus, der Beschwerdeführer hätte auch ohne die im Herbst 2014 gestellte Diagnose einer Leukämie das Arbeitsverhältnis mit der X._ AG per Ende Februar 2015 gekündigt. Für die Bemessung des Valideneinkommens sei deshalb nicht auf das zuletzt erzielte Einkommen abzustellen, sondern dieses sei auf der Grundlage von Tabellenlöhnen der Schweizerischen Lohnstrukturerhebung (LSE) zu bestimmen. Das kantonale Gericht ermittelte ein hypothetisches Valideneinkommen von Fr. 115'913.-, weshalb weder während der 50%igen Arbeitsunfähigkeit bis 31. Juli 2016 noch danach ein Rentenanspruch bestehe.
4.
Der Beschwerdeführer rügt zunächst die vorinstanzliche Beurteilung der ihm zumutbaren Restarbeitsfähigkeit. Entgegen dem angefochtenen Entscheid sei ihm die angestammte Tätigkeit als Manager eines Grossbetriebes nicht mehr zumutbar. Verweistätigkeiten seien wegen seiner krankheitsbedingten Erschöpfung, Müdigkeit und Schwäche nur noch in einer stressreduzierten Umgebung möglich.
4.1. Das kantonale Gericht stellte fest, die Arbeitsfähigkeit sei in zeitlicher, nicht aber in qualitativer Hinsicht ("ohne Stressexposition") eingeschränkt. Die angestammte Tätigkeit sei in qualitativer Hinsicht aus medizinisch-theoretischer Sicht im Rahmen der zeitlichen Limitierung zumutbar. Zur Begründung führte es aus, im RAD-Bericht des Dr. med. B._ vom 14. November 2016 sei in Bezug auf das Erfordernis "ohne Stressexposition" nicht ersichtlich, welche medizinischen Grundlagen zu dieser Einschränkung führten, zumal Dr. med. B._ dem Belastungsprofil keine Begründung angefügt habe. So lasse sich der RAD-Einschätzung nicht entnehmen, gestützt auf welche Befunde und welche fachärztlich festgestellten Einschränkungen eine Stressexposition gemieden werden sollte. Inwiefern aus dem reduzierten Arbeitspensum von anfänglich 50 % und später 70 % in qualitativer Hinsicht eine Stressintoleranz resultieren sollte, sei weder von Dr. med. B._ noch vom behandelnden Arzt, Prof. Dr. med. C._, Facharzt für Hämatologie FMH am Onkologiezentrum D._, dargelegt worden.
4.2.
4.2.1. Zwar wird im RAD-Bericht vom 14. November 2016 in bisheriger und angepasster Tätigkeit gemäss Belastungsprofil ab 1. September 2016 eine 70%ige Arbeitsfähigkeit attestiert. Bei den Angaben zum Belastungsprofil wird indessen eine leichte bis mittelschwere Tätigkeit ohne Stressexposition angeführt. Mit Bezug auf die ehemalige Tätigkeit des Beschwerdeführers bei der X._ AG kann jedoch kaum von einer Tätigkeit ohne Stressexposition gesprochen werden.
4.2.2. Aus den diversen Berichten des Prof. Dr. med. C._, welche dieser im Zeitraum vom 11. Dezember 2014 bis 1. November 2016 verfasst hatte, geht nicht hervor, ob sich die 70%ige Arbeitsfähigkeit auch auf die angestammte Tätigkeit bezieht. In jenem vom 1. November 2016 führte der Arzt unter anderem aus, es bestehe weiterhin eine starke Fatigue-Symptomatik als Folge der Therapie. Der Beschwerdeführer arbeite zu 70 % bei einer Arbeitsunfähigkeit von 30 %. Auf die Frage, ob die Arbeitsfähigkeit durch medizinische Massnahmen verbessert werden könne, hielt der Arzt lediglich fest, 30 % arbeitsunfähig, 70 % arbeitsfähig. Die Frage nach der Arbeitsfähigkeit in der angestammten Tätigkeit wurde dem Arzt nicht gestellt. Zu jenem Zeitpunkt war der Beschwerdeführer bereits an seiner aktuellen Stelle als Geschäftsführer eines Hotels tätig. Jedenfalls ergibt sich aus den ärztlichen Berichten entgegen den vorinstanzlichen Feststellungen nicht, dass sich die 70%ige Arbeitsfähigkeit auch auf die Tätigkeit des Beschwerdeführers bei der X._ AG bezog. Das kantonale Gericht geht davon aus, dass der behandelnde Arzt Kenntnis von der erwerblichen und beruflichen Situation des Beschwerdeführers hatte. Das widerspricht den Angaben des Prof. Dr. med. C._ in seinem Bericht vom 8. März 2016. Auf die konkrete Frage nach der Arbeitsfähigkeit in einer anderen Tätigkeit (als jener eines Geschäftsleiters) führt der Arzt aus: "Diesbezüglich bin ich überfragt, da ich weder das Tätigkeitsfeld von Herrn A._ kenne, noch exakt eruieren kann, was an Arbeitstätigkeit möglich ist." Das in jenem Zeitpunkt vom Beschwerdeführer geleistete Pensum hielt er für angepasst.
4.2.3. Im Weiteren stellte das kantonale Gericht fest, die vom Beschwerdeführer ab September 2016 ausgeübte Tätigkeit als Geschäftsführer des Hotels Y._ sowie jene, die er bei der Z._ AG in der ersten Hälfte des Jahres 2016 ausgeübt hatte, seien vom Stresspotential her betrachtet mit seiner früheren Tätigkeit als Managing Director und Präsident des Verwaltungsrates bei der X._ AG vergleichbar, ohne dies zu begründen. Gemäss unwidersprochenen Angaben des Beschwerdeführers handelt es sich bei der Z._ AG um eine Firma mit 6 Mitarbeitern und einem Umsatz von Fr. 1.5 Mio.. Er konnte seine Aufgaben in einem 50 % Pensum erledigen. Hingegen war der Beschwerdeführer bei der X._ AG nicht nur Geschäftsführer und damit operativer Leiter, sondern auch Präsident des Verwaltungsrats und damit zusätzlich für die strategische Entwicklung mitverantwortlich. Im Gegensatz zur Z._ AG und zum Hotel Y._ beschäftigte diese Firma 130 Mitarbeiter. Der Beschwerdeführer macht zu Recht geltend, dass seine Tätigkeit als Geschäftsführer des Hotels Y._ nicht mit derjenigen bei der X._ AG gleichgesetzt werden kann. Inwiefern die verschiedenen Tätigkeiten insbesondere hinsichtlich ihrer Intensität und ihres "Stresspegels" vergleichbar sein sollen, begründet das kantonale Gericht nicht und ist auch nicht ersichtlich. Es hätte unter diesen Umständen nicht ohne weitere Abklärungen davon ausgehen dürfen, dass sich die attestierte Arbeitsfähigkeit von 70 % auch auf die angestammte Tätigkeit bezog. Vielmehr hätte es diese Frage unter Beachtung des Untersuchungsgrundsatzes abklären müssen. Damit handelt es sich bei den entsprechenden Ausführungen im angefochtenen Entscheid lediglich um Spekulationen, die sich nicht auf Angaben von Ärzten stützen lassen. Indem die Vorinstanz ohne Begründung die verschiedenen Tätigkeiten belastungsmässig als gleichwertig bezeichnete und die attestierte 70%ige Arbeitsunfähigkeit auch auf die angestammte Tätigkeit bezog, verfiel sie in Willkür und verletzte dadurch Bundesrecht.
5.
Weiter rügt der Beschwerdeführer die vorinstanzliche Ermittlung des Valideneinkommens. Dabei ist insbesondere streitig, ob das kantonale Gericht Bundesrecht verletzte, indem es auf die LSE-Tabellen und nicht auf das vom Beschwerdeführer zuletzt bei der X._ AG erzielte Einkommen abstellte.
5.1. Für die Bemessung des Valideneinkommens entscheidend ist, was die versicherte Person im massgebenden Zeitpunkt aufgrund ihrer beruflichen Fähigkeiten und persönlichen Umstände als Gesunde tatsächlich verdient hätte. Da nach empirischer Feststellung in der Regel die bisherige Tätigkeit im Gesundheitsfall weitergeführt worden wäre, ist grundsätzlich vom letzten vor Eintritt der gesundheitlichen Beeinträchtigung erzielten, der Teuerung sowie der realen Einkommensentwicklung angepassten Verdienst auszugehen. Ausnahmen müssen mit überwiegender Wahrscheinlichkeit erstellt sein (<ref-ruling> E. 3.3.2 S. 30; Urteil 9C_852/2018 vom 5. März 2019 E. 5.4.1 mit Hinweisen). Dessen Ermittlung hat so konkret wie möglich zu erfolgen (Urteile 9C_868/2013 vom 24. März 2014 E. 4.2.1 und 9C_796/2013 vom 28. Januar 2014 E. 2.1).
Die Verwendung der LSE im Rahmen der Invaliditätsbemessung nach <ref-law> ist nach ständiger Rechtsprechung ultima ratio. Der Griff zur Lohnstatistik ist demnach subsidiär, d.h. deren Beizug erfolgt nur, wenn eine Ermittlung des Validen- und/oder Invalideneinkommens aufgrund und nach Massgabe der konkreten Gegebenheiten des Einzelfalles nicht möglich ist (<ref-ruling> E. 2.5.7 mit weiteren Hinweisen auf die Rechtsprechung).
5.2. Die Vorinstanz gelangte im Wesentlichen zum Schluss, der Plan des Beschwerdeführers, die Stelle bei der X._ AG zu kündigen und sich selbstständig zu machen, habe keinen Zusammenhang mit seiner Leukämieerkrankung im Herbst 2014 gehabt. Im Vordergrund hätten finanzielle Überlegungen sowie Schwierigkeiten am Arbeitsplatz gestanden. Der Beschwerdeführer hätte unabhängig von seiner Erkrankung seine Anstellung bei der X._ AG gekündigt.
5.3.
5.3.1. Das kantonale Gericht stützte sich bei seiner Beurteilung hauptsächlich auf eine Aktennotiz der Beschwerdegegnerin vom 16. Februar 2016. Demnach soll der Beschwerdeführer telefonisch mitgeteilt haben, dass er bei seinem bisherigen Arbeitgeber gekündigt habe, bevor er erkrankt sei. Die Kündigung stehe mit der Erkrankung in keinem Zusammenhang. Er habe schon vorher beschlossen, sich selbstständig zu machen. Zudem erachtete es die Vorinstanz als ausgewiesen, dass ab Sommer 2014 ein Arbeitsplatzkonflikt vorlag, welcher in keinem Zusammenhang mit einer Krankheit stand. Dieser Konflikt und der Wunsch nach einer Selbstständigkeit habe zur Kündigung des Arbeitsverhältnisses geführt.
5.3.2. Gemäss Darstellung im angefochtenen Entscheid führte Prof. Dr. med. C._ in seinem Bericht vom 12. April 2018 aus, bei einer chronisch lymphatischen Leukämie könne davon ausgegangen werden, dass der Krankheitsbeginn Jahre vorher zurückliege. Diese Erkrankung und auch die klassischen Symptome wie Müdigkeit, Abgeschlagenheit, Nachtschweiss, Schwitzen und verminderte körperliche Belastbarkeit entwickelten sich häufig schleichend und seien für den Patienten nicht mit einem abrupten Ereignis verbunden. Daher sei es für die Patienten auch häufig schwierig, ein genaues Datum mit Erstmanifestation anzugeben. Bei Durchsicht der Arztberichte falle auf, dass der Beschwerdeführer mindestens schon im Rahmen der hausärztlichen Konsultation vom 14. Juli 2014 eine entsprechende krankheitstypische Symptomatik angegeben habe, indem er eine thorakale Drucksymptomatik mit Dyspnoe und extremem Schwitzen bemerkt habe. Dies passe gut zu einer chronisch lymphatischen Leukämie. In diesem Zusammenhang kann auch auf die weiteren von der Vorinstanz angeführten medizinischen Berichte verwiesen werden, in denen u.a. Beschwerden wie thorakaler Druck mit Dyspnoe, extremes Schwitzen, Unwohlsein, Lebersteatose unklarer Ätiologie sowie Schwellung unter dem rechten Kiefer erwähnt wurden (Bericht des Dr. med. E._ vom 14. Juli 2014, Bericht des Dr. med. F._ vom 14. Juli 2014, Bericht des Dr. med. G._ vom 21. November 2014, Bericht des Prof. Dr. med. C._ vom 11. Dezember 2014).
5.3.3. Aufgrund der im angefochtenen Entscheid angeführten medizinischen Berichte erweist sich die Feststellung der Vorinstanz, die geltend gemachte Energielosigkeit und Ermüdbarkeit im Sommer/Herbst 2014 sei zum einen ärztlich nicht echtzeitlich dokumentiert und zum andern sei gut vorstellbar, dass sie auch durch die von Dr. med. H._ in den Aktennotizen vom 17. September 2014 und vom 7. Oktober 2014 erwähnte Arbeitsplatzproblematik verursacht seien, als willkürlich. Wie der Beschwerdeführer zu Recht vorbringt, ergibt sich aus den von der Vorinstanz zitierten medizinischen Akten, dass sich der Beschwerdeführer schon im Juli 2014 wegen seiner Beschwerden in medizinische Behandlung begeben musste und die Symptome einer chronisch lymphatischen Leukämie bereits einige Zeit vor der Diagnosestellung auftraten. Wie der Beschwerdeführer zu Recht rügt, macht die Vorinstanz keine Ausführungen zu der von ihr als Kündigungsgrund erwähnten Arbeitsplatzproblematik und legt nicht dar, worin diese bestanden haben soll. Es ist nicht ersichtlich, gestützt auf welche Umstände das kantonale Gericht ausschliesst, dass die sich gemäss seinen Feststellungen beim Beschwerdeführer schleichend entwickelnden Symptome wie Müdigkeit, Abgeschlagenheit, Nachtschweiss und Schwitzen zu einem Arbeitsplatzkonflikt geführt haben könnten. Die Vorinstanz hat es in diesem Zusammenhang unterlassen, durch Nachfrage beim Hausarzt abzuklären, worauf er sich bei seinen Handnotizen bezog.
5.3.4. Schliesslich ist bezüglich der Aktennotiz der Beschwerdegegnerin vom 16. Februar 2016 festzuhalten, dass eine formlos eingeholte und in einer Aktennotiz festgehaltene mündliche bzw. telefonische Auskunft nur insoweit ein zulässiges und taugliches Beweismittel darstellt, als damit bloss Nebenpunkte, namentlich Indizien oder Hilfstatsachen festgestellt würden (<ref-ruling> E. 4.2), was mit Bezug auf den Inhalt der erwähnten Aktennotiz nicht zutrifft. Weshalb im Übrigen gemäss Ausführungen der Vorinstanz insbesondere unter Berücksichtigung der Angaben des Beschwerdeführers im Einwand kein vernünftiger Zweifel am Wahrheitsgehalt der erwähnten Telefonnotiz bestehen sollten, ist nicht ersichtlich. So hatte der Beschwerdeführer im Einwand gegen den Vorbescheid vom 27. Februar 2017 auch gesundheitliche Gründe für seine Kündigung geltend gemacht. Zudem kann die Telefonnotiz vom 16. Februar 2016, wie vom Beschwerdeführer zu Recht gerügt wird, entgegen dem angefochtenen Entscheid nicht als sogenannte "Aussage der ersten Stunde" qualifiziert werden, nachdem gemäss Wortlaut des Kündigungsschreibens vom 3. November 2014 der Beschwerdeführer das Arbeitsverhältnis mit der X._ AG aus gesundheitlichen Gründen aufgelöst hatte.
5.3.5. Indem das kantonale Gericht eine Arbeitsplatzproblematik als ausschlaggebenden Kündigungsgrund feststellte, ohne darzutun, worauf es dies abstützte und worin diese bestand, verfiel es in Willkür. Es erweist sich daher gesamthaft als willkürlich, wenn das kantonale Gericht den gesundheitlichen Aspekt trotz entsprechender konkreter Hinweise bei der Festsetzung des Valideneinkommens völlig ausblendet und zum Schluss gelangt, dass sich der Beschwerdeführer unabhängig von der Krebserkrankung bzw. den bereits vor deren Diagnose festgestellten gesundheitlichen Problemen hätte selbstständig machen wollen. Unter den genannten Umständen hätte die Vorinstanz bezüglich des Kündigungsgrundes weitere Abklärungen tätigen müssen. Sie hätte insbesondere abklären müssen, ob der Beschwerdeführer entgegen seinem Kündigungsschreiben und seinen Ausführungen im Einwandschreiben unabhängig von seiner Erkrankung die Stelle bei der X._ AG gekündigt hätte.
5.4. Schliesslich rügt der Beschwerdeführer, dass mit Bezug auf die Festsetzung des Valideneinkommens nicht einzusehen sei, weshalb er ohne Erkrankung nur noch ein Einkommen von Fr. 115'566.- erzielen würde, nachdem er nach Feststellung des kantonalen Gerichts zuvor in den Jahren 2005 bis 2016 durchschnittlich ca. Fr. 300'000.- verdient gehabt habe. Wie es sich damit verhält, kann an dieser Stelle offengelassen werden, da die Sache zu weiteren Abklärungen des Sachverhalts an die Vorinstanz zurückzuweisen ist.
6.
Zusammenfassend ist der massgebende Sachverhalt willkürlich und damit in Verletzung von Bundesrecht festgestellt worden. Die Sache ist zu weiteren Abklärungen im Sinne der Erwägungen und zu neuer Entscheidung an die Vorinstanz zurückzuweisen.
7.
Die Rückweisung der Sache an die Vorinstanz zu weiterer Abklärung (mit noch offenem Ausgang) gilt für die Frage der Auferlegung der Gerichtskosten wie auch der Parteientschädigung als vollständiges Obsiegen im Sinne von Art. 66 Abs. 1 sowie Art. 68 Abs. 1 und 2 BGG, unabhängig davon, ob sie beantragt oder ob das Begehren im Haupt- oder Eventualantrag gestellt wird (<ref-ruling> E. 7.1 S. 271). Die unterliegende Beschwerdegegnerin hat die Gerichtskosten zu tragen (<ref-law>) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen und der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 16. Januar 2020 aufgehoben. Die Sache wird zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. Dezember 2020
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Schüpfer