Sachverhalt:
A.
A.a. Der 1964 geborene A._ meldete sich im Juni 1996 unter Hinweis auf eine Wirbelsäulenproblematik nach einem am 20. Dezember 1993 erlittenen Unfall bei der Invalidenversicherung zum Leistungsbezug an. Am 19. Juli 1996 zog er seinen Antrag zurück, da er mit seiner Ehefrau ein eigenes Gipsergeschäft, die B._ GmbH (ab 6. April 2004: B._ AG), gegründet habe. Im Juni 2000 meldete sich A._ erneut zum Leistungsbezug bei der IV-Stelle des Kantons Zürich an und beantragte Hilfsmittel und Rentenleistungen. Mit Verfügung vom 8. Dezember 2000 erteilte die IV-Stelle Kostengutsprache für ein Hilfsmittel (Abänderungen am Motorfahrzeug). Am 11. Juni 2001 beantragte A._ zudem Hilflosenentschädigung. Gestützt auf das Gutachten des Prof. Dr. med. C._, Chefarzt an der Orthopädischen Klinik D._, vom 23. April 2001, die Abklärung vor Ort für Selbstständigerwerbende (Bericht vom 22. Oktober 2001) und den Abklärungsbericht für eine Hilflosenentschädigung vom 23. Oktober 2001, sprach ihm die IV-Stelle eine ganze Invalidenrente ab 1. September 2000 zu (Verfügung vom 20. Dezember 2001). Dies bestätigte sie im Rahmen eines Revisionsverfahrens im Jahr 2003/2004. Einen Anspruch auf Hilflosenentschädigung verneinte sie mit Verfügung vom 14. Juni 2001.
A.b. Auf einen anonymen Hinweis hin, wonach A._ auf Baustellen schwere Arbeiten verrichte, leitete die IV-Stelle im Jahr 2006 eine Rentenrevision ein. Zudem erfuhr sie, dass eine Untersuchung des Staatssekretariats für Wirtschaft (seco) wegen zu Unrecht bezogener Schlechtwetterentschädigung in der Höhe von rund einer Million Franken eingeleitet worden sei. Am 7. September 2006 reichte die IV-Stelle wegen Verdachts auf Versicherungsbetrug Strafanzeige ein. Das Obergericht des Kantons Zürich wies mit Beschluss vom 6. März 2008 die Sache zur weiteren Strafuntersuchung an die Staatsanwaltschaft zurück, nachdem die IV-Stelle deren Einstellungsverfügung angefochten hatte.
Mit Verfügung vom 14. Juli 2008 hob die IV-Stelle die ganze Rente rückwirkend auf den 1. Juli 2004 auf. Mit Rückerstattungsverfügung vom 30. Juli 2008 forderte sie die zu Unrecht bezogenen Leistungen ab Juli 2004 zurück. Die gegen diese Verfügungen erhobenen Beschwerden hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 27. Februar 2009 in dem Sinne gut, dass es die Sache zu weiteren Abklärungen an die Verwaltung zurückwies. Ein Gesuch um Wiederherstellung der aufschiebenden Wirkung der Beschwerde respektive um vorsorgliche Weiterausrichtung der Rentenleistungen wies das Gericht ab.
A.c. Die IV-Stelle veranlasste daraufhin eine Begutachtung bei Dr. med. et Dr. sc. nat. ETH E._, Fachärztin FMH für Innere Medizin und Rheumatologie, (Gutachten vom 22. August 2011) und zog die Untersuchungsakten der Kantonspolizei Zürich sowie die Buchhaltungsunterlagen der B._ AG bei. Weiter führte sie eine Abklärung für Selbstständigerwerbende vor Ort durch (Bericht vom 26. Oktober 2012). Gestützt hierauf hob die IV-Stelle mit Verfügung vom 26. Februar 2016 die bisherige Rente rückwirkend vom 1. Juli 2004 bis zur Sistierung auf.
B.
Die von A._ hiergegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Zürich mit Entscheid vom 7. August 2017 ab.
C.
A._ lässt Einheitsbeschwerde (recte: Beschwerde in öffentlich-rechtlichen Angelegenheiten) führen und beantragen, in Aufhebung des vorinstanzlichen Entscheids sei die IV-Stelle zu verpflichten, ihm ab 1. Juli 2004 weiterhin eine ganze, eventuell eine Teilrente, zuzusprechen.
Das Bundesgericht führt keinen Schriftenwechsel durch.

Erwägungen:
1.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
2.1.
2.1.1. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie rückwirkend für die Zeit ab 1. Juli 2004 den Anspruch auf eine Rente verneinte. Die Rückerstattungspflicht des Beschwerdeführers steht vorliegend nicht im Streit.
2.1.2. Die rückwirkende Korrektur eines unrechtmässigen Leistungsbezugs mittels Rückforderung bedarf auch im Bereich der Invalidenversicherung eines entsprechenden Titels. Im Einzelnen braucht es dazu einen Rückkommenstitel im Sinne von Art. 53 Abs. 1 oder 2 ATSG (Wiedererwägung oder Revision). In Frage kommt jedoch auch eine Revision nach <ref-law>, falls sie gemäss Art. 88 bis Abs. 2 lit. b IVV i.V.m. <ref-law> rückwirkend erfolgt (<ref-ruling> E. 3.2.1 S. 261; Urteil 8C_85/2016 vom 26. August 2016 E. 2).
2.2. Die Vorinstanz stellte gestützt auf das als beweiswertig eingestufte Gutachten der Frau Dr. med. et Dr. sc. nat. ETH E._ vom 22. August 2011 fest, der Versicherte sei in einer adaptierten Tätigkeit zu 100 % arbeitsfähig. Sie legte dabei namentlich dar, dass Frau Dr. med. et Dr. sc. nat. ETH E._ nicht befangen sei und auch keine inhaltlichen Mängel am Gutachten beständen. Gestützt auf die echtzeitlichen Akten, den polizeilichen Beobachtungsbericht vom 17. Juli 2007, Zeugeneinvernahmen bezüglich der Geschäftstätigkeit der B._ AG sowie die rückwirkende medizinische Aktenbeurteilung der Gutachterin ging die Vorinstanz von einem verbesserten Gesundheitszustand ab April 2004 aus. Sie nahm mit Blick auf die Ermittlung des Invaliditätsgrads keinen Einkommensvergleich vor, da sie von einer vollständigen Arbeitsfähigkeit als Geschäftsführer der B._ AG ausging und gestützt auf die Lohnunterlagen erwerbliche Auswirkungen ausschloss. Schliesslich stellte die Vorinstanz eine Meldepflichtverletzung fest, da es der Beschwerdeführer unterlassen habe, der Invalidenversicherung seinen seit April 2004 wesentlich verbesserten Gesundheitszustand zu melden, der es ihm ermöglichte, seiner Geschäftsführertätigkeit in seiner eigenen Gesellschaft wieder uneingeschränkt nachzukommen.
2.3. Beschwerdeweise wird vorgebracht, entgegen dem Rückweisungsentscheid vom 27. Februar 2009 sei kein orthopädisch/rheumatologisches Gutachten erstellt worden. Folglich fehle es der "rein" rheumatologischen Gutachterin am notwendigen Fachwissen. Weiter habe das kantonale Gericht das Gutachten vom 22. August 2011 im Sinne der Beschwerdegegnerin interpretiert, obschon es eine Verbesserung des Gesundheitszustands nicht belege. Darin sei eine Gehörsverletzung und eine Verletzung des Untersuchungsgrundsatzes zu erblicken. Gemäss Urteil des Bezirksgerichts Hinwil vom 27. September 2017 (betreffend die strafrechtliche Verurteilung des Versicherten wegen mehrfachen gewerbsmässigen Betrugs) seien sowohl die medizinische Expertise der Frau Dr. med. et Dr. sc. nat. ETH E._ als auch das Observationsmaterial im Strafverfahren nicht verwertbar. Durch die willkürliche Sachverhaltsermittlung und Beweiswürdigung liege ein Ermessensmissbrauch vor. Weiter seien die Schlussfolgerungen der Vorinstanz bezüglich des Verdiensts des Beschwerdeführers falsch, da es sich nicht um das von ihm selbst erwirtschaftete Vermögen handle, sondern um jenes der Gesellschaft.
3.
3.1. Mit rechtskräftigem Urteil vom 27. September 2017 des Bezirksgerichts Hinwil wurde der Beschwerdeführer des mehrfachen gewerbsmässigen Betrugs bezüglich Schlechtwetterentschädigung schuldig gesprochen. Des mehrfachen Betrugs betreffend Rentenleistungen insbesondere der Invalidenversicherung wurde er hingegen freigesprochen. Das Bezirksgericht begründete dies damit, dass aufgrund der dem Einkommensvergleich zugrunde gelegten Einkommensverhältnisse des Beschwerdeführers ab April 2004 - ab dann war ihm die Tätigkeit als Geschäftsführer der B._ AG zu 100 % zumutbar - mangels eines leistungsbegründenden Invaliditätsgrads gar kein Rentenanspruch resultieren könne. Damit steht auch für das Bezirksgericht fest, dass der Versicherte ab April 2004 keinen Rentenanspruch hatte, wobei festzuhalten ist, dass das Sozialversicherungsgericht nicht an die strafgerichtlichen Feststellungen und Würdigungen gebunden ist (<ref-ruling> E. 6a S. 242; SVR 2012 IV Nr. 2 S. 4 E. 7.2.1 [9C_785/2010]; vgl. auch <ref-ruling> E. 7 S. 81, 134 V 315 E. 4.5.3 S. 322). Folglich ist der Einwand der Unverwertbarkeit des medizinischen Gutachtens im Sozialversicherungsprozess aufgrund der im Strafverfahren noch offenen Frage der Verwertbarkeit desselben nicht stichhaltig und entbehrt einer rechtlichen Grundlage. Weiterungen erübrigen sich dazu, zumal nicht ersichtlich ist, dass die Observationsergebnisse im vorliegenden Verfahren nicht verwertbar sind, zumal in der Beschwerde dagegen einzig vorgebracht wird, die Verwertung der Strafakten im Sozialversicherungsverfahren begründeten die Voreingenommenheit der Gutachterin. Demnach schadet es nicht, dass die Expertin von diesen Kenntnis hatte (zur Verwertbarkeit vgl. <ref-ruling> und Urteil 9C_468/2017 vom 11. September 2017 E. 4.1). Bezüglich des wiederholten Einwands, Frau Dr. med. et Dr. sc. nat. ETH E._ sei befangen und voreingenommen, wird auf die korrekte Darlegung im kantonalen Entscheid der hierzu ergangenen umfangreichen Rechtsprechung des Bundesgerichts und die einlässliche vorinstanzliche Auseinandersetzung mit diesem Vorwurf verwiesen. Konkrete Anhaltspunkte, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermöchten, sind nicht ersichtlich. Auch hierzu erübrigen sich Weiterungen.
3.2. Sodann hat das kantonale Gericht gestützt auf die Akten, insbesondere das Gutachten der Frau Dr. med. et Dr. sc. nat. ETH E._ vom 22. August 2011 bindend (E. 1) erkannt, dass durch die vierte lumbale Operation am 19. September 2003 in revisionsrechtlicher Hinsicht (<ref-law>) eine wesentliche gesundheitliche Verbesserung erreicht werden konnte. Der Beschwerdeführer kann dadurch seit April 2004 zu 100 % der Tätigkeit als Geschäftsführer der B._ AG nachgehen und damit gemäss vorinstanzlicher Feststellung ein rentenausschliessendes Einkommen erzielen. Mit Blick auf die Entwicklung der Gesellschaft mit jährlich gewachsenem Betriebsertrag ist davon auszugehen, dass der verbliebene gesundheitliche Schaden keine erwerbliche Auswirkungen mehr zeitigt. Der in der Beschwerde geäusserte Vorwurf, das kantonale Gericht habe den Untersuchungsgrundsatz, den Anspruch auf rechtliches Gehör und das Willkürverbot verletzt, stützt sich lediglich auf Kritik am seitens der Vorinstanz verbindlich festgestellten Sachverhalt. Sie hat sich indessen hinreichend mit den Vorbringen des Beschwerdeführers im kantonalen Verfahren auseinandergesetzt und ihre wesentlichen Überlegungen genannt. Der Beschwerdeführer verkennt, dass der Anspruch auf rechtliches Gehör (<ref-law>) nicht bedeutet, dass das angerufene Gericht jedes einzelne Vorbringen ausdrücklich widerlegen muss. Jedenfalls kann von einer den Untersuchungsgrundsatz verletzenden, offensichtlich unrichtigen (oder unvollständigen) vorinstanzlichen Feststellung des rechtserheblichen Sachverhalts oder gar von einer willkürlichen Würdigung der Aktenlage keine Rede sein. Dies gilt auch hinsichtlich der antizipierten Beweiswürdigung, wonach keine weiteren ärztlichen Abklärungen, insbesondere in orthopädischer Hinsicht, erforderlich seien. In der Beschwerdeschrift werden praktisch ausschliesslich blosse Tat- und Ermessensfragen aufgeworfen, die - wie dargelegt - der freien Überprüfung durch das Bundesgericht von vornherein entzogen sind. Gegen die vorinstanzlich bejahte Meldepflichtverletzung (<ref-law> in Verbindung mit Art. 88 bis Abs. 2 lit. b und <ref-law>) wendet der Beschwerdeführer schliesslich zu Recht nichts ein. Damit hat es mit der rückwirkenden Leistungseinstellung gemäss angefochtenem Entscheid sein Bewenden.
4.
Die im Sinne von <ref-law> offensichtlich unbegründete Beschwerde ist im vereinfachten Verfahren abzuweisen.
5.
Die Gerichtskosten werden dem Beschwerdeführer als unterliegender Partei auferlegt (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 16. Mai 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Polla