Sachverhalt:
A.
A._ war als Gerüstbauer tätig, als er sich im Juli 2011 bei der IV-Stelle des Kantons Zürich zum Leistungsbezug anmeldete. Nach beruflichen und medizinischen Abklärungen teilte ihm die IV-Stelle mit Schreiben vom 18. Juli 2014 mit, dass keine beruflichen Eingliederungsmassnahmen möglich seien. Nach durchgeführtem Vorbescheidverfahren sprach ihm die IV-Stelle mit Verfügung vom 8. November 2016 für die Zeit vom 1. Februar 2012 bis 31. Juli 2013 eine ganze Rente der Invalidenversicherung zu und verneinte sinngemäss die Ausrichtung einer unbefristeten Rente.
B.
Mit Entscheid vom 26. Januar 2018 wies das Sozialversicherungsgericht des Kantons Zürich die von A._ hiergegen erhobene Beschwerde ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, ihm sei unter Anpassung der Verfügung und Aufhebung des kantonalen Gerichtsentscheides eine unbefristete Rente auszurichten.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweisen).
1.2. Das Bundesgericht kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (<ref-law>). Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>).
2.
Es ist unbestritten, dass der Beschwerdeführer für die Zeit vom 1. Februar 2012 bis 31. Juli 2013 Anspruch auf eine ganze Rente der Invalidenversicherung hat. Streitig und zu prüfen ist demgegenüber, ob die Vorinstanz Bundesrecht verletzt hat, als sie die Befristung der ganzen Rente auf den 31. Juli 2013 hin bestätigte.
3.
3.1. Der Anspruch auf Leistungen der Invalidenversicherung setzt unter anderem voraus, dass die versicherte Person invalid oder von Invalidität unmittelbar bedroht ist. Invalidität ist gemäss <ref-law> die voraussichtlich bleibende oder längere Zeit dauernde ganze oder teilweise Erwerbsunfähigkeit.
3.2. Zur Bestimmung des Invaliditätsgrades wird gemäss <ref-law> das Erwerbseinkommen, das die versicherte Person nach Eintritt der unfallbedingten Invalidität und nach Durchführung allfälliger Eingliederungsmassnahmen durch eine zumutbare Tätigkeit bei ausgeglichener Arbeitsmarktlage erzielen könnte (sog. Invalideneinkommen), in Beziehung gesetzt zum Erwerbseinkommen, das sie erzielen könnte, wenn sie nicht invalid geworden wäre (sog. Valideneinkommen).
3.3. Für die Festsetzung des Invalideneinkommens können nach der Rechtsprechung unter anderem Tabellenlöhne gemäss den vom Bundesamt für Statistik periodisch herausgegebenen Lohnstrukturerhebungen (LSE) herangezogen werden (<ref-ruling> E. 4.2.1 S. 475 mit Hinweisen). Kann eine versicherte Person ihre gesundheitsbedingt eingeschränkte Arbeitsfähigkeit auf dem allgemeinen Arbeitsmarkt mutmasslich nur mit unterdurchschnittlichem erwerblichen Erfolg verwerten, so ist von den Tabellenlöhnen der LSE gegebenenfalls ein Abzug vorzunehmen. Die Frage, ob und in welchem Ausmass Tabellenlöhne herabzusetzen sind, hängt von sämtlichen persönlichen und beruflichen Umständen des konkreten Einzelfalles ab (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad). Der Einfluss sämtlicher Merkmale auf das Invalideneinkommen ist nach pflichtgemässem Ermessen gesamthaft zu schätzen, wobei der Abzug auf insgesamt höchstens 25% zu begrenzen ist (<ref-ruling> E. 4.2.3 S. 481, 126 V 75 E. 5b/bb S. 80).
Ob ein (behinderungsbedingt oder anderweitig begründeter) Abzug vom Tabellenlohn vorzunehmen ist, stellt eine vom Bundesgericht frei überprüfbare Rechtsfrage dar (<ref-ruling> E. 5.1 S. 72f. mit Hinweis, Urteil 8C_652/2008 vom 8. Mai 2009 E. 4 in fine, nicht publiziert in <ref-ruling>). Dagegen ist die Höhe des (im konkreten Fall grundsätzlich angezeigten) Abzuges eine Ermessensfrage und daher letztinstanzlich nur bei Ermessensüberschreitung, -missbrauch oder -unterschreitung korrigierbar (<ref-ruling> E. 5.1 S. 72f. mit Hinweis, 132 V 393 E. 3.3 S. 39, Urteil 9C_481/2011 vom 30. September 2011 E. 3.2).
4.
4.1. Die Parteien sind sich darüber einig, dass der Beschwerdeführer in seiner bisherigen Tätigkeit als Gerüstbauer nicht mehr arbeitsfähig ist. Unbestritten ist ferner, dass seit spätestens dem 24. April 2013 in einer angepassten Tätigkeit volle Arbeitsfähigkeit mit einer auf 70% reduzierten Leistungsfähigkeit besteht.
4.2. Hinsichtlich der erwerblichen Auswirkungen des Gesundheitsschadens hat das kantonale Gericht erwogen, dass der Beschwerdeführer in der vor Eintritt des Gesundheitsschadens ausgeübten Tätigkeit als Gerüstbauer im Jahr 2013 Fr. 69'254.- verdienen würde (Valideneinkommen). Verglichen mit dem gestützt auf die Lohnstrukturerhebung des Bundesamtes für Statistik (LSE) ermittelten hypothetischen Invalideneinkommen von Fr. 45'989.- für ein Pensum von 70% resultiere, ohne Berücksichtigung eines leidensbedingten Abzugs, eine Erwerbseinbusse von Fr 23'265.- und somit ein rentenausschliessender Invaliditätsgrad von gerundet 34%.
4.3. Beschwerdeweise wird einzig gerügt, dass kein leidensbedingter Abzug infolge Teilzeitpensums gewährt worden sei. Ein solcher sei jedoch gerechtfertigt, weil Teilzeitbeschäftigte im Vergleich zu Vollzeitbeschäftigten höhere Fixkosten (Rekrutierungs-, Einstellungs-, Infrastruktur, Administrations-, Einarbeituns-, Weiterbildungskosten) verursachen würden. Es sei demnach davon auszugehen, dass bei Personen die bloss noch eine Teilzeitbeschäftigung ausüben können, ein Tabellenabzug zu gewähren sei. Diese Kostennachteile bestünden auch bei ganztägiger Präsenz mit reduzierter Leistungsfähigkeit. Die Arbeitsfähigkeit des Beschwerdeführers zwar vollschichtig umsetzbar, seine Leistungsfähigkeit betrage aber lediglich 70%. Es sei hierbei unerheblich, ob sich die prozentuale Einschränkung im erhöhten Pausenbedarf niederschlage oder seine Präsenzzeit auf 70% gesetzt werde. Fakt sei, dass der Arbeitgeber auf dem ausgeglichenen Arbeitsmarkt den Lohn ausrichte, welcher in Korrelation zur erbrachten Leistung stehe.
4.4. Rechtsprechungsgemäss wird unter dem Titel Beschäftigungsgrad bei Männern, welche aus gesundheitlichen Gründen nur noch teilzeitlich erwerbstätig sein können, ein Abzug vom Tabellenlohn nach <ref-ruling> grundsätzlich anerkannt. In neueren Urteilen hat das Bundesgericht allerdings erwogen, dass ein solcher Abzug bei Männern mit Teilzeittätigkeiten nicht mehr automatisch vorzunehmen sei (vgl. dazu Urteil 8C_805/2016 vom 22. März 2017 E. 3.2 mit weiteren Hinweisen, 8C_699/2017 vom 26. April 2018 E. 3.1, 8C_621/2017 vom 15. Februar 2018 E. 4.4, 8C_255/2017 vom 18. Dezember 2017 E. 5.2). Hiervon zu unterscheiden sind indessen jene Versicherten, die - wie vorliegend - grundsätzlich vollzeitlich arbeitsfähig, jedoch krankheitsbedingt reduziert leistungsfähig sind. Bei dieser Konstellation wird in der Regel kein über die Berücksichtigung der eingeschränkten Leistungsfähigkeit und damit das Rendement hinausgehender Abzug anerkannt (Urteile 8C_939/2011 vom 13. Februar 2012 E. 5.2.3 und 9C_582/2011 vom 3. November 2011 E. 3.1 mit Hinweisen, vgl. indessen 9C_603/2007 vom 8. Januar 2008 E. 4.2). Diese Praxis wurde auch in jüngster Zeit vom Bundesgericht wiederholt bestätigt (Urteile 8C_602/2017 vom 1. März 2018 E. 5.3, 8C_68/2016 vom 3. März 2016 E. 4.3, 8C_710/2014 vom 12. Mai 2015 E. 4.2). So mag es zutreffen, dass, wie im Schrifttum vermutet (P HILIPP GEERTSEN, Der Tabellenlohnabzug, in: Kieser/Lendfers [Hrsg.]: Jahrbuch zum Sozialversicherungsrecht 2012, S. 139 ff., S. 149), Arbeitskräfte mit reduzierter Leistungsfähigkeit die Infrastruktur des Arbeitgebers ineffizienter und damit kostenintensiver beanspruchen, als Arbeitskräfte mit uneingeschränkter Leistungsfähigkeit. Es bestehen indessen keine ausreichenden Anhaltspunkte dafür, dass dieser Effekt nicht durch die Vorteile der ganztägigen Präsenz des Arbeitnehmers aufgewogen wird (vgl. 8C_419/2012 vom 21. September 2012 E. 3.2, 8C_344/2012 vom 16. August 2012 E. 3.2, 8C_20/2012 vom 4. April 2012 E. 3.3, SVR 2012 Nr. 17 S. 78, 8C_379/2011 E. 4.2.3).
Vorliegend ist weder ein Grund ersichtlich, von dieser Regel abzuweichen, noch liegen andere Anhaltspunkte vor, die einen Tabellenabzug rechtfertigen. Die Vorinstanz hat demnach kein Bundesrecht verletzt, als sie die Befristung der Rente per 31. Juli 2013 bestätigte. Entsprechend ist die Beschwerde des Versicherten abzuweisen.
5.
Dem Prozessausgang entsprechend sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 8. Mai 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Elmiger-Necipoglu