Sachverhalt:
A.
A.a. Der 1978 geborene A._ meldete sich am 17. August 2009 wegen Rückenbeschwerden bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 9. Februar 2010 verneinte die Sozialversicherungsanstalt des Kantons Zürich, IV-Stelle, einen Anspruch auf berufliche Eingliederungsmassnahmen. Nach weiteren medizinischen Abklärungen verneinte sie mit Verfügung vom 24. Februar 2012 auch einen Anspruch auf Rentenleistungen. Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 9. September 2013 in dem Sinne gut, dass es die angefochtene Verfügung aufhob und die Sache an die Verwaltung zurückwies, damit diese nach erfolgten zusätzlichen Abklärungen über den Leistungsanspruch neu verfüge.
A.b. Nach weiteren Abklärungen - insbesondere durch Einholung eines interdisziplinären Gutachtens der MEDAS Ostschweiz vom 26. November 2014 samt ergänzender Stellungnahme vom 15. Januar 2015 und einer Expertise des Dr. med. B._, Facharzt für Psychiatrie und Psychotherapie FMH, leitender Arzt des Psychiatrischen Zentrums C._, vom 15. Januar 2016 - verneinte die IV-Stelle mit Verfügung vom 21. September 2016 einen Leistungsanspruch erneut.
B.
Die dagegen erhobene Beschwerde hiess das kantonale Gericht mit Entscheid vom 7. August 2017 teilweise gut. Es hob die angefochtene Verfügung auf und stellte fest, der Versicherte habe für die Zeit vom 1. Oktober 2011 bis 30. November 2015 Anspruch auf eine ganze Rente gehabt. Im Übrigen wies es die Beschwerde ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des Entscheides vom 7. August 2017 sei ihm eine zeitlich unbefristete ganze Invalidenrente zuzusprechen. Weiter sei ihm die unentgeltliche Prozessführung zu bewilligen.
Das Bundesgericht ordnet keinen Schriftenwechsel an.

Erwägungen:
1.
1.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
1.2. Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (<ref-ruling> E. 3.1 S. 44). Es liegt noch keine offensichtliche Unrichtigkeit vor, nur weil eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erscheint (vgl. <ref-ruling> E. 2.1 S. 9; Urteil 8C_629/2017 vom 29. Dezember 2017 E. 1.2 mit Hinweisen). Diese Grundsätze gelten auch in Bezug auf die konkrete Beweiswürdigung (Urteil 9C_222/2016 vom 19. Dezember 2016 E. 1.2 mit Hinweis).
2.
Strittig und - hinsichtlich Sachverhalts eingeschränktem Blickwinkel - zu prüfen ist, ob die Vorinstanz Bundesrecht verletzt hat, indem sie den Rentenanspruch des Beschwerdeführers bis 30. November 2015 befristete.
2.1. Die für die Beurteilung relevanten Rechtsgrundlagen sind im angefochtenen Gerichtsentscheid zutreffend dargelegt worden. Dies betrifft namentlich die Bestimmungen und Grundsätze zu den Begriffen der Invalidität (<ref-law> in Verbindung mit <ref-law>) und Erwerbsunfähigkeit (<ref-law>) sowie zum Anspruch auf eine Invalidenrente (<ref-law>). Richtig sind auch die Ausführungen zum Beweiswert und zur Beweiswürdigung medizinischer Berichte und Gutachten (<ref-ruling> E. 6.2.2 S. 269; <ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3 S. 352 mit Hinweisen). Darauf wird verwiesen.
2.2. Ändert sich der Invaliditätsgrad eines Rentenbezügers erheblich, so wird die Rente von Amtes wegen oder auf Gesuch hin für die Zukunft entsprechend erhöht, herabgesetzt oder aufgehoben (<ref-law>). Anlass zur Rentenrevision gibt jede wesentliche Änderung in den tatsächlichen Verhältnissen seit Zusprechung der Rente, die geeignet ist, den Invaliditätsgrad und damit den Anspruch zu beeinflussen. Insbesondere ist die Rente bei einer wesentlichen Änderung des Gesundheitszustandes revidierbar. Hingegen ist die lediglich unterschiedliche Beurteilung eines im Wesentlichen gleich gebliebenen Sachverhalts im revisionsrechtlichen Kontext unbeachtlich (<ref-ruling> E. 2.3 S. 10 f. mit Hinweisen).
Auf die rückwirkende Zusprechung einer abgestuften und/oder befristeten Invalidenrente sind die für die Rentenrevision geltenden Bestimmungen analog anzuwenden (<ref-ruling> E. 6.1 S. 263; <ref-ruling> E. 2.2 S. 165).
3.
Die Vorinstanz würdigte die medizinischen Akten und stellte vorerst fest, aus somatischer Sicht liege keine relevante Einschränkung der Arbeitsfähigkeit vor.
Weiter führte sie aus, die von Dr. med. B._ getroffene medizinische Beurteilung sei einleuchtend. Seine Diagnosen einer chronischen Schmerzstörung mit somatischen und psychischen Faktoren (ICD-10 F45.41), einer akzentuierten Persönlichkeit mit emotional-instabilen, selbstunsicher-vermeidenden sowie sensitiv-paranoischen Zügen (ICD-10 Z73.1) und - zumindest für den Zeitpunkt der Begutachtung im November 2015 - von Angst und depressiver Störung gemischt (ICD-10 F41.2) seien nicht in Frage zu stellen. Entgegen den Ausführungen der IV-Stelle in der angefochtenen Verfügung bestehe keine eindeutige Aggravationsproblematik im Sinne eines Ausschlussgrundes für Leistungen. In der Folge nahm das kantonale Gericht eine Prüfung der Indikatoren gemäss <ref-ruling> vor. Demnach sei der chronischen Schmerzstörung mit somatischen und psychischen Faktoren im Begutachtungszeitpunkt ein massgeblicher Einfluss auf die Arbeitsfähigkeit nicht gänzlich abzusprechen. Angesichts des eher bescheidenen Ausprägungsgrades der Störung, der mangelhaften Leistungsmotivation, der nicht beeinträchtigenden Komorbiditäten, der vom Gutachter beschriebenen Ressourcen und gewisser Inkonsistenzen ergebe sich keine höhere als die vom Experten attestierte Arbeitsunfähigkeit von 50 % in der bisherigen, beziehungsweise 30 % in einer angepassten Tätigkeit. Daran vermöge auch die zusätzlich gestellte Diagnose "Angst und Depression gemischt" nichts zu ändern. Entgegen den Ausführungen im Gutachten des Dr. med. B._ hielt das kantonale Gericht hingegen den Beschwerdeführer aufgrund der echtzeitlichen medizinischen Akten ab Oktober 2011 für gänzlich arbeitsunfähig. Spätestens ab April 2014 sei gemäss Gutachten der MEDAS Ostschweiz vom 26. November 2014 von einer durch die Medikamentennebenwirkungen verursachten vollen Arbeitsunfähigkeit auszugehen. Die Medikation sei in der Folge optimiert worden. Überwiegend wahrscheinlich ab Frühjahr 2015 habe sich das Beschwerdebild dadurch gebessert. Spätestens ab der Begutachtung durch Dr. med. B._ sei daher von der von ihm attestierten Arbeitsfähigkeit auszugehen. Entsprechend habe der Beschwerdeführer vom 1. Oktober 2011 bis zum 30 November 2015 einen befristeten Anspruch auf eine ganz Invalidenrente gehabt.
4.
Der Beschwerdeführer macht geltend, das kantonale Gericht habe seinen Rentenanspruch zu Unrecht befristet. Im Sommer oder Herbst 2015 hätten sich die tatsächlichen Verhältnisse bezüglich seines Gesundheitszustandes oder dessen Auswirkungen auf seine Arbeits- und Erwerbsfähigkeit entgegen den Ausführungen im angefochtenen Entscheid nicht wesentlich verändert. Entsprechendes ergebe sich aus den Arztberichten aus dieser Zeit nicht. Selbst der Gutachter Dr. med. B._ sei nicht davon ausgegangen, dass sich die gesundheitlichen Verhältnisse in den fünf Jahren vor seinen Untersuchungen verändert hätten. Da die Einschätzung seiner Arbeitsfähigkeit durch Dr. med. B._ lediglich eine abweichende Beurteilung einer im Wesentlichen gleich gebliebenen gesundheitlichen Beeinträchtigung darstelle, liege kein Revisionsgrund im Sinne von <ref-law> vor.
5.
5.1. Der Beschwerdeführer zitiert insbesondere verschiedene Arztberichte, die im Zeitraum von April bis Juli 2015 erstellt worden waren (Austrittsbericht psychiatrische Klinik D._ vom 27. April 2015, Bericht des PD Dr. med. E._, Leiter des Schmerzzentrums am Spital F._ vom 11. Juni 2015 und Bericht des Dr. med. G._, Facharzt für Psychiatrie und Psychotherapie FMH, vom 21. Juli 2015). Demnach werde unisono über eine unveränderte Situation des Gesundheitszustandes berichtet. Die Feststellung einer Verbesserung sei damit aktenwidrig.
5.2. Die Vorinstanz stellte gestützt auf das MEDAS-Gutachten vom 26. November 2014 sowie die ergänzende Stellungnahme vom 15. Januar 2015 für das Bundesgericht verbindlich fest, dass die volle Arbeitsunfähigkeit ab April 2014 durch die Medikamentennebenwirkungen verursacht worden war. Konkret wurde im genannten Gutachten ausgeführt, die Arbeitsfähigkeit sei aus psychiatrischer Sicht zu 100 % eingeschränkt. Diese Einschränkung könne alleine durch die Müdigkeit des Versicherten erklärt werden, die so stark ausgeprägt sei, dass er sich kaum auf etwas konzentrieren könne. Die Experten führten aus, der Versicherte wirke "verladen". Weil die Müdigkeit durch verschiedene Medikamente verursacht sei, beruhe die Arbeitsunfähigkeit auf der Einnahme der - ärztlich verordneten - Medikation.
Mit anderen Worten verhielt es sich so, dass aus Sicht der MEDAS-Gutachter zufolge des Medikamentenkonsums und der dadurch bedingten Müdigkeit keine verwertbare Arbeitsfähigkeit bestand. Weiter ist dem angefochtenen Entscheid zu entnehmen, dass die Medikation ab Frühling 2015 optimiert wurde. Als Folge davon hielt Dr. med. B._ in seinem Gutachten vom 26. November 2015 ausdrücklich fest, Medikamentennebenwirkungen würden nicht mehr als wesentlich limitierende Faktoren betrachtet. Damit haben sich die Verhältnisse bezüglich der zumutbaren Arbeitsfähigkeit und damit auf die Erwerbsfähigkeit wesentlich verändert. Als Folge der Veränderung bestand mit dem kantonalen Gericht spätestens ab dem Zeitpunkt der Begutachtung durch Dr. med. B._ eine Arbeitsfähigkeit von 50 % in der bisherigen, beziehungsweise 70 % in einer angepassten Tätigkeit. Die entsprechenden vorinstanzlichen Feststellungen sind nicht aktenwidrig. Die Vorinstanz durfte das Vorliegen eines Revisionsgrundes bejahen.
5.3. Zusammengefasst sind die vorinstanzlichen Feststellungen zum Gesundheitszustand beziehungsweise zu dessen Auswirkung auf die Arbeitsfähigkeit und deren Veränderung nicht offensichtlich unrichtig oder rechtsfehlerhaft. Der Rentenanspruch des Beschwerdeführers wurde zu Recht auf Ende November 2015 terminiert. Die Bestimmung des Invaliditätsgrades durch die Vorinstanz wird vom Beschwerdeführer so wenig in Frage gestellt wie der Zeitpunkt der Rentenaufhebung. Die Beschwerde ist daher abzuweisen.
6.
Ausgangsgemäss wird der Beschwerdeführer grundsätzlich kostenpflichtig (<ref-law>). Seinem Gesuch um unentgeltliche Prozessführung kann jedoch entsprochen werden (<ref-law>), da seine Bedürftigkeit aufgrund der Bestätigung der Stadtverwaltung Zürich vom 30. September 2016 ausgewiesen ist und das Verfahren nicht zum Vornherein aussichtslos erschien. Es wird indessen ausdrücklich auf <ref-law> hingewiesen, wonach er der Bundesgerichtskasse Ersatz zu leisten hat, wenn er später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Dr. André Largier wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 19. Februar 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Schüpfer