Sachverhalt:
A.
A.a. Der 1962 geborene A._ arbeitete zuletzt bis Ende September 2009 als Küchenhilfe in einem Altersheim. Wegen Beschwerden an den Füssen leistete die IV-Stelle des Kantons Zürich Kostengutsprache für orthopädische Serienschuhe.
Im April 2006 meldete sich A._ unter Hinweis auf Fersen- und Rückenschmerzen sowie Knieprobleme bei der IV-Stelle zum Leistungsbezug an. Nach medizinischen und erwerblichen Abklärungen verneinte die IV-Stelle mit Verfügung vom 14. Dezember 2006 einen Rentenanspruch. Dies bestätigte das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 21. April 2008.
A.b. Mit Eingabe vom 2. Juli 2007 machte der Versicherte eine Verschlechterung des Gesundheitszustandes geltend. Die IV-Stelle führte medizinische Abklärungen durch und verneinte gestützt darauf mit Verfügung vom 23. April 2010 erneut einen Rentenanspruch. Das kantonale Gericht wies die dagegen erhobene Beschwerde mit Entscheid vom 22. März 2011 ab. Das Bundesgericht trat auf die Beschwerde mit Entscheid vom 28. Juni 2011 nicht ein.
A.c. Am 21. September 2012 meldete sich A._ wiederum bei der Invalidenversicherung zum Leistungsbezug an. Aufgrund der gegen den Vorbescheid vom 22. November 2012 erhobenen Einwände liess die IV-Stelle den Versicherten im Sanatorium B._ psychiatrisch begutachten (Gutachten vom 12. Juli 2013). Mit Verfügung vom 25. November 2013 verneinte sie abermals einen Rentenanspruch.
B.
Die von A._ dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 5. August 2015 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, unter Aufhebung des vorinstanzlichen Entscheids sei die IV-Stelle zu verpflichten, ihm die gesetzlichen Leistungen nach dem Invalidenversicherungsgesetz zuzusprechen. Die Sache sei zur ergänzenden medizinischen Abklärung an die Verwaltung zurückzuweisen. Eventualiter sei die IV-Stelle zu verpflichten, ihm eine ganze Rente zuzusprechen. Zudem wird um unentgeltliche Rechtspflege ersucht.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2.
Streitig und zu prüfen ist, ob das kantonale Gericht zu Recht einen rentenrelevanten Gesundheitsschaden des Beschwerdeführers verneint hat.
2.1. Mit <ref-ruling> hat das Bundesgericht seine Rechtsprechung zu den Voraussetzungen, unter denen anhaltende somatoforme Schmerzstörungen und vergleichbare psychosomatische Leiden eine rentenbegründende Invalidität zu bewirken vermögen, grundlegend überdacht und teilweise geändert. Es hat die Überwindbarkeitsvermutung aufgegeben und das bisherige Regel/Ausnahme-Modell durch einen strukturierten normativen Prüfraster ersetzt.
Nach wie vor kann eine Einschränkung der Leistungsfähigkeit indessen nur anspruchserheblich sein, wenn sie Folge einer Gesundheitsbeeinträchtigung ist, die fachärztlich einwandfrei diagnostiziert worden ist (<ref-ruling> E. 2.1 S. 285 mit Hinweis auf <ref-ruling>). Die Annahme eines psychischen Gesundheitsschadens, so auch einer anhaltenden somatoformen Schmerzstörung (ICD-10:F45.40), setzt somit zunächst eine fachärztlich (psychiatrisch) gestellte Diagnose nach einem wissenschaftlich anerkannten Klassifikationssystem voraus (<ref-ruling> E. 2.1 S. 50; Urteil 9C_822/2014 vom 29. Oktober 2015 E. 4.2). Die Sachverständigen haben die Diagnose einer anhaltenden somatoformen Schmerzstörung so zu begründen, dass die Rechtsanwender nachvollziehen können, ob die klassifikatorischen Vorgaben tatsächlich eingehalten sind (<ref-ruling> E. 2.1.1 S. 285 f. mit Hinweisen).
2.2. Auf einer zweiten Ebene der Anspruchsprüfung wird die Arbeits- (un) fähigkeit beurteilt. Bei der Beurteilung der Arbeits (un) fähigkeit stützt sich die Verwaltung und im Beschwerdefall das Gericht auf Unterlagen, die von ärztlichen und gegebenenfalls auch anderen Fachleuten zur Verfügung zu stellen sind. Ärztliche Aufgabe ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist (<ref-ruling> E. 3.2 S. 195).
Im Rahmen der freien Beweiswürdigung (<ref-law> [SR 830.1]; vgl. <ref-ruling> E. 3.2 und 4 S. 397 ff.) darf sich die Verwaltung - und im Streitfall das Gericht - weder über die (den beweisrechtlichen Anforderungen genügenden; vgl. <ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352 mit Hinweis) medizinischen Tatsachenfeststellungen hinwegsetzen noch sich die ärztlichen Einschätzungen und Schlussfolgerungen zur (Rest-) Arbeitsfähigkeit unbesehen ihrer konkreten sozialversicherungsrechtlichen Relevanz und Tragweite zu eigen machen. Die medizinischen Fachpersonen und die Organe der Rechtsanwendung prüfen die Arbeitsfähigkeit je aus ihrer Sicht (<ref-ruling> E. 5.2.1 S. 306; <ref-ruling> E. 3 S. 194 ff.; je mit Hinweisen). Die rechtsanwendenden Behörden haben mit besonderer Sorgfalt zu prüfen, ob die ärztliche Einschätzung der Arbeitsunfähigkeit auch invaliditätsfremde Gesichtspunkte (insbesondere psychosoziale und soziokulturelle Belastungsfaktoren) mitberücksichtigt, die vom invaliditätsrechtlichen Standpunkt aus unbeachtlich sind (vgl. <ref-ruling>; <ref-ruling> E. 2.2.5 S. 355 f.). Wo psychosoziale Einflüsse das Bild prägen, ist bei der Annahme einer rentenbegründenden Invalidität Zurückhaltung geboten (<ref-ruling> E. 5a S. 299; Urteil 9C_146/2015 vom 19. Januar 2016 E. 3.1 mit Hinweisen).
3.
Bezüglich der somatischen Beschwerden stellte das kantonale Gericht auf die Beurteilung des Dr. med. C._ von der Rheumaklinik des Spitals D._ vom 18. Januar 2013 ab. Dieser ging davon aus, aus somatisch-rheumatologischer Sicht komme es auch in einer angepassten leichten bis mittelschweren, wechselbelastenden Tätigkeit ohne Arbeit über Kopf oder mit länger dauerndem Armvorhalt aufgrund der Kumulation der Beschwerden an multiplen Gelenken und am Rücken im Tagesverlauf und einem dadurch verlangsamten Arbeitstempo mit zusätzlich notwendigen Kurzpausen zu einer Leistungsminderung von 20 Prozent. Der Beschwerdeführer bringt nichts vor, was diese auf konkreter Beweiswürdigung beruhende und damit für das Bundesgericht verbindliche (vgl. E. 1 hievor) vorinstanzliche Feststellung als offensichtlich unrichtig oder sonstwie bundesrechtswidrig erscheinen liesse. Im Streit liegt einzig der psychische Gesundheitszustand und die daraus allenfalls resultierende Einschränkung der Arbeitsfähigkeit.
4.
4.1. Mit Blick auf den psychischen Gesundheitszustand ging das kantonale Gericht davon aus, dass der Versicherte im Jahre 2012 mehrmals im Spital D._ psychiatrisch untersucht worden war. PD Dr. med. E._, Leitender Arzt an der Klinik für Psychiatrie und Psychotherapie des Spitals D._, sei gemäss Bericht vom 21. Dezember 2012 zum Schluss gekommen, dass - nachdem die psychiatrische Behandlung optimiert worden sei - allenfalls noch eine leichte depressive Episode diagnostiziert werden könne. Der erhobene psychiatrische Status sei weitgehend unauffällig gewesen, bei unauffälligen kognitiven Funktionen, kohärentem formalem Gedankengang und herstellbarem affektivem Rapport. Der Versicherte habe jedoch bedrückt und verzweifelt gewirkt und über seine Unzufriedenheit und Enttäuschung im Kontakt mit den Sozialversicherungen, über einen teilweise aggressiven und erregten Gemütszustand und damit verbundene Auseinandersetzungen mit der kranken Ehefrau sowie über schmerzbedingte Schlafprobleme berichtet. Nicht übernommen hat das kantonale Gericht die von PD Dr. med. E._ attestierte Einschränkung der Arbeitsfähigkeit von 40 bis 50 Prozent mit der Begründung, diese beruhe im Wesentlichen auf den vielfachen und komplexen psychosozialen Problemen (finanzielle Situation, Arbeitssituation, Invaliditätsabklärung, lange Abwesenheit vom Arbeitsprozess). Die Vorinstanz schloss daraus, es könne aus versicherungsrechtlicher Sicht nicht von einer krankheitswertig verminderten Leistungsfähigkeit ausgegangen werden, zumal eine leichte depressive Episode rechtsprechungsgemäss grundsätzlich nicht geeignet sei, eine Invalidität zu begründen.
4.2. Weiter hat das kantonale Gericht erwogen, im psychiatrischen Gutachten des Sanatoriums B._ vom 12. Juli 2013 hätten die Ärzte eine mittelgradige depressive Episode (ICD-10:F32.1) diagnostiziert und die Verdachtsdiagnose einer Demenz (ICD-10:F03) erhoben. Der Versicherte sei laut den Gutachtern im Affekt mittelgradig deprimiert, hoffnungslos und klagsam, leicht affektarm und affektstarr. Auffallend seien die kognitiven Beeinträchtigungen mit mittelgradiger Desorientiertheit, mittelgradigen Konzentrationsstörungen, leichten Merkfähigkeitsstörungen und fraglichen Auffassungsstörungen. Anderseits habe sich in seinem Antwortverhalten weder eine Unsicherheit beobachten lassen, wie sie für demenzkranke Personen zumindest in frühen Phasen der Erkrankung typisch sei, noch habe sich ein Insuffizienzerleben oder Klagen gezeigt, wie es bei einer Depression zu erwarten gewesen wäre. Diese Beobachtungen würden laut den Gutachtern den Verdacht einer Aggravation der kognitiven Beeinträchtigungen nahelegen, ohne diese jedoch zu beweisen. Aufgrund der mittelgradigen depressiven Episode und des leichten dementiellen Syndroms attestierten die Gutachter eine Arbeitsunfähigkeit von 100 Prozent für jedwede Tätigkeit. Nach eigen- und fremdanamnestischen Angaben sei der Versicherte im Alltag seit längerem auf die Betreuung seiner Angehörigen angewiesen und verlasse die Wohnung nur noch in Begleitung, was auf eine schwerere Beeinträchtigung hinweise, als es die bisherigen psychiatrischen Beurteilungen nahelegen würden.
Laut Vorinstanz vermag das von der IV-Stelle eingeholte Gutachten mit Blick auf die übrige Aktenlage nicht zu überzeugen. Im Rahmen der Beurteilung der interdisziplinären Schmerzsprechstunde am Spital D._ vom Mai 2012 sei noch festgehalten worden, der Versicherte leide unter Langeweile und mangelnden sozialen Kontakten. Er könne jedoch seine Frau tagsüber nicht alleine lassen, da sie auf seine Hilfe angewiesen sei. Hinweise auf eine Hilfsbedürftigkeit des Versicherten infolge Verwirrtheit oder Vergesslichkeit liessen sich den zahlreichen Berichten des Spitals D._ nicht entnehmen. Zudem hätten die Gutachter selber dafür gehalten, dass der Versicherte seine vorhandenen Ressourcen möglicherweise nicht nutze. Überdies hätten sie einen Verdacht auf Aggravation der kognitiven Beeinträchtigungen geäussert. Das kantonale Gericht erachtete bei diesen Gegebenheiten ergänzende Abklärungen zu den kognitiven Einschränkungen als nicht erforderlich.
4.3. Der behandelnde Psychiater, Dr. med. F._, diagnostizierte im Bericht vom 1. Juni 2013 eine rezidivierende depressive Störung mit somatischem Syndrom, schwankend zwischen mittelgradigen und schweren Episoden, ggw. schwere Episode (ICD-10:F-33.2). In der Beurteilung hält er fest, der Versicherte leide unter einer chronischen depressiven Störung mit vielen parallel laufenden somatischen Beschwerden. Er lebe in einer schwierigen psychosozialen Situation und sei vollständig arbeitsunfähig.
Das kantonale Gericht ging davon aus, dass sich diese Beurteilung weitgehend in psychosozialen Faktoren erschöpft und daher keinen invalidisierenden Gesundheitsschaden zu begründen vermag.
5.
5.1. Der Beschwerdeführer erachtet die vorinstanzliche Sachverhaltsfeststellung, wonach lediglich eine leichte depressive Episode vorliege, als aktenwidrig und willkürlich. Vielmehr werde in der Mehrzahl der Arztberichte, insbesondere auch von PD Dr. med. E._ und dem Gutachten des Sanatoriums B._, eine mittelschwere depressive Episode diagnostiziert. Weiter habe die Vorinstanz verkannt, dass die Ärzte nebst der Depression auch eine somatoforme Schmerzstörung angeführt hätten. Diese sei entsprechend der sogenannten Schmerzpraxis gemäss <ref-ruling> in einem strukturierten Beweisverfahren zu beurteilen.
5.2. Insoweit sich der Beschwerdeführer auf das Grundsatzurteil <ref-ruling> zu den anhaltenden somatoformen Schmerzstörungen und vergleichbaren psychosomatischen Leiden beruft, ist dem entgegenzuhalten, dass weder im Bericht des PD Dr. med. E._ vom 21. Dezember 2012, noch im psychiatrischen Gutachten des Sanatoriums B._ vom 12. Juli 2013 und dem Bericht des behandelnden Psychiaters, Dr. med. F._, vom 1. Juni 2013 eine entsprechende Diagnose gestellt wurde (vgl. <ref-ruling> E. 4.2 S. 298; <ref-ruling> E. 2.2.1.3 S. 13). Ebenso wenig ist die Diagnose im Bericht der interdisziplinären Schmerzsprechstunde vom 9. Mai 2012 erwähnt, an dem PD Dr. med. E._ ebenfalls mitgewirkt hat. Die Diagnose einer somatoformen Schmerzstörung (ICD-10:F45.41) wurde im Bericht der Rheumaklinik des Spitals D._ vom 29. Juni 2012 ohne nähere Begründung aufgeführt und im Bericht vom 18. Januar 2013 wiederholt. Der Rheumatologe Dr. med. C._ hält einzig fest, es bestehe zwar eine chronische Schmerzstörung mit somatischen und psychischen Faktoren, welche per se jedoch keine invalidisierende Erkrankung darstelle. Eine sachgerechte fachärztliche Diagnosestellung (<ref-ruling> E. 2.1.1 S. 285) liegt damit nicht vor. Der vom Beschwerdeführer weiter erwähnte Bericht der Klinik G._ vom 3. Mai 2013 wurde von den Orthopäden nach der Schulteroperation verfasst, wobei die als Nebendiagnose aufgeführte chronische Schmerzstörung mit somatischen und psychischen Faktoren auch hier nicht näher begründet wurde. Das vertrauensärztliche Zeugnis des stadtärztlichen Dienstes vom 2. Oktober 2012 schliesslich nennt keine Diagnose und ist daher nicht relevant. Da keiner der mit dem Beschwerdeführer befassten Psychiater eine somatoforme Schmerzstörung diagnostiziert hat und eine solche beim Versicherten auch nicht gesichert ist, lässt sich nicht beanstanden, dass sich die Vorinstanz in den Erwägungen des angefochtenen Entscheids nicht mit dieser Diagnose befasst und auch nicht auf die mit BGE <ref-ruling> begründete und mit <ref-ruling> grundsätzlich überdachte und teilweise geänderte Überwindbarkeitsrechtsprechung Bezug genommen hat. Dieses Urteil ist daher hier nicht anwendbar.
5.3. Der Beschwerdeführer beanstandet den vorinstanzlichen Entscheid weiter mit dem Einwand, das kantonale Gericht sei zu Unrecht von der Arbeitsunfähigkeitsschätzung des PD Dr. med. E._ (Arbeitsunfähigkeit 40 bis 50 Prozent) und der Gutachter des Sanatoriums B._ (Arbeitsunfähigkeit 100 Prozent) abgewichen. <ref-ruling> hat an der bundesgerichtlichen Praxis, wonach leichte bis höchstens mittelschwere Störungen aus dem depressiven Formenkreis in der Regel therapierbar sind und invalidenversicherungsrechtlich zu keiner Einschränkung der Arbeitsfähigkeit führen, nichts geändert (Urteil 9C_863/2015 vom 7. Januar 2016 E. 1). Zur Annahme einer Invalidität braucht es in jedem Fall ein medizinisches Substrat, das (fach) ärztlicherseits schlüssig festgestellt wird und nachgewiesenermassen die Arbeits- und Erwerbsfähigkeit wesentlich beeinträchtigt. Je stärker psychosoziale oder soziokulturelle Faktoren im Einzelfall in den Vordergrund treten und das Beschwerdebild mitbestimmen, desto ausgeprägter muss eine fachärztlich festgestellte psychische Störung von Krankheitswert vorhanden sein. Das bedeutet, dass das klinische Beschwerdebild nicht einzig in Beeinträchtigungen, welche von den belastenden soziokulturellen und psychosozialen Faktoren herrühren, bestehen darf, sondern davon psychiatrisch zu unterscheidende Befunde zu umfassen hat, z.B. eine von depressiven Verstimmungszuständen klar unterscheidbare andauernde Depression im fachmedizinischen Sinne oder einen damit vergleichbaren psychischen Leidenszustand. Solche von der soziokulturellen oder psychosozialen Belastungssituation zu unterscheidende und in diesem Sinne verselbstständigte psychische Störungen mit Auswirkungen auf die Arbeits- und Erwerbsfähigkeit sind unabdingbar, damit überhaupt von Invalidität gesprochen werden kann. Wo der Gutachter dagegen im Wesentlichen nur Befunde erhebt, welche in den psychosozialen und soziokulturellen Umständen ihre hinreichende Erklärung finden, gleichsam in ihnen aufgehen, ist kein invalidisierender psychischer Gesundheitsschaden gegeben. Ist anderseits eine psychische Störung von Krankheitswert schlüssig erstellt, kommt der Frage zentrale Bedeutung zu, ob und inwiefern, allenfalls bei geeigneter therapeutischer Behandlung, von der versicherten Person trotz des Leidens willensmässig erwartet werden kann, zu arbeiten (eventuell in einem geschützten Rahmen) und einem Erwerb nachzugehen (<ref-ruling> E. 5a S. 299 f.; Urteil 9C_519/2014 vom 14. Oktober 2015 E. 2.3).
5.4. Die vorinstanzliche Beurteilung, wonach die diagnostizierte depressive Störung aufgrund der dargelegten Umstände keinen Rentenanspruch zu begründen vermag, beruht auf einer eingehenden Würdigung der medizinischen Unterlagen. Die unstreitig vorhandenen, erheblichen psychosozialen resp. krankheitsunabhängigen Probleme des Beschwerdeführers vermögen medizinisch wohl die Diagnose einer leichten bis phasenweise sogar mittelschweren depressiven Episode zu begründen, führen invalidenversicherungsrechtlich aber nicht ohne Weiteres zu einer Invalidität. Wie die Vorinstanz aufgrund der medizinischen Unterlagen zu Recht festgestellt hat, leidet der Beschwerdeführer an keiner Depression, welche die Arbeitsfähigkeit erheblich einschränkt. Inwiefern diese Darlegung willkürlich sein oder anderweitig Bundesrecht verletzen soll, vermag der Beschwerdeführer nicht zu begründen und ist auch nicht erkennbar.
5.5. Die massgebliche Frage, ob Umstände bestehen, welche auf einen rentenbegründenden Gesundheitsschaden schliessen lassen, konnte das kantonale Gericht aufgrund der vorhandenen medizinischen Unterlagen beantworten. Unter den gegebenen Umständen ist der Verzicht auf weitere Abklärungen als Ergebnis pflichtgemässer antizipierter Beweiswürdigung (<ref-ruling> E. 5.3 S. 236) von Bundesrechts wegen nicht zu beanstanden und der Vorwurf der Verletzung des Untersuchungsgrundsatzes somit unbegründet.
5.6. Die Beschwerde erweist sich als unbegründet und ist abzuweisen.
6.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer grundsätzlich die Gerichtskosten zu tragen (<ref-law>). Seinem Gesuch um unentgeltliche Rechtspflege kann jedoch entsprochen werden (<ref-law>). Er hat der Bundesgerichtskasse Ersatz zu leisten, wenn er später dazu in der Lage ist (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt David Husmann wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 3. Februar 2016
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Hofer