Sachverhalt:
A.
A.a. Der 1960 geborene A._ meldete sich im Februar 2000 unter Hinweis auf Folgen zweier 1994 und 1998 erlittener Unfälle bei der Invalidenversicherung (IV) zum Rentenbezug an. Die IV-Stelle des Kantons Zürich zog die Akten des zuständigen Unfallversicherers, worunter das psychiatrische Gutachten des PD Dr. med. B._ vom 2. April 2001, bei. Mit Verfügungen vom 13. August 2004 sprach sie dem Versicherten ab September 1999 eine halbe Invalidenrente und ab Januar 2004 eine Dreiviertelsrente zu. Daran hielt sie mit Einspracheentscheid vom 9. Juni 2005 fest. Mit Beschwerdeentscheid vom 14. Dezember 2006 hob das Sozialversicherungsgericht des Kantons Zürich den Einspracheentscheid auf und wies die Sache zur Sachverhaltsergänzung und neuen Verfügung an die Verwaltung zurück. Nach weiteren Abklärungen (u.a. Einholung eines polydisziplinären Gutachtens des Medizinischen Zentrums C._ vom 14. August 2008 mit Ergänzung vom 6. April 2009) verneinte die IV-Stelle mit Verfügung vom 25. Juni 2009 einen Rentenanspruch, da keine leistungsbegründende Invalidität vorliege. Mit einer weiteren Verfügung vom 26. Juni 2009 verpflichtete sie den Versicherten überdies, die ausgerichteten Rentenleistungen, welche demnach zu Unrecht bezogen worden seien, zurückzuerstatten. Beide Verfügungen wurden mit Beschwerdeentscheid des Sozialversicherungsgerichts des Kantons Zürich vom 9. März 2011 und letztinstanzlich mit Urteil 8C_300/2011 des Bundesgerichts vom 30. Juni 2011 bestätigt.
Mit Verfügung vom 4. August 2009 und Einspracheentscheid vom 29. September 2009 hob der zuständige Unfallversicherer seinerseits die von ihm für die verbleibenden Folgen der Unfälle von 1994 und 1998 ausgerichtete Invalidenrente der Unfallversicherung (UV) revisionsweise auf den 1. Februar 2007 auf und verlangte von A._ die Rückerstattung der seit diesem Zeitpunkt bezogenen UV-Rentenbetreffnisse. Das wurde mit Beschwerdeentscheid des Sozialversicherungsgerichts vom 9. März 2011 und letztinstanzlich mit Urteil 8C_301/2011 des Bundesgerichts vom 30. Juni 2011 bestätigt.
A.b. Im Juli 2011 meldete sich A._ erneut für eine Rente der IV an. Er machte eine erhebliche Verschlimmerung des psychischen Gesundheitszustandes geltend. Die IV-Stelle trat auf die Neuanmeldung ein und und holte u.a. Berichte der behandelnden Psychiaterin, ein Gutachten des psychiatrischen Facharztes D._ vom 16. September 2014 (mit Ergänzung vom 15. Oktober 2014) und Stellungnahmen ihres Regionalen Ärztlichen Dienstes (RAD) ein. Mit Verfügung vom 8. Dezember 2014 verneinte sie einen Rentenanspruch, da keine dauerhafte Veränderung von Gesundheitszustand und Arbeitsfähigkeit ausgewiesen sei.
B.
Beschwerdeweise beantragte A._, die Verfügung vom 8. Dezember 2014 sei aufzuheben und ihm sei rückwirkend ab Januar 2012 zumindest eine Dreiviertelsrente der IV zuzusprechen. Das Sozialversicherungsgericht wies die Beschwerde ab und gewährte ihm die unentgeltliche Rechtspflege (Entscheid vom 30. Juni 2016).
C.
A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheides sei ihm rückwirkend eine angemessene Invalidenrente zuzusprechen. Zudem ersucht er um Gewährung der unentgeltlichen Rechtspflege für das letztinstanzliche Verfahren.
Es wird kein Schriftenwechsel durchgeführt.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280; vgl. auch <ref-ruling> E. 1 S. 236; <ref-ruling> E. 1.1 S. 137 f.).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Streitig ist, ob das kantonale Gericht Bundesrecht verletzt hat, indem es den mit Neuanmeldung geltend gemachten Anspruch auf eine Invalidenrente der IV verneinte.
Die Neuanmeldung ist erfolgt, nachdem ein Rentenanspruch mangels genügenden Invaliditätsgrades rechtskräftig verneint worden war. Die bei dieser Konstellation zu berücksichtigenden Rechtsgrundlagen sind im angefochtenen Entscheid zutreffend dargelegt. Ob nunmehr ein Rentenanspruch besteht, beurteilt sich demnach in analoger Anwendung der für die Rentenrevision geltenden Grundsätze. Massgeblich ist, ob eine wesentliche Änderung in den tatsächlichen Verhältnissen eingetreten ist, die geeignet ist, den Invaliditätsgrad und damit den Rentenanspruch zu beeinflussen. Dabei bildet in zeitlicher Hinsicht der Erlass der letzten, auf einer materiellen Prüfung des Rentenanspruchs beruhenden, rechtskräftigen Verfügung den Ausgangspunkt - hier demnach der 25. Juni 2009 - und der Erlass der streitigen Verfügung den Endpunkt - hier: 8. Dezember 2014 - für die Beurteilung, ob eine solche Änderung eingetreten ist (vgl. <ref-law>; <ref-ruling> und 108; <ref-ruling>).
3.
Als gegebenenfalls massgebliche Änderung in den tatsächlichen Verhältnissen steht eine Verschlechterung des psychischen Gesundheitszustandes und damit verbunden der Arbeitsfähigkeit zur Diskussion.
3.1. Die Vorinstanz hat zunächst erwogen, sie habe im Entscheid vom 9. März 2011 die Frage, ob sich der Gesundheitszustand zwischen der Eröffnung des Vorbescheids vom 21. November 2008 und dem Erlass der Verfügung vom 25. Juni 2009 anspruchsrelevant verschlechtert habe, mangels hinreichender Informationen über den weiteren Verlauf bis zum Entscheidszeitpunkt nur summarisch beurteilen können. Sie habe sich daher mit der hypothetischen Feststellung begnügt, dass eine Verschlechterung nach Erlass des Vorbescheids der IV-Stelle vom 21. November 2008 zwar nicht ausgeschlossen werden könne. Diese Einschränkung hätte aber bei Erlass der Verfügung vom 25. Juni 2009 jedenfalls noch nicht während eines Jahres im Sinne von <ref-law> angedauert. Zudem wäre damit auch noch nicht erstellt gewesen, dass die Einschränkung - unter zumutbarer adäquater Therapie - nicht mehr überwindbar im Sinne von <ref-law> gewesen wäre. Das ist soweit nicht umstritten.
3.2.
3.2.1. Das kantonale Gericht hat weiter erwogen, die von Gutachter D._ dokumentierte Verlaufsgeschichte bestätige nicht nur seine hypothetischen Annahmen über die Entwicklung bis zum Entscheid vom 9. März 2011, sondern zeige ebenso, dass auch im weiteren Verlauf keine nachhaltige Verschlechterung des Gesundheitszustandes eingetreten sei. Sodann sei bereits aus der Diagnostik gemäss Bericht der behandelnden Psychiaterin Dr. med. E._ vom 12. Januar 2009 ersichtlich, dass die von dieser als invalidisierend gewertete Krankheit nicht erst seit 2009 bestehe. Es werde auch durchwegs eine mehr oder weniger starke depressive Symptomatik beschrieben. Symptomatik und Diagnostik im Verlauf gäben auch keine Hinweise auf eine stetige und nachhaltige Verschlechterung. Zwar habe der Beschwerdeführer zweimal wegen der Exazerbation der depressiven Symptomatik hospitalisiert werden müssen. Zudem sei er in einer Tagesklinik behandelt worden. Anschliessend sei er aber stets wieder in die seit Jahren gleichgebliebenen psychosozialen Verhältnisse entlassen worden. Im Zeitpunkt der Begutachtung durch den Experten D._ sei der Versicherte durch Dr. med. E._ in Abständen von drei bis fünf Wochen ambulant behandelt worden. Das Gutachten D._ stelle denn auch eine fachärztliche Beurteilung des im Wesentlichen gleich gebliebenen versicherungsmedizinisch-psychiatrischen Zustandsbildes dar.
3.2.2. In der Beschwerde wird nichts vorgebracht, was diese Sachverhaltsfeststellungen als offensichtlich unrichtig erscheinen liesse. Die vorinstanzlichen Erwägungen, wonach die depressive Symptomatik bereits früher bestand und es zu keiner dauerhaften Verschlechterung gekommen ist, werden durch die Akten gestützt. Das kantonale Gericht hat die nach November 2008 phasenweise aufgetretene Verschlimmerung berücksichtigt und in Würdigung der medizinischen Berichte nicht offensichtlich unrichtig als jeweils nur vorübergehend beurteilt. Es hat hiebei auch die Angabe einer durchschnittlichen Arbeitsunfähigkeit im Gutachten D._ in nicht zu beanstandender Weise gewürdigt. Aktenwidrige Erwägungen, welche die vorinstanzliche Beurteilung in Frage stellten könnten, liegen nicht vor. In der Stellungnahme des RAD vom 8. Dezember 2014 (richtig: 30. Oktober resp. 12. November 2014) wird ebenfalls keine wesentliche Veränderung bestätigt. Sodann geben die medizinischen Akten genügenden Aufschluss zur verlässlichen Beurteilung der Streitsache. Entgegen der in der Beschwerde vertretenen Auffassung verletzte der Verzicht auf weitere Abklärungen daher den Untersuchungsgrundsatz nicht.
3.2.3. Ein weiteres Vorbringen geht dahin, die IV-Stelle habe in der Verfügung vom 8. Dezember 2014 mit der Behandelbarkeit/Therapierbarkeit und fehlenden Chronifizierung einer psychischen Störung argumentiert. Die Verwaltung habe diesbezüglich angedeutet, der Versicherte habe die Therapiemöglichkeiten nicht ausgeschöpft. Sie halte ihm so eine Verletzung der Mitwirkungspflicht im Sinne von <ref-law> vor. Ein Mahn- und Bedenkzeitverfahren gemäss dieser Bestimmung sei aber nicht durchgeführt worden. Damit sei die Verweigerung einer Rente unzulässig. Dieser Einwand geht an der Sache vorbei. Das kantonale Gericht hat die Rente nicht wegen einer Verletzung der Mitwirkungspflicht verweigert. Massgeblich war vielmehr, dass es eine relevante gesundheitliche Veränderung für nicht ausgewiesen erachtete. Das ergab sich unabhängig von der Frage einer allfälligen Therapierbarkeit und ist nach dem zuvor Gesagten rechtmässig. Gleiches gilt für die Folgerung, dass demnach die Voraussetzungen nicht erfüllt sind, um auf die Neuanmeldung hin eine Invalidenrente zuzusprechen. Die Beschwerde ist daher abzuweisen.
4.
Die Gerichtskosten werden dem unterliegenden Beschwerdeführer auferlegt (<ref-law>). Dem Gesuch um unentgeltliche Rechtspflege (im Sinne der vorläufigen Befreiung von den Gerichtskosten und der unentgeltlichen Verbeiständung) kann entsprochen werden, da die Bedürftigkeit ausgewiesen ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung durch einen Rechtsanwalt geboten war (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Bundesgerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Dr. André Largier wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 23. Dezember 2016
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Lanz