Sachverhalt:
A.
Der 1965 geborene A._ arbeitete seit März 1997 im Malergeschäft B._ als Maler. Am 31. Dezember 2002 meldete er sich unter Hinweis auf Rückenschmerzen bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 17. September 2004 sprach ihm die IV-Stelle des Kantons Zürich ab 1. Juni 2003 eine halbe Invalidenrente bei einem Invaliditätsgrad von 55 % zu. Eine im Januar 2010 eingeleitete Rentenrevision führte zu einer wiedererwägungsweisen Aufhebung der halben Rente gemäss Verfügung vom 16. August 2011. In Gutheissung der hiegegen eingereichten Beschwerde stellte das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. Mai 2012 fest, dass A._ weiterhin Anspruch auf eine halbe Invalidenrente habe. Im Rahmen eines im Dezember 2012 eingeleiteten Revisionsverfahrens zur Überprüfung der Invalidenrente gestützt auf die Schlussbestimmungen gemäss 6. IV-Revision traf die IV-Stelle medizinische Abklärungen, worauf sie die halbe Invalidenrente mit Verfügung vom 28. Oktober 2014 auf den 1. Dezember 2014 aufhob. Auf Beschwerde hin bestätigte das Sozialversicherungsgericht des Kantons Zürich diese Verfügung mit Entscheid vom 4. Mai 2015.
Die vom Versicherten hiegegen eingereichte Beschwerde in öffentlich-rechtlichen Angelegenheiten hiess das Bundesgericht teilweise gut, hob den angefochtenen Entscheid vom 4. Mai 2015 auf und wies die Sache zu neuer Entscheidung an die IV-Stelle des Kantons Zürich zurück. Im Übrigen wies es die Beschwerde ab (Urteil vom 29. März 2016). Zur Begründung der Rückweisung hielt das Bundesgericht fest, zur Beurteilung der Arbeits- und Erwerbsunfähigkeit sei es unabdingbar, ein neues interdisziplinäres Gutachten - allenfalls auch entsprechende Nachfragen bei den bisher beigezogenen medizinischen Gutachtern - einzuholen, das die Beurteilung der Arbeitsunfähigkeit im Einklang mit der geltenden Rechtslage nach Massgabe der im Regelfall heranzuziehenden Standardindikatoren ermögliche.
B.
In Nachachtung des Urteils des Bundesgerichts holte die IV-Stelle eine ergänzende Stellungnahme der Gutachter der medexperts ag (ehemals Medas Ostschweiz) St. Gallen, vom 20. Mai 2016 ein, worauf sie mit Verfügung vom 20. Dezember 2016 an der Aufhebung der Invalidenrente festhielt.
C.
Die hiegegen eingereichte Beschwerde, mit welcher A._ hatte beantragen lassen, unter Aufhebung der angefochtenen Verfügung sei ihm weiterhin eine halbe Invalidenrente zu gewähren, eventuell sei ein neues polydisziplinäres Gutachten anzuordnen, wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 2. Juni 2017 ab.
D.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Versicherte das vorinstanzlich gestellte Hauptbegehren erneuern; eventuell sei die Sache zu weiteren Abklärungen und neuer Verfügung an die IV-Stelle zurückzuweisen.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2.
2.1. Gemäss lit. a Abs. 1 der Schlussbestimmungen der Änderung des IVG vom 18. März 2011 (6. IV-Revision) werden Renten, die bei pathogenetisch-ätiologisch unklaren syndromalen Beschwerdebildern ohne nachweisbare organische Grundlage gesprochen wurden, innerhalb von drei Jahren nach Inkrafttreten dieser Änderung (am 1. Januar 2012) überprüft. Sind die Voraussetzungen nach <ref-law> nicht erfüllt, so wird die Rente herabgesetzt oder aufgehoben, auch wenn die Voraussetzungen von <ref-law> nicht erfüllt sind.
2.2. Das kantonale Gericht hat die Rechtsprechung zur Prüfung der invalidisierenden Auswirkungen somatoformer Schmerzstörungen und vergleichbarer psychosomatischer Leiden nach Massgabe eines strukturierten Beweisverfahrens anhand von Standardindikatoren (<ref-ruling>) zutreffend dargelegt. Darauf wird verwiesen.
3.
3.1. Die IV-Stelle hat zwecks Ergänzung des medizinischen Sachverhalts entsprechend den Vorgaben gemäss Urteil des Bundesgerichts vom 29. März 2016 (9C_450/2015) eine zusätzliche Stellungnahme der medexperts ag, St. Gallen, vom 20. Mai 2016 eingeholt. Gestützt auf diese Auskünfte lehnte sie den Invalidenrentenanspruch wiederum ab.
3.2. Die Vorinstanz stellte fest, dass die Voraussetzungen gemäss Schlussbestimmungen der 6. IV-Revision erfüllt seien, sodass die Invalidenrente grundsätzlich aufgehoben werden könne, auch wenn kein Revisionsgrund gemäss <ref-law> vorliegt. Sie gelangte in einlässlicher Würdigung des Gutachtens der Medas Ostschweiz vom 2. April 2014 und der Antworten der medexperts ag vom 20. Mai 2016 auf die Fragen der IV-Stelle gemäss den Standardindikatoren zum Ergebnis, dass aus der anhaltenden somatoformen Schmerzstörung keine IV-rechtlich massgebende Einschränkung der Arbeitsfähigkeit resultiere.
3.3. Der Beschwerdeführer wendet hauptsächlich ein, die vorinstanzlich angeführten psychosozialen Belastungsfaktoren seien weder aus dem Gutachten noch der ergänzenden Stellungnahme der medexperts ag ersichtlich. Die Feststellungen des kantonalen Gerichts basierten nicht auf der Expertise und seien willkürlich. Inwiefern psychosoziale Belastungsfaktoren einen Einfluss auf den Behandlungserfolg hätten, gehe aus dem Gutachten nicht hervor. Die Antworten auf die Nachfrage der Verwaltung bei den Gutachtern erlaube keine Beurteilung gemäss den Indikatoren persönlicher Ressourcen und Konsistenz.
4.
4.1. Die Vorinstanz hat aufgrund des Gutachtens der Medas Ostschweiz (vom 2. April 2014) und der ergänzenden Stellungnahme der medexperts ag vom 20. Mai 2016 festgestellt, dass sich aufgrund einer Prüfung anhand der massgebenden Indikatoren gemäss <ref-ruling> keine IV-rechtlich erhebliche Einschränkung der Arbeitsfähigkeit ergebe. In der Tat halten die Ärzte in der Ergänzung des Gutachtens vom 20. Mai 2016 nochmals fest, bei der anhaltenden somatoformen Schmerzstörung und der reaktiven Depression auf Belastungs- und Anpassungsstörung handle es sich um keine psychische Störung mit andauernder Beeinträchtigung der Arbeitsfähigkeit. An gleicher Stelle haben die Ärzte auch den sozialen Kontext geprüft. Dabei haben sie erklärt, die soziofamiliären Verhältnisse des Versicherten seien intakt. Er habe gute Freunde, einen guten Kontakt zum Schwager und begleite die Söhne zum Fussballtraining. Einschränkungen, die auf ein psychisches Leiden zurückzuführen sind, bestünden nicht. Diese Darlegungen zeigen, dass kein Rückzug vorliegt, der Versicherte vielmehr aus seinem sozialen Umfeld und den entsprechenden Aktivitäten Ressourcen gewinnen kann. Geäussert haben sich die Experten in der zusätzlichen Stellungnahme sodann auch zu den Fragen nach Behandlung und Eingliederung sowie zum Indikator Konsistenz. Auch aus diesen Darlegungen kann nicht auf das Vorliegen einer rechtlich bedeutsamen Beeinträchtigung der Arbeitsfähigkeit geschlossen werden: Die Fortsetzung der Psychotherapie wird empfohlen, wenn der Beschwerdeführer aktiv mitwirke und seine Ressourcen dazu benutze, adäquate Bewältigungsstrategien seines syndromalen Leidens zu erarbeiten. Unter Ausblendung einer Selbstlimitierung sei der Versicherte aus psychiatrischer Sicht eingliederungsfähig. Zum Aspekt der Konsistenz führen die Gutachter aus, es bestünden erhebliche Diskrepanzen zwischen der Selbsteinschätzung des Versicherten mit Selbstlimitierung und den objektivierbaren Befunden. Ebenso liege eine Diskrepanz zwischen der Selbsteinschätzung hinsichtlich der Arbeitsfähigkeit und dem Verhalten bei der Freizeitgestaltung und den sozialen Aktivitäten vor.
4.2. Aufgrund der ergänzenden Angaben der medexperts ag steht nunmehr mit der erforderlichen Wahrscheinlichkeit fest, dass die anhaltende somatoforme Schmerzstörung und die reaktive Depression die Arbeitsfähigkeit des Versicherten nicht erheblich beeinträchtigen, wie das kantonale Gericht richtig geschlossen hat. Ein Invalidenrentenanspruch besteht daher nicht, woran die vorstehend wiedergegebenen Einwendungen des Beschwerdeführers (E. 3.3 hievor) nichts ändern. Soweit es sich dabei nicht bloss um appellatorische Kritik an der vorinstanzlichen Beweiswürdigung handelt, auf welche das Bundesgericht aufgrund der ihm gesetzlich eingeräumten Überprüfungsbefugnis nicht einzugehen hat (E. 1 hievor), fehlen konkrete Argumente, die eine willkürliche Sachverhaltsfeststellung oder eine anderweitige Bundesrechtsverletzung des kantonalen Gerichts begründen könnten. Soweit der Beschwerdeführer behauptet, die Vorinstanz habe aktenwidrig auf psychosoziale Faktoren hingewiesen, welche die Symptomatik beeinflussten, obwohl diese im Gutachten nicht erwähnt seien, kann ihm nicht gefolgt werden. In der Expertise der Medas sind psychosoziale Faktoren in der Antwort auf die Frage, ob unbefriedigende Behandlungsergebnisse vorlägen, aufgeführt mit dem Hinweis, dass diese sich durch eine psychiatrisch-psychotherapeutische Behandlung kaum beeinflussen liessen. Auch aus diesem Einwand kann der Beschwerdeführer somit nichts zu seinen Gunsten ableiten.
5.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 26. April 2018
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Pfiffner
Der Gerichtsschreiber: Widmer