Sachverhalt: A. Der 1959 geborene, als Gartenarbeiter tätig gewesene A._ bezog gestützt auf die Verfügung der IV-Stelle des Kantons Zürich vom 26. November 2002 ab 1. August 2001 bei einem Invaliditätsgrad von 100 % eine ganze Invalidenrente der Invalidenversicherung. Nach Einholen eines rheumatologischen Gutachtens vom 28. November 2013 und einer psychiatrischen Expertise vom 7. April 2014 hob die IV-Stelle mit Verfügung vom 16. Juni 2014 die Rente gestützt auf lit. a Abs. 1 der Schlussbestimmungen zur 6. IV-Revision, erstes Massnahmenpaket, vom 18. März 2011 (in Kraft getreten am 1. Januar 2012; nachfolgend: SchlBest) auf den ersten Tag des zweiten Monats nach Zustellung der Verfügung auf. B. Die von A._ hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich nach Gewährung der unentgeltlichen Rechtspflege mit Entscheid vom 24. November 2015 ab. C. A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, es sei der vorinstanzliche Entscheid aufzuheben und die ganze Rente weiterhin auszurichten; eventuell sei die Sache zu weiteren Abklärungen und neuem Entscheid an die Verwaltung zurückzuweisen. Zudem sei die unentgeltliche Rechtspflege für das letztinstanzliche Verfahren zu gewähren. Es wird kein Schriftenwechsel durchgeführt.