Sachverhalt: A. Der 1953 geborene A._ bezog gestützt auf die Verfügung der IV-Stelle des Kantons Zürich vom 10. Januar 2000 aufgrund psychischer und somatischer Leiden ab August 1998 bei einem Invaliditätsgrad von 62 % eine halbe Rente der Invalidenversicherung. Mit Verfügung vom 26. September 2003 erhöhte die IV-Stelle den Leistungsanspruch wegen einer Verschlechterung des Gesundheitszustands bei einem Invaliditätsgrad von nunmehr 100 % ab Dezember 2002 revisionsweise auf eine ganze Invalidenrente. Mit Verfügung vom 21. Juli 2005 sprach sie dem Versicherten zu dieser Rente ab Dezember 2003 eine Hilflosenentschädigung für eine Hilflosigkeit mittleren Grades zu. Mit Revisionsverfügung vom 18. August 2014 setzte die IV-Stelle die Hilflosenentschädigung auf das Ende des der Verfügungszustellung folgenden Monats nach Massgabe einer nur noch leichten Hilflosigkeit herab. B. A._ erhob hiegegen Beschwerde. Das Sozialversicherungsgericht des Kantons Zürich gab ihm die Gelegenheit, zur Frage einer allfälligen zweifellosen Unrichtigkeit der ursprünglich leistungszusprechenden Verfügung im Sinne von Art. 53 Abs. 2 ATSG Stellung zu nehmen. Davon machte A._ Gebrauch. Mit Entscheid vom 7. März 2016 wies das Gericht die Beschwerde mit der substituierten Begründung der Wiedererwägung ab. C. A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheides sei ihm weiterhin eine Hilflosenentschädigung mittleren Grades auszurichten. Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wird nicht durchgeführt.