Sachverhalt:
A.
Der 1953 geborene A._ bezog gestützt auf die Verfügung der IV-Stelle des Kantons Zürich vom 10. Januar 2000 aufgrund psychischer und somatischer Leiden ab August 1998 bei einem Invaliditätsgrad von 62 % eine halbe Rente der Invalidenversicherung. Mit Verfügung vom 26. September 2003 erhöhte die IV-Stelle den Leistungsanspruch wegen einer Verschlechterung des Gesundheitszustands bei einem Invaliditätsgrad von nunmehr 100 % ab Dezember 2002 revisionsweise auf eine ganze Invalidenrente. Mit Verfügung vom 21. Juli 2005 sprach sie dem Versicherten zu dieser Rente ab Dezember 2003 eine Hilflosenentschädigung für eine Hilflosigkeit mittleren Grades zu. Mit Revisionsverfügung vom 18. August 2014 setzte die IV-Stelle die Hilflosenentschädigung auf das Ende des der Verfügungszustellung folgenden Monats nach Massgabe einer nur noch leichten Hilflosigkeit herab.
B.
A._ erhob hiegegen Beschwerde. Das Sozialversicherungsgericht des Kantons Zürich gab ihm die Gelegenheit, zur Frage einer allfälligen zweifellosen Unrichtigkeit der ursprünglich leistungszusprechenden Verfügung im Sinne von <ref-law> Stellung zu nehmen. Davon machte A._ Gebrauch. Mit Entscheid vom 7. März 2016 wies das Gericht die Beschwerde mit der substituierten Begründung der Wiedererwägung ab.
C.
A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheides sei ihm weiterhin eine Hilflosenentschädigung mittleren Grades auszurichten.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wird nicht durchgeführt.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280; vgl. auch <ref-ruling> E. 1 S. 236; <ref-ruling> E. 1.1 S. 137 f.).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Der Beschwerdeführer bezieht seit Dezember 2003 zur Invalidenrente der Invalidenversicherung eine Hilflosenentschädigung. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie die von der Verwaltung revisionsweise verfügte Herabsetzung dieses Leistungsanspruchs entsprechend einer nur noch leichten Hilflosigkeit mit der substituierten Begründung der Wiedererwägung bestätigte.
Im angefochtenen Entscheid sind die Bestimmungen und Grundsätze zum in drei Schweregrade abgestuften Anspruch auf Hilflosenentschädigung, zur Bemessung der Hilflosigkeit, zur Revision der Hilflosenentschädigung wegen erheblicher Änderung des Hilflosigkeitsgrades, zur Wiedererwägung formell rechtskräftiger Verfügungen oder Einspracheentscheide und zur gerichtlichen Bestätigung einer Revisionsverfügung mit der substituierten Begründung der Wiedererwägung zutreffend dargelegt. Darauf wird verwiesen.
3.
Voraussetzung einer Wiedererwägung (<ref-law>) ist - nebst der erheblichen Bedeutung der Berichtigung -, dass kein vernünftiger Zweifel an der Unrichtigkeit der Verfügung (gemeint ist hiebei immer auch ein allfälliger Einspracheentscheid) besteht, also nur dieser einzige Schluss denkbar ist. Dieses Erfordernis ist in der Regel erfüllt, wenn eine Leistungszusprache aufgrund falscher Rechtsregeln erfolgte oder wenn massgebliche Bestimmungen nicht oder unrichtig angewandt wurden. Ob dies zutrifft, beurteilt sich nach der bei Erlass der Verfügung bestehenden Sach- und Rechtslage, einschliesslich der damaligen Rechtspraxis. Um wiedererwägungsweise auf eine verfügte Leistung zurückkommen zu können, genügt es aber nicht, wenn ein einzelnes Anspruchselement rechtswidrig festgelegt wurde. Vielmehr hat sich die Leistungszusprache auch im Ergebnis als offensichtlich unrichtig zu erweisen. So muss etwa, damit eine zugesprochene Rente wegen einer unkorrekten Invaliditätsbemessung wiedererwägungsweise aufgehoben werden kann, - nach damaliger Sach- und Rechtslage - erstellt sein, dass eine korrekte Invaliditätsbemessung hinsichtlich des Leistungsanspruchs zu einem anderen Ergebnis geführt hätte (<ref-ruling> E. 3.1 S. 79 f. mit Hinweisen). Entsprechendes gilt bei der Hilflosenentschädigung (vgl. Urteil 8C_864/2015 vom 30. März 2016).
4.
Das kantonale Gericht ist zum Ergebnis gelangt, zwar sei keine revisionsbegründende gesundheitliche Veränderung eingetreten. Die Verfügung vom 21. Juli 2005 sei aber zweifellos unrichtig, da darin in der rechtswidrigen Annahme, der Versicherte bedürfe auch einer dauernden persönlichen Überwachung, auf eine mittelschwere statt auf eine nur leichte Hilflosigkeit geschlossen worden sei.
4.1. Diese Beurteilung beruht auf einer sorgfältigen Würdigung der Sach- und Rechtslage. Die Vorinstanz hat namentlich zutreffend erkannt, dass der "Abklärungsbericht für Hilflosenentschädigung für Erwachsene" vom 20. Juni 2005 die Notwendigkeit einer dauernden persönlichen Überwachung nicht verlässlich belegt und die vom Versicherten im kantonalen Verfahren geltend gemachten Aspekte von Hilfsbedürftigkeit, soweit überhaupt relevant, nicht der Überwachung zuzurechnen sind.
4.2. Was hiegegen eingewendet wird, lässt die vorinstanzliche Beurteilung nicht als bundesrechtswidrig erscheinen. Geltend gemacht wird in erster Linie, das kantonale Gericht sei in unzulässiger Weise vom Abklärungsbericht vom 20. Juni 2005 abgewichen. Das trifft nicht zu. Im Abklärungsbericht wurde die Notwendigkeit der dauernden persönlichen Überwachung einzig gestützt auf Angaben des Versicherten und seiner Gattin bejaht, offensichtlich ohne dass die Abklärungsperson diese Angaben verifiziert und einer eigenen Würdigung unterzogen hätte. Hinzu kommt, dass die medizinischen Akten eine Überwachungsbedürftigkeit nicht zu belegen vermochten. Im Gegenteil, der behandelnde Psychiater hat im Bericht vom 4. April 2005 die Notwendigkeit dauernder persönlicher Überwachung ausdrücklich verneint. Dies hat die Vorinstanz zutreffend erkannt. Mit ihr ist auf den besagten Arztbericht abzustellen, zumal dieser entgegen der in der Beschwerde vertretenen Auffassung keine Widersprüche aufweist, welche seinen Beweiswert in Frage stellen könnten. Dem Versicherten kann mit dem kantonalen Gericht auch nicht gefolgt werden, soweit er sich auf den aktuellen Abklärungsbericht zur Hilflosigkeit vom 15. Oktober 2013 beruft. Darin wird die Notwendigkeit einer dauernden persönlichen Überwachung vielmehr ausdrücklich verneint. Das wird durch die in der Beschwerde vorgenommene Interpretation einzelner Aussagen im Abklärungsbericht nicht in Frage gestellt.
4.3. Fehlte es nach dem Gesagten an der Notwendigkeit einer dauernden persönlichen Überwachung, ist die Verfügung vom 21. Juli 2005 offensichtlich unrichtig. Denn die übrigen Anspruchsvoraussetzungen waren unbestrittenermassen nicht in genügender Weise erfüllt, um auf eine mittelschwere Hilflosigkeit zu schliessen. Die erhebliche Bedeutung der Berichtigung ist mit Blick auf die zur Diskussion stehende Dauerleistung gegeben. Das ist ebenfalls nicht umstritten. Der angefochtene Entscheid ist daher rechtens und die Beschwerde ist abzuweisen.
5.
Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 1. September 2016
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Lanz