A.- Der 1932 geborene H._ bezog seit 1. Mai 1995 Zusatzleistungen zur Invalidenversicherung. Im Zuge einer periodischen Überprüfung des Anspruchs im Frühjahr 1997 wurde bekannt, dass er ihm zustehende Einkünfte (vierteljährliche Rente der Rentenanstalt, Rentenanspruch gegenüber der österreichischen Sozialversicherung) und Vermögenswerte (Einfamilienhaus in Österreich) der Ver- waltung nicht gemeldet hatte. Aus diesem Grund berechnete das Amt für Zusatzleistungen zur AHV/IV der Stadt Zürich den Anspruch auf Zusatzleistungen (Ergänzungsleistungen, kantonale Beihilfen und Gemeindezuschüsse) für die Zeit ab 1. Mai 1995 bis Ende März 1997 neu und forderte mit Verfü- gung vom 2. April 1997 in dieser Zeitspanne zu Unrecht aus- gerichtete Beträge in Höhe von insgesamt Fr. 10'269.- zu- rück. Auf Einsprache hin bestätigte der Bezirksrat Zürich mit Entscheid vom 30. Oktober 1997 die verfügte Rücker- stattung. Gleichzeitig lehnte er das sinngemäss gestellte Gesuch um Erlass der Rückforderung ab. B.- Beschwerdeweise liess H._ die Aufhebung der Verfügung vom 2. April 1997 beantragen und ersuchte um Be- stellung eines Vertretungsbeistandes im Sinne von Art. 392 Ziff. 1 ZGB. Am 21. September 1998 teilte die Vormund- schaftsbehörde der Stadt Zürich dem Sozialversicherungsge- richt des Kantons Zürich mit, ihre Abklärungen hätten erge- ben, dass der Versicherte in der Lage sei, seine alltägli- chen Angelegenheiten selber zu regeln, weshalb vormund- schaftliche Massnahmen nicht erforderlich seien. In mate- rieller Hinsicht kam das kantonale Gericht sodann zum Schluss, dass die Voraussetzungen für den Erlass der Rück- erstattung - Gutgläubigkeit beim Leistungsbezug und grosse Härte - erfüllt seien. In Gutheissung der Beschwerde hob es die Rückerstattungsverfügung vom 2. April 1997 auf (Ent- scheid vom 7. Juni 1999). C.- Mit Verwaltungsgerichtsbeschwerde beantragt das Amt für Zusatzleistungen zur AHV/IV der Stadt Zürich, in Aufhebung des vorinstanzlichen Entscheids sei der Beschluss des Bezirksrates Zürich vom 30. Oktober 1997 zu bestätigen und an der Rückerstattungsverfügung vom 2. April 1997 fest- zuhalten. Während H._ unter Hinweis auf den kantonalen Gerichtsentscheid auf eine Vernehmlassung verzichtet, schliesst der Bezirksrat Zürich sinngemäss auf Gutheissung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für So- zialversicherung hat sich nicht vernehmen lassen.