A.- Mit Verfügung vom 9. November 1999 verpflichtete das Amt für Zusatzleistungen zur AHV/IV der Stadt Zürich den 1925 geborenen S._, die in der Zeit vom 1. August 1994 bis 30. September 1997 zu viel bezogenen Zusatzleistungen zur Altersrente (Ergänzungsleistungen, kantonale Beihilfen, Gemeindezuschüsse und Einmalzulagen) zurückzuerstatten.
Auf Einsprache hin bestätigte der Bezirksrat Zürich mit Entscheid vom 30. März 2000 die verfügte Rückerstattung und lehnte das Gesuch um Erlass der Rückforderung ab.
B.- Die hiegegen eingereichte Beschwerde, mit welcher S._ die Aufhebung des Rückerstattungsentscheides, eventuell den Erlass der Rückforderung, beantragen liess, wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 16. November 2001 ab.
C.- Mit Verwaltungsgerichtsbeschwerde lässt S._ das vorinstanzlich gestellte Rechtsbegehren erneuern.
Während das Amt für Zusatzleistungen zur AHV/IV und der Bezirksrat Zürich auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Auf die Verwaltungsgerichtsbeschwerde kann gemäss Art. 128 OG in Verbindung mit Art. 97 OG und Art. 5 Abs. 1 VwVG nur insoweit eingetreten werden, als sie sich auf bundesrechtliche Ergänzungsleistungen im Sinne des ELG und nicht auf kantonale oder kommunalen Beihilfen bezieht (BGE 122 V 222 Erw. 1).
2.- Laut Art. 27 Abs. 1 Satz 1 ELV sind unrechtmässig bezogene Ergänzungsleistungen vom Bezüger oder seinen Erben zurückzuerstatten. Die Rückforderung rechtskräftig verfügter Leistungen durch die Verwaltung ist nur unter den für die Wiedererwägung oder die prozessuale Revision massgebenden Voraussetzungen zulässig (BGE 126 V 23 Erw. 4b, 46 Erw. 2b, 122 V 21 Erw. 3a, 271 Erw. 2 und 368 Erw. 3).
Nach Art. 47 Abs. 1 Satz 2 AHVG (sinngemäss anwendbar auf dem Gebiete der Ergänzungsleistungen gemäss Art. 27 Abs. 1 Satz 2 ELV) kann bei gutem Glauben und gleichzeitigem Vorliegen einer grossen Härte von der Rückforderung abgesehen werden.
3.- a) Im vorliegenden Fall steht fest, dass der Beschwerdeführer am bisher nicht aufgeteilten, zur Hauptsache aus einer Liegenschaft in X._ bestehenden Nachlass seines im Jahre 1957 verstorbenen Vaters beteiligt ist.
Seine am 27. März 1998 verstorbene Ehefrau hatte am 26. August 1996 eine Akontozahlung aus Erbschaft erhalten; zudem war sie an der Erbengemeinschaft ihrer am 10. März 1987 verstorbenen Mutter beteiligt, deren Hauptaktivum eine Liegenschaft in Y._ bildete. Nachdem das Amt für Zusatzleistungen zur AHV/IV im Rahmen der Neuanmeldung des Beschwerdeführers von den Vermögenswerten der Ehefrau erfahren hatte, nahm es eine rückwirkende Neuberechnung vor.
Dabei rechnete es dem Ehepaar bis zum Tod der Ehefrau im März 1998 einen geschätzten Anteil an der Liegenschaft von Fr. 40'000.- und einen Anteil am Barvermögen von Fr. 40'000.-, ab April 1998 dem Beschwerdeführer seinen Pflichtteil an der Erbschaft seiner Frau von Fr. 8000.- Barvermögen und Fr. 10'000.- Anteil an der Erbengemeinschaft an.
b) Das kantonale Gericht hat unter Hinweis auf die Rechtsprechung des Eidgenössischen Versicherungsgerichts (ZAK 1992 S. 325) erwogen, aufgrund der Möglichkeit, dass ein Erbe seine Anwartschaftsquote abtreten oder verpfänden könne, stelle der Anteil des Miterben an einer unverteilten Erbschaft ab dem Zeitpunkt der Eröffnung des Erbgangs einen im Rahmen der Ergänzungsleistungsberechnung zu berücksichtigenden Vermögenswert dar.
Soweit der Beschwerdeführer geltend macht, dieser Standpunkt lasse sich nicht mit dem Grundsatz vereinbaren, wonach bei der Anspruchsberechtigung nur tatsächlich vereinnahmte Einkünfte und vorhandene Vermögenswerte zu berücksichtigen sind, über die der Leistungsansprecher ungeschmälert verfügen kann (vgl. BGE 127 V 369 Erw. 5a, 115 V 353 Erw. 5c), ist ihm nicht beizupflichten. In ZAK 1992 S. 326 Erw. 1b wurde ausdrücklich auf diesen Grundsatz Bezug genommen. Damals hatte das kantonale Gericht ähnliche Argumente vorgebracht wie der Beschwerdeführer im vorliegenden Verfahren. Das Eidgenössische Versicherungsgericht hat in jenem Entscheid einlässlich dargelegt, weshalb dieser Auffassung nicht gefolgt werden kann (vgl. ZAK 1992 S. 327 Erw. 2c). Ein Grund, im vorliegenden Fall von dieser Rechtsprechung abzuweichen, besteht nicht. Schwierigkeiten bei der Realisierung rechtfertigen noch kein Abgehen von der Anrechnung unverteilter Erbschaften bei der Ergänzungsleistungsberechnung.
In Anlehnung an die Praxis bezüglich der Uneinbringlichkeit von geschuldeten Unterhaltsbeiträgen (vgl. ZAK 1988 S. 255) muss auch hier verlangt werden, dass sämtliche rechtlichen Möglichkeiten zur Durchsetzung der Erbansprüche wahrgenommen werden. Dass dem mit Blick auf die aufgerechneten Liegenschaftswerte so wäre, hat der Beschwerdeführer weder nachgewiesen noch behauptet.
c) In masslicher Hinsicht kann vollumfänglich auf den angefochtenen Entscheid verwiesen werden; aus den Berechnungen der Vorinstanz - denen der Beschwerdeführer nichts entgegenzuhalten vermag - erhellt, dass die Wertanteile der Liegenschaften mit Fr. 58'424.- und Fr. 25'988.- (Fr. 51'975.- zu Lebzeiten der Ehefrau) zu erfassen waren.
Damit überstieg das anrechenbare Einkommen die in den Jahren 1994 bis 1997 massgebend gewesenen Einkommensgrenzen.
d) Daher erweist sich die unter Mitberücksichtigung der unverteilten Erbschaftsanteile vorgenommene Neuberechnung des Ergänzungsleistungsanspruchs als rechtens. Die bisherige Leistungszusprechung erging ohne Berücksichtigung dieser Vermögenswerte, weil die Verwaltung erst aufgrund der im Rahmen der Neuanmeldung vom April/Mai 1998 eingereichten Unterlagen davon Kenntnis erhielt. Die ursprüngliche Verwaltungsverfügung beruhte demnach von Anfang an auf fehlerhaften tatsächlichen Grundlagen, weshalb sie vom Amt für Zusatzleistungen zur AHV/IV nach den Regeln über die prozessuale Revision aufzuheben war.
4.- Hinsichtlich des Erlasses der Rückforderung kann auf die Darlegungen der Vorinstanz verwiesen werden, welche richtig festgestellt hat, dass dem Beschwerdeführer unter den gegebenen Umständen der gute Glaube nicht zugebilligt werden kann. In der Verwaltungsgerichtsbeschwerde wird nichts vorgebracht, was zu einem anderen Ergebnis zu führen vermöchte.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen, soweit
darauf einzutreten ist.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 12. Juli 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Die Gerichtsschreiberin: