Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die Vorinstanz hat die Bestimmungen über die Rückforderung von zu viel ausgerichteten Invalidenrenten (<ref-law> in Verbindung mit <ref-law>) sowie die hiezu ergangene Rechtsprechung (<ref-ruling> Erw. 4b, 46 Erw. 2b, 122 V 138 Erw. 2c und e, 119 V 431; SVR 1995 IV Nr. 58 S. 165, je mit Hinweisen) zutreffend dargelegt.
Darauf kann verwiesen werden.
Zu ergänzen bleibt, dass vorliegend die Unrechtmässigkeit des zu hohen Leistungsbezugs nicht in einem IV-spezifischen Gesichtspunkt, sondern einem AHV-analogen Element (fehlerhafte Grundlagen der Rentenberechnung) liegt, weshalb keine Meldepflichtverletzung im Sinne von <ref-law> vorausgesetzt wird und es bei der AHV-rechtlichen Rückerstattungsordnung bleibt. Demnach spielt es keine Rolle, ob den Versicherten ein Verschulden an der zu hohen Leistungsausrichtung trifft oder nicht, da es einzig um die Wiederherstellung der gesetzlichen Ordnung geht (<ref-ruling> Erw. 2e, 227 Erw. 6c; SVR 1995 IV Nr. 58 S. 166 Erw. 5).
2.- Es ist unbestritten, dass der Beschwerdeführer in der Höhe von Fr. 11'126.-- zu viel Renten der Invalidenversicherung bezogen hat. Streitig ist hingegen, ob die IV-Stelle befugt war, diese von ihm zurückzufordern.
a) Mit Verfügung vom 14. November 1995 sprach die IV-Stelle dem Versicherten eine ordentliche einfache Invalidenrente samt Zusatzrente für die Ehefrau mit Wirkung ab
1. November 1994 zu. Am 7. November 1997 nahm die Ausgleichskasse für das schweizerische Bankgewerbe eine Korrektur gegenüber den im Jahre 1995 gemeldeten Einträgen auf dem individuellen Konto des Beschwerdeführers vor. Die am 21. April 1998 von der IV-Stelle verfügte Rückforderung erfolgte somit eindeutig innert der einjährigen Verwirkungsfrist seit Kenntnis des Rückforderungstatbestandes bzw. innert der fünfjährigen Verwirkungsfrist seit Ausrichtung der Renten (<ref-law> in Verbindung mit <ref-law>). Dass infolge des Prozesses mittlerweilen mehr als fünf Jahre seit der Auszahlung verstrichen sind, ist angesichts der fristwahrenden Verfügung vom 21. April 1998 unbeachtlich.
Nachdem der Versicherte unbestrittenermassen zu hohe Leistungen bezogen hat, die Verfügung vom 14. November 1995 zweifellos falsch und ihre Berichtigung von erheblicher Bedeutung ist, hat die IV-Stelle zu Recht ihre ursprüngliche Verfügung korrigiert und die zu viel ausgerichteten Leistungen zurückgefordert.
b) Daran vermag auch der Einwand des Versicherten, das kantonale Gericht stütze sich auf falsche Rechtsnormen, nichts zu ändern. Zwar trifft es zu, dass im Zeitpunkt der Fällung des vorinstanzlichen Entscheids der dannzumal geltende <ref-law> (Bundesverfassung vom 18. April 1999, in Kraft seit 1. Januar 2000) sich auf die Landessprachen bezieht. Da sich der rechtserhebliche Sachverhalt aber noch unter der alten, bis 31. Dezember 1999 in Kraft stehenden Bundesverfassung vom 29. Mai 1874 (aBV) ereignet hat, die von der Vorinstanz zutreffend dargelegte Rechtsprechung zu Treu und Glauben auch unter der neuen Bundesverfassung Geltung hat (<ref-ruling> Erw. 3a; RKUV 2000 KV Nr. 126 S. 223 Erw. 2) und demnach offen bleiben kann, ob vorliegend die neue oder alte Bundesverfassung massgebend ist, ist der kantonale Entscheid auch in dieser Hinsicht nicht zu beanstanden.
3.- Da die Verwaltungsgerichtsbeschwerde offensichtlich unbegründet ist, wird sie im Verfahren nach Art. 36a OG erledigt.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 5. Oktober 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Die Gerichtsschreiberin: