A.- Mit undatierter, am 12. August 1994 zugestellter Verfügung Nr. 2000 stellte die Arbeitslosenkasse des Kantons Zürich fest, dass die Beschäftigung des 1943 geborenen A._ in der Firma C._ ab 16. Juli 1993 nicht als Zwischenverdienst angerechnet werden könne, und forderte den Betroffenen auf, bis Ende November 1994 Fr. 35'411. 55 an zwischen dem 16. Juli und dem 31. Dezember 1993 zu Unrecht erbrachten Taggeldleistungen zurückzuzahlen.
B.- Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 25. Januar 2000 ab.
C.- A._ lässt Verwaltungsgerichtsbeschwerde führen und beantragen, die Rückerstattung sei aufzuheben.
Eventuell sei die Sache zu näheren Abklärungen an die Verwaltung zurückzuweisen.
Die Arbeitslosenkasse schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde.
In einem zweiten Schriftenwechsel halten die Parteien an ihren Begehren fest. Das Staatssekretariat für Wirtschaft (seco) lässt sich nicht vernehmen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die Vorinstanz hat die massgebenden gesetzlichen Bestimmungen über den Zwischenverdienst (Art. 24 Abs. 1 und 3 AVIG) und die dazu ergangene Rechtsprechung (<ref-ruling> ff. Erw. 4) sowie die Pflicht der Verwaltung zur Rückforderung von zu Unrecht erbrachten Leistungen (<ref-law>) richtig dargelegt. Darauf wird verwiesen.
2.- Verwaltung und Vorinstanz gingen davon aus, dass dem Beschwerdeführer in der hier streitigen Zeitspanne wegen der selbstständigen Tätigkeit in der von ihm selbst gegründeten Firma C._ ein berufs- und ortsüblicher Zwischenverdienst anzurechnen sei, welcher den versicherten Verdienst übersteige und somit in dieser Periode einen Anspruch auf Arbeitslosenentschädigung ausschliesse. Dem widerspricht der Beschwerdeführer, indem er geltend macht, die ihm angerechneten Einkommen aus selbstständiger Erwerbstätigkeit seien nur bei Personen mit fest ausgebautem Kundennetz realistisch. Er aber habe mit seiner neu gegründeten Firma erst auf dem Markt Fuss fassen müssen. In der umstrittenen Periode habe er stets intensiv Stellen gesucht, sei mit rechtskräftiger Verfügung als zu 80 % vermittlungsfähig anerkannt worden und habe am 1. Februar 1994 tatsächlich eine Stelle gefunden. In der Folge habe er die angefangenen Akquisitionsarbeiten seiner Firma sowie zwei Vorführmodelle an eine Drittperson verkauft. Aus der selbstständigen Tätigkeit habe er kein Einkommen erzielt, weshalb es verfehlt sei, ihm einen fiktiven Zwischenverdienst anzurechnen. Die Ermittlung dieses Zwischenverdienstes beruhe auf Akten eines andern Verfahrens, welche die Vorinstanz ohne sein Wissen und damit unter Verletzung des rechtlichen Gehörs beigezogen habe. Verwaltung und Vorinstanz hätten nicht genügend abgeklärt, welche orts- und berufsüblichen Verdienste sich mit einer im Aufbau begriffenen Tätigkeit erzielen liessen, wie er sie in der Firma C._ ausgeübt habe. Die zuständige Sachbearbeiterin der Verwaltung habe gewusst, dass er eine Firma gründen wolle, und ihm versichert, dass dies keinen Einfluss auf seine Taggeldentschädigung haben werde.
3.- a) Zum Vorwurf des verletzten rechtlichen Gehörs ist festzuhalten, dass das Eidgenössische Versicherungsgericht dem Beschwerdeführer die von der Vorinstanz ohne sein Wissen beigezogenen Akten aus dem Prozess betreffend die Vermittlungsfähigkeit im zweiten Schriftenwechsel zur Einsicht und Vernehmlassung zugestellt hat. Der Versicherte hat denn auch die ihm eingeräumte Gelegenheit wahrgenommen und sich zu diesen Akten geäussert. Da das Eidgenössische Versicherungsgericht über eine volle Kognition verfügt, kann der gerügte Verfahrensmangel damit als geheilt gelten (<ref-ruling> Erw. 2b).
b) Der Beschwerdeführer beruft sich sodann sinngemäss auf den Grundsatz von Treu und Glauben, indem er geltend macht, die Verwaltung habe ihm versichert, dass die Aufnahme einer selbstständigen Erwerbstätigkeit keine nachteiligen Folgen auf seinen Taggeldanspruch haben werde. Es findet sich in den Akten jedoch kein klarer Hinweis darauf, dass die zuständigen Sachbearbeiter eine derartige Auskunft erteilt hätten. Da von weiteren Beweismassnahmen nach der seither verstrichenen Zeit keine neuen Erkenntnisse erwartet werden können, muss es dabei sein Bewenden haben, dass ein Gutglaubenstatbestand nicht erwiesen ist.
4.- a) Der Beschwerdeführer gründete im Juli 1993 eine Einzelfirma, die C._, welche am 3. August 1993 ins Handelsregister eingetragen wurde. Dort war er Inhaber mit Einzelunterschrift. Firmenzweck waren Handel mit elektronischen Anlagen und Dienstleistungen im High-Tech-Bereich.
Grössere Investitionen für den Aufbau dieses Betriebes musste der Beschwerdeführer nach eigenen Aussagen nicht vornehmen. Er rechnete jeden Monat Zwischenverdienst ab, wobei er jeweils angab, ein vollzeitliches Pensum in seiner Firma verbracht zu haben, ohne jedoch nennenswerte Einnahmen zu erzielen. Daneben wies er Arbeitsbemühungen auf.
Ab 1. Februar 1994 fand er eine Stelle, wo er zunächst zu 60 %, sodann zu 80 % und ab 1. Mai 1994 zu 100 % tätig war.
Gegenüber der Verwaltung gab der Beschwerdeführer in einer mündlichen Aussprache vom 2. Juni 1994 an, seine Firma in eine AG umgewandelt zu haben. Der Geschäftsführer dieser Firma werde mit der Zeit auf einen Verdienst von Fr. 10'000.- im Monat kommen. Für sich selber hätte der Beschwerdeführer an der selben Stelle einen Lohn von Fr. 140'000.- bis Fr. 150'000.- vorgesehen. In der Verwaltungsgerichtsbeschwerde präzisiert er, dieser hohe Lohn sei nur deshalb möglich, weil die Firma die Aktivitäten und das Beziehungsnetz eines andern Betriebes habe übernehmen können. Zur Bestimmung des anrechenbaren Zwischenverdienstes sei daher nicht auf diese Zahlen abzustellen.
b) Nach der Rechtsprechung sind die Bestimmungen über den Zwischenverdienst sowohl auf unselbstständige wie auf selbstständige Erwerbstätigkeiten anwendbar (<ref-ruling> Erw. 4, insbesondere 519 Erw. 4b/bb). Gestützt auf <ref-law> ist dem Beschwerdeführer, der im Rahmen einer Zwischenverdiensttätigkeit vollzeitlich für seine Firma gearbeitet hat, bei der Ermittlung eines allfälligen Differenzausgleichs sofort ab Beginn der Tätigkeit ein berufs- und ortsüblicher Lohn anzurechnen, und zwar selbst dann, wenn er in den ersten Monaten dieser Arbeit noch kein nennenswertes Einkommen erzielte (ARV 1998 Nr. 33 S. 182 Erw. 3a).
c) Auf Grund dieser Rechtsprechung ist dem Beschwerdeführer für die Tätigkeit in der von ihm gegründeten Firma jedenfalls ein Zwischenverdienst anzurechnen, und zwar unabhängig davon, ob und wieviel Einkommen er bei dieser Arbeit erzielt hat. Es fragt sich lediglich, wie hoch das anrechenbare Einkommen zu bemessen sei. Auf die vom Beschwerdeführer im Gespräch vom 2. Juni 1994 genannten Zahlen kann nicht unbesehen zurückgegriffen werden. Denn der Monatslohn von Fr. 10'000.- steht in der Tat ausdrücklich unter dem Vorbehalt, dass er sich erst "mit der Zeit" werde realisieren lassen. Gleiches lässt sich auch für den Jahreslohn von Fr. 140'000 - Fr. 150'000.- sagen. Auf der andern Seite ist nicht klar, welche Arbeiten der Beschwerdeführer konkret ausgeführt hat und welche Verdienste bei derartigen Tätigkeiten als orts- und berufsüblich gelten. Zwar kann davon ausgegangen werden, dass er als Handelsreisender aufgetreten ist. In ARV 1998 Nr. 33 S. 183 Erw. 3c wurde ein Stundenansatz von Fr. 20.- für Aussendienstmitarbeiter als angemessen erachtet. Da jedoch über die vom Beschwerdeführer erbrachten Arbeitsleistungen keine näheren Angaben vorhanden sind und die Parteien sich bisher nicht zu den für Handelsreisende üblichen Ansätzen geäussert haben, ist es dem Eidgenössischen Versicherungsgericht nicht möglich, abschliessend darüber zu befinden, welcher Verdienst im vorliegenden Fall als orts- und berufsüblich aufzurechnen ist.
Die Sache wird daher an die Verwaltung zurückgewiesen, damit sie entsprechende Abklärungen treffe, den erwähnten Verdienst festsetze und hernach erneut darüber verfüge, welche Leistungen der Beschwerdeführer der Arbeitslosenversicherung zurückzuerstatten habe.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird in dem Sinne
gutgeheissen, dass der Entscheid des Sozialversicherungsgerichts
des Kantons Zürich vom 25. Januar 2000
und die nicht datierte Verfügung Nr. 2000 aufgehoben
werden und die Sache an die Arbeitslosenkasse des
Kantons Zürich zurückgewiesen wird, damit sie, nach
erfolgter Abklärung im Sinne der Erwägungen, neu verfüge.
II.Es werden keine Gerichtskosten erhoben.
III. Die Arbeitslosenkasse des Kantons Zürich hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung
von Fr. 2500.- (einschliesslich Mehrwertsteuer) zu
bezahlen.
IV.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, dem Amt für Wirtschaft und Arbeit, Arbeitslosenversicherung, Zürich,
und dem Staatssekretariat für Wirtschaft zugestellt.
Luzern, 29. November 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: