A.- Der 1950 geborene H._ arbeitete zuletzt bis
6. Mai 1997 als Verkaufsberater im Aussendienst bei der Firma S._ und meldete sich am 9. Mai 1997 arbeitslos.
Am 1. Juni 1997 nahm er bei der Firma A._ AG eine Zwischenverdiensttätigkeit als Aussendienstmitarbeiter auf Provisionsbasis an, wobei er im Monat September 1997 ein Einkommen in der Höhe von Fr. 436.- erzielte (Bescheinigung der Arbeitgeberin über Zwischenverdienst vom 21. Oktober 1997). Mit Verfügung vom 5. September 1997, welche unangefochten in Rechtskraft erwuchs, setzte die Arbeitslosenkasse des Kantons Thurgau den berufs- und ortsüblichen Lohn bei der Firma A._ AG auf Fr. 2756.- im Monat fest.
Darauf forderte sie von H._ für den Monat September 1997, unter Anrechnung eines Zwischenverdienstes von Fr. 2756.-, zu Unrecht ausgerichtete Taggelder im Betrag von Fr. 1746. 20 zurück (Verfügung vom 9. Juni 1998).
B.- In Abweisung der von H._ hiegegen eingereichten Beschwerde bestätigte die Rekurskommission des Kantons Thurgau für die Arbeitslosenversicherung die Verwaltungsverfügung vom 9. Juni 1998 (Entscheid vom 30. Oktober 2000).
C.- Mit Verwaltungsgerichtsbeschwerde beantragt H._ sinngemäss, die ihm zustehende Arbeitslosenentschädigung sei ohne Anrechnung eines fiktiven Lohnes - lediglich in Abzug des tatsächlichen Zwischenverdienstes - zuzusprechen.
Während die Arbeitslosenkasse des Kantons Thurgau Abweisung der Verwaltungsgerichtsbeschwerde beantragt, hat sich das Staatssekretariat für Wirtschaft nicht vernehmen lassen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Die Vorinstanz hat die Bestimmung über die Rückforderung von Leistungen der Arbeitslosenversicherung, auf welche die empfangende Person keinen Anspruch hat (<ref-law>), richtig wiedergegeben. Darauf kann verwiesen werden.
Gemäss einem allgemeinen Grundsatz des Sozialversicherungsrechts kann die Verwaltung eine formell rechtskräftige Verfügung, welche nicht Gegenstand materieller richterlicher Beurteilung gebildet hat, in Wiedererwägung ziehen, wenn sie zweifellos unrichtig und ihre Berichtigung von erheblicher Bedeutung ist (<ref-ruling> Erw. 2b/aa, 122 V 21 Erw. 3a, je mit Hinweisen). Die für die Wiedererwägung formell rechtskräftiger Verfügungen massgebenden Voraussetzungen gelten auch mit Bezug auf die Rückerstattung zu Unrecht bezogener Geldleistungen der Arbeitslosenversicherung gemäss <ref-law>, und zwar unbesehen darum, ob sie förmlich oder formlos zugesprochen worden sind (<ref-ruling> Erw. 2b/aa, 122 V 368 Erw. 3, je mit Hinweisen). Eine zweifellose Unrichtigkeit liegt nicht nur vor, wenn die in Wiedererwägung zu ziehende Verfügung auf Grund falscher oder unzutreffender Rechtsregeln erlassen wurde, sondern auch, wenn massgebliche Bestimmungen nicht oder unrichtig angewandt wurden (<ref-ruling> Erw. 2b/bb; ARV 1996/97 Nr. 28 S. 158 Erw. 3c).
b) Zu ergänzen ist, dass gemäss <ref-law> als Zwischenverdienst jedes Einkommen aus unselbstständiger oder selbstständiger Erwerbstätigkeit gilt, das der Arbeitslose innerhalb einer Kontrollperiode erzielt (Abs. 1).
Der Versicherte hat innerhalb der Rahmenfrist für den Leistungsbezug Anspruch auf Ersatz des Verdienstausfalls für Tage, an denen er einen Zwischenverdienst erzielt (Abs. 2).
Als Verdienstausfall gilt die Differenz zwischen dem in der Kontrollperiode erzielten Zwischenverdienst, mindestens aber dem berufs- und ortsüblichen Ansatz für die betreffende Arbeit, und dem versicherten Verdienst (Abs. 3). Der in einer Kontrollperiode erwirtschaftete effektive Lohn, welcher in masslicher Hinsicht nicht mindestens den berufs- und ortsüblichen Ansatz erreicht, ist entsprechend anzuheben und der Differenzausgleich erfolgt nur auf dieser Grundlage (<ref-ruling> Erw. 5e, 513 Erw. 8e). Dies gilt für den Zwischenverdienst aus selbstständiger sowie unselbstständiger Erwerbstätigkeit (<ref-ruling> f. Erw. 4).
2.- a) Die verfügungsweise Festsetzung der orts- und branchenüblichen Entlöhnung bildet, wie die Vorinstanz richtig festhielt, vorliegend weder Anfechtungs- noch Streitgegenstand (<ref-ruling>), weshalb darauf nicht mehr einzugehen ist, zumal diese in masslicher Hinsicht auch nicht zu beanstanden wäre (vgl. ARV 1998 Nr. 33 S. 183 Erw. 3c). Zudem liegen keine Gründe für ein wiedererwägungsweises Zurückkommen oder für eine prozessuale Revision vor, da die Verfügung vom 5. September 1997 weder zweifellos unrichtig ist (<ref-ruling> Erw. 3, 271 Erw. 2), noch neue Tatsachen oder neue Beweismittel vorliegen, die geeignet wären, zu einer anderen rechtlichen Beurteilung zu führen (<ref-ruling> Erw. 2, 119 V 184 Erw. 3a, 477 Erw. 1a).
b) Streitig ist einzig die Frage, ob die Arbeitslosenkasse gestützt auf <ref-law> zu Recht die in der Kontrollperiode September 1997 zu viel ausbezahlten Taggelder zurückforderte.
Vorinstanz und Verwaltung erwogen, dass der Beschwerdeführer die der Rückforderung zu Grunde gelegte Anrechnung eines fiktiven monatlichen Verdienstes von Fr. 2756.- für die Aussendiensttätigkeit nie beanstandet habe. Beschwerdeweise werde nichts gegen die massliche Festsetzung des Rückforderungsbetrags eingewendet, sondern lediglich gegen die grundsätzliche Anrechnung eines fiktiven Lohnes vorgegangen, welche jedoch im vorliegenden Verfahren nicht mehr zu beachten sei.
c) Was der Beschwerdeführer hiegegen in Wiederholung der vorinstanzlichen Vorbringen einwendet, vermag zu keinem anderen Ergebnis zu führen. Der Versicherte spricht sich weder gegen die Höhe des Rückforderungsbetrages aus, noch bringt er weitere Argumente vor, die die Rechtmässigkeit der Rückforderungsverfügung in Frage stellen. Insbesondere sind die Wiedererwägungsvoraussetzungen als erfüllt zu betrachten.
Offensichtlich war die zu hohe Leistungsausrichtung gesetzwidrig und somit zweifellos unrichtig, da sie die vorgeschriebene Anrechnung eines fiktiven orts- und branchenüblichen Lohnes nach <ref-law> - im Sinne eines gesetzlichen Minimums - nicht berücksichtigte. Der Rückforderungsbetrag von Fr. 1746. 20 erfüllt sodann das Kriterium der erheblichen Bedeutung ohne weiteres (ARV 2000 Nr. 40 S. 211, Erw. 3b).
d) Der Beschwerdeführer rügt sodann sinngemäss eine Verletzung des Grundsatzes von Treu und Glauben, indem er geltend macht, die Verwaltung habe ihm versichert, dass die Tätigkeit bei der Firma A._ AG als Zwischenverdienst mit einem Differenzausgleich zum effektiv erzielten Lohn abgerechnet werde. Mit diesem Einwand ist der Beschwerdeführer im Rückerstattungsverfahren zu hören; doch dringt die Berufung auf Treu und Glauben hier nicht durch: Der Einwand des Versicherten, er habe sofort, nachdem er die Situation realisiert habe, das Arbeitsverhältnis beendet, ist aktenwidrig. Vielmehr liegt eine Kündigung vom 21. Oktober 1997 auf Ende November 1997 seitens der Arbeitgeberin bei den Akten. Selbst wenn eine falsche oder sonst wie irreführende Auskunft der Personalberaterin vorgelegen hätte, was nicht bewiesen ist, nahm der Beschwerdeführer die Stelle weder auf Anraten der Verwaltung an, noch beendete er diese auf deren Empfehlung, sodass gestützt auf die behauptete behördliche Auskunft keine kausal verursachte Disposition seinerseits vorlag (<ref-ruling> Erw. 2a mit Hinweisen). Damit fehlt es zumindest an einer der erforderlichen Voraussetzungen, um gestützt auf Treu und Glauben abweichend vom Gesetz behandelt zu werden.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, der Rekurskommission des Kantons Thurgau für die Arbeitslosenversicherung, dem Amt für Wirtschaft und Arbeit, Abteilung Rechtsdienst
und Entscheide, Frauenfeld, und dem Staatssekretariat
für Wirtschaft zugestellt.
Luzern, 23. Oktober 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: