A.- S._, geboren 1936, war seit 1965 bei der Fabrik F._ angestellt, zuletzt als Verkaufsleiter für chemische Produkte. Nachdem die Fabrik F._ das Arbeitsverhältnis per Ende Februar 1997 aufgelöst hatte, meldete sich S._ zum Leistungsbezug bei der Arbeitslosenversicherung an. Mit Verfügung vom 17. März 1997 sprach ihm das Amt für Industrie, Gewerbe und Arbeit (KIGA) des Kantons St. Gallen besondere Taggelder während der Planungsphase zur Aufnahme einer selbstständigen Erwerbstätigkeit zu. Ab 1. März 1997 führte S._ die von ihm neu gegründete Einzelfirma E._, die er per 1. November 1998 auf seine Ehefrau übertrug. Am 12. Oktober 1998 stellte er erneut ein Gesuch um Ausrichtung von Arbeitslosenentschädigung, wobei er angab, dass er ab Zeitpunkt der Geschäftsübernahme teilzeitlich im Betrieb der Ehefrau mitzuarbeiten und im Übrigen eine andere Anstellung zu suchen beabsichtige. Die Kantonale Arbeitslosenkasse St. Gallen richtete vom 1. November 1998 bis 31. August 2000 Taggelder aus unter Anrechnung des bei der Einzelfirma E._ erzielten Lohnes als Zwischenverdienst. Nach Ablauf der Bezugsberechtigung reichte S._ am 6. Oktober 2000 einen weiteren Antrag auf Arbeitslosenentschädigung ein. Der Berater des Regionalen Arbeitsvermittlungszentrums (RAV) A._ teilte ihm nach Rücksprache mit dem Amt für Arbeit des Kantons St. Gallen mit, es werde eine neue Rahmenfrist bei einem versicherten Verdienst von Fr. 4353.- eröffnet. Die Arbeitslosenkasse holte weitere Unterlagen ein und überwies die Sache am 20. März 2001 dem Amt für Arbeit zum Entscheid. Nach durchgeführtem Vorbescheidverfahren verneinte das RAV A._ gestützt auf die Beurteilung des Amtes für Arbeit mit Verfügung vom 27. April 2001 die Vermittlungsfähigkeit mit der Begründung, S._ habe auch nach der Geschäftsübergabe an die Ehefrau den Betrieb praktisch unverändert weitergeführt.
Die Arbeitslosenkasse forderte mit Verfügung vom 21. Mai 2001 die ab 1. November 1998 bis 31. August 2000 ausgerichtete Arbeitslosenentschädigung im Betrag von Fr. 94'945. 20 zurück.
B.- Die gegen die Verfügung vom 27. April 2001 eingereichte Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 12. Dezember 2001 gut und hob die angefochtene Verfügung mit der Begründung auf, dass das Verhalten des Versicherten als Gesetzesumgehung zu qualifizieren sei, die nachträgliche Aberkennung der Anspruchsberechtigung ab 1. November 1998 indessen gegen Treu und Glauben verstosse, nachdem S._ die Verwaltung umfassend informiert habe und ihm die Taggelder in Kenntnis sämtlicher Umstände ausbezahlt worden seien.
C.- Mit Verwaltungsgerichtsbeschwerde beantragt das Amt für Arbeit des Kantons St. Gallen, der vorinstanzliche Entscheid sei aufzuheben.
S._ beantragt Abweisung der Verwaltungsgerichtsbeschwerde.
Das Staatssekretariat für Wirtschaft (seco) verzichtet auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Nimmt eine versicherte Person nach Bezug des letzten besonderen Taggeldes (Art. 71a AVIG) eine selbstständige Erwerbstätigkeit auf oder hat sie sie zu diesem Zeitpunkt bereits aufgenommen, ist ihre Arbeitslosigkeit beendet und sie erhält keine weiteren Leistungen der Arbeitslosenversicherung mehr. Dies gilt nach der Rechtsprechung auch bei mangelnder Beschäftigung in einer neuen Tätigkeit (BGE 126 V 212 ff. mit Hinweisen). Denn es ist nicht Sache der Arbeitslosenversicherung, Beschäftigungseinbussen bei Selbstständigerwerbenden und die von ihnen zu tragenden Risiken zu übernehmen (ARV 2000 Nr. 5 S. 22 und Nr. 37 S. 197; vgl. auch Kupfer Bucher Barbara, Anspruchsberechtigung und Vermittlungsfähigkeit von Selbstständigerwerbenden in der AlV, in: SZS, 45/2001, S. 542). Der Beschwerdegegner hatte als Selbstständigerwerbender weder Anspruch auf Arbeitslosenentschädigung, als er sich mangels Geschäftserfolgs am 12. Oktober 1998 erneut zum Leistungsbezug anmeldete, noch später, als er das Geschäft der Ehefrau übertrug und die bisherige Tätigkeit zumindest teilweise im Anstellungsverhältnis weiterführte. Ein solches Vorgehen läuft auf eine Umgehung der gesetzlichen Bestimmungen über die Anspruchsvoraussetzungen hinaus, wie in der Verfügung vom 27. April 2001 zu Recht festgestellt wird.
Die Ausrichtung von Arbeitslosenentschädigung ab 1. November 1998 erweist sich damit als zweifellos unrichtig. Weil die Berichtigung der formlos verfügten Leistungszusprechung von erheblicher Bedeutung ist, sind die nach der Rechtsprechung für die Wiedererwägung von Verfügungen und Einspracheentscheiden geltenden Voraussetzungen erfüllt (BGE 126 V 23 Erw. 4b, 46 Erw. 2b, 400 Erw. 2b/aa, je mit Hinweisen).
Daher ist der Beschwerdegegner für die zu Unrecht bezogenen Leistungen grundsätzlich rückerstattungspflichtig (Art. 95 Abs. 1 AVIG). Streitig ist, ob der Grundsatz von Treu und Glauben (Vertrauensschutz) zu einer vom objektiven Recht abweichenden Behandlung Anlass gibt.
2.- a) Das Amt für Arbeit macht zunächst geltend, bei der Anwendung des Vertrauensschutzprinzips sei zu berücksichtigen, dass der Gesetzgeber für die Rückforderung zu Unrecht ausgerichteter Leistungen in Art. 95 Abs. 2 AVIG eine ausdrückliche Regelung getroffen habe. Danach werde die Rückerstattung auch bei gutem Glauben lediglich dann erlassen, wenn sie für den Versicherten eine grosse Härte bedeuten würde. Die vom kantonalen Gericht unter dem Titel des Vertrauensschutzes erfolgte Bejahung der Anspruchsberechtigung sei daher unzulässig.
b) Der in Art. 9 BV verankerte Grundsatz von Treu und Glauben schützt den Bürger und die Bürgerin in ihrem berechtigten Vertrauen auf behördliches Verhalten und bedeutet unter anderem, dass falsche behördliche Auskünfte von Verwaltungsbehörden unter bestimmten Voraussetzungen eine vom materiellen Recht abweichende Behandlung der Rechtsuchenden gebieten (BGE 127 I 36 Erw. 3a; zu Art. 4 aBV ergangene weiterhin geltende Rechtsprechung: 121 V 66 Erw. 2a mit Hinweisen). Als verfassungsmässiger Grundsatz gilt der Vertrauensschutz im gesamten Bereich des Bundessozialversicherungsrechts und ist auch dort zu beachten, wo das Gesetz - wie in Art. 95 Abs. 2 AVIG - Bestimmungen über die Rückerstattung zu Unrecht erbrachter Leistungen enthält (Meyer-Blaser, Die Rückerstattung von Sozialversicherungsleistungen, in: ZBJV, 1995, S. 473 ff., insbes. S. 498 ff.). Entgegen der früheren Rechtsprechung wird für die Berufung auf Vertrauensschutz nicht mehr vorausgesetzt, dass keine unmittelbar und zwingend aus dem Gesetz sich ergebende Sonderregelung vorliegen darf, vor welcher das Vertrauensprinzip zurücktreten muss (BGE 116 V 298 ff.). Ob sich der Beschwerdegegner auf den Vertrauensschutz berufen kann, ist daher grundsätzlich unabhängig von der Rückerstattungsregelung des Art. 95 Abs. 2 AVIG zu prüfen.
3.- a) Gemäss Rechtsprechung und Doktrin ist eine falsche Auskunft bindend,
1. wenn die Behörde in einer konkreten Situation mit Bezug auf bestimmte Personen gehandelt hat;
2. wenn sie für die Erteilung der betreffenden Auskunft zuständig war oder wenn die rechtsuchende Person die Behörde aus zureichenden Gründen als zuständig betrachten durfte;
3. wenn die Person die Unrichtigkeit der Auskunft nicht ohne weiteres erkennen konnte;
4. wenn sie im Vertrauen auf die Richtigkeit der Auskunft Dispositionen getroffen hat, die nicht ohne Nachteil rückgängig gemacht werden können;
5. wenn die gesetzliche Ordnung seit der Auskunfterteilung keine Änderung erfahren hat (BGE 127 I 36 Erw. 3a, 126 II 387 Erw. 3a; RKUV 2000 Nr. KV 126 S. 223, Nr. KV 133 S. 291, Nr. KV 171 S. 281; zu Art. 4 Abs. 1 aBV ergangene, weiterhin geltende Rechtsprechung: BGE 121 V 66 Erw. 2a mit Hinweisen).
Diese Grundsätze gelten umso mehr, wenn die Behörde nicht nur eine Auskunft erteilt, sondern Anordnungen getroffen hat; denn mit dem Erlass einer konkreten Verfügung wird in der Regel eine noch viel eindeutigere Vertrauensbasis geschaffen als mit einer blossen Auskunft (BGE 114 Ia 107 Erw. 2a u. 214 Erw. 3b, 113 V 70 Erw. 2, 106 V 72 Erw. 3b; ARV 1999 Nr. 40 S. 237 Erw. 3a; RKUV 1988 Nr. KV 768 S. 207; Häfelin/Müller, Grundriss des Allgemeinen Verwaltungsrechts,
3. Aufl. 1998, Rz 532 f.; Knapp, Précis de droit administratif, 4. Aufl. 1991, Rz 523 ff.; Weber-Dürler, Vertrauensschutz im öffentlichen Recht, Basel 1983, S. 181 mit Hinweisen auf die Literatur).
b) Der Beschwerdegegner macht geltend, er habe sich vor der Wiederanmeldung am 12. Oktober 1998 mit dem Berater des RAV in Verbindung gesetzt und ihm die Frage nach dem Anspruch auf Arbeitslosenentschädigung bei Mitarbeit im Betrieb der Ehefrau unterbreitet, worauf ihm zugesichert worden sei, dass er bei Übergabe des Geschäfts an die Ehefrau und gleichzeitiger Anstellung durch die Ehefrau anspruchsberechtigt sei. Die Akten enthalten keine Angaben zu diesem Gespräch. Fest steht indessen, dass der Beschwerdegegner das Anmeldeformular mit Unterstützung des RAV-Beraters ausgefüllt und die Arbeitslosenkasse mit der Wiederanmeldung über die Geschäftslage sowie die Möglichkeiten einer Weiterführung des Betriebes dokumentiert hat.
Aus den Unterlagen ging hervor, dass der Versicherte die Absicht hatte, das Geschäft der Ehefrau oder Tochter zu übertragen, sich zu etwa 40 % anstellen und für die übrige Zeit eine andere Arbeit verrichten oder Arbeitslosenentschädigung beziehen zu wollen. Noch vor der Weiterleitung der Anmeldung an die Arbeitslosenkasse hat der RAV-Berater den Sachverhalt dem Amt für Arbeit unterbreitet mit der Frage, ob sich der Beschwerdegegner zu 40 % oder unter Berücksichtigung des in der Firma der Ehefrau erzielten Zwischenverdienstes zu 80 % anmelden sollte. Die telefonische Auskunft des KIGA lautete dahin, der Versicherte solle sich bei der Arbeitslosenkasse zu 80 % anmelden, wobei der im Geschäft der Ehefrau erzielte Zwischenverdienst von der Kasse nach orts- und branchenüblichem Satz abgerechnet werde. Am 21. Oktober 1998 teilte der RAV-Berater dem Beschwerdegegner mit, dass eine Anmeldung zu 80 % empfohlen werde, worauf dieser die Arbeitslosenkasse davon in Kenntnis setzte, dass er eine Vollzeitstelle suche.
Ob dem Beschwerdegegner konkret die Auskunft erteilt wurde, er sei bei einer Übergabe der Einzelfirma an die Ehefrau und gleichzeitiger Anstellung im Betrieb anspruchsberechtigt, geht aus den Akten nicht hervor, kann jedoch dahingestellt bleiben. Entscheidend unter dem Gesichtspunkt des Vertrauensschutzes ist, dass der Versicherte den Sachverhalt wahrheitsgetreu dargestellt hat und die Verwaltung ihm in Kenntnis der tatsächlichen Verhältnisse Leistungen erbracht hat. Anhaltspunkte dafür, dass er bewusst unzutreffende oder mangelhafte Angaben machte, um Leistungen zu erwirken, liegen nicht vor. Sowohl das RAV als auch die Arbeitslosenkasse mussten sich auf Grund der mit der Anmeldung eingereichten Unterlagen klar sein, dass der Versicherte beabsichtigte, als Angestellter im Betrieb der Ehefrau weitgehend die bisherige Tätigkeit auszuüben. Ob er sich, wie in der Verwaltungsgerichtsbeschwerde vorgebracht wird, der Problematik des Leistungsbegehrens bewusst war, ist unerheblich, hat er sich doch gerade im Hinblick darauf, dass die Anspruchsberechtigung fraglich war, mit dem RAV in Verbindung gesetzt und ihm seine Absichten bekanntgegeben.
Es kann sodann nicht gesagt werden, dass er die Unrichtigkeit der Leistungszusprechung ohne Weiteres hätte erkennen können, hat doch selbst die fachkundige Verwaltung den Fehler zunächst nicht erkannt. Fraglich kann lediglich sein, ob er im Vertrauen auf die Richtigkeit der Auskunft Dispositionen getroffen hat, die nicht ohne Nachteil rückgängig gemacht werden können. Die Vorinstanz bejaht dies mit der Feststellung, es erscheine als überwiegend wahrscheinlich, dass der Versicherte nur deshalb auf eine Liquidation der Firma verzichtet habe, weil er auf die Richtigkeit der erhaltenen Auskünfte und Zahlungen vertraute.
Dem ist beizupflichten. Denn bei richtiger Auskunft hätte der Beschwerdegegner die selbstständige Erwerbstätigkeit definitiv aufgeben können und wäre innert der gemäss Art. 71d Abs. 2 AVIG und Art. 95e Abs. 2 AVIV verlängerten Rahmenfrist anspruchsberechtigt gewesen (ARV 2001 S. 89).
4.- a) Das Arbeitsamt bringt schliesslich vor, dem Versicherten seien zuletzt für die Kontrollperiode August 2000 Leistungen der Arbeitslosenversicherung erbracht worden. Ab 1. September 2001 (recte: 1. September 2000) habe er erneut Anspruch auf Versicherungsleistungen bis zum 31. Juli 2001 erhoben. Im vorinstanzlichen Entscheid werde nicht eindeutig dazu Stellung genommen, ob auf Grund des Vertrauensschutzes auch für die neue Rahmenfrist Taggelder auszurichten seien. Weil diesbezüglich eine Wiedererwägung ex nunc et pro futuro zur Diskussion stehe, könne sich der Beschwerdegegner grundsätzlich nicht auf den Vertrauensschutz berufen.
Die Vorinstanz hält dem in der Vernehmlassung zur Verwaltungsgerichtsbeschwerde entgegen, es sei einzig zu prüfen gewesen, ob die Vermittlungsfähigkeit des Versicherten zu Recht mit Wirkung ab 1. November 1998 verneint worden sei. Dabei seien die tatsächlichen Verhältnisse massgebend gewesen, wie sie bis zum Erlass der streitigen Verfügung vom 27. April 2001 bestanden hätten. Dem Versicherten sei erst im Zusammenhang mit dieser Verfügung eröffnet worden, dass das mit Unterstützung des RAV-Beraters und mit Wissen der Arbeitslosenkasse gewählte Vorgehen (Übertragung der Einzelfirma an die Ehefrau und Beschäftigung im Zwischenverdienst als Angestellter dieses Betriebes) als Gesetzesumgehung zu werten sei. Das vertrauensbildende Verhalten der Verwaltung habe somit bis zum Erlass der Verfügung vom 27. April 2001 gewirkt, weshalb der Vertrauensschutz für den ganzen von dieser Verfügung erfassten Zeitraum zu bejahen sei.
b) Mit dem neuen Begehren vom 6. Oktober 2000 hatte die Arbeitslosenkasse sämtliche Anspruchsvoraussetzungen neu zu prüfen (ARV 2001 S. 89), wobei sich insbesondere die Frage stellte, ob innerhalb der noch laufenden vierjährigen Rahmenfrist eine neue Frist zum Leistungsbezug eröffnet werden konnte. Nachdem dem Beschwerdegegner zunächst zugesichert worden war, es werde eine neue Rahmenfrist mit einem versicherten Verdienst von Fr. 4353.- eröffnet, erliess das RAV nach ergänzenden Erhebungen am 27. April 2001 die streitige Verfügung, mit welcher es die Vermittlungsfähigkeit rückwirkend ab 1. November 1998 verneinte. Damit wurde der Anspruch auf Arbeitslosenentschädigung für die Zeit ab 1. September 2000 abgelehnt und die Anspruchsberechtigung für die Dauer vom 1. November 1998 bis 31. August 2000 in Wiedererwägung gezogen. Für die Zeit ab
1. September 2000 wurden keine Leistungen ausgerichtet, weshalb diesbezüglich auch keine Rückforderung zur Diskussion steht. Es stellt sich jedoch die Frage, ob dem Vertrauensschutz eine anspruchsbegründende Wirkung auch ab
1. September 2000 bis 27. April 2001 zukommt. Dies ist mit der Vorinstanz zu bejahen. Wie das Arbeitsamt in der Verwaltungsgerichtsbeschwerde selber ausführt, sind auch bei der Neubeurteilung für die Zukunft im Vertrauen auf die Richtigkeit behördlicher Auskünfte getätigte Dispositionen zu berücksichtigen, wenn diese ihre Wirkungen weiterhin entfalten und nicht rückgängig gemacht werden können (vgl.
hiezu Rumo-Jungo Alexandra, Die Instrumente zur Korrektur der Sozialversicherungsverfügung, in: Verfahrensfragen in der Sozialversicherung, St. Gallen 1996, S. 284). So verhält es sich auch hier, indem der Beschwerdegegner durch das Verhalten der Verwaltung davon abgehalten wurde, das Geschäft zu liquidieren, was sich auch nach dem 31. August 2000 ausgewirkt hat. Dazu kommt, dass ihm am 23. November 2000 durch die Arbeitslosenkasse und am 30. November 2000 durch den RAV-Berater weitere Leistungen zugesichert worden sind. Erst auf Grund der vom Amt für Arbeit vorgenommenen zusätzlichen Abklärungen kam es gemäss Verfügung vom 27. April 2001 zur Ablehnung des neuen Leistungsbegehrens und zur Wiedererwägung der Leistungszusprechung für die Zeit ab 1. November 1998. Unter dem Gesichtspunkt des Vertrauensschutzes ist die Anspruchsberechtigung daher auch für die Zeit vom 1. September 2000 bis 27. April 2001 zu bejahen.
Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Staatssekretariat für Wirtschaft zugestellt.
Luzern, 29. August 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Die Präsidentin der IV. Kammer:
Der Gerichtsschreiber:
i.V.