A.- Mit Verfügung vom 17. Mai 2000 forderte die Kantonale Arbeitslosenkasse Schaffhausen von S._, geboren 1947, zu Unrecht bezogene Arbeitslosenentschädigungen in Höhe von Fr. 10'849. 95 zurück, da er nach erfolgter Entlassung seine Stellung als Gesellschafter und Geschäftsführer der ehemals arbeitgebenden GmbH beibehalten habe. Auf Schreiben des S._ vom 18. Mai 2000 hin lehnte das Arbeitsamt des Kantons Schaffhausen mit Verfügung vom 12. September 2000 den Erlass der Rückzahlung mangels guten Glaubens ab.
B.- Die dagegen erhobene Beschwerde des S._ wies die Kantonale Rekurskommission für die Arbeitslosenversicherung Schaffhausen mit Entscheid vom 24. Januar 2001 ab.
C.- S._ führt Verwaltungsgerichtsbeschwerde mit dem sinngemässen Antrag, unter Aufhebung des vorinstanzlichen Entscheides und der Verwaltungsverfügung sei ihm die Rückerstattung vollumfänglich zu erlassen.
Das Arbeitsamt schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Staatssekretariat für Wirtschaft auf eine Vernehmlassung verzichtet.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das Schreiben des Beschwerdeführers vom 18. Mai 2000 an die Arbeitslosenkasse ist nicht als Beschwerde gegen die Rückforderungsverfügung vom 17. Mai 2000, sondern als Erlassgesuch aufzufassen; dies ergibt sich nicht nur aus dem Wortlaut, sondern vor allem aus dem Inhalt, da einzig die Tatbestandselemente des Erlasses erwähnt sind und die Rückforderung der Leistungen nicht bestritten wird.
Im vorliegenden Verfahren ist deshalb nur noch zu prüfen, ob die Erlassvoraussetzungen nach <ref-law> gegeben sind. Weil es in Verfahren um den Erlass der Rückerstattung zu Unrecht bezogener Leistungen nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen geht (<ref-ruling> Erw. 1 mit Hinweisen; ARV 2001 S. 161 Erw. 2), gilt die eingeschränkte Kognition mit der Folge, dass das Eidgenössische Versicherungsgericht lediglich zu prüfen hat, ob der vorinstanzliche Richter Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG). Nach Art. 134 OG e contrario ist das Verfahren kostenpflichtig.
2.- a) Nach <ref-law> hat die Kasse Leistungen der Versicherung, auf die der Empfänger keinen Anspruch hatte, zurückzufordern (Abs. 1 Satz 1). War der Leistungsempfänger beim Bezug gutgläubig und würde die Rückerstattung eine grosse Härte bedeuten, so wird sie auf Gesuch hin ganz oder teilweise erlassen (Abs. 2 Satz 1).
b) Die Vorinstanz hat den guten Glauben des Beschwerdeführers verneint, da er aufgrund seiner Ausbildung und seiner bisherigen Tätigkeit im Versicherungsbereich hätte wissen müssen, dass seine Doppelrolle als Gesellschafter sowie Geschäftsführer einer GmbH einerseits und als Arbeitnehmer ebendieser GmbH andererseits einen Einfluss auf die Arbeitslosenentschädigung habe, weshalb er die Arbeitslosenkasse darüber hätte informieren müssen. Daran ändere auch nichts, dass der Versicherte bereits früher im Kanton X._ Arbeitslosenentschädigung erhalten habe, da die damalige Situation nicht mit der vorliegenden vergleichbar sei.
c) Der Beschwerdeführer rügt zunächst, dass er - infolge seiner auf Privatversicherungen beschränkten Berufserfahrung - die entsprechende Praxis betreffend Arbeitslosenversicherung nicht habe kennen müssen und dass er gegenüber der Arbeitslosenkasse lückenlose und wahre Angaben gemacht habe; es sei vielmehr Aufgabe der Behörden abzuklären, ob ein Anspruch bestehe oder nicht.
Der Versicherte war nach der von seiner damaligen Lebenspartnerin und heutigen Ehefrau im Namen der Arbeitgeberin ausgesprochenen Kündigung vom 29. Juni 1999 weiterhin als Gesellschafter und Geschäftsführer mit Einzelunterschrift der ehemals arbeitgebenden GmbH im Handelsregister eingetragen, womit er die Dispositionsfreiheit behielt, sich wieder einzustellen (diese Absicht kommt bereits im Kündigungsschreiben zum Ausdruck, indem - bei Besserung des Geschäftsganges - von einer allfälligen Wiederanstellung die Rede ist). Wie die Vorinstanz zu Recht erkannt hat, musste es dem Versicherten bewusst sein, dass seine Stellung als Gesellschafter und einzelzeichnungsberechtigter Geschäftsführer der GmbH einen Einfluss auf die Anspruchsberechtigung haben kann; dies umso mehr, als er von 1995 bis 1997 als freier Versicherungsmakler "optimale Gesamtlösungen" für kleine und mittlere Unternehmen ausgearbeitet hat, was notwendigerweise auch Beratungen im Bereich der Sozialversicherungen umfassen musste. Ein Hinweis auf seine Stellung in der ehemals arbeitgebenden GmbH wäre umso mehr notwendig gewesen, als der Versicherte zur Zeit der Kündigung noch nicht verheiratet gewesen ist und seinen ledigen Namen (H._) getragen hat, während die GmbH unter dem Namen seiner damaligen Lebenspartnerin und heutigen Ehefrau (S._ GmbH) firmierte, sodass die Arbeitslosenkasse diesbezüglich keinen Anlass zu weiterführenden Abklärungen haben musste.
d) Der Beschwerdeführer stützt seine Gutgläubigkeit im Weiteren darauf, dass er im Kanton X._ für die Monate März bis Mai 1999 Taggelder bezogen habe, obwohl er während dieser Zeit ebenfalls Geschäftsführer seiner ehemaligen Arbeitgeberfirma gewesen sei; im Kanton Schaffhausen habe er keine andere Regelung erwarten können.
Ob die beiden zur Debatte stehenden Sachverhalte identisch sind, kann letztlich offen bleiben. Denn sogar bei einem identischen Sachverhalt (wie in der Verwaltungsgerichtsbeschwerde behauptet) hätte dem Versicherten schon zur Zeit des Bezuges von Arbeitslosenversicherungsleistungen im Kanton X._ (März bis Mai 1999) bewusst sein müssen, dass er die weiterbestehende Stellung als Geschäftsführer und Gesellschafter seiner ehemaligen Arbeitgeberin der Arbeitslosenkasse hätte melden müssen (vgl.
Erw. 2c hievor). Aus den Akten und Parteivorbringen ergeben sich keinerlei Anhaltspunkte, dass der Beschwerdeführer dies getan hätte, sodass er aus dem Verhalten der Behörden des Kantons X._ nichts zu seinen Gunsten ableiten kann; eine Verletzung von Bundesrecht (Art. 104 OG) oder eine offensichtlich unrichtige Feststellung des Sachverhaltes durch das kantonale Gericht (Art. 105 OG) ist nicht ersichtlich.
e) Da das Tatbestandselement des guten Glaubens verneint werden muss, erübrigt sich die Prüfung des Vorliegens eines Härtefalles.
3.- Dem Ausgang des Verfahrens entsprechend gehen die Kosten zu Lasten des Beschwerdeführers (Art. 134 OG e contrario; Art. 156 Abs. 1 OG in Verbindung mit Art. 135 OG).

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Die Gerichtskosten von Fr. 1100.- werden dem Beschwerdeführer auferlegt und mit dem geleisteten Kostenvorschuss verrechnet.
III. Dieses Urteil wird den Parteien, der Kantonalen Rekurskommission für die Arbeitslosenversicherung Schaffhausen, der Kantonalen Arbeitslosenkasse Schaffhausen
und dem Staatssekretariat für Wirtschaft zugestellt.
Luzern, 12. März 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Der Gerichtsschreiber: