Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Auf die Verwaltungsgerichtsbeschwerde kann nur so weit eingetreten werden, als die Schadenersatzforderung kraft Bundesrechts streitig ist. Im vorliegenden Verfahren ist deshalb auf die Verwaltungsgerichtsbeschwerde in dem Umfang nicht einzutreten, als sie sich gegen die Schadenersatzforderung für entgangene Beiträge an die kantonale Familienausgleichskasse richtet (vgl. <ref-ruling> Erw. 1b, 118 V 69 Erw. 1b mit Hinweis).
b) Da es sich bei der angefochtenen Verfügung nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen handelt, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob die Vorinstanz Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
2.- Der Beschwerdeführer wirft der Vorinstanz erneut eine Verletzung des rechtlichen Gehörs vor. Worin diese bestehen soll, wird aber nicht substanziiert dargelegt. Die Vorinstanz hat den Anordnungen gemäss dem Urteil des Eidgenössischen Versicherungsgerichts vom 21. Januar 1997 vollumfänglich Folge geleistet. Es ist nicht ersichtlich, inwiefern das rechtliche Gehör wiederum verletzt sein sollte.
Daher ist auf diese Rüge nicht näher einzugehen.
3.- Die kantonale Rekurskommission hat unter Hinweis auf Gesetz (<ref-law>) und Rechtsprechung (vgl. statt vieler <ref-ruling> Erw. 5b mit Hinweisen) zutreffend dargelegt, unter welchen Voraussetzungen Organe juristischer Personen den der Ausgleichskasse wegen Missachtung der Vorschriften über die Beitragsabrechnung und -zahlung (<ref-law>, <ref-law>) schuldhaft verursachten Schaden zu ersetzen haben. Darauf wird verwiesen. Richtig sind auch die Ausführungen zu den gesetzlichen Pflichten der Verwaltungsräte (Art. 716a Abs. 1 Ziff. 5 und 717 Abs. 1 OR).
4.- a) Die kantonale Rekurskommission hat in für das Eidgenössische Versicherungsgericht verbindlicher Weise (Erw. 1b hievor) festgestellt, dass die in Konkurs gefallene Firma über längere Zeit in einen Rechtsstreit mit ihrer Franchisinggeberin verwickelt war, wegen einer unübersichtlichen Buchhaltung anfangs 1993 hiefür eigens einen Mitarbeiter angestellt, dabei die laufenden Verpflichtungen vernachlässigt und ihre Beitragsschulden von Januar bis Juli 1993 erst auf Betreibung hin bezahlt hat.
b) Die rechtlichen Auseinandersetzungen mit der Franchisinggeberin sind kein Exkulpationsgrund, denn sie entbinden den Beschwerdeführer in keiner Weise davon, die Sozialversicherungsbeiträge gewissenhaft abzurechnen und zu bezahlen. Auch wenn das Buchhaltungsprogramm nicht brauchbar war, hatte er für die Erledigung dieser Aufgaben zu sorgen. Die Anstellung von Herrn R._ ändert nichts daran, dass er als einziger Verwaltungsrat einer kleinen Firma den Überblick über das Beitragswesen behalten musste.
Gerade weil die lang dauernden Streitigkeiten mit der Franchisinggeberin ein finanzielles Risiko beinhalteten, hätte der Beschwerdeführer umso nachhaltiger für die pünktliche Bezahlung der Beiträge sorgen sollen. Entsprechende Massnahmen weist er jedoch keine nach. Daher sind keine Exkulpationsgründe ersichtlich.
c) Der Beschwerdeführer kann sich nicht auf <ref-ruling> berufen und geltend machen, es seien lediglich die Beiträge der letzten Monate vor der Konkurseröffnung unbezahlt geblieben. Die Buchhaltung wurde schon für das Jahr 1992 nicht einwandfrei geführt, sodass der Überblick über die finanziellen Verhältnisse bei der Anstellung von Herrn R._ anfangs 1993 nicht mehr gegeben war. Im Unterschied zum Sachverhalt von <ref-ruling> hat daher die Firma des Beschwerdeführers nicht bis kurz vor dem Konkurs alle ihre Beitragspflichten korrekt erfüllt.
d) Ein Mitverschulden der Kasse ist nicht erwiesen.
Dass sie auf das von Herrn R._ vorgetragene Ansinnen um Reduktion der Monatspauschalen und deren Umwandlung in Quartalspauschalen nicht eingegangen ist, kann ihr nicht als schuldhaftes Verhalten angelastet werden.
5.- Das Verfahren ist kostenpflichtig (Art. 134 OG e contrario). Der unterliegende Beschwerdeführer hat die Gerichtskosten zu tragen (Art. 156 Abs. 1 OG).

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen, soweit
darauf einzutreten ist.
II.Die Gerichtskosten von total Fr. 3000.- werden dem Beschwerdeführer auferlegt und mit dem geleisteten Kostenvorschuss verrechnet.
III. Dieses Urteil wird den Parteien, der Kantonalen Rekurskommission für die Ausgleichskassen und die IV-Stellen, Basel, und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 29. Dezember 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: