A.- Dr. med. B._ ist einziger Verwaltungsrat (mit Einzelunterschrift) sowie Aktionär der in X._ domizilierten R._ AG. Anlässlich einer am 29. November 1993 durchgeführten Arbeitgeberkontrolle stellte die Ausgleichskasse des Kantons St. Gallen fest, dass die damals unter der Bezeichnung Röntgeninstitut Dr. Y._ AG firmierende Gesellschaft, deren Zweck insbesondere in der der Region mit radiologischen Leistungen bestand (Schweizerisches Handelsamtsblatt Nr. ... vom ...), über die in den Jahren 1990 bis 1992 an Dr. med. B._ ausgerichteten Entgelte im Betrag von insgesamt Fr. 665'282. 65 nicht abgerechnet hatte. Auf Einladung zur Stellungnahme zum Verfügungsentwurf vom 8. März 1994 hin, opponierten Dr. med. B._ sowie die Röntgeninstitut Dr. Y._ AG der vorgesehenen Nachzahlung paritätischer bundes- und kantonalrechtlicher Sozialversicherungsbeiträge. Demgegenüber teilte die Ausgleichskasse der Ärzte, Zahnärzte und Tierärzte, der Dr. med. B._ als selbstständigerwerbender Radiologe angeschlossen war, die Rechtsauffassung der kantonalen Ausgleichskasse in grundsätzlicher Hinsicht. Nachdem die Röntgeninstitut Dr. Y._ AG der Aufforderung nicht nachgekommen war, die Berufsauslagen zu beziffern und glaubhaft darzulegen, verpflichtete die kantonale Ausgleichskasse die Gesellschaft mit Verfügung vom 5. Oktober 1994 zur Nachzahlung ausstehender Sozialversicherungsbeiträge in der Höhe von insgesamt Fr. 90'802. 35 (einschliesslich Verwaltungskosten und Verzugszinsen).
B.- Das Versicherungsgericht des Kantons St. Gallen wies die von der Röntgeninstitut Dr. Y._ AG und Dr. med. B._ am 28. Oktober 1994 hiegegen erhobene Beschwerde mit dem Rechtsbegehren um Aufhebung der Beitragsverfügung vom 5. Oktober 1994 ab. Es verneinte die gerügten Verfahrensfehler, bestätigte die Qualifikation der an Dr. med. B._ ausgerichteten Entgelte als Einkommen aus unselbstständiger Erwerbstätigkeit und verwarf den Einwand, berufsbedingte Spesen seien zu Unrecht unberücksichtigt geblieben (Entscheid vom 29. Oktober 1998). Die Ausgleichskasse der Ärzte, Zahnärzte und Tierärzte hatte zwischenzeitlich mit Verfügungen vom 9. Dezember 1994 und 27. Januar 1995, mithin nach Erlass der strittigen Verwaltungsverfügung vom 5. Oktober 1994, gestützt auf die Veranlagungen für die direkte Bundessteuer für die Jahre 1990 bis 1992 massgebende Erwerbseinkommen von Fr. 108'571. - (1990), Fr. 174'062. - (1991) und Fr. 320'806. - (1992) ermittelt und hievon Beiträge vom Einkommen aus selbstständiger Erwerbstätigkeit erhoben.
C.- Die nunmehr unter der Firma Radiologie R._ AG auftretende Gesellschaft und Dr. med. B._ führen Verwaltungsgerichtsbeschwerde mit dem Antrag auf Aufhebung des kantonalen Entscheides.
Das Versicherungsgericht des Kantons St. Gallen und die kantonale Ausgleichskasse schliessen auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung (BSV) reicht keine Vernehmlassung ein.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Auf die Verwaltungsgerichtsbeschwerde kann nur so weit eingetreten werden, als Sozialversicherungsbeiträge kraft Bundesrechts streitig sind. Im vorliegenden Verfahren ist daher nicht zu prüfen, wie es sich bezüglich der Beitragsschuld gegenüber der Ausgleichskasse für kantonale Familienzulagen verhält (<ref-ruling> Erw. 1 mit Hinweis).
2.- Da keine Versicherungsleistungen streitig sind, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob der vorinstanzliche Entscheid Bundesrecht verletzt, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
Ferner ist Art. 114 Abs. 1 OG zu beachten, wonach das Eidgenössische Versicherungsgericht in Abgabestreitigkeiten an die Parteibegehren nicht gebunden ist, wenn es im Prozess um die Verletzung von Bundesrecht oder um die unrichtige oder unvollständige Feststellung des Sachverhalts geht.
3.- Das kantonale Gericht hat die gesetzlichen Bestimmungen über die unselbstständige (<ref-law>) und die selbstständige Erwerbstätigkeit (<ref-law>) sowie die von der Rechtsprechung herausgebildeten Unterscheidungskriterien für die entsprechende Beurteilung einer konkreten Tätigkeit (<ref-ruling> Erw. 1, 122 V 171 Erw. 3, 283 Erw. 2, 119 V 161 Erw. 2 mit Hinweisen) zutreffend dargelegt. Darauf kann verwiesen werden.
4.- Die beitragsrechtliche Qualifikation des Erwerbseinkommens aus ärztlicher Tätigkeit wird nach der Judikatur wie folgt vorgenommen: Sämtliche Vergütungen, die der Arzt in abhängiger Stellung erzielt, gehören zum massgebenden Lohn. Einkünfte aus der eigenen Praxis stellen Einkommen aus selbstständiger Erwerbstätigkeit dar (<ref-ruling> Erw. 3 mit Hinweisen; vgl. auch Wegleitung des BSV über den massgebenden Lohn, Rz 4081 ff., insbesondere Rz 4088).
5.- Vorab ist festzuhalten, dass die Rechtsprechung zum rückwirkenden Wechsel des Beitragsstatuts (<ref-ruling>, bestätigt in <ref-ruling>), entgegen der Auffassung der Beschwerdeführer, nicht anwendbar ist. Die strittige Verfügung der kantonalen Ausgleichskasse vom 5. Oktober 1994 ist vor den unangefochten gebliebenen, die gleichen Entgelte betreffenden Verfügungen der Ausgleichskasse der Ärzte, Zahnärzte und Tierärzte vom 9. Dezember 1994 und 27. Januar 1995 ergangen. Die Grundsätze über Anfechtungs- und Streitgegenstand einerseits (BGE 119 V Ib 36 Erw. 1b, 118 V 313 Erw. 3b, je mit Hinweisen) und hinsichtlich des zeitlich massgebenden Sachverhalts andererseits (<ref-ruling> Erw. 1b mit Hinweisen) führen zum Schluss, dass die Verbandsausgleichskasse wegen und während der Rechtshängigkeit der Verfügung der kantonalen Ausgleichskasse über die entsprechenden Entgelte nicht mehr verfügen konnte. Die Frage des Beitragsstatuts ist deshalb im Rahmen der für Beitragsstreitigkeiten geltenden Kognition (vgl. Erw. 2 hievor) frei zu prüfen.
6.- Mit Gesuch vom 7. Februar 1990 beantragte Dr. med. B._, Facharzt FMH für medizinische Radiologie und spez. Röntgendiagnostik, die Bewilligung zur selbstständigen Ausübung des Berufs als Arzt. Zur Begründung gab er an, er beabsichtige im Juli 1990 in X._ eine Praxis zu eröffnen.
a) Auf Grund der Akten ist davon auszugehen, dass Dr. med. B._ in der Folge unter der an der genannten Adresse domizilierten Röntgeninstitut Dr. Y._ AG eine fachärztliche Praxis führte und für von Sommer 1990 bis Ende 1992 erbrachte spezialärztliche Leistungen von der Gesellschaft Zahlungen in Höhe von Fr. 665'282. 65 erhielt. Beitragsrechtlich bedeutsam ist, dass den Aktivitäten der Röntgeninstitut Dr. Y._ AG im Verhältnis zur fachärztlichen Arbeit des Dr. med. B._ keine selbstständige Bedeutung zukommt: Die Gesellschaft wirkte hauptsächlich als Leasingnehmerin der teuren medizinischen Geräte. Daneben wurde z.B. der gesamte Personalaufwand über ihre Konti verbucht. Bilanzen und Erfolgsrechnungen der Firma belegen für den hier interessierenden Zeitraum bis Ende 1992, dass die gesamten Honorare als Ertrag der Gesellschaft erfasst wurden und Dr. med. B._ für seine Leistungen als Konsiliarius entschädigt wurde. Gestützt auf die Buchhaltungsunterlagen ist sodann glaubhaft, dass die Bezüge des Dr. med. B._ insoweit vom Geschäftsergebnis der Gesellschaft abhängig waren, als vorab die gesamten Aufwände zu decken waren. In dieses Bild der wirtschaftlichen Gegebenheiten fügt sich ein, dass nach den Akten keinerlei (schriftliche) Abreden, wie etwa ein Arbeitsvertrag, zwischen Gesellschaft einerseits und Dr. med. B._ andererseits bestanden. Die Steuerbehörden haben nach den Akten ihrerseits die strittigen Entgelte als Einkommen aus selbstständiger Erwerbstätigkeit beurteilt. Schliesslich sind die Eigenheiten der Erlaubnis zur Führung einer Arztpraxis zu berücksichtigen: Die Bewilligung zur Praxisführung (selbstständige Tätigkeit in einer Einzel- oder Gemeinschaftspraxis) ist wegen der persönlichen Voraussetzungen (Bewilligung zur selbstständigen Ausübung des Arztberufs, Mitarbeit in der Praxis) an die Person des Gesuchstellers gebunden und als solche, dem Wesen einer Polizeierlaubnis entsprechend, nicht übertragbar (vgl. Art. 5 der st. gallischen Verordnung über die Ausübung der medizinischen Berufe vom 10. November 1981).
b) Nach dem Gesagten sprechen die wirtschaftlichen Verhältnisse, die fehlende (arbeits-)vertragliche Gestaltung der Rechtsbeziehung Gesellschaft - Dr. med. B._, die steuerrechtliche Beurteilung der strittigen Entgelte als Einkommen aus selbstständiger Erwerbstätigkeit sowie die an die Person gebundene Erlaubnis zur Führung einer Arztpraxis für eine beitragsrechtliche Qualifikation entsprechend den allgemein gültigen Kriterien (vgl. Erw. 3 hievor). Der Grundsatz, wonach, unter Vorbehalt des Rechtsmissbrauchs, die zwischen der Aktiengesellschaft und ihren Aktionären oder gegebenenfalls ihrem Alleinaktionär bestehende Dualität anzuerkennen und die Tätigkeit für eine Aktiengesellschaft regelmässig als unselbstständig und die hiefür entrichteten Entgelte als massgebender Lohn im Sinne von <ref-law> zu qualifizieren sind (<ref-ruling> f. Erw. 5, 113 V 92; ZAK 1989 S. 594 Erw. 2c, je mit Hinweisen), tritt demnach in den Hintergrund. Ob die Führung einer Arztpraxis in der Rechtsform einer Aktiengesellschaft überhaupt zulässig ist, kann dabei offen bleiben.
7.- a) Unter Würdigung der wirtschaftlichen Verhältnisse ergibt sich, dass die Höhe der Bezüge des Dr. med. B._ vom Nettoergebnis der Röntgeninstitut Dr. Y._ AG abhängig war, indem aus den Honorareinnahmen vorab die betrieblichen Aufwände zu decken waren. Eine Abrede bestand nicht, wonach Dr. med. B._, ungeachtet eines allfällig negativen Betriebsergebnisses, ein bestimmtes Entgelt ausbezahlt worden wäre. In Berücksichtigung der fallspezifischen Besonderheiten begründen schliesslich sowohl die von Dr. med. B._ der Gesellschaft gewährten Darlehen im Betrag von insgesamt Fr. 150'000. - wie auch die gegenüber der A._ AG eingegangenen Solidarbürgschaften über Fr. 125'000. - für Schulden der Gesellschaft als Leasingnehmerin ein spezifisches Unternehmerrisiko.
Entgegen der Auffassung der Vorinstanz hat die bei den Akten liegende Versicherungspolice keine Betriebs-, sondern eine (persönliche) Berufshaftpflicht zum Inhalt. Der Umstand, das bei der Art des Betriebes "Röntgeninstitut X._" angeführt wird und - darin ist dem kantonalen Gericht beizupflichten - die Prämien durch die Röntgeninstitut Dr. Y._ AG bezahlt wurden (Verbuchung als betrieblicher Aufwand), ohne dass dies als Privatbezug ausgewiesen wurde, belegt einzig, dass die Aktivitäten der Gesellschaft mit den ärztlichen Tätigkeiten des Dr. med. B._ zusammenfielen.
Die steuerrechtliche Beurteilung der strittigen Bezüge als Einkommen aus selbstständiger Erwerbstätigkeit bildet ein weiteres, gewichtiges Indiz im Rahmen der Würdigung der gesamten wirtschaftlichen Verhältnisse (<ref-ruling> Erw. 5d mit Hinweisen).
b) Zusammenfassend ergibt sich, dass die fraglichen Entgelte bei freier Prüfung der Statusfrage - im Rahmen der hier massgebenden, engen Kognition - als Einkommen aus selbstständiger Erwerbstätigkeit zu qualifizieren sind. Mit Blick auf den weiteren Verfahrensgang ist Folgendes festzuhalten: Materiell sind die Verfügungen der Ausgleichskasse der Ärzte, Zahnärzte und Tierärzte vom 9. Dezember 1994 und 27. Januar 1995 demnach nicht zu beanstanden. Der Umstand, dass die Verbandsausgleichskasse bei der gegebenen Prozesslage an sich nicht mehr über die strittigen Entgelte verfügen durfte (vgl. Erw. 5 hievor), tritt insoweit zurück, als sich die Beschwerdeführer wegen des Verbots des Rechtsmissbrauchs (<ref-ruling> Erw. 4a, ergangen unter Geltung des Art. 4 der Bundesverfassung vom 29. Mai 1874; Art. 5 Abs. 3 der Bundesverfassung vom 18. April 1999, in Kraft getreten auf den 1. Januar 2000) nicht auf deren Fehlerhaftigkeit berufen könnten, da sie ihrerseits für eine Erfassung des Dr. med. B._ als Selbstständigerwerbender eingetreten sind.

Demnach erkennt das Eidg. Versicherungsgericht:
I.In Gutheissung der Verwaltungsgerichtsbeschwerde, soweit darauf einzutreten ist, werden der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 29. Oktober 1998 und die Verfügung der Ausgleichskasse des Kantons St. Gallen vom 5. Oktober 1994 insoweit aufgehoben, als sie Sozialversicherungsbeiträge kraft Bundesrechts zum Gegenstand haben.
II.Die Gerichtskosten von Fr. 4000. - werden der Ausgleichskasse des Kantons St. Gallen auferlegt.
III. Die geleisteten Kostenvorschüsse von je Fr. 4000. - werden den Beschwerdeführern zurückerstattet.
IV.Die Ausgleichskasse des Kantons St. Gallen hat den Beschwerdeführern für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von insgesamt Fr. 2500. - (einschliesslich Mehrwertsteuer) zu bezahlen.
V.Das Versicherungsgericht des Kantons St. Gallen wird über eine Parteientschädigung für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen Prozesses zu befinden haben.
VI.Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, dem Bundesamt für Sozialversicherung und der Ausgleichskasse der Ärzte, Zahnärzte und Tierärzte zugestellt.
Luzern, 1. Juni 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der I. Kammer:
Der Gerichtsschreiber: