A.- Gestützt auf die Ergebnisse der am 13. Oktober und am 4. Dezember 1998 durchgeführten Arbeitgeberkontrollen verpflichtete die Ausgleichskasse des Kantons St. Gallen die Firma X._ AG zur Nachzahlung paritätischer AHV/IV/EO/ALV-Beiträge sowie von Beiträgen an die Familienausgleichskasse in der Höhe von insgesamt Fr. 25'749. 70.- (= Fr. 36'325. 60 abzüglich Kinderzulagen im Gesamtbetrag von Fr. 13'260.- und zuzüglich Verzugszinsen von Fr. 2684. 10) auf Entgelten, welche von August 1995 bis Ende 1998 an B._ ausgerichtet worden waren (Verfügung vom 6. Dezember 1999).
B.- In Gutheissung der hiegegen erhobenen Beschwerde, mit welcher die Firma X._ AG und B._ die Aufhebung der Verfügung vom 6. Dezember 1999 und die Neuveranlagung auf der Grundlage selbstständiger Erwerbstätigkeit hatten beantragen lassen, wies das Versicherungsgericht des Kantons St. Gallen die Sache an die Ausgleichskasse zurück, damit diese die persönlichen Beiträge von B._ im Sinne der Erwägungen festsetze (Entscheid vom 2. November 2000).
C.- Mit Verwaltungsgerichtsbeschwerde beantragt die Ausgleichskasse die Aufhebung des vorinstanzlichen Entscheids; eventualiter sei die vorinstanzlich zu ihren Lasten zugesprochene Parteientschädigung herabzusetzen.
Die Firma X._ AG und B._ lassen, soweit darauf einzutreten sei, auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen; auf das Eventualbegehren der Beschwerdeführerin sei nicht einzutreten, eventualiter sei es abzuweisen. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Auf die Verwaltungsgerichtsbeschwerde kann nur insoweit eingetreten werden, als Sozialversicherungsbeiträge kraft Bundesrechts streitig sind. Es ist daher nicht zu prüfen, wie es sich bezüglich der Beitragsschuld an die Ausgleichskasse für kantonale Familienzulagen verhält (BGE 124 V Erw. 1 mit Hinweis).
2.- Da es sich bei der angefochtenen Verfügung nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen handelt, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob das vorinstanzliche Gericht Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
Ferner ist Art. 114 Abs. 1 OG zu beachten, wonach das Eidgenössische Versicherungsgericht in Abgabestreitigkeiten an die Parteibegehren nicht gebunden ist, wenn es im Prozess um die Verletzung von Bundesrecht oder um die unrichtige oder unvollständige Feststellung des Sachverhalts geht.
3.- Das kantonale Gericht hat die von der Rechtsprechung entwickelten Kriterien für die Abgrenzung der selbstständigen (Art. 9 Abs. 1 AHVG) von der unselbstständigen Erwerbstätigkeit (Art. 5 Abs. 2 AHVG) zutreffend dargelegt (vgl. BGE 123 V 162 Erw. 1 mit Hinweisen). Darauf wird verwiesen.
Zu ergänzen ist, dass bei einer versicherten Person, die gleichzeitig mehrere Erwerbstätigkeiten ausübt, jedes Einkommen daraufhin zu prüfen ist, ob es aus selbstständiger oder unselbstständiger Erwerbstätigkeit stammt. Für die beitragsrechtliche Qualifikation eines Entgelts ohne Bedeutung ist, ob jemand bereits einer Ausgleichskasse im Status des Selbstständigerwerbenden angeschlossen ist oder nicht (BGE 123 V 167 Erw. 4a mit Hinweisen).
4.- a) Nach den verbindlichen Feststellungen des kantonalen Gerichts führte B._ - EDV-Spezialist mit Schwergewicht Bildbearbeitung und Inhaber der seit 1991 im Handelsregister eingetragenen Einzelfirma Y._ - während der umstrittenen Periode von August 1995 bis
31. Dezember 1998 regelmässig und praktisch ausschliesslich Arbeiten für die Firma X._ AG aus, für welche er bis Ende Juli 1995 im Arbeitnehmerstatus tätig gewesen war.
Hierfür stellte er Rechnung im Gesamtbetrag von Fr. 435'702. 25 (1995: Fr. 54'469. 45; 1996: 117'682. 55; 1997: 128'305. 85; 1998: 135'244. 38), deren Zahlung bei der Firma X._ AG jeweils unter dem Konto "Drittarbeiten" verbucht wurde. Die Vorinstanz erachtete es sodann als erstellt, dass B._ die Arbeiten im Wesentlichen unabhängig von der Infrastruktur der Firma X._ AG verrichtete, er seinen Arbeitseinsatz sowohl zeitlich als auch umfangmässig frei gestalten konnte und zudem in den ersten beiden Jahren nach Auflösung des Arbeitsverhältnisses mit der X._ AG (1995) Eigeninvestitionen getätigt hatte, welche sich allein für EDV-Geräte und Zubehör auf rund Fr. 80'000.- beliefen.
In Würdigung dieser Sachlage zog das kantonale Gericht den Schluss, dass B._ im fraglichen Zeitraum wohl in einem wirtschaftlichen Abhängigkeitsverhältnis zur Firma X._ AG stand, insgesamt jedoch die für die beitragsrechtliche Qualifikation als Selbstständigerwerbender sprechenden Kriterien stärker ins Gewicht fallen.
b) Soweit die Beschwerdeführerin eine offensichtlich unrichtige Sachverhaltsfeststellung durch die Vorinstanz rügt, ist dem Folgendes entgegenzuhalten:
aa) Auf Grund der eingereichten Buchhaltungsunterlagen der Jahre 1995 bis 1998 ist einwandfrei ausgewiesen und von der Ausgleichskasse zu keinem Zeitpunkt bestritten worden, dass B._ über eigene, gemietete Büroräumlichkeiten verfügte. Sodann gab dieser im vorinstanzlichen Verfahren glaubhaft an, er habe die Firma X._ AG nur besucht, wenn dies etwa zur Übertragung von Daten auf deren EDV-Anlage oder zu Besprechungen tatsächlich erforderlich war, ansonsten aber im eigenen Büro am Wohnort gearbeitet. Davon ging offenbar auch die Beschwerdeführerin aus, hatte sie doch in ihrem Schreiben vom 23. Dezember 1999 an B._ festgestellt, dieser sei zwar zeitweise in der X._ AG anwesend; "einen grossen Teil" jedoch arbeite er in seinen eigenen Büroräumlichkeiten, weshalb denn auch nicht angenommen werden könne, die in der Buchhaltung aufgeführten Fahrzeugkosten stünden hauptsächlich im Zusammenhang mit Tätigkeiten für die Firma X._ AG. Vor diesem Hintergrund und mangels entgegenstehender Hinweise durfte es die Vorinstanz als erstellt erachten, dass B._ seine Arbeit überwiegend ausserhalb der Örtlichkeiten der Firma X._ AG ausführte und dort insbesondere über keinen festen Arbeitsplatz verfügte.
Entgegen dem nicht näher substanziierten Einwand der Beschwerdeführerin ist rechtsgenüglich nachgewiesen, zu welchen Bedingungen B._ die ihm von der Firma X._ AG überantworteten Aufgaben erfüllte. Dass die Vorinstanz diesbezüglich - nachdem mit Bezug auf die Zeit vom 1. August 1998 bis 31. Dezember 1999 kein schriftlicher Vertrag vorlag - massgeblich auf die Angaben der Beschwerdegegner bezüglich Entschädigung (Höhe des Entgelts, Gratifikationen und sonstige Zuwendungen, Abdeckung sozialer Risiken, etc.), Bestimmung des Arbeitsvolumens und Eigenart der übertragenen Projekte abgestellt hat, ist nicht zu beanstanden, zumal sich aus den aktenkundigen Geschäftsunterlagen nichts Widersprechendes ergibt; insbesondere deutet nichts auf eine bestehende Weisungsbefugnis der Firma X._ AG; soweit diese gewisse Anforderungen an das zu erreichende Arbeitsergebnis und den Zeitpunkt von dessen Ablieferung stellte, liegt darin noch keine ein Subordinationsverhältnis begründende Weisungskompetenz, sind doch solche Zielvorgaben auch im Rahmen "echter" Auftragsverhältnisse im Sinne von Art. 394 ff. OR durchaus typisch (AHI 2001 S. 63 Erw. 5c). Der Vorwurf, die Beschwerdegegner hätten für sie nachteilige Beweisdokumente mutwillig unterschlagen, entbehrt jeglicher Grundlage, denn die eingereichten Dokumente blegen gerade auch die - isoliert betrachtet - für unselbstständige Erwerbstätigkeit sprechende wirtschaftliche Abhängigkeit von der Firma X._ AG.
Dass trotz mehrmaliger Aufforderung der Ausgleichskasse kein "allenfalls vorhandener" Zusammenarbeitsvertrag eingereicht wurde, ändert daran nichts; vielmehr muss davon ausgegangen werden, dass ein solcher nicht bestand und die geschäftlichen Beziehungen in der strittigen Periode - in einer für die EDV-Branche nicht unüblichen Weise - auf bloss mündlichen Vereinbarungen beruhten.
Eine organisatorische Eingebundenheit des B._ in den Betrieb der X._ AG sowie ein Unterordnungsverhältnis bestanden nach dem Gesagten nicht. Von einer diesbezüglich mangelhaften Sachverhaltsfeststellung im Sinne von Art. 105 Abs. 2 OG (siehe Erw. 2 hievor) durch das kantonale Gericht kann nicht die Rede sein.
bb) Entsprechendes gilt hinsichtlich der vorinstanzlichen Feststellung, B._ habe beträchtliche Investitionen getätigt. Dass diese nicht geschäftlich bedingt waren, sondern bloss der (kostspieligen) Hobbypflege dienten, findet in den Akten keine Stütze. Zum einen beschränkten sich die Investitionen nicht nur auf den Ausbau und den Unterhalt von EDV-Anlagen, sondern umfassten zusätzlich unter anderem auch die Aufwendungen für die Miete von besonderen Büroräumlichkeiten und Materiallager sowie für Büromobiliar und -material, inklusive Telefonanschluss.
Nachdem erstellt ist, dass B._ sein - unbestrittenermassen praktisch ausschliesslich aus den Tätigkeiten für die X._ AG erzieltes - Einkommen hauptsächlich gestützt auf seine eigene Infrastruktur erwirtschaftete (Erw. 4b/aa hievor), muss der erwerbliche Charakter dieser Investitionen bejaht werden. Abweichendes ergibt sich auch nicht aus dem Umstand, dass ein wesentlicher Teil der Auslagen auf das Jahr 1996 und nicht in die Zeit vor oder unmittelbar nach der (umstrittenen) Aufnahme der selbstständigen Erwerbstätigkeit im August 1995 fiel. Dem Kündigungsschreiben des B._ an die X._ AG vom 3. Januar 1995 ist zu entnehmen, dass das mehrjährige Arbeitsverhältnis nach Differenzen mit der Arbeitgeberfirma eher unverhofft aufgelöst wurde. Dass der Aufbau einer neuen beruflichen Existenz gewisse Zeit beanspruchte und namentlich die kostspieligeren Investitionen nicht sogleich erfolgen konnten, ist unter diesen Umständen nachvollziehbar; abgesehen davon ist immerhin die Miete eigener Büro- und Lagerräumlichkeiten bereits für das "1. Geschäftsjahr" (ab Januar 1995) ausgewiesen.
cc) In Anbetracht dessen, dass B._ in beträchtlichem Umfange Investitionen getätigt hat und für ihn damit Kosten angefallen sind, die er unabhängig vom Arbeitserfolg selber zu tragen hatte, war seine Tätigkeit für die Firma X._ AG mit einem gewissen unternehmerischen Risiko belastet (BGE 122 V 172 Erw. 3c mit Hinweis; vgl. ZAK 1986, S. 333 Erw. 2d). Allerdings war dieses nicht besonders ausgeprägt, da es an einem zusätzlichen, spezifischen Inkasso- und Delkredererisiko fehlte. Indem B._ direkt und ausschliesslich der Firma X._ AG Rechnung stellte, bestand für ihn lediglich die Gefahr, dass diese die Rechnungen nicht beglich, was praxisgemäss kein Inkasso- und Delkredererisiko darstellt (AHI 2001, S. 61).
c) Dass die Vorinstanz gestützt auf diese tatsächlichen Grundlagen die Merkmale selbstständiger Erwerbstätigkeit als überwiegend erachtet hat, verletzt Bundesrecht nicht. Namentlich ist im Lichte der neueren Urteile des Eidgenössischen Versicherungsgerichts zum Beitragsstatut von freien EDV-Mitarbeitern (siehe zusammenfassend AHI 2001 S. 64 ff. Erw. 6d) nicht zu beanstanden, dass das kantonale Gericht der weitgehenden arbeitsorganisatorischen Unabhängigkeit und Weisungsungebundenheit, aber auch der bedeutenden Investitionstätigkeit von B._ ein erhöhtes Gewicht beimass. Hinzu kommt, dass dieser die von der Firma X._ AG entrichteten Entgelte gegenüber den Steuerbehörden als Einkommen aus selbstständiger Erwerbstätigkeit abgerechnet hat, was im Rahmen der Würdigung der gesamten wirtschaftlichen Gegebenheiten zwar nur ein, namentlich in allfälligen Zweifelsfällen aber doch gewichtiges Indiz darstellt (BGE 122 V 289 Erw. 5d).
5.- Eventualiter beantragt die Beschwerdeführerin die Herabsetzung der den Beschwerdegegnern vorinstanzlich zugesprochenen Parteientschädigung in der Höhe von Fr. 5951.- (Fr. 5300.- Anwaltshonorar zuzüglich Barauslagen und Mehrwertsteuer).
a) Die Regelung der Bemessung der Parteientschädigung, auf welche der im kantonalen Beschwerdeverfahren obsiegende Versicherte gemäss Art. 85 Abs. 2 lit. f Satz 3 AHVG Anspruch hat, ist mangels bundesrechtlicher Bestimmung dem kantonalen Recht überlassen, mit welchem sich das Eidgenössische Versicherungsgericht grundsätzlich nicht zu befassen hat (Art. 128 OG in Verbindung mit Art. 97 Abs. 1 OG und Art. 5 Abs. 1 VwVG). Es darf die Höhe der Parteientschädigung nur daraufhin überprüfen, ob die Anwendung der für ihre Bemessung einschlägigen kantonalen Bestimmungen, sei es bereits auf Grund ihrer Ausgestaltung oder aber auf Grund des Ergebnisses im konkreten Fall zu einer Verletzung von Bundesrecht geführt hat (Art. 104 lit. a OG). Dabei fällt praktisch nur das in Art. 9 BV verankerte Willkürverbot in Betracht. Nach der Rechtsprechung ist eine Entschädigung dann willkürlich, wenn sie eine Norm oder einen klaren und unumstrittenen Rechtsgrundsatz offensichtlich schwer verletzt, sich mit sachlichen Gründen schlechthin nicht vertreten lässt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (SVR 2001 AHV Nr. 4 S. 11 Erw. 2; zu Art. 4 Abs. 1 aBV ergangene, weiterhin geltende Rechtsprechung: BGE 125 V 408 Erw. 3a, 114 V 86 Erw. 4a, je mit Hinweisen).
Praxisgemäss ist den erstinstanzlichen Richterinnen und Richtern bei der Bemessung der Entschädigung ein weiter Ermessensspielraum einzuräumen (BGE 114 V 87 Erw. 4b; SVR 2000 IV Nr. 11 S. 31 Erw. 2b). Ob sich die Festsetzung eines Anwaltshonorars noch im Rahmen des eingeräumten Ermessens bewegt, ist unter Berücksichtigung der Wichtigkeit und Schwierigkeit der Streitsache, des Umfangs der Arbeitsleistung und des Zeitaufwands des Anwalts oder der Anwältin zu beurteilen. Dabei kann das durchschnittliche Anwaltshonorar pro Stunde je nach der kantonalen Anwaltsgebühren-Regelung willkürfrei innerhalb einer relativ weiten Bandbreite von ca. Fr. 125.- bis Fr. 250.- festgesetzt werden, wobei die seitherige Teuerung zu berücksichtigen ist (SVR 2000 Nr. 11 S. 31 Erw. 2b mit Hinweis; AHI 2000 S. 329 Erw. 4a; Urteil W. vom 11. Juni 2001 [C 130/99], Erw. 4b mit Hinweisen).
b) Im Lichte dieser Grundsätze ist das vorinstanzlich zugesprochene Anwaltshonorar von Fr. 5300.-, welches einem Aufwand von rund 24 Stunden à Fr. 220.- entspricht, nicht zu beanstanden. Es liegt - wenngleich an der oberen Grenze - nicht ausserhalb jedes vernünftigen Verhältnisses zu den angesichts des Aktenumfangs notwendigen anwaltlichen Bemühungen.
Der Vertreter der Beschwerdegegner hat zudem vorinstanzlich zwei relativ umfangreiche Rechtsschriften (Beschwerdeschrift, Replik) eingereicht, die auf einlässliches Aktenstudium schliessen lassen. Der geltend gemachte, vergleichsweise hohe Zeitaufwand erscheint als glaubhaft und liegt noch im Bereich des Vertretbaren. Die von der Vorinstanz in Einklang mit dem kantonalen Recht zugesprochene Parteientschädigung beruht somit nicht auf einer unhaltbaren Ermessensbetätigung.
6.- Entsprechend dem Ausgang des Verfahrens ist die unterliegende Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 134 OG e contrario; Art. 156 Abs. 1 und Art. 159 Abs. 2 in Verbindung mit Art. 135 OG).
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Die Gerichtskosten von Fr. 3000.- werden der Ausgleichskasse des Kantons St. Gallen auferlegt und mit dem geleisteten Kostenvorschuss verrechnet.
III. Die Ausgleichskasse des Kantons St. Gallen hat den Beschwerdegegnern für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung
von insgesamt Fr. 2500.- (einschliesslich Mehrwertsteuer)
zu bezahlen.
IV.Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 3. Juni 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: