A.- Im Jahre 1999 ordnete das Spital X._ bei sechs Versicherten der Wincare Versicherungen (nachfolgend:
Wincare) eine Untersuchung im Magnet-Resonanz-Zentrum in Y._ an und stellte der Wincare die anfallenden Kosten im Gesamtbetrag von Fr. 4898. 10 gemäss Tarifvertrag zwischen dem Verband Krankenversicherer St. Gallen-Thurgau (nachfolgend: KST) und dem Kanton Thurgau vom 3./9. Dezember 1997 in Rechnung. Da keine Zahlung erfolgte, leitete das Spital X._ die Betreibung gegen die Wincare ein, worauf diese Rechtsvorschlag erhob. Mit Verfügung vom 20. Dezember 1999 verpflichtete das Spital X._ die Wincare, den Betrag von Fr. 4898. 10 zu bezahlen, und hob den Rechtsvorschlag auf. Den von der Wincare hiegegen eingereichten Rekurs wies das Departement für Finanzen und Soziales des Kantons Thurgau mit Entscheid vom 21. Juli 2000 ab.
B.- Beschwerdeweise beantragte die Wincare, der Entscheid des Departementes für Finanzen und Soziales sei aufzuheben und es sei festzustellen, dass die Verfügung vom 20. Dezember 1999 nichtig sei, eventualiter sei sie aufzuheben.
Mit Entscheid vom 24. Januar 2001 wies das Verwaltungsgericht des Kantons Thurgau die Beschwerde ab.
C.- Die Wincare lässt Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, in Aufhebung der Entscheide des Verwaltungsgerichtes und des Departementes für Finanzen und Soziales sei festzustellen, dass die Verfügung des Spitals X._ vom 20. Dezember 1999 nichtig sei, eventualiter sei sie aufzuheben.
Das Spital S._ als Rechtsnachfolgerin des Spitals X._ beantragt, namentlich unter Hinweis auf die vom kantonalen Gericht im letztinstanzlichen Verfahren eingereichte Stellungnahme, auf die Verwaltungsgerichtsbeschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen.
Das Bundesamt für Sozialversicherung lässt sich nicht vernehmen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Gemäss Art. 128 OG beurteilt das Eidgenössische Versicherungsgericht letztinstanzlich Verwaltungsgerichtsbeschwerden gegen Verfügungen im Sinne von Art. 97, 98 lit. b-h und 98a OG auf dem Gebiet der Sozialversicherung.
Hinsichtlich des Begriffs der mit Verwaltungsgerichtsbeschwerde anfechtbaren Verfügungen verweist Art. 97 OG auf Art. 5 VwVG. Nach Art. 5 Abs. 1 VwVG gelten als Verfügungen Anordnungen der Behörden im Einzelfall, die sich auf öffentliches Recht des Bundes stützen (oder richtigerweise hätten stützen sollen; <ref-ruling> Erw. 2a) und zum Gegenstand haben: Begründung, Änderung oder Aufhebung von Rechten oder Pflichten, Feststellung des Bestehens, Nichtbestehens oder Umfanges von Rechten oder Pflichten, Abweisung von Begehren auf Begründung, Änderung, Aufhebung oder Feststellung von Rechten oder Pflichten, oder Nichteintreten auf solche Begehren (<ref-ruling> Erw. 1, 123 V 296 Erw. 3a, je mit Hinweisen).
Gemäss Art. 129 Abs. 1 lit. b OG ist die Verwaltungsgerichtsbeschwerde unzulässig gegen Verfügungen über Tarife.
Dies gilt allerdings nur, wenn sich das Rechtsmittel gegen Verfügungen richtet, welche den Erlass oder die Genehmigung eines Tarifes als Ganzes zum Gegenstand haben, oder wenn unmittelbar einzelne Tarifbestimmungen als solche angefochten werden. Hingegen steht die Verwaltungsgerichtsbeschwerde offen gegen Verfügungen, welche in Anwendung eines Tarifs im Einzelfall ergangen sind (<ref-ruling> Erw. 3b mit Hinweisen).
Wie aus Erw. 4b hienach hervorgeht, sind diese Voraussetzungen vorliegend erfüllt: namentlich hat die Verfügung eine bundesrechtliche Grundlage (weil sie sich - hätte sie erlassen werden dürfen [vgl. Erw. 4c hienach] - auf öffentliches Recht des Bundes hätte stützen sollen) und ist sie in Anwendung eines Tarifs im Einzelfall ergangen. Auf die Verwaltungsgerichtsbeschwerde ist demnach einzutreten.
2.- Nach ständiger Rechtsprechung prüft das Eidgenössische Versicherungsgericht von Amtes wegen die formellen Gültigkeitserfordernisse des Verfahrens, insbesondere auch die Frage, ob die Vorinstanz zu Recht auf eine Beschwerde oder Klage eingetreten ist. Hat die Vorinstanz übersehen, dass es an einer Prozessvoraussetzung fehlte, und hat sie materiell entschieden, ist dies im Rechtsmittelverfahren von Amtes wegen zu berücksichtigen mit der Folge, dass der angefochtene Entscheid aufzuheben ist, verbunden mit der Feststellung, dass auf das Rechtsmittel mangels Prozessvoraussetzung nicht eingetreten werden kann (<ref-ruling> Erw. 4a mit Hinweisen).
3.- a) Nach den Ausführungen der Vorinstanz stützt sich die Verfügung des Spitals X._ vom 20. Dezember 1999 auf § 6 der Verordnung des Regierungsrates über die Taxen der kantonalen Krankenanstalten (TG-RB 811. 33, aufgehoben per 1. Januar 2000), wonach die kantonalen Krankenanstalten die Kosten verfügungsweise festsetzen konnten, und den Regierungsratsbeschluss Nr. 1028 vom 15. Dezember 1998, welcher den Tarifvertrag zwischen dem Kanton Thurgau und dem KST vom 3./9. Dezember 1997 bzw. dessen hoheitliche Verlängerung zum Inhalt hat. Ihre eigene Zuständigkeit bejahte die Vorinstanz gestützt auf § 54 des kantonalen Gesetzes über die Verwaltungsrechtspflege (TG-RB 170. 1).
b) Die Beschwerdeführerin macht sinngemäss geltend, das Spital X._ habe seine Verfügungskompetenz zu Unrecht aus einer kantonalrechtlichen Grundlage hergeleitet.
Die Streitigkeit um die Vergütung von MRI-Leistungen betreffe eine Frage der Tarifanwendung und beruhe damit auf Bundesrecht, weshalb sie weder in die Zuständigkeit des Departementes für Finanzen und Soziales noch in diejenige des Verwaltungsgerichtes falle, sondern durch das kantonale Schiedsgericht im Sinne von Art. 89 Abs. 1 KVG zu entscheiden sei.
4.- a) Streitigkeiten zwischen Versicherern und Leistungserbringern entscheidet gemäss Art. 89 Abs. 1 KVG ein (kantonales) Schiedsgericht. Diese Bestimmung über die Zuständigkeit des Schiedsgerichtes geht als lex specialis derjenigen über das kantonale Versicherungsgericht (Art. 86 Abs. 1 KVG) vor (Eugster, Krankenversicherung, in: Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, S. 233 Rz 415; Maurer, Das neue Krankenversicherungsrecht, S. 172; vgl. zum alten Recht <ref-ruling> Erw. 2b, 116 V 128 Erw. 2c mit Hinweis).
Gesetz (KVG) und Verordnung (KVV) umschreiben nicht näher, was unter Streitigkeiten im Sinne von Art. 89 Abs. 1 KVG zu verstehen ist. Die auch für diese Bestimmung massgebende, zum altrechtlichen Art. 25 Abs. 1 KUVG ergangene Rechtsprechung (<ref-ruling> Erw. 5 mit Hinweisen) und die Literatur (Eugster, a.a.O., S. 232 Rz 413; Maurer, a.a.O., S. 171 f.) gehen von einer weiten Begriffsumschreibung aus, indem sie die sachliche Zuständigkeit für alle Streitigkeiten zwischen Krankenversicherer und Leistungserbringer bejahen, wenn und soweit diese Rechtsbeziehungen zum Gegenstand haben, die sich aus dem KVG ergeben oder aufgrund des KVG eingegangen worden sind. In diesem Sinne muss der Streitgegenstand die besondere Stellung der Versicherer oder Leistungserbringer im Rahmen des KVG betreffen (Eugster, a.a.O., S. 232 Rz 413; Maurer, a.a.O., S. 172).
Als Streitigkeiten fallen beispielsweise Honorar- und Tariffragen, namentlich die Überprüfung der richtigen Anwendung der Tarife bzw. einer Tarifposition oder einer Klausel im Einzelfall und deren Übereinstimmung mit dem Bundesrecht, Rückforderungen der Versicherer wegen Verletzung des Effizienzgrundsatzes oder die Ablehnung von Vertrauensärzten in Betracht (<ref-ruling>, 112 V 310; Eugster, a.a.O., S. 232 Rz 414; Maurer, a.a.O., S. 172).
b) Es steht fest, dass der vorliegende Streit um die Vergütung von MRI-Untersuchungen eine Auseinandersetzung zwischen einem Krankenversicherer (Wincare) und einem Leistungserbringer (Spital S._ als Rechtsnachfolgerin des Spitals X._) darstellt. Zu prüfen bleibt, ob die Streitigkeit Rechtsbeziehungen zum Gegenstand hat, die sich aus dem dem Bundesrecht angehörenden KVG ergeben oder aufgrund des KVG eingegangen wurden.
Rechtsprechungsgemäss fallen Streitigkeiten des Inhaltes, ob eine bestimmte ärztliche Verrichtung tarifvertraglich erfasst ist oder nicht, in die sachliche Zuständigkeit des Schiedsgerichtes (<ref-ruling> Erw. 3b, 116 V 127 Erw. 2a i.f.). Der hiefür vorausgesetzte Konnex mit dem KVG ist bereits gegeben, wenn - wie im zu beurteilenden Fall - die Streitigkeit ihre Grundlage in einem Tarifvertrag im Sinne von Art. 46, 48, 49 oder 50 KVG hat. Anders verhielte es sich nur, wenn es um die Genehmigung oder genehmigungspflichtige Abänderung eines solchen Vertrages ginge, welche in die Zuständigkeit der Kantonsregierung oder des Bundesrates fallen würde (Art. 46 Abs. 4 KVG; <ref-ruling> Erw. 5 in fine, 119 V 326 Erw. 5; Eugster, a.a.O., S. 232 Rz 414; Maurer, a.a.O., S. 172 Fn 434). Mit anderen Worten ist das Schiedsgericht auch berufen zur Beurteilung der - vorliegend streitigen - Frage, ob eine ärztliche Vorkehr (in casu: die MRI-Untersuchung) tarifvertraglich oder mangels einer tariflichen Regelung anderweitig zu vergüten ist, bzw. zur Klärung der Anwendbarkeit tarifvertraglicher Regelungen (<ref-ruling> Erw. 3b, 119 V 314 Erw. 3b; Maurer, a.a.O., S. 172). Dass die Vorinstanz selber die vertragliche Regelung für derart klar hält, dass "für eine Vertragsauslegung kein Raum" bestehe, vermag die Frage der Zuständigkeit selbstverständlich nicht zu beeinflussen.
Entgegen der Auffassung der Beschwerdegegnerin ändert an der Zuständigkeit des Schiedsgerichtes schliesslich auch nichts, dass die Beschwerdeführerin in der Auseinandersetzung um die Vergütung von MRI-Leistungen insofern ein Pilotverfahren erblickt, als der Ausgang des Prozesses Einfluss auf zahlreiche offene, nicht nur sie selber, sondern auch andere Krankenversicherer betreffende Leistungsabrechnungen habe (vgl. auch <ref-ruling> Erw. 2b mit Hinweisen).
c) Fällt der Streit um die Vergütung der MRI-Untersuchungen somit in die Zuständigkeit des kantonalen Schiedsgerichtes im Sinne von Art. 89 KVG, durfte das Verwaltungsgericht auf die erhobene Beschwerde mangels Sachurteilsvoraussetzung nicht eintreten, weshalb sein Entscheid vom 24. Januar 2001 aufzuheben ist (vgl. Erw. 2 hievor). Dabei stellen sich weitere verfahrensrechtliche Fragen.
Anders als die kantonalen Versicherungsgerichte urteilen die Schiedsgerichte nicht auf Verfügung hin als Beschwerdeinstanzen, sondern auf Klage hin im Sinne der ursprünglichen Gerichtsbarkeit (vgl. Maurer, a.a.O., S. 175; <ref-ruling> Erw. 3b, 114 V 326 Erw. 4a). Dass die Erledigung des vorliegenden Streites in die Zuständigkeit des Schiedsgerichtes nach Art. 89 KVG fällt, schliesst den vorgängigen Erlass einer Verfügung somit aus. Wenn in der Literatur (Eugster, a.a.O., S. 228 Rz 408; Maurer, a.a.O., S. 175) die Verfügungskompetenz der Versicherer gegenüber den Leistungserbringern verneint wird, so gilt dies mutatis mutandis auch für den umgekehrten Fall (<ref-ruling> Erw. 4a; vgl. auch <ref-ruling> Erw. 3b). Aus diesem Grunde war die Beschwerdegegnerin, obgleich nach kantonalem Recht als Verwaltungsbehörde Trägerin hoheitlicher Gewalt, nicht befugt, die Beschwerdeführerin mittels Verfügung zur Bezahlung der von ihr erbrachten Leistungen zu verpflichten.
Weil die Beschwerdegegnerin somit in einem Bereich verfügt hat, der ihrer Kompetenz entzogen ist, erweist sich ihre Verfügung vom 20. Dezember 1999 als mit einem so schweren Mangel behaftet, dass auf Nichtigkeit zu schliessen ist (<ref-ruling>, 119 V 314 Erw. 3b, 114 V 327 Erw. 4b; vgl. auch Imboden/Rhinow, Schweizerische Verwaltungsrechtsprechung,
6. Aufl. Basel 1986, Bd. I, Nr. 40 B V a1 S. 242, sowie Rhinow/Krähenmann, Schweizerische Verwaltungsrechtsprechung, Ergänzungsband, Basel 1990, Nr. 40 S. 120). Entsprechend dem Grundsatz, dass die Nichtigkeit eines Verwaltungsaktes jederzeit und von sämtlichen rechtsanwendenden Behörden von Amtes wegen zu beachten ist (<ref-ruling> mit Hinweisen), hätte das Departement für Finanzen und Soziales (ebenso wie das Verwaltungsgericht des Kantons Thurgau) diesen Rechtsmangel feststellen und die Parteien auf den schiedsgerichtlichen Weg verweisen müssen. Auch sein Rekursentscheid vom 21. Juli 2000 ist demnach aufzuheben.
Es steht der Beschwerdegegnerin offen, beim kantonalen Schiedsgericht im Sinne von Art. 89 KVG Klage gegen die Beschwerdeführerin einzureichen.
5.- Da es nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen, sondern um eine prozessrechtliche Frage geht, ist das Verfahren kostenpflichtig (Art. 134 OG e contrario). Dem Prozessausgang entsprechend hat die Beschwerdegegnerin die Gerichtskosten zu tragen (Art. 156 Abs. 1 Verbindung mit Art. 135 OG).
Eine Parteientschädigung wird nicht zugesprochen, weil die obsiegende Beschwerdeführerin als Krankenversicherer eine öffentlich-rechtliche Aufgabe im Sinne von Art. 159 Abs. 2 OG wahrnimmt und die Voraussetzungen für eine ausnahmsweise Zusprechung einer Entschädigung nicht gegeben sind (<ref-ruling> Erw. 6b; SVR 2000 KV Nr. 39 S. 122 Erw. 3).

Demnach erkennt das Eidg. Versicherungsgericht:
I. In Gutheissung der Verwaltungsgerichtsbeschwerde werden
der Entscheid des Verwaltungsgerichtes des Kantons
Thurgau vom 24. Januar 2001 und jener des Departementes
für Finanzen und Soziales vom 21. Juli 2000 aufgehoben,
und es wird festgestellt, dass die Verfügung
des Spitals X._ vom 20. Dezember 1999 nichtig
ist.
II. Die Gerichtskosten von Fr. 500.- werden dem Spital S._ auferlegt.
III. Der geleistete Kostenvorschuss von Fr. 500.- wird der
Wincare Versicherungen zurückerstattet.
IV. Es wird keine Parteientschädigung zugesprochen.
V. Dieses Urteil wird den Parteien, dem Verwaltungsgericht
des Kantons Thurgau, dem Departement für Finanzen
und Soziales des Kantons Thurgau und dem Bundesamt
für Sozialversicherung zugestellt.
Luzern, 9. August 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der I. Kammer:
Die Gerichtsschreiberin: