(Lohngleichheit), hat sich ergeben:
A.- B._ arbeitete seit dem 1. August 1987 als Lehrerin für Krankenpflege an der Schule für Psychiatrische Krankenpflege Wil und Pfäfers der Kantonalen Psychiatrischen Klinik Wil. Gemäss Dienst- und Besoldungsordnung für das Staatspersonal des Kantons St. Gallen (DBO; GS 143. 2; Anhang B) war sie zunächst in der Lohnklasse 16, ab 1. Januar 1989 in der Lohnklasse 17 und im Zusammenhang mit der Übernahme der Zusatzfunktion als Programmleiterin ab 1990 in der Lohnklasse 18 eingereiht. Ende 1992 schied sie aus dem Staatsdienst des Kantons St. Gallen aus.
B.- Am 16. November 1989 stellte sie erfolglos beim Regierungsrat des Kantons St. Gallen Antrag auf besoldungsmässige Gleichstellung mit den in der Lohnklasse 24 eingestuften Berufsschullehrern. In der Folge, nach Einholung eines Gutachtens bei Prof. Baitsch (nachfolgend: Gutachten I), hiess das Bezirksgericht St. Gallen ihre Klage auf lohnmässige Gleichstellung gut. Der Kanton St. Gallen erhob dagegen Berufung beim Kantonsgericht (III. Zivilkammer), das sich auf ein Gutachten von Dr. Schaeren (nachfolgend: Gutachten II) stützte und das Rechtsmittel am 27. September 1999 guthiess. Dagegen führt B._ mit Bezug auf die Verfahrensfragen Verwaltungsgerichtsbeschwerde beim Bundesgericht wegen Verletzung des Bundesgesetzes vom 24. März 1995 über die Gleichstellung von Frau und Mann (Gleichstellungsgesetz [GlG]; SR 151) und mit Bezug auf den Lohnanspruch für den Zeitraum vom 1. Januar 1990 bis zum 30. Juni 1992 staatsrechtliche Beschwerde wegen Verletzung von Art. 4 Abs. 2 Satz 3 der alten Bundesverfassung vom 29. Mai 1874 (aBV) und des rechtlichen Gehörs sowie wegen willkürlicher Feststellung des Sachverhalts.
Der Kanton St. Gallen beantragt Abweisung beider Beschwerden. Bezüglich der Rügen formeller Natur verzichtet das Kantonsgericht auf eine Vernehmlassung. Bezüglich derjenigen zu Art. 4 aBV verweist es im Wesentlichen auf seinen Entscheid; im Übrigen macht es punktuelle Einwendungen.

Das Bundesgericht zieht in Erwägung:
1.- Die eingereichten Beschwerden beziehen sich weitgehend auf den gleichen Sachverhalt, enthalten praktisch gleichlautende Anträge und werfen die gleichen oder ähnliche Fragen auf. Es rechtfertigt sich, beide Verfahren zu vereinigen und die Beschwerden in einem Urteil zu behandeln (vgl. <ref-law> in Verbindung mit Art. 40 OG; <ref-ruling> E. 1 S. 20; <ref-ruling> E. 1a S. 368; <ref-ruling> E. 1 S. 162).
2.- Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob und inwieweit auf eine Beschwerde einzutreten ist (<ref-ruling> E. 2a S. 16, 253 E. 1a S. 254; <ref-ruling> E. 1a S. 299). Entsprechend der subsidiären Natur der staatsrechtlichen Beschwerde (Art. 84 Abs. 2 OG) ist zunächst zu prüfen, ob die Verwaltungsgerichtsbeschwerde offen steht (<ref-ruling> E. 2a S. 16; <ref-ruling> E. 1a S. 290).
a) Der angefochtene Entscheid stützt sich auch auf das Gleichstellungsgesetz, mithin auf öffentliches Recht des Bundes, und hat die Aufhebung von Rechten zum Gegenstand (Art. 97 OG in Verbindung mit <ref-law>). Er ist kantonal letztinstanzlich (Art. 98 lit. g OG), und keiner der in Art. 99 ff. OG oder in der Spezialgesetzgebung vorgesehenen Ausschlussgründe der Verwaltungsgerichtsbeschwerde ist gegeben. Die Beschwerdeführerin ist Adressatin des Entscheids und hat ein schutzwürdiges Interesse an dessen Aufhebung (Art. 103 lit. a OG). Mit der Verwaltungsgerichtsbeschwerde kann die Verletzung von Bundesrecht einschliesslich Überschreitung oder Missbrauch des Ermessens gerügt werden (Art. 104 lit. a OG). Zum Bundesrecht gehört sowohl das Bundesgesetzes- als auch das Bundesverfassungsrecht (BGE <ref-ruling> E. 1c S. 291; <ref-ruling> E. 2d/bb S. 47 mit Hinweisen). Somit sind neben den Rügen der Verletzung des Gleichstellungsgesetzes auch jene der Verletzung von Art. 4 aBV im Rahmen der Verwaltungsgerichtsbeschwerde zu behandeln. Da die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist mit Bezug auf sämtliche Rügen die Verwaltungsgerichtsbeschwerde zulässig. Die staatsrechtliche Beschwerde (1P. 641/1999) ist mithin unzulässig (Art. 84 Abs. 2 OG).
b) Da als Vorinstanz ein Gericht entschieden hat, ist die Rüge einer unrichtigen oder unvollständigen Sachverhaltsfeststellung nur zulässig, soweit diese offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen erfolgte (Art. 105 Abs. 2 OG). Eine Ermessensüberprüfung steht dem Bundesgericht nicht zu (Art. 104 lit. c OG).
3.- a) In formeller Hinsicht macht die Beschwerdeführerin zunächst geltend, das Kantonsgericht habe zu Unrecht in Bezug auf die Beweislastverteilung nicht <ref-law> angewendet, wonach eine diskriminierende Entlöhnung vermutet werde, wenn sie von der betroffenen Person glaubhaft gemacht werde. Es handle sich dabei um eine prozessrechtliche Frage, die mit dem Inkrafttreten des Gleichstellungsgesetzes am 1. Juli 1996 auf sämtliche noch offene Verfahren hätte angewendet werden sollen.
Diese übergangsrechtliche Frage kann offen bleiben, da die Beweislastverteilung hier keine Auswirkungen auf den Prozessausgang hat. Das Kantonsgericht hat die Berufung des Kantons St. Gallen nicht deshalb gutgeheissen, weil die (heutige) Beschwerdeführerin nicht habe nachweisen können, dass sie diskriminiert worden sei. Vielmehr hat das Kantonsgericht nach einer umfassenden Prüfung der Sach- und Rechtsfragen entschieden, dass ihre Entlöhnung nicht diskriminierend sei. An einer bestimmten Stelle (angefochtener Entscheid S. 37 oben) führt das Kantonsgericht zwar aus, die Klägerin habe grundsätzlich Gleichwertigkeit zu beweisen, zumindest glaubhaft zu machen. Konkret entscheidet sich das Kantonsgericht jedoch nicht deshalb gegen den von der Beschwerdeführerin vertretenen Standpunkt, sondern weil es sich von der Meinung des Gutachters II hat überzeugen lassen.
b) Die Beschwerdeführerin macht zudem geltend, das Kantonsgericht habe sie in Verletzung von Art. 17 in Verbindung mit <ref-law> nicht von den erstinstanzlichen Gerichtskosten befreit.
Diese Rüge ist unbegründet. Gemäss <ref-law> werden Lohnansprüche nach dem neuen Recht beurteilt, wenn die Klage nach dem Inkrafttreten des Gesetzes erhoben worden ist oder die erstinstanzlich zuständige Behörde bis zu diesem Zeitpunkt noch keine Verfügung getroffen hat. <ref-law> schreibt die Kostenlosigkeit von Gleichstellungsprozessen betreffend öffentlichrechtliche Arbeitsverhältnisse vor. Das Kantonsgericht hat die erstinstanzlichen Gerichtskosten zu Recht der Beschwerdeführerin auferlegt, da das Bezirksgericht seinen Entscheid am 17. November 1993, mithin lange vor Inkrafttreten des Gleichstellungsgesetzes (1. Juli 1996) gefällt hat. Die Vorschriften des Gleichstellungsgesetzes sind auf erstinstanzliche Beschwerden nur anwendbar, soweit beim Inkrafttreten des Gleichstellungsgesetzes kein endgültiger erstinstanzlicher Entscheid gefällt worden ist (Margrith Bigler-Eggenberger, in: Kommentar zum Gleichstellungsgesetz, Basel und Frankfurt/Main 1997, N 67 zu Art. 13). Ausserdem kann <ref-law> auch nicht im Sinne der unechten Rückwirkung (siehe dazu <ref-ruling> E. 6 S. 425; Ulrich Häfelin/Georg Müller, Grundriss des Allgemeinen Verwaltungsrechts, 3. Aufl. , Zürich 1998, Rz. 273) zum Zuge kommen: Mit der Fällung des erstinstanzlichen Entscheids muss das Verfahren als abgeschlossen betrachtet werden. Ansonsten würde der Weiterzug an eine höhere Instanz genügen, um den Vorteil der Kostenlosigkeit gemäss <ref-law> zu begründen. Der Entscheid des Bezirksgerichts ist zudem nicht dadurch zu einem hängigen Verfahren geworden, dass das Kantonsgericht ihn aufgehoben hat. Eine Ausnahme zum grundsätzlichen Rückwirkungsverbot drängt sich hier nicht auf (vgl. Häfelin/Müller, a.a.O., Rz. 268).
c) Die Rüge der Beschwerdeführerin betreffend die Auferlegung einer Parteientschädigung für das kantonsgerichtliche Verfahren erscheint dagegen als begründet. Das kantonsgerichtliche Verfahren fand unter der Herrschaft des Gleichstellungsgesetzes statt und der Sache nach ging es hauptsächlich um Diskriminierungsansprüche, die - soweit das Gleichstellungsgesetz intertemporalrechtlich bereits anwendbar gewesen wäre - nach diesem Gesetz hätten beurteilt werden müssen. Der vom Kantonsgericht in diesem Zusammenhang herangezogene Bundesgerichtsentscheid sagt nur, dass die Kostenlosigkeit des Verfahrens gemäss <ref-law> die Zusprechung einer Parteientschädigung nicht ausschliesse (<ref-ruling> E. 12 S. 436 [betreffend das Gleichstellungsgesetz] mit Hinweis auf <ref-ruling> E. 5a S. 40 und <ref-ruling> E. 7 S. 130 [betreffend <ref-law>]). Er besagt nicht, dass eine Parteientschädigung auf jeden Fall geschuldet sei. Vielmehr ist davon auszugehen, dass das Gleichstellungsgesetz die Frage der Parteientschädigung nicht regelt (siehe auch Margrith Bigler-Eggenberger, a.a.O., N 44 zu <ref-law>). Im von der Beschwerdeführerin angerufenen Fall sprach das Bundesgericht dem Kanton - gestützt auf Art. 159 Abs. 2 OG - keine Parteientschädigung zu, obwohl er obsiegt hatte. Hier gebieten die Billigkeit und die Leitidee von <ref-law> ebenfalls, in analoger Anwendung von Art. 159 Abs. 2 OG von der Auflage einer Parteientschädigung zugunsten des obsiegenden Kantons abzusehen. Denn der Streitwert von zirka Fr. 13'000. -- ist relativ gering (vgl. <ref-law>, der die Kostenlosigkeit des Verfahrens für Streitwerte bis zu Fr. 20'000. -- vorsieht), die Parteientschädigung von Fr. 12'500. -- ist demgegenüber verhältnismässig hoch und es handelt sich beim öffentlichrechtlichen Arbeitgeber um den Kanton St. Gallen, der nicht auf eine anwaltliche Vertretung angewiesen ist (vgl. zu Art. 159 Abs. 2 OG: <ref-ruling> E. 7 S. 202 mit Hinweisen). Der angefochtene Entscheid ist mithin soweit aufzuheben, als der Beschwerdeführerin eine Parteientschädigung für das kantonsgerichtliche Verfahren auferlegt wird.
Anders verhält es sich aber mit der Auferlegung einer Parteientschädigung für das bezirksgerichtliche Verfahren, da zu jenem Zeitpunkt das Gleichstellungsgesetz noch nicht in Kraft war. Mangels entsprechender Regelung oder kantonaler Praxis kann entgegen der Meinung der Beschwerdeführerin nicht gesagt werden, der Kanton habe analog zu Art. 159 OG generell keinen Anspruch auf eine Parteientschädigung. Die von der Beschwerdeführerin zitierte Literaturstelle befürwortet zwar die Regelung von Art. 159 OG und verweist auf Kantone, in denen sie von Gesetzes wegen oder in der Praxis verwirklicht wird (Martin Bernet, Die Parteientschädigung in der schweizerischen Verwaltungsrechtspflege, Diss. Zürich 1986, Rz. 183 S. 99). Daraus kann jedoch nicht abgeleitet werden, der Anspruch des Gemeinwesens auf eine Parteientschädigung sei rechtswidrig. Gerechtfertigt erscheint vielmehr, die vom Kantonsgericht für das gesamte kantonale Verfahren festgelegte Parteientschädigung zu halbieren und in teilweiser Gutheissung der Beschwerde auf neu Fr. 12'500. -- festzusetzen.
4.- a) Das Gleichstellungsgesetz, das während der Hängigkeit des Berufungsverfahrens in Kraft getreten ist, konkretisiert das aufgrund von Art. 4 Abs. 2 aBV geltende und unmittelbar anwendbare verfassungsrechtliche Diskriminierungsverbot, insbesondere das Lohngleichheitsgebot gemäss Satz 3 dieser Bestimmung. In seinen Aussagen zur Lohngleichheit ist das Gleichstellungsgesetz inhaltlich allerdings nicht konkreter als die Verfassung. Es enthält materiell-rechtlich nichts, was nicht bereits in Art. 4 Abs. 2 Satz 3 aBV enthalten wäre (<ref-ruling>, nicht publizierte Erwägung 4). Es können somit Literatur und Praxis zu beiden Vorschriften herangezogen werden. Die totalrevidierte Verfassung vom 18. April 1999 (BV), die am 1. Januar 2000 in Kraft getreten ist, hat am Diskriminierungsverbot gemäss Art. 4 Abs. 2 aBV nichts geändert (siehe <ref-law>).
b) Art. 4 Abs. 2 Satz 3 aBV und <ref-law> verbieten jede direkte und indirekte Benachteiligung von Arbeitnehmerinnen und Arbeitnehmern aufgrund ihres Geschlechts. Die Beschwerdeführerin macht eine indirekte Diskriminierung geltend. Sie behauptet nicht etwa, die Besoldungsordnung knüpfe zu Unrecht an das Geschlecht an; vielmehr beanstandet sie, dass das Lehrpersonal im Gesundheitswesen als frauenspezifische Berufsgruppe gegenüber den Berufsschullehrern im gewerblich-industriellen Bereich benachteiligt werde. Der im vorliegenden Verfahren unumstrittenen Annahme des Kantonsgerichts, wonach es sich bei den Lehrkräften für Krankenpflege um eine weiblich identifizierte Berufsgruppe handle, ist nichts entgegenzusetzen.
5.- Die Beschwerdeführerin wirft der Vorinstanz zunächst vor, sie habe sich gleichsam ausschliesslich auf das Gutachten II gestützt und sich zu Unrecht mit dem Gutachten I zu wenig auseinander gesetzt und damit das Willkürverbot, das rechtliche Gehör, das Diskriminierungsverbot sowie Art. 6 und 12 GlG verletzt. Zur Bewertung der in Frage stehenden Berufe gebe es verschiedene Methoden, zu denen die sog. Funktionsbewertung des Betriebswissenschaftlichen Instituts der ETH ZH (BWI) und die vereinfachte Funktionsanalyse (VFA) zu zählen seien. Im Gutachten I würden beide Methoden angewandt, währenddem das Gutachten II nur auf der VFA beruhe. Das Kantonsgericht habe das Gutachten I nur in Bezug auf die VFA herangezogen und keine Erklärung betreffend die Ausserachtlassung der BWI-Methode gegeben. Zwar herrsche der Grundsatz der freien Beweiswürdigung. Eine von einem Gutachten abweichende Meinung müsse jedoch begründet werden. Das gelte hier umso mehr, als die BWI-Methode differenzierter sei als die VFA, der Kriterienkatalog Schulamt Zürich 1989 speziell auf Lehrberufe zugeschnitten und das Gutachten I von einem akademisch besser qualifizierten Fachmann verfasst worden sei.
a) Es trifft zu, dass das Kantonsgericht nicht ausdrücklich erklärt, weshalb es den Experten mit einer Stellenbewertung gemäss der VFA beauftragt hat, und dass es ausserdem zur BWI-Methode nicht - jedenfalls nicht direkt - Stellung nimmt. Das ist jedoch nicht bundesrechtswidrig. Der erhebliche Ermessensspielraum, der den zuständigen Behörden bei der Ausgestaltung eines Besoldungssystems im öffentlichen Dienst zukommt, widerspiegelt sich in der gerichtlichen Prüfung dieses Systems: Das Bundesgericht verlangt als Rechtfertigung für Lohnunterschiede keinen wissenschaftlichen Nachweis, sondern nur sachlich haltbare Motive. So können die zuständigen Behörden gemäss ständiger Rechtsprechung aus der Vielzahl denkbarer Anknüpfungspunkte die Tatbestandselemente auswählen, die für die Besoldung von Beamten massgebend sein sollen. Das Lohngleichheitsgebot schränkt diesen grossen Ermessensspielraum nicht grundsätzlich ein. Ob verschiedene Tätigkeiten als gleichwertig zu betrachten sind, kann nicht wissenschaftlich objektiv und wertfrei entschieden werden, sondern hängt von Beurteilungen ab, die unterschiedlich ausfallen können. Es gibt verschiedene arbeitswissenschaftliche Bewertungsverfahren, die sich in Aufgliederung, Gewichtung und Bewertung der Anforderungen unterscheiden. Das Diskriminierungsverbot schreibt nicht eine "richtige" Lösung vor, sondern lässt unterschiedliche Bewertungsverfahren und -kriterien zu. Eine Arbeitsplatzbewertung verstösst daher nicht schon dann gegen das Verbot der Lohndiskriminierung, wenn eine andere Bewertung ebenfalls mit guten Gründen vertretbar wäre oder gar aus der Sicht bestimmter arbeitswissenschaftlicher Theorien besser begründet erschiene, sondern nur dann, wenn bei der Bewertung geschlechtsspezifische Diskriminierungen bei der Auswahl oder Gewichtung der Kriterien oder der Einreihung der einzelnen Funktionen erfolgten (<ref-ruling> E. 5b S. 537; <ref-ruling> E. 2c/aa S. 79, mit Hinweisen). Ob die BWI-Methode differenzierter und auf den vorliegenden Fall besser zugeschnitten bzw. der Gutachter I besser qualifiziert sei als der Gutachter II, spielt daher keine Rolle, soweit die vom Kantonsgericht herangezogene VFA nicht gegen das Diskriminierungsverbot verstösst. Zudem kann mit Blick auf den erheblichen Ermessensspielraum bei der Wahl des Bewertungsverfahrens wesensgemäss keine Begründung für oder gegen die Wahl eines bestimmten Verfahrens verlangt werden. Es genügt, wenn das gewählte Verfahren die verfassungsmässigen Anforderungen erfüllt. Dabei hat das Kantonsgericht hier immerhin dargelegt, inwiefern ein Bewertungssystem herangezogen werden dürfe, das nicht dem der kantonalen Dienst- und Besoldungsordnung zugrunde liegenden Entlöhnungssystem entspreche. Unter diesen Umständen durfte das Kantonsgericht, das sich weitgehend auf das Gutachten II stützte, vom Ergebnis des Gutachtens I abweichen. Es musste dafür (über die Wahl des unterschiedlichen Bewertungsverfahrens hinaus) keine besonderen triftigen Gründe anführen. Das Kantonsgericht war insbesondere nicht verpflichtet, sich im Einzelnen mit dem Gutachten I auseinander zu setzen. Im Übrigen wird im angefochtenen Entscheid immer wieder auf das Gutachten I Bezug genommen. Das Kantonsgericht hat somit weder das rechtliche Gehör noch das Diskriminierungsverbot verletzt. Nicht ersichtlich ist ferner, inwieweit ein Verstoss gegen <ref-law>, wonach eine von einer Diskriminierung angeblich betroffene Person diese nur glaubhaft zu machen braucht, und <ref-law>, wonach die Kantone das schriftliche Verfahren und die Prozessvertretung nicht ausschliessen dürfen, vorliegen sollte.
b) Wie das Bundesgericht wiederholt festgestellt hat und von der Beschwerdeführerin nicht grundsätzlich in Frage gestellt wird, gilt die VFA als zulässiges Bewertungsverfahren (BGE <ref-ruling> E. 3 S. 80; <ref-ruling> E. 10 S. 429, mit Hinweisen). Die Beschwerdeführerin wendet gegen die VFA ein, im Gutachten II seien die zur Diskussion stehenden Funktionen unzulässig erweitert worden. Sie, die Beschwerdeführerin, habe eine Diskriminierung nur gegenüber Berufsschullehrern mit Meister-Ausbildung, nicht auch noch gegenüber Berufsschullehrern mit HTL-Ausbildung behauptet. Diese Quervergleiche würden sich auf die Bewertung der Lehrkräfte für die Krankenpflege nachteilig auswirken.
c) Bei der Bestimmung der Vergleichsgruppen geht es um eine Rechtsfrage. Eine Partei kann mithin nicht die Vergleichsgruppen durch ihr Rechtsbegehren bestimmen.
Ob die kantonsgerichtliche Bildung der Vergleichsgruppen zulässig ist, kann vorläufig offen bleiben. Denn die Beschwerde wäre bereits unbegründet, wenn die Funktion Lehrerinnen für psychiatrische Krankenpflege nicht den gleichen Wert hätte wie die Funktion Berufsschullehrer mit Meisterausbildung. Es soll daher zunächst geprüft werden, ob letztere Funktion höher eingestuft werden darf - und allenfalls in welchem Ausmass - als die Funktion Lehrerinnen für psychiatrische Krankenpflege. Dabei stellt die Beschwerdeführerin die Feststellung des Kantonsgerichts nicht in Frage, wonach zwischen beiden genannten Funktionen ein Lohnunterschied von acht Lohnklassen besteht. Im vorliegenden Verfahren ist demnach zu prüfen, ob allfällige Unterschiede zwischen beiden Berufsgruppen gesamthaft betrachtet eine solche Lohndifferenz rechtfertigen.
d) Zutreffend vergleicht das Kantonsgericht hauptamtliche Lehrerinnen für psychiatrische Krankenpflege mit hauptamtlichen, nicht mit nebenamtlichen Berufsschullehrern. Mit Bezug auf die Gruppenbildung stellt die Beschwerdeführerin diese Beschränkung des Vergleichs auf hauptamtliche Berufsschullehrer anstatt wie im Gutachten I auf einen Durchschnitt von nebenamtlichen und hauptamtlichen Berufsschullehrern nicht in Abrede. Sie wirft der Vorinstanz jedoch vor, diese Kritik am Gutachten I erst im Endurteil gemacht und somit ihren Anspruch auf rechtliches Gehör verletzt zu haben. Diese Rüge ist unbegründet. Die genannte Beschränkung ergab sich bereits aus dem Auftrag an den Gutachter II; dieser Auftrag wurde den Parteien mitgeteilt. Die Beschwerdeführerin hatte somit im kantonsgerichtlichen Verfahren durchaus Gelegenheit, zur Beschränkung des Vergleichs auf die hauptamtlichen Berufsschullehrer Stellung zu nehmen.
e) Schliesslich geht die Rüge der Beschwerdeführerin fehl, wonach das Kantonsgericht in willkürlicher Feststellung des Sachverhalts und in krasser Abweichung von beiden Gutachten behaupte, dass zwischen den verglichenen Lehrerberufen nur eine gewisse Verwandtschaft bestehe, weil Berufsschullehrer eine rein theoretische Lehrtätigkeit hätten, währenddem Lehrerinnen in der psychiatrischen Krankenpflege eine aus Theorie, Praxis und Verwaltung bestehende Tätigkeit ausüben würden. Indessen hat das Kantonsgericht die Vergleichbarkeit beider Berufsgruppen trotzdem bejaht, so dass diese Feststellung im Ergebnis für die Beschwerdeführerin keine Rolle spielt.
6.- Das dem kantonsgerichtlichen Urteil zugrunde liegende Gutachten II zieht die Kriterien "Ausbildung", "geistige Anforderungen", "psychische Beanspruchung", "physische Anforderungen und Belastungen" sowie "Beanspruchung Sinnesorgane und spezielle Arbeitsbedingungen" heran. Die Kritik der Beschwerdeführerin am kantonsgerichtlichen Vergleich der Berufsschullehrer mit den Lehrerinnen für psychiatrische Krankenpflege bezieht sich auf die Bewertungskriterien "Ausbildung" sowie "geistige Anforderungen".
a) Beim ersten Kriterium erzielt die Funktion der Lehrerin für Krankenpflege gemäss dem Gutachten II die Stufe 3,0, die Funktion der Berufsschullehrer die Stufe 3,25. Dabei wird die Meisterprüfung mit einer halben Stufe bewertet. Diese halbe Stufe können die Lehrerinnen für psychiatrische Krankenpflege nicht erreichen, da es für sie keine Meisterprüfung gibt. Entgegen der Meinung der Beschwerdeführerin verstösst dieser Umstand jedoch nicht gegen das Diskriminierungsverbot. Die Ausgestaltung der Ausbildung ist zum einen objektiv begründet. Die Meisterprüfung dient dazu, eine bestimmte Stufe des Könnens und des Wissens nachzuweisen, die gemäss den dafür zuständigen Organen zur Ausbildung von Lehrlingen erforderlich ist. Sie zielt nicht auf eine lohnmässige Besserstellung ab. Dies stellt höchstens eine Reflexwirkung dieser Prüfung dar. Sollte ein öffentliches Interesse an einer vergleichbaren Prüfung für Lehrerinnen für psychiatrische Krankenpflege bestehen, müsste diese mit anderen Mitteln eingeführt werden als mit einer Lohndiskriminierungsklage. Zudem kann mit dem Kantonsgericht nicht gesagt werden, dass die Lehrerinnen für psychiatrische Krankenpflege eine der Meisterprüfung entsprechende Ausbildung vorweisen würden. Im Zusammenhang mit der Ausbildung kann somit nicht, wie die Beschwerdeführerin es tut, argumentiert werden, die Lehrerinnen für psychiatrische Krankenpflege würden faktisch die gleiche Funktion ausüben wie Lehrmeister, weshalb die Meisterprüfung (fiktiv) angerechnet werden müsste. Sollten sie eine vergleichbare Funktion ausüben, dürfte das nicht unter dem Titel "Ausbildung" angerechnet werden.
b) Entgegen der Behauptung der Beschwerdeführerin hat das Kantonsgericht den Umstand, dass Krankenschwestern ihre Ausbildung erst ab dem 18. Lebensjahr beginnen können, nicht unberücksichtigt gelassen. Vielmehr übernahm es die dafür im Gutachten II vorgesehene Viertelsstufe. Im Rahmen der Frage, inwiefern die Ausbildung der Lehrerinnen für psychiatrische Krankenpflege derjenigen der Lehrmeister entspreche, durfte sich das Kantonsgericht ferner auf die für die Zulassung zur Meisterprüfung erforderliche Ausbildungsdauer und Ausbildungsart stützen, zumal die Breite der Ausbildung im Rahmen des Kriteriums "geistige Anforderungen" mittelbar einbezogen wird. Es kann dabei nicht gesagt werden, das Kantonsgericht habe lediglich die Dauer der Ausbildung in Betracht gezogen. Vielmehr hat es auch deren Art berücksichtigt: So führt das Kantonsgericht z.B. aus, die Ausbildung von Lehrerinnen für psychiatrische Krankenpflege umfasse eine zweisemestrige theoretische Ausbildung (mit Praktika) sowie ein 3. Semester mit Schwerpunkt Praxis; zusätzlich fänden 6 Wochen Blockunterricht statt, und es würden zwei praktische Prüfungen durchgeführt und das Verfassen einer schriftlichen Arbeit verlangt. Demgegenüber müssten die Berufsschullehrer mit Meisterausbildung ein dreisemestriges vollumfänglich theoretisches Studium ablegen. Anschliessend folge ein berufsbegleitendes Praxisjahr mit vier Wochen berufsbegleitenden Blockkursen. Insgesamt würden auf der Seite der Lehrerinnen für psychiatrische Krankenpflege 1500 Lektionen gegenüber 1720 Lektionen auf der Seite der Berufsschullehrer mit Meisterausbildung stehen. Unter dem Gesichtspunkt des Kriteriums "Ausbildung" genügt diese Vergleichsart, welcher die Praxis des Bundesgerichts im Übrigen nicht entgegensteht (siehe insbes. <ref-ruling> E. 10e S. 430 f.). Das Kantonsgericht hat aufgrund des unterschiedlichen Ausbildungsaufwands zu Recht der Funktion Berufsschullehrer mit Meisterausbildung eine zusätzliche Viertelsstufe angerechnet, womit diese Funktion beim Kriterium "Ausbildung" um insgesamt eine halbe Stufe höherwertig ist als die Funktion Lehrerinnen für psychiatrische Krankenpflege (3,5 gegen 3,0).
c) Beim Kriterium "geistige Anforderungen" übernahm das Kantonsgericht die Bewertung des Gutachtens II, wonach die Funktionen Lehrerinnen für psychiatrische Krankenpflege und Berufsschullehrer mit Meisterausbildung gleichwertig seien (Stufe 3,0). Die Beschwerdeführerin wirft dem Kantonsgericht dabei eine unzulässige allgemeine Rückstufung des klinischen Unterrichts gegenüber dem theoretischen Unterricht vor. Diese Rüge ist unbegründet. Das Bundesgericht verlangt als Rechtfertigung für Lohnunterschiede keinen wissenschaftlichen Nachweis, sondern nur sachlich haltbare Motive (dazu oben E. 5a). Hier liegen solche Motive vor: Der klinische Unterricht erfordert zwar eine grosse Flexibilität und ein besonderes Feingefühl bei der Vermittlung der Pflege psychisch kranker Menschen, da diese regelmässig mit weitgehenden Eingriffen in die psychische Integrität der Patienten verbunden ist. Die Vermittlung dieses Wissens findet jedoch im Einzelunterricht statt, währenddem der theoretische Unterricht vor ganzen Klassenverbänden durchgeführt wird. Der theoretische Unterricht erfordert wesensgemäss einen höheren Abstraktionsgrad. Dieser Umstand wird durch das unterschiedliche Vorbildungs- und Verständnisniveau der Lehrlinge in der Berufsschule erschwert. Hinzu kommt, dass die Lehrlinge der Berufsschule gemäss der unumstrittenen Feststellung des Kantonsgerichts (vgl. Art. 105 Abs. 2 OG) allgemein deutlich weniger motiviert sind als die Auszubildenden in der Krankenpflege. Gesamthaft betrachtet durfte das Kantonsgericht ohne Verstoss gegen das Diskriminierungsverbot den theoretischen Unterricht höher bewerten als den klinischen Unterricht (vgl. den Entscheid des Bundesgerichts vom 6. Oktober 1999 E. 3, Pra 1/2000 S. 4 ff., wo das Bundesgericht die Zulässigkeit der höheren Einstufung der humanistisch-gymnasialen gegenüber der rein kaufmännischen Ausbildung bejahte). Aufgrund der genannten objektiven Faktoren kann insbesondere (entgegen der Behauptung der Beschwerdeführerin) nicht gesagt werden, die höhere Einstufung des theoretischen Unterrichts durch das Kantonsgericht entspringe einer diskriminierenden Ansicht, wonach pflegerische und fürsorgerische Aufgaben mit einer besonderen Nähe zum Menschen traditionell weiblich und demnach als minderwertig zu betrachten seien.
Unbeachtlich ist schliesslich in diesem Zusammenhang der Hinweis der Beschwerdeführerin auf die Aussage einer der befragten Lehrerinnen für psychiatrische Krankenpflege, wonach der klinische Unterricht schwieriger sei als der theoretische: Das Kantonsgericht hat anhand der Befragungen der betroffenen Personen festgestellt, dass subjektiv grundsätzlich beide Ansichten vertreten würden. Die Meinung einer einzelnen befragten Person kann somit nicht ausschlaggebend sein.
7.- Die Funktionen Lehrerinnen für psychiatrische Krankenpflege und Berufsschullehrer mit Meisterausbildung sind somit bereits nach Massgabe der im wissenschaftlichen Bewertungsverfahren herangezogenen Kriterien nicht gleichwertig. Bei den Kriterien "geistige Anforderungen", "physische Anforderungen und Belastungen", "Beanspruchung Sinnesorgane und spezielle Arbeitsbedingungen" erzielen beide Funktionen die gleiche Stufe. Ausserdem nimmt das Kantonsgericht entgegen dem Gutachten II zu Recht Gleichwertigkeit beim Kriterium "Verantwortung" an. Beide Funktionen unterscheiden sich somit wie gesehen beim Kriterium "Ausbildung" relativ deutlich (3,0 für die Lehrerinnen für psychiatrische Krankenpflege gegen 3,5 für Berufsschullehrer). Ein weiterer Unterschied liegt beim Kriterium "psychische Beanspruchung" (3,0 gegen 2,5) vor. Das lässt sich durch die Konfrontation der Lehrerinnen für psychiatrische Krankenpflege mit Leid, Krankheit, Tod erklären. Beide Funktionen sind dennoch nicht gleichwertig, weil die Kriterien "Ausbildung" und "psychische Beanspruchung" nicht gleich schwer zu gewichten sind: Für das erste Kriterium gilt die Gewichtung 300 und für das zweite die Gewichtung 60. Damit erhält die Funktion Berufsschullehrer einen deutlichen Vorsprung gegenüber der Funktion Lehrerinnen für psychiatrische Krankenpflege. Eine lohnmässige Besserstellung ist somit nach Massgabe der VFA ohne weiteres zulässig. Um die Höhe der besseren Entlöhnung zu rechtfertigen, verweist das Kantonsgericht über das wissenschaftliche Arbeitsbewertungsverfahren hinaus auf zwei weitere Gesichtspunkte: die Finanzierung der Ausbildung sowie die allgemeine Marktsituation.
8.- Die Beschwerdeführerin wendet mit Bezug auf die Ausbildungskosten im Wesentlichen ein, die Ausbildung stelle keinen Lohn dar. Die Ausbildungskosten würden den Betroffenen nie ausbezahlt und sie würden für die besoldungsmässige Einstufung keine Rolle spielen, da die Besoldung nicht davon abhängig sei, wer bzw. welcher Kanton für die Ausbildung habe aufkommen müssen. Mit Bezug auf den Lohn, der während der Ausbildung ausbezahlt würde, verweist die Beschwerdeführerin darauf, dass er mit Pflichtzeitvereinbarungen von zwei bis fünf Jahren gekoppelt sei - was mit Blick auf die durchschnittliche kurze Verweildauer der Frau am Arbeitsplatz sehr lange sei. Diskriminierend sei schliesslich die Berücksichtigung der Ausbildung deshalb, weil die BIGA-Berufe, die im Zuständigkeitsbereich des Bundes stünden, dem Kanton wesensgemäss weniger kosten würden. Unter Hinweis auf ein Rechtsgutachten von J.F. Aubert aus dem Jahre 1995 macht die Beschwerdeführerin geltend, die Tatsache, dass die Gesetzgebungskompetenz im Bereich der Krankenpflege nicht auf den Bund übertragen worden sei, sei nicht neutral, sondern geschlechtsspezifisch geprägt und somit diskriminierend.
Diese Einwände sind unbegründet. Das Kantonsgericht durfte ohne Verstoss gegen das Diskriminierungsverbot die Kosten einbeziehen, welche die Ausbildung der Lehrerinnen für psychiatrische Krankenpflege dem Kanton verursachen, und gestützt darauf eine höhere Einstufung der Berufsschullehrer schützen. Dies aus folgenden Gründen:
a) Unter Lohn im Sinne von Art. 4 Abs. 2 Satz 3 aBV bzw. <ref-law> ist nach der Rechtsprechung nicht nur der Geldlohn im engeren Sinne zu verstehen, sondern jedes Entgelt, das für geleistete Arbeit entrichtet wird (<ref-ruling> E. 4c S. 87). Dazu gehören nach der Lehre auch soziale Lohnkomponenten wie ein Anspruch auf Besoldung während des Mutterschaftsurlaubs, Familien-, Kinder- und Alterszulagen (Jörg Paul Müller, Grundrechte in der Schweiz, Bern 1999, S. 465; Georg Müller, Kommentar aBV, Zürich 1995, Rz. 142 zu Art. 4). Die Leistung muss allerdings einen engen Zusammenhang mit der Arbeit aufweisen. Aus diesem Grund gilt z.B. eine Witwerrente nicht als Lohn im Sinne von Art. 4 Abs. 2 Satz 3 aBV bzw. <ref-law> (<ref-ruling> E. 2a/aa S. 207; <ref-ruling>
E. 4c S. 87).
b) Der erforderliche Zusammenhang zwischen der Ausbildung und der Entlöhnung der Lehrerinnen für psychiatrische Krankenpflege ist hier zu bejahen, obwohl die Ausbildung im Gegensatz zu den sonstigen aufgeführten Beispielen vor der Entlöhnung geleistet und nicht bar ausbezahlt wird. Die genügend enge Verbindung zur Arbeit kommt durch die mit der Ausbildung gekoppelten Pflichtzeitvereinbarungen der vom Kanton ausgebildeten Lehrerinnen klar zum Ausdruck: Der Kanton gewährt den zukünftigen Lehrerinnen einen Urlaub, bietet die Ausbildung an und richtet ihnen während dieser Zeit - insgesamt 59 Wochen - einen Lohn aus. In der Folge sind die ausgebildeten Lehrerinnen verpflichtet, während einer gewissen Zeit für den Kanton tätig zu sein. Die Pflichtzeitvereinbarungen sind also entgegen der Meinung des Kantonsgerichts nicht unbeachtlich. Anders als die Beschwerdeführerin meint, kann jedoch nicht gesagt werden, dass die Lehrerinnen für psychiatrische Krankenpflege nur schon durch die Einhaltung der Pflichtzeitvereinbarungen die Kosten ihrer Ausbildung wieder ausgleichen würden. Die Beteiligung des Kantons an der Ausbildung der Lehrerinnen für psychiatrische Krankenpflege rechtfertigt eine gewisse Lohneinbusse für sie im Vergleich zu den Berufsschullehrern, deren Ausbildung höchst beschränkt, in Form von Stipendien, d.h. ohne direkten Zusammenhang zwischen der Leistung des Gemeinwesens und der Berufsausübung, vom Kanton getragen wird.
c) Dass nicht alle Lehrerinnen für psychiatrische Krankenpflege vom Kanton St. Gallen ausgebildet werden, steht einer Berücksichtigung der Ausbildungskosten nicht entgegen, da gemäss der unumstrittenen Feststellung der Vorinstanz die interkantonale Fluktuation wenig bedeutend ist. Dabei ist darauf hinzuweisen, dass die Beschwerdeführerin selber vom Kanton St. Gallen ausgebildet wurde. Im Übrigen durfte das Kantonsgericht ohne Verstoss gegen das Diskriminierungsverbot auf eine genaue Abrechnung des sich aus der kantonalen Finanzierung der Ausbildungskosten ergebenden geldwerten Vorteils für die Lehrerinnen für psychiatrische Krankenpflege und auf die Ermittlung der durchschnittlichen Anstellungsdauer verzichten. Denn es geht nicht um einen ziffernmässig genau ermittelbaren Vergleich, sondern um die generelle Einstufung. Ausserdem lässt sich der praktische Vorteil, der das Kantonsgericht unter dem Stichwort "Marktvorteil" behandelt und der darin besteht, dass die an einer Weiterbildung interessierten Krankenschwestern keine Lohneinbusse in Kauf nehmen und auch sonst kein finanzielles Risiko eingehen müssen, nicht zahlenmässig ausdrücken. Dabei ist darauf hinzuweisen, dass die Pflichtzeitvereinbarungen implizit bedeuten, dass nach Abschluss der Ausbildung eine Beschäftigung als Lehrerin zugesichert ist. Das genügt, um eine unterschiedliche Einstufung der Lehrerinnen für psychiatrische Krankenpflege im Verhältnis zu den Berufsschullehrern zu rechtfertigen.
d) Die Tatsache, dass die Ausbildungskosten für BIGA-Berufe nicht vom Kanton, sondern vom Bund getragen werden, schliesst nicht aus, dass man sie berücksichtigt. Denn es kann keineswegs gesagt werden, dass die verfassungsmässige Kompetenzverteilung zwischen Bund und Kanton im Bereich der Krankenpflege-Berufe auf einer unzulässigen diskriminierenden Weltanschauung beruhe. Auch im von der Beschwerdeführerin angerufenen Gutachten wird das nicht behauptet: In diesem Gutachten (Ziff. 15) wird die im Parlament im Jahre 1946 erfolgte Ablehnung einer Übertragung der kantonalen Kompetenz im Bereich des Pflegepersonals auf den Bund zwar auf das katholisch-konservative Bild der Ordensschwestern zurückgeführt. Zum einen ist damit jedoch nicht gesagt, dass es um eine (verpönte) diskriminierende Kompetenzzuteilung geht. Die Kompetenzverteilung zwischen Bund und Kanton kann ohnehin wesensgemäss nicht als diskriminierende Tatsache betrachtet werden, sondern liegt in der unbeschränkten Autonomie des Verfassungsgebers. Zum anderen wird im Gutachten noch ausgeführt, dass die geltende Zuständigkeitsregelung auch darauf beruht, dass man im Jahre 1946 bestimmte Berufsgruppen, insbesondere die "sozialen" Berufe, unabhängig davon, ob sie unentgeltlich oder zu Erwerbszwecken ausgeübt würden, nicht der Kompetenz des Bundes unterstellen wollte. In diesem Beweggrund ist kein diskriminierendes Element ersichtlich.
9.- a) Mit Bezug auf das vom Kantonsgericht angeführte Argument der Marktsituation macht die Beschwerdeführerin geltend, es herrsche bei den Pflegeberufen ein weitgehendes Staatsmonopol, weshalb der Markt kaum einen Einfluss habe. Auf diese Weise könne der Staat ohne weiteres ein diskriminierendes Entlöhnungssystem errichten. Zudem würde der Markt diskriminierende Zustände gerade fördern, so dass man zum Vornherein nicht darauf abstellen dürfe. Widersprüchlich sei das angefochtene Urteil insbesondere deshalb, weil es den Berufsschullehrern marktbedingt höhere Löhne zubillige, währenddem es gleichzeitig anerkenne, dass sie im Vergleich zur Privatwirtschaft einen privilegierten Status hätten. Die Beschwerdeführerin verweist ferner auf Meinungen in der Lehre, die allgemein ablehnen, Lohnunterschiede mit den Verhältnissen auf dem Arbeitsmarkt zu rechtfertigen (Olivier Steiner, Das Verbot der indirekten Diskriminierung aufgrund des Geschlechts im Erwerbsleben, Basel 1999, S. 296, mit Hinweisen; siehe auch Monique Cossali Sauvain, La loi fédérale sur l'égalité entre femmes et hommes du 24 mars 1995, in Journée 1995 du droit du travail et de la sécurité sociale, Zürich 1999, S. 57 ff.). Ferner müsse eine Lohngleichheitsklage auch gutgeheissen werden, wenn sie sich auf das Lohnsystem eines ganzen Kollektivs auswirken und Änderungen nach sich ziehen könne.
b) Diese Kritik ist unbegründet. Die Berücksichtigung von Marktmechanismen bei der Ausgestaltung eines Entlöhnungssystems ist nicht grundsätzlich ausgeschlossen (BGE <ref-ruling> E. 3d/aa S. 85). Es besteht kein Anlass, im Sinne eines Teils der Lehre von diesem Grundsatz abzuweichen, zumal hier nicht ersichtlich ist, dass dadurch diskriminierende Umstände aus der Privatwirtschaft in das öffentlichrechtliche Arbeitsverhältnis eingeführt würden. Insoweit durfte das Kantonsgericht gestützt auf das Gutachten II sowie auf zwei Kurzgutachten den Umstand in Betracht ziehen, dass der Kanton den Berufsschullehrern Bedingungen anbieten muss, die attraktiv genug sind, damit diese auf Karrierechancen mit der entsprechenden Entlöhnung in der Privatwirtschaft verzichten. Diese teilweise Ausrichtung auf den Markt ist jedoch als (notwendige) Ausnahme im Entlöhnungsraster zu betrachten und begründet grundsätzlich keine Pflicht für den Kanton, mit der Entlöhnung von Berufsgruppen, die nicht in Konkurrenz mit der Privatwirtschaft stehen, nachzuziehen. Wie oben dargelegt, bestehen für die unterschiedliche lohnmässige Einreihung objektive und sachliche Gründe. Es kann somit nicht gesagt werden, monopolähnliche Zustände im staatlichen Gesundheitswesen ermöglichten die Aufrechterhaltung eines diskriminierenden Entlöhnungssystems. Nicht ersichtlich ist schliesslich, inwieweit hier der Markt als solcher diskriminierend sein sollte. Das Kantonsgericht hat an der von der Beschwerdeführerin angerufenen Stelle nur ausgeführt, bei gewissen gewerblichen Berufen, wie beispielsweise Bäckern, Coiffeuren, Automechanikern würden die Gehälter der Berufsschullehrer jenen von Betriebsinhabern in sehr guter Situation entsprechen. Das gilt aber bei weitem nicht für alle gewerblichen Berufe. So stellt das Kantonsgericht eine deutliche Konkurrenzierung zur Privatwirtschaft bei qualifizierten Berufen wie Elektrotechnik, Elektronik, Informatik sowie bei anderen Ingenieurberufen fest. Den Kantonen ist dabei eine gewisse Pauschalierung im Sinne einer Gleichbehandlung aller Fachkundelehrer nicht verwehrt. Die Marktsituation darf daher gegenüber den Lehrerinnen für psychiatrische Krankenpflege zu einer Besserstellung der Berufsschullehrer mit Meisterausbildung führen.
10.- Gesamthaft betrachtet durfte das Kantonsgericht eine bessere Entlöhnung der Berufsschullehrer mit Meisterausbildung gegenüber den Lehrerinnen für psychiatrische Krankenpflege im erwähnten Ausmass (vgl. dazu den Entscheid des Bundesgerichts vom 6. Oktober 1999, E. 2e S. 4, Pra 1/2000 S. 4) ohne Verstoss gegen das Diskriminierungsverbot schützen. Die Frage, ob das Kantonsgericht die Berufsschullehrer mit HTL-Ausbildung in den Vergleich einbeziehen durfte, erübrigt sich daher (vgl. oben E. 5c).
11.- Nach dem Gesagten ist auf die staatsrechtliche Beschwerde nicht einzutreten. Die Verwaltungsgerichtsbeschwerde ist teilweise begründet: Der angefochtene Entscheid ist aufzuheben, soweit der Beschwerdeführerin eine Parteientschädigung für das kantonsgerichtliche Verfahren auferlegt wird. Die von der Beschwerdeführerin dem Kanton geschuldete Parteientschädigung ist auf Fr. 12'500. -- herabzusetzen. Im Übrigen ist die Verwaltungsgerichtsbeschwerde als unbegründet abzuweisen.
Das Verfahren ist kostenlos (<ref-law>). Vorliegend findet das Gleichstellungsgesetz materiell-rechtlich zwar noch keine Anwendung (vorne E. 2a). Der Sache nach geht es jedoch teilweise um Diskriminierungsansprüche, die - soweit das Gleichstellungsgesetz intertemporalrechtlich bereits anwendbar wäre - nach diesem Gesetz zu beurteilen wären. Es rechtfertigt sich daher, für das nach dem Inkrafttreten dieses Gesetzes durchgeführte bundesgerichtliche Verfahren den Grundsatz der Kostenlosigkeit bereits anzuwenden (<ref-ruling>, nicht publizierte E. 5; <ref-ruling>, nicht publizierte E. 12b). Das gilt indessen nur, soweit es um die Diskriminierung aufgrund des Geschlechts geht, nicht hingegen, soweit andere verfassungsrechtliche Fragestellungen zur Diskussion stehen (<ref-ruling> E. 3 S. 229 f.). Da hier die Rügen der Verletzung des rechtlichen Gehörs und des Willkürverbots nur von untergeordneter Bedeutung sind, kann jedoch von einer solchen reduzierten Auferlegung der Gerichtsgebühren Umgang genommen werden. Der obsiegende Kanton hat dabei keinen Anspruch auf Parteientschädigung (Art. 159 Abs. 2 OG, analog).

Demnach erkennt das Bundesgericht:
1.- Die Verfahren 1A.255/1999 und 1P.641/1999 werden vereinigt.
2.- Auf die staatsrechtliche Beschwerde wird nicht eingetreten.
3.- Die Verwaltungsgerichtsbeschwerde wird teilweise gutgeheissen und Ziffer 4 des Entscheids des Kantonsgerichts vom 27. September 1999 aufgehoben. Die Beschwerdeführerin hat dem Kanton St. Gallen für das erstinstanzliche Verfahren eine Parteientschädigung von Fr. 12'500. -- zu bezahlen.
Im Übrigen wird die Verwaltungsgerichtsbeschwerde abgewiesen.
4.- Es wird keine Gerichtsgebühr erhoben.
5.- Dieses Urteil wird der Beschwerdeführerin, dem Kanton St. Gallen sowie der III. Zivilkammer des Kantonsgerichts St. Gallen schriftlich mitgeteilt.
_
Lausanne, 17. Mai 2000
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Die Gerichtsschreiberin: