(Eröffnung eines Erbvertrags), hat sich ergeben:
A.- Am 26. April 1998 verstarb X._. Mit ihrem vorverstorbenen Ehemann hatte sie am 12. Februar 1968 einen Ehe- und Erbvertrag abgeschlossen. Danach sollte bei gleichzeitigem Ableben beider Ehegatten oder nach dem Tode des zweitversterbenden Ehegatten das dann noch vorhandene Gesamtgut zu je einem Viertel an die Kinder des Ehegatten aus erster Ehe bzw. deren Rechtsnachfolger, an die Grosskinder des Ehegatten, an Y._, Bruder der Ehegattin bzw. dessen Rechtsnachfolger, und an Z._, Sohn des Y._ gehen (Ziffer 4 des Erbvertrags).
Der Bezirksammann im Amt Werdenberg eröffnete den Ehe- und Erbvertrag am 24. Juli 1998 und stellte eine eröffnete Verfügung in Kopie unter anderem den unter den Ziffern 1 bis 15 genannten Personen als eingesetzten Erben zu (Kinder aus erster Ehe bzw. deren Rechtsnachfolger und Grosskinder des Ehemannes). Gleichzeitig wurden ein öffentliches Inventar mit Rechnungsruf, die Erbschaftsverwaltung und ein Erbenruf angeordnet, da die erbvertraglich bedach- ten gesetzlichen Erben nicht vollständig ermittelt werden konnten.
Nachdem feststand, dass der vorverstorbene gesetzliche Erbe Z._ keine ausserehelichen Nachkommen hinterlassen hatte, eröffnete der Bezirksammann die Verfügung von Todes wegen der Mutter des gesetzlichen Erben, W._. Die entsprechende Verfügung vom 11. November 1998 wurde als Nachtrag zur Testamentseröffnung vom 24. Juli 1998 bzw. neue Eröffnung an die Mutter des vorverstorbenen Neffen der Erblasserin bezeichnet. Gleichentags teilte der Bezirksammann der gesetzlichen Erbin und den eingesetzten Erben den Abschluss der Inventaraufnahme mit und forderte sie auf, sich innert Monatsfrist über den Erwerb der Erbschaft zu erklären.
Da sich auf den Erbenruf hin weitere gesetzliche Erben gemeldet hatten, eröffnete der Bezirksammann auch diesen die letztwillige Verfügung am 13. Januar 2000 unter der Bezeichnung "Testamentseröffnung im Nachlass" bzw.
"Nachtrag zur Testamentseröffnung vom 24.07.1998 bzw.
11.11.1998 an die eingesetzten Erben". Mit gleichem Datum erging ein Nachtrag zur Verfügung vom 11. November 1998 betreffend öffentliches Inventar, mit dem der Bezirksammann den neu gemeldeten Erben den Abschluss der Inventaraufnahme mitteilte, einschliesslich weiterer, inzwischen eingegangener Forderungen gegen den Nachlass, und sie aufforderte, sich innert Monatsfrist über den Erwerb der Erbschaft zu erklären.
Schliesslich stellte der Bezirksammann die Erbbescheinigung aus und hob die Erbschaftsverwaltung auf (Verfügungen vom 22. und 29. Mai 2000).
B.- Mit Schreiben vom 21. Januar 2000 an den Bezirksammann bestritten die fünfzehn eingesetzten Erben die Erbberechtigung der in der Verfügung vom 13. Januar 2000 als gesetzliche Erben aufgeführten Personen. Gegen die Verfü- gung rekurrierten sie gleichentags beim Justiz- und Polizeidepartement des Kantons St. Gallen und verlangten deren Aufhebung.
Das Departement trat auf den Rekurs mangels Beschwer bzw. schutzwürdigem Interesse der Rekurrenten sowie mangels sachlicher Zuständigkeit nicht ein (Entscheid vom 13. März 2000). Die dagegen erhobene Beschwerde der eingesetzten Erben erklärte das Verwaltungsgericht des Kantons St. Gallen für unzulässig und trat darauf mit der Begründung nicht ein, zuständige Rechtsmittelbehörde sei der Einzelrichter des Kantonsgerichts (Entscheid vom 6. Juli 2000). Entsprechend übermittelte es diesem die Beschwerdeschrift.
C.- Mit staatsrechtlicher Beschwerde beantragen die fünfzehn eingesetzten Erben dem Bundesgericht, den Nichteintretensentscheid des Verwaltungsgerichts aufzuheben und die Sache zur Neubeurteilung an dieses zurückzuweisen. Sie rügen eine Verletzung von Art. 8 (Rechtsgleichheit), von Art. 9 (Schutz vor Willkür und Wahrung von Treu und Glauben) und von <ref-law> (Anspruch auf rechtliches Gehör) sowie eine Missachtung der vom Schweizerischen Zivilgesetzbuch vorgegebenen sachlichen Zuständigkeit der Behörden. Es ist keine Vernehmlassung eingeholt worden.

Das Bundesgericht zieht in Erwägung:
1.- a) Behördliche Erbschaftspflege, namentlich der Erlass von Sicherungsmassregeln (Art. 551-559 ZGB), gehört zur freiwilligen Gerichtsbarkeit in Zivilsachen (vgl. die Nachweise bei Poudret/Sandoz-Monod, Commentaire de la loi fédérale d'organisation judiciaire, II, Bern 1990, N. 1.2.39, S. 17 f., und N. 2.3.11, S. 35, sowie N. 1.2 zu Art. 68 OG, S. 633). Daherige Verfügungen unterliegen weder der eidgenössischen Berufung, die von hier nicht zutreffenden Ausnahmen abgesehen (Art. 44 lit. a-f und Art. 45 lit. b OG) nur in Zivilrechtsstreitigkeiten gegeben ist, noch der Verwaltungsgerichtsbeschwerde, die als Anfechtungsgegenstand eine auf öffentliches Recht des Bundes gestützte Anordnung voraussetzt (Art. 97 OG i.V.m. <ref-law>). Hingegen ist die Nichtigkeitsbeschwerde zulässig (z.B. <ref-ruling> E. 1 S. 110: Ausstellung einer Erbbescheinigung), so dass die Rüge der Beschwerdeführer, der angefochtene Entscheid verletze bundesrechtliche Zuständigkeitsvorschriften (Art. 68 Abs. 1 lit. e OG; <ref-ruling> E. 1 S. 323), nicht mit staatsrechtlicher Beschwerde wegen Verletzung verfassungsmässiger Rechte der Bürger erhoben werden kann (Art. 84 Abs. 1 lit. a und Abs. 2 OG); dasselbe gilt für den implizit erhobenen Einwand, die willkürlich angewendete kantonale Zuständigkeitsordnung vereitle die Durchsetzung des materiellen Erbrechts (Art. 68 Abs. 1 lit. a OG; <ref-law>; zuletzt: <ref-ruling> E. 1c S. 353; weitere Nachweise bei Poudret/Sandoz-Monod, N. 2.2, S. 627 f., und N. 9 zu Art. 68 OG).
b) Anfechtungsgegenstand ist der Nichteintretensentscheid des Verwaltungsgerichts als letztinstanzlicher kantonaler Entscheid (Art. 86 Abs. 1 OG), hingegen nicht diesem vorausgegangene Entscheide. Deren Mitanfechtung ist offensichtlich ausgeschlossen (für die Voraussetzungen zuletzt:
BGE 125 I 492 E. 1a/aa S. 493). Auf die Rügen gegen den Departementsentscheid wie auch gegen die Verfügungen des Bezirksammanns kann nicht eingetreten werden (zuletzt:
BGE 119 Ia 421 E. 2b S. 422). Unzulässig sind daher die materiell-rechtlichen Einwände der Beschwerdeführer, die sich gegen die Vorgehensweise des Bezirksammanns und gegen den Nichteintretensentscheid des Departementes richten; mit dem eigentlichen Anfechtungsgegenstand stehen sie in keinem Zusammenhang, da das Verwaltungsgericht einen blossen Prozessentscheid gefällt hat. Was die gegenüber dem Departement erhobenen Vorwürfe mangelnder Unabhängigkeit im Besonderen angeht, legen die Beschwerdeführer nicht dar, dass sie diese Rüge bereits vor Verwaltungsgericht erhoben hätten; mit dem Vorbringen formeller Rügen bis vor Bundesgericht zuzuwarten, verletzt den Grundsatz von Treu und Glauben (Art. 5 Abs. 3 und Art. 9 BV; zuletzt: <ref-ruling> E. 3b S. 196; <ref-ruling> E. 3c S. 254; <ref-ruling> E. 2b/aa S. 375).
c) Mit der staatsrechtlichen Beschwerde kann in der Regel ausschliesslich die Aufhebung des angefochtenen Entscheids verlangt werden (zuletzt: <ref-ruling> E. 1b S. 107). Der Rückweisungsantrag der Beschwerdeführer ist neben dem Aufhebungsantrag, weil selbstverständlich, überflüssig, liegt aber im zulässigen Rahmen, da nicht gesagt wird, in welcher Richtung die Vorinstanz neu entscheiden solle (Art. 90 Abs. 1 lit. a OG; Messmer/Imboden, Die eidgenössischen Rechtsmittel in Zivilsachen, Zürich 1992, S. 226 Anm. 10; Urteil des Bundesgerichts vom 15. Dezember 1993, E. 1b, in: SJ 1994 S. 434).
d) Auf die staatsrechtliche Beschwerde kann nach dem Gesagten ausschliesslich insoweit eingetreten werden, als Verfassungsrügen gegen die verneinte Zuständigkeit des Verwaltungsgerichts erhoben werden. Die weiteren Zulässigkeitsvoraussetzungen geben zu keinen Bemerkungen Anlass.
2.- a) Für die Anordnung von Massregeln zur Sicherung des Erbganges (<ref-law>), namentlich für die Eröffnung der letztwilligen Verfügungen (Art. 556-559 ZGB), ist der Bezirksammann (heute: das Amtsnotariat) zuständig (Art. 7 des Einführungsgesetzes zum Schweizerischen Zivilgesetzbuch vom 3. Juli 1911/22. Juni 1942, sGS 911. 1, EGzZGB).
Rekurse und Beschwerden gegen dessen Verfügungen und Entscheide beurteilt das zuständige Departement, soweit das Gesetz keine abweichenden Vorschriften enthält (Art. 12 Abs. 1 EGzZGB); für das Verfahren und den Rechtsschutz gilt, abweichende Vorschriften vorbehalten, das Gesetz über die Verwaltungsrechtspflege (Art. 11 EGzZGB). Das Verwaltungsgericht beurteilt Beschwerden gegen Entscheide der Departemente (Art. 59bis des Gesetzes über die Verwaltungsrechtspflege vom 16. Mai 1965, sGS 951. 1, VRP), wobei das Gesetz keine Anwendung findet, soweit eidgenössische Erlasse oder kantonale Gesetze abweichende Vorschriften enthalten (Art. 2 Abs. 1 VRP). Eine solche Abweichung findet sich in Art. 12 Abs. 2 EGzZGB, wonach Verfügungen und Entscheide des Departementes gemäss Abs. 1 in bestimmten, hier nicht interessierenden Fällen der Berufung an das Kantonsgericht (Abs. 2 lit. a) und in allen übrigen Fällen dem Rekurs an den Einzelrichter des Kantonsgerichts unterliegen (Abs. 2 lit. b).
Die Zuständigkeit des Einzelrichters des Kantonsgerichts für Rekurse gegen Verfügungen und Entscheide des zuständigen Departementes wird in den Art. 16 lit. b und Art. 217 lit. c des Zivilprozessgesetzes vom 20. Dezember 1990 (sGS 961. 2, ZPO) wiederholt.
b) Gestützt auf die gezeigte Gesetzgrundlage hat das Verwaltungsgericht sich für unzuständig und den Rekurs an den Einzelrichter des Kantonsgerichts für gegeben erachtet.
Die Ansicht ist unter Willkürgesichtspunkten nicht zu beanstanden (zum Begriff der willkürlichen Anwendung kantonalen Rechts, z.B. <ref-ruling> E. 5b S. 106 und 292 E. 3a S. 294).
Es trifft an sich zu, dass Rechtsmittel auch nach dem Kriterium der Rügen abgegrenzt werden können, wie das teilweise für die eidgenössische Berufung gilt, mit der nur die Verletzung von Bundesrecht unter Ausschluss verfassungsmässiger Rechte geltend gemacht werden kann (Art. 43 Abs. 1 OG). An die Art der Rügen knüpft die kantonale Rechtsmittelordnung indessen nicht an. Massgebend für die sachliche Zuständigkeit der Rechtsmittelinstanz ist vielmehr das in der Verfügung geregelte materielle Rechtsverhältnis (statt vieler:
Gygi, Bundesverwaltungsrechtspflege, 2.A. Bern 1983, S. 42 ff. Ziffer 4 und S. 92 Ziffer 4; z.B. <ref-ruling> E. 1 S. 414; VPB 63/1999 Nr. 78 E. 2b S. 733).
Die vom Bezirksammann getroffenen Massnahmen bezwecken, den Erbgang zu sichern, den Inhalt der Verfügung von Todes wegen den als Erben in Betracht fallenden Personen bekannt zu geben und den als prima facie berechtigt erscheinenden Erben einen provisorischen Ausweis über ihre Stellung auszustellen (Karrer, Basler Kommentar, N. 2 der Vorbem. zu Art. 551-559 ZGB, N. 2 zu <ref-law> und N. 3 zu <ref-law> mit Nachweisen). Der Verfügungsinhalt fällt ohne weiteres in die sachliche Zuständigkeit des Bezirksammanns (Art. 7 EGzZGB) und damit auch des Departementes und - wie das Verwaltungsgericht ohne Verletzung verfassungsmässiger Rechte der Beschwerdeführer festhalten durfte - des Einzelrichters des Kantonsgerichts als Rechtsmittelinstanzen (Art. 12 Abs. 1 und 2 lit. b EGzZGB). Mit Beschwerde und Rekurs kann geltend gemacht werden, das in der Verfügung enthaltene Rechtsverhältnis unterstehe nicht den angerufenen Bestimmungen des EGzZGB und des ZGB, diese seien unrichtig angewendet worden oder überhaupt nicht anwendbar (vgl. etwa Gygi, a.a.O., S. 296 f. Ziffern 3 und 4). Ob darüber ein Zivil- oder Verwaltungsgericht entscheidet, hat das Bundesgericht den Kantonen überlassen, solange es sich um ein Gericht mit freier Prüfungsbefugnis handelt (vgl. dazu Leuenberger/Uffer-Tobler, Kommentar zur Zivilprozessordnung des Kantons St. Gallen, Bern 1999, N. 4c zu <ref-law>, S. 48).
c) Es wird daher zunächst Aufgabe des Einzelrichters des Kantonsgerichts sein zu prüfen, ob das Departement mit Recht auf den Rekurs nicht eingetreten ist. Wenn er diese Frage verneint, werden die kantonalen Behörden weiter zu prüfen haben, ob das ZGB den angefochtenen Nachtrag zur Testamentseröffnung zulässt oder ausschliesst. Das Verwaltungsgericht hat keine verfassungsmässigen Rechte der Beschwerdeführer verletzt, wenn es angesichts der dargestellten Zuständigkeitsordnung seine sachliche Zuständigkeit verneint hat und auf die Verwaltungsgerichtsbeschwerde nicht eingetreten ist.
3.- Die unterliegenden Beschwerdeführer werden kostenpflichtig (Art. 156 Abs. 1 und 7 OG).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Die Gerichtsgebühr von Fr. 3'000.-- wird den Beschwerdeführern unter solidarischer Haftbarkeit auferlegt.
3.- Dieses Urteil wird den Beschwerdeführern und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
_
Lausanne, 23. November 2000
Im Namen der II. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: