Art. 6 EMRK etc. (Sicherheitsleistung), hat sich ergeben:
A.- Mit Entscheid vom 17. Januar 2001 verfügte der Präsident des Kantonsgerichts von Appenzell A.Rh. in einem Erbschaftsprozess zwischen X._ einerseits und Y._ sowie Z._ andererseits, dass X._ eine Sicherheitsleistung von Fr. 45'500.-- zu erbringen habe, ansonsten die von ihm erhobene Klage auf seine Kosten angebrachtermassen am Protokoll abgeschrieben werde. Die Kosten der Verfügung im Betrag von Fr. 510.-- wurden X._ auferlegt.
B.- Gegen diese Verfügung beschwerte sich X._ am 5. Februar 2001 bei der Justizaufsichtskommission des Obergerichts von Appenzell A.Rh. (nachfolgend: Justizaufsichtskommission).
Die Obergerichtskanzlei setzte ihm am 21. Februar 2001 eine Frist von 14 Tagen zur Einreichung einer Beschwerdeergänzung an. Zugleich wurde er zur Bezahlung einer Einschreibgebühr von Fr. 100.-- angehalten, welche fristgerecht geleistet wurde. Der weiteren Aufforderung, die ihm im angefochtenen Entscheid auferlegten Verfahrenskosten von Fr. 510.-- zu bezahlen, kam X._ jedoch nicht nach.
Die Justizaufsichtskommission trat daher mit Entscheid vom 15. März 2001 auf die Beschwerde nicht ein.
C.- X._ hat mit Eingabe vom 22. Mai 2001 staatsrechtliche Beschwerde an das Bundesgericht erhoben mit dem Antrag, den Entscheid der Justizaufsichtskommission aufzuheben.
Der Präsident der II. Zivilabteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 14. Juni 2001 aufschiebende Wirkung zuerkannt.
Vernehmlassungen in der Sache sind nicht eingeholt worden.

Das Bundesgericht zieht in Erwägung:
1.-Von hier nicht gegebenen Ausnahmen abgesehen ist die staatsrechtliche Beschwerde rein kassatorischer Natur (<ref-ruling> E. 4a und b S. 332 ff.). Die Rückweisung der Angelegenheit zu neuer Entscheidung ist im Falle der Gutheissung der Beschwerde daher selbstverständlich und ein entsprechender Antrag überflüssig (<ref-ruling> E. 3c/bb S. 354 f.).
2.- a) Der angefochtene Entscheid ist während den Ostergerichtsferien (<ref-law>/AR) zugestellt worden. Der Beschwerdeführer meint, dies müsse zur Aufhebung des Entscheides führen. Er beruft sich dabei auf <ref-law> (Willkürverbot), Art. 6 Ziff. 1 EMRK und <ref-law> (Rechtsgleichheitsgebot).
Selbst wenn, wovon der Beschwerdeführer ausgeht, aber kaum zutreffen kann, eine derartige Zustellung nach ausserrhodischem Prozessrecht absolut unzulässig wäre, würde sich daraus nicht ergeben, dass der Entscheid aufzuheben wäre. Aus mangelhafter Eröffnung darf der Partei kein Nachteil erwachsen (<ref-ruling> E. 3a aa; S. 99); daraus ergibt sich aber nicht, dass der Entscheid aufgehoben werden müsste.
Einen Nachteil hat der Beschwerdeführer aus der Eröffnung während der Gerichtsferien in keiner Weise erlitten, hat doch die Beschwerdefrist für die staatsrechtliche Beschwerde erst nach den Gerichtsferien zu laufen begonnen (Art. 34 OG; <ref-ruling>). Die staatsrechtliche Beschwerde ist denn auch fristgerecht eingereicht worden.
b) Einen Eröffnungsfehler will der Beschwerdeführer sodann darin erblicken, dass der angefochtene Entscheid nicht mit einer Rechtsmittelbelehrung versehen war. Er beruft sich diesbezüglich auf Art. 20 Abs. 4 KV/AR, wonach die Parteien Anrecht auf eine Rechtsmittelbelehrung haben. Ob dies, wie der Beschwerdeführer ohne weitere Begründung behauptet, nicht nur für ordentliche, sondern auch für ausserordentliche Rechtsmittel Geltung habe, ist nicht zu prüfen, da dem Beschwerdeführer auch in diesem Punkt kein Nachteil erwachsen ist.
3.- a) Wer ein Rechtsmittel ergreift, hat nach <ref-law>/AR eine Einschreibgebühr zu entrichten, welche der Beschwerdeführer im vorliegenden Fall im Betrag von Fr. 100.-- fristgerecht geleistet hat. Ausserdem sieht <ref-law>/AR vor, dass die Partei, die ein Rechtsmittel ergreift, die ihr im angefochtenen Entscheid auferlegten Kosten vorläufig zu bezahlen hat, unter Vorbehalt des Rückgriffs auf Grund des endgültigen Kostenspruches. Gestützt hierauf hätte der Beschwerdeführer die ihm im erstinstanzlichen Verfahren auferlegten Verfahrenskosten von Fr. 510.-- bezahlen müssen, was er nicht getan hat. Deshalb ist die Justizaufsichtskommission auf die von ihm eingereichte Beschwerde nicht eingetreten.
<ref-law>/AR selber sieht diese Rechtsfolge nicht ausdrücklich vor. Doch bestimmt <ref-law>/AR, dass eine Massnahme zum Nachteil der säumigen Partei unterbleibt, wenn ein Vorschuss nicht geleistet wird.
b) Wenn die Justizaufsichtskommission gestützt auf Art. 85 Abs. 4 in Verbindung mit <ref-law>/AR bei Nichtbezahlung der im angefochtenen Entscheid auferlegten Verfahrenskosten auf das Rechtsmittel nicht eintritt, verstösst dies nicht gegen das Willkürverbot (<ref-law>). Willkür läge nur vor, wenn die Auslegung des kantonalen Gerichts offensichtlich unhaltbar wäre (<ref-ruling> E. 3a S. 15, mit Hinweisen), was aber jedenfalls nicht zutrifft. Die Verpflichtung zur Bezahlung der im angefochtenen Entscheid auferlegten Verfahrenskosten würde wenig Sinn machen, wenn sie nicht damit gekoppelt wäre, dass auf das Rechtsmittel nicht eingetreten würde. Da diese Kosten noch nicht rechtskräftig auferlegt worden sind, kann die Verpflichtung, sie zu bezahlen, durchaus als spezielle Art der Kostenbevorschussung verstanden werden. Damit ist es aber naheliegend, die Sanktion von <ref-law> zur Anwendung zu bringen und auf das Rechtsmittel bei Nichtbezahlung nicht einzutreten.
c) Dass es im Interesse ordnungsgemässer Justizverwaltung zulässig ist, für die mutmasslichen Prozesskosten einen Vorschuss von demjenigen zu verlangen, der staatlichen Rechtsschutz in Anspruch nimmt, entspricht einer allgemeinen Praxis in den Kantonen und widerspricht auch Art. 6 Ziff. 1 EMRK nicht (<ref-ruling> E. 4a; Arthur Haefliger/FrankSchürmann, Die Europäische Menschenrechtskonvention und die Schweiz, 2. Aufl. 1999, S. 165 f.). Die Regelung von <ref-law>/AR verlangt, dass die schon aufgelaufenen Prozesskosten gedeckt sind, wenn der Streit in der Rechtsmittelinstanz weitergeführt werden soll. Wenn mutmassliche Prozesskosten zum Voraus erhoben werden können, so erscheint umso mehr zulässig, für die Weiterführung eines Prozesses in der Rechtsmittelinstanz zu verlangen, dass die schon entstandenen Kosten gedeckt sind. Verfassungsrechtlichen Bedenken begegnet die fragliche Regelung mithin nicht.
d) Der Beschwerdeführer behauptet, die Säumnisfolgen seien nicht hinreichend deutlich angedroht worden. Er beruft sich dabei auf das Willkürverbot (<ref-law>), Treu und Glauben (<ref-law>), das Rechtsgleichheitsgebot (<ref-law>) und auf Art. 6 Ziff. 1 EMRK. Indessen ist dem Beschwerdeführer eine Frist von 14 Tagen zur Bezahlung des Betrages von Fr. 510.-- unter der Androhung angesetzt worden, er "riskiere" im Säumnisfall, dass auf das Rechtsmittel nicht eingetreten werde. Entgegen der Auffassung des Beschwerdeführers kann er aus der gewählten Formulierung nichts zu seinen Gunsten ableiten. Die Rechtsfolge der Säumnis ergibt sich daraus ohne jeden vernünftigen Zweifel. Nicht stichhaltig ist auch die Rüge, das Vertrauensprinzip sei verletzt, wenn ein Nichteintretensentscheid gefällt werde, wiewohl der Beschwerdeführer um aufschiebende Wirkung ersucht bzw. dargelegt habe, weshalb seiner Beschwerde aufschiebende Wirkung zukomme. Die aufschiebende Wirkung würde sich auf die Sicherheitsleistung beziehen, zu welcher der Beschwerdeführer in erster Instanz verpflichtet worden ist, hat aber nichts damit zu tun, dass er für die Behandlung des Rechtsmittels zunächst die ihm im erstinstanzlichen Prozess auferlegten Verfahrenskosten hätte bezahlen müssen.
e) Nach Auffassung des Beschwerdeführers soll die Verpflichtung zur Bezahlung der im angefochtenen Entscheid auferlegten Kosten die Rangordnung der Gläubiger nach dem Schuldbetreibungs- und Konkursrecht unterlaufen, weshalb die derogatorische Kraft des Bundesrechts verletzt werde. Das trifft jedoch nicht zu, denn mit dieser Rangordnung (Art. 219 f. SchKG) hat es nichts zu tun, wenn für Prozesshandlungen Vorschüsse verlangt werden bzw. auf ein Rechtsmittel nur eingetreten wird, wenn die erstinstanzlich auferlegten Kosten bezahlt werden.
4.- a) Der Beschwerdeführer macht in formeller Hinsicht geltend, die Justizaufsichtskommission hätte gestützt auf Art. 6 Ziff. 1 EMRK eine öffentliche Verhandlung durchführen müssen. Auf die Durchführung einer öffentlichen Verhandlung kann jedoch verzichtet werden, wenn auf ein Rechtsmittel deshalb nicht eingetreten werden kann, weil die Zulässigkeitsvorschriften nicht eingehalten sind, namentlich ein Kostenvorschuss nicht geleistet worden ist (<ref-ruling> E. 4d S. 325; Entscheid der Europäischen Kommission für Menschenrechte vom 17. Mai 1995 i.S. Müller, VPB 60/1996 Nr. 112).
b) Der Beschwerdeführer erachtet schliesslich den verfassungsrechtlichen Gehörsanspruch (<ref-law>) als verletzt, weil ihm vor Erlass des Nichteintretensentscheids nicht noch Gelegenheit zur Stellungnahme gegeben worden sei.
Er hätte offenbar geltend machen wollen, dass es unzulässig sei, das Eintreten auf die Beschwerde von der Bezahlung der erstinstanzlichen Kosten abhängig zu machen. Dazu aber hatte der Beschwerdeführer bereits Gelegenheit, als er am 8. März 2001 seine Beschwerdeergänzung einreichte. Zu diesem Zeitpunkt war ihm aufgrund der Verfügung vom 21. Februar 2001 bekannt, dass die Justizaufsichtskommission auf seine Beschwerde nicht eintreten würde, wenn der Betrag von Fr. 510.-- nicht innert der angesetzten Frist bezahlt würde.
5.- Die staatsrechtliche Beschwerde erweist sich damit als unbegründet und ist abzuweisen, soweit darauf einzutreten ist.
Entsprechend diesem Verfahrensausgang hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen (Art. 156 Abs. 1 OG).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Die Gerichtsgebühr von Fr. 1'200.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird den Parteien und dem Obergericht von Appenzell A.Rh., Justizaufsichtskommission, schriftlich mitgeteilt.
_
Lausanne, 16. Juli 2001
Im Namen der II. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Das präsidierende Mitglied:
Der Gerichtsschreiber: