hat sich ergeben:
A.- Die Sanierung des Verkehrsknotens St. Anna - Steinegg im Bezirk Rüte beschäftigen die Behörden und die Bevölkerung des Kantons Appenzell I.Rh. seit rund 30 Jahren. Nach Aufhebung oder Abänderung verschiedener bereits beschlossener Projekte stimmte die Landsgemeinde am 28. April 1996 der Sanierungs-Variante "C PLUS" zu. Die vorgesehene Neugestaltung der Strassen- und Bahnkreuzung, durch welche die Verkehrssicherheit erhöht werden soll, bedingt eine Verschiebung der Geleise der Appenzeller Bahnen, die Erstellung eines neuen Fussgängerübergangs sowie den Bau eines Bahnsteigs und eines Wartehäuschens für die Haltestelle Steinegg.
Das Projekt "C PLUS" wurde gemäss den Vorschriften der kantonalen Strassengesetzgebung öffentlich aufgelegt.
Zwei dagegen erhobene Einsprachen wies die Standeskommission des Kantons Appenzell I.Rh. am 1. Juli 1997 ab. Deren Entscheid blieb unangefochten. Das Bundesamt für Verkehr genehmigte das Vorhaben am 14. September 1999 gemäss Art. 18a des Eisenbahngesetzes in der damals geltenden Fassung.
B.- In der Folge nahm das Bau- und Umweltdepartement des Kantons Appenzell I.Rh. mit W._ - dem Eigentümer des an der Kreuzung gelegenen Hotels Rössli - Verhandlungen über eine Landabtretung bzw. über einen Landabtausch auf. Da keine Einigung erzielt werden konnte, leitete das Departement am 4. November 1999 ein kantonales Enteignungsverfahren ein. Die Standeskommission erteilte am 25. Januar 2000 dem Kanton Appenzell I.Rh. und dem Bezirk Rüte als Eigentümer der in die Verkehrssanierung einbezogenen Strassen das Enteignungsrecht im verlangten Umfang (Abtretung von 904 m2 an den Kanton Appenzell I.Rh. und von 350 m2 an den Bezirk Rüte). Die Beschwerde, die W._ gegen diesen Entscheid erhob, wies das Kantonsgericht Appenzell I.Rh. (Abteilung Verwaltungsgericht) nach Einholung einer Stellungnahme des Bundesamtes für Verkehr am 30. Mai 2000 ab, soweit auf sie eingetreten werden konnte.
C.- W._ hat gegen den Entscheid des Kantonsgerichts Appenzell I.Rh. Verwaltungsgerichtsbeschwerde und staatsrechtliche Beschwerde eingereicht. Er verlangt in beiden Beschwerden die Aufhebung des angefochtenen Entscheides.
Im Rahmen der Verwaltungsgerichtsbeschwerde beantragt er zudem, die Standeskommission und das Bundesamt für Verkehr seien anzuweisen, für die Sanierung des Verkehrsknotens Steinegg das bundesrechtliche Plangenehmigungsverfahren durchzuführen. Weiter sei festzustellen, dass die fragliche Enteignung nach eidgenössischem Recht durchzuführen sei.
Die Standeskommission stellt den Antrag, die staatsrechtliche Beschwerde sei abzuweisen; auf die Verwaltungsgerichtsbeschwerde sei nicht einzutreten, eventuell sei sie abzuweisen. Das Kantonsgericht ersucht um Abweisung der Beschwerden, soweit darauf einzutreten sei. Nach Meinung des im verwaltungsgerichtlichen Verfahren angehörten Bundesamtes für Verkehr ist die Verwaltungsgerichtsbeschwerde abzuweisen.
Den Beteiligen ist Gelegenheit eingeräumt worden, sich zur Stellungnahme des Bundesamtes für Verkehr zu äussern.

Das Bundesgericht zieht in Erwägung:
1.- Der Beschwerdeführer hat den Entscheid des Kantonsgerichtes sowohl mit Verwaltungsgerichtsbeschwerde als auch mit staatsrechtlicher Beschwerde angefochten. Die staatsrechtliche Beschwerde wird allerdings nur vorsorglich für den Fall erhoben, dass das Bundesgericht auf die Verwaltungsgerichtsbeschwerde nicht einträte. Es ist daher - auch unter dem Gesichtswinkel von Art. 84 Abs. 2 OG - zu prüfen, ob und inwieweit auf die Verwaltungsgerichtsbeschwerde eingetreten werden könne.
a) Der Beschwerdeführer macht mit der Verwaltungsgerichtsbeschwerde hauptsächlich geltend, die kantonalen Behörden hätten für den Landerwerb zur Realisierung des Verkehrssanierungsprojekts zu Unrecht kantonales statt eidgenössisches Enteignungsrecht angewendet. Der angefochtene Entscheid beruhe auf einer unzutreffenden Auslegung der Bestimmungen von Art. 18 und 18a des Eisenbahngesetzes vom 20. Dezember 1957 (EBG; SR 742. 101) in der Fassung vom 8. Oktober 1982 (aEBG, in Kraft ab 1. Januar 1985 bis
31. Dezember 1999; vgl. AS 1984 S. 1429). Ob öffentliches Recht des Bundes durch unrichtige Auslegung oder Anwendung verletzt oder zu Unrecht übergangen worden sei, ist nach ständiger Rechtsprechung - sofern keiner der in Art. 99-101 OG oder in der Spezialgesetzgebung vorgesehenen Ausschlussgründe gegeben ist - im verwaltungsgerichtlichen Verfahren zu prüfen. Das gilt auch, wie das Bundesgericht schon mehrmals festgestellt hat, für die hier auf dem Gebiet des Eisenbahnwesens aufgeworfene Frage der richtigen Abgrenzung von kantonalem und eidgenössischem Recht (vgl. <ref-ruling> nicht publ. E. 1; <ref-ruling> E. 1; <ref-ruling> E. 5 S. 249, 400 E. 3; <ref-ruling> E. 1a; <ref-ruling> E. 1). Mit dieser Frage darf sich das Bundesgericht auch dann direkt befassen, wenn eine kantonale Instanz vorfrageweise über den Geltungsbereich des kantonalen Baubewilligungsverfahrens und des eisenbahnrechtlichen Plangenehmigungsverfahrens entschieden hat. Zwar beurteilt gemäss der Sondervorschrift von Art. 40 Abs. 1 lit. a EBG das Bundesamt für Verkehr (BAV) Streitigkeiten über "die Bedürfnisse des Bahnbaues und -betriebes" und damit über die - auch für das Enteignungsverfahren massgebende - Anwendbarkeit eidgenössischen oder kantonalen Verfahrensrechts.
Da jedoch in diesem - früher Anstandsverfahren genannten - Prozess die letztinstanzliche Entscheidung ebenfalls beim Bundesgericht liegt, darf in der Regel aus prozessökonomischen Gründen von der Durchführung eines solchen zusätzlichen Verfahrens abgesehen werden (vgl. <ref-ruling> E. 3; <ref-ruling> E. 1a; <ref-ruling> E. 1 S. 12). Die Streitsache gemäss Art. 40 EBG dem BAV zu überweisen, liesse sich hier umso weniger rechtfertigen, als sich dieses sowohl im kantonalen als auch im bundesgerichtlichen Verfahren zur Frage des anwendbaren Rechts bereits geäussert hat.
Die Verwaltungsgerichtsbeschwerde erweist sich demnach als zulässig, soweit die Nichtanwendung des eidgenössischen Enteignungsrechts und damit zusammenhängend der Verzicht auf ein bundesrechtliches Plangenehmigungsverfahren sowie die Verletzung des rechtlichen Gehörs gerügt wird.
b) Ist demnach im Wesentlichen auf die Verwaltungsgerichtsbeschwerde einzutreten, erübrigt sich die Behandlung der bloss vorsorglich erhobenen staatsrechtlichen Beschwerde.
Auf diese hätte ohnehin nicht eingetreten werden können, soweit mit ihr das dem Enteignungsverfahren vorangegangene strassenrechtliche Projektierungsverfahren beanstandet wird.
Diese Kritik hätte der Beschwerdeführer im seinerzeitigen Einspracheverfahren vorbringen müssen. Der Einwand, das Projekt sei ihm nie persönlich bekanntgemacht worden, ist ebenfalls unbehelflich, da sich weder aus Art. 4 aBV noch aus Art. 29 Abs. 2 BV ein Anspruch auf persönliche Benachrichtigung der nicht ortsansässigen Grundeigentümer im Planauflageverfahren ergibt (vgl. <ref-ruling> E. 1a; <ref-ruling> E. 2c S. 238 f.; <ref-ruling> E. 2a). Selbst wenn aber die Bekanntmachung des Strassenplanes mangelhaft erfolgt wäre, hätte der Beschwerdeführer mit seinen Einwendungen gegen das Verfahren nicht bis zum Scheitern der Landerwerbsverhandlungen zuwarten dürfen. Treu und Glauben hätten ihm geboten, die zur Wahrung seiner Rechte notwendigen Schritte unverzüglich zu unternehmen, sobald er auf irgendeine Weise vom Projekt Kenntnis erhielt (s. etwa <ref-ruling> E. 4a S. 76; <ref-ruling> E. 5f S. 38). Das war aber spätestens bei Aufnahme der Landerwerbsverhandlungen der Fall. Auch in diesem Lichte erscheint die nachträgliche Kritik als verspätet.
c) Der Beschwerdeführer beantragt die Durchführung eines Augenscheins. Der zur Beurteilung der aufgeworfenen Rechtsfragen massgebliche Sachverhalt geht indessen mit genügender Klarheit aus den Akten hervor. Auf die Vornahme eines Augenscheins ist daher zu verzichten.
2.- Der Beschwerdeführer macht in verfahrensmässiger Hinsicht geltend, das Kantonsgericht habe seinen Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV) verletzt, weil es auf die Rüge, auf das Sanierungsprojekt sei zu Unrecht Art. 18a aEBG und damit das kantonale Recht angewendet worden, nicht eingetreten sei. Zudem habe es ihm die Einsicht in die Genehmigungsverfügung des BAV verweigert.
Es trifft zu, dass das Kantonsgericht auf die Rüge der unrichtigen Rechtsgrundlage des durchgeführten Projektbewilligungsverfahrens formell nicht eingetreten ist, weil dieser Punkt nicht Gegenstand des Entscheids der Standeskommission gebildet habe. Hingegen untersuchte das Kantonsgericht die aufgeworfene Frage sehr wohl im Zusammenhang mit der Prüfung, ob die Enteignung nach eidgenössischem oder kantonalem Recht durchzuführen sei. Eine Verletzung des rechtlichen Gehörs ist unter diesen Umständen nicht zu erkennen. Dasselbe gilt mit Bezug auf die Verweigerung der Einsicht in die eisenbahnrechtliche Genehmigung gemäss Art. 18a aEBG. In der Stellungnahme, die das Bundesamt für Verkehr im kantonalen Beschwerdeverfahren abgab, werden die Gründe für die am 14. September 1999 erteilte Genehmigung nach Art. 18a aEBG im Einzelnen genannt. Da der Beschwerdeführer von dieser Stellungnahme Kenntnis erhielt, war er über die eisenbahnrechtliche Genehmigung jedenfalls so weit im Bilde, als sie für die vor dem Kantonsgericht streitigen Fragen von Belang war.
3.- Materiell ist umstritten, ob das Enteignungsverfahren für die Sanierung des Verkehrsknotens Steinegg nach eidgenössischem oder kantonalem Recht durchzuführen sei. Die Antwort auf diese Frage hängt davon ab, welchem Recht das der Enteignung vorangehende Projektgenehmigungsverfahren unterstand. Richtete sich die Verkehrssanierung, die sowohl Strassen- als auch Eisenbahnanlagen erfasst, nach eidgenössischem Eisenbahnrecht, so ist die zur Verwirklichung des Vorhabens nötige Enteignung ebenfalls nach Bundesrecht vorzunehmen (vgl. Art. 3, 18 und Art. 18a EBG bzw. Art. 3 und 18 Abs. 4 aEBG). Kann das Projekt dagegen nicht als eisenbahnrechtliches gelten, muss das kantonale Enteignungsrecht Anwendung finden. Die Möglichkeit einer freien Wahl zwischen kantonalem und eidgenössischem Enteignungsrecht, von der Art. 119 des Bundesgesetzes über die Enteignung vom 20. Juni 1930 (EntG; SR 711) spricht, sieht weder das Eisenbahngesetz noch das appenzellische Gesetz über das Strassenwesen vom 26. April 1998 vor. Dagegen ist nicht von vornherein ausgeschlossen, dass das Sanierungsvorhaben, falls es sich aufteilen lässt, teils dem Bundes- und teils dem kantonalen Recht unterliegen könnte.
Das Projekt zur Sanierung des Verkehrsknotens Steinegg ist von den kantonalen Instanzen im Jahre 1997 und damit vor dem Inkrafttreten der letzten Revision des Eisenbahngesetzes am 1. Januar 2000 rechtskräftig bewilligt worden.
Auch die Genehmigung des BAV ist vor diesem Datum erfolgt.
Ob das Vorhaben ganz oder teilweise dem Eisenbahnrecht hätte unterstellt werden müssen, ist somit aufgrund der bis 31. Dezember 1999 geltenden Normen zu prüfen. Dabei ist vorweg zu klären, ob diese Frage aufgrund der Verfahrensbestimmungen von Art. 18 und 18a aEBG (in der Fassung vom 8. Oktober 1982, in Kraft seit 1. Januar 1985) oder aufgrund der Sonderregelung von Art. 24 aEBG über Kreuzungen von Bahn und Strasse zu beantworten sei.
a) Nach Art. 18 aEBG sind die Pläne für die Erstellung und Änderung von Bauten und Anlagen, die ganz oder überwiegend dem Bahnbetrieb dienen, vor ihrer Ausführung allein von der Aufsichtsbehörde zu genehmigen (Abs. 1). Die beteiligten Bundesstellen, Kantone, Gemeinden und die betroffenen Grundeigentümer sind vor der Genehmigung der Pläne anzuhören (Abs. 2). Die auf kantonales Recht gestützten Anträge sind so weit zu berücksichtigen, als ihre Anwendung die Bahnunternehmung in der Erfüllung ihrer Aufgaben nicht unverhältnismässig einschränken (Abs. 3). Die Erstellung und Änderung von anderen Bauten und Anlagen unterstehen demgegenüber dem kantonalen Recht (Art. 18a aEBG). Sie bedürfen jedoch der Genehmigung durch die eisenbahnrechtliche Aufsichtsbehörde, sofern sie Bahngrundstücke beanspruchen oder an solche angrenzen, das Baugrundstück von einer (eisenbahnrechtlichen) Projektierungszone oder Baulinie erfasst ist, die Betriebssicherheit in Frage steht oder der künftige Ausbau von Bahnanlagen verunmöglicht oder erheblich erschwert wird (Art. 18a Abs. 1 aEBG). Das Genehmigungsverfahren wird von der nach kantonalem Recht zuständigen Baubehörde von Amtes wegen oder auf Antrag der Bahnunternehmung oder des Bauherrn eingeleitet (Art. 18a Abs. 2 aEBG).
Das Kantonsgericht hat das Projekt zur Sanierung des Verkehrsknotens Steinegg im Wesentlichen als Strassenbauvorhaben qualifiziert und daher im Sinne von Art. 18a aEBG die Anwendbarkeit des kantonalen Strassenrechts bejaht.
Das Gericht stützte sich dabei auf die Ausführungen des BAV, wonach der Schwerpunkt des Sanierungsprojekts im Strassenbereich liege und dieses nicht ganz oder überwiegend dem Bahnbetrieb diene, so dass lediglich eine Genehmigung nach Art. 18a aEBG erforderlich sei. Das Bundesamt hat in seiner Vernehmlassung im bundesgerichtlichen Verfahren ergänzend auf eine bereits im Jahre 1993 im Einvernehmen mit dem Bundesamt für Justiz vorgenommene Praxisänderung hingewiesen.
Danach sei, anders als noch ein Kreisschreiben vom 28. Juni 1989 festgehalten habe, beim Bau oder Umbau von Kreuzungen nicht mehr stets ein eisenbahnrechtliches Plangenehmigungsverfahren nach Art. 18 aEBG durchzuführen. Vielmehr sei in jedem Fall zu prüfen, ob das Hauptgewicht des Vorhabens beim Strassen- oder beim Eisenbahnbau liege. Sei der eisenbahnrechtliche Teil nur von untergeordneter Bedeutung, so werde gemäss Art. 18a aEBG das kantonale Verfahren als Hauptverfahren bezeichnet. Diese Lösung entspreche auch dem Koordinationsgebot.
Zwei Verfahren seien nur in Ausnahmefällen einzuleiten. Eine Aufteilung der Verfahren dürfe nur erfolgen, wenn eine sachliche Aufteilung des Projekts möglich und sinnvoll sei, so etwa, wenn sich auf beiden Seiten besondere fachtechnische Schwierigkeiten böten. Die Aufteilung dürfe zudem nur erfolgen, wenn sichergestellt sei, dass eine Instanz die Umweltauswirkungen des Gesamtprojektes umfassend prüfe. Eine solche Aufteilung habe sich im vorliegenden Fall nicht aufgedrängt.
b) Der Beschwerdeführer wendet gegen die Erwägungen des BAV und des Kantonsgerichtes ein, diese stünden mit Art. 24 aEBG in Widerspruch. Nach der Sonderbestimmung von Art. 24 Abs. 1 aEBG bedürften neue Kreuzungen sowie die Änderung oder Verlegung bestehender Kreuzungen zwischen Bahnen und öffentlichen oder privaten Strassen der Genehmigung der Aufsichtsbehörde; dabei finde nach Art. 24 Abs. 1 Satz 2 aEBG "Artikel 18 Anwendung". Das bedeute, dass bei Änderung von Kreuzungen immer das eisenbahnrechtliche Plangenehmigungsverfahren und demzufolge das eidgenössische Enteignungsverfahren durchzuführen sei. Dagegen treffe nicht zu, dass der blosse Verweis auf Art. 18 (und nicht auch auf Art. 18a) aEBG nur auf ein Versehen zurückzuführen sei.
Vielmehr habe sich der Gesetzgeber mit der Spezialvorschrift von Art. 24 Abs. 1 Satz 2 aEBG klar für das Primat des Bundesrechts entschieden und gehe diese kollisionsrechtliche Regel der generellen Ordnung von Art. 18 und 18a aEBG vor.
Soweit der Beschwerdeführer behauptet, der Gesetzgeber habe mit der Bestimmung von Art. 24 Abs. 1 Satz 2 aEBG bewusst die Anwendung von Art. 18a aEBG ausschliessen wollen, geht seine Argumentation fehl. Die in den Art. 18 und 18a aEBG geregelte Thematik war bis zur Teilrevision des Eisenbahngesetzes von 1982 in knapperer Form allein in Art. 18 geordnet. Da somit bei Erlass von Art. 24 aEBG im Jahre 1957 noch gar kein Art. 18a aEBG bestand, konnte der Gesetzgeber dessen Anwendung auch nicht ausschliessen wollen.
Im Weiteren liegen keine Anhaltspunkte dafür vor, dass bei der Neufassung von Art. 18 bzw. der Aufteilung der Regelung auf zwei Artikel im Jahre 1982 bezüglich der Kreuzungsbauwerke eine andere Ordnung als bisher getroffen werden sollte. In den Materialien weist nichts auf eine solche Änderungsabsicht hin. Es ist daher mit dem BAV anzunehmen, dass der Gesetzgeber bei der Schaffung von Art. 18a EBG im Jahre 1982 die Anpassung von Art. 24 Abs. 1 Satz 2 aEBG versehentlich unterliess. Die gleiche Unachtsamkeit ist ihm hinsichtlich der Bestimmung von Art. 40 lit. a aEBG unterlaufen, wo die Ergänzung des Verweises (auf Art. 18 und 18a) ebenfalls unterblieb (vgl. <ref-ruling> E. 3 S. 404). Demnach ist davon auszugehen, dass Art. 24 aEBG zwar die Voraussetzungen für die Genehmigung neuer oder geänderter Kreuzungen umschreibt, für das Verfahren aber keine Sonderordnung trifft, sondern auf die allgemeinen Bestimmungen von Art. 18 und 18a aEBG verweist.
Dieses Ergebnis wird übrigens durch die seit
1. Januar 2000 geltende Neuregelung bestätigt. Bei der jüngsten Revision des Eisenbahngesetzes wurde der Verweis in Art. 24 Abs. 1 Satz 2 im Sinne der obigen Erwägungen angepasst und ebenfalls auf Art. 18m erstreckt, der dem bisherigen Art. 18a entspricht. Allerdings unterlief dem Gesetzgeber wiederum ein Versehen. So wird in Art. 24 Abs. 1 Satz 1 EBG für neue oder zu ändernde Kreuzungsbauwerke noch immer generell eine Genehmigung des BAV verlangt, obwohl Art. 18m nur eine Zustimmung der Bahnunternehmung bzw. eine Anhörung des Bundesamts vorsieht.
4.- Ausschlaggebend für die Frage des auf das Sanierungsprojekt anwendbaren Rechts ist somit, ob das umstrittene Kreuzungsbauwerk im Sinne von Art. 18 aEBG "ganz oder überwiegend dem Bahnbetrieb" diene oder zu den "andern Bauten und Anlagen" gemäss Art. 18a aEBG zu zählen sei. Die Abgrenzung zwischen den beiden Arten von Anlagen hat auf Grund einer funktionellen Betrachtung zu erfolgen. Von einer ganz oder überwiegend dem Bahnbetrieb dienenden Anlage kann nur gesprochen werden, wenn sachlich und räumlich ein notwendiger, enger Zusammenhang derselben mit dem Bahnbetrieb besteht (Entscheid des Bundesgerichts vom 23. Mai 1995 in:
ZBl 97/1996 S. 373 E. 2b S. 376; <ref-ruling> E. 6c S. 44; Alexander Ruch, Eisenbahnrecht des Bundes und Raumordnungsrecht der Kantone, in: ZBl 90/1989 S. 526; Jean-Pierre Kälin, Das Eisenbahn-Baupolizeirecht, Diss. Zürich 1977, S.
58 ff.).
Kreuzungen zwischen Bahn und Strasse dienen naturgemäss zugleich dem Bahnbetrieb wie auch dem Strassenverkehr.
Es handelt sich damit stets um sog. gemischte Anlagen, enthalten sie doch regelmässig sowohl bahnbetriebliche als auch bahnbetriebsfremde Teile. Die Zuordnung zu einer der genannten Kategorien fällt deshalb schwer. Es fragt sich daher, ob für deren Bau und Änderung ein doppeltes Verfahren - ein eisenbahnrechtliches Plangenehmigungsverfahren für die bahnbetrieblichen Teile und ein kantonales strassenrechtliches Verfahren für die übrigen Teile - durchzuführen sei.
a) Das Bundesgericht hat in seiner bisherigen Rechtsprechung zwar die Durchführung zweier paralleler Verfahren für gemischte Bauten und Anlagen nicht ausgeschlossen, jedoch die Ansicht vertreten, es sollte auch in diesen Fällen in der Regel nur ein Bewilligungsverfahren - entweder das eisenbahnrechtliche oder das kantonale - abgewickelt werden (<ref-ruling> E. 5a S. 407). Dementsprechend hat es bei grösseren, nicht nur baulich, sondern auch funktionell und betrieblich zusammenhängenden Bauten und Anlagen darauf abgestellt, ob das Gesamtbauwerk überwiegend dem Bahnbetrieb diene, und eine gesonderte Prüfung der Zweckbestimmung einzelner Bauteile abgelehnt. So ist entschieden worden, dass die Ladenzentren im Zürcher Hauptbahnhof und im Bahnhof Zürich-Stadelhofen in das bundesrechtliche Plangenehmigungsverfahren für die jeweiligen Bahnhofkomplexe einzubeziehen und nicht als selbstständige Teile dem kantonalen Baubewilligungsverfahren zu unterstellen seien (<ref-ruling> E. 4 S. 270 ff.; <ref-ruling> E. 5b S. 407 ff.). Dagegen wurde ein enger Zusammenhang der Bahnanlagen mit einem Busbahnhof sowie einer Allee und Unterführung im Bereich des Bahnhofs Sissach verneint und haben diese deshalb dem kantonalen Recht unterworfen werden dürfen (Entscheid vom 23. Mai 1995, in ZBl 97/1996 S. 373 E. 3a und b S. 377 f.).
b) Es besteht kein Anlass, von der bisherigen Rechtsprechung abzurücken. In der Tat wäre eine Aufteilung des Bewilligungsverfahrens in einen bundes- und einen kantonalrechtlichen Teil bei Vorhaben, die baulich und funktionell eine Einheit bilden, kaum praktikabel. Auch von der Sache her besteht für eine solche Zweiteilung keine Notwendigkeit.
Wird ein bundesrechtliches Plangenehmigungsverfahren durchgeführt, so können die Kantone und Gemeinden ihre Anliegen in diesem vorbringen, und es ist kantonales Recht zu berücksichtigen, soweit dieses die Bahnunternehmung in der Erfüllung ihrer Aufgaben nicht unverhältnismässig einschränkt (Art. 18 Abs. 4 EBG bzw. Art. 18 Abs. 3 aEBG; <ref-ruling> E. 6 S. 273 f.). Umgekehrt ist die Wahrung der eisenbahnrechtlichen Interessen bei Durchführung des kantonalen Bewilligungsverfahrens ebenfalls gesichert.
Art. 18a aEBG hat in diesem Fall die Einholung einer Genehmigung der Aufsichtsbehörde verlangt. Heute schreibt Art. 18m EBG vor, dass die kantonalen Behörden Werke, die den Eisenbahnbetrieb berühren können, nur mit Zustimmung der Bahnunternehmung bewilligen dürfen bzw. in gewissen Fällen das BAV anzuhören haben, wobei Letzterem gegen entsprechende kantonale Entscheide ein Beschwerderecht zusteht.
Es ist denn auch im Sinne der jüngsten, erneut auf Verfahrensvereinfachung und -beschleunigung gerichteten Bemühungen des Gesetzgebers, wenn gemischte, lediglich teilweise dem Bahnbetrieb dienende Anlagen statt in zwei nebeneinander laufenden, in einem einzigen Verfahren bewilligt werden können (vgl. die Botschaft des Bundesrates zu einem Bundesgesetz über die Koordination und Vereinfachung der Plangenehmigungsverfahren vom 25. Februar 1998, BBl 1998 S. 2632 ff.).
c) Gemischte Bauwerke sind demnach entsprechend ihrer überwiegenden bahnbetrieblichen oder anderen Zwecksetzung im eisenbahnrechtlichen Plangenehmigungsverfahren oder im massgeblichen kantonalen Verfahren zu bewilligen, wenn sie in baulicher und funktioneller Hinsicht als Einheit erscheinen. Das trifft auch für Kreuzungen zwischen Bahn und Strasse zu. Dient ein solches Vorhaben überwiegend dem Bahnbetrieb, kommt das eisenbahnrechtliche Plangenehmigungsverfahren, andernfalls das kantonale strassenrechtliche Verfahren zum Zuge. Dies gilt ebenfalls für das neue Recht.
Der Gesetzgeber hat bei der jüngsten Revision die Lösung, die das BAV wie erwähnt schon seit 1993 praktiziert, ausdrücklich übernehmen und gesetzlich verankern wollen. So ist in der bereits zitierten bundesrätlichen Botschaft festgehalten worden, "nach heutiger Praxis" könnten "Kreuzungsvorhaben entweder im eisenbahnrechtlichen Plangenehmigungsverfahren oder nach kantonalem Recht ... genehmigt werden" (zit. Botschaft BBl 1998 S. 2636). Dem Beschwerdeführer ist allerdings darin zuzustimmen, dass dieser Wille aus dem offensichtlich mangelhaft abgefassten Gesetzestext nicht klar hervorgeht. Wie schon dargelegt (E. 3 am Ende) spricht Art. 24 Abs. 1 EBG immer noch von Genehmigung und ist nicht auf Art. 18m EBG abgestimmt. Ausserdem nimmt die Neuformulierung des Randtitels von Art. 18m EBG ("Nebenanlagen") nicht darauf Rücksicht, dass diese Bestimmung auch für Bauten gilt, die - wie die Kreuzungsbauwerke - nicht als eigentliche Nebenanlagen bezeichnet werden können. Diese Unzulänglichkeiten vermögen jedoch das gefundene Ergebnis nicht in Frage zu stellen, zumal der gesetzgeberische Wille klar und die 1993 eingeleitete Praxis des BAV sachlich begründet ist.
5.- Das Projekt zur Sanierung des Verkehrsknotens Steinegg umfasst mehrere bauliche Veränderungen der bestehenden Strassen- und Bahnanlagen, die in einem direkten Zusammenhang stehen. So bedingt die neue Strassenführung zwingend die Verlegung der Geleise sowie eine Neugestaltung der Anlagen der Haltestelle Steinegg. Diese Neuanlagen machen ihrerseits einen Abtausch von Verkehrs- und Parkierungsflächen nötig. Da den einzelnen Elementen des Projekts somit keine Selbstständigkeit zukommt, ist von einem Gesamtbauwerk auszugehen, auf das ausschliesslich entweder das eisenbahnrechtliche oder das strassenrechtliche Verfahren Anwendung findet. Auch der Beschwerdeführer stellt dies an sich nicht in Frage.
Es fragt sich mithin nur noch, ob das neue Kreuzungsbauwerk überwiegend dem Bahnbetrieb dient und deshalb dem bundesrechtlichen Plangenehmigungsverfahren untersteht, wie dies der Beschwerdeführer geltend macht. Das Vorhaben sieht zwar mehrere bauliche Massnahmen im Bahnbereich vor, die jedoch im Wesentlichen auf die relativ geringfügige Geleiseverschiebung zurückzuführen sind. Im Vergleich dazu sind die im Strassenbereich beabsichtigten Änderungen erheblich umfangreicher. Vor allem aber richtet sich das Projekt offenkundig in erster Linie nach den Bedürfnissen des Strassenverkehrs.
Dies gilt auch mit Blick auf die Veränderungen, die im Bahnbereich vorgesehen sind. Diese sind gesamthaft betrachtet untergeordneter Natur und bieten nach der Vernehmlassung des BAV auch unter planerischen und umweltrechtlichen Gesichtspunkten keine besonderen Schwierigkeiten, die eine nähere Prüfung in einem bundesrechtlichen Plangenehmigungsverfahren nach Art. 18a aEBG erforderlich machten. Das Bundesgericht hat keinen Anlass, von dieser Beurteilung durch eine Fachbehörde abzuweichen.
Die kantonalen Instanzen sind demnach zu Recht davon ausgegangen, dass das Projekt für die Sanierung des Verkehrsknotens Steinegg nach der kantonalen Strassengesetzgebung bewilligt werden durfte. Demzufolge ist auch die Anwendung des kantonalen Rechts für das Enteignungsverfahren nicht zu beanstanden.
6.- Nach dem Gesagten erweist sich die Verwaltungsgerichtsbeschwerde in dem Umfang, in dem auf sie einzutreten ist, als unbegründet und ist daher abzuweisen. Auf die staatsrechtliche Beschwerde ist nicht einzutreten.
Bei diesem Ausgang sind die Kosten des bundesgerichtlichen Beschwerdeverfahrens dem Beschwerdeführer aufzuerlegen (Art. 156 Abs. 1 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Auf die staatsrechtliche Beschwerde wird nicht eingetreten.
3.- Die Gerichtsgebühr von Fr. 5'000.-- wird dem Beschwerdeführer auferlegt.
4.- Dieses Urteil wird dem Beschwerdeführer, der Standeskommission des Kantons Appenzell I.Rh., dem Kantonsgericht Appenzell I.Rh., Abteilung Verwaltungsgericht, und dem Bundesamt für Verkehr schriftlich mitgeteilt.
_
Lausanne, 25. April 2001
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Die Gerichtsschreiberin: