Sachverhalt:
A.
A._ ist Eigentümerin des Grundstücks Nr. 608780 im Bezirk Oberegg. Dieses liegt in der Landwirtschaftszone. Auf dem Grundstück steht ein vor 1972 erstelltes Wohnhaus, welches nie landwirtschaftlich genutzt wurde. Am 7. November 2013 erteilte der Bezirksrat Oberegg A._ die Baubewilligung für einen Anbau an das bestehende Wohnhaus. Dieser wurde im Jahr 2014 realisiert. In der Folge stellte die Baupolizeibehörde des Bezirks Oberegg fest, dass auch die Umgebung des Wohnhauses umgestaltet worden war, obwohl hierfür keine Baubewilligung vorlag. Nach einer entsprechenden Aufforderung durch die Baupolizeibehörde reichte A._ für diese Umgebungsarbeiten am 30. August 2016 ein nachträgliches Baugesuch ein. Das Bau- und Umweltdepartement des Kantons Appenzell Innerrhoden lehnte dieses mit Gesamtentscheid vom 18. Januar 2017 ab. Mit Verfügung vom 20. Februar 2017 eröffnete die Bau- und Planungskommission des Bezirks Oberegg A._ den Gesamtentscheid und ordnete zugleich die Wiederherstellung des ursprünglichen Zustands an.
B.
Den dagegen erhobenen Rekurs wies die Standeskommission des Kantons Appenzell Innerrhoden mit Entscheid vom 6. Juni 2017 in Bezug auf die westlich des Wohnhauses gelegenen Natursteinmauern und Terrassierungen ab; hinsichtlich der nördlich gelegenen Betonstützmauer sowie der östlich befindlichen Natursteinmauer wies sie die Sache zur Neubeurteilung an das Bau- und Umweltdepartement zurück, da entsprechende Angaben zu diesen Bauten in den Baugesuchsunterlagen fehlen würden. Für diese baulichen Anlagen und die weiteren Umgebungsarbeiten reichte A._ am 23. Juni 2017 bei der Bau- und Planungskommission Oberegg ein neues Baugesuch ein. Zuständigkeitshalber wurde dieses an das Bau- und Umweltdepartement weitergeleitet. Gestützt auf den Baugesuchsplan und die Fotos der Umgebungsarbeiten bewilligte dieses mit Gesamtentscheid vom 20. Februar 2018 den Verbundsteinweg zum Hauseingang. Für die nördliche Betonstützmauer, den Verbundsteinweg um das Haus herum, die Natur- und Bollensteinmauern, die Holzpalisade und den Kiesplatz verweigerte es die Baubewilligung. Zur Prüfung der Verhältnismässigkeit des Rückbaus der nicht bewilligten Bauten wies es die Sache an die Bau- und Planungskommission Oberegg zurück. Mit Verfügung vom 28. Februar 2018 eröffnete diese A._ den Gesamtentscheid des Bau- und Umweltdepartements und ordnete gleichzeitig ohne weitere Ausführungen die Wiederherstellung des ursprünglichen Zustands an. In der Folge rekurrierte A._ vor der Standeskommission sowohl gegen den Gesamtentscheid des Bau- und Umweltdepartements wie auch gegen die Verfügung der Bau- und Planungskommission Oberegg. Mit Entscheid vom 13. August 2018 hiess die Standeskommission den Rekurs betreffend die Verfügung der Bau- und Planungskommission Oberegg gut und wies die Sache zur Beurteilung der Verhältnismässigkeit des Rückbaus der nicht bewilligten Umgebungsarbeiten an die Gemeindebehörde zurück. Der Rekurs gegen den Gesamtbauentscheid des Bau- und Umweltdepartements vom 20. Februar 2018 wurde mit gleichem Entscheid abgewiesen. Den Rekursentscheid der Standeskommission schützte das Kantonsgericht des Kantons Appenzell Innerrhoden mit Urteil vom 17. Dezember 2019.
C.
Mit Eingabe vom 22. Mai 2020 führt A._ Beschwerde in öffentlich-rechtlichen Angelegenheiten. Sie beantragt, es sei das Urteil des Kantonsgerichts vom 17. Dezember 2019 aufzuheben und für die Betonstützmauer sowie die übrigen Terrainveränderungen die nachträgliche Baubewilligung zu erteilen. Eventuell sei die Sache zum neuen Entscheid an das Kantonsgericht zurückzuweisen.
Das Kantonsgericht sowie die Standeskommission beantragen die Abweisung der Beschwerde. Das vom Bundesgericht zur Stellungnahme eingeladene Bundesamt für Raumentwicklung (ARE) beantragt ebenfalls Beschwerdeabweisung.

Erwägungen:
1.
1.1. Das Bundesgericht prüft seine Zuständigkeit und die Zulässigkeit der Beschwerden von Amtes wegen und mit freier Kognition (<ref-law>; <ref-ruling> E. 1.1).
1.2. Beim angefochtenen Entscheid handelt es sich um einen kantonal letztinstanzlichen Entscheid in einer Bausache, gegen den grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach <ref-law> offen steht (<ref-ruling> E. 1.1; Urteil 1C_416/2019 vom 2. Februar 2021 E. 1.1). Die Beschwerdeführerin hat am vorinstanzlichen Verfahren teilgenommen und ist als Baugesuchstellerin grundsätzlich berechtigt, Beschwerde beim Bundesgericht zu erheben (<ref-law>). Näher zu prüfen ist, ob es sich beim angefochtenen Urteil um einen anfechtbaren Entscheid im Sinne von <ref-law> handelt.
1.3. Der Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht unterliegen Endentscheide; diese schliessen das Verfahren ab (<ref-law>). Wird über eines oder einige von mehreren Rechtsbegehren entschieden, so liegt gemäss <ref-law> ein Teilentscheid vor, wenn diese Begehren unabhängig von den anderen beurteilt werden können. Ein Teilentscheid bildet eine Variante eines Endentscheids (vgl. <ref-ruling> E. 2.2; <ref-ruling> E. 1.1). Gegen Vor- und Zwischenentscheide ist die Beschwerde abgesehen von vorliegend nicht relevanten Ausnahmen (<ref-law>) nur dann zulässig, wenn diese einen nicht wieder gutzumachenden Nachteil bewirken können (<ref-law>) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (<ref-law>). Für die verfahrensrechtliche Qualifizierung eines angefochtenen Erkenntnisses unter dem Gesichtspunkt von <ref-law> ist nicht dessen formelle Bezeichnung entscheidend, sondern sein materieller Gehalt (<ref-ruling> E. 1.1.2; <ref-ruling> E. 1.3.1).
1.4. Rechtsprechungsgemäss sind Rückweisungsentscheide, mit denen eine Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen wird, grundsätzlich Zwischenentscheide, die nur unter den genannten Voraussetzungen beim Bundesgericht angefochten werden können (<ref-ruling> E. 1.4; <ref-ruling> E. 2; <ref-ruling> E. 1.2; <ref-ruling> E. 4.2). Anders verhält es sich nur dann, wenn der unteren Instanz, an welche zurückgewiesen wird, kein Entscheidungsspielraum mehr verbleibt und die Rückweisung nur noch der Umsetzung des oberinstanzlich Angeordneten dient (<ref-ruling> E. 1.4; <ref-ruling> E. 1.2; <ref-ruling> E. 1.2).
Rechtsmittelentscheide, mit denen ein kantonal letztinstanzliches Gericht über einen Zwischenentscheid einer unteren Instanz befindet, werden in der Regel ebenfalls als Zwischenentscheide qualifiziert. Mit einem solchen Entscheid wird nicht über ein Rechtsverhältnis endgültig entschieden, sondern nur über einen einzelnen Schritt auf dem Weg zum Endentscheid (<ref-ruling> E. 1.1; <ref-ruling> E. 2.1; <ref-ruling> E. 3.2; Urteil 1C_217/2019 vom 4. Dezember 2020 E. 1.2.2; vgl. auch FELIX UHLMANN, in: Basler Kommentar, Bundesgerichtsgesetz, 3. Aufl. 2018, N. 10 zu <ref-law>). Anders verhält es sich lediglich dann, wenn durch den Entscheid der letzten kantonalen Instanz ein Zwischenentscheid der ersten Instanz umgestossen und das Verfahren vor dieser dadurch abgeschlossen wird (BGE <ref-ruling> E. 2.1; <ref-ruling> E. 3.2; vgl. auch Botschaft vom 28. Februar 2001 zur Totalrevision der Bundesrechtspflege, BBl 2001 4202 Ziff. 4.1.4.1 S. 4332). Die dargestellte Rechtsprechung entspricht dem gesetzgeberischen Willen, wonach die Eintretensvoraussetzungen von <ref-law> das Bundesgericht entlasten sollen; dieses soll sich möglichst nur einmal mit einer Sache befassen (<ref-ruling> E. 1.3; <ref-ruling> E. 1.3.2; <ref-ruling> E. 2.1).
2.
2.1. Vorliegend hat das Kantonsgericht keinen Rückweisungsentscheid getroffen. Es liegt jedoch ein solcher der Standeskommission vor. Diese hat in ihrem Entscheid vom 13. August 2018 den Rekurs der Beschwerdeführerin insoweit gutgeheissen, als dass sie die Sache zur neuen Beurteilung der Verhältnismässigkeit des Rückbaus der Bauten und Anlagen an den Bezirk Oberegg zurückgewiesen hat. Soweit ersichtlich, hat die Bau- und Planungskommission Oberegg bisher noch nicht über die Wiederherstellung entschieden. Gestützt auf die genannten Grundsätze ist deshalb zu prüfen, ob das angefochtene Urteil aufgrund des Rückweisungsentscheids der Standeskommission als Zwischenentscheid gemäss <ref-law> zu qualifizieren ist.
2.2. Das nachträgliche Baubewilligungsverfahren ist auf Kantonsebene in Art. 88 des Baugesetzes des Kantons Appenzell Innerrhoden vom 29. April 2012 (BauG/AI; GS 700.00) geregelt. Danach verfügt die Baubewilligungsbehörde die Wiederherstellung des rechtmässigen Zustands innert angemessener Frist, sofern das nachträgliche Baugesuch nicht bewilligt werden kann (Abs. 1 Satz 2). Dem nachträglichen Baubewilligungsverfahren liegt nach kantonalem Recht demzufolge das Konzept einer einheitlichen Beurteilung zugrunde. Die Baubewilligungsbehörde entscheidet nicht nur über die Bewilligungsfähigkeit des Bauvorhabens, sondern auch über die Wiederherstellung des rechtmässigen Zustands. Das nachträgliche Baubewilligungsverfahren im Kanton Appenzell Innerrhoden ist mit andern Worten nicht so gegliedert, dass in einem ersten Verfahrensschritt zunächst die Bewilligungsfähigkeit einer Baute oder Anlage abschliessend beurteilt wird und erst nach dem Vorliegen eines rechtskräftigen Bauentscheids über die Wiederherstellung des rechtmässigen Zustands zu entscheiden ist.
Dies hat im vorliegenden Fall zur Folge, dass das nachträgliche Baubewilligungsverfahren mit dem Entscheid der Standeskommission vom 13. August 2018 nicht abgeschlossen ist. Vielmehr hat die Bau- und Planungskommission des Bezirks Oberegg aufgrund des Entscheids der Standeskommission eine neue Wiederherstellungsverfügung zu erlassen, in welcher sie die Verhältnismässigkeit des Rückbaus der nicht bewilligten Bauten und Terrainveränderungen gänzlich neu zu beurteilen hat. Hierbei kommt ihr ein gewisser Ermessensspielraum zu. Ausgehend von den genannten Grundsätzen, ist der Entscheid der Standeskommission unter den gegebenen Umständen und mit Blick auf die Prozessökonomie als Zwischenentscheid zu qualifizieren. Nachdem das Kantonsgericht die dagegen erhobene Beschwerde abgewiesen hat, stellt der angefochtene Entscheid im Lichte der zitierten Rechtsprechung ebenfalls einen Zwischenentscheid im Sinne von <ref-law> dar (vgl. vorne E. 1.4).
3.
Nach dem Dargelegten bleibt zu prüfen, ob das Urteil des Kantonsgerichts unter den Voraussetzungen von <ref-law> anfechtbar ist.
3.1. Nach <ref-law> ist gegen selbstständig eröffnete Vor- und Zwischenentscheide die Beschwerde zulässig, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können (lit. a) oder unter der doppelten Voraussetzung, dass die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b). Da das Bundesgericht eine Sache - wie gesagt - grundsätzlich nur einmal beurteilen soll, ist die zweite Voraussetzung einschränkend zu verstehen (<ref-ruling> E. 1.4). Nach konstanter Rechtsprechung haben sodann die Rechtssuchenden im Einzelnen darzulegen, inwiefern die Beschwerdevoraussetzungen nach <ref-law> erfüllt sind, ansonsten auf die Beschwerde mangels hinreichender Begründung nicht einzutreten ist (<ref-ruling> E. 1.1; <ref-ruling> E. 4; je mit Hinweisen). Ist die Beschwerde gegen einen Zwischenentscheid gemäss <ref-law> nicht zulässig oder wurde von ihr kein Gebrauch gemacht, bleibt der Zwischenentscheid im Rahmen einer Beschwerde gegen den Endentscheid anfechtbar, soweit er sich auf dessen Inhalt auswirkt (<ref-law>).
3.2. Die Beschwerdeführerin legt nicht dar, inwiefern ihr aufgrund des angefochtenen Entscheids ein nicht wieder gutzumachender Nachteil im Sinne von <ref-law> entstehen könnte. Ein solcher ist auch nicht ersichtlich. Nach ständiger Praxis zu <ref-law> müsste der Nachteil rechtlicher Natur sein, der auch durch einen für die rechtsuchende Partei günstigen Endentscheid nachträglich nicht mehr behoben werden könnte (<ref-ruling> E. 3.6; <ref-ruling> E. 1, 135 I 261 E. 1.2; <ref-ruling> E. 3.1; je mit Hinweisen). In baurechtlichen Angelegenheiten wird ein nicht wieder gutzumachender Nachteil rechtlicher Natur unter gewissen Umständen insbesondere im Zusammenhang mit einer Beschwerde gegen baurechtliche Vorentscheide bejaht (hierzu BGE <ref-ruling> E. 1.3.4 und 1.3.5). Ein solcher Vorentscheid liegt jedoch nach der dargestellten kantonalrechtlichen Konzeption nicht vor (vgl. vorne E. 2.2). Auch sonst erleidet die Beschwerdeführerin durch das angefochtene Urteil keinen nicht wiedergutzumachenden Nachteil. Es steht ihr offen, einen allfälligen für sie ungünstigen Endentscheid betreffend die Wiederherstellung des rechtmässigen Zustands anzufechten. Diesfalls kann sie das vorliegend angefochtene Urteil des Kantonsgerichts zusammen mit dem Endentscheid anfechten, soweit es sich auf dessen Inhalt auswirkt (<ref-law>).
3.3. Die Beschwerdeführerin beruft sich auch nicht auf <ref-law>. Insoweit ist festzuhalten, dass eine Gutheissung der Beschwerde im vorliegenden Fall zwar sofort einen Endentscheid im Sinne von <ref-law> herbeiführen würde. Damit liesse sich jedoch kein bedeutender Aufwand an Zeit oder Kosten ersparen. Das noch durchzuführende Wiederherstellungsverfahren kann angesichts des bereits erfolgten Augenscheins und der mittels Fotoaufnahmen und Bauplänen in den Akten gut dokumentierten Bauten und Anlagen nicht als besonders aufwendig bezeichnet werden. Infolgedessen ist auch nicht ersichtlich, inwieweit im Rahmen des Wiederherstellungsverfahrens noch ein weitläufiges Beweisverfahren nötig wäre. Damit erweist sich die Beschwerde auch mit Blick auf <ref-law> als unzulässig.
4.
Nach dem Ausgeführten ist auf die Beschwerde nicht einzutreten. Bei diesem Verfahrensausgang trägt die unterliegende Beschwerdeführerin die Kosten des bundesgerichtlichen Verfahrens (<ref-law>). Parteientschädigungen sind nicht geschuldet (Art. 68 Abs. 2 und 3 BGG).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
3.
Dieses Urteil wird der Beschwerdeführerin, der Baukommission Oberegg, der Standeskommission des Kantons Appenzell I.Rh., dem Bau- und Umweltdepartement des Kantons Appenzell I.Rh., dem Kantonsgericht Appenzell I.Rh., Abteilung Verwaltungsgericht, und dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 28. April 2021
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kneubühler
Der Gerichtsschreiber: Hahn