Erwägungen:
1.
Die A._ (Beschwerdegegnerin) macht Ansprüche gegen den Staat X. (Beschwerdeführerin) geltend, die sie auf das Investitionsschutzabkommen zwischen dem Staat X. und dem Staat Y. vom 27. November 1998 (im Folgenden: BIT) stützt.
Am 3. Juni 2015 leitete die Beschwerdegegnerin gegen die Beschwerdeführerin unter Berufung auf Art. 9 BIT ein Schiedsverfahren vor dem Permanent Court of Arbitation (PCA) ein.
Das PCA-Schiedsgericht mit Sitz in Genf bejahte mit Entscheid vom 26. Juni 2017 seine Zuständigkeit zur Beurteilung der Streitigkeit.
Gegen diesen Entscheid erhob die Beschwerdeführerin mit Eingabe vom 14. August 2017 Beschwerde in Zivilsachen. Die Beschwerdegegnerin und das Schiedsgericht wurden mit Verfügung vom 17. August 2017 eingeladen, Vernehmlassungen zur Beschwerde einzureichen und zum Gesuch der Beschwerdeführerin um aufschiebende Wirkung Stellung zu nehmen.
Daraufhin stellte die Beschwerdegegnerin mit Eingabe vom 29. August 2017 das Gesuch, die Beschwerdeführerin sei zur Sicherstellung einer allfälligen Parteientschädigung im Sinne von <ref-law> zu verpflichten. Mit Präsidialverfügung vom 31. August 2017 wurde der Beschwerdeführerin Gelegenheit gegeben, sich bis zum 18. September 2017 zum Sicherstellungsgesuch zu äussern. Die Beschwerdeführerin beantragte mit Stellungnahme vom 18. September 2017 die Abweisung des Gesuchs. Die Beschwerdegegnerin hielt mit Eingabe vom 25. September 2017 an ihrem Gesuch fest und die Beschwerdeführerin beantragte am 4. Oktober 2017 erneut dessen Abweisung.
2.
Eine Partei, die in der Schweiz keinen festen Wohnsitz hat, kann auf Begehren der Gegenpartei zur Sicherstellung einer allfälligen Parteientschädigung verpflichtet werden (<ref-law>).
2.1. Die Beschwerdegegnerin stützt ihr Gesuch in erster Linie auf die Eigenschaft der Beschwerdeführerin als ausländischer Staat; sie bringt vor, nach der Praxis des Bundesgerichts zu <ref-law> könnten ausländische Staaten und öffentliche Körperschaften grundsätzlich zur Sicherstellung einer Parteientschädigung angehalten werden; einer Sicherstellungsverpflichtung der Beschwerdeführerin stehe kein Staatsvertrag entgegen.
Die Beschwerdeführerin bestreitet in der Gesuchsantwort, dass vorliegend kein Staatsvertrag einer Sicherstellungsverpflichtung entgegen stehe; der Staat X. sei wie die Schweiz Vertragsstaat der Haager Übereinkunft betreffend Zivilprozessrecht vom 1. März 1954 (SR 0.274.12; im Folgenden: Haager Übereinkunft 1954), deren Art. 17 für Angehörige der Vertragsstaaten eine Sicherstellungspflicht wegen fehlendem Wohnsitz am Ort des Verfahrens (in einem anderen Vertragsstaat) ausschliesse; nach der Rechtsprechung des Bundesgerichts (BGE 77 I 42) und der Lehre könnten sich nicht nur Angehörige der Vertragsstaaten, sondern auch die Vertragsstaaten selbst, auf diese Bestimmung berufen.
In ihrer Stellungnahme dazu hält die Beschwerdegegnerin dafür, die Beschwerdeführerin könne sich als Vertragsstaat der Haager Übereinkunft, und namentlich in der vorliegenden Angelegenheit, nicht auf Art. 17 der Übereinkunft berufen. Die Beschwerdeführerin bestreitet dies in ihrer Eingabe vom 4. Oktober 2017.
2.2. Es ist unstrittig und entspricht ständiger Praxis des Bundesgerichts, dass nach <ref-law> nicht nur natürliche Personen oder juristische Personen des privaten und öffentlichen Rechts, sondern auch ausländische Staaten grundsätzlich zur Sicherstellung einer allfälligen Parteientschädigung verpflichtet werden können, weil sie in der Schweiz keinen festen Wohnsitz bzw. Sitz haben (vgl. z.B. die Verfügungen 4A_570/2011 vom 23. November 2011; 4A_541/2009 vom 21. Januar 2010 E. 6; 4C.380/2004 vom 30. November 2004).
Die Sicherstellungspflicht entfällt allerdings, wenn ein völkerrechtlicher Vertrag eine solche ausschliesst. Sowohl die Schweiz als auch der Staat X. zählen zu den Vertragsstaaten der Haager Übereinkunft 1954. Deren Art. 17 verbietet, Angehörigen eines der Vertragsstaaten, die in irgendeinem der Vertragsstaaten ihren Wohnsitz haben und die in einem andern dieser Staaten als Kläger oder Intervenienten vor Gericht auftreten, wegen ihrer Eigenschaft als Ausländer oder deswegen, weil sie keinen Wohnsitz oder Aufenthalt im Inlande haben, eine Sicherheitsleistung aufzuerlegen.
2.2.1. Die Beschwerdegegnerin bestreitet, dass es je die Absicht der Vertragsstaaten der Haager Übereinkunft vom 17. Juli 1905 betreffend Zivilprozessrecht (SR 0.274.11; im Folgenden: Haager Übereinkunft 1905) oder des Folgeabkommens Haager Übereinkunft 1954 gewesen sei, dass diese selber in den Anwendungsbereich der Übereinkünfte fallen sollten. Sie stellt damit die in BGE 77 I 42 zu Art. 17 der Haager Übereinkunft 1905 begründete Rechtsprechung in Frage, nach der Art. 17 der Haager Übereinkunft 1905 nicht nur die Angehörigen der Vertragsstaaten, sondern auch die Vertragsstaaten selber von der Kautionspflicht befreit.
2.2.1.1. In BGE 77 I 42 E. 4 S. 49 führte das Bundesgericht aus, Art. 17 der Haager Übereinkunft 1905 verwende den an sich klaren Begriff der Staatsangehörigen nicht im Gegensatz zum Staate als dem ihnen übergeordneten Gemeinwesen, sondern verstehe darunter offensichtlich die mit ihm durch das Bürgerrecht (bei natürlichen Personen) und durch den Sitz (bei juristischen Personen) verbundenen Rechtssubjekte im Gegensatz zu solchen, die mit dem Vertragsstaat durch kein solches Band verbunden, ihm fremd seien. In diesem Sinne gehöre aber auch der Staat selber, soweit er Träger von Privatrechten sei und andern Rechtssubjekten als gleichgeordnete Partei gegenübertrete, zu den Staatsangehörigen. Es seien keine Gründe ersichtlich, welche die Vertragsstaaten der Haager Übereinkunft hätten veranlassen können, die sonst für ihnen angehörige natürliche und juristische Personen ausnahmslos geltende Befreiung von der Kautionspflicht gerade für die Staaten selber auszuschliessen. Wenn der Staat im Ausland einen Zivilprozess einleite und sich damit gleich einer Privatperson der ausländischen Gerichtsbarkeit unterwerfe, sei es durchaus gerechtfertigt, ihn auch der Vorteile teilhaftig werden zu lassen, die eine Privatperson in der gleichen Lage geniesse. Soweit die Rechtslehre sich mit der Frage befasse, werde denn auch angenommen, dass sich die Vertragsstaaten selber ebenfalls auf Art. 17 der Haager Übereinkunft berufen könnten.
2.2.1.2. Die Beschwerdegegnerin hält in ihrer Gesuchsreplik dafür, diese Rechtsprechung könne nicht ohne weiteres auf die zwischen der Schweiz und dem Staat X. geltende Haager Übereinkunft 1954 übertragen werden; so sei das Europäische Übereinkommen über die Staatenimmunität vom 16. Mai 1972 (SR 0.273.1) ein klares Indiz dafür, dass sämtliche Staaten, die bereits Vertragsstaaten der Haager Übereinkunft von 1954 waren, nicht davon ausgingen, dieses solle auch Staaten erfassen; die Haager Übereinkunft 1954 sei schliesslich für die unterzeichnenden Staaten am 25. Oktober 1980 in die Haager Übereinkunft über den internationalen Zugang zur Rechtspflege (SR 0.274.133) überführt worden, in der die Vertragsstaaten Unklarheiten der Haager Übereinkunft 1954 behoben hätten; so seien in Art. 14 der Haager Übereinkunft vom 25. Oktober 1980 über den internationalen Zugang zur Rechtspflege (SR 0.274.133; im Folgenden: Haager Übereinkunft 1980), der Art. 17 der Haager Übereinkunft 1954 entspreche und der die Befreiung von Sicherheitsleistung für Prozesskosten mitumfasse, ausdrücklich juristische Personen aufgenommen worden, während die Vertragsstaaten selbst nicht aufgeführt worden seien; diese fielen nicht in den Anwendungsbereich der Haager Übereinkünfte.
2.2.1.3. Dem kann nicht gefolgt werden.
Der Art. 17 des Haager Übereinkommens 1954 entspricht seinem Wortlaut und Inhalt nach dem entsprechenden Art. 17 des Haager Übereinkommens 1905 und hat diesem gegenüber keinerlei Änderung erfahren (LEUENBERGER/UFFER-TOBLER, Kommentar zur Zivilprozessordnung des Kantons St. Gallen, 1999, N. 3a zu <ref-law>/SG; ANDREAS SCHULZ, in: Münchener Kommentar zur Zivilprozessordnung, 5. Aufl. 2016, N. 19 zu <ref-law>). Bereits für das Haager Übereinkommen 1905 war allseits anerkannt und unbestritten, dass der Begriff der "Angehörigen" nach Art. 17 der Haager Übereinkunft 1905 nicht nur die in den Vertragsstaaten heimatberechtigten natürlichen Personen umfasst, sondern auch die juristischen Personen des privaten und öffentlichen Rechts, die ihren Sitz in einem der Vertragsstaaten haben (BGE 77 I 42 E. 4b S. 48).
Allein daraus, dass der Text von Art. 14 der Haager Übereinkunft 1980 neben den natürlichen ausdrücklich auch die juristischen Personen, nicht aber die Vertragsstaaten nennt, kann nichts Abweichendes abgeleitet werden. Denn die wesentliche Neuerung in diesem Abkommen gegenüber den Haager Übereinkünften 1905 und 1954 besteht darin, dass für die Befreiung von der Kautionspflicht nicht mehr an die Staatsangehörigkeit angeknüpft wird, sondern daran, dass die genannten natürlichen oder juristischen Personen, die vor den Gerichten eines (anderen) Vertragsstaats auftreten, ihren gewöhnlichen Aufenthalt in einem Vertragsstaat haben; in den Haager Übereinkünften 1905 und 1954 war denn auch nicht etwa nur von natürlichen im Gegensatz zu juristischen Personen die Rede, sondern umfassend von "Angehörigen" der Vertragsstaaten (vgl. dazu SUTER/VON HOLZEN, in: Kommentar zur Schweizerischen Zivilprozessordnung [ZPO], Sutter-Somm/Hasenböhler/Leuenberger [Hrsg.], 3. Aufl. 2016, N. 21 zu <ref-law>; LEUENBERGER/UFFER-TOBLER, a.a.O., N. 3a zu <ref-law>/SG; ALFRED BÜHLER, in: Kommentar zur Aargauischen Zivilprozessordnung, Bühlmann und andere [Hrsg.], 2. Aufl. 1998, N. 8 f. zu <ref-law>/AG; LEUCH/MARBACH/KELLERHALS/STERCHI, Die Zivilprozessordnung für den Kanton Bern, 5. Aufl. 2000, N. 4d zu <ref-law>/BE). Dass die Befreiung der Vertragsstaaten von der Kautionspflicht bei Gelegenheit der Schaffung des Haager Übereinkommens 1980 nicht ausdrücklich geregelt wurde, erstaunt nicht, handelt es sich doch bei der Konstellation, dass ein Staat im Ausland als Partei in einem Zivilprozess auftritt, nicht um den gängigen Fall, der den vertragsschliessenden Staaten in erster Linie vor Augen geschwebt haben mag, so dass dessen ausdrückliche Regelung nahe gelegen hätte.
Anders liegt die Sache beim Abschluss des Abkommens über die Staatenimmunität. Dieses Abkommen hat gerade die Immunität der Vertragsstaaten selber zum Gegenstand, weshalb es nahe liegt, dass bei der Schaffung desselben die Gelegenheit ergriffen wurde, die Befreiung der Vertragsstaaten von der Kautionspflicht zu regeln. Die Beschwerdegegnerin kann daher auch nichts daraus ableiten, dass im Rahmen des Abkommens über die Staatenimmunität die Befreiung der Vertragsstaaten von einer Kautionspflicht in Verfahren vor Gerichten eines anderen Vertragsstaats erstmals ausdrücklich festgeschrieben wurde.
Im Übrigen gilt nach wie vor, was bereits in BGE 77 I 42 bezüglich des Haager Übereinkommens 1905 festgehalten wurde, nämlich, dass die Lehre, soweit sie sich mit der Frage befasst, einhellig die Ansicht vertritt, auch Vertragsstaaten könnten sich auf den Art. 17 der Haager Übereinkunft 1954 berufen; soweit dabei auf BGE 77 I 42 Bezug genommen wird, wurde die darin begründete Rechtsprechung keinerlei Kritik unterworfen, sondern im zustimmenden Sinne bzw. kommentarlos wiedergegeben (vgl. POUDRET/SANDOZ-MONOD, Commentaire de la loi fédérale d'organisation judiciaire du 16 décembre 1943, 1992, N. 2.2 zu Art. 150 OG S. 103; FRANK/STRÄULI/MESSMER, Kommentar zur zürcherischen Zivilprozessordnung, 3. Aufl. 1997, N. 12 zu <ref-law>/ZH; LEUENBERGER/UFFER-TOBLER, a.a.O., N. 3a zu <ref-law>/SG; LEUCH/MARBACH/KELLERHALS/STERCHI, a.a.O., N. 4c zu <ref-law>/BE; HANS ULRICH WALDER, Einführung in das internationale Zivilprozessrecht der Schweiz, 1989, S. 244 Rz. 4 und Fn. 11; ADOLF F. SCHNITZER, Handbuch des internationalen Privatrechts, Bd. II, 4. Aufl. 1958, S. 846 Fn. 24 mit Hinweis auf den bestätigenden <ref-ruling> E. 4a S. 157; GEORGES BROSSET, La cautio judicatum solvi selon l'article 17 al. 1 de la Convention de La Haye concernant la procédure civile et la jurisprudence du tribunal fédéral, in: Recueil de travaux, publié à l'occasion de l'assemblée de la Société suisse des juristes, à Genève, du 3 au 5 octobre 1969, 1969, S. 7 f.; MAX GULDENER, Das internationale und interkantonale Zivilprozessrecht der Schweiz, 1951, S. 16 Fn. 34 [zum Übereinkommen 1905]; OLAF MUTHORST, in: Kommentar zur Zivilprozessordnung, Stein/Jonas [Hrsg.], Bd. 2, 23. Aufl., Tübingen 2016, N. 24 Fn. 35 zu <ref-law>; GEIMER/SCHÜTZE, in: Internationaler Rechtsverkehr in Zivil- und Handelssachen, Geimer/Schütze [Hrsg.], 53. Ergänzungslieferung 2017, München 2017, A.I.1.b, Fn. 72 zu Art. 17 Haager Übereinkunft 1954). Dass nach den Vorbringen der Beschwerdegegnerin im Kommentar des Europarats zum Übereinkommen über die Staatenimmunität die Anwendbarkeit von Art. 17 der Haager Übereinkunft 1954 auf die Vertragsstaaten als zweifelhaft bezeichnet worden sei, vermag dagegen nicht aufzukommen.
2.2.2. Die Beschwerdegegnerin macht sodann geltend, nach der Rechtsprechung des Bundesgerichts könne sich ein Staat nur dann auf die Haager Übereinkunft berufen, wenn er Träger von Privatrechten sei und anderen Rechtssubjekten als gleichgeordneter Partner gegenüber trete; im vorliegenden Fall gehe es indessen nicht um eine privatrechtliche Streitigkeit wie im Fall, der in BGE 77 I 42 zur Haager Übereinkunft 1905 entschieden worden sei, sondern um die Frage der Zuständigkeit unter dem Investitionsschutzabkommen zwischen dem Staat X. und dem Staat Y. vom 27. November 1998 zur Beurteilung einer Klage auf Entschädigung wegen unrechtmässiger Enteignung; der Staat X. trete im Verfahren nicht als Trägerin von Privatrechten bzw. -pflichten auf, sondern als hoheitlich agierender Staat; die Haager Übereinkunft sei gemäss ihrem Art. 1 nur auf Zivil- und Handelssachen anwendbar und dem vorliegenden Verfahren liege offensichtlich keine solche zugrunde.
Auch damit vermag die Beschwerdegegnerin nicht durchzudringen.
Es trifft zwar zu, dass in BGE 77 I 42 E. 4b S. 49 zunächst ausgeführt wurde, die Haager Übereinkunft verwende den Begriff der Staatsangehörigen nicht im Gegensatz zum Staate als dem ihm übergeordneten Gemeinwesen und, soweit der Staat Träger von Privatrechten sei und anderen Rechtssubjekten als gleichgeordnete Partei gegenübertrete, gehöre auch er selber zu den Staatsangehörigen. Die Beschwerdegegnerin übergeht indessen die weiteren Ausführungen des Bundesgerichts. So ist der zitierten Erwägung von BGE 77 I 42 weiter zu entnehmen, dass es das Bundesgericht als gerechtfertigt betrachtete, einen Staat, wenn er im Ausland einen Zivilprozess einleite und sich damit gleich einer Privatperson der ausländischen Gerichtsbarkeit unterwerfe, auch der Vorteile teilhaftig werden zu lassen, die eine Privatperson in der gleichen Lage geniesse. Soweit sodann, wie das Bundesgericht weiter ausführte, aus einem vom damaligen Beschwerdebeklagten angerufenen französischen Urteil für die strittige Frage ein Schluss gezogen werden könne, so jedenfalls nur der, dass der Staat, der im Ausland einen Zivilprozess führe, allgemein wie eine Privatperson zu behandeln sei, also auch die einer solchen in Staatsverträgen eingeräumten Vergünstigungen für sich beanspruchen könne (E. 4b S. 49 f.). Daraus geht deutlich hervor, dass es das Bundesgericht nicht als entscheidend betrachtete, ob der ausländische Staat im Grundverhältnis als Träger von Privatrechten und damit als nicht mit Hoheitsbefugnissen ausgestattete Körperschaft auftritt; eine entsprechende Differenzierung vorzunehmen, dürfte denn auch oftmals grosse Abgrenzungsschwierigkeiten bereiten, die in einem Zwischenverfahren über die Sicherstellung von Parteikosten zu vermeiden sind, um eine beförderliche Prozesserledigung nicht zu gefährden und unter Umständen dem Entscheid in der Sache nicht vorzugreifen. Ausschlaggebend ist vielmehr, ob sich ein Staat in einem Zivilverfahren einer ausländischen Gerichtsbarkeit unterwirft bzw. in ein Zivilverfahren vor einer ausländischen Gerichtsbarkeit einbezogen wird, in welchem er wie ein Privater behandelt wird und gegenüber der Gegenpartei keinerlei Vorrechte geniesst.
Dies ist bei der Beschwerdeführerin der Fall. Sie wurde vorliegend in ein internationales Schiedsverfahren vor einem Schiedsgericht mit Sitz in der Schweiz einbezogen. Sie führt gegen den Zuständigkeitsentscheid des Schiedsgerichts Beschwerde in Zivilsachen nach <ref-law> gestützt auf die Beschwerdegründe nach dem 12. Kapitel des IPRG (SR 291). Sie unterwirft sich damit gleich einer Privatpartei der Gerichtsbarkeit eines ausländischen Staates, hier der Schweiz, kann entsprechend gleich einer Privatpartei mit Kosten belastet werden und nimmt die gleiche Rechtsstellung wie eine solche ein.
2.3. Die Beschwerdeführerin kann sich damit auf Art. 17 der Haager Übereinkunft 1954 berufen, weshalb ihre Verpflichtung zur Sicherstellung einer allfälligen Parteientschädigung aufgrund ihres mangelnden Sitzes in der Schweiz ausser Betracht fällt.
3.
3.1. Die Beschwerdegegnerin macht in ihrem Sicherstellungsgesuch weiter geltend, eine Sicherstellung sei im vorliegenden Fall besonders angezeigt, da die Vollstreckung von Gerichtsurteilen gegen die Beschwerdeführerin regelmässig ausgesprochen schwierig, wenn nicht ausgeschlossen sei; die Beschwerdeführerin verstehe ihre Vollstreckungsimmunität als umfassend und widersetze sich notorisch Vollstreckungshandlungen, wie verschiedene Vorkommnisse exemplarisch aufzeigten.
3.2. <ref-law> zählt die Kautionsgründe abschliessend auf (THOMAS GEISER, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 20 zu <ref-law>; BERNARD CORBOZ, in: Commentaire de la LTF, Corboz und andere [Hrsg.], 2. Aufl. 2014, N. 31 zu <ref-law>). Als weitere alternative Voraussetzung für die Verpflichtung einer Partei zur Sicherstellung einer allfälligen Parteientschädigung nennt <ref-law> neben deren fehlenden festen Wohnsitzes in der Schweiz einzig deren nachweisliche Zahlungsunfähigkeit. Eine nachweisliche Zahlungsunfähigkeit im Sinne der genannten Bestimmung liegt nach der Praxis des Bundesgerichts vor, wenn gegen die betreffende Partei Verlustscheine oder Pfandausfallscheine ausgestellt worden sind, der Konkurs eröffnet oder eine Nachlassstundung verlangt oder genehmigt worden ist (vgl. <ref-ruling> E. 1; GEISER, a.a.O., N. 22 zu <ref-law>, mit Hinweisen). Keine Zahlungsunfähigkeit wird von einer um Sicherstellung einer allfälligen Prozessentschädigung ersuchenden Partei behauptet, wenn sie geltend macht, es fehle der Gegenpartei bloss am Zahlungswillen, d.h. am Willen, einer allfälligen Verpflichtung zur Leistung einer Parteientschädigung nachzukommen.
Mit ihren Vorbringen behauptet die Beschwerdegegnerin keine Zahlungsunfähigkeit, sondern bloss die angeblich fehlende Zahlungswilligkeit der Beschwerdeführerin. Damit macht sie keinen gesetzlichen Sicherstellungsgrund geltend.
4.
Das Sicherstellungsgesuch ist damit abzuweisen.

Demnach verfügt die Präsidentin:
1.
Das Gesuch um Sicherstellung einer allfälligen Parteientschädigung wird abgewiesen.
2.
Der Beschwerdegegnerin und dem Schiedsgericht wird mit separatem Formular eine neue Frist angesetzt zur Einreichung einer Beschwerdeantwort sowie zur Stellungnahme zum Gesuch der Beschwerdeführerin um aufschiebende Wirkung.
3.
Diese Verfügung wird den Parteien und dem Schiedsgericht mit Sitz in Genf schriftlich mitgeteilt.
Lausanne, 23. November 2017
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin:
Kiss