Sachverhalt: A. Mit Mietvertrag vom 6. Dezember 1983 übernahm die C._ AG die Ladenflächen des damals von der B._ AG (Beschwerdegegnerin) geführten Warenhauses an der Strasse X._ in U._. Im Jahr 2002 wurde das Vertragsverhältnis einvernehmlich auf die A._ AG (Beschwerdeführerin) übertragen. Der vorerst bis zum 31. Januar 2004 befristete Mietvertrag verlängerte sich durch die Ausübung einer Option durch die A._ AG bis zum 31. Januar 2014. Am 5. November 2001 schlossen die Vertragsparteien einen Nachtrag I zum Mietvertrag ab, der unter anderem die folgende Bestimmung enthielt: "5. Dauer des Mieterverhältnisses Mit Bezug auf die Dauer des Mietverhältnisses, Kündigungsfristen und -termine sowie gewährte Optionsrechte gelten für die zusätzlich vermieteten Mieträumlichkeiten die gleichen Bestimmungen, wie sie gemäss Vertrag vom 6. Dezember 1983 massgebend sind. Entsprechend der ausgeübten Option endigt das Mietverhältnis frühestens auf 31. Januar 2014 (Ziff. 4.3 des Vertrages vom 6. Dezember 1983). Bezüglich des Vormietrechtes wird Ziff. 4.4. des Mietvertrages vom 6. Dezember 1983 wie folgt geändert: Die Vermieterin verpflichtet sich, der Mieterin eine Offerte zur Fortführung des Vertragsverhältnisses nach 1. Februar 2014 für eine weitere Dauer von mindestens 5 Jahren zu dannzumal marktüblichen Vertragskonditionen zu unterbreiten. Die Offerte hat dabei bis spätestens 31. Januar 2011 zu erfolgen. Können sich die Parteien in der Folge nicht bis spätestens 31. Juli 2012 über eine Fortführung des Vertragsverhältnisses und die dabei massgebenden Vertragskonditionen einigen, so endigt das Vertragsverhältnis, ohne dass es einer Kündigung bedarf, am 31. Januar 2014 definitiv." Zwischen der A._ AG und der B._ AG entstand Streit über die Weitervermietung ab dem 31. Januar 2014. B. B.a. Die A._ AG leitete am 5. Mai 2011 bei der Schlichtungsbehörde des Bezirks Zürich ein Schlichtungsverfahren ein und erhob sodann am 14. März 2012 beim Mietgericht des Bezirks Zürich Klage gegen die B._ AG, mit der sie im Wesentlichen verlangte, es sei "der für die Verlängerung des Vertragsverhältnisses vertraglich vereinbarte massgebliche Mietzins für die gemieteten Räumlichkeiten (Liegenschaft Strasse X._ Nr. x/y/z, U._) " gerichtlich (eventualiter: auf 6.5% des jährlich erzielten Umsatzes der A._ AG) festzulegen, und die B._ AG sei zu verpflichten, gegenüber der A._ AG "innert 14 Tagen ab Rechtskraft eine Willenserklärung im Sinne einer verbindlichen auf 30 Tage befristeten Offerte abzugeben, wonach der gerichtlich festgelegte Mietzins [...] für das Mietverhältnis ab 1. Februar 2014 für eine Dauer von mindestens fünf Jahren zur Anwendung gelangt [...]." Nach Durchführung von zwei Schriftenwechseln fand am 23. April 2013 eine Instruktionsverhandlung für Vergleichsgespräche statt. Nachdem keine Einigung zustande kam, wurde am 29. August 2013 die Hauptverhandlung durchgeführt, anlässlich derer die Parteien je einen weiteren Parteivortrag hielten. Nach Fortsetzung des Verfahrens inklusive Beweisabnahmen, wurde den Parteien mit Präsidialverfügung vom 29. September 2014 Frist angesetzt, um unter anderem zur Frage der sachlichen Zuständigkeit des Mietgerichts Stellung zu nehmen. In den Eingaben vom 8. und 23. Oktober 2014 vertraten beide Parteien die Ansicht, das Mietgericht habe auch unter dem Gesichtspunkt der sachlichen Zuständigkeit auf die Klage einzutreten. Das Mietgericht bejahte mit Urteil vom 22. Dezember 2014 seine Zuständigkeit. Das Mietgericht ging zusammengefasst davon aus, es seien die Voraussetzungen einer handelsrechtlichen Streitigkeit im Sinne von Art. 6 Abs. 2 ZPO erfüllt. Unter diesen Umständen sei gemäss der bundesgerichtlichen Rechtsprechung (BGE 140 III 155 und BGE 140 III 355) das Handelsgericht zwingend und ausschliesslich zuständig. Für eine weitere (abweichende) Zuständigkeitsregelung durch den Kanton bleibe kein Raum, weshalb sich § 126 des Gesetzes des Kantons Zürich vom 10. Mai 2010 über die Gerichts- und Behördenorganisation im Zivil- und Strafprozess (GOG/ZH; LS 211.1) als bundesrechtswidrig erweise. Damit fehle es an der sachlichen Zuständigkeit (des Mietgerichts). Weil die Prozessvoraussetzungen in jedem Verfahrensstadium zu prüfen seien, wäre deshalb ein Nichteintretensentscheid zu fällen. Allerdings könne das Vertrauensschutzargument gebieten, eine Praxisänderung nicht auf ein hängiges Verfahren anzuwenden. Die Voraussetzungen dazu seien erfüllt. Denn insbesondere mit der Durchführung der zahlreichen Zeugeneinvernahmen im Juli und September 2014 sei ein schützenswertes Vertrauen der Parteien in die Zuständigkeit des Mietgerichts begründet worden. Daran ändere nichts, dass sowohl die Parteien als auch das Mietgericht nach Bekanntwerden von BGE 140 III 155 die Unzuständigkeit hätten erkennen können. Ein Nichteintreten in diesem späten Verfahrensstadium würde das Vertrauensschutz prinzip und den Grundsatz der Prozessökonomie verletzen, weshalb das nicht zuständige Mietgericht in der Sache ein Urteil zu fällen habe. Das Mietgericht fällte entsprechend einen Entscheid in der Sache und verpflichtete die B._ AG, der A._ AG innert 30 Tagen ab Rechtskraft "für die Liegenschaften Strasse X._ Nr. x und z eine verbindliche auf 30 Tage befristete Offerte zur Fortführung des Vertragsverhältnisses ab dem 1. Februar 2014 für eine weitere Dauer von mindestens fünf Jahren zu marktüblichen Vertragskonditionen für ein Warenhaus zu unterbreiten". Die weiteren Begehren der A._ AG wies es ab. B.b. Gegen dieses Urteil erhob die B._ AG mit Eingabe vom 30. Januar 2015 Berufung an das Obergericht des Kantons Zürich. Am 2. Februar 2015 erhob auch die A._ AG Berufung gegen das Urteil des Mietgerichts. Mit Verfügung vom 17. Februar 2015 wurden die beiden Berufungsverfahren vereinigt. Das Obergericht setzte mit Verfügung vom 9. März 2015 den Parteien Frist an, sich zur sachlichen und funktionellen Zuständigkeit zu äusseren. Die Parteien nahmen mit Eingaben vom 23. März 2015 und 15. April 2015 dazu Stellung. Mit Urteil vom 4. Mai 2015 kam das Obergericht zum Schluss, die sachliche Zuständigkeit des Mietgerichts des Bezirks Zürich sei nicht gegeben, und trat daher auf die Klage nicht ein. B.c. Die gegen den Nichteintretensentscheid des Obergerichts von beiden Parteien erhobenen Beschwerden wies das Bundesgericht mit Urteil 4A_291/2015 und 4A_301/2015 vom 3. Februar 2016 ab. C. Mit Eingabe vom 8. Juni 2015 machte die A._ AG beim Handelsgericht des Kantons Zürich Klage anhängig mit demselben Rechtsbegehren wie vor dem Mietgericht. Mit Verfügung vom 3. Februar 2017 wurde das Verfahren einstweilen auf die Frage der Anwendbarkeit von Art. 63 ZPO sowie die Rechtsfolgen einer allfälligen Nichtanwendung dieser Bestimmung auf die materiellrechtliche Beurteilung der Streitsache beschränkt. Mit Urteil vom 26. Mai 2017 wies das Handelsgericht die Klage mit der Begründung ab, der Anspruch der A._ AG auf Stellung einer Offerte sei verwirkt. D. D.a. Parallel zu diesen Verfahren machte die A._ AG am 11. November 2013 bei der Schlichtungsbehörde des Bezirks Zürich eine ebenfalls gegen die B._ AG gerichtete Klage auf Erstreckung des Mietverhältnisses anhängig. Nach Ausstellung der Klagebewilligung reichte die A._ AG am 1. September 2014 beim Mietgericht des Bezirks Zürich Klage ein. Mit Präsidialverfügung vom 9. Oktober 2015 sistierte das Mietgericht das Verfahren, "bis ein rechtskräftiger Entscheid betreffend Offertstellungspflicht" vorliegt. Das Obergericht des Kantons Zürich hiess die von der B._ AG hiergegen erhobene Beschwerde mit Urteil vom 30. November 2015 gut und hob die angefochtene Sistierungsverfügung auf. Auf die dagegen von der A._ AG geführte Beschwerde trat das Bundesgericht mit Urteil 4A_5/2016 vom 20. Juli 2016 nicht ein. In der Folge kam das Mietgericht mit Beschluss vom 26. Januar 2017 zum Ergebnis, die vorfrageweise Prüfung habe ergeben, dass die B._ AG bislang keine vertragskonforme Offerte abgegeben habe. Die A._ AG verfüge daher nach wie vor über einen Realerfüllungsanspruch auf die Unterbreitung der Offerte, und als Ausfluss dieses Anspruchs auch über ein (vertragliches) Benutzungsrecht an der Mietsache. Es stehe damit nicht fest, dass das Mietverhältnis am 31. Januar 2014 zu Ende gegangen sei und am Erstreckungsbegehren bestünde kein Rechtsschutzinteresse, sodass darauf nicht einzutreten sei. Aufgrund des hängigen Verfahrens vor dem Handelsgericht (oben Sachverhalt C) brachte das Mietgericht einen Rechtskraftvorbehalt an ihrem Entscheid an. Die A._ AG wurde für berechtigt erklärt, innert 30 Tagen seit der Zustellung des entsprechenden letztinstanzlichen Entscheids die Fortsetzung des Erstreckungsverfahrens zu verlangen, wenn sich im handelsgerichtlichen Verfahren ergeben sollte, dass aus dem Nachtrag I vom 5. November 2011 keine Offertpflicht der B._ AG bezüglich einer Verlängerung des Mietvertrages bis 31. Januar 2019 im Sinne der Erwägungen des vorliegenden Entscheids fliesse. D.b. Die B._ AG erhob gegen diesen Entscheid Berufung an das Obergericht des Kantons Zürich. Das Berufungsverfahren ist zurzeit am Obergericht hängig. Im Rahmen dieses Berufungsverfahrens stellte die A._ AG mit Eingabe vom 22. März 2017 ein Ausstandsbegehren, welches das Obergericht mit Beschluss vom 18. April 2017 abwies, soweit es darauf eintrat. Die dagegen von der A._ AG erhobene Beschwerde wies das Bundesgericht mit Urteil 4A_271/2017 vom 7. September 2017 ab. E. Die Beschwerdeführerin verlangt mit Beschwerde in Zivilsachen, das Urteil des Handelsgerichts vom 26. Mai 2017 sei aufzuheben, und es sei festzustellen, dass die Beschwerdegegnerin verpflichtet sei, eine Offerte für die Fortführung des Warenhausmietvertrags mit vertragsgemässen Konditionen für die Benutzung als Warenhaus für eine Dauer von mindestens fünf Jahren ab 1. Februar 2014 zu stellen. Für die Feststellung des vereinbarten Mietzinses sei die Angelegenheit an die Vorinstanz zurückzuweisen. Eventualiter sei das Verfahren an die Vorinstanz zurückzuweisen zwecks Fortführung des erstinstanzlichen Verfahrens. Das Handelsgericht verzichtete auf Vernehmlassung. Die Beschwerdegegnerin begehrt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Die Beschwerdeführerin replizierte.