Sachverhalt:
A.
A.a. Die A._ AB (Patentinhaberin, Beklagte, Beschwerdeführerin) ist Inhaberin des Europäischen Patents EP eee B2 (Fulvestrant formulation). Es wurde am 8. Januar 2001 angemeldet und beansprucht die Prioritäten der britischen Patentanmeldungen GB bbb vom 10. Januar 2000 und GB ccc vom 12. April 2000. Das Patent wurde am 19. Oktober 2005, unter anderem mit Wirkung für die Schweiz, erteilt.
A.b. Die B._ AG (Klägerin, Beschwerdegegnerin) bezweckt die Entwicklung, Herstellung und den Handel mit pharmazeutischen Produkten. Sie gehört dem C._-Konzern an, der auf Generika spezialisiert ist.
A.c. Das Patent umfasst 31 Ansprüche. Der erste (allgemeine) Anspruch lautet wie folgt:
"1. Use of fulvestrant in the preparation of a pharmaceutical formulation for the treatment of benign or malignant disease of the breast or reproductive tract by intra-muscular administration, wherein the formulation comprises fulvestrant in a ricinoleate vehicle, a pharmaceutically acceptable non-aqueous ester solvent, and a pharmaceutically acceptable alcohol, and wherein the formulation is adapted for attaining a therapeutically significant blood plasma fulvestrant concentration for at least 2 weeks."
"1. Verwendung von Fulvestrant bei der Herstellung einer pharmazeutischen Formulierung zur Behandlung einer gutartigen oder bösartigen Erkrankung der Brust oder des Reproduktionstrakts mittels intramuskulärer Verabreichung, wobei die Formulierung Fulvestrant in einer Ricinoleat-Trägersubstanz, ein pharmazeutisch annehmbares, nichtwässriges Esterlösungsmittel und einen pharmazeutisch annehmbaren Alkohol umfasst, und wobei die Formulierung zur Erzielung einer mindestens 2 Wochen anhaltenden, therapeutisch signifikanten Fulvestrantkonzentration im Blutplasma hergerichtet ist."
"1. Utilisation de fulvestrant dans l'élaboration d'une préparation pharmaceutique destinée au traitement d'une maladie bénigne ou maligne du sein ou de l'appareil reproducteur par injection intramusculaire, dans laquelle la préparation comprend du fulvestrant dans un véhicule de ricinoléate, un solvant d'ester non aqueux acceptable d'un point de vue pharmaceutique et un alcool acceptable d'un point de vue pharmaceutique, et dans laquelle la préparation est adaptée pour atteindre une concentration en fulvestrant dans le plasma sanguin significative d'un point de vue thérapeutique pendant au moins 2 semaines."
B.
B.a. Am 18. August 2015 gelangte die Klägerin an das Bundespatentgericht mit dem Rechtsbegehren, das Europäische Patent EP eee der Beklagten sei mit Wirkung für die Schweiz nichtig zu erklären. Die Beklagte beantragte die Abweisung der Klage.
B.b. Nach einer Instruktions-/Vergleichsverhandlung ordnete das Gericht einen zweiten Schriftenwechsel an. Die Klägerin hielt in der Replik an ihrem Begehren fest, die Beklagte stellte in der Duplik 3 Eventualanträge (mit je mehreren Ansprüchen), in denen sie den Schutz des Patents in eingeschränkter Form begehrte.
B.c. Am 7. März 2017 erstattete Dr. sc. nat. Dipl. Chem. Spillmann sein Fachrichtervotum, wozu die Parteien am 6. April bzw. 4. Mai 2017 Stellung nahmen.
B.d. Die Hauptverhandlung fand am 13. Juni 2017 statt. In der Hauptverhandlung ergänzte die Beklagte ihren Eventualantrag 3 durch einen weiteren Anspruch, indem sie dem dort formulierten unabhängigen Anspruch 1 die Worte "for at least two weeks" beifügte.
B.e. Mit Urteil vom 29. August 2017 erkannte das Bundespatentgericht in der Streitsache was folgt:
"1. Auf den anlässlich der Hauptverhandlung von der Beklagten gestellten neuen Eventualantrag 3 wird nicht eingetreten.
2. In Gutheissung der Klage wird festgestellt, dass der schweizerische Teil des Europäischen Patents EP eee B 1 nichtig ist."
C.
C.a. Mit Beschwerde in Zivilsachen stellt die Beklagte das Rechtsbegehren, das Urteil des Bundespatentgerichts vom 29. August 2017 sei aufzuheben und das Patent sei mit folgendem beschränktem Inhalt aufrechtzuerhalten:
"Use of fulvestrant in the preparation of a pharmaceutical formulation for the treatment of breast cancer by intra-muscular administration to human patients, wherein the formulation comprises fulvestrant dissolved in a ricinoleate vehicle, a pharmaceutically acceptable alcohol consisting of a mixture of 10% weight of ethanol per volume of formulation and 10% weight benzyl alcohol per volume of formulation and 15% weight benzyl benzoate per volume of formulation wherein the ricinoleate vehicle is castor oil and the formulation is adapted for attaining a therpeutically significant blood plasma fulvestrant concentration of at least 8.5 ngml-1 for at least two weeks."
Die Beschwerdeführerin bemerkt ausdrücklich, dass der im vorliegenden Verfahren allein aufrechterhaltene Antrag demjenigen entspricht, den sie im Hauptverfahren gestellt hat und auf den die Vorinstanz nicht eingetreten ist. Sie hält dafür, es handle sich nicht um einen neuen Antrag im Sinne von Art. 99 BGG, sondern um eine jederzeit zulässige Beschränkung. Den Nichteintretensentscheid der Vorinstanz (Dispositiv-Ziffer-1) hält sie denn auch mit der Begründung für falsch, dass es sich bei ihrem Antrag in der Hauptverhandlung um eine bis zum Abschluss des Verfahrens jederzeit zulässige, teilweise Klageanerkennung handle.
Die Beschwerdegegnerin beantragt in der Antwort, auf die Beschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen.
Die Parteien haben repliziert und dupliziert.
C.b. Mit Eingabe vom 7. November 2017 hat die Beschwerdeführerin ein Urteil des Gerichtshofs Den Haag eingereicht. Die Beschwerdegegnerin beantragt mit Eingabe vom 14. Dezember 2017, die Eingabe vom 7. November 2017 sei aus dem Recht zu weisen.
Erwägungen:
1.
Die Beschwerde betrifft eine Zivilsache (Art. 72 BGG) und richtet sich gegen einen Endentscheid (Art. 90 BGG) des Bundespatentgerichts (Art. 75 Abs. 1 BGG), eine Streitwertgrenze ist nicht vorgesehen (Art. 74 Abs. 2 lit. e BGG) und die Beschwerdeführerin ist mit ihren Anträgen unterlegen (Art. 76 BGG). Die Beschwerde ist rechtzeitig (Art. 100 BGG) eingereicht worden.
1.1. Rechtsschriften haben die Begehren und deren Begründung zu enthalten (Art. 42 Abs. 1 BGG). Die Begründung braucht nicht zutreffend zu sein; verlangt wird aber, dass sich die Beschwerde mit dem angefochtenen Entscheid auseinandersetzt (BGE 140 III 86 E. 2 S. 88 ff.). Das Begründungserfordernis bezieht sich auf die gestellten Begehren. Enthält die Beschwerde mehrere unterschiedliche Rechtsbegehren, aber nur zu einigen davon eine hinreichende Begründung, so ist auf die begründeten Begehren einzutreten, aber auf die anderen nicht (BGE 143 II 283 E. 1.2.2).
Die Beschwerdeführerin beantragt, der angefochtene Entscheid sei aufzuheben und ihr Patent sei (insoweit sinngemäss in Abweisung der Klage) mit dem im Rechtsbegehren formulierten beschränkten Inhalt aufrechtzuerhalten. Dieser im Beschwerdebegehren formulierte Patentanspruch entspricht unbestritten dem Anspruch, den die Beschwerdeführerin als vierten Anspruch ihres Duplik-Eventualbegehrens 3 in der Hauptverhandlung vor Vorinstanz neu gestellt hatte. Die Vorinstanz ist auf dieses Eventualbegehren in Dispositiv-Ziffer 1 des angefochtenen Entscheids nicht eingetreten. Sie hat den neu formulierten Patentanspruch folglich nicht materiell beurteilt.
1.2. Streitgegenstand im Beschwerdeverfahren vor Bundesgericht kann nur sein, was bereits Gegenstand des vorinstanzlichen Verfahrens war oder richtigerweise hätte sein sollen (BGE 142 I 155 E. 4.4.2 S. 156; 136 II 457 E. 4.2 S. 462 f.; 133 II 35 E. 2 S. 38; Urteil 2C_961/2013 vom 29. April 2014 E. 3.3). Hat die Vorinstanz einen Nichteintretensentscheid gefällt und demnach die Sache materiell nicht beurteilt, so kann das Bundesgericht im Falle der Gutheissung der Beschwerde in der Regel nicht reformatorisch entscheiden, sondern muss die Angelegenheit zum Entscheid in der Sache an die Vorinstanz zurückweisen. Entsprechend kann sich die Beschwerde nicht auf die materielle Beurteilung beziehen, sondern nur gegen das Nichteintreten richten. Ein materieller Antrag ist daher in solchen Fällen nicht am Platz (Urteil 4A_330/2008 vom 27. Januar 2010 E. 2.1, nicht publ. in BGE 136 III 102). Wird die Beschwerde gutgeheissen, hat die Vorinstanz das Rechtsmittel bzw. das Begehren materiell zu behandeln, andernfalls bleibt es beim Nichteintretensentscheid (Urteile 2C_298/2015 vom 26. April 2017 E. 2.2; 2C_1097/2014 vom 6. Oktober 2015 E. 1.2; 2C_272/2012 vom 9. Juli 2012 E. 1.1).
1.3. Die Beschwerdeführerin beantragt die Rückweisung der Sache an die Vorinstanz nicht - auch nicht in einem Eventualbegehren. Sie stellt sich insofern - wie schon vor Vorinstanz - auf den Standpunkt, ihr Antrag sei als eine teilweise Anerkennung der Klage zu verstehen und damit weder ein (unzulässiges) Novum nach Art. 229 ZPO noch nach Art. 99 BGG. Sie behauptet damit, ihr Begehren hätte richtigerweise Gegenstand des vorinstanzlichen Verfahrens bilden sollen. Allerdings begründet sie nicht, inwiefern dem angefochtenen Entscheid Feststellungen dafür zu entnehmen wären, dass der in ihrer Beschwerde formulierte Patentanspruch rechtsbeständig sein könnte. Nachdem die Vorinstanz im angefochtenen Urteil sämtliche Patentansprüche der Beschwerdeführerin für das Gebiet der Schweiz als nichtig erklärt hat, fehlen jegliche tatsächlichen Feststellungen, die dem Bundesgericht eine Beurteilung der materiellen Gültigkeit des nunmehr gestellten Begehrens erlauben würden. Auch wenn das nun gestellte Begehren mit der Beschwerdeführerin als Einschränkung zu verstehen wäre, kann darauf nicht eingetreten werden.
1.4. Die Beschwerdeführerin bringt in der Begründung der Beschwerde immerhin vor, ihr Eventualantrag 3 hätte materiell behandelt werden müssen. Insoweit kann der Begründung sinngemäss der Antrag auf Rückweisung der Sache zur materiellen Beurteilung entnommen werden. Ob die Beschwerdebegründung im Übrigen den formellen Anforderungen genügt und sich die Beschwerdeführerin hinreichend mit den Erwägungen der Vorinstanz auseinandersetzt, kann offenbleiben. Denn die Beschwerde erweist sich insoweit als unbegründet.
2.
Die Vorinstanz hat den anlässlich der Hauptverhandlung durch das Merkmal "for at least two weeks" eingeschränkten Eventualantrag 3 als verspätet erfolgtes neues Sachvorbringen qualifiziert und ist darauf nicht eingetreten.
2.1. Im angefochtenen Urteil wird ausgeführt, dass die Klageanerkennung und auch die teilweise Klageanerkennung jederzeit möglich ist mit der Folge, dass die Klage im Umfang der Anerkennung mit Wirkung eines rechtskräftigen Entscheids als zugesprochen gilt (Art. 241 Abs. 2 ZPO). Nach den Erwägungen der Vorinstanz würde sich im Falle teilweiser Anerkennung die gerichtliche Beurteilung nur noch auf einen (d.h. den nicht anerkannten) Teil des ursprünglichen Streitgegenstands beziehen. Die Beschwerdeführerin stellt diese Erwägungen nicht grundsätzlich in Frage, behauptet aber, mit ihrem geänderten dritten Eventualantrag habe sie anerkannt, dass der eingeschränkte Patentanspruch ohne den Zusatz "for at least two weeks" nicht rechtsbeständig sei und dies sei daher nicht mehr zu beurteilen gewesen.
2.2. Die Vorinstanz hat den in der Hauptverhandlung zusätzlich gestellten Eventualantrag nicht falsch ausgelegt mit der Annahme, die Beschwerdeführerin habe für den Fall der Abweisung ihrer Hauptbegehren und ihrer weitergehenden Eventualbegehren gemäss Duplik zusätzlich beantragt, es sei ihr Patent noch mit dem Zusatz "for at least two weeks" aufrechtzuerhalten. Der Ansicht der Beschwerdeführerin kann nicht gefolgt werden, dass dieser neu formulierte, mit einem Merkmal ergänzte, Patentanspruch ohne Weiteres eine weitergehende Einschränkung bedeutet. Denn ob ein zusätzliches Merkmal die bisher streitigen Patentansprüche in zulässiger Weise einschränkt, ergibt sich erst aufgrund einer Beurteilung, welche sich entgegen der Ansicht der Beschwerdeführerin nicht auf reine Rechtsfragen beschränkt. Die Beschwerdeführerin anerkennt denn auch selbst, dass die Ergänzung des Patentanspruchs durch ein zusätzliches Merkmal regelmässig zur tatsächlichen Prüfung führt, ob sich dafür in der ursprünglichen Anmeldung eine Stütze findet. Wenn die Beschwerdeführerin nun aber vorbringt, es sei erstellt, dass sie mit dem von ihr neu formulierten Patentanspruch die ursprüngliche Anmeldung nicht erweitert habe, so kann sie sich nicht auf Feststellungen im angefochtenen Entscheid stützen. Sie beruft sich vielmehr auf unterschiedliche Sachverhaltselemente und leitet daraus im Sinne ihrer Duplik-Begründung vor der Vorinstanz ab, dass sich nicht nur ihr dritter Eventualantrag, sondern auch das zugefügte Merkmal auf die Beschreibung des Streitpatents und die ursprüngliche Anmeldung stützen könne. Abgesehen davon, dass sie damit den vorinstanzlich festgestellten Sachverhalt unzulässig erweitert, zeigt sie damit selbst auf, dass der mit einem zusätzlichen Merkmal ergänzte Patentanspruch auch in tatsächlicher Hinsicht neu beurteilt werden muss, damit ihr in der Hauptverhandlung zusätzlich gestelltes Begehren beurteilt werden kann. Im Übrigen ist nicht ausgeschlossen, dass sich weitere Tatsachenfragen stellen können und etwa zu prüfen ist, ob dem neu formulierten Anspruch aus dem Stand der Technik (andere, weitere) Entgegenhaltungen gemacht werden können.
2.3. Die Vorinstanz hat zutreffend erkannt, dass die Beschwerdeführerin mit ihrem neu formulierten Patentanspruch dem Gericht einen neuen Anspruch und damit einen neuen Sachverhalt zur Beurteilung unterbreitet hat. Dass die Beschwerdeführerin Noven gemäss Art. 229 ZPO in der Hauptverhandlung nicht mehr vorbringen konnte, und der neue Patentanspruch bei dieser Sachlage verspätet vorgebracht wurde, bestreitet sie im Übrigen nicht. Die Vorinstanz hat den in der Hauptverhandlung formulierten Patentanspruch zutreffend als verspätet unberücksichtigt gelassen.
3.
Die Beschwerde ist als unbegründet abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang sind die Gerichtskosten der Beschwerdeführerin zu auferlegen (Art. 66 Abs. 1 BGG). Sie hat der Beschwerdegegnerin deren Parteikosten für das Verfahren vor Bundesgericht zu ersetzen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 15'000.-- werden der Beschwerdeführerin auferlegt.
3.
Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 17'000.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Bundespatentgericht schriftlich mitgeteilt.
Lausanne, 8. Mai 2018
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Leemann