Sachverhalt:
A. A.a Die Y._ SA mit Sitz in Belgien, (Klägerin, Beschwerdegegnerin) klagte am 29. März 2010 beim Zivilgericht Basel-Stadt gegen die X._ AG, Basel, (Beklagte, Beschwerdeführerin) auf Übertragung verschiedener Patentanmeldungen.
Die Klägerin begründete in ihrer Klageschrift die Zuständigkeit des Zivilgerichts Basel-Stadt damit, dass dieses die einzige kantonale Instanz im Sinne des damals geltenden aArt. 76 PatG sei. Die Beklagte stellte die Zuständigkeit des angerufenen Gerichts nicht in Frage.
Die Beklagte schloss in ihrer Klageantwort vom 29. September 2010 auf Abweisung der Klage. In ihrer Replik vom 23. August 2011 ergänzte bzw. präzisierte die Klägerin ihre Rechtsbegehren. Am 22. Dezember 2011 reichte die Beklagte dem Zivilgericht ihre Duplik ein.
B. B.a Mit Eingabe vom 23. Dezember 2011 beantragte die Klägerin dem Zivilgericht Basel-Stadt die Überweisung des Verfahrens an das Bundespatentgericht.
Mit Verfügung vom 27. Dezember 2011 stellte das Zivilgericht Basel-Stadt den Parteien die Duplik vom 22. Dezember 2011 und die Eingabe der Klägerin vom 23. Dezember 2011 je zur Kenntnis zu und überwies das Verfahren an das Bundespatentgericht.
Mit Schreiben vom 13. Januar 2012 bestätigte das Bundespatentgericht gegenüber der Klägerin die Überweisung des Verfahrens und setzte ihr Frist zur Zahlung eines Kostenvorschusses an.
B.b Mit Eingabe vom 11. Januar 2012 beantragte die Beklagte dem Zivilgericht Basel-Stadt, es sei die Verfügung vom 22. Dezember 2011 in Wiedererwägung zu ziehen und der Antrag der Klägerin auf Verfahrensüberweisung abzuweisen; eventualiter sei der Überweisungsentscheid schriftlich zu begründen.
Mit Verfügung vom 12. Januar 2012 zog das Zivilgericht Basel-Stadt die Überweisungsverfügung an das Bundespatentgericht samt Kostenabrechnung vom 27. Dezember 2011 in Wiedererwägung und hob die Verfügung auf. Im Weiteren setzte das Gericht der Beklagten Frist an zur Stellungnahme zum Antrag der Klägerin auf Verfahrensüberweisung an das Bundespatentgericht.
B.c Mit Eingabe vom 25. Januar 2012 beantragte die Beklagte erneut, es sei der Antrag der Klägerin auf Überweisung des Verfahrens abzuweisen und das Verfahren vor dem Zivilgericht Basel-Stadt fortzuführen; zudem sei der Entscheid von der Kammer zu fällen und schriftlich zu begründen.
Mit Schreiben vom 18. Januar 2012 teilte der Präsident des Bundespatentgerichts dem Präsidenten des Zivilgerichts Basel-Stadt seine Rechtsauffassung mit, wonach das Verfahren infolge der Überweisung beim Bundespatentgericht anhängig geworden und keine rechtliche Grundlage ersichtlich sei, diese Rechtshängigkeit durch eine "Rücküberweisung" an das Zivilgericht Basel-Stadt aufzuheben; hingegen dürfte den Parteien gegen den Entscheid vom 27. Dezember 2011 die Beschwerde an das Bundesgericht offenstehen und das Verfahren könne bis zum Ablauf der Rechtsmittelfrist bzw. bis zum Entscheid des Bundesgerichts über die Gewährung der aufschiebenden Wirkung sistiert werden.
Mit Verfügung vom 25. Januar 2012 ersuchte das Zivilgericht Basel-Stadt die Parteien, zur Rechtsauffassung des Bundespatentgerichts Stellung zu nehmen. Die Parteien hielten an ihren im bisherigen Verfahrensverlauf gestellten Anträgen fest.
Mit Verfügung vom 17. Februar 2012 stellte das Zivilgericht Basel-Stadt fest, dass mit der Überweisung der Akten nach der Verfügung vom 27. Dezember 2011 das Verfahren am Bundespatentgericht hängig gemacht worden sei; die Wiedererwägungsverfügung vom 12. Januar 2012 sei daher ergangen, ohne dass das Zivilgericht Verfahrensherrschaft gehabt hätte, weshalb sie keine Wirkung entfalten könne.
B.d Mit Eingabe vom 2. März 2012 teilte die Beklagte dem Zivilgericht Basel-Stadt mit, dass sie die Hauptanträge gemäss ihrer ursprünglichen Eingabe vom 11. Januar 2012 als erledigt erachte. Gleichzeitig ersuchte sie das Zivilgericht um schriftliche Begründung des Überweisungsentscheids vom 27. Dezember 2011.
Mit Verfügung vom 2. April 2012 trat das Zivilgericht Basel-Stadt auf den Antrag der Beklagten um Begründung der Überweisungsverfügung nicht ein. Es merkte jedoch an, das Bundespatentgericht übernehme, sofern es zuständig sei, gemäss Art. 41 des Bundesgesetzes über das Bundespatentgericht die Beurteilung der Verfahren, die beim Inkrafttreten dieses Gesetzes bei kantonalen Gerichten hängig sind, sofern die Hauptverhandlung noch nicht stattgefunden habe. Das Zivilgericht äusserte seine Rechtsauffassung hinsichtlich der erwähnten Übergangsbestimmung im Allgemeinen sowie zu deren Anwendung im konkreten Verfahren.
C. Mit Beschwerde in Zivilsachen beantragt die Beklagte dem Bundesgericht, es sei die Verfügung des Zivilgerichts Basel-Stadt vom 27. Dezember 2011 aufzuheben, es sei der Antrag der Klägerin auf Überweisung des Verfahrens an das Bundespatentgericht vom 23. Dezember 2011 abzuweisen und festzustellen, dass das Zivilgericht Basel-Stadt als einzige kantonale Instanz weiterhin in der Sache zuständig ist. Eventualiter sei die Verfügung des Zivilgerichts Basel-Stadt vom 27. Dezember 2011 aufzuheben und die Sache an das Zivilgericht Basel-Stadt zurückzuweisen; subeventualiter sei die Verfügung zur Verbesserung an das Zivilgericht zurückzuweisen.
Die Beschwerdegegnerin beantragt, es sei auf die Beschwerde nicht einzutreten, eventualiter sei diese abzuweisen. Zudem sei festzustellen, dass das Bundespatentgericht für die Streitsache zuständig ist.
Die Beschwerdeführerin reichte dem Bundesgericht am 26. Juni 2012 eine Replikschrift ein. Die Beschwerdegegnerin verzichtete mit Eingabe vom 3. Juli 2012 auf eine Duplik. Die Vorinstanz beantragt die Abweisung der Beschwerde.
D. Mit Verfügung vom 31. Mai 2012 gewährte das Bundesgericht der Beschwerde die aufschiebende Wirkung.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (Art. 29 Abs. 1 BGG; BGE 137 III 417 E. 1 S. 417 mit Hinweisen).
1.1 Nach Art. 90 BGG ist die Beschwerde zulässig gegen Entscheide, die das Verfahren abschliessen. Gegen selbstständig eröffnete Zwischenentscheide über die Zuständigkeit steht gemäss Art. 92 Abs. 1 BGG ebenfalls die Beschwerde offen; diese können später nicht mehr angefochten werden (Art. 92 Abs. 2 BGG). Diese Bestimmung beruht auf Gründen der Verfahrensökonomie, da es sich um Fragen handelt, die unmittelbar entschieden werden müssen, ohne den Ausgang der Hauptsache abzuwarten. Anfechtbar sind Entscheide, die sich auf die örtliche, sachliche oder auch auf die funktionelle Zuständigkeit beziehen (BGE 133 IV 288 E. 2.1 S. 290; Urteil 4A_184/2012 vom 18. September 2012 E. 1.3, zur Publikation vorgesehen).
Mit der angefochtenen Verfügung vom 27. Dezember 2011 überwies das Zivilgericht Basel-Stadt das Verfahren mit sämtlichen Akten an das Bundespatentgericht. Der Entscheid enthält keine Begründung; aus der später ergangenen Verfügung vom 2. April 2012 geht jedoch hervor, dass das Zivilgericht gestützt auf die Übergangsbestimmung von Art. 41 des Bundesgesetzes vom 20. März 2009 über das Bundespatentgericht (Patentgerichtsgesetz, PatGG; SR 173.41) erwog, das Bundespatentgericht übernehme die Verfahren, welche die Voraussetzungen nach dieser Bestimmung erfüllten, "ex lege". Das Zivilgericht hielt einerseits zwar fest, mit der Verfügung vom 27. Dezember 2011 sei kein negativer Kompetenzentscheid ergangen, sondern der Instruktionsrichter habe "alleine gemäss den bundesrechtlichen Vorgaben gehandelt", es erachtete jedoch andererseits die Voraussetzungen von Art. 41 PatGG als erfüllt und hielt dafür, dass der Beschwerdegegnerin - falls keine ausschliessliche Zuständigkeit des Bundespatentgerichts vorliegen sollte - ein nachträgliches Wahlrecht zustehe, das sie zugunsten des Bundespatentgerichts ausgeübt habe.
Mit der angefochtenen Überweisungsverfügung hat das Zivilgericht Basel-Stadt die Streitsache weder materiell entschieden noch formell abschliessend behandelt. Vielmehr bleibt die Rechtshängigkeit durch die Überweisung erhalten und das Bundespatentgericht, an das die Sache überwiesen worden ist, führt das Verfahren weiter. Aufgrund der Auswirkungen der Überweisung auf die sachliche Zuständigkeit, indem das überweisende Gericht nicht mehr mit der Klage befasst ist, erscheint der Überweisungsentscheid als Zwischenentscheid über die sachliche Zuständigkeit (vgl. BGE 132 III 178 E. 1.2 S. 181 zur Qualifikation des Überweisungsentscheids nach Art. 36 Abs. 2 aGestG [AS 2000 2363] unter der Herrschaft des OG; vgl. nunmehr Art. 127 ZPO). Die Frage braucht jedoch nicht vertieft zu werden, da der Entscheid auch angefochten werden könnte, sofern er als Endentscheid nach Art. 90 BGG einzuordnen wäre (vgl. auch Urteil 9C_1000/2009 vom 6. Januar 2010 E. 1.2; FELIX UHLMANN, in: Basler Kommentar, 2. Aufl. 2011, N. 8a zu Art. 92 BGG).
Der Einwand der Beschwerdegegnerin, die Beschwerde hätte sich (auch) gegen die Verfügung des Bundespatentgerichts vom 13. Januar 2012 richten müssen, verfängt nicht. Entgegen der in der Beschwerdeantwort vertretenen Ansicht stellt diese Verfügung keinen positiven Zuständigkeitsentscheid dar. Das Bundespatentgericht hat darin der Beschwerdegegnerin gegenüber lediglich die Überweisung des Verfahrens bestätigt und ihr Frist zur Zahlung eines Kostenvorschusses angesetzt; ein Entscheid über die Zuständigkeit ist darin nicht zu erkennen. Auch das Bundespatentgericht äusserte im Übrigen in dem von der Beschwerdegegnerin ebenfalls ins Feld geführten Schreiben vom 18. Januar 2012 seine Rechtsauffassung, wonach gegen den Entscheid des Zivilgerichts Basel-Stadt vom 27. Dezember 2011 die Beschwerde in Zivilsachen offensteht und die Zuständigkeitsfrage auf Anfechtung dieser Verfügung hin durch das Bundesgericht zu entscheiden ist.
Der Beschwerdeführerin, die sich gegen die Überweisung an ein nach ihrer Auffassung unzuständiges Gericht wehrt, kann im Übrigen ein schutzwürdiges Interesse (Art. 76 Abs. 1 lit. b BGG) entgegen der in der Beschwerdeantwort vertretenen Ansicht nicht abgesprochen werden.
1.2 Die Beschwerde gegen einen Entscheid ist innert 30 Tagen nach der Eröffnung der vollständigen Ausfertigung beim Bundesgericht einzureichen (Art. 100 Abs. 1 BGG). Eröffnet die Vorinstanz ihren Entscheid in Anwendung des kantonalen Verfahrensrechts zunächst ohne Begründung, können die Parteien innert 30 Tagen ab Mitteilung des Urteilsdispositivs die Nachreichung einer schriftlichen Begründung verlangen (Art. 112 Abs. 2 Satz 2 BGG). Für den Fall, dass eine solche verlangt wird, stellt Art. 100 Abs. 1 BGG klar, dass die Frist für die Beschwerde an das Bundesgericht erst mit der Eröffnung der vollständigen Ausfertigung des Entscheids ausgelöst wird.
Der angefochtene Überweisungsentscheid vom 27. Dezember 2011 enthält lediglich das Urteilsdispositiv. Die Beschwerdeführerin verlangte am 11. Januar 2012 eine schriftliche Begründung der Überweisungsverfügung für den Fall, dass diese nicht wiedererwägungsweise aufgehoben werden sollte. Nachdem das Zivilgericht dem Hauptantrag der Beschwerdeführerin entsprochen und die Überweisungsverfügung mit Entscheid vom 12. Januar 2012 aufgehoben sowie Frist zur Stellungnahme zum Überweisungsantrag angesetzt hatte, wurde der Eventualantrag auf Nachreichung der Begründung gegenstandslos. Entgegen der in der Beschwerdeantwort vertretenen Ansicht kann in der gerichtlichen Anmerkung, dass der Instruktionsrichter irrtümlich davon ausgegangen sei, dass die Überweisung an das Bundespatentgericht eine reine Formsache darstelle, weshalb der entsprechende Antrag der Beschwerdegegnerin ohne Anhörung der Beschwerdeführerin direkt gutgeheissen worden sei, keine nachträgliche Begründung der ursprünglichen Überweisungsverfügung erblickt werden, welche die Beschwerdefrist auslösen würde.
Am 25. Januar 2012 beantragte die Beschwerdeführerin innert der angesetzten Frist unter anderem erneut, der Entscheid über die Überweisung sei von der Kammer mit schriftlich begründetem Entscheid zu fällen. Auch die Verfügung vom 17. Februar 2012, in der das Zivilgericht Basel-Stadt feststellt, dass die Wiedererwägungsverfügung vom 12. Januar 2012 keine Wirkung entfalten könne, enthält keine Begründung des Überweisungsentscheids, sondern weist lediglich darauf hin, dass der Instruktionsrichter hinsichtlich der Wiedererwägungsverfügung einem Irrtum unterlegen sei.
Die Beschwerdeführerin verlangte daraufhin mit Eingabe vom 2. März 2012 erneut eine schriftliche Begründung des Überweisungsentscheids vom 27. Dezember 2011. Darauf trat das Zivilgericht Basel-Stadt mit Verfügung vom 2. April 2012 nicht ein, merkte allerdings dennoch an, weshalb es die Voraussetzungen für die sachliche Zuständigkeit des Bundespatentgerichts nach der Übergangsbestimmung von Art. 41 PatGG als erfüllt erachte. Erst mit dieser Verfügung wurde der Antrag der Beschwerdeführerin um Nachreichung einer schriftlichen Begründung der ursprünglichen Überweisungsverfügung behandelt bzw. wurden ihr die Gründe für die Überweisung in einer gerichtlichen Anmerkung mitgeteilt, womit die dreissigtägige Beschwerdefrist für die Anfechtung der Überweisungsverfügung nach Art. 100 Abs. 1 BGG ausgelöst wurde. Die Verfügung wurde der Beschwerdeführerin mit Schreiben vom 4. April 2012, d.h. während des Fristenstillstands (vgl. Art. 46 Abs. 1 lit. a BGG), zugestellt. Die Frist für die Anfechtung der Überweisungsverfügung vom 27. Dezember 2011 begann damit am 16. April 2012 zu laufen und wurde mit Eingabe der Beschwerdeführerin vom 7. Mai 2012 gewahrt.
Die Beschwerdeführerin verlangte daraufhin mit Eingabe vom 2. März 2012 erneut eine schriftliche Begründung des Überweisungsentscheids vom 27. Dezember 2011. Darauf trat das Zivilgericht Basel-Stadt mit Verfügung vom 2. April 2012 nicht ein, merkte allerdings dennoch an, weshalb es die Voraussetzungen für die sachliche Zuständigkeit des Bundespatentgerichts nach der Übergangsbestimmung von Art. 41 PatGG als erfüllt erachte. Erst mit dieser Verfügung wurde der Antrag der Beschwerdeführerin um Nachreichung einer schriftlichen Begründung der ursprünglichen Überweisungsverfügung behandelt bzw. wurden ihr die Gründe für die Überweisung in einer gerichtlichen Anmerkung mitgeteilt, womit die dreissigtägige Beschwerdefrist für die Anfechtung der Überweisungsverfügung nach Art. 100 Abs. 1 BGG ausgelöst wurde. Die Verfügung wurde der Beschwerdeführerin mit Schreiben vom 4. April 2012, d.h. während des Fristenstillstands (vgl. Art. 46 Abs. 1 lit. a BGG), zugestellt. Die Frist für die Anfechtung der Überweisungsverfügung vom 27. Dezember 2011 begann damit am 16. April 2012 zu laufen und wurde mit Eingabe der Beschwerdeführerin vom 7. Mai 2012 gewahrt.
1.3 1.3.1 Gemäss Art. 75 Abs. 1 BGG ist die Beschwerde zulässig gegen Entscheide letzter kantonaler Instanzen. Bei der letzten kantonalen Instanz muss es sich um ein oberes Gericht handeln (Art. 75 Abs. 2 Satz 1 BGG). Zudem muss dieses obere Gericht als Rechtsmittelinstanz entscheiden (Art. 75 Abs. 2 Satz 2 BGG), es sei denn, es liege einer der Ausnahmefälle von Art. 75 Abs. 2 lit. a-c BGG vor. Die den Kantonen zur Anpassung ihrer Bestimmungen an Art. 75 Abs. 2 BGG gewährte Übergangsfrist (Art. 130 Abs. 2 BGG) ist mit Inkrafttreten der Schweizerischen Zivilprozessordnung (ZPO; SR 272) am 1. Januar 2011 abgelaufen. Seither ist die Beschwerde in Zivilsachen, wie im Übrigen auch die subsidiäre Verfassungsbeschwerde (vgl. Art. 114 BGG), nur noch zulässig gegen Urteile letzter kantonaler Instanzen, die zugleich obere Gerichte sind und - unter Vorbehalt der Ausnahmen gemäss Art. 75 Abs. 2 lit. a-c BGG - auf Rechtsmittel hin entschieden haben (BGE 138 III 41 E. 1.1 S. 42; 137 III 238 E. 2.2 S. 239 f., 424 E. 2.1 S. 426). Diese Anforderungen gelten demnach für die nach dem 1. Januar 2011 eröffneten Urteile vollumfänglich, weil für diese der übergangsrechtliche Vorbehalt von Art. 130 Abs. 2 BGG keine Anwendung findet.
1.3.2 Der angefochtene Entscheid erging am 27. Dezember 2011. Er ist daher nur mit Beschwerde beim Bundesgericht anfechtbar, wenn er von einem oberen kantonalen Gericht erlassen wurde. Das Zivilgericht Basel-Stadt ist kein oberes kantonales Gericht im Sinne von Art. 75 Abs. 2 Satz 1 BGG (vgl. BGE 135 II 94 E. 4.1 S. 98). Auf die Beschwerde kann nicht eingetreten werden (vgl. BGE 137 III 238 E. 2.2/2.3; vgl. auch BGE 135 II 94 E. 3.2 und E. 6.4).
Das Zivilgericht Basel-Stadt war bei Einleitung der Klage am 29. März 2010 gestützt auf aArt. 76 Abs. 1 PatG (AS 1955 892) in Verbindung mit dem damals geltenden § 27 des kantonalen Gerichtsorganisationsgesetzes vom 27. Juni 1895 (GOG; in der bis 31. Dezember 2010 gültigen Fassung) als einzige kantonale Instanz zur Beurteilung patentrechtlicher Klagen zuständig. Mit dem Inkrafttreten von Art. 75 Abs. 2 BGG war der Kanton Basel-Stadt verpflichtet, ein oberes kantonales Gericht einzusetzen (Art. 5 Abs. 1 lit. a ZPO in Verbindung mit Art. 75 Abs. 2 lit. a BGG). Dieser Verpflichtung ist er mit § 11 des seit 1. Januar 2011 geltenden Gesetzes des Kantons Basel-Stadt über die Einführung der Schweizerischen Zivilprozessordnung (EG ZPO; GS 221.100) nachgekommen. Danach ist für Streitigkeiten im Zusammenhang mit geistigem Eigentum nunmehr die besondere zivilrechtliche Abteilung des Appellationsgerichts zuständig.
Nach der Rechtsprechung ist die Sache an die zuständige Vorinstanz des Bundesgerichts zur weiteren Behandlung zu überweisen, wenn die kantonale Gerichtsorganisation den Beschwerdeweg ans Bundesgericht nicht rechtzeitig sicherstellt (vgl. BGE 135 II 94 E. 6.2 S. 104). Die vorliegende Streitsache ist daher zur Weiterbehandlung an das Appellationsgericht des Kantons Basel-Stadt zu überweisen. Dieses wird zu befinden haben, ob es zur Beurteilung der Streitsache sachlich zuständig ist oder ob eine Überweisung an das Bundespatentgericht in Frage kommt.
2. Auf die beim Bundesgericht eingereichte Beschwerde ist demnach nicht einzutreten und die Sache ist zur weiteren Behandlung an das Appellationsgericht Basel-Stadt zu überweisen. Das Bundespatentgericht ist anzuweisen, die Verfahrensakten dem Appellationsgericht zu übermitteln.
Der fehlerhafte Verfahrensablauf, der zum Nichteintretensentscheid führt, geht auf die Gerichtsorganisation des Kantons Basel-Stadt zurück; die entsprechenden Kosten lassen sich nicht der Beschwerdeführerin anlasten. Es rechtfertigt sich im konkreten Fall, auf die Erhebung von Gerichtskosten und die Zusprechung von Parteientschädigungen zu verzichten (Art. 66 Abs. 1 und Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Sache wird zur weiteren Behandlung an das Appellationsgericht Basel-Stadt überwiesen.
3. Das Bundespatentgericht wird angewiesen, die Verfahrensakten dem Appellationsgericht Basel-Stadt zu übermitteln.
4. Es werden keine Gerichtskosten erhoben.
5. Es werden keine Parteientschädigungen zugesprochen.
6. Dieses Urteil wird den Parteien, dem Zivilgericht Basel-Stadt, dem Appellationsgericht Basel-Stadt und dem Bundespatentgericht schriftlich mitgeteilt.
Lausanne, 31. Oktober 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Leemann