Sachverhalt:
A. Die Klägerin hat ihren Sitz in der Schweiz. Sie produziert und handelt mit pharmazeutischen Spezialitäten. Sie ist die grösste Herstellerin von Generika in der Schweiz.
Die Beklagte ist in Dänemark ansässig. Sie ist auf die Erforschung, Herstellung und Vermarktung von Medikamenten gegen Erkrankungen des Zentralnervensystems spezialisiert. Sie war Inhaberin des Patents CH 626 886 für das Antidepressivum Citalopram. Am 30. April 1996 wurde ihr dafür ein ergänzendes Schutzzertifikat erteilt, das am 12. Januar 2002 ablief.
A.a Die Beklagte meldete am 22. Februar 2001 das Patent CH 691 537 ("Kristalline Citaloprambase") an, mit folgenden Ansprüchen:
1. Eine kristalline Base von Citalopram oder ein Hydrobromid- oder Hydrochloridsalz von Citalopram dadurch gekennzeichnet, dass es eine Reinheit von mehr als 99,8% w/w hat.
2. Die kristalline Base von Citalopram oder ein Hydrobromid- oder Hydrochloridsalz von Citalopram gemäss Anspruch 1, dadurch gekennzeichnet, dass es eine Reinheit von mehr als 99,9% w/w hat.
3. Eine pharmazeutische Mischung enthaltend das Hydrobromid- oder Hydrochloridsalz von Citalopram gemäss einem der Ansprüche 1-2 oder die kristalline Base von Citalopram.
4. Eine pharmazeutische Zusammensetzung gemäss Anspruch 3, welche eine Tablette ist, die mittels
a) direktem Komprimieren von Citalopram; oder
b) mittels Komprimieren eines nassen Granulates von Citalopram oder
c) mittels Komprimieren eines Schmelzgranulats von Citalopram hergestellt wird.
5. Die pharmazeutische Zusammensetzung gemäss Anspruch 4, worin das Citalopram in Mischung mit pharmazeutisch annehmbaren Hilfsstoffen vorliegt.
6. Die pharmazeutische Zusammensetzung gemäss einem der Ansprüche 3 bis 5, dadurch gekennzeichnet, dass sie das Razemat der Citaloprambase, des Citalopramhydrochlorids oder des Citalopramhydrobromids enthält."
Die Klägerin beabsichtigt nach ihrer Darstellung, ein Citalopram-Präparat auf den Markt zu bringen.
A.b Am 12. Juni 2003 befasste die Klägerin das Handelsgericht des Kantons Zürich mit dem Rechtsbegehren, es sei das Schweizer Patent Nr. 691 537 nichtig zu erklären und es sei das Institut für geistiges Eigentum anzuweisen, die Löschung des erwähnten Patents im Register vorzunehmen. Die Beklagte erhob Widerklage mit dem Begehren, es sei der Klägerin zu verbieten, pharmazeutische Produkte herzustellen, zu verkaufen, abzugeben oder zu bewerben, die Hydrobromidsalz von Citalopram mit einer Reinheit von mehr als 99,8% bzw. 99,9% enthalten.
B. Mit Urteil vom 18. Oktober 2005 stellte das Handelsgericht des Kantons Zürich in Gutheissung der Hauptklage fest, dass das Schweizer Patent Nr. 691 537 nichtig ist. Die Widerklage wurde abgewiesen. Das Gericht gelangte zum Schluss, mit der in den Patentansprüchen definierten Reinheit des vorbekannten Stoffes Citalopram werde keine neue Erfindung offenbart und kein bisher unbekannter technischer Effekt erreicht, weshalb Neuheit und erfinderische Tätigkeit fehlten.
C. Die Beklagte hat gegen das Urteil des Handelsgerichts des Kantons Zürich Berufung eingereicht mit den Anträgen, der Entscheid des Handelsgerichts des Kantons Zürich vom 18. Oktober 2005 sei aufzuheben und die Klage auf Nichtigerklärung des Schweizer Patents Nr. 691 537 sei abzuweisen und festzustellen, dass das Schweizer Patent Nr. 691 537 nicht ungültig sei (Ziffer 1), eventualiter sei die Sache an die Vorinstanz zurückzuweisen mit der Auflage, das Verfahren im Sinne der Erwägungen des Bundesgerichts neu zu beurteilen (Ziffer 2). Die Beklagte rügt die Verletzung von Art. 51 Abs. 1 lit. c OG mit der Begründung, die Vorinstanz gehe gemäss ihrer Sachverhaltsdarstellung davon aus, die Beklagte habe ihr wirtschaftlich erfolgreiches Medikament Seropram® durch Cipralex® ersetzt und damit Feststellungen getroffen, welche ihr Verhalten als rechtsmissbräuchlich erscheinen lassen könnten. Sie hält sodann möglicherweise Art. 43a Abs. 1 lit. a OG für verletzt, weil die Vorinstanz ihr Urteil an Ausführungen der Beschwerdekammer des Europäischen Patentamts anlehne. Sie rügt sodann, die Vorinstanz habe Art. 7 Abs. 1 PatG in Verbindung mit Art. 8 ZGB und Art. 1 Abs. 2 PatG verletzt, indem sie die Neuheit bzw. die erfinderische Tätigkeit verneinte.
D. Die Klägerin stellt in der Antwort das Rechtsbegehren, die Berufung sei abzuweisen.
E. Das Kassationsgericht des Kantons Zürich wies mit Zirkulationsbeschluss vom 30. September 2006 eine Nichtigkeitsbeschwerde der Beklagten gegen das Urteil des Handelsgerichts ab, soweit darauf eingetreten werden konnte. Mit Urteil vom heutigen Tag wies das Bundesgericht die staatsrechtliche Beschwerde dagegen ab, soweit darauf einzutreten war. Auf eine direkt gegen das Urteil des Handelsgerichts vom 18. Oktober 2005 gerichtete staatsrechtliche Beschwerde wurde nicht eingetreten.
Das Bundesgericht zieht in Erwägung:
1. Das Bundesgesetz über das Bundesgericht vom 17. Juni 2005 (BGG, SR 173.110) ist am 1. Januar 2007 in Kraft getreten (AS 2006, 1205, 1243). Da der angefochtene Entscheid vorher ergangen ist, richtet sich das Verfahren noch nach dem OG (Art. 132 Abs. 1 BGG). Danach ist die Berufung zulässig; sie ist form- und fristgerecht eingereicht.
2. Nach Art. 51 Abs. 1 lit. c OG ist in den Entscheiden der letzten kantonalen Instanzen das Ergebnis der Beweisführung festzustellen und anzugeben, inwieweit die Entscheidung auf der Anwendung eidgenössischer, kantonaler oder ausländischer Gesetzesbestimmungen beruht. Wird wegen besonderer Sachkunde einzelner Richter vom Beweis durch Sachverständige Umgang genommen, so sind deren Voten zu protokollieren.
2.1 Die Bestimmung rechtfertigt sich in zweifacher Hinsicht. Einerseits haben die Parteien im Hinblick auf den Entscheid über die Einlegung einer Berufung Anspruch darauf, alle tatsächlichen und rechtlichen Erwägungen des kantonalen Gerichts zur Kenntnis nehmen zu können. Anderseits ergibt sich die Notwendigkeit einer vollständigen Sachverhaltsfeststellung aus der Vorschrift von Art. 63 Abs. 2 OG, wonach das Bundesgericht an diese Feststellungen gebunden ist (BGE 119 II 478 E. 1c S. 480; Poudret, Commentaire de la loi fédérale d'organisation judiciaire, Band II, N. 4 zu Art. 51 OG). Darüber hinaus ist es ein Gebot des Rechtsstaates, dass eine zu bestimmten Verpflichtungen verurteilte Partei im Prozess, in welchem sie belangt wird, einen Entscheid erhält, der alle massgeblichen tatsächlichen und rechtlichen Ausführungen enthält (BGE 90 II 207 E. 2 S. 209). Die tatsächlichen Feststellungen im kantonalen Urteil dürfen sodann nicht widersprüchlich sein, widrigenfalls sie eine Rechtsanwendung unmöglich machen (BGE 110 II 132 E. 3d S. 135; Entscheid 4C.28/2003, E. 3.4.2, publ. in Pra 2004, Nr. 160, S. 908).
2.2 Die Beklagte beanstandet, die Vorinstanz habe den Sachverhalt auf unzutreffende Art und Weise verwirrend festgestellt, indem sie ausgeführt habe, ihr früheres Präparat Seropram® mit dem Wirkstoff Citalopram sei ersetzt worden durch das Citalopram-Präparat Cipralex®. Die Beklagte hält fest, dass sie das Citalopram-Präparat Seropram® weiterhin vertreibe und zusätzlich das Medikament Cipralex® führe, das den Wirkstoff Citalopram nicht enthalte. Die Beklagte wendet sich dagegen, dass ihr die Vorinstanz im Ergebnis unterstelle, sie habe ein Nachfolgeprodukt mit gleichem Inhaltsstoff kommerzialisiert, um die bisherige Monopolstellung zu erhalten. Diese falsche Annahme habe das Gericht durch das ganze Verfahren hindurch beeinflusst und könnte nach Ansicht der Beklagten dazu führen, dass ihre Patentanmeldung als rechtsmissbräuchlich qualifiziert würde.
2.3 Die Vorinstanz hat festgestellt, die Beklagte habe unter dem Namen Seropram® ein Citalopram-Medikament vertrieben, das - was notorisch sei - kommerziell äusserst erfolgreich gewesen sei und die Haupteinnahmequelle der Beklagten dargestellt habe. Die Vorinstanz hat zwar bemerkt, es gebe ein Nachfolgeprodukt mit dem Namen "Cipralex". Sie hat dabei aber zum Vorbringen der Klägerin, es handle sich beim Streitpatent um ein typisches "follow-up"-Schutzrecht mit dem einzigen Ziel, die Konkurrenz vom Markt der Citalopram-Präparate fernzuhalten, dargelegt, die Motive der Parteien spielten für die einzig zu beurteilende Frage keine Rolle, ob das Patent gültig sei. Sie hat damit die - von der Beklagten als offensichtlich falsch kritisierte - Feststellung als unerheblich erachtet. Die Feststellung hat auch im vorliegenden Rechtsmittelverfahren keinerlei Einfluss auf den Entscheid der Rechtsfrage der Gültigkeit des Streitpatents. Die für das Bundesgericht verbindlichen Sachverhaltsfeststellungen der Vorinstanz müssen aber die Entscheidung beeinflussen können. Auch wenn daher bedauert werden mag, dass sich die Vorinstanz überhaupt zu den von ihr selbst als unerheblich erachteten (mutmasslichen) Motiven der Beklagten geäussert hat, besteht unter diesen Umständen kein Grund zur Aufhebung des angefochtenen Urteils.
3. Der Ansicht der Beklagten kann nicht gefolgt werden, wenn sie in Frage stellt, ob die Entscheide der Beschwerdekammern des Europäischen Patentamts für die Anwendung des schweizerischen Patentgesetzes von Bedeutung sein können. Mit dem Übereinkommen über die Erteilung europäischer Patente (Europäisches Patentübereinkommen) vom 5. Oktober 1973 (SR 0.232.142.2; im Folgenden: EPÜ) wurden die materiellen Voraussetzungen der Patentierbarkeit unter den Mitgliedstaaten harmonisiert. Die Anforderungen an die patentfähige Erfindung sind inhaltlich im Geltungsbereich des EPÜ die gleichen (Christoph Bertschinger, in: Bertschinger/Münch/Geiser (Hrsg.), Schweizerisches und europäisches Patentrecht, Handbücher für die Anwaltspraxis, Bd. VI, Rz. 4.2). Die harmonisierten Bestimmungen sind entsprechend in gleicher Weise auszulegen (Hans Peter Walter, Die Auslegung staatsvertraglichen und harmonisierten Rechts: Gewicht und Bedeutung von Entscheidungen ausländischer Gerichte und der Beschwerdekammern des EPA, GRUR 1998, S. 866/870). Es ist daher nicht zu beanstanden, dass die Vorinstanz die Rechtsprechung der Beschwerdekammern des Europäischen Patentamts berücksichtigt hat, soweit sie die Auslegung der harmonisierten Normen des EPÜ betrifft und für die zu beurteilende Frage erheblich ist.
4. Erfindungspatente werden nach Art. 1 Abs. 1 PatG für neue gewerblich anwendbare Erfindungen erteilt. Eine Erfindung gilt gemäss Art. 7 Abs. 1 PatG als neu, wenn sie nicht zum Stand der Technik gehört. Diese Definition entspricht wörtlich derjenigen des Art. 54 Abs. 1 EPÜ. Sie wurde am 17. Dezember 1976 (in Kraft seit 1. Januar 1978) erlassen, um das schweizerische Recht dem europäischen Patentübereinkommen anzupassen (vgl. die Botschaft des Bundesrates über drei Patentübereinkommen und die Änderung des Patentgesetzes, in: BBl 1976 II 1/69). Zum Stand der Technik gehört alles, was vor dem Anmelde- oder Prioritätsdatum der Öffentlichkeit durch schriftliche oder mündliche Beschreibung, durch Benutzung oder in sonstiger Weise zugänglich gemacht worden ist (Art. 7 Abs. 2 PatG, Art. 54 Abs. 2 EPÜ; vgl. auch Bertschinger, a.a.O., Rz. 4.75; Alfred Briner, in: von Büren/David (Hrsg.), Schweizerisches Immaterialgüter- und Wettbewerbsrecht, Bd. IV, Patentrecht und Know-how, unter Einschluss von Gentechnik, Software und Sortenschutz, S. 113).
4.1 Eine Erfindung ist nur dann neuheitsschädlich vorweggenommen, wenn sie vor der Patentanmeldung mit allen ihren Merkmalen veröffentlicht worden ist. Beim Entscheid, ob das zutreffe, ist jede vorbekannte Lösung einzeln mit der patentierten Erfindung zu vergleichen. Nur wenn eine davon in allen Teilen mit den Merkmalen der Erfindung identisch ist, fehlt dieser die Neuheit (Briner, a.a.O., S. 114 ff.; Bertschinger, a.a.O., Rz. 4.92; vgl. schon BGE 114 II 82 E. 2 S. 84; 94 II 319 E. 3 S. 323; 93 II 504 E. 3a S. 510; 92 II 48 E. 2 S. 52). Dabei genügt, ist aber auch erforderlich, dass eine vorbekannte Ausführung dem Fachmann die beanspruchte technische Lehre vermittelt (Briner, a.a.O., S. 120; Bertschinger, a.a.O., Rz. 4.93 ff.; Klaus-Jürgen Melullis, in: Benkard, Europäisches Patentübereinkommen, Beck'sche Kurz-Kommentare, Band 4a, N. 161 zu Art. 54 EPÜ). Chemische Stoffe können für den Fachmann in verschiedener Weise verständlich beschrieben sein, etwa durch Strukturformeln, wissenschaftliche Bezeichnung oder als Ergebnis eines bestimmten Verfahrens (Briner, a.a.O., S. 122). Sie müssen in allen wesentlichen und eigenartigen Parametern offenbart und herstellbar sein (Melullis, a.a.O., N. 162 ff. zu Art. 54 EPÜ). Im vorliegenden Fall ist nicht bestritten, dass der von der Beklagten im Patent CH 691 537 als kristalline Base beanspruchte chemische Stoff Citalopram als solcher der Öffentlichkeit bekannt und für den Fachmann herstellbar war.
4.2 Die weitere Reinigung der in einem chemischen Verfahren erzeugten Verbindungen gehört für einen Fachmann auf dem Gebiet der präparativen organischen Chemie zu den üblichen Massnahmen, wobei ihm die dazu erforderlichen gebräuchlichen Verfahren bekannt sind (Melullis, a.a.O., N. 177 zu Art. 54 EPÜ). Aus diesem Grund kommt nach der Praxis der Beschwerdekammern des Europäischen Patentamts ein Patent für die Herstellung einer vorbekannten, besonders reinen Substanz nur ausnahmsweise in Betracht, wenn diese allgemein bekannten Verfahren für eine zusätzliche Reinigung nicht ausreichen und daher für den Fachmann aufgrund der allgemein bekannten Verfahren der chemische Stoff in einer bestimmten Reinheit nicht herstellbar ist (vgl. die Zusammenfassung des Verfahrens T 990/96 in der Sonderausgabe zum Amtsblatt 1999 betreffend die Rechtsprechung der Beschwerdekammern des EPA im Jahre 1998, S. 16 f., Ziff. 4.1). Nur unter diesen Umständen wird der beanspruchte Reinheitsgrad ausnahmsweise als ein gegenüber dem Stand der Technik neues Element anerkannt (vgl. die Zusammenfassung des Verfahrens T 803/01 in der Sonderausgabe zum Amtsblatt 2004 betreffend die Rechtsprechung der Beschwerdekammern des EPA im Jahre 2003, S. 24 f., Ziff. 4.1). Die Beklagte bestreitet nicht, dass eine chemische Verbindung grundsätzlich in allen ihren Reinheitsgraden der Öffentlichkeit zugänglich gemacht wird, soweit herkömmliche Verfahren zur Anwendung kommen. Sie behauptet nicht, sie habe bewiesen, dass mit herkömmlichen Verfahren der von ihr beanspruchte Reinheitsgrad nicht zu erreichen sei, und sie habe ein besonderes Verfahren zur Erzielung der beanspruchten Reinheit von 99,8 bzw. 99,9% offenbart. Sie hält dafür, die Klägerin trage dafür die Beweislast.
4.3 Das Institut für geistiges Eigentum prüft gemäss Art. 59 Abs. 4 PatG nicht, ob die Erfindung neu ist. Es erscheint daher fraglich, ob sich die aus der Eintragung der beanspruchten Erfindung im schweizerischen Register ergebende Vermutung der Gültigkeit des Patents auch auf die Voraussetzung der Neuheit bezieht. Jedenfalls kann der Beklagten nicht gefolgt werden, wenn sie als Verletzung von Art. 8 ZGB rügt, dass ihr die Beweislast dafür auferlegt wurde, dass der beanspruchte Reinheitsgrad der vorbekannten chemischen Verbindung mit herkömmlichen, den Fachleuten allgemein bekannten Methoden nicht zu erreichen ist. Eine allenfalls durch den Registereintrag geschaffene Vermutung (auch) der Neuheit der beanspruchten chemischen Verbindung ist dadurch widerlegt, dass der beanspruchte Stoff Citalopram im früheren Stand der Technik in allen wesentlichen Parametern offenbart und für den Fachmann herstellbar ist. Nachdem die beanspruchte chemische Verbindung zum Stand der Technik gehört und damit nach allgemeiner Erfahrung in sämtlichen Reinheitsgraden vorbekannt ist, bedarf besonderer Begründung, weshalb mit dem beanspruchten Reinheitsgrad ein neues Element eingeführt wird und der Anspruch ausnahmsweise neu ist. Der entsprechende Nachweis kann insbesondere mit dem Beweis erbracht werden, dass ein besonderes Verfahren zur Herstellung dieser Reinheit erforderlich ist. Es obliegt aber in jedem Fall der Beklagten, die allgemeine Erfahrung zu widerlegen, dass der von ihr beanspruchte Reinheitsgrad mit herkömmlichen Methoden nicht zu erreichen ist (Melullis, a.a.O., N. 177 zu Art. 54 EPÜ). Die Rüge der Beklagten, die Vorinstanz habe ihr zu Unrecht die Beweislast auferlegt und damit Art. 8 ZGB verletzt, ist unbegründet.
4.4 Nach den Feststellungen der Vorinstanz hat die Beklagte den ihr obliegenden Beweis nicht erbracht, dass die im Patent CH 691 537 beanspruchte Reinheit von Citalopram mit herkömmlichen Methoden nicht erreicht werden kann. An diese Feststellung, welche die Beklagte übrigens materiell nicht bestreitet, ist das Bundesgericht im Berufungsverfahren gebunden. Daran ändert die Berufung der Beklagten auf Art. 67 OG nichts. Diese Bestimmung normiert für Streitigkeiten über Erfindungspatente eine Ausnahme von der Bindung des Bundesgerichts an die tatsächlichen Feststellungen der letzten kantonalen Instanz, indem sie das Bundesgericht ermächtigt, zum technischen Sachverhalt - namentlich über all jene Feststellungen, deren Verständnis und Überprüfung wissenschaftliche oder fachliche Spezialkenntnisse erfordern und welche für den technischen Laien entsprechend erläuterungsbedürftig sind - eigene Feststellungen zu treffen und insbesondere diejenigen der Vorinstanzen zu überprüfen oder zu ergänzen (Entscheid 4C.188/1988 vom 17. November 1989, E. 2a, publ. in SMI 1990 S. 133; vgl. auch BGE 120 II 312 E. 3b S. 315; 114 II 82 E. 2a S. 85). Art. 67 OG ermöglicht den Parteien entgegen der Ansicht der Beklagten nicht, Versäumnisse im kantonalen Verfahren nachzuholen, und erlaubt insbesondere weder das Nachreichen neuer Vorbringen noch neuer Beweismittel, die im kantonalen Verfahren hätten beigebracht werden können (BGE 120 II 312 E. 3a S. 314). Sie dient auch nicht dazu, entgegen Art. 55 Abs. 1 lit. c OG allgemein neue Vorbringen zu ermöglichen. Die neue Behauptung, der Beklagten sei für denselben beanspruchten Stoff ein europäisches Patent unter der Nr. 1 227 088 erteilt worden, ist daher im vorliegenden Verfahren unbeachtlich. Ebenso wenig sind die Voraussetzungen für die Anordnung einer Expertise gegeben.
4.5 Die Vorinstanz hat das Patent CH 691 537 der Beklagten zutreffend wegen fehlender Neuheit nichtig erklärt. Es kann deshalb dahin gestellt bleiben, ob die Erwägungen der Vorinstanz zur erfinderischen Tätigkeit die Nichtigkeit ebenfalls zu begründen vermöchten.
5. Aus den genannten Gründen ist die Berufung abzuweisen. Die Gerichtsgebühr ist bei diesem Verfahrensausgang der Beklagten zu auferlegen (Art. 156 Abs. 1 OG). Sie hat überdies der Klägerin deren Parteikosten für das bundesgerichtliche Verfahren zu ersetzen (Art. 159 Abs. 2 OG).
Demnach erkennt das Bundesgericht:
1. Die Berufung wird abgewiesen.
2. Die Gerichtsgebühr von Fr. 8'000.-- wird der Beklagten auferlegt.
3. Die Beklagte hat die Klägerin für das bundesgerichtliche Verfahren mit Fr. 9'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 28. Februar 2007
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin: