Sachverhalt:
A. Das Geschworenengericht des Kantons Zürich sprach X._ und Y._ am 18. Februar 2008 der vorsätzlichen Tötung ihrer Tochter A._ schuldig. Es verurteilte Y._ zu 12 Jahren und X._ zu 6 Jahren Freiheitsstrafe, unter Anrechnung der erstandenen Polizei- und Untersuchungshaft.
B. Die Oberstaatsanwaltschaft des Kantons Zürich erhebt Beschwerde in Strafsachen, wobei sie nur das Urteil gegen X._ anficht. Sie beanstandet die Strafzumessung und beantragt, die Sache zur neuen Entscheidung an das Geschworenengericht zurückzuweisen. Das Urteil gegen Y._ ist inzwischen in Rechtskraft erwachsen.
C. Die Beschwerdegegnerin beantragt, die Beschwerde sei abzuweisen. Gleichzeitig stellt sie das Gesuch um unentgeltliche Rechtspflege. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Das Bundesgericht hat die Beschwerde in öffentlicher Sitzung beurteilt.
Erwägungen:
1. 1.1 Die Beschwerdegegnerin X._ und Y._ wurden am 11. Juni 2003 Eltern der Tochter A._. Y._ misshandelte in der Folge seine Tochter regelmässig. Der überwiegende Teil der Misshandlungen trug sich zu, als die Beschwerdegegnerin nach der Geburt ihre Arbeit wieder aufgenommen hatte und der arbeitslose Mitangeklagte sich um die Tochter kümmerte. Y._ schlug das Kleinkind mehrfach auf das entblösste Gesäss, den entblössten Bauch sowie den Brustbereich und schüttelte es mehrmals mit steigender Intensität, ohne den Kopf des Kindes zu fixieren. Er versetzte ihm Kopfnüsse und bewegte es mehrere Male im Lavabo derart hin und her, dass es seine Stirn und den Hinterkopf am Waschbeckenrand und am Wasserhahn aufschlug. Er liess das Kleinkind mehrmals aus einer Höhe von ca. 70 cm ungeschützt auf eine Matratze fallen, er würgte es am Hals und stand mit den Füssen auf den Rücken des auf dem Bauch liegenden Mädchens. Er steckte ihm mehrmals für ca. 5 Minuten eine Socke in den Mund (wobei er das Zimmer des Kindes zwischenzeitlich auch verliess) und führte ihm den Stil eines Kunststoffpinsels in die Scheide ein. Er liess es in der zur Hälfte gefüllten Badewanne während rund einer Minute los, um zu sehen, wie lange das Kind unter Wasser bleiben kann. Zwischen ca. Mitte Juni 2003 und 29. Oktober 2003 ernährte Y._ seine Tochter ungenügend. Die Nahrung war zudem nicht ausreichend zusammengesetzt und wurde in unregelmässigen Zeitabständen verabreicht. Zudem bestrafte er das Kind mit Essensentzügen. Schliesslich führte er bei seiner Tochter, die zwischenzeitlich nicht mehr geatmet hatte, mehrmals Herzmassagen durch und unterliess in der Folge, einen Arzt zu konsultieren oder beizuziehen, um die gesundheitlichen Ursachen des Atemstillstandes abklären zu lassen. Am frühen Morgen des 29. Oktober 2003 schüttelte er seine Tochter erneut kräftig. Dabei bewegte sich deren Kopf unkontrolliert hin- und her. Die viereinhalb Monate alte A._ verstarb gleichentags an den Folgen eines Schädel-Hirntraumas.
1.2 Das rechtsmedizinische Gutachten stellte diverse frische und ältere Hirnläsionen mit Blutungen fest. Es fanden sich Einblutungen im Brustbereich, die von stumpfer Gewalteinwirkung herrührten. Das viereinhalb Monate alte Opfer litt an starkem Verlust von Körperfett, sein Gewicht lag 42% unter dem altersentsprechenden Sollgewicht. Das Kind wog 540 Gramm weniger als bei seiner Geburt. Es wies diverse zwei bis acht Wochen alte Rippenbrüche im gesamten Brustkorb auf. Zudem wurde eine Lungenentzündung diagnostiziert. Todesursache waren gemäss Gutachten die durch das Schütteln erlittenen Hirnverletzungen. Hätte das Kind überlebt, wären aufgrund der bestehenden Hirnverletzungen sowie der durch die Mangelernährung bedingten Funktionsstörungen der Organe bleibende Schäden zu erwarten gewesen. Selbst ohne Schütteltrauma habe jederzeit mit dem Tod des Kindes gerechnet werden müssen. Nicht lebensgefährlich seien die Verletzung des Lippenbändchens sowie die weiteren Verletzungen und Blutergüsse an den Extremitäten gewesen. Sie deuteten jedoch ebenfalls auf eine stumpfe Gewalteinwirkung hin.
1.3 Die Beschwerdegegnerin hat nach den Feststellungen der Vorinstanz Schläge des Mitangeklagten auf das Gesäss ihrer Tochter, Kopfnüsse, Gehversuche sowie das Knebeln des Kindes mit einer Socke beobachtet. Der Mitangeklagte habe ihr auch vom Loslassen des Kindes in der Badewanne erzählt. Sie habe einen Blutfleck an der Wand von den Schlägen, blaue Flecken bzw. Blasen am Kopf der Tochter sowie am Vortag des Todes ein erhebliches Erbrechen festgestellt. Ebenso habe diese an einer für sie erkennbaren massiven Unterernährung und einer dadurch hervorgerufenen Entwicklungsstörung gelitten. Sie sei nicht gegen die Handlungen ihres Partners eingeschritten, obwohl sie hinreichend Gelegenheit gehabt habe, Hilfe von Dritten (Verwandte, Nachbarn, Hausarzt, Kinderarzt, Anwalt, Vormundschaftsbehörde) zu holen. Sie habe sich abgeschottet, als Verwandte und Bekannte versucht hätten, mit ihr in Kontakt zu treten. Diejenigen Leute, welche sich nach dem Wohlergehen von A._ erkundigt hätten, habe sie angelogen. Ihre Aufforderungen an den Mitangeklagten, die Tochter nicht zu schlagen bzw. ihr keine Socke in den Mund zu stecken, seien nicht erfolgreich gewesen, ebenso wenig die heimliche Ernährung der Tochter, als der Mitangeklagte ihr das Essen entzog.
2. 2.1 Die Beschwerdeführerin rügt, die Vorinstanz missbrauche bei der Festsetzung der Strafe das ihr zustehende Ermessen. Sie verstosse gegen Art. 47 StGB und Art. 19 Abs. 2 StGB, indem sie das objektive Tatverschulden der Beschwerdegegnerin falsch gewichte. Sie bemesse die Einsatzstrafe für das objektive Tatverschulden im Vergleich zum Mitangeklagten Y._ zu tief, obwohl die Unterlassungen der Beschwerdegegnerin den aktiven Handlungen von Y._ gleichkämen.
2.2 Die Vorinstanz sprach die Beschwerdegegnerin der vorsätzlichen Tötung ihrer Tochter A._ nach Art. 111 StGB schuldig. Das objektive Tatverschulden sei auf einer Skala von leicht bis äusserst schwer als sehr schwer zu bezeichnen. Das Tatmotiv sei egoistisch. Die Beschwerdegegnerin habe aus Angst vor Tätlichkeiten ihres Partners und zum Erhalt der Beziehung nicht in dessen Handlungen eingegriffen. Straferhöhend wirke sich aus, dass sie ihr eigenes, völlig hilfloses Kind nicht geschützt habe. Strafmindernd sei zu berücksichtigen, dass es sich um eine Unterlassung nach Art. 11 Abs. 4 StGB handle. Alleine aufgrund der objektiven Verschuldenskomponenten wäre eine Freiheitsstrafe von 16 Jahren angemessen. Infolge der mittelgradig verminderten Schuldfähigkeit sei eine hälftige Strafreduktion angebracht. Im Weiteren seien der Eventualvorsatz, das kooperative Verhalten im Strafverfahren, das Teilgeständnis, die Reue und Einsicht, die freiwillig in Angriff genommene Therapie, die Vorstrafenlosigkeit sowie die Verletzung des Beschleunigungsgebots strafmindernd zu berücksichtigen. Unter Würdigung der objektiven und subjektiven Tatschwere wertet sie das Verschulden als erheblich. Insgesamt erscheine eine Freiheitsstrafe von sechs Jahren angemessen.
3. Entgegen der Auffassung der Vorinstanz ist im vorliegenden Fall nicht das neue, sondern das zur Zeit der Tat geltende Recht anwendbar. Die Strafzumessungsgrundsätze haben im neuen Recht nicht geändert. Die Strafe wäre deshalb nach altem wie nach neuem Recht gleich ausgefallen, weshalb Art. 2 Abs. 2 StGB nicht anwendbar ist. Die unrichtige Rechtsanwendung ist jedoch nicht von Bedeutung, weil sie an der Strafzumessung nichts ändert und im Ergebnis deshalb als bundesrechtskonform erscheint (vgl. BGE 127 IV 101 E. 2c S. 204 f. mit Hinweisen).
4. 4.1 Die Beschwerdeführerin beanstandet die von der Vorinstanz berücksichtigten Strafzumessungsfaktoren nicht. Sie rügt lediglich deren Gewichtung. Im Rahmen des objektiven Tatbestandes der vorsätzlichen Tötung nach Art. 111 StGB prüfte die Vorinstanz, ob sich die Beschwerdegegnerin eines unechten Unterlassungsdeliktes strafbar gemacht hat. Voraussetzung für die Tatbestandsmässigkeit dieser heute in Art. 11 Abs. 3 StGB geregelten Begehungsform ist, dass dem pflichtwidrig Untätigen derselbe Vorwurf gemacht werden kann, wie wenn er aktiv gehandelt hätte. Aus diesem Tatbestandsmerkmal lässt sich nicht schliessen, es müsse bei der Strafzumessung stets von einem gleichwertigen Verschulden ausgegangen werden. Gerade weil die aufgewendete kriminelle Energie bei einem Unterlassungsdelikt oft geringer ist als bei einem Handlungsdelikt, wird in Art. 11 Abs. 4 StGB für unechte Unterlassungsdelikte eine fakultative Strafmilderung vorgesehen (vgl. SEELMANN, in: Basler Kommentar, Strafrecht I, 2. Aufl. 2007, N. 84 zu Art. 11 StGB). Es ist deshalb nicht zu beanstanden, dass die Vorinstanz das objektive Tatverschulden der Beschwerdegegnerin anders bewertet als jenes von Y._.
4.2 Das objektive Verschulden der Beschwerdegegnerin wiegt nach Auffassung der Vorinstanz sehr schwer, weshalb sie die Einsatzstrafe auf 16 Jahre ansetzt. Bei einem Strafrahmen von fünf bis zwanzig Jahren Freiheitsstrafe liegt dies innerhalb des Ermessens und ist nicht zu beanstanden. Die Einsatzstrafe hält auch einem Vergleich mit derjenigen von Y._ stand. Die Vorinstanz hat für dessen von ihr als sehr schwer bis äusserst schwer bewertetes Verschulden eine Einsatzstrafe von 20 Jahren angenommen.
5. 5.1 Die Beschwerdeführerin rügt, die Vorinstanz gewichte die verminderte Schuldfähigkeit in ermessensüberschreitender Weise strafmindernd. Die Beschwerdegegnerin leide nicht an einer Persönlichkeitsstörung. Die Abhängigkeitsproblematik gegenüber dem Mitangeklagten sei eine persönlichkeitsakzentuierte Eigenschaft, welche nicht einer psychischen Störung krankhafter Natur gleichzusetzen sei. Bei der Einschätzung der mittelgradig verminderten Steuerungsfähigkeit handle es sich um eine grobe Schätzung des Gutachters. Aus einer derart unsicheren, mathematisch ungenauen Einschätzung dürfe keine mathematisch präzise Strafreduktion ("rund um die Hälfte") erfolgen. Angesichts des objektiven Tatverschuldens sei die ausgefällte Strafe von 6 Jahren weitaus zu mild.
5.2 Die Vorinstanz hält unter Hinweis auf die Feststellungen des psychiatrischen Sachverständigen im Gutachten vom 15. September 2004 (Vorakten Ordner 4, HD 22/7) und anlässlich der Hauptverhandlung (Vorakten Ordner Protokoll Band 2, S. 624 bis 662) fest, bei der Beschwerdegegnerin liege eine Abhängigkeitsproblematik vor, die aus ihrer Kindheit herrühre. Sie könne im Sinne eines Schutzmechanismus negative, traumatische Erfahrungen ausblenden. Sie und Y._ seien gegenseitig voneinander abhängig gewesen. Auf der einen Seite habe er ein Bedürfnis nach Kontrolle und Dominanz in der Beziehungssituation gehabt. Auf der anderen Seite habe sie sich stark an ihn angelehnt. Die Tochter habe die Exklusivität der Paarbeziehung gesprengt. Es sei bereits während der Schwangerschaft zu tätlichen Übergriffen des Mitangeklagten gekommen. Resultat dieser Drucksituation sei gewesen, dass sich das Paar gegen aussen immer mehr abgeschottet habe. Die Dependenzstörung der Beschwerdegegnerin sei noch nicht als Persönlichkeitsstörung zu diagnostizieren, weil die Problematik nicht in allen Lebensbereichen zum Vorschein komme. Es handle sich um eine akzentuierte Eigenschaft. Die Problematik habe die Beschwerdegegnerin in ihrer Fähigkeit eingeschränkt, sich anders zu verhalten. Die Einsichtsfähigkeit sei aber vorhanden gewesen. Im Ergebnis läge gemäss dem Gutachter eine mittlere Verminderung der Schuldfähigkeit vor. Dies sei innerhalb des ordentlichen Strafrahmens nach Art. 19 Abs. 2 StGB strafmindernd zu berücksichtigen. Die Strafe sei um rund die Hälfte zu reduzieren.
5.3 Ist der Täter zur Zeit der Tat vermindert zurechnungsfähig (schuldfähig), so ist die Strafe gemäss dem Wortlaut des Gesetzes zu mildern (Art. 11 aStGB bzw. Art. 19 Abs. 2 StGB). Nach der bisherigen Rechtsprechung ist dabei die aus den Tatkomponenten resultierende Einsatzstrafe nach Massgabe der Verminderung der Schuldfähigkeit zu reduzieren. Die Täterkomponenten sind davon unabhängig zu bewerten. Allerdings können einzelne Tatsachen, welche die Verminderung der Schuldfähigkeit begründen, unter Umständen auch für die Gewichtung bestimmter Täterkomponenten von Bedeutung sein. Der Verminderung der Schuldfähigkeit ist bei der Strafzumessung im vollen Ausmass der Verminderung Rechnung zu tragen. Das Bundesgericht hat mehrfach entschieden, dass dabei keine lineare Reduktion nach einem bestimmten Tarif vorzunehmen ist (BGE 129 IV 22 E. 6.2 S. 35; 123 IV 49 E. 2c S. 51 je mit Hinweis). Eine leichte, mittelgradige oder schwere Herabsetzung der Zurechnungsfähigkeit führe daher nicht zwingend zu einer rein mathematischen Reduktion der Strafe um 25, 50 oder 75%. Indessen müsse ein bestimmtes Verhältnis zwischen der festgestellten Verminderung der Zurechnungsfähigkeit und den Folgen für die Strafe bestehen (BGE 129 IV 22 E. 6.2 S. 35). Diese Rechtsprechung wird in der Lehre teilweise so interpretiert, dass eine besondere Begründung erforderlich sei, sofern die verminderte Schuldfähigkeit nicht linear berücksichtigt werde (so etwa Schwarzenegger/Hug/Jositsch, Strafrecht II, 8. Aufl. 2007, S. 97; Hug, in: StGB Kommentar Schweizerisches Strafgesetzbuch, 17. Aufl. 2006, zu Art. 48a StGB). Auch das Bundesgericht hat in einzelnen Entscheiden die eigene Rechtsprechung relativiert und den Eindruck vermittelt, es müsse von der Regel einer linearen Reduktion ausgegangen werden (vgl. etwa Urteil 6S.547/2006 vom 1. Februar 2007 E. 4.3). In BGE 118 IV 1 wurde festgehalten, die Strafe sei entsprechend dem Grad der Verminderung herabzusetzen. Bei einer verminderten Zurechnungsfähigkeit in mittlerem Grad sei die Strafe, die für die gleiche Tat eines voll Zurechnungsfähigen ausgesprochen würde, in mittlerem Ausmass zu reduzieren (a.a.O. E. 2 S. 5 mit Hinweisen). In einem solchen Fall dürfe die Strafe nicht lediglich um 40% herabgesetzt werden (BGE 129 IV 22 E. 6.2 S. 36). In einem neuen Entscheid hat das Bundesgericht befunden, dass es bei einer schweren Verminderung der Schuldfähigkeit nicht gegen Bundesrecht verstosse, die aus den Tatkomponenten resultierende Einsatzstrafe um 75% zu ermässigen. Eine Reduktion exakt in diesem Umfang sei aber bundesrechtlich nicht zwingend. Der Richter könne in Ausübung seines Ermessens die aus den Tatkomponenten resultierende Einsatzstrafe auch um etwas weniger herabsetzen, soweit diese Reduktion noch im gewissen Rahmen dessen liege, was geboten ist, um einer schweren Verminderung der Schuldfähigkeit im vollen Ausmass der Verminderung Rechnung zu tragen. Eine diesen Rahmen unterschreitende Reduktion der aus den Tatkomponenten resultierenden Einsatzstrafe sei nur zulässig, wenn besondere Umstände dafür sprechen, die in der Urteilsbegründung darzulegen seien (BGE 134 IV 132 E. 6.6 S. 139).
5.4 Gemäss Art. 63 aStGB hat der Richter die Strafe nach dem Verschulden des Täters zu bemessen, wobei die Beweggründe, das Vorleben und die persönlichen Verhältnisse des Schuldigen zu berücksichtigen sind. Der am 1. Januar 2007 in Kraft getretene neue Allgemeine Teil des Strafgesetzbuches hat die bisherigen Strafzumessungsgrundsätze in Art. 47 Abs. 1 StGB beibehalten. Die Bewertung des Verschuldens wird in Art. 47 Abs. 2 StGB dahingehend präzisiert, dass dieses nach der Schwere der Verletzung oder Gefährdung des betroffenen Rechtsguts, nach der Verwerflichkeit des Handelns, den Beweggründen und Zielen des Täters sowie danach bestimmt wird, wieweit der Täter nach den inneren und äusseren Umständen in der Lage war, die Gefährdung oder Verletzung zu vermeiden (BGE 134 IV 17 E. 2.1 S. 19). Sowohl nach altem wie nach neuem Recht kommt somit dem (subjektiven) Tatverschulden bei der Strafzumessung eine entscheidende Rolle zu.
5.5 Ausgehend von der objektiven Tatschwere hat der Richter dieses Verschulden zu bewerten. Er hat im Urteil darzutun, welche verschuldensmindernden und welche verschuldenserhöhenden Gründe im konkreten Fall gegeben sind, um so zu einer Gesamteinschätzung des Tatverschuldens zu gelangen. Der Gesetzgeber hat einzelne Kriterien aufgeführt, welche für die Verschuldenseinschätzung von wesentlicher Bedeutung sind und allenfalls bewirken können, das Verschulden als derart gering einzustufen, dass eine Strafe unterhalb des ordentlichen Strafrahmens geboten ist (E. 5.6 und 5.8 nachfolgend). In diesem Sinne spricht auch Art. 19 StGB (Art. 11 aStGB) davon, die Strafe sei bei verminderter Schuldfähigkeit (Zurechnungsfähigkeit) zu mildern. Dabei geht es zunächst entgegen dem Wortlaut des Gesetzes und in Änderung der bisherigen Rechtsprechung (vgl. BGE 134 IV 132 E. 6.1 S. 136 f.) nicht um die Herabsetzung einer Strafe, sondern um die Reduktion des Verschuldens. Der Schuldvorwurf, der einem nur vermindert schuldfähigen Täter gemacht werden kann, ist verglichen mit einem voll schuldfähigen Täter geringer (BGE 118 IV 1 E. 2 S. 4). Das Schuldprinzip verlangt deshalb, dass die Strafe für eine in verminderter Schuldfähigkeit begangene Tat niedriger sein muss, als wenn der Täter - unter sonst gleichen Umständen - voll schuldfähig gewesen wäre. Die mildere Strafe ergibt sich aus dem leichteren Verschulden (Urteil 6B_585/2008 vom 19. Juni 2009 E. 3.5). Wenn das Gesetz in einem verschuldensrelevanten Zusammenhang von Strafmilderung bzw. Strafminderung spricht, so bedeutet dies, dass die Strafe aufgrund des geringeren Verschuldens tiefer auszufallen hat als wenn keiner dieser Gründe vorläge.
5.6 Bei der Frage, in welchem Umfang die Einschränkung der Schuldfähigkeit die Verschuldensbewertung beeinflusst, gilt es vor Augen zu halten, dass die verminderte Schuldfähigkeit im Sinne von Art. 19 Abs. 2 StGB (bzw. Art. 11 aStGB) eines von mehreren Kriterien sein kann, wenn auch - je nach Grad der Verminderung - von wesentlichem Gewicht. So trifft etwa denjenigen ein geringerer Schuldvorwurf, dem lediglich eventualvorsätzliches Handeln anzulasten ist (Art. 12 Abs. 2 StGB; vgl. Urteil 6S.233/2003 vom 4. November 2003 E. 4.3 mit Hinweis). Das StGB selbst erwähnt verschiedene Umstände, die das Verschulden reduzieren können: Wenn der Täter aus achtenswerten Beweggründen, in schwerer Bedrängnis oder unter dem Eindruck einer schweren Drohung gehandelt hat; ebenso wenn sein Handeln durch eine Person, der er Gehorsam schuldet oder von der er abhängig ist, veranlasst worden ist (Art. 48 lit. a StGB). Im gleichen Sinne ist von einem minderen Verschulden auszugehen, wenn der Täter durch das Verhalten der verletzten Person ernsthaft in Versuchung geführt worden ist (Art. 48 lit. b), wenn er in einer heftigen Gemütsbewegung oder unter grosser seelischer Belastung (Art. 48 lit. c StGB) gehandelt hat. Ein reduziertes Verschulden trifft auch denjenigen, der die Tat durch Unterlassung begeht (Art. 11 Abs. 4 StGB). Zu nennen sind schliesslich die entschuldbare Notwehr (Art. 16 Abs. 1 StGB) und der entschuldbare Notstand (Art. 18 Abs. 1 StGB), der vermeidbare Irrtum über die Rechtswidrigkeit (Art. 21 StGB), der Rücktritt (Art. 23 Abs. 1 StGB) und die Gehilfenschaft (Art. 25 StGB). In all diesen Fällen liegen Sachverhaltselemente vor, die sich verschuldensmindernd auswirken, was zu einer milderen Strafe führt. Auf der anderen Seite sind Umstände denkbar, welche das Tatverschulden erhöhen und namentlich die wegen der reduzierten Einsichts- bzw. Steuerungsfähigkeit des Täters geringere Schuld wieder auszugleichen vermögen (so auch Venzlaff/Foerster, Psychiatrische Begutachtung, 3. Aufl. 2000 S. 25 mit Hinweis auf BGHSt 7, 28 [31]). Zu erwähnen ist beispielsweise ein verwerfliches Motiv. Es liegt im Ermessen des Sachrichters, in welchem Umfang er die verschiedenen Strafzumessungsfaktoren berücksichtigt. Die strafrechtliche Abteilung des Bundesgerichts greift auf Beschwerde in Strafsachen hin nur in die Strafzumessung ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen beziehungsweise in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (BGE 134 IV 17 E. 2.1 S. 19 mit Hinweisen).
Das Gericht ist nicht gehalten, in Zahlen oder Prozenten anzugeben, wie es die einzelnen Strafzumessungskriterien berücksichtigt (BGE 127 IV 101 E. 2c S. 104 f. mit Hinweisen). Bereits von daher ist es abzulehnen, bei der Verminderung der Schuldfähigkeit einen genauen Raster etwa von 75%, 50% und 25% oder eine lineare Abstufung zu verlangen (was bereits in BGE 76 IV 34 E. 2 S. 38 als "offensichtlich verfehlt" bezeichnet wurde). Andernfalls wäre der Richter gehalten, eine vom psychiatrischen Gutachter vorgegebene grobe Einschätzung willkürlich einzuengen. Der Nachweis und die Einstufung der verminderten Schuldfähigkeit lassen sich nicht mit exakten naturwissenschaftlichen Methoden objektivieren. Die forensische Psychiatrie ist nicht in der Lage, ein mathematisch exaktes Messsystem anzubieten, weshalb sich in der Praxis eine pragmatische Dreiteilung (leichte, mittlere oder schwere Verminderung) eingespielt hat. Wenn der Gutachter den Grad der Verminderung beurteilt, so macht er von einem grossen und auch subjektiven Ermessen Gebrauch. Er gelangt zur konkreten Einstufung der verminderten Einsichts- und Steuerungsfähigkeit, indem er die forensisch relevanten Auswirkungen einer konkreten Störung mit anderen vorkommenden Schweregraden vergleicht (Bommer/Dittmann, in: Basler Kommentar, Strafrecht I, 2. Aufl. 2007, N. 73 zu Art. 19 StGB). Zu Recht wird in der Literatur darauf hingewiesen, dass es sich dabei um einen Ausgangspunkt handeln muss, der für die Strafzumessung aufgrund der Besonderheiten des Falles zu verfeinern ist (a.a.O.). Damit wird zum Ausdruck gebracht, dass der Richter ein psychiatrisches Gutachten rechtlich zu würdigen hat. Er ist diesbezüglich grundsätzlich frei und nicht an die Schlussfolgerungen des Gutachtens gebunden (vgl. BGE 129 I 49 E. 4 S. 57 zu Glaubhaftigkeitsgutachten; 113 IV 1 E. 3 S. 4 zu Gutachten über die Schuldfähigkeit). Insbesondere hat er auch die Ursache einer verminderten Schuldfähigkeit zu gewichten.
Der einer psychiatrischen Einschätzung zugrunde liegende Ermessensspielraum kommt auch dem Richter zu, wenn er zu entscheiden hat, wie sich die festgestellte Einschränkung der Schuldfähigkeit unter Würdigung aller Umstände auf die (subjektive) Verschuldensbewertung auswirkt. Es ist naheliegend, dabei das übliche Abstufungsmuster anzuwenden: Ein (objektiv) sehr schweres Tatverschulden kann sich wegen einer leichten Verminderung der Schuldfähigkeit auf ein schweres bis sehr schweres Verschulden reduzieren, bei einer mittelgradigen Beeinträchtigung auf ein mittelschweres bis schweres und bei einer schweren Einschränkung auf ein leichtes bis mittelschweres. Gestützt auf diese grobe Einschätzung hat der Richter unter Berücksichtigung der weiteren Strafzumessungsgründe innerhalb des ihm zur Verfügung stehenden Strafrahmens die Strafe auszufällen, wobei ihm wiederum ein erhebliches Ermessen zusteht. Mit einem solchen Vorgehen wird der Verminderung der Schuldfähigkeit im ganzen Ausmass Rechnung getragen, wie es von der Rechtsprechung gefordert wird, ohne diesem Umstand eine zu weit gehende Bedeutung zukommen zu lassen. Eine rein mathematische Reduktion einer (hypothetischen) Einsatzstrafe, wie nach bisheriger Rechtsprechung als zulässig erachtet, ist systemwidrig. Sie schränkt die Ermessensfreiheit des Richters in unzulässiger Weise ein und ist abzulehnen. Sie führt im Übrigen auch dazu, dass der vom psychiatrischen Experten eingestuften Verminderung der Einsichts- bzw. Steuerungsfähigkeit regelmässig ein zu grosses Gewicht beigemessen wird.
5.7 Liegt eine Verminderung der Schuldfähigkeit vor, hat der Richter im Sinne einer nachvollziehbaren Strafzumessung somit, in Abänderung der bisherigen Rechtsprechung (vgl. BGE 134 IV 132), wie folgt vorzugehen: In einem ersten Schritt ist aufgrund der tatsächlichen Feststellungen des Gutachters zu entscheiden, in welchem Umfange die Schuldfähigkeit des Täters in rechtlicher Hinsicht eingeschränkt ist und wie sich dies insgesamt auf die Einschätzung des Tatverschuldens auswirkt. Das Gesamtverschulden ist zu qualifizieren und mit Blick auf Art. 50 StGB im Urteil ausdrücklich zu benennen, wobei von einer Skala denkbarer Abstufungen nach Schweregrad auszugehen ist. Hierauf ist in einem zweiten Schritt innerhalb des zur Verfügung stehenden Strafrahmens die (hypothetische) Strafe zu bestimmen, die diesem Verschulden entspricht. Die so ermittelte Strafe kann dann gegebenenfalls in einem dritten Schritt aufgrund wesentlicher Täterkomponenten (sowie wegen eines allfälligen blossen Versuchs im Sinne von Art. 22 Abs. 1 StGB) verändert werden (Urteil 6B_585/2008 vom 19. Juni 2009 E. 3.5 mit Hinweis auf BGE 134 IV 132 E. 6.1 S. 135).
5.8 Die tat- und täterangemessene Strafe ist grundsätzlich innerhalb des ordentlichen Strafrahmens der (schwersten) anzuwendenden Strafbestimmung festzusetzen (Schwarzenegger/Hug/Jositsch, Strafrecht II, 8. Aufl. 2007, S. 74). Dieser Rahmen ist vom Gesetzgeber in aller Regel sehr weit gefasst worden, um sämtlichen konkreten Umständen Rechnung zu tragen. Entgegen einer auch in der Praxis verbreiteten Auffassung wird der ordentliche Strafrahmen durch Strafschärfungs- oder Strafmilderungsgründe nicht automatisch erweitert, worauf dann innerhalb dieses neuen Rahmens die Strafe nach den üblichen Zumessungskriterien festzusetzen wäre (Urteil 6S.73/2006 vom 5. Februar 2007 E. 3.2). Zwar ist auch in der bundesgerichtlichen Rechtsprechung darauf hingewiesen worden, das Gesetz sehe eine Strafrahmenerweiterung vor (vgl. BGE 116 IV 300 E. 2a S. 302). Damit sollte aber nur ausgedrückt werden, dass der Richter infolge eines Strafschärfungs- bzw. Strafmilderungsgrundes nicht mehr in jedem Fall an die Grenze des ordentlichen Strafrahmens gebunden ist. Der ordentliche Rahmen ist nur zu verlassen, wenn aussergewöhnliche Umstände vorliegen und die für die betreffende Tat angedrohte Strafe im konkreten Fall zu hart bzw. zu milde erscheint (Schwarzenegger/Hug/Jositsch, a.a.O.). Die Frage einer Unterschreitung des ordentlichen Strafrahmens kann sich stellen, wenn verschuldens- bzw. strafreduzierende Faktoren zusammentreffen, die einen objektiv an sich leichten Tatvorwurf weiter relativieren, so dass eine Strafe innerhalb des ordentlichen Rahmens dem Rechtsempfinden widerspräche. Dabei hat der Richter zu entscheiden, in welchem Umfang er den unteren Rahmen wegen der besonderen Umstände erweitern will.
Der vom Gesetzgeber vorgegebene ordentliche Rahmen ermöglicht in aller Regel, für eine einzelne Tat die angemessene Strafe festzulegen. Er versetzt den Richter namentlich in die Lage, die denkbaren Abstufungen des Verschuldens zu berücksichtigen. Die verminderte Schuldfähigkeit allein führt deshalb grundsätzlich nicht dazu, den ordentlichen Strafrahmen zu unterschreiten. Dazu bedarf es weiterer ins Gewicht fallender Umstände, die das Verschulden als besonders leicht erscheinen lassen. Nur eine solche Betrachtungsweise vermag der gesetzgeberischen Wertung des Unrechtsgehaltes einer Straftat und damit letztlich der Ausgleichsfunktion (auch) des Strafrechts Rechnung zu tragen.
5.9 Im vorliegenden Fall stuft die Vorinstanz das objektive Verschulden der Beschwerdegegnerin als sehr schwer ein, weshalb sie eine Einsatzstrafe von 16 Jahren annimmt. Dies ist angesichts des ordentlichen Strafrahmens von fünf bis zwanzig Jahren nicht zu beanstanden. Geht man von den Feststellungen des psychiatrischen Experten aus und billigt man der Beschwerdegegnerin eine Verminderung der Schuldfähigkeit in mittlerem Masse zu, so trifft sie subjektiv ein zumindest mittelschweres Verschulden. Zu Recht weist die Vorinstanz darauf hin, der Beschwerdegegnerin sei ein egoistisches Motiv anzulasten, weil sie es vorzog, die Beziehung zum Mitangeklagten aufrechtzuerhalten, anstatt ihre wehrlose Tochter zu beschützen. Dass sie dabei die schweren Folgen für das Kind nur in Kauf nahm und nicht direkt wollte, vermag sie nicht wesentlich zu entlasten. Der Säugling war ihr völlig ausgeliefert. Betroffen war ihr eigenes Kind, was eine besondere Verantwortung begründete. Im vorinstanzlichen Urteil wird zutreffend festgehalten, die Beschwerdeführerin habe in schwerer Weise gegen ihre Fürsorge- und Betreuungspflichten als Mutter verstossen. Die Vorinstanz selbst erachtet das Verschulden insgesamt als erheblich. Wenn sie - auch unter Berücksichtigung der günstigen Täterkomponenten (tadelloses Verhalten im Strafverfahren, Teilgeständnis, zu langes Verfahren u.a.) - eine Strafe von lediglich 6 Jahren festsetzt, ist dies nicht mehr vertretbar. Eine solche Sanktion am untersten Rand des ordentlichen Strafrahmens weist auf ein leichtes Verschulden hin, wovon wie dargetan nicht auszugehen ist. Die Vorinstanz verletzt deshalb Bundesrecht, weshalb die Beschwerde gutzuheissen ist. Das Urteil der Vorinstanz ist aufzuheben und die Sache zu neuer Festsetzung der Strafe zurückzuweisen.
6. Bei diesem Ausgang des Verfahrens wären die Gerichtskosten der unterliegenden Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG). Sie hat indessen das Gesuch um unentgeltliche Rechtspflege gestellt, welches gutgeheissen werden kann. Es sind somit keine Gerichtskosten zu erheben. Der Rechtsvertreter der Beschwerdegegnerin ist aus der Bundesgerichtskasse zu entschädigen. Der obsiegenden Beschwerdeführerin ist keine Entschädigung zuzusprechen (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutheissen, das Urteil des Geschworenengerichts des Kantons Zürich vom 18. Februar 2008 aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2. Das Gesuch der Beschwerdegegnerin um unentgeltliche Rechtspflege wird gutgeheissen.
3. Es werden keine Gerichtskosten erhoben.
4. Dem Rechtsvertreter der Beschwerdegegnerin, RA Dr. Max Bleuler, Zürich, wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 3'000.-- ausgerichtet.
5. Dieses Urteil wird den Parteien und dem Geschworenengericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 8. März 2010
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Koch