Sachverhalt:
A. Im Rahmen eines Streites stach A._ am 5. September 2005 in Zürich ihrem Ehemann mit einem Taschenmesser zweimal in die Brust. Dabei verletzte ein Stich das Herz, was zum Tod des Opfers führte.
B. Das Obergericht des Kantons Zürich, II. Strafkammer, verurteilte A._ am 7. März 2008 wegen vorsätzlicher Tötung zu 3 Jahren und 9 Monaten Freiheitsstrafe. Das Gericht billigte ihr dabei zu, in Überschreitung der Grenzen der Notwehr gehandelt zu haben.
C. Mit Beschwerde in Strafsachen beantragt die Oberstaatsanwaltschaft des Kantons Zürich, das Urteil des Obergerichts sei aufzuheben und die Sache zur Ausfällung einer markant höheren Strafe zurückzuweisen. Während die Vorinstanz auf eine Vernehmlassung verzichtet hat, beantragt die Beschwerdegegnerin, die Beschwerde sei abzuweisen.

Erwägungen:
1. Die Beschwerdeführerin macht geltend, die Vorinstanz habe die verminderte Schuldfähigkeit und die entschuldbare Notwehr falsch gewichtet, was zu einer überaus milden Strafe geführt habe.
2. Entgegen der Auffassung der Vorinstanz ist das neue Recht nicht milder (Art. 2 Abs. 2 StGB). Dass der Begriff "Zuchthaus" im neuen Recht nicht mehr enthalten ist, hat keine Bedeutung. Die Strafdrohungen im Besonderen Teil des Strafgesetzbuches (zweites Buch) wurden an das revidierte Sanktionensystem angepasst. Von einer Ausnahme abgesehen (Art. 294 StGB) hat sie der Gesetzgeber lediglich neu umschrieben, ohne dass der damit verbundene Vorwurf erschwert bzw. der Strafrahmen erweitert worden wäre (<ref-ruling> E. 5 S. 86 mit Hinweisen). Freiheitsentziehende Strafen des bisherigen Rechts (Gefängnis oder Zuchthaus) und des neuen Rechts (Freiheitsstrafe) sind gleichwertig, soweit sie unbedingt ausgesprochen werden (a.a.O. E. 7.2.1 S. 89). Ob das neue im Vergleich zum alten Recht milder ist, beurteilt sich im Übrigen nicht nach einer abstrakten Betrachtungsweise, sondern in Bezug auf den konkreten Fall (Grundsatz der konkreten Vergleichsmethode). Der Richter hat die Tat sowohl nach altem als auch nach neuem Recht (hypothetisch) zu prüfen und durch Vergleich der Ergebnisse festzustellen, nach welchem der beiden Rechte der Täter besser wegkommt (a.a.O. E. 6.2.1 S. 86 mit Hinweisen). Aus dem angefochtenen Urteil geht nicht hervor, inwiefern das im neuen Recht (Art. 47 StGB) ausdrücklich genannte Strafzumessungselement der Wirkung der Strafe auf das Leben des Täters im konkreten Fall weitergehend als nach dem alten Recht zum Tragen käme. Der Hinweis der Vorinstanz, dass damit eine niedrigere Strafe möglich sei, als sie das Verschulden des Täters gebieten würde, ist insoweit unbehelflich. Auch nach der Praxis zum alten Recht konnte eine vom Tatverschulden unabhängige strafmindernde Komponente zu einer Strafe führen, die unter der dem Verschulden angemessenen Strafe lag. Die Vorinstanz hält zutreffend fest, dass die im neuen Recht ausdrücklich genannten zusätzlichen Strafzumessungselemente der Praxis zum alten Recht entsprechen (Urteil 6B_401/2007 vom 8. November 2007 E. 3.2, nicht publ. in: <ref-ruling>). Dies gilt auch in Bezug auf die Auswirkungen der Verminderung der Schuldfähigkeit (Art. 19 StGB) und der entschuldbaren Notwehr (Art. 16 StGB) auf das Strafmass. Dem angefochtenen Urteil ist nicht zu entnehmen, dass die Vorinstanz bei Anwendung des zur Zeit der Tat geltenden alten Rechts eine höhere Strafe ausgefällt hätte. In Anbetracht der im vorliegenden Fall massgebenden und im Wesentlichen unveränderten Strafzumessungsgrundsätze wäre die Strafe nach altem Recht gleich ausgefallen. Das neue Recht ist somit im konkreten Fall nicht das mildere. Demnach ist das alte Recht anwendbar.
3. 3.1 Es liegt im Ermessen des Sachrichters, in welchem Umfang er die verschiedenen Strafzumessungsfaktoren berücksichtigt. Die Strafrechtliche Abteilung des Bundesgerichts greift auf Beschwerde in Strafsachen hin nur in die Strafzumessung ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen beziehungsweise in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (vgl. <ref-ruling> E. 6.1 S. 21; <ref-ruling> E. 2c S. 104; <ref-ruling> E. 4a S. 295). Nach Art. 50 StGB hat der Richter, sofern er sein Urteil zu begründen hat, die für die Zumessung der Strafe erheblichen Umstände und deren Gewichtung festzuhalten. Diese im neuen Recht gesetzlich festgeschriebene Begründungspflicht entspricht der Rechtsprechung des Bundesgerichts zum alten Recht, wonach der Richter die Überlegungen, die er bei der Bemessung der Strafe vorgenommen hat, in den Grundzügen wiedergeben muss, so dass die Strafzumessung nachvollziehbar ist. Besonders hohe Anforderungen an die Begründung der Strafzumessung werden unter anderem gestellt, wenn die ausgesprochene Strafe ungewöhnlich hoch oder auffallend milde ist (BGE <ref-ruling> E. 2c S. 104 f.; <ref-ruling> E. 2a/aa S. 56; <ref-ruling> E. 3a S. 143; <ref-ruling> E. 2a S. 338 f.).
3.2 Die Vorinstanz hält fest, dass ohne Notwehrsituation und Verminderung der Schuldfähigkeit für das Tötungsdelikt eine Freiheitsstrafe von rund 15 Jahren angemessen wäre. In Anbetracht der in mittlerem Grade verminderten Schuldfähigkeit sei diese Strafe auf 7 1⁄2 Jahre zu reduzieren, womit gleichzeitig auch dem vom Gutachter attestierten "schweren Angstzustand" vollumfänglich Rechnung getragen werde. Sodann sei für den zugestandenen, qualitativ gravierenden Notwehrexzess eine zusätzliche Milderung im Umfang von einem Fünftel der Einsatzstrafe bzw. von 3 Jahren vorzunehmen. Die Vorinstanz reduziert schliesslich die daraus resultierende Freiheitsstrafe von 4 1⁄2 Jahren wegen der überwiegend positiven Täterkomponenten um 9 Monate auf die angefochtene Strafe von 3 Jahren und 9 Monaten.
3.3 Die Beschwerdeführerin macht insbesondere geltend, es sei nicht nachvollziehbar und jedenfalls der vorinstanzlichen Begründung nicht ansatzweise zu entnehmen, wieso die Strafe allein unter dem Titel der überschreitenden entschuldbaren Notwehr um nicht weniger als 1/5 bzw. 3 Jahre zu reduzieren sei. Wenn trotz der im Urteil angeführten Zweifel (insbesondere der Annahme, dass die Beschwerdegegnerin ihrem Ehemann den Stich mit dem Messer "rein prophylaktisch und vorschnell" zufügte) eine solche Strafreduktion vorgenommen werde, so liege darin ein Ermessensmissbrauch und gleichzeitig auch eine Verletzung der Begründungspflicht. Nach Auffassung der Beschwerdeführerin hätte die Vorinstanz die Strafe zunächst wegen der entschuldbaren Notwehr und erst dann wegen der Verminderung der Schuldfähigkeit reduzieren dürfen. Denn der Notwehrexzess gehöre zu den Tat- und nicht zu den Täterkomponenten. Selbst wenn man die Strafe um 3 Jahre reduzierte, müsste daher die tatbezogene Einsatzstrafe auf 12 Jahre festgesetzt werden. Diese Strafe wäre wegen der verminderten Schuldfähigkeit dann auf höchstens 6 Jahre herabzusetzen. Würde man diese Strafe um die 9 Monate herabsetzen, käme man insgesamt auf 5 1⁄4 Jahre. Die Vorinstanz sei somit aufgrund eines falschen Berechnungsmodus zu einer Freiheitsstrafe von 3 Jahren und 9 Monaten gelangt.
3.4 Die Beschwerdegegnerin wendet im Wesentlichen ein, es entspreche einer gefestigten Gerichtspraxis, dass in aller Regel zunächst die Strafreduktion für die verminderte Schuldfähigkeit vorgenommen werde, bevor die Reduktion für weitere Tatkomponenten wie etwa für einen Notwehrexzess berücksichtigt werde. Die von der Beschwerdeführerin vertretene Rechtsauffassung würde darauf hinauslaufen, die gesamten Notwehrkomponenten der Tat aus dem Anwendungsbereich der verminderten Schuldfähigkeit vollständig auszuklammern.
3.5 Die Rüge der Beschwerdeführerin ist insofern berechtigt, als im vorinstanzlichen Urteil eine unzulässige "Rechnungsmethode" angewendet wird. Bei der Strafzumessung ist vom Verschulden des Täters auszugehen (Art. 63 aStGB). Das Tatverschulden lässt sich im vorliegenden Fall nur unter Einbezug des Notwehrexzesses bewerten. Erst das daraus resultierende Verschulden kann durch die verminderte Zurechnungsfähigkeit (Schuldfähigkeit) beeinflusst werden. Wer vermindert zurechnungsfähig (schuldfähig) ist, dessen Verschulden ist geringer, was im Vergleich zu einem voll Zurechnungsfähigen (Schuldfähigen) zu einer tieferen (milderen) Strafe führt. Im Interesse einer nachvollziehbaren Strafzumessung ist es sinnvoll, im Urteil in einem ersten Schritt darzutun, wie gross das Tatverschulden (und allenfalls die sich daraus ergebende hypothetische Strafe) wäre, wenn keine Verminderung vorläge. In einem zweiten Schritt ist zu begründen, wie sich die Verminderung auf die Verschuldenseinschätzung auswirkt und welches die daraus resultierende angemessene (hypothetische) Strafe ist. Diese Strafe ist dann gegebenenfalls in einem dritten Schritt aufgrund täterrelevanter bzw. tatunabhängiger Strafzumessungsfaktoren zu erhöhen bzw. zu reduzieren (vgl. <ref-ruling> E. 6.1 S. 135).
3.6 Die Vorinstanz führt bei der Verschuldensbewertung zunächst aus, die Beschwerdegegnerin habe dem Opfer lediglich zwei Messerstiche zugefügt, von denen der eine tödliche Wirkung gehabt habe. Zu ihren Gunsten sei davon auszugehen, dass sie mit keinem dieser Stiche bewusst gegen das Herz des Opfers zielte. Sodann sei die Tat nicht das Resultat einer langen Vorbereitung. Sie habe sich vielmehr im Verlaufe einer vorerst rein verbalen Auseinandersetzung ereignet, die vom Opfer mit ungerechtfertigten Beschuldigungen hervorgerufen worden sei. Entscheidend sei dabei, dass es das Opfer nicht bei seinen Beschuldigungen habe bewenden lassen, sondern massive Drohungen ausgestossen und diese mit dem Herumfuchteln mit einem Messer noch unterstrichen habe. Es müsse der Beschwerdegegnerin zugestanden werden, in Notwehr gehandelt zu haben, jedoch liege ein erheblicher Notwehrexzess vor. In subjektiver Hinsicht falle ins Gewicht, dass die Beschwerdegegnerin nicht mit direkter Tötungsabsicht handelte. Offenbar sei es darum gegangen, den für sie belastenden, nicht enden wollenden Beschuldigungen, gleichzeitig aber auch den verbalen Drohungen ein Ende zu setzen. Es könne deshalb nur von einem Eventualvorsatz ausgegangen werden, was das Tatverschulden deutlich relativiere.
Mit Bezug auf den Notwehrexzess erwähnt die Vorinstanz, es sei durchaus nachvollziehbar, dass sich die Beschwerdegegnerin durch das herumbrüllende, mit einem Messer bewehrte Opfer in die Enge getrieben fühlte und sich vor ihm fürchtete. Von einer ausweglosen Situation oder gar einer unmittelbar drohenden, akuten Lebensgefahr könne aber keine Rede sein, und die Aussagen der Beschwerdegegnerin selber liessen insgesamt die Annahme nicht zu, sie sei selber ernsthaft von einer solchen unmittelbaren Lebensgefahr ausgegangen. Der Stich mit dem Messer sei rein prophylaktisch und vorschnell erfolgt, wenn nicht gar ganz einfach mit dem Ziel, dem anhaltend lästigen Verhalten des Opfers ein Ende zu setzen und dieses endgültig aus dem Zimmer zu treiben. Von einer den Umständen angemessenen Abwehr könne vor diesem Hintergrund keine Rede sein. Gestützt auf das psychiatrische Gutachten geht die Vorinstanz davon aus, die Beschwerdegegnerin sei wegen ihrer massiven Alkoholisierung erheblich beeinträchtigt gewesen, das Verhalten ihres Ehemannes realistisch zu beurteilen, was bei ihr einerseits eine bei objektiver Betrachtung übertriebene Angst ausgelöst haben möge, insbesondere aber zu ihrer krassen Überreaktion mit den massiven Messerstichen geführt habe.
3.7 Aufgrund dieser Feststellungen muss das Verschulden - ohne Berücksichtigung der verminderten Zurechnungsfähigkeit - unter Einbezug der nur knapp erfüllten Notwehrlage in einem mittleren Bereich eingestuft werden, was mit der Einschätzung der Vorinstanz übereinstimmt. Die von ihr wegen des Notwehrexzesses veranschlagte Reduktion der Strafe im Umfang von drei Jahren hält sich innerhalb des weiten sachrichterlichen Ermessens und ist bundesrechtlich nicht zu beanstanden. Wird in einem zweiten Schritt die mittelgradig verminderte Zurechnungsfähigkeit der Beschwerdegegnerin im Tatzeitpunkt berücksichtigt, so ist von einem erheblich geringeren Verschulden auszugehen. Wenn die Vorinstanz diesem Umstand mit einer hälftigen Reduktion der Strafe Rechnung trägt, so ist dies ebenfalls nicht zu beanstanden (dazu <ref-ruling>). Hingegen ist die verminderte Zurechnungsfähigkeit erst zu berücksichtigen, nachdem das Tatverschulden unter Einbezug des Notwehrexzesses bewertet wurde. Die daraus resultierende Strafe ist schliesslich wegen der überwiegend günstigen täterbezogenen Umstände angemessen zu reduzieren. Es ist davon auszugehen, dass die Vorinstanz bei richtigem Vorgehen auf eine wesentlich höhere Strafe erkannt hätte. Die von ihr ausgesprochene Freiheitsstrafe von 3 3⁄4 Jahren erscheint auch bei einer Gesamtbetrachtung als zu milde und liegt nicht mehr innerhalb des vertretbaren Ermessenspielraums. Die Vorinstanz hat damit Art. 63 aStGB verletzt.
4. Die Beschwerde ist somit gutzuheissen, das Urteil des Obergerichts des Kantons Zürich, II. Strafkammer, vom 7. März 2008 aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen. Bei diesem Ausgang des Verfahrens sind die bundesgerichtlichen Kosten der Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG). Der obsiegenden Beschwerdeführerin ist gemäss Art. 68 Abs. 3 BGG keine Entschädigung zuzusprechen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, das Urteil des Obergerichts des Kantons Zürich, II. Strafkammer, vom 7. März 2008 aufgehoben und die Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdegegnerin auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 19. Juni 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Faga