Sachverhalt:
A. Am 22. Juni 2006 schoss Y._ aus einer Distanz von drei Metern sieben Mal auf seinen Nachbarn A._. Dieser erlitt zwei Schussverletzungen im Bauch sowie je eine am rechten Unterarm, am rechten Unterschenkel, am rechten Knie, am linken Unterschenkel, an der linken Kniekehle und an der linken Hüfte. Aufgrund der Schussverletzungen verstarb A._ am 5. September 2006 infolge eines septischen Kreislaufversagens.
B. Das Obergericht des Kantons Zürich sprach Y._ am 21. Januar 2008 wegen vorsätzlicher Tötung nach <ref-law> schuldig und verurteilte ihn - unter Zubilligung einer Verminderung der Zurechnungsfähigkeit im mittleren Grade - zu einer Freiheitsstrafe von 7 Jahren. Das Obergericht ging davon aus, dass Y._ eventualvorsätzlich handelte.
C. Die Oberstaatsanwaltschaft des Kantons Zürich erhob gegen dieses Urteil am 2. Mai 2008 gleichzeitig kantonale Nichtigkeitsbeschwerde an das Kassationsgericht des Kantons Zürich und Beschwerde in Strafsachen an das Bundesgericht. Mit der letzteren beantragt sie, das Urteil des Obergerichts wegen Verletzung von Bundesrecht bezüglich der Rechtsfrage des direkten Vorsatzes und wegen unrichtiger Feststellung des Sachverhalts aufzuheben und die Strafsache zur neuen Entscheidung an das Obergericht zurückzuweisen.
D. Mit Beschluss vom 20. November 2008 trat das Kassationsgericht des Kantons Zürich auf die Nichtigkeitsbeschwerde der Oberstaatsanwaltschaft nicht ein.

Erwägungen:
1.1 Die Beschwerdeführerin macht geltend, das Obergericht des Kantons Zürich (nachfolgend Vorinstanz genannt) habe die Beweise im Zusammenhang mit dem Vorsatz nach <ref-law> willkürlich gewürdigt. Die Vorinstanz habe zu Unrecht erwogen, dem Beschwerdegegner könne ein Tötungswille und damit ein direkter Tötungsvorsatz aufgrund des erstellten Sachverhaltes nicht rechtsgenüglich nachgewiesen werden. Dadurch habe sie Bundesrecht verletzt. Der Beschwerdegegner habe seinen Tötungswillen in der ersten polizeilichen Einvernahme wenige Stunden nach der Tat bejaht. Er habe dies in derselben Einvernahme mehrfach wiederholt. Bereits beim Alarmieren der Einsatzzentrale habe er erklärt, er habe seinen Nachbarn erschossen. Die Abgabe von sieben Schüssen aus einer Distanz von wenigen Metern auf das 81-jährige Opfer, dessen Gesundheit beeinträchtigt gewesen sei, spreche für einen direkten Vorsatz der Tötung, ebenso die Tatsache, dass der Beschwerdegegner das Opfer mit jedem Schuss getroffen habe, unter anderem auch zweifach in den Bauch.
1.2 Das Kassationsgericht des Kantons Zürich trat auf die von der Beschwerdeführerin erhobene Nichtigkeitsbeschwerde nicht ein. Es begründet seinen Entscheid damit, dass die Beschwerde ungenügend substanziiert sei, soweit sie die Tatfrage des Tötungswillens betreffe. Ob das Obergericht gestützt auf die äusseren Tatumstände zu Recht davon ausgegangen sei, dass ein direkter Vorsatz nicht gegeben sei, sei eine Frage des eidgenössischen Gesetzesrechts, zu deren Überprüfung das Kassationsgericht nicht zuständig sei.
2. 2.1 Gemäss <ref-law> ist die Beschwerde in Strafsachen zulässig gegen Entscheide letzter kantonaler Instanzen. Nach der Strafprozessordnung des Kantons Zürich (StPO/ZH, LS 321) kann die Nichtigkeitsbeschwerde an das Kassationsgericht erhoben werden gegen Urteile und Erledigungsbeschlüsse des Geschworenengerichts und des Obergerichts als erste Instanz (<ref-law>/ZH). Die Nichtigkeitsbeschwerde ist gegeben wegen Verletzung gesetzlicher Prozessformen zum Nachteil des Nichtigkeitsklägers (<ref-law>/ZH). Dabei können unter anderem die Rügen der willkürlichen Beweiswürdigung und Tatsachenfeststellungen erhoben werden (Niklaus Schmid, Strafprozessrecht, 4. Aufl. 2004, N. 1072). Die Nichtigkeitsbeschwerde steht auch wegen Verletzung materieller Gesetzesvorschriften (<ref-law>/ZH) offen, allerdings nur, soweit gegen eine Entscheidung nicht die Beschwerde an das Bundesgericht wegen Verletzung materiellen Gesetzes- oder Verordnungsrechts des Bundes gegeben ist (<ref-law>/ZH).
2.2 Auf die Beschwerde in Strafsachen gegen das Urteil der Vorinstanz ist daher nicht einzutreten, soweit darin eine unrichtige bzw. willkürliche Sachverhaltsfeststellung, insbesondere zur Tatfrage des Tötungswillens, gerügt wird. Zwar ist eine solche Rüge in der Beschwerde in Strafsachen an sich zulässig (<ref-law>), doch ist das Urteil der Vorinstanz, die als erste Instanz entschieden hat, insoweit kein letztinstanzlicher Entscheid. Den Nichteintretensentscheid des Kassationsgerichts hat die Beschwerdeführerin nicht angefochten.
3. 3.1 In tatsächlicher Hinsicht stellt die Vorinstanz fest, dass der Beschwerdegegner in der ersten Einvernahme den Tötungswillen bejaht, in den weiteren Einvernahmen hingegen konstant verneint habe. Der Hintergrund für die Tat habe in einer langjährigen Auseinandersetzung des Beschwerdegegners mit dem Opfer bezüglich der gemeinsamen Wohnliegenschaft gelegen, welche sie zunächst als Mieter bewohnt und später als Miteigentümer je zur Hälfte erworben hätten. Sie hätten nur noch schriftlich miteinander verkehrt. Zu den Ereignissen am Tag der Tat stellt die Vorinstanz folgenden Sachverhalt fest: Es kam wiederum zu einem Konflikt, bei welchem das Opfer dem Beschwerdegegner Rechnungen in den Briefkasten legte, welche er als unvollständig erachtete. Der Beschwerdegegner ging auf den Rat der Tochter des Opfers mit den Rechnungen zum Opfer, welches ihn als "Lügner" bezeichnete. Dies demütigte ihn und machte ihn wütend (vorinstanzliches Urteil S. 8 f.). Er gab an, er sei nach der Rückkehr in seine Wohnung in ein Tief gefallen und habe an Selbstmord gedacht. Deshalb habe er seine Pistole aus dem Schrank geholt und sei in den Wald gegangen, wo er einmal in die Luft geschossen habe, was wie eine Erlösung gewirkt habe (vorinstanzliches Urteil S. 5). Die Vorinstanz hält fest, es habe keine Vorbereitungshandlungen zum Tötungsdelikt gegeben. Zwar sei es nicht ausgeschlossen, dass sich der Beschwerdegegner in den Wald begeben habe, um die Schussfähigkeit der Tatwaffe zu testen, indessen könne ihm seine Darstellung, wonach er sich dort selbst habe richten wollte, nicht widerlegt werden (vorinstanzliches Urteil S. 12). Der Beschwerdegegner war vor der Tat in verschiedenen Restaurants in Dübendorf, wobei der genaue Zeitpunkt der Restaurantbesuche bzw. des ersten Aufsuchens des Opfers am Tattag unklar ist (vorinstanzliches Urteil S. 23). Er war zur Tatzeit alkoholisiert und wies einen Blutalkoholgehalt zwischen 1.29 und 1.88 Gewichtspromille auf (vorinstanzliches Urteil S. 25). Nach der Rückkehr aus dem Wald begab sich der Beschwerdegegner mit geladener Pistole zum Opfer, in der Absicht, "ihm weh zu machen und es zu schockieren bzw. zu bestrafen". Er gab sieben Schüsse aus einer Distanz von drei Metern in Richtung des Unterkörpers des vor dem Fernsehgerät sitzenden Opfers ab, bis das Magazin der Waffe leer war. Er war sich gemäss seinen Angaben des Unrechts seiner Handlungen bewusst und wusste, dass durch sein Schiessen der Tod des Opfers eintreten konnte (vorinstanzliches Urteil S. 8 f.). Daraus schliesst die Vorinstanz, dass der Beschwerdegegner die tödlichen Folgen seiner Schussabgabe mindestens in Kauf genommen habe. Sie führt aus, die Schussabgabe wäre eher in den Kopf- und Brustbereich erfolgt, wenn der Beschwerdegegner das Ziel gehabt hätte, sein Opfer direkt zu töten (vorinstanzliches Urteil S. 12).
3.2 Nach der zutreffenden Auffassung der Vorinstanz ist im vorliegenden Fall das alte Recht anwendbar. Eine Freiheitsstrafe von höchstens drei Jahren, bei welcher nach dem neuen Recht noch ein teilbedingter Vollzug möglich wäre, fällt ausser Betracht. Somit ist das neue Recht nicht das mildere (<ref-law>, vgl. vorinstanzliches Urteil S. 10).
Gemäss Art. 18 Abs. 2 aStGB verübt ein Verbrechen oder Vergehen vorsätzlich, wer die Tat mit Wissen und Willen ausführt. Diese Bestimmung erfasst auch den Eventualvorsatz, welcher vorliegt, wenn der Täter den Eintritt des Erfolgs beziehungsweise die Verwirklichung des Tatbestands für möglich hält, aber dennoch handelt, weil er den Erfolg für den Fall seines Eintritts in Kauf nimmt, sich mit ihm abfindet, mag er ihm auch unerwünscht sein (<ref-ruling> E. 4.1 S. 3 mit Hinweisen). Das neue Recht regelt den Eventualvorsatz ausdrücklich. Gemäss <ref-law> begeht ein Verbrechen oder Vergehen vorsätzlich, wer die Tat mit Wissen und Willen ausführt (Satz 1). Vorsätzlich handelt bereits, wer die Verwirklichung der Tat für möglich hält und in Kauf nimmt (Satz 2). In der Sache hat sich damit nichts geändert.
Was der Täter weiss, will und in Kauf nimmt, betrifft nach der bundesgerichtlichen Rechtsprechung eine innere Tatsache und ist Tatfrage. Rechtsfrage ist hingegen, nach welchen tatsächlichen Voraussetzungen bewusste Fahrlässigkeit, Eventualvorsatz oder direkter Vorsatz gegeben ist (vgl. <ref-ruling> E. 4.1. S. 17; <ref-ruling> E. 8.5 S. 62). Vorliegend ist streitig, ob der Beschwerdegegner in Bezug auf den eingetretenen Tötungserfolg mit Eventualvorsatz oder aber mit direktem Vorsatz handelte.
Der direkte Vorsatz verlangt neben dem Wissen um die reale Möglichkeit der Tatbestandserfüllung auch den Willen, den Tatbestand zu verwirklichen. Der Täter muss sich gegen das rechtlich geschützte Gut entscheiden. Dieser Wille ist gegeben, wenn die Verwirklichung des Tatbestandes das eigentliche Handlungsziel des Täters ist oder ihm als eine notwendige Voraussetzung zur Erreichung seines Zieles erscheint. Dasselbe gilt, wenn die Verwirklichung des Tatbestandes für den Täter eine notwendige Nebenfolge darstellt, mag sie ihm auch gleichgültig oder gar unerwünscht sein. Neben diesem direkten Vorsatz erfasst Art. 18 Abs. 2 aStGB auch den Eventualvorsatz. Hier strebt der Täter den Erfolg nicht an, sondern weiss lediglich, dass dieser möglicherweise mit der willentlich vollzogenen Handlung verbunden ist. Die Rechtsprechung bejaht Eventualvorsatz, wenn der Täter den Eintritt des Erfolgs bzw. die Tatbestandsverwirklichung für möglich hält, aber dennoch handelt, weil er den Erfolg für den Fall seines Eintritts in Kauf nimmt, sich mit ihm abfindet, mag er ihm auch unerwünscht sein (BGE <ref-ruling> E. 8.2 S. 60 f. mit Hinweisen).
3.3 Die Vorinstanz stellt fest, der Beschwerdegegner habe gewusst, dass durch sein Schiessen der Tod seines Opfers eintreten könne. Sie hält im Weiteren fest, dass der Wille des Beschwerdegegners nicht auf ein Töten, sondern auf ein Weh machen, Bestrafen oder Schockieren des Opfers gerichtet war. Diese Feststellungen sind tatsächlicher Natur. Sie können im vorliegenden Fall mit Beschwerde in Strafsachen nicht angefochten werden, weil das angefochtene Urteil insoweit kein letztinstanzlicher Entscheid ist (siehe E. 2.2. hiervor). Das Bundesgericht kann daher nicht prüfen, ob die Vorinstanz in Anbetracht der konkreten Tatausführung (Schussdistanz, Anzahl Schüsse, Ort der Treffer) richtigerweise auf einen Tötungswillen des Beschwerdegegners hätte schliessen müssen. Es hat vielmehr von der tatsächlichen Feststellung der Vorinstanz auszugehen, dass der Beschwerdegegner nicht mit Tötungswillen gehandelt hat. Bei dieser Sachlage ist aber ein direkter Tötungsvorsatz nicht gegeben und verstösst die Verurteilung des Beschwerdegegners wegen eventualvorsätzlicher Tötung nicht gegen Bundesrecht. Die Beschwerde ist folglich abzuweisen soweit darauf einzutreten ist.
4. Bei diesem Ausgang des Verfahrens sind keine Gerichtskosten zu erheben (<ref-law>). Dem Beschwerdegegner wird keine Parteientschädigung zugesprochen, da er sich am Verfahren vor Bundesgericht nicht beteiligt hat und ihm keine Umtriebe entstanden sind.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 6. März 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Koch