Sachverhalt:
A. Auf dem Carparkplatz vor dem Parkhaus Messe Zürich fand am frühen Morgen des 19. August 2007 eine gewalttätige Auseinandersetzung statt. Ca. vier Personen schlugen mehrfach mit ihren Fäusten auf X._ ein und versetzten ihm Fusstritte. Z._ schlug X._ mehrmals mit einer Flasche auf den Kopf. X._ schlug seinerseits mehrfach mit den Fäusten auf seine Kontrahenten ein und nahm schliesslich ein Klappmesser mit einer Klinge von 8 cm Länge aus der Hosentasche. Er klappte das Messer auf und stach gezielt auf die vor ihm stehenden Geschädigten Y._ und Z._ ein. Diese erlitten schwere Verletzungen, die ohne notärztliche Behandlung zum Tod geführt hätten.
B. Das Obergericht des Kantons Zürich sprach X._ mit Urteil vom 5. Juni 2009 der mehrfach versuchten Tötung, begangen im Notwehrexzess, schuldig und bestrafte ihn mit einer Freiheitsstrafe von 5 1⁄2 Jahren. Die von X._ dagegen erhobene kantonale Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich mit Zirkulationsbeschluss vom 1. November 2010 ab, soweit es darauf eintrat.
C. Mit Beschwerde in Strafsachen beantragt X._, das Urteil des Obergerichts sowie der Beschluss des Kassationsgerichts seien aufzuheben. Die Sache sei zu neuer Entscheidung an das Obergericht, eventualiter an das Kassationsgericht zurückzuweisen.
Erwägungen:
1. Der angefochtene Beschluss des Kassationsgerichts ist ein kantonal letztinstanzlicher Endentscheid in Strafsachen, gegen den die Beschwerde in Strafsachen zulässig ist (Art. 78 Abs. 1, Art. 80 Abs. 1, Art. 90 BGG). Gemäss dem auf das vorliegende Verfahren noch anwendbaren aArt. 100 Abs. 6 BGG (AS 2006 1234; vgl. Urteil 4A_574/2010 vom 21. März 2011 E. 1.1) ist die Mitanfechtung des obergerichtlichen Entscheids zulässig, da die Kognition des Zürcher Kassationsgerichts enger ist als diejenige des Bundesgerichts (Urteil 6B_33/2009 vom 25. Februar 2009 E. 1).
2. Der Beschwerdeführer rügt die Verletzung von Bundesrecht, indem das Obergericht einen Notwehrexzess bejahe bzw. die Entschuldbarkeit des Exzesses verneine.
2.1 Wird jemand ohne Recht angegriffen oder unmittelbar mit einem Angriff bedroht, so ist der Angegriffene und jeder andere berechtigt, den Angriff in einer den Umständen angemessenen Weise abzuwehren (Art. 15 StGB).
2.1.1 Das Obergericht erwägt, der Beschwerdeführer habe die Grenzen der erlaubten Notwehr bei weitem überschritten. Dieser habe zwar erwarten müssen, weitere Schläge und Tritte einzustecken. Solche könnten durchaus zu Verletzungen wie namentlich Hämatomen und Rissquetschwunden führen. Zu lebensgefährlichen oder gar tödlichen Verletzungen komme es aber bei Schlägereien ohne Waffeneinsatz nur selten. Selbst wenn es denkbar sei, dass jemand mit blossen Faustschlägen getötet werde, so bestehe trotzdem eine viel geringere Wahrscheinlichkeit, jemanden mittels Faustschlägen lebensgefährlich zu verletzen, als unter Einsatz eines Messers. Gefährlicher seien die Schläge von Z._ mit der Flasche auf den Kopf des Beschwerdeführers gewesen. Solche könnten leicht zu lebensgefährlichen Hirnverletzungen führen. Der Beschwerdeführer sei aber davon ausgegangen, diese Schläge kämen von einer andern, hinter ihm stehenden Person. Er habe indessen sein Messer nicht gegen diesen vermeintlichen Angreifer gerichtet, sondern insgesamt siebenmal wuchtig auf den Bauch bzw. Oberkörper der beiden Geschädigten eingestochen (angefochtenes Urteil E. III. 3c S. 19 f.).
2.1.2 Der Beschwerdeführer wendet ein, die Einschätzung des Obergerichts, wonach die Wahrscheinlichkeit mittels Faustschlägen verletzt zu werden, viel geringer sei als beim Einsatz eines Messer, sei allgemein und könne nicht auf den vorliegenden Fall übernommen werden. Er sei von vier Personen gleichzeitig angegriffen worden und sei den Angreifern zahlenmässig und körperlich unterlegen gewesen. Fusstritte seien geeignet, schwerste oder lebensgefährliche Verletzungen zu verursachen. Dies gelte auch für Faustschläge gegen den Kopf. Hätte der Angriff länger angedauert, hätte er lebensgefährlich verletzt werden können. Der Angriff sei äusserst heftig gewesen. Er habe keine Möglichkeit gehabt, die Angreifer zu warnen. In dieser Situation sei er auch nicht in der Lage gewesen, das Messer gezielt einzusetzen. Schliesslich sei irrelevant, dass er die Messerstiche nicht gegen den vermeintlich hinter ihm stehenden Angreifer mit der Flasche gerichtet habe. Dies einerseits, weil er nicht habe beurteilen können, welcher der Angreifer mit einer Flasche auf ihn eingeschlagen habe. Andererseits habe er den Angreifer, welcher ihn mit der Flasche geschlagen habe, auch tatsächlich getroffen.
2.1.3 Nach der Rechtsprechung muss die Abwehr in einer Notwehrsituation nach der Gesamtheit der Umstände als verhältnismässig erscheinen. Eine Rolle spielen vor allem die Schwere des Angriffs, die durch den Angriff und die Abwehr bedrohten Rechtsgüter, die Art des Abwehrmittels und dessen tatsächliche Verwendung. Die Angemessenheit der Abwehr ist aufgrund jener Situation zu beurteilen, in der sich der rechtswidrig Angegriffene im Zeitpunkt seiner Tat befand. Besondere Zurückhaltung ist bei der Verwendung von gefährlichen Werkzeugen zur Abwehr (Messer, Schusswaffen etc.) geboten, da deren Einsatz stets die Gefahr schwerer oder gar tödlicher Verletzungen mit sich bringt. Angemessen ist die Abwehr, wenn der Angriff nicht mit weniger gefährlichen und zumutbaren Mitteln hätte abgewendet werden können, der Täter womöglich gewarnt worden ist und der Abwehrende vor der Benutzung des gefährlichen Werkzeugs das Nötige zur Vermeidung einer übermässigen Schädigung vorgekehrt hat. Auch ist eine Abwägung der auf dem Spiel stehenden Rechtsgüter unerlässlich. Doch muss deren Ergebnis für den Angegriffenen, der erfahrungsgemäss rasch handeln muss, mühelos erkennbar sein (BGE 136 IV 49 E. 3.2 und 3.3 S. 51 f. mit Hinweisen).
2.1.4 Der Beschwerdeführer befand sich unbestrittenermassen in einer Notwehrsituation, als er sich mit dem Messer zur Wehr setzte. Zu prüfen ist die Verhältnismässigkeit seiner Handlung. Wie das Obergericht in tatsächlicher Hinsicht verbindlich feststellt (Art. 105 Abs. 1 BGG), ging der Beschwerdeführer davon aus, dass er mit den Messerstichen nicht gegen diejenige Person zielte, welche ihm mehrmals mit der Flasche auf den Kopf geschlagen hatte. Für die Abwehr dieser Schläge fehlte ihm der Verteidigungswille (vgl. BGE 104 IV 1 E. 3a S. 2 mit Hinweisen). Somit ist vorliegend die Verhältnismässigkeit der Notwehrhandlung des Beschwerdeführers gegenüber den Faustschlägen und Fusstritten der Geschädigten zu beurteilen. Wie der Beschwerdeführer zu Recht vorbringt, erachtete das Bundesgericht in einem kürzlich veröffentlichten Entscheid (BGE 136 IV 49) die Abwehr eines Angegriffenen, welcher sich mit einem Messer gegen Faustschläge und Fusstritte von zwei Personen gewehrt hatte, als zulässig. Das Bundesgericht erwog, für den Angegriffenen habe das Risiko bestanden, im Laufe der Auseinandersetzung erhebliche Körperverletzungen davonzutragen. Unter diesen Umständen erscheine der Messereinsatz als solcher nicht von vornherein unzulässig. Der Angreifer sei allerdings beim Einsatz des Messers zu besonderer Zurückhaltung verpflichtet (vgl. BGE 136 IV 49 E. 4.2 S. 53 mit Hinweisen). Im vorliegenden Fall hat der Beschwerdeführer sein Messer nicht zurückhaltend eingesetzt. Selbst wenn er keine Möglichkeit hatte, die Angreifer zu warnen bzw. sich mit einem gezielten Stich gegen ein Bein oder einen Arm zu wehren, hätte er zuerst einen einzigen Stich in den unteren und somit weniger verletzlichen Körperbereich einer der Angreifer ausführen können. Der Beschwerdeführer hat jedoch direkt siebenmal wuchtig gegen den Bereich des Oberkörpers der beiden Geschädigten gestochen. Das Obergericht verletzt kein Bundesrecht, indem es diese Abwehr als unangemessen erachtet.
2.2 Überschreitet der Abwehrende die Grenzen der Notwehr, so mildert das Gericht die Strafe (Art. 16 Abs. 1 StGB). Überschreitet er die Grenzen der Notwehr in entschuldbarer Aufregung oder Bestürzung über den Angriff, so handelt er nicht schuldhaft (Art. 16 Abs. 2 StGB).
2.2.1 Das Obergericht verneint die Entschuldbarkeit des Notwehrexzesses. Es führt aus, der Beschwerdeführer sei den Angreifern zwar insofern nicht schutzlos ausgeliefert gewesen, als auch auf seiner Seite noch weitere Personen an der Auseinandersetzung beteiligt gewesen seien. Dass er Angst bekommen habe, sei aber durchaus nachvollziehbar. Sein Vorgehen gegen die Angreifer erscheine allerdings nicht als verzweifelter Befreiungsversuch oder schiere Panikreaktion, sondern als gezielter und äusserst brutaler Gegenangriff. Er habe nacheinander zwei seiner Gegner mit jeweils mehreren heftigen Messerstichen niedergestochen. Die Wucht dieser Stiche lasse sich daran erkennen, dass die Stichkanäle, welche bei den Geschädigten festgestellt worden seien, teilweise erheblich länger gewesen seien als die Klingenlänge des eingesetzten Messers. Der Beschwerdeführer habe damit in Kauf genommen, Leib und Leben der Geschädigten zu gefährden (angefochtenes Urteil E. III. 4b S. 21).
2.2.2 Der Beschwerdeführer wendet ein, es sei nachvollziehbar, dass seine spontane Abwehr in der für ihn lebensgefährlichen Situation heftig erfolgt sei. Der Angriff sei für ihn überraschend und in einem Zug erfolgt. Er sei über den brutalen Angriff äusserst aufgeregt und nicht in der Lage gewesen, einen gezielten Gegenangriff zu verüben. Vielmehr habe er verzweifelt versucht, sich zu wehren. Dass er sich an der Hand verletzt habe, als er das Messer geöffnet habe, sei ein Indiz für sein unkontrolliertes Handeln.
2.2.3 Bei der Beurteilung der Entschuldbarkeit des Notwehrexzesses wird ein umso höherer Grad entschuldbarer Aufregung oder Bestürzung verlangt, je mehr die Reaktion des Täters den Angreifer verletzt oder gefährdet (BGE 102 IV 1 E. 3b S. 7). Gemäss den tatsächlichen Feststellungen des Obergerichts nahm der Beschwerdeführer in Kauf, die Geschädigten lebensgefährlich zu verletzen. Vorliegend gilt deshalb ein strenger Massstab für die Entschuldbarkeit seines Notwehrexzesses. Das Obergericht legt nachvollziehbar dar, weshalb der Beschwerdeführer kaltblütig und somit nicht in entschuldbarer Aufregung gehandelt hat. Die Rüge des Beschwerdeführers erweist sich als unbegründet.
3. Der Beschwerdeführer rügt weiter die Verletzung von Bundesrecht bei der Strafzumessung.
3.1 Das Obergericht führt aus, straferhöhend würde sich die mehrfache Tatbegehung, die nicht einschlägigen Vorstrafen des Beschwerdeführers sowie in etwas stärkerem Masse die Delinquenz während einer laufenden Probezeit auswirken. Strafmildernd falle der Notwehrexzess stark ins Gewicht. Dass es beim Tötungsversuch geblieben sei, wirke sich nur mässig strafmindernd aus, da das Ausbleiben des Erfolgs bloss einem glücklichen Zufall zu verdanken sei. Strafmindernd sei ausserdem zu berücksichtigen, dass der Beschwerdeführer bereits zu Beginn der Untersuchung zugegeben habe, während der Auseinandersetzung mit einem Messer auf seine Gegner eingestochen zu haben. Hätte nicht eine Notwehrsituation vorgelegen und wären die Geschädigten zufolge der Messerstiche gestorben, so wäre eine Freiheitsstrafe in der Grössenordnung von mindestens zwölf Jahren auszufällen gewesen. Der Strafmilderungsgrund des Versuchs rechtfertige eine Strafreduktion um ca. einen Viertel, derjenige des Notwehrexzesses nochmals eine solche von etwa 40 %. Die übrigen Straferhöhungs- und Strafminderungsgründe würden sich die Waage halten. Insgesamt erweise sich eine Freiheitsstrafe von 5 1⁄2 Jahren als angemessene Sanktion (angefochtenes Urteil E. V. 4 und 5 S. 28).
3.2 Der Beschwerdeführer bringt vor, die Begründung des Obergerichts zur Strafe von 5 1⁄2 Jahren sei nicht schlüssig und verletze Art. 50 StGB sowie seinen Anspruch auf rechtliches Gehör. Die gedanklich festgelegte Einsatzstrafe von 12 Jahren sei bei Berücksichtigung des Strafmilderungsgrundes des Versuchs um ca. einen Viertel und somit um 3 Jahre zu reduzieren. Aufgrund des Notwehrexzesses sei die Einsatzstrafe zusätzlich um 40 % bzw. um 4.8 Jahre herabzusetzen. Dies ergäbe eine Strafe von lediglich 4.2 Jahren. Der Beschwerdeführer macht weiter geltend, er sei von Anfang an geständig und kooperativ gewesen. Dies wirke sich praxisgemäss bis zu einem Drittel reduzierend aus und müsste eine weitere Minderung der Strafe um 3 Jahre nach sich ziehen. Das Obergericht halte indessen fest, dass sich die Straferhöhungs- und Strafminderungsgründe ausgleichen würden. Die mehrfache Tatbegehung sei aber bereits in der hypothetischen Strafe von 12 Jahren berücksichtigt. Die Vorstrafen seien höchstens leicht straferhöhend zu berücksichtigen und könnten sein Geständnis nicht aufwiegen. Ausserdem müsste sich das Mitverschulden der Geschädigten strafmindernd auswirken. Schliesslich habe er den Notwehrexzess in einer kaum steuerbaren Reaktion begangen. Da er zu Recht um sein Leben gefürchtet habe, sei sein Handeln als gering verwerflich zu werten.
3.3 Gemäss Art. 47 Abs. 1 StGB misst das Gericht die Strafe nach dem Verschulden des Täters und weiteren Umständen zu. Das Bundesgericht hat die Grundsätze der Strafzumessung wiederholt dargelegt (BGE 136 IV 55 E. 5.4 S. 59 mit Hinweis). Darauf kann verwiesen werden.
3.4 Der Begriff des Verschuldens bezieht sich auf den gesamten Unrechts- und Schuldgehalt der Straftat (BGE 134 IV 1 E. 5.3.3 S. 11 mit Hinweis). Das vom Beschwerdeführer geltend gemachte Mitverschulden der Geschädigten sowie die geringe Verwerflichkeit seines Handelns berücksichtigt das Obergericht in seinen Erwägungen zum Verschulden. Es führt aus, der Beschwerdeführer habe die Grenzen der grundsätzlich erlaubten Notwehr bei weitem überschritten und eine massive Eskalation der Auseinandersetzung bewirkt. Demgegenüber sei ihm zugute zu halten, dass er eventualvorsätzlich gehandelt habe und am Zustandekommen der gewalttätigen Auseinandersetzung nicht massgeblich beteiligt gewesen sei. Das Obergericht stuft das Verschulden des Beschwerdeführers insgesamt als recht schwer ein. Auf die zutreffenden Erwägungen kann verwiesen werden (Art. 109 Abs. 3 Satz 2 BGG; angefochtenes Urteil E. V. 2 S. 25 f.). Unter Berücksichtigung des relativ schweren Verschuldens sowie der mehrfachen Tatbegehung legt das Obergericht eine hypothetische Strafe von 12 Jahren fest, welche es aufgrund des Strafmilderungsgrundes des Versuchs um einen Viertel und somit auf 9 Jahre reduziert. Indem das Obergericht ausführt, der Notwehrexzess rechtfertige nochmals eine Reduktion von 40 %, ergibt sich, dass diese Reduktion ausgehend von der bereits gemilderten Strafe von 9 Jahren vorzunehmen ist. Es resultiert eine Reduktion von 3.6 Jahren bzw. eine Strafe von 5.4 Jahren. Dies entspricht der ausgefällten Strafe von 5 1⁄2 Jahren. Die Strafzumessung des Obergerichts ist nachvollziehbar und stellt keine Verletzung von Art. 50 StGB dar (vgl. BGE 134 IV 17 E. 2.1 S. 19 f. mit Hinweisen). Soweit der Beschwerdeführer diesbezüglich die Verletzung seines Anspruchs auf rechtliches Gehör rügt, ist darauf mangels rechtsgenügender Begründung nicht einzutreten (Art. 106 Abs. 2 BGG; BGE 136 I 49 E. 1.4.1 S. 53, 65 E. 1.3.1 S. 68; je mit Hinweisen). Hinsichtlich der Täterkomponenten zieht das Obergericht das Geständnis des Beschwerdeführers sowie dessen Vorstrafen und Delinquenz während einer laufenden Probezeit in die Strafzumessung ein. Dabei liegt es im Ermessen des Obergerichts, in welchem Umfang es das Geständnis wertet (vgl. Urteil 6B_866/2009 E. 1.3.3 vom 22. Februar 2010). Insgesamt berücksichtigt das Obergericht alle wesentlichen Strafzumessungsfaktoren und gewichtet sie in nicht zu beanstandender Weise. Die Strafzumessung verstösst nicht gegen Bundesrecht.
4. Der Beschwerdeführer rügt schliesslich die Verletzung von Bundesrecht, indem das Kassationsgericht für die Beurteilung seiner Schuldfähigkeit auf das Gutachten von Dr. med. A._, welches nicht fachgerecht zustande gekommen sei, abstelle.
4.1 Dr. med. B._ diagnostizierte in seinem psychiatrischen Gutachten vom 28. Juli 2008 (nachfolgend Erstgutachten) beim Beschwerdeführer eine rezidivierende depressive Störung sowie einen episodischen Alkoholmissbrauch. Diesen Befunden mass er im allgemeinen keinen erheblich einschränkenden Einfluss auf die Schuldfähigkeit zu. Er hielt fest, "in bedrohlichen und ausweglosen oder zurückstellenden Situationen bestehe aber zufolge kurzschlüssigen Problemlösungen und reaktiver Aggressionsbereitschaft teils kulturell bedingt, teils persönlichkeitsbedingt, eine situative Einschränkung der Steuerungsfähigkeit". Die Schreck- und Panikreaktion der Messerstecherei habe die Steuerungsfähigkeit des Beschwerdeführers erheblich eingeschränkt. Dr. med. B._ vertrat abschliessend die Ansicht, der Beschwerdeführer sei in seiner Schuldfähigkeit schwer vermindert gewesen (vgl. Urteil des Obergerichts E. V. 1b aa S. 22 f., mit Hinweis auf kantonale Akten).
Die Staatsanwaltschaft ersuchte Dr. med. A._ um Überprüfung des Erstgutachtens. Dieser führte in seinem Gutachten vom 22. September 2008 (nachfolgend Aktengutachten) aus, Dr. med. B._ habe keine erheblich schwere psychische Störung bezeichnet, die zu einer Beeinträchtigung der Einsichts- und/oder Willensfähigkeit geführt hätte. Vielmehr habe er "nichtkrankheitswertige Persönlichkeitszüge" für das Verhalten des Beschwerdeführers geltend gemacht. Zwar könnten affektiv belastende Situationen zu "wenig reflektierten Verhaltensbereitschaften" führen und die Steuerungsfähigkeit durchaus und sogar in hohem Masse beeinträchtigen. Diese Faktoren unterlägen jedoch der richterlichen Beweiswürdigung und normativen Wertung. Die von Dr. med. B._ vorgenommene Beurteilung der Schuldfähigkeit sei insofern nicht zutreffend, als bereits die diagnostische Eingangsvoraussetzung einer tatzeitaktuellen krankhaften psychischen Störung nicht erfüllt gewesen sei (vgl. Urteil des Obergerichts E. V. 1b bb S. 23 f., mit Hinweis auf kantonale Akten).
4.2 Das Kassationsgericht erwägt, Dr. med. B._ habe mit dem Beschwerdeführer vier Explorationsgespräche durchgeführt und den Gesprächsinhalt umfassend dargestellt. Dr. med. A._ habe seine gutachterliche Tätigkeit praktisch im Anschluss an die Erstbegutachtung aufgenommen und sein Gutachten bereits ca. zwei Monate später erstattet. In seiner Funktion als Zweitgutachter habe er an die Sachverhaltsangaben des Exploranden im Erstgutachten anknüpfen können. Da Dr. med. B._ auch eingehend das Verhalten des Beschwerdeführers während der Gespräche beschrieben habe, vermöge dies den Umstand zu relativieren, dass sich Dr. med. A._ vom Beschwerdeführer keinen persönlichen Eindruck verschafft habe. Dr. med. A._ sei ersucht worden, sein Gutachten auf die Akten zu stützen bzw. mit der Staatsanwaltschaft Rücksprache zu nehmen, wenn er es für nötig erachte, Explorationsgespräche durchzuführen. Aufgrund seiner Fachkompetenz könne es ihm zugebilligt werden, zu erkennen, ob sich die Erfüllung seines Auftrags ohne Durchführung eines Explorationsgesprächs aus fachlicher Sicht rechtfertigen lasse oder nicht (Beschluss des Kassationsgerichts E. II. 1.4 S. 7 ff.).
4.3 Der Beschwerdeführer bringt vor, gemäss Rechtsprechung sei eine psychiatrische Begutachtung ohne persönliche Untersuchung des Probanden durch den Gutachter nur ausnahmsweise zulässig, wenn sich das Aktengutachten auf das Erstgutachten abstellen lasse. Dies sei vorliegend nicht der Fall. Dr. med. A._ habe die Frage der Schuldfähigkeit anders beurteilt als der Erstgutachter und sei somit zu einem anderen Ergebnis gekommen. Indem das Kassationsgericht dennoch auf das Aktengutachten abstelle, verletze es Art. 20 StGB, das Willkürverbot, sowie den Anspruch auf rechtliches Gehör.
4.4 Besteht ernsthafter Anlass, an der Schuldfähigkeit des Täters zu zweifeln, so ordnet die Untersuchungsbehörde oder das Gericht die sachverständige Begutachtung durch einen Sachverständigen an (Art. 20 StGB). Im vorliegenden Strafverfahren erfolgte eine solche Begutachtung. Die Rüge des Beschwerdeführers, das Kassationsgericht habe auf ein unzureichendes Gutachten abgestellt, beschlägt nicht Art. 20 StGB, sondern das Willkürverbot bzw. den Anspruch auf rechtliches Gehör (vgl. BGE 106 IV 97 E. 2b S. 100, 236 E. 2a S. 238; je mit Hinweisen). Gemäss Rechtsprechung des Bundesgerichts können psychiatrische Gutachten grundsätzlich nur bei persönlicher Untersuchung des Probanden fachgerecht erstattet werden. Aktengutachten sind unter anderem ausnahmsweise möglich, wenn über den zu begutachtenden Täter bereits ein oder mehrere Gutachten erstattet wurden, die jüngeren Datums sind, und sich die Grundlagen der Begutachtung nicht wesentlich geändert haben (BGE 127 I 54 E. 2f S. 58). Wie das Kassationsgericht zutreffend ausführt, fand vor der Begutachtung des Beschwerdeführers durch Dr. med. A._ im gleichen Verfahren und zum gleichen Sachverhaltskomplex kurz vorher bereits eine Begutachtung statt. Diese lag Dr. med. A._ vor und bildete Anlass des Auftrags an ihn (vgl. Beschluss des Kassationsgerichts E. II. 1.3b S. 7). Das Kassationsgericht legt umfassend dar, inwiefern Dr. med. A._ den Beschwerdeführer nicht zwingend persönlich untersuchen musste. Es verletzt weder den Anspruch des Beschwerdeführers auf rechtliches Gehör noch verfällt es in Willkür, indem es für die Beurteilung der Schuldfähigkeit auf das Aktengutachten abstellt. Die Rügen erweisen sich als unbegründet, soweit darauf mangels rechtsgenügender Begründung überhaupt einzutreten ist (Art. 106 Abs. 2 BGG).
5. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Bei diesem Ausgang des Verfahrens ist dessen Gesuch um aufschiebende Wirkung gegenstandslos.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Zürich, II. Strafkammer, und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 16. Mai 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Mathys Binz