Sachverhalt:
A. X.B._ schlug Y._ am 17. Juni 2009 anlässlich einer Auseinandersetzung in der Nähe des Hauptbahnhofs Zürich von vorne zweimal mit der rechten Faust auf den Mund, während A._ diesen von hinten an den Armen festhielt. Y._ erlitt dadurch eine Hirnerschütterung, den Verlust von zwei Zähnen, eine Rissquetschwunde an der Unterlippe und eine Prellung des rechten Ellbogens. Er konnte sich losreissen und flüchtete in den Bahnhof Zürich, wo er von X.B._ eingeholt und erneut tätlich angegriffen wurde.
X.A._ wusste von der Auseinandersetzung, rannte seinem Bruder, X.B._, und Y._ in Richtung Bahnhofshalle nach und schloss sich dem gewaltsamen Vorgehen gegen Letzteren an, indem er noch in rennender Bewegung mit Schwung und im Sprung mit dem rechten Fuss bewusst und gewollt gegen dessen Kopf bzw. Halsbereich trat, ihn aber verfehlte. In der Folge versuchte er mit dem Fuss gegen den Kopf- und Gesichtsbereich des halb am Boden liegenden Y._ zu treten, während X.B._ diesen festhielt und gegen den Boden drückte. Daraufhin packte er mit den Händen dessen rechten Fuss und das rechte Wadenbein, während sein Bruder ein neben ihm zur Absperrung befindliches ca. 4.7 kg schweres und ca. 1 Meter langes Eisenrohr aus dem Sockel zog, anhob und damit in Richtung Kopf bzw. Nacken von Y._ schlug. X.A._ nahm den Griff seines Bruders zur Eisenstange wahr und liess den Fuss und die Wade von Y._ los, um dem Schlag mit der Stange auszuweichen. Als sein Bruder die Eisenstange erneut zum Schlag anhob, traktierte er Y._ weiter mit Fusstritten. Y._ konnte flüchten, als unbeteiligte Passanten eingriffen und die Brüder festhielten.
Y._ erlitt aufgrund des Vorfalls in der Bahnhofshalle keine weiteren Verletzungen. Die Schläge mit der Eisenstange verfehlten ihn. Dem ersten Fusstritt von X.A._ aus dem Sprung heraus entging er nur durch Zufall. X.A._ wusste, dass sowohl dieser Fusstritt als auch die Schläge mit der Eisenstange geeignet waren, schwere und lebensbedrohliche Verletzungen herbeizuführen, und nahm dies in Kauf.
B. Die I. Strafkammer des Obergerichts des Kantons Zürich sprach X.A._ am 25. November 2010 der versuchten schweren Körperverletzung (Art. 122 Abs. 1 bis 3 i.V.m. Art. 22 Abs. 1 StGB) schuldig und verurteilte ihn, als Zusatzstrafe zum Urteil der II. Strafkammer des Obergerichts des Kantons Zürich vom 28. April 2009, zu einer Freiheitsstrafe von 3 1/2 Jahren. Es verpflichtete ihn solidarisch mit X.B._, Y._ Fr. 4'000.-- Genugtuung zu bezahlen.
C. Die von X.A._ gegen das Urteil vom 25. November 2010 erhobene Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich am 22. November 2011 ab, soweit es darauf eintrat.
D. X.A._ führt Beschwerde in Strafsachen mit den Anträgen, ihn vom Vorwurf der schweren Körperverletzung freizusprechen und wegen Tätlichkeiten im Sinne von Art. 126 StGB, eventualiter wegen versuchter einfacher Körperverletzung im Sinne von Art. 123 i.V.m. Art. 22 Abs. 1 StGB schuldig zu sprechen. Im Falle einer Abweisung der Beschwerde im Schuldpunkt sei die Zusatzstrafe auf zwei Jahre festzulegen. Er ersucht um unentgeltliche Rechtspflege und Verbeiständung.
Erwägungen:
1. 1.1 Der Beschwerdeführer rügt eine willkürliche Sachverhaltsfeststellung. Sein Wille sei einzig auf Tätlichkeiten, schlimmstenfalls auf einfache Körperverletzung gerichtet gewesen. Weder habe er gewusst, dass sich sein Bruder der Eisenstange behändigen werde, noch habe er ihn bei den Schlägen in irgendeiner Weise unterstützt. Er habe in der hektischen Situation vorerst nicht erkennen können, dass die Stange aus Eisen oder einem ähnlichen Material war. Offensichtlich unrichtig sei auch die Feststellung, sein Fusstritt aus dem Sprung heraus sei genügend stark gewesen, um eine schwere Körperverletzung zu bewirken.
1.2 Die Sachverhaltsfeststellung der Vorinstanz kann nur gerügt werden, wenn sie willkürlich (Art. 9 BV) ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 134 IV 36 E. 1.4.1). Was der Täter wusste, wollte und in Kauf nahm, betrifft sog. innere Tatsachen, welche vor Bundesgericht nur im Rahmen von Art. 97 Abs. 1 BGG gerügt werden können (BGE 137 IV 1 E. 4.2.3; 135 IV 152 E. 2.3.2; je mit Hinweisen). Die Rüge der Willkür muss präzise vorgebracht und begründet werden (Art. 106 Abs. 2 BGG; BGE 137 IV 1 E. 4.2.3; 136 II 489 E. 2.8; je mit Hinweisen).
1.3 Das Bundesgericht prüft frei, ob das Kassationsgericht auf eine in einer kantonalen Nichtigkeitsbeschwerde gegen ein Urteil des Obergerichts vorgebrachte Rüge der willkürlichen Beweiswürdigung hin zu Unrecht Willkür verneint und diese Verfassungsverletzung nicht behoben hat. Diese Prüfung läuft regelmässig darauf hinaus zu beurteilen, ob das Obergericht die Beweise willkürlich gewürdigt hat. Trifft dies zu, hätte das Kassationsgericht Willkür bejahen müssen, und im gegenteiligen Fall hat es Willkür zu Recht verneint. Da allein das Urteil des Kassationsgerichts Anfechtungsobjekt sein kann, muss dies jedoch über die Anfechtung dieses Urteils und dessen Begründung erfolgen. Macht der Beschwerdeführer vor Bundesgericht eine willkürliche Sachverhaltsfeststellung geltend, darf er sich nicht auf eine blosse Wiederholung der vor dem Kassationsgericht gegen das obergerichtliche Urteil erhobenen Rügen beschränken, sondern hat zugleich auf die Begründung des Kassationsgerichts einzugehen (BGE 125 I 492 E. 1a/cc).
1.4 Die Eingabe des Beschwerdeführers an das Bundesgericht datiert vom 10. März 2011. Den Beschluss des Kassationsgerichts vom 22. November 2011 hätte er mit einer zusätzlichen Beschwerde anfechten müssen, was er nicht tat. Auf seine Sachverhaltsrügen ist nicht einzutreten, da sich diese ausschliesslich gegen den Entscheid des Obergerichts vom 25. November 2010 richten, nicht jedoch gegen den Beschluss des Kassationsgerichts als letzter kantonaler Instanz (vgl. Art. 80 Abs. 1 BGG; Urteile 6B_643/2011 vom 26. Januar 2012 E. 1.3; 6B_45/2009 vom 4. März 2010 E. 3.3).
2. Der Beschwerdeführer wendet sich gegen die rechtliche Qualifikation der Tat als versuchte schwere Körperverletzung im Sinne von Art. 122 i.V.m. Art. 22 Abs. 1 StGB.
2. Der Beschwerdeführer wendet sich gegen die rechtliche Qualifikation der Tat als versuchte schwere Körperverletzung im Sinne von Art. 122 i.V.m. Art. 22 Abs. 1 StGB.
2.1 2.1.1 Den Tatbestand der schweren Körperverletzung im Sinne von Art. 122 StGB erfüllt, wer vorsätzlich einen Menschen lebensgefährlich verletzt (Abs. 1), wer vorsätzlich den Körper, ein wichtiges Organ oder Glied eines Menschen verstümmelt oder ein wichtiges Organ oder Glied unbrauchbar macht, einen Menschen bleibend arbeitsunfähig, gebrechlich oder geisteskrank macht, das Gesicht eines Menschen arg und bleibend entstellt (Abs. 2), oder wer vorsätzlich eine andere schwere Schädigung des Körpers oder der körperlichen oder geistigen Gesundheit eines Menschen verursacht (Abs. 3). Gemäss Art. 12 Abs. 2 StGB begeht ein Verbrechen oder Vergehen vorsätzlich, wer die Tat mit Wissen und Willen ausführt (Satz 1). Vorsätzlich handelt bereits, wer die Verwirklichung der Tat für möglich hält und in Kauf nimmt (Satz 2). Eventualvorsatz im Sinne von Art. 12 Abs. 2 Satz 2 StGB ist gegeben, wenn der Täter den Eintritt des Erfolgs bzw. die Tatbestandsverwirklichung für möglich hält, aber dennoch handelt, weil er den Erfolg für den Fall seines Eintritts in Kauf nimmt, sich mit ihm abfindet, mag er ihm auch unerwünscht sein (BGE 137 IV E. 1 E. 4.2.3).
2.1.2 Nach der Rechtsprechung ist Mittäter, wer bei der Entschliessung, Planung oder Ausführung eines Deliktes vorsätzlich und in massgebender Weise mit anderen Tätern zusammenwirkt, so dass er als Hauptbeteiligter dasteht. Das blosse Wollen der Tat, der subjektive Wille allein, genügt zur Begründung von Mittäterschaft nicht. Der Täter muss vielmehr bei der Entschliessung, Planung oder Ausführung der Tat auch tatsächlich mitwirken. Daraus folgt nicht, dass Mittäter nur ist, wer an der eigentlichen Tatausführung beteiligt ist oder sie zu beeinflussen vermag. Dass der Mittäter bei der Fassung des gemeinsamen Tatentschlusses mitwirkt, ist nicht erforderlich. Es genügt, dass er sich später den Vorsatz seiner Mittäter zu eigen macht (BGE 135 IV 152 E. 2.3.1; 130 IV 58 E. 9.2.1; 125 IV 134 E. 3a).
2.1.3 Ein Versuch liegt vor, wenn der Täter, nachdem er mit der Ausführung eines Verbrechens oder Vergehens begonnen hat, die strafbare Tätigkeit nicht zu Ende führt oder der zur Vollendung der Tat gehörende Erfolg nicht eintritt oder dieser nicht eintreten kann (Art. 22 Abs. 1 StGB). Beim Versuch erfüllt der Täter sämtliche subjektiven Tatbestandsmerkmale und manifestiert seine Tatentschlossenheit, ohne dass alle objektiven Tatbestandsmerkmale verwirklicht sind (BGE 137 IV 113 E. 1.4.2 mit Hinweisen).
2.2 Die Verurteilung wegen versuchter schwerer Körperverletzung im Sinne von Art. 122 i.V.m. Art. 22 Abs. 1 StGB verletzt kein Bundesrecht. Das Obergericht geht gestützt auf die verbindliche Sachverhaltsfeststellung zu Recht von einem mittäterschaftlichen Handeln aus. Dies gilt auch für den Angriff mit der Eisenstange. Der Beschwerdeführer nahm wahr, wie sich sein Bruder der Stange behändigte, und war sich bewusst, dass diese aus Eisen oder einem ähnlichen Material war. Nachdem sein Bruder damit ein erstes Mal gegen den Geschädigten geschlagen hatte, trat er weiter mit den Füssen auf diesen ein, womit er ihn namentlich auch an einer Flucht hinderte und weitere Schläge durch seinen Bruder mit der Eisenstange ermöglichte. Daraus durfte das Obergericht schliessen, dass er sich auch am Angriff mit der Eisenstange beteiligte und sich den Vorsatz seines Bruders zu eigen machte.
Das Obergericht gelangt angesichts des massiv gewalttätigen Vorgehens der Brüder gegen den Geschädigten zur Überzeugung, der tätliche Angriff sei auf eine schwere Körperverletzung ausgerichtet gewesen. Unerheblich ist, ob der Fusstritt des Beschwerdeführers aus dem Sprung heraus für sich gesehen geeignet war, eine schwere Körperverletzung herbeizuführen. Der Beschwerdeführer wurde wegen versuchter schwerer Körperverletzung verurteilt. Entscheidend ist, dass das gesamte Vorgehen der Brüder, welche den Geschädigten zeitgleich mit Händen und Füssen sowie der Eisenstange traktierten und erst durch das Einschreiten der Passanten von diesem abliessen, nach der Feststellung des Obergerichts dahin gehend ausgelegt werden muss, als dass diese eine schwere Körperverletzung wollten bzw. für möglich hielten und für den Fall des Eintritts in Kauf nahmen. Damit machte sich der Beschwerdeführer der versuchten schweren Körperverletzung strafbar.
2.3 Inwiefern das Obergericht Art. 24 StGB verletzt haben soll (Beschwerde Ziff. I.3 S. 4 und Ziff. II.3 S. 5), ist nicht ersichtlich und legt der Beschwerdeführer auch nicht dar (Art. 42 Abs. 2 BGG).
3. 3.1 Der Beschwerdeführer rügt, die Zusatzstrafe von 3 1/2 Jahren sei massiv übersetzt und verletze Art. 49 Abs. 2 StGB. Zusammen mit der Freiheitsstrafe von 4 Jahren und 9 Monaten gemäss Urteil vom 28. April 2009 bzw. 19. Juli 2010 betrage die Gesamtstrafe 8 Jahre und 3 Monate. Hätte er die beiden Taten zusammen verübt, wäre er nicht zu einer derart hohen Strafe verurteilt worden.
3.2 Das Obergericht des Kantons Zürich verurteilte den Beschwerdeführer am 28. April 2009 in erster Instanz (in Anwendung von § 198a Abs. 1 Ziff. 3 lit. c der Strafprozessordnung des Kantons Zürich vom 4. Mai 1919 [StPO/ZH]) wegen schwerer Körperverletzung (Art. 122 Abs. 1 StGB) und Raufhandels (Art. 133 Abs. 1 StGB), begangen am 4. November 2007, zu einer Freiheitsstrafe von 3 Jahren, davon 23 Monate bedingt. Das Bundesgericht hiess am 28. Januar 2010 eine Beschwerde der Oberstaatsanwaltschaft Zürich gegen dieses Urteil im Strafpunkt gut und wies die Sache zur neuen Strafzumessung an die Vorinstanz zurück (Urteil 6B_584/2009). Das Obergericht setzte die Freiheitsstrafe mit Urteil vom 19. Juli 2010 neu auf 4 Jahre und 9 Monate fest. Dagegen erhob der Beschwerdeführer kantonale Nichtigkeitsbeschwerde und Beschwerde in Strafsachen an das Bundesgericht. Das Kassationsgericht Zürich trat am 15. September 2011 auf die Nichtigkeitsbeschwerde nicht ein. Das Bundesgericht wies die Beschwerde am 2. Dezember 2011 ab, soweit darauf einzutreten war (Urteil 6B_755/2010).
3.3 Die Vorinstanz geht im angefochtenen Entscheid davon aus, die Voraussetzungen von Art. 49 Abs. 2 StGB seien erfüllt (Urteil S. 29). Sie spricht eine Zusatzstrafe zum Urteil vom 28. April 2009 aus. Dem Umstand, dass die Strafe für die schwere Körperverletzung und den Raufhandel vom Obergericht mit Urteil vom 19. Juli 2010 auf 4 Jahre und 9 Monate erhöht wurde, trägt sie in ihren Erwägungen Rechnung (Urteil S. 42).
3.3 Die Vorinstanz geht im angefochtenen Entscheid davon aus, die Voraussetzungen von Art. 49 Abs. 2 StGB seien erfüllt (Urteil S. 29). Sie spricht eine Zusatzstrafe zum Urteil vom 28. April 2009 aus. Dem Umstand, dass die Strafe für die schwere Körperverletzung und den Raufhandel vom Obergericht mit Urteil vom 19. Juli 2010 auf 4 Jahre und 9 Monate erhöht wurde, trägt sie in ihren Erwägungen Rechnung (Urteil S. 42).
3.4 3.4.1 Hat der Täter durch eine oder mehrere Handlungen die Voraussetzungen für mehrere gleichartige Strafen erfüllt, so verurteilt ihn das Gericht zu der Strafe der schwersten Straftat und erhöht sie angemessen. Es darf jedoch das Höchstmass der angedrohten Strafe nicht um mehr als die Hälfte erhöhen (Art. 49 Abs. 1 StGB). Hat das Gericht eine Tat zu beurteilen, die der Täter begangen hat, bevor er wegen einer andern Tat verurteilt worden ist, so bestimmt es die Zusatzstrafe in der Weise, dass der Täter nicht schwerer bestraft wird, als wenn die strafbaren Handlungen gleichzeitig beurteilt worden wären (Art. 49 Abs. 2 StGB). Art. 49 Abs. 2 StGB gelangt zur Anwendung, wenn das Gericht Delikte beurteilen muss, die der Täter begangen hat, bevor er wegen anderer Straftaten verurteilt wurde (vgl. BGE 129 IV 113 E. 1.1). Die Bestimmung will im Wesentlichen das Asperationsprinzip auch bei retrospektiver Konkurrenz gewährleisten. Der Täter, der mehrere Freiheitsstrafen verwirkt hat, soll nach einem einheitlichen, für ihn relativ günstigen Prinzip der Strafschärfung beurteilt werden, unabhängig davon, ob die Verfahren getrennt durchgeführt werden oder nicht. Der Täter soll damit trotz Aufteilung der Strafverfolgung in mehrere Verfahren gegenüber jenem Täter, dessen Taten gleichzeitig beurteilt wurden, nicht benachteiligt und so weit als möglich auch nicht bessergestellt werden (BGE 132 IV 102 E. 8.2 mit Hinweisen). Für das Vorgehen bei der Festsetzung der Zusatzstrafe bei retrospektiver Konkurrenz kann auf die ausführliche Rechtsprechung verwiesen werden (BGE 132 IV 102 E. 8; 129 IV 113 E. 1.1; je mit zahlreichen Hinweisen). Die unter Art. 68 aStGB (Fassung vor Inkrafttreten des neuen Allgemeinen Teils des StGB am 1. Januar 2007) ergangene Rechtsprechung ist auch im Rahmen von Art. 49 StGB massgebend (Urteil 6B_28/2008 vom 10. April 2008 E. 3.3.2; vgl. auch BBl 1999 2062).
3.4.2 Die Rechtsprechung stellt für die Frage, ob überhaupt und in welchem Umfang (d.h. ganz oder teilweise) das Gericht eine Zusatzstrafe aussprechen muss, auf das Datum der ersten Verurteilung im ersten Verfahren ab (sog. Ersturteil, bei welchem es sich oftmals, aber nicht zwingend um das erstinstanzliche Urteil handelt). Demgegenüber ist für die Bemessung bzw. die Höhe der Zusatzstrafe das rechtskräftige Urteil im ersten Verfahren massgebend (BGE 129 IV 113 E. 1.3 und 1.4 mit Hinweisen sowie die in Bestätigung dieser Rechtsprechung ergangenen unpublizierten Urteile 6S.237/2006 vom 10. November 2006 E. 2.2.2; 6S.193/2006 vom 3. November 2006 E. 4; vgl. auch TRECHSEL/AFFOLTER-EIJSTEN, Schweizerisches Strafgesetzbuch, Praxiskommentar, 2008, N. 13 zu Art. 49 StGB, sowie JÜRG-BEAT ACKERMANN, Basler Kommentar, Strafrecht I, 2. Aufl. 2007, N. 58 zu Art. 49 StGB mit weiteren Hinweisen auf die Lehre und die früher nicht immer einheitliche Rechtsprechung). Das Gericht muss sich in einem ersten Schritt somit fragen, ob die neue Tat vor der ersten Verurteilung im ersten Verfahren begangen wurde. Bejaht es dies, hat es eine Zusatzstrafe auszusprechen, für deren Bemessung es in einem zweiten Schritt prüfen muss, ob der Schuldspruch und das Strafmass des ersten Urteils rechtskräftig sind. Verneint es die erste Frage, ist das neue Delikt mit einer selbständigen Strafe zu ahnden (zum Ganzen auch EICKER/VEST, Bemerkungen zu BGE 129 IV 113, AJP 2004 S. 209 ff.).
3.4.3 Für die Beantwortung der ersten Frage (Anwendbarkeit des Asperationsprinzips) ist unerheblich, ob später das erste Urteil (mangels Berufung oder nach Abweisung eines kassatorischen Rechtsmittels) oder dasjenige der Rechtsmittelinstanz in Rechtskraft erwächst oder ob nach einer Kassation des erst- oder zweitinstanzlichen Urteils gar neu entschieden werden muss.
Das Bundesgericht befasste sich mit dieser Frage im Entscheid BGE 124 II 39. Es kam damals der Lehre von NIGGLI (vgl. MARCEL ALEXANDER NIGGLI, Retrospektive Konkurrenz - Zusatzstrafe bei Kassation des Ersturteils?, SJZ 91/1995 S. 377 ff.) folgend und entgegen seiner früheren Rechtsprechung (vgl. das unter BGE 124 II 39 E. 3b zitierte Urteil vom 5. April 1995) zum Schluss, das Gericht müsse sich bloss fragen, ob die im zweiten Verfahren zu beurteilenden Straftaten vor dem Ersturteil begangen wurden. Es wies darauf hin, dass nach der ratio legis der Bestimmung von Art. 68 Ziff. 2 aStGB derjenige in den Genuss der in der Regel vorteilhaften Zusatzstrafe kommen soll, bei dem der erstinstanzliche Richter die mehreren Straftaten gleichzeitig hätte aburteilen können, nicht aber derjenige, der erneut delinquiert, nachdem er wegen anderer Delikte erstinstanzlich verurteilt und mithin eindringlich gewarnt worden sei (BGE 124 II 39 E. 3c). An dieser Rechtsprechung wurde auch in BGE 129 IV 113 ausdrücklich festgehalten. Sie wurde jedoch dahin gehend präzisiert, dass nicht die "Eröffnung", sondern das Datum des Ersturteils entscheidend sein soll. Auf das Datum des Ersturteils ist auch abzustellen, wenn dieses später im Rechtsmittelverfahren reformiert wird (vgl. BGE 129 IV 113). Gleich verhält es sich, wenn das Ersturteil wie vorliegend kassiert wird und sich das erste Gericht oder eine Rechtsmittelinstanz mit der Angelegenheit erneut befassen muss. Diese sind bei der Neubeurteilung nicht frei, sondern an die Begründung der Kassation gebunden (BGE 123 IV 1 E. 1; Art. 409 Abs. 3 StPO [SR 312.0]; vgl. auch BGE 135 III 334 E. 2; 131 III 91 E. 5.2). Kommt es im Rahmen der Neubeurteilung in der gleichen Sache aufs Neue zu einer Verurteilung, ist für die Anwendbarkeit des Asperationsprinzips nach wie vor das Datum des Ersturteils entscheidend (vgl. NIGGLI, a.a.O., S. 382 f.; gl. M. MARTIN BADER, Die retrospektive Konkurrenz, Auslegung und Anwendung des Art. 68 Ziff. 2 des StGB, Diss. Bern 1948, S. 14 f.; a.M. STEFAN WEHRLE, Die Bedeutung erstinstanzlicher Urteile bei der retrospektiven Konkurrenz [Art. 68 Ziff. 2 StGB], SJZ 96/2000 S. 56 ff.; a.M. auch ACKERMANN, a.a.O., N. 60 lit. b zu Art. 49 StGB, wonach die Möglichkeit einer gemeinsamen Beurteilung im Rahmen einer Zusatzanklage ausschlaggebend sein soll, weshalb das Asperationsprinzip auch bei einer Kassation des Ersturteils zum Tragen kommen soll, wenn nach dem anwendbaren Strafprozessrecht bei der Neubeurteilung eine Zusatzanklage für weitere Straftaten mitberücksichtigt werden kann). Dies muss auch gelten, wenn im Rahmen der Neubeurteilung zuungunsten des Verurteilten für die gleiche Tat eine (deutlich) härtere Strafe ausgesprochen wird als im Ersturteil.
Massgeblich für die Anwendung des Asperationsprinzips ist damit, ob die zweite Tat vor der ersten Verurteilung im ersten Verfahren verübt wurde. Ist diese Voraussetzung nicht erfüllt, kommt Art. 49 StGB auch im Rahmen einer allfälligen nachträglichen Verfahrensvereinigung (welcher unter der am 1. Januar 2011 in Kraft getretenen StPO ohnehin enge Grenzen gesetzt sind, vgl. Art. 34 Abs. 2, Art. 333 Abs. 2 und 3 StPO; BBl 2006 1142 und 1281; dazu auch BGE 135 III 334 E. 2 für das bundesgerichtliche Verfahren) nicht zum Tragen, d.h. es sind ungeachtet der späteren Verfahrensvereinigung selbständige Strafen auszusprechen, da es um einen Fall von retrospektiver Konkurrenz geht und verfahrensleitende Entscheide betreffend die Verfahrensvereinigung keinen Einfluss auf die Strafhöhe haben können.
3.5 Der Beschwerdeführer beging die vorliegend zu beurteilende versuchte schwere Körperverletzung, nachdem er am 28. April 2009 vom Obergericht erstinstanzlich für die am 4. November 2007 begangene Tat wegen schwerer Körperverletzung und Raufhandels verurteilt worden war. Das begründete Urteil des Obergerichts wurde am 8. Juni 2009 versandt. Der Beschwerdeführer wurde damit während der laufenden Rechtsmittelfrist für die Nichtigkeitsbeschwerde an das Kassationsgericht Zürich und die Beschwerde an das Bundesgericht erneut straffällig. Unter diesen Umständen geht das Obergericht zu Unrecht von der Anwendbarkeit von Art. 49 Abs. 2 StGB aus. Vielmehr hätte es eine selbständige Strafe aussprechen müssen. Die bundesrechtswidrige Anwendung von Art. 49 Abs. 2 StGB wirkte sich nicht zuungunsten des Beschwerdeführers aus. Sie führt daher nicht zur Aufhebung des angefochtenen Entscheids.
Nicht zu hören ist der Beschwerdeführer, soweit er geltend macht, die Vorinstanz habe dem Asperationsprinzip gemäss Art. 49 Abs. 2 StGB ungenügend Rechnung getragen, da dieses nicht zur Anwendung gelangt.
4. Eine Gesamtstrafe kann seit Inkrafttreten des revidierten Allgemeinen Teils des StGB auch gestützt auf Art. 46 Abs. 1 Satz 2 StGB (Gesamtstrafe bei Widerruf des bedingten Vollzugs einer früheren Strafe, vgl. dazu BGE 134 IV 241 E. 4; 137 IV 249 E. 3 und 4) sowie Art. 62a Abs. 2 und Art. 89 Abs. 6 StGB (Gesamtstrafe bei Nichtbewährung nach bedingter Entlassung aus dem Straf- bzw. Massnahmenvollzug, vgl. BGE 135 IV 146 E. 1 und 2.4; 137 IV 312 E. 2) ausgesprochen werden. Beides kommt vorliegend jedoch nicht in Betracht.
Art. 46 StGB betrifft die erneute Straffälligkeit während der für eine (teil-)bedingte Strafe angesetzten Probezeit. Die Bildung einer Gesamtstrafe bei Widerruf des (teil-)bedingten Vollzugs ist von vornherein ausgeschlossen, wenn die widerrufene und die neue Strafe gleichartig sind (BGE 134 IV 241 E. 4).
Art. 89 StGB regelt die Folgen der Nichtbewährung des bedingt aus dem Strafvollzug Entlassenen. Art. 89 Abs. 6 StGB verpflichtet das Gericht, im Falle einer Rückversetzung aus dem zu vollziehenden Strafrest und der neuen Freiheitsstrafe eine Gesamtstrafe zu bilden, wenn aufgrund der neuen Straftat die Voraussetzungen für eine unbedingte Freiheitsstrafe erfüllt sind und diese mit der durch den Widerruf vollziehbar gewordenen Reststrafe zusammentrifft (BGE 135 IV 146 E. 2.4). Art. 89 Abs. 6 StGB wurde mit der Revision des Allgemeinen Teils des StGB neu geschaffen. Anders als unter dem früher geltenden Recht kumuliert der Richter nicht einfach die beiden Strafen, sondern bildet aus ihnen eine Gesamtstrafe (BBl 1999 2123). Voraussetzung ist, dass die neue Freiheitsstrafe unbedingt auszusprechen ist und die Reststrafe ebenfalls für vollziehbar erklärt wurde. Der Gesetzgeber wollte mit Art. 89 Abs. 6 StGB dem Täter in sinngemässer Anwendung des Asperationsprinzips - im Vergleich zum Kumulationsprinzip - eine gewisse Privilegierung gewähren, wenn zwei Freiheitsstrafen zum Vollzug anstehen (vgl. BGE 135 IV 146 E. 2.4). Die Bestimmung gelangt jedoch nur zur Anwendung, wenn das Gericht nach einer bedingten Entlassung über die Rückversetzung befinden muss und eine unbedingte Freiheitsstrafe mit einem durch Widerruf vollziehbaren Strafrest zusammentrifft.
Bei einer erneuten Delinquenz nach der bedingten Entlassung muss unter Umständen daher eine Gesamtstrafe ausgesprochen werden, während bei zusätzlichen, in der Zeit zwischen dem Ersturteil und dem Vollzug der ersten Strafe verübten Taten das Kumulationsprinzip zur Anwendung gelangt. Dies entspricht dem Willen des Gesetzgebers, der nicht nur auf die Verankerung einer generellen Pflicht zur Bildung einer Gesamtstrafe bei Zusammentreffen zweier vollziehbaren Freiheitsstrafen verzichtete, sondern diese Möglichkeit in Art. 46 Abs. 1 Satz 2 StGB bei gleichartigen Strafen gerade ausschloss (vgl. BGE 134 IV 241 E. 4.4).
5. Die Strafrechtliche Abteilung des Bundesgerichts greift auf Beschwerde in Strafsachen hin nur ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen bzw. durch Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (BGE 136 IV 55 E. 5.6; 135 IV 130 E. 5.3.1; 134 IV 17 E. 2.1). Der Beschwerdeführer behauptet nicht, die Vorinstanz habe einzelne Strafzumessungsfaktoren falsch gewichtet und das ihr auf dem Gebiet der Strafzumessung zustehende Ermessen überschritten. Die ausgesprochene Strafe ist nicht unzulässig hart, auch wenn man berücksichtigt, dass es beim Versuch blieb.
6. Die geltend gemachte Verletzung von Art. 10 BV und des Rechtsgleichheitsgebots von Art. 8 BV begründet der Beschwerdeführer nicht näher. Darauf ist nicht einzutreten (Art. 106 Abs. 2 BGG; BGE 137 II 305 E. 3.3 mit Hinweisen).
7. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist infolge Aussichtslosigkeit der Beschwerde abzuweisen (Art. 64 Abs. 1 und 2 BGG). Der finanziellen Lage des Beschwerdeführers ist bei der Festsetzung der Gerichtskosten Rechnung zu tragen (Art. 65 Abs. 2 BGG).
Der Beschwerdegegner 2 wurde nicht zur Stellungnahme aufgefordert. Es sind ihm im bundesgerichtlichen Verfahren keine Kosten erwachsen, weshalb ihm keine Parteientschädigung zuzusprechen ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten wird.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'600.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 5. April 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Unseld