Sachverhalt:
A. X._ hielt sich am 9. Oktober 2010, um 02.40 Uhr, zusammen mit einem Kollegen in bzw. vor dem Club "A._" in Winterthur auf. Vor dem Eingang kam es in der Folge zu einem Streit zwischen X._ und dem Türsteher Y._. Nachdem X._ Y._ einen Faustschlag ins Gesicht versetzt hatte, traten weitere vier Angestellte des Clubs hinzu und gingen auf X._ los. In diesem rechtskräftig als Raufhandel eingestuften Geschehen erlitt X._ eine Gehirnerschütterung, eine Thoraxkontusion links und mehrere Schürfverletzungen.
Y._ kehrte nach dem Raufhandel kurz in den Club zurück und verliess diesen mit einem Kollegen wieder durch den Hintereingang in Richtung eines nahegelegenen Kebab-Standes. Auf dem Weg dorthin trafen die beiden zufällig auf X._ und dessen Kollegen. Zwischen X._ und Y._ kam es zu einem erneuten Gerangel, in dessen Verlauf ersterer ein Klappmesser öffnete und damit Y._ zwei Stichverletzungen am Bauch von ca. 10-12 cm Tiefe mit Verletzung der äusseren Dünndarmschicht und einer kleinen, nicht blutenden Leberverletzung zufügte. Er versetzte ihm ausserdem eine Stichverletzung am Schulterblatt links (mit Fraktur des linken Schulterblattes) sowie eine Schnittverletzung am linken Oberarm. Die Bauchverletzung führte zu einer unmittelbaren Lebensgefahr des Opfers und machte eine sofortige Operation notwendig.
B. Das Bezirksgericht Winterthur verurteilte X._ am 14. November 2011 wegen schwerer Körperverletzung und Raufhandels zu einer Freiheitsstrafe von 4 1⁄2 Jahren, unter Anrechnung von 219 Tagen erstandener Haft. Es bejahte eine Schadenersatzpflicht gegenüber dem Privatkläger Y._, verwies diesen zur Feststellung des Umfangs aber auf den Zivilweg. Es verpflichtete X._ zu einer Genugtuungszahlung von Fr. 15'000.-- (zuzüglich Zins) zugunsten von Y._.
Das von X._ wegen des Schuldspruchs der schweren Körperverletzung angerufene Obergericht des Kantons Zürich stellte am 8. Juni 2012 die Rechtskraft der Verurteilung wegen Raufhandels fest. Es bestrafte X._ wegen schwerer Körperverletzung mit einer teilbedingten Freiheitsstrafe von drei Jahren, wovon es 18 Monate unter Anrechnung von 607 Tagen Untersuchungs- und Sicherheitshaft sowie vorzeitigen Strafvollzugs als vollziehbar erklärte. 18 Monate schob es bei einer Probezeit von zwei Jahren auf. Es bestätigte ausserdem die Schadenersatzpflicht von X._ gegenüber dem Privatkläger Y._ dem Grundsatze nach und verurteilte ihn zu einer Genugtuungszahlung von Fr. 10'000.--.
C. X._ führt Beschwerde in Strafsachen. Er beantragt unter anderem, das Urteil des Obergerichts des Kantons Zürich vom 8. Juni 2012 sei aufzuheben, und er sei vom Vorwurf der schweren Körperverletzung freizusprechen. Auf die Schadenersatz- und Genugtuungsbegehren des Privatklägers sei nicht einzutreten, und dieser sei auf den Zivilweg zu verweisen. Eventualiter sei er von Schuld und Strafe freizusprechen. Subeventualiter sei er mit maximal 20 Monaten Freiheitsstrafe zu bestrafen. Subsubeventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Erwägungen:
1. 1.1 Der Beschwerdeführer rügt, die Vorinstanz habe den Sachverhalt nicht korrekt festgestellt, weshalb sie zu Unrecht von einem Notwehrexzess ausgehe. Er habe nicht auf den Privatkläger eingestochen, ohne ihm zuvor den Gebrauch des Messers angedroht bzw. ihn gewarnt zu haben. Die Vorinstanz habe festgehalten, dass die Aussagen des Privatklägers und dessen Kollegen nicht besonders glaubhaft seien und deshalb daraus nichts zu seinen Ungunsten abgeleitet werden könne. Dennoch glaube sie dem Privatkläger, dass dieser beim zweiten Zusammentreffen kein Messer gesehen habe. Sie leite daraus in Verletzung des Grundsatzes "in dubio pro reo" ab, dass er direkt und ohne Vorwarnung auf den Privatkläger eingestochen habe. Er habe das Messer mit beiden Händen geöffnet, anschliessend die Messerspitze gegen den Privatkläger gerichtet und diesem gesagt, dass er weggehen solle. Es gebe keine Gründe, seine Aussage anzuzweifeln. Die Vorinstanz habe sein Geständnis gar als deutlich strafmindernd bezeichnet. Indem er den Privatkläger gewarnt und erst danach das Messer eingesetzt habe, habe er die Grenzen der Notwehr nicht überschritten (Beschwerde, S. 7 ff.).
1.2 Die Vorinstanz bejaht eine Notwehrsituation. Es sei glaubhaft, dass er es mit der Angst zu tun bekommen habe, da der Privatkläger dem Beschwerdeführer körperlich überlegen gewesen sei und er beim vorangehenden Raufhandel erhebliche Verletzungen davongetragen habe. Der Privatkläger habe ihn mit einem Faustschlag gegen den Nacken und mit Tritten auf die Brust sowie an die Beine angegriffen. Der Beschwerdeführer habe auch mit Fusstritten gegen den Kopf, und daher mit lebensgefährlichen Verletzungen rechnen müssen. Die Vorinstanz folgert daraus, dass der Beschwerdeführer berechtigt gewesen sei, den Angriff des Privatklägers mit einem Messer abzuwehren (Urteil, S. 17 ff.).
Der Messereinsatz sei allerdings nicht verhältnismässig gewesen. Ein Warnruf sei nicht erfolgt. Aufgrund der Worte "geh weg" bzw. "lass' mich in Ruhe" habe der Privatkläger nicht mit einem Messereinsatz des Beschwerdeführers rechnen müssen. Unter Berücksichtigung der Aussagen des Privatklägers erweise es sich vielmehr als sehr wahrscheinlich, dass dieser kein Messer wahrgenommen habe. Der Beschwerdeführer habe ohne erkennbare Warnung mit erheblichem Kraftaufwand und mit unkontrollierten Bewegungen viermal direkt auf den Privatkläger eingestochen, ohne genau zu wissen, welche Körperstellen er treffen würde. Er habe dabei in Kauf genommen, lebenswichtige Organe zu verletzen. Er habe mit seinem inkriminierten Verhalten die Grenzen der Notwehr überschritten (Urteil, S. 15 und 19 f.).
1.3 Gemäss Art. 97 Abs. 1 BGG kann die Feststellung des Sachverhalts durch die Vorinstanz nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Verletzung von schweizerischem Recht im Sinne von Art. 95 BGG beruht. Die Rüge der offensichtlich unrichtigen, d.h. willkürlichen Feststellung des Sachverhalts prüft das Bundesgericht gemäss Art. 106 Abs. 2 BGG ebenfalls nur insoweit, als sie in der Beschwerde explizit vorgebracht und substantiiert begründet worden ist. In der Beschwerde muss im Einzelnen dargelegt werden, inwiefern der angefochtene Entscheid an einem qualifizierten und offensichtlichen Mangel leidet. Auf eine bloss appellatorische Kritik am angefochtenen Urteil tritt das Bundesgericht nicht ein (BGE 136 II 489 E. 2.8; 133 IV 286 E. 1.4; 133 II 249 E. 1.4.2; 134 II 244 E. 2.1 und 2.2).
1.4 Willkür im Sinne von Art. 9 BV liegt nach ständiger Rechtsprechung nicht schon vor, wenn das angefochtene Urteil nicht mit der Darstellung des Beschwerdeführers übereinstimmt oder eine andere Lösung oder Würdigung vertretbar erscheint oder gar vorzuziehen wäre, sondern nur, wenn der angefochtene Entscheid auf einer schlechterdings unhaltbaren oder widersprüchlichen Beweiswürdigung beruht, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 138 I 49 E. 7.1; 138 V 74 E. 7; 137 I 1 E. 2.4; je mit Hinweisen).
1.5 Wird jemand ohne Recht angegriffen oder unmittelbar mit einem Angriff bedroht, ist der Angegriffene und jeder andere berechtigt, den Angriff in einer den Umständen angemessenen Weise abzuwehren (Art. 15 StGB). Überschreitet der Abwehrende die Grenzen der Notwehr, so mildert das Gericht die Strafe (Art. 16 Abs. 1 StGB). Überschreitet er die Grenzen der Notwehr in entschuldbarer Aufregung oder Bestürzung über den Angriff, so handelt er nicht schuldhaft (Art. 16 Abs. 2 StGB).
1.6 Nach der Rechtsprechung muss die Abwehr in einer Notwehrsituation nach der Gesamtheit der Umstände als verhältnismässig erscheinen. Eine Rolle spielen vor allem die Schwere des Angriffs, die durch den Angriff und die Abwehr bedrohten Rechtsgüter, die Art des Abwehrmittels und dessen tatsächliche Verwendung. Die Angemessenheit der Abwehr ist aufgrund jener Situation zu beurteilen, in der sich der rechtswidrig Angegriffene im Zeitpunkt seiner Tat befand. Es dürfen nachträglich nicht allzu subtile Überlegungen darüber angestellt werden, ob der Angegriffene sich nicht allenfalls auch mit anderen, weniger einschneidenden Massnahmen hätte begnügen können und sollen (BGE 136 IV 49 E. 3.2 mit Hinweisen auf Lehre und Rechtsprechung). Besondere Zurückhaltung ist bei der Verwendung von gefährlichen Gegenständen zur Abwehr (Messer, Schusswaffen etc.) geboten (ausführlich BGE 136 IV 49 E. 3.3 mit Hinweisen).
1.7 Dass sich der Beschwerdeführer in einer Notwehrsituation befand, als er sich mit dem Messer zur Wehr setzte, wird im angefochtenen Entscheid zu Recht bejaht und ist unbestritten. Die Vorinstanz erachtet gestützt auf ihre Sachverhaltsfeststellungen zudem den Messereinsatz als solchen nicht von vornherein als unzulässig, was nicht zu beanstanden ist.
Der Angegriffene ist nach der bundesgerichtlichen Rechtsprechung gehalten, den Gebrauch des Messers zunächst anzudrohen bzw. den Angreifer zu warnen. Verlangt wird zudem, dass zuerst ein schonenderer bzw. milderer Einsatz des Messers zur Erreichung des Abwehrerfolgs versucht wird, der sich in erster Linie gegen weniger verletzliche Körperteile wie Beine und Arme zu richten hat (BGE 136 IV 49 E. 4.2; Urteil 6B_811/2011 vom 30. August 2012 E. 3.4.2).
1.8 Die Vorinstanz verneint erhebliche Zweifel an der allgemeinen Glaubwürdigkeit der beteiligten Personen, gibt jedoch zu bedenken, dass der Beschwerdeführer wie der Privatkläger ein Interesse am Ausgang des Verfahrens hätten (Urteil, S. 8). Entgegen der Auffassung des Beschwerdeführers bezeichnet sie seine Aussagen lediglich in Bezug auf das erneute Zusammentreffen der beiden Kontrahenten auf dem Weg zum Kebab-Stand als widersprüchlich und unglaubwürdig. Dass die Vorinstanz auf die Aussagen des Privatklägers abstellt, wonach er keine Warnung und auch kein Messer wahrgenommen habe, ist nicht willkürlich.
1.9 Der Messereinsatz erweist sich auch als unverhältnismässig. Der Beschwerdeführer versuchte gemäss den vorinstanzlichen Sachverhaltsfeststellungen nämlich nicht, sein Messer gegen weniger verletzliche Körperteile einzusetzen, bevor er in kurzer Folge viermal auf den Privatkläger, unter anderem in dessen Bauch, einstach. Der Beschwerdeführer macht zwar geltend, er habe in die Hand des Privatklägers stechen wollen. Er räumt aber zugleich ein, den Kopf weggedreht und nicht mehr gewusst zu haben, in welche Richtungen seine Messerbewegungen gegangen seien. Von einem zielgerichteten und schonenden Einsatz des Messers zur Erreichung des Abwehrerfolgs kann somit keine Rede sein. Die Verurteilung des Beschwerdeführers wegen vorsätzlicher schwerer Körperverletzung in Notwehrexzess verletzt kein Bundesrecht.
2. 2.1 Der Beschwerdeführer rügt die vorinstanzliche Strafzumessung. Sie verletze das Verbot der "reformatio in peius", indem sie anders als die erste Instanz die Einsatzstrafe wegen des Raufhandels um sechs Monate erhöhe statt diesen als vernachlässigbar zu bezeichnen. Die Einsatzstrafe sei daher auf drei Jahre (statt drei Jahre und sechs Monate) festzulegen. Zudem müssten Geständnis, Reue und Einsicht zu einer Strafminderung führen. Die Vorinstanz erwäge zwar, dass sich sein Geständnis "deutlich strafmindernd" auswirke. Nach der Lehre müsse diesfalls eine Strafreduktion von einem Fünftel bis zu einem Drittel resultieren. Zudem führten Reue, Einsicht und Kooperation in der Untersuchung zu einer weiteren Reduktion. Die Vorinstanz habe die Einsatzstrafe jedoch lediglich um knapp 14 % gesenkt. Richtigerweise hätte sie die Einsatzstrafe um einen Drittel, d.h. von drei auf zwei Jahre, reduzieren müssen. Die von der Vorinstanz anerkannte Reue, Einsicht und Kooperation in der Strafuntersuchung hätten zu einer weiteren Strafreduktion um vier Monate auf 20 Monate Freiheitsstrafe führen müssen (Beschwerde, S. 14 f.).
2.2 Gemäss Art. 47 StGB misst der Richter die Strafe nach dem Verschulden des Täters zu. Er beurteilt die Beweggründe, das Vorleben und die persönlichen Verhältnisse des Schuldigen. Es liegt im Ermessen des Sachrichters, in welchem Umfang er die verschiedenen Strafzumessungsfaktoren berücksichtigt. Die Strafrechtliche Abteilung des Bundesgerichts greift auf Beschwerde in Strafsachen hin nur in die Strafzumessung ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen beziehungsweise in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (BGE 135 IV 130 E. 5.3.1; 134 IV 17 E. 2.1; je mit Hinweisen).
2.3 Die vorinstanzlich festgelegte Einsatzstrafe von drei Jahren ist nicht zu beanstanden und vorliegend auch nicht umstritten. Der Beschwerdeführer wendet sich nur gegen die straferhöhende Berücksichtigung des rechtskräftigen Schuldspruchs des Raufhandels durch die Vorinstanz um sechs Monate. Eine Verletzung des Verschlechterungsverbots besteht nach der bundesgerichtlichen Rechtsprechung nicht, wenn einzelne straferhöhende (neben strafmindernden) Faktoren neu berücksichtigt werden, die Strafsanktion insgesamt jedoch nicht erhöht wird (BGE 135 IV 87 E. 6). Dies ist vorliegend der Fall. Die Vorinstanz reduzierte die erstinstanzlich ausgesprochene (unbedingte) Freiheitsstrafe von 4 1⁄2 Jahren auf eine teilbedingte Freiheitsstrafe von 3 Jahren. Eine Verletzung des Verbots der reformatio in peius liegt nicht vor.
Dass die Vorinstanz den Tatbestand des Raufhandels straferhöhend berücksichtigte, während die erste Instanz darauf verzichtet hatte, lässt sich im Übrigen mit der unterschiedlich hohen Einsatzstrafe für die schwere Körperverletzung erklären. Die erste Instanz ging von einer Einsatzstrafe "von 5 bis 6 Jahren" aus (Urteil, S. 25), während die Vorinstanz diese auf drei Jahre festlegte.
2.4 Der Beschwerdeführer beanstandet zu Unrecht, die Vorinstanz habe sein Geständnis sowie die Reue, Einsicht und Kooperationsbereitschaft nicht berücksichtigt. Entgegen seinem Vorbringen führt ein Geständnis nach der bundesgerichtlichen Rechtsprechung nicht zwingend zu einer Strafminderung (Urteile 6B_426/2010 vom 22. Juli 2010 E. 1.5; 6B_866/2009 vom 22. Februar 2010 E. 1.3.3; je mit Hinweisen). In welchem Umfang dieses allenfalls strafmindernd berücksichtigt wird, ist eine Ermessensfrage. Die Vorinstanz trägt dem positiven Nachtatverhalten des Beschwerdeführers mit einer Strafminderung von sechs Monaten Freiheitsstrafe Rechnung. Die erste Instanz, auf welche die Vorinstanz verweist, misst dem Geständnis des Beschwerdeführers nur beschränkte Bedeutung zu, weil es nur soweit reichte, als es die Beweislage nicht anders zuliess. Auch werden die übrigen positiven Verhaltenselemente relativiert, weil der Beschwerdeführer zuvor Bemühungen unternommen hat, Spuren der Tat zu beseitigen bzw. zu verheimlichen (Urteil, S. 28). Die Vorinstanz hält sich mit ihrer Strafreduktion im Rahmen des ihr zustehenden Ermessens. Der Beschwerdeführer bringt nichts vor, was die Strafzumessung der Vorinstanz als unzulässig erscheinen lässt.
2.5 Der Schuldspruch der Vorinstanz und die ausgefällte Strafe verletzen kein Bundesrecht. Damit ist auf die Anträge des Beschwerdeführers, das Schadenersatz- und Genugtuungsbegehren des Privatklägers auf den Zivilweg zu verweisen und für die erstandene Haft eine Entschädigung zu erstatten, nicht weiter einzugehen.
3. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Die bundesgerichtlichen Kosten sind ausgangsgemäss dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 1. November 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Keller