Sachverhalt:
A. Das Obergericht des Kantons Zürich, II. Strafkammer, verurteilte Y._ mit Entscheid vom 28. April 2008 (recte: 28. April 2009) wegen schwerer Körperverletzung im Sinne von <ref-law> und Raufhandels im Sinne von <ref-law> zu einer Freiheitsstrafe von 3 Jahren. Der Vollzug der Freiheitsstrafe wurde im Umfang von 23 Monaten aufgeschoben und die Probezeit auf 3 Jahre festgesetzt. Im Umfang von 13 Monaten wurde die Freiheitsstrafe für vollziehbar erklärt, unter Anrechnung der Untersuchungshaft von 395 Tagen. Das Obergericht hielt für erwiesen, dass Y._ am 4. November 2007 um ca. 01.40 Uhr im Rahmen eines Raufhandels dem Geschädigten A._ mit einem Schraubenzieher, der einen ca. 8.5 cm langen Kunststoffgriff sowie ein ca. 9 cm langes Metallteil mit flachem, knapp 3 mm breitem Ende aufgewiesen hatte, in die rechte Flanke gestochen und diesem dadurch eine lebensgefährliche Verletzung der Lunge zugefügt hatte.
B. Mit Beschwerde in Strafsachen vom 9. Juli 2009 beantragt die Oberstaatsanwaltschaft des Kantons Zürich, das Urteil des Obergerichts vom 28. April 2009 sei wegen Verletzung von Bundesrecht im Sinne von <ref-law> (konkret im Hinblick auf die Verschuldenswürdigung und das Strafmass) aufzuheben und die Strafsache zur neuen Entscheidung an das Obergericht zurückzuweisen.
C. Die Vorinstanz verzichtet auf eine Vernehmlassung. Y._ beantragt mit Eingabe vom 8. Januar 2010 die Abweisung der Beschwerde.
D. Mit Verfügung vom 24. November 2009 hat die Strafrechtliche Abteilung des Bundesgerichts Y._ die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Jean-Christophe Schai für das bundesgerichtliche Verfahren als Anwalt im Sinne von <ref-law> bestellt.

Erwägungen:
1. Die Beschwerdeführerin wendet sich ausschliesslich gegen die Strafzumessung.
1.1 Gemäss <ref-law> misst das Gericht die Strafe nach dem Verschulden des Täters zu. Es berücksichtigt das Vorleben, die persönlichen Verhältnisse sowie die Wirkung der Strafe auf das Leben des Täters. Das Verschulden wird gemäss <ref-law> nach der Schwere der Verletzung oder Gefährdung des betroffenen Rechtsguts, nach der Verwerflichkeit des Handelns, den Beweggründen und Zielen des Täters sowie danach bestimmt, wie weit der Täter nach den inneren und äusseren Umständen in der Lage war, die Gefährdung oder Verletzung zu vermeiden. Bei der Strafzumessung steht dem Sachrichter ein erheblicher Spielraum des Ermessens zu. Die Strafrechtliche Abteilung des Bundesgerichts greift auf Beschwerde in Strafsachen hin nur in die Strafzumessung ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen beziehungsweise in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (<ref-ruling> E. 2.1 S. 19 f. mit Hinweisen; zum alten Recht: <ref-ruling> E. 2a S. 70 mit Hinweisen).
1.2 Die Vorinstanz erwägt, das Verschulden des Beschwerdegegners sei insgesamt als erheblich einzustufen. Im Hinblick auf die objektive Tatschwere der Körperverletzung sei zu berücksichtigen, dass der Geschädigte notfallmässig habe operiert werden und rund eine Woche habe in Spitalpflege verbleiben müssen. Die Tat hätte noch gravierendere und bleibende Folgen für die Gesundheit und Lebensführung des Geschädigten haben können, wenn nicht sogar dessen Tod. Es schienen sich keine bleibenden Schäden abzuzeichnen. Die Arbeitsunfähigkeit habe rund drei Wochen gedauert. In subjektiver Hinsicht falle ins Gewicht, dass der Beschwerdegegner nicht in der Absicht gehandelt habe, den Geschädigten lebensgefährlich zu verletzen, und die Tat gewisse affektakzentuierte Züge trage. Zugunsten des Beschwerdegegners sei von lediglich eventualvorsätzlichem Handeln auszugehen. Dieser habe einem Kollegen zu Hilfe eilen und den Rückzug ermöglichen wollen. Diesbezüglich könne mit dem Gutachter von einem gewissen Gruppendruck im entlastenden Sinn gesprochen werden. Der Beschwerdegegner sei allerdings nicht überraschend in den Raufhandel involviert worden, sondern habe sich zwecks Beteiligung an einer allfälligen tätlichen Auseinandersetzung an den Tatort begeben. Aus der Lebensgeschichte des (im Oktober 1987 geborenen) Beschwerdegegners ergebe sich, dass dieser mit den grundlegenden Normen in der Schweiz vertraut sei. Er habe sich des Weiteren mit dem Geschädigten über dessen Zivilansprüche geeinigt, was grundsätzlich positiv zu vermerken sei. Da er aber die vereinbarten Zahlungen nicht geleistet habe, sei daraus keine Strafminderung abzuleiten. Die Vorstrafenlosigkeit des Beschwerdegegners wirke sich strafmindernd aus, und das noch junge Alter sei bei der Strafzumessung zu berücksichtigen. Schliesslich sei einzig ein Vorfall, und nicht eine Mehrzahl verschiedener, voneinander unabhängiger Straftaten zu beurteilen. Insgesamt erscheine für die im Rahmen eines Raufhandels begangene schwere Körperverletzung eine Freiheitsstrafe von drei Jahren als angemessen.
Weiter führt die Vorinstanz aus, die objektiven und subjektiven Voraussetzungen für eine teilbedingte Strafe seien erfüllt. Der Gutachter gehe implizit von einer hohen Wahrscheinlichkeit des künftigen Wohlverhaltens des Beschwerdegegners aus. Der Eindruck der erlittenen Haft von über einem Jahr werde zudem eine präventive Wirkung ausüben, und bis anhin sei der Beschwerdegegner noch nie straffällig geworden. Der Vollzug der Freiheitsstrafe sei aus Gründen der Resozialisierung im Umfang von 23 Monaten aufzuschieben. 13 Monate seien unbedingt zu vollziehen, unter Anrechnung der bereits erstandenen 395 Hafttage. Gewissen Bedenken aufgrund des Umgangs, den der Beschwerdegegner gepflegt habe, werde mit Ansetzung einer Probezeit von drei Jahren Rechnung getragen.
1.3 Die Beschwerdeführerin macht geltend, die Vorinstanz habe vor dem Hintergrund des Sachverhalts und des gesetzlich anwendbaren Strafrahmens von einer Geldstrafe von 180 Tagessätzen bis zu einer Freiheitsstrafe von 15 Jahren das ihr zustehende Ermessen hinsichtlich der Verschuldenswürdigung und Strafzumessung klar überschritten und missbraucht, indem sie eine unhaltbar milde Strafe ausgefällt habe.
Im Wesentlichen bringt die Beschwerdeführerin vor, die Vorinstanz habe das tatbezogene Verschulden des Beschwerdegegners zu Recht als "erheblich" qualifiziert. Damit sei aber von einer Einsatzstrafe auszugehen, die klar im oberen Bereich des für den Tatbestand der schweren Körperverletzung anwendbaren ordentlichen gesetzlichen Strafrahmens von einer Geldstrafe von 180 Tagessätzen bis zu einer Freiheitsstrafe von 10 Jahren liege. Es sei nicht ersichtlich, weshalb die Vorinstanz das noch junge Alter des Beschwerdegegners berücksichtigt habe. Dieser habe unstreitig die Schwere seiner Tat und die möglichen Folgen zu erkennen vermocht. Zudem könne von einem auf Reue und Einsicht basierenden Geständnis, das praxisgemäss zu einer erheblichen Strafreduktion führen könnte, keine Rede sein. In Anbetracht der tat- und täterbezogenen Strafzumessungsgründe, von welchen auch die Vorinstanz ausgegangen sei, und bei Fehlen von Strafmilderungsgründen sei eine Freiheitsstrafe im unteren Drittel des anwendbaren ordentlichen gesetzlichen Strafrahmens für schwere Körperverletzung unhaltbar milde. Der Eindruck dränge sich auf, dass sich die Vorinstanz bei der Strafzumessung letztlich allein an der Möglichkeit des teilbedingten Vollzugs orientiert habe. Bei der Verschuldenswürdigung und Strafzumessung nach <ref-law> sei dieses Kriterium aber nicht massgebend. Aus diesen Gründen sei eine erheblich höhere Freiheitsstrafe als die von der Vorinstanz ausgesprochene von drei Jahren angemessen.
1.4 Auf die Vorbringen des Beschwerdegegners wird, soweit erforderlich, in den nachfolgenden Erwägungen eingegangen.
2. 2.1 Die von der Vorinstanz ausgefällte Freiheitsstrafe von drei Jahren, die gerade noch den teilbedingten Vollzug ermöglicht, ist in Anbetracht der sich aus dem angefochtenen Urteil ergebenden objektiven und subjektiven Tatumstände, aus welchen die Vorinstanz zu Recht auf ein "erhebliches" Verschulden des Beschwerdegegners schliesst, deutlich zu milde und verstösst daher gegen Bundesrecht. Zwar spricht zugunsten des Beschwerdegegners, dass er in Bezug auf den tatbestandsmässigen Erfolg lediglich mit Eventualvorsatz handelte, dass er unter einem gewissen Gruppendruck stand und die Tat affektakzentuierte Züge trug. Demgegenüber ist jedoch stärker zulasten des Beschwerdegegners zu berücksichtigen, dass er sich, ausgerüstet mit einem Schraubenzieher, zwecks Beteiligung an einer allfälligen tätlichen Auseinandersetzung an den Tatort begab, wo er dem Opfer unter Einsatz des Schraubenziehers eine lebensgefährliche Verletzung der Lunge zufügte, die auch zum Tode hätte führen können, wenn keine Notoperation vorgenommen worden wäre.
2. 2.1 Die von der Vorinstanz ausgefällte Freiheitsstrafe von drei Jahren, die gerade noch den teilbedingten Vollzug ermöglicht, ist in Anbetracht der sich aus dem angefochtenen Urteil ergebenden objektiven und subjektiven Tatumstände, aus welchen die Vorinstanz zu Recht auf ein "erhebliches" Verschulden des Beschwerdegegners schliesst, deutlich zu milde und verstösst daher gegen Bundesrecht. Zwar spricht zugunsten des Beschwerdegegners, dass er in Bezug auf den tatbestandsmässigen Erfolg lediglich mit Eventualvorsatz handelte, dass er unter einem gewissen Gruppendruck stand und die Tat affektakzentuierte Züge trug. Demgegenüber ist jedoch stärker zulasten des Beschwerdegegners zu berücksichtigen, dass er sich, ausgerüstet mit einem Schraubenzieher, zwecks Beteiligung an einer allfälligen tätlichen Auseinandersetzung an den Tatort begab, wo er dem Opfer unter Einsatz des Schraubenziehers eine lebensgefährliche Verletzung der Lunge zufügte, die auch zum Tode hätte führen können, wenn keine Notoperation vorgenommen worden wäre.
2.2 2.2.1 Die angesichts der Tatumstände und des daraus resultierenden erheblichen Verschuldens deutlich zu milde Freiheitsstrafe von drei Jahren scheint ihren Grund auch darin zu haben, dass die Vorinstanz die Vorstrafenlosigkeit und das noch junge Alter des Beschwerdegegners offenbar stark zu dessen Gunsten berücksichtigt.
2.2.2 Nach der neuesten Rechtsprechung des Bundesgerichts ist die Vorstrafenlosigkeit neutral zu behandeln und folglich bei der Strafzumessung nicht zwingend strafmindernd zu berücksichtigen. Dies schliesst nicht aus, dass sie ausnahmsweise und im Einzelfall in die Gesamtbeurteilung der Täterpersönlichkeit einbezogen wird. Vorausgesetzt ist dafür aber, dass die Vorstrafenlosigkeit auf eine aussergewöhnliche Gesetzestreue hinweist, was sich auf besondere Umstände zu beschränken hat. Bei einem Straftäter, der eben erst mündig wurde, stellt die Vorstrafenlosigkeit keine besondere Leistung dar, wogegen der Umstand, nie verurteilt worden zu sein, bei einer älteren Person durchaus anzuerkennen ist (Urteil des Bundesgerichts 6B_390/2009 vom 14. Januar 2010 E. 2.6.2 f., zur Publikation vorgesehen). Besondere Umstände liegen hier nicht vor, weshalb beim zudem noch jungen Beschwerdegegner die Vorstrafenlosigkeit nicht strafmindernd zu berücksichtigen ist.
Auch nach der bisherigen Rechtsprechung hätte der Vorstrafenlosigkeit des Beschwerdegegners - soweit diese überhaupt strafmindernd zu berücksichtigen gewesen wäre (siehe dazu Urteil des Bundesgerichts 6S.44/2007 vom 6. Juni 2007 E. 4.4 mit Hinweisen auf die bisherige, schwankende Rechtsprechung) - jedenfalls bei einem noch jungen Täter nur geringfügiges Gewicht zukommen können.
2.2.3 Die Vorinstanz berücksichtigt bei der Strafzumessung das junge Alter des Beschwerdegegners in unbekanntem Ausmass. Das Alter eines Delinquenten kann zwar in die Strafzumessung nach <ref-law> einfliessen, aber das verhältnismässig junge Alter eines Täters für sich allein genommen führt nicht zwingend zu einer Minderung der Strafe. Der Beschwerdegegner war zum Tatzeitpunkt 20 Jahre alt. Wie die Beschwerdeführerin zu Recht geltend macht, war er durchaus in der Lage, die Schwere seiner Tat und die möglichen Folgen zu erkennen. Die Vorinstanz stellt denn auch entgegen den Ausführungen des Beschwerdegegners keine mangelnde Einsicht oder altersbedingte Unreife fest. Somit kann das Alter des Beschwerdegegners keine wesentlichen strafmindernden Auswirkungen auf das Strafmass haben.
2.3 Freiheitsstrafen von 6 bis zu 24 Monaten können bedingt und Freiheitsstrafen von 12 bis zu 36 Monaten teilbedingt ausgesprochen werden (Art. 42 und 43 StGB). Bei Freiheitsstrafen von mehr als drei Jahren kommt nur der vollständig unbedingte Vollzug infrage. Es besteht kein Raum, diese Grenzen auf dem Weg der Gesetzesauslegung weiter zu relativieren und einen erweiterten Grenzbereich offen zu halten. Dies bedeutet nicht, dass die Folgen einer unbedingt vollziehbaren Freiheitsstrafe im normalen Rahmen der Strafzumessung nicht einbezogen werden dürfen. Nach <ref-law> ist bei der Festlegung der Strafe deren Wirkung auf das Leben des Täters zu berücksichtigen. Im einzelnen Fall kann sich immer noch strafmindernd auswirken, dass der Verurteilte durch die Verbüssung der Freiheitsstrafe aus einem günstigen Umfeld herausgerissen wird. Ob und wie weit dieser Strafminderungsgrund zur Anwendung gelangt, hängt von den konkreten Umständen ab und ist an sich unabhängig von der Höhe der Strafe. Losgelöst davon hat das Gericht bei der Strafzumessung angesichts der einschneidenden Konsequenzen des unbedingten Vollzugs zu berücksichtigen, dass die subjektiven Voraussetzungen des Strafaufschubs im Sinne einer günstigen beziehungsweise nicht ungünstigen Prognose im konkreten Einzelfall an sich erfüllt sind. Liegt die ins Auge gefasste Sanktion in einem Bereich, der die Grenze für den bedingten beziehungsweise teilbedingten Vollzug - wie auch für die Halbgefangenschaft nach <ref-law> (1 Jahr) - mit umfasst, so hat das Gericht die Frage zu stellen, ob eine Strafe, die diese Grenze nicht überschreitet, noch vertretbar ist. Bejaht es diese Frage, so ist die Strafe in dieser Höhe festzulegen. Andernfalls kann eine nur unwesentlich über dem Grenzwert liegende - angemessene und begründbare - Strafe ausgefällt werden. Das Gericht hat diesen Entscheid in jedem Fall im Urteil ausführlich zu begründen, um der Begründungspflicht nach <ref-law> nachzukommen (<ref-ruling> E. 3.3-3.6 S. 23 ff. mit Hinweisen).
Entgegen den Einwänden der Beschwerdeführerin darf das Kriterium des teilbedingten Strafvollzugs somit in bestimmten Konstellationen eine Rolle bei der Strafzumessung nach <ref-law> spielen. Eine Strafzumessung, die nicht vom Verschulden des Täters ausgeht, sondern sich am Ergebnis (beispielsweise der Grenze für den bedingten Strafvollzug) orientiert, verletzt jedoch Bundesrecht (Urteil des Bundesgerichts 6S.300/2004 vom 16. Februar 2005 E. 2.2). Die Vorinstanz verurteilt den Beschwerdegegner zu einer Freiheitsstrafe von 3 Jahren. Aus den Erwägungen im angefochtenen Entscheid ist nicht ersichtlich, dass bei der Festsetzung der Freiheitsstrafe der Grenzwert von 3 Jahren für den teilbedingten Strafvollzug zugunsten des Beschwerdegegners beachtet wird. Eine implizite Berücksichtigung lässt sich in Anbetracht des Ergebnisses aber nicht ausschliessen. Ein solches Vorgehen wäre allerdings nur zulässig, wenn die ins Auge gefasste Sanktion in einem die Grenze für den teilbedingten Vollzug mitumfassenden Bereich läge. Diese Voraussetzung ist vorliegend nicht erfüllt.
2.4 Bei der Strafzumessung wegen Gewaltdelikten auch von noch jungen Straftätern sind gerade in der heutigen Zeit ebenfalls Überlegungen zur Generalprävention nötig. Die Vorinstanz hat dem nicht Rechnung getragen und auch deshalb den zur Verfügung stehenden Strafrahmen zu wenig ausgeschöpft.
2.5 Entgegen den Ausführungen des Beschwerdegegners liegt kein eigentliches auf Reue und Einsicht basierendes Geständnis vor. Die Ausführungen des Beschwerdegegners zur Qualifikation der Tat als schwere Körperverletzung und zum Vorliegen von Eventualvorsatz sind nicht relevant, da die Beschwerde sich auf die Strafzumessung beschränkt. Da die Strafzumessung von den Umständen des Einzelfalls abhängt, kann der Beschwerdegegner aus den in anderen Fällen ausgefällten Strafen nichts direkt für sich ableiten.
3. Die Beschwerde ist somit gutzuheissen, das Urteil des Obergerichts des Kantons Zürich vom 28. April 2009 aufzuheben und die Sache in Bezug auf die Strafzumessung zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
Bei diesem Ausgang des Verfahrens hat grundsätzlich der Beschwerdegegner die Gerichtskosten zu tragen (<ref-law>). Dem Beschwerdegegner ist indes die unentgeltliche Rechtspflege bewilligt worden. Daher ist auf die Erhebung von Kosten zu verzichten (<ref-law>) und seinem Rechtsvertreter eine angemessene Parteientschädigung aus der Bundesgerichtskasse auszurichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, das Urteil des Obergerichts des Kantons Zürich, II. Strafkammer, vom 28. April 2009 wird aufgehoben und die Sache in Bezug auf die Strafzumessung zur neuen Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Dem Rechtsvertreter des Beschwerdegegners, Rechtsanwalt Jean-Christophe Schai, Zürich, wird für das bundesgerichtliche Verfahren eine Entschädigung von Fr. 3'000.-- aus der Bundesgerichtskasse ausgerichtet.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 28. Januar 2010
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Häne