Sachverhalt:
A. Das Bezirksgericht Zürich sprach X._ am 18. Dezember 2007 der einfachen Körperverletzung sowie der mehrfachen Übertretung des Betäubungsmittelgesetzes schuldig, widerrief den bedingten Strafvollzug einer 18-monatigen Gefängnisstrafe vom 8. März 2004 und verurteilte ihn zu einer Freiheitsstrafe von 21 Monaten und Fr. 200.-- Busse als Gesamtstrafe. Es ordnete eine stationäre therapeutische Massnahme an (<ref-law>) und schob den Vollzug der Freiheitsstrafe auf. Ausserdem stellte es - unter Hinweis auf die stationäre Massnahme - fest, dass X._ die Tatbestände der Sachbeschädigung (22. Oktober und 8. Dezember 2006) und der einfachen Körperverletzung (8. Dezember 2006) im Zustand nicht selbstverschuldeter Schuldunfähigkeit erfüllt hat.
Auf Berufung von X._ ordnete das Obergericht des Kantons Zürich am 21. November 2008 anstelle der stationären eine ambulante Massnahme an und schob zu diesem Zweck die Freiheitsstrafe auf.
B. Die Oberstaatsanwaltschaft des Kantons Zürich führt Beschwerde in Strafsachen und beantragt sinngemäss, der angefochtene Entscheid sei aufzuheben, und es sei eine stationäre Massnahme anzuordnen, eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Der Beschwerdegegner begehrt die Abweisung der Beschwerde (act. 14).

Erwägungen:
1. Die Beschwerdeführerin rügt eine Verletzung von <ref-law> sowie Art. 56, 59 und 63 StGB. Die Vorinstanz habe bundesrechtswidrig angenommen, dass eine ambulante therapeutische Massnahme unter Aufschub des Strafvollzugs geeignet sei, der Gefahr weiterer mit dem Zustand des Täters in Zusammenhang stehender Taten zu begegnen. Damit sei sie in Fragen, deren Beantwortung besondere Fachkenntnisse voraussetze, willkürlich vom psychiatrischen Gutachten abgewichen bzw. habe sie ihren Entscheid nicht auf eine sachverständige Begutachtung abgestützt. Zudem habe sie den behandelnden Therapeuten als Sachverständigen beigezogen und dadurch kantonales Verfahrensrecht willkürlich angewandt. Schliesslich habe sie auch eine offensichtlich unrichtige Sachverhaltsfeststellung getroffen, wenn sie annehme, die Taten des Beschwerdegegners seien nie über eine einfache Körperverletzung hinausgegangen.
2. Die Vorinstanz wich vom Gutachten ab, weil es durch die Entwicklung der letzten 14 Monate überholt sei. Sämtlichen Berichten sei zu entnehmen, dass sich der Beschwerdegegner durchwegs positiv entwickelt und grosse Fortschritte gemacht habe. Bereits die Psychiatrische Universitätsklinik Zürich (PUK) habe im Februar 2008 attestiert, dass er gut kooperiere, und solange er die Depotmedikamente einnehme und die Behandlung beim Therapeuten stattfinde, gebe es auch keine Hinweise auf eine Fremdgefährdung. Der Beschwerdegegner befinde sich nun seit 9 Monaten in Freiheit, ohne dass es je zu einem negativen Zwischenfall gekommen sei. Aufgrund der diversen Berichte des Therapeuten sei davon auszugehen, dass der Beschwerdegegner sich erfolgreich an sämtliche auferlegten Weisungen halte und hoch motiviert sei, sein Leben nun auf eine solide Basis zu stellen (angefochtener Entscheid S. 16 ff. Ziff. 3.2.1.3).
Auf den ersten Blick erscheinen diese Argumente als triftige Gründe, welche die Überzeugungskraft der Feststellungen des Gutachters erheblich erschüttern, mithin ein Abweichen vom Gutachten erlauben (<ref-ruling> E. 4; <ref-ruling> E. 5.4.2). Demgegenüber kritisiert die Beschwerdeführerin zu Recht, dass die Vorinstanz einerseits ihre Schlussfolgerung hauptsächlich auf die Berichte und Aussagen des Therapeuten abstützt, dem im vorliegenden Verfahren keine Sachverständigenfunktion zukommen kann (<ref-ruling> E. 3.2), und dass sie anderseits mehrere Fachfragen nicht eingehend hat abklären lassen. Wie die Beschwerdeführerin zutreffend darlegt, hätten folgende Punkte gutachterlich beurteilt werden müssen:
Seitdem der Beschwerdegegner die Behandlung beim Therapeuten begonnen hat, ist er offenbar kooperativ. Nachdem er sich aber bereits früher "aus reiner Berechnung" kooperativ gezeigt und - als Sexualdelikte zur Sprache kamen - auch eine mehrjährige Therapie abgebrochen hatte, stellt sich die Frage, wie nachhaltig die Kooperation tatsächlich ist.
Der Gutachter diagnostizierte beim Beschwerdegegner eine dissoziale Persönlichkeitsstörung, mit deutlicher Impulsproblematik, eine Abhängigkeit von Heroin, Kokain und Cannabis sowie eine rezidivierende akute polymorphe psychotische Störung mit Symptomen einer Schizophrenie. Er erachtete die Krankheitsbilder einer Therapie und Medikation zugänglich, doch seien nur längerfristig und allenfalls moderate Erfolge zu erwarten. Bei dieser Ausgangslage hätte die Vorinstanz beim Gutachter nachfragen müssen, wie die Fortschritte und Erfolge der laufenden Therapie hinsichtlich des Krankheitsbildes zu werten sind, ob sich die Legalprognose zwischenzeitlich verändert hat und bereits jetzt eine ambulante Massnahme angezeigt ist.
Die Vorinstanz ordnete eine ambulante Massnahme an unter anderem mit der Begründung, die Taten des Beschwerdegegners seien nie über eine einfache Körperverletzung hinausgegangen. Diese offensichtlich unrichtige Annahme der Vorinstanz ist zu korrigieren (<ref-law>). Denn gemäss Strafregisterauszug wurde er im Jahre 1986 wegen Notzucht und unvollendeten Versuchs dazu mit 4 1⁄2 Jahren Gefängnis bestraft.
3. Bei der Anordnung einer Massnahme muss das Gericht grundsätzlich von den Feststellungen des Gerichtsgutachters ausgehen. Stellen sich wie vorliegend aufgrund eines Therapieberichts weitere Fragen, die vom Gericht nicht selbst beantwortet werden können, sind diese dem Gerichtsgutachter vorzulegen. Die Beschwerde ist insofern wie auch hinsichtlich der erwähnten offensichtlich unrichtigen Feststellung des Sachverhalts gutzuheissen.
Der Hauptantrag der Beschwerdeführerin hingegen ist abzuweisen, weil die zwischenzeitlichen Berichte des Therapeuten und der PUK nach einer Aktualisierung der gutachterlichen Feststellungen rufen. Gestützt darauf wird die Vorinstanz erneut zu entscheiden haben, ob eine stationäre oder ambulante Massnahme anzuordnen und ob der Strafvollzug aufzuschieben ist.
4. Am 6. Juli 2009 hat das Bundesgericht das Gesuch des Beschwerdegegners um unentgeltliche Rechtspflege gutgeheissen und seinen Rechtsvertreter zum Anwalt im bundesgerichtlichen Verfahren bestellt (act. 10). In der Folge ist von einer Kostenauflage abzusehen und der Anwalt für seinen Aufwand zu entschädigen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen, der Entscheid des Obergerichts des Kantons Zürich vom 21. November 2008 aufgehoben und die Sache zur Neubeurteilung an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Der Rechtsvertreter des Beschwerdegegners wird aus der Bundesgerichtskasse mit Fr. 1'000.-- entschädigt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 7. Oktober 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Schneider Borner