Sachverhalt:
A. Das Bezirksgericht Zürich sprach X._ am 14. Dezember 2007 des Vergehens gegen das Bundesgesetz über Aufenthalt und Niederlassung der Ausländer schuldig. Es widerrief den bedingten Strafvollzug des Strafbefehls der Staatsanwaltschaft Zürich-Sihl vom 19. Dezember 2005 für die Gefängnisstrafe von 45 Tagen und bildete zusammen mit der neuen Strafe eine Gesamtstrafe. Es bestrafte X._ mit einer Geldstrafe von 120 Tagessätzen zu Fr. 30.--.
B. Auf Berufung von X._ verurteilte ihn das Obergericht des Kantons Zürich am 4. Mai 2009 zu einer Geldstrafe von 90 Tagessätzen zu Fr. 4.-- als Gesamtstrafe.
C. Gegen dieses Urteil erhebt die Oberstaatsanwaltschaft des Kantons Zürich Beschwerde in Strafsachen. Sie beantragt, das Urteil des Obergerichts des Kantons Zürich vom 4. Mai 2009 sei aufzuheben und es sei ein angemessener Tagessatz von mindestens Fr. 10.-- festzulegen. Eventualiter sei die Sache zur neuen Entscheidung an das Obergericht zurückzuweisen.
D. Das Obergericht des Kantons Zürich und der Beschwerdegegner verzichteten auf eine Vernehmlassung.
E. Die Strafrechtliche Abteilung des Bundesgerichts hat die Angelegenheit am 13. Juli 2010 an einer öffentlichen Sitzung beraten.

Erwägungen:
1. 1.1 Die Beschwerdeführerin rügt, die Vorinstanz verletze die Begründungspflicht bei der Strafzumessung nach <ref-law> sowie die Grundsätze zur Bemessung der Geldstrafe nach <ref-law>. Sie reduziere die Höhe des Tagessatzes im Vergleich zur ersten Instanz massgeblich und ohne vertiefte Begründung. Im erstinstanzlichen Urteil stelle sich die finanzielle Situation des Beschwerdegegners nicht viel günstiger dar. Die Vorinstanz prüfe nicht, weshalb der Beschwerdegegner keinen Nebenverdienst mehr erziele. Selbst unter Berücksichtigung der schwierigen finanziellen Verhältnisse sei ein Tagessatz von Fr. 4.-- nicht mehr als ernsthafte Sanktion zu betrachten. Der Gesamtbetrag von Fr. 360.-- (90 Tagessätze zu Fr. 4.--) könne jederzeit ausgeliehen, geschenkt oder in Raten bezahlt werden. Auch bei Tätern am untersten Ende der Einkommensskala dürfe ein Tagessatz von Fr. 10.-- nicht unterschritten werden, um als ernsthafte Sanktion zu gelten. Das Verhältnis zwischen einem Tagessatz, 4 Stunden gemeinnütziger Arbeit oder einem Tag Ersatzfreiheitsstrafe sowie zur Ordnungsbusse müsse gewahrt bleiben. Dem Beschwerdegegner sei es zuzumuten, in seinem Heimatland Hilfsarbeiten auszuüben und einen Minimallohn zu erzielen. Dieser sei als hypothetisches Einkommen anzurechnen.
1.2 Die Vorinstanz erwägt, der Beschwerdegegner erhalte wöchentlich Migrosgeschenkkarten im Wert von Fr. 60.--. Diese könne er gegen Bargeld tauschen. Dadurch ergebe sich ein Tagessatz von gerundet Fr. 8.50. Da er unter dem Existenzminimum lebe, sei der Tagessatz zu zu reduzieren und auf Fr. 4.-- festzusetzen.
1.3 Bei der Bestimmung der Höhe des Tagessatzes gemäss <ref-law> ist in der Regel vom Nettoeinkommen auszugehen, das der Täter im Zeitpunkt des Urteils durchschnittlich erzielt. Wenn die Einkünfte hinter den Beträgen zurückbleiben, die der Täter in zumutbarer Weise einnehmen könnte oder auf die er Anspruch hätte, so ist von einem potentiellen Einkommen auszugehen. Die Frage nach der Zumutbarkeit ist unter Berücksichtigung der persönlich gewählten Lebensführung zu beurteilen (vgl. <ref-ruling> E. 6.1 S. 68 ff. mit Hinweisen). Die Geldstrafe soll auch für Mittellose zur Verfügung stehen (a.a.O.; E. 5.4 S. 66 ff. mit Hinweisen). Um der schlechten finanziellen Situation Rechnung zu tragen, ist der Tagessatz für Verurteilte, die nahe am oder unter dem Existenzminimum leben, in dem Masse herabzusetzen, dass einerseits die Ernsthaftigkeit der Sanktion durch den Eingriff in die gewohnte Lebensführung erkennbar ist und andererseits der Eingriff nach den persönlichen und wirtschaftlichen Verhältnissen als zumutbar erscheint. Bei einer hohen Anzahl Tagessätze - namentlich bei Geldstrafen von mehr als 90 Tagessätzen - ist eine Reduktion um weitere 10-30 Prozent angebracht, da mit zunehmender Dauer die wirtschaftliche Bedrängnis und damit das Strafleiden progressiv ansteigt (vgl. <ref-ruling> E. 6.5.2 S. 72 f. mit Hinweisen).
Trotz der Anpassung an die Einkommensverhältnisse (vgl. <ref-law>) trifft eine Geldstrafe einkommensschwache Personen prinzipiell härter als (wohlhabendere) Straftäter, welche diese bezahlen können, ohne ihr Existenzminimum anzutasten. Erstere müssen sich in ihren elementaren Bedürfnissen (wie Nahrung, Bekleidung, Krankheitskosten, Wohnkosten) einschränken. Dies gilt selbst, wenn die Höhe des Tagessatzes aufgrund ihrer knappen finanziellen Verhältnisse erheblich reduziert wird (vgl. <ref-ruling> a.a.O.). Diese Ungleichbehandlung wurde vom Gesetzgeber bewusst hingenommen. Zudem sollen Geldstrafen unter general- und spezialpräventiven Aspekten als ernsthafte Sanktionen wahrgenommen werden. Der Tagessatz darf nicht so weit reduziert werden, dass er lediglich symbolischen Wert hat, weil die Geldstrafe gleichwertig neben die Freiheitsstrafe treten soll (vgl. <ref-ruling> E. 6.5 S. 71 ff. mit Hinweisen). Das Bundesgericht hat entschieden, dass ein Tagessatz unter Fr. 10.-- auch für Täter mit niedrigsten Einkommen als symbolisch zu bezeichnen ist (vgl. <ref-ruling> E. 1.4 S. 184 mit Hinweis). Um der (schlechten) finanziellen Situation von Straftätern nebst der Anpassung der Tagessatzhöhe an die Einkommensverhältnisse zusätzlich Rechnung zu tragen, schuf der Gesetzgeber die Möglichkeit von Zahlungserleichterungen. Die Vollzugsbehörde kann eine Zahlungsfrist bis zu 12 Monaten bestimmen bzw. Ratenzahlungen anordnen und auf Gesuch die Fristen verlängern (vgl. <ref-law>). Dadurch werden Härtefälle auf der Vollzugsebene weiter abgefedert.
1.4 Der Beschwerdegegner bezieht als abgewiesener Asylbewerber Naturalleistungen. Ihm wird eine Unterkunft zur Verfügung gestellt, und er erhält wöchentlich Migros-Gutscheine zu Fr. 60.--. Er ist als Täter mit niedrigstem Einkommen im Sinne der zitierten Rechtsprechung (E. 1.3) zu betrachten. Es ist davon auszugehen, dass selbst bei Anrechnung eines hypothetischen Einkommens (im Heimatland Guinea oder in der Schweiz durch Reinigungstätigkeit im Asylbewerberheim) sowie Aufrechnung der gewährten Naturalleistungen (z.B. Unterkunft) ein Fr. 10.-- übersteigender Tagessatz nicht in Frage kommt. Deshalb erübrigen sich weitere Abklärungen durch die Vorinstanz.
1.5 Das Bundesgericht hielt den Vollzug einer Geldstrafe in einem Fall, in welchem ein Täter über ein Einkommen von Fr. 16.80 pro Tag verfügte, grundsätzlich für möglich (Urteil 6B_541/2007 vom 13. Mai 2008 E. 6.5). Auch beim Beschwerdegegner, welcher aufgrund der Nothilfe über ein minimales Einkommen von wöchentlich Fr. 60.-- verfügt, ist Bezahlung der Geldstrafe bei Ratenzahlungen und einer langen Zahlungsfrist nicht zum Vornherein ausgeschlossen. Durch den rechnerischen Einbezug der Nothilfe in die Bemessung der Geldstrafe wird der Leistungsanspruch gegenüber dem Staat nach <ref-law> sowie die Auszahlung und freie Verwendung der materiellen Hilfe nicht beschränkt. Diese Mittel können dem Beschwerdegegner nicht durch Eintreibung der Geldstrafe mittels Schuldbetreibung entzogen werden, weil dort das Existenzminimum gewahrt bleibt. Es wird ihm lediglich die im Einklang mit <ref-law> stehende, gesetzlich vorgesehene Möglichkeit geboten, eine Geldstrafe freiwillig zu bezahlen. Der Beschwerdegegner kann dabei entscheiden, ob er diese bezahlen will, so wie er es in der Hand hatte, sich straffrei zu verhalten. Da er aufgrund einer Straftat eine Geldstrafe zu zahlen hat, muss er sich hierfür wie andere, die unter dem Existenzminimum leben, in seinen grundlegendsten Bedürfnissen einschränken. Dies ist vom Gesetzgeber, der Geldstrafen auch für mittellose Täter vorsieht, gewollt (vgl. E. 1.3). Ein minimaler Tagessatz von Fr. 10.-- weckt keine verfassungsrechtlichen Bedenken. Namentlich stehen ihm weder Art. 8 Abs. 1 noch <ref-law> entgegen. Die Beschwerdeführerin bringt zu Recht vor, die Vorinstanz habe den Tagessatz zu tief angesetzt. Dieser darf den Betrag von Fr. 10.-- nicht unterschreiten, um noch als ernsthafte Sanktion wahrgenommen zu werden (<ref-ruling> E. 1.4.2 mit Hinweisen).
1.6 Die Beschwerde ist gutzuheissen. Da der Sachentscheid feststeht, rechtfertigt es sich ausnahmsweise, gemäss <ref-law> in der Sache selbst zu entscheiden und den Tagessatz auf Fr. 10.-- zu erhöhen.
2. Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (<ref-law>). Die obsiegende Staatsanwaltschaft hat keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, Ziffer 3. des Urteils des Obergerichts des Kantons Zürich vom 4. Mai 2009 aufgehoben und wie folgt neu gefasst:
"3. Der Angeklagte wird unter Einbezug der widerrufenen Strafe bestraft mit 90 Tagessätzen Geldstrafe zu Fr. 10.-- als Gesamtstrafe, wobei 1 Tagessatz als durch Polizeiverhaft geleistet gilt."
2. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 13. Juli 2010
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Koch