Das Bundesgericht zieht in Erwägung:
1. Nachdem ein Asylgesuch des georgischen Staatsangehörigen X._ 2001 abgewiesen worden war und er die Schweiz aufforderungsgemäss am 28. November 2001 verlassen hatte, reiste er am 12. Februar 2002 ohne Reisepapiere wieder ein. Er stellte am 7. Juli 2003 ein Gesuch um Anerkennung als Staatenloser, welches am 12. August 2004 durch das Bundesamt für Flüchtlinge abgelehnt wurde. In derselben Weise entschied das Bundesamt für Migration am 13. November 2007 über ein erneutes Gesuch um Anerkennung der Staatenlosigkeit. X._ wird vorgeworfen, er habe sich im Wissen um die fehlende Aufenthaltsbewilligung bis zum 2. März 2011 in der Schweiz aufgehalten und keine Anstrengungen unternommen, sich legale Reisepapiere zu beschaffen.
Das Obergericht des Kantons Zürich verurteilte X._ am 16. Februar 2012 im Berufungsverfahren wegen Vergehens gegen das Bundesgesetz über die Ausländerinnen und Ausländer vom 16. Dezember 2005 (AuG; SR 142.20) im Sinne von Art. 115 Abs. 1 lit. b zu einer Geldstrafe von 120 Tagessätzen zu Fr. 10.--. Der Vollzug der Strafe wurde nicht aufgeschoben.
X._ wendet sich ans Bundesgericht und beantragt, er sei freizusprechen.
2. Der Beschwerdeführer erachtet es als "kaum glaubwürdig", dass er fast sieben Jahre lang ohne Aufenthaltsberechtigung in der Schweiz gearbeitet haben könnte (Beschwerde S. 2). Aus den drei von ihm eingereichten Bestätigungen über seine Einsätze aus den Jahren 2004 und 2008 ergibt sich indessen nur, dass man mit seinen Leistungen zufrieden war, nicht aber, dass er eine Aufenthaltsbewilligung gehabt hätte. Folglich ist von der Feststellung der Vorinstanz auszugehen, dass der Beschwerdeführer seit 2001 über keine Aufenthaltsberechtigung in der Schweiz verfügte und ihm dies auch bewusst war (angefochtener Entscheid S. 7 und 9).
3. Der Beschwerdeführer ist Georgier, hat aber nach dem negativen Asylentscheid am 20. November 2001 auf seine Staatsangehörigkeit freiwillig verzichtet, um ein Bleiberecht in der Schweiz zu erzwingen (angefochtener Entscheid S. 9 mit Hinweis auf die Verfügungen vom 12. August 2004 und 13. November 2007). Sein hier gestelltes Gesuch um Anerkennung als Staatenloser wurde mit der Begründung abgewiesen, er habe freiwillig auf seine georgische Staatsangehörigkeit verzichtet, und es sei ihm zuzumuten, die für die Wiedererlangung notwendigen Schritte einzuleiten (vgl. auch Urteil des Bundesgerichts 2A.153/2005 vom 17. März 2005). Die Abweisung des Gesuches um Anerkennung als Staatenloser ist rechtskräftig, nachdem der Beschwerdeführer eine dagegen eingereichte Beschwerde zurückgezogen hat (angefochtener Entscheid S. 9).
Bei dieser Sachlage bezieht sich der Beschwerdeführer zu Unrecht auf das Abkommen zwischen dem Schweizerischen Bundesrat und der Regierung von Georgien über die Rückübernahme von Personen mit unbefugtem Aufenthalt vom 8. April 2005 (SR 0.142.113.609). Soweit dieses Abkommen für das vorliegende Strafverfahren überhaupt eine Relevanz hat, kommen auf den Fall des Beschwerdeführers die von ihm zitierten Art. 1 al 3 und Art. 4 Abs. 3 des Abkommens, die sich auf Ausländer im Sinne des Abkommens beziehen, nicht zur Anwendung (Beschwerde S. 1). Gemäss Art. 2 Abs. 1 des Abkommens übernimmt jede Vertragspartei nämlich auch jene Personen, welche die Staatsangehörigkeit der ersuchten Vertragspartei besassen, sie indessen nach der Einreise in das Hoheitsgebiet der ersuchenden Vertragspartei verloren haben. Unter den gegebenen Umständen hätte sich der Beschwerdeführer, wie ihm bereits in den Verfügungen vom 12. August 2004 und 13. November 2007 unmissverständlich klar gemacht wurde, um die Wiedererlangung georgischer Papiere bemühen müssen. Dies hat er unterlassen. Seine Verurteilung wegen rechtswidrigen Aufenthalts in der Schweiz im Sinne von Art. 115 Abs. 1 lit. b AuG ist nicht zu beanstanden.
4. Die Beschwerde ist im Verfahren nach Art. 109 BGG abzuweisen. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Das nachträglich gestellte Gesuch um unentgeltliche Rechtspflege ist in Anwendung von Art. 64 BGG abzuweisen, weil die Rechtsbegehren aussichtslos erschienen. Der finanziellen Lage des Beschwerdeführers ist bei der Bemessung der Gerichtskosten Rechnung zu tragen (Art. 65 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 25. April 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: C. Monn