Sachverhalt:
A. Das Obergericht des Kantons Zürich sprach X._ am 2. Juli 2009 zweitinstanzlich wegen mehrfacher Misswirtschaft (Art. 165 Ziff. 1 StGB), Unterlassung der Buchführung (Art. 166 StGB), mehrfachen Vergehens gegen Art. 105 Abs. 1 AVIG, mehrfachen Betrugs (Art. 146 Abs. 1 StGB), mehrfacher Veruntreuung (Art. 138 Ziff. 1 Abs. 2 StGB; Sachverhaltskomplex ND 1, 2 und 19-32), Veruntreuung (Art. 138 Ziff. 1 Abs. 1 StGB), Freiheitsberaubung in mittelbarer Täterschaft (Art. 183 Ziff. 1 Abs. 1 StGB) und mehrfacher Widerhandlung gegen Art. 95 Ziff. 1 al. 1 SVG i.V.m. Art. 147 Ziff. 1 al. 1 VZV schuldig. Die erstinstanzlichen Schuldsprüche gemäss Urteil des Bezirksgerichts Zürich vom 21. Mai 2008 wegen Betrugs im Sachverhaltskomplex ND 9, mehrfachen Pfändungsbetrugs (Art. 163 Ziff. 1 StGB) und falscher Anschuldigung (Art. 303 Ziff. 1 Abs. 1 StGB) erwuchsen unangefochten in Rechtskraft. Das Obergericht verurteilte X._ zu einer Freiheitsstrafe von 3 Jahren und 6 Monaten sowie zu einer bedingt vollziehbaren Geldstrafe von 180 Tagessätzen zu Fr. 30.--, teilweise als Zusatzstrafe zum Urteil des Bezirksgerichts Aarau vom 12. Juni 2002, zum Strafentscheid des Bezirksamts Lenzburg vom 15. August 2005 und zu den Strafmandaten des Einzelrichteramts des Kantons Zug vom 2. November 2005 sowie vom 26. Januar 2006. Die vom Bezirksgericht für die Widerhandlungen gegen Art. 95 Ziff. 1 al. 1 SVG ausgesprochene Übertretungsbusse von Fr. 1'000.-- erwuchs unangefochten in Rechtskraft.
B. Das Bundesgericht hiess mit Urteil 6B_785/2009 vom 23. Februar 2010 die von X._ gegen den Entscheid vom 2. Juli 2009 erhobene Beschwerde in Strafsachen teilweise gut und wies die Sache zur neuen Entscheidung an die Vorinstanz zurück.
C. Das Obergericht des Kantons Zürich sprach X._ am 25. November 2010 im Sinne der Erwägungen des Urteils des Bundesgerichts vom 23. Februar 2010 vom Vorwurf der mehrfachen Veruntreuung im Sachverhaltskomplex ND 1, 2 und 19-32 frei (Dispositiv-Ziff. 2). Im Übrigen bestätigte es die Schuldsprüche gemäss Urteil vom 2. Juli 2009. Es verurteilte X._ zu einer unbedingten Freiheitsstrafe von 3 Jahren und einer unbedingten Geldstrafe von 180 Tagessätzen zu Fr. 30.--, teilweise als Zusatzstrafe zum Urteil des Bezirksgerichts Aarau vom 12. Juni 2002 sowie als Zusatzstrafe zum Urteil des Bezirksgerichts Zürich vom 27. November 2009 (Dispositiv-Ziff. 3 und 4).
D. Die von X._ gegen das Urteil vom 25. November 2010 erhobene Beschwerde hiess das Bundesgericht erneut teilweise gut. Es hob Dispositiv-Ziff. 4 des angefochtenen Urteils teilweise auf und wies die Sache zu neuer Entscheidung an die Vorinstanz zurück (Urteil 6B_165/2011 vom 19. Juli 2011).
E. Mit Urteil vom 17. Februar 2012 schob das Obergericht den Vollzug der Geldstrafe von 180 Tagessätzen zu Fr. 30.-- im Sinne des bundesgerichtlichen Urteils 6B_165/2011 auf. Es setzte die Probezeit auf vier Jahre fest. Auf die Anträge von X._ betreffend die Verurteilung wegen mehrfacher Misswirtschaft und Unterlassung der Buchführung sowie betreffend Höhe und Art des Vollzugs der Freiheitsstrafe trat es nicht ein.
F. X._ führt Beschwerde in Strafsachen. Er beantragt, ihn vom Vorwurf der Unterlassung der Buchführung und der Misswirtschaft freizusprechen und die Sache zur Neufestsetzung der Strafe und zur Neufestlegung des Vollzugs der Freiheitsstrafe an die Vorinstanz zurückzuweisen.
Erwägungen:
1. 1.1 Der Beschwerdeführer rügt, bezüglich der Unterlassung der Buchführung und der Misswirtschaft sei zwischenzeitlich die Strafverfolgungsverjährung eingetreten. Die Vorinstanz sei auf die Rüge zu Unrecht nicht eingegangen.
1.2 Das Obergericht sprach für das Vergehen gegen das Bundesgesetz über die obligatorische Arbeitslosenversicherung und die Insolvenzentschädigung im Sinne von Art. 105 Abs. 1 AVIG eine Geldstrafe von 180 Tagessätzen aus. Für die übrigen Straftaten, darunter auch die Unterlassung der Buchführung und die Misswirtschaft, verhängte es eine Freiheitsstrafe.
Das Bundesgericht hob das Urteil des Obergerichts vom 25. November 2010 lediglich in Bezug auf Dispositiv-Ziff. 4 teilweise auf, d.h. soweit die Geldstrafe für vollziehbar erklärt wurde. Die Rügen betreffend den Schuldpunkt und die unbedingte Freiheitsstrafe von 3 Jahren wies es ab. Insoweit erwuchs das Urteil des Obergerichts vom 25. November 2010 in Rechtskraft. Die altrechtliche Verjährungsfrist, auf welche sich der Beschwerdeführer beruft, hörte daher am 25. November 2010 zu laufen auf (vgl. BGE 127 IV 220 E. 2; 121 IV 64 E. 2). Die Vorinstanz geht im angefochtenen Urteil zu Recht davon aus, nach diesem Datum sei eine Strafverfolgungsverjährung nicht mehr möglich bzw. diese Frage sei nicht mehr zu prüfen (Urteil E. 3 S. 24 f.).
2. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 9. Juli 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Unseld