Sachverhalt:
A. X._ ist bei der Y._ AG als Direktor angestellt, Mitglied des Verwaltungsrates und an der Gesellschaft massgeblich beteiligt. Für die direkten Bundessteuern 2001 bis 2003 wurde er mit steuerbaren Einkommen von Fr. 195'900.-- (2001), Fr. 186'600.-- (2002) und Fr. 160'000.-- (2003) rechtskräftig veranlagt.
B. Mit Schreiben vom 10. Mai 2010 leitete das Kantonale Steueramt Zürich (nachfolgend: Steueramt) für die Steuerperioden 2001 bis 2003 ein Nachsteuer- und Bussenverfahren betreffend die Staats- und Gemeindesteuern sowie die direkte Bundessteuer ein. Zur Begründung führte das Steueramt aus, es bestehe der Verdacht auf Unterbesteuerung von Einkommen bzw. auf Steuerverkürzung durch eine Pflichtverletzung im Einschätzungsverfahren.
Am 13. Juli 2011 auferlegte das Steueramt X._ u.a. betreffend die direkte Bundessteuer eine Nachsteuer von Fr. 21'067.20 sowie eine Busse von Fr. 12'266.10.
C. Mit Sprungbeschwerde an das Verwaltungsgericht des Kantons Zürich vom 19. August 2011 focht X._ die Verfügung vom 13. Juli 2011 betreffend die direkte Bundessteuer an. Das Verwaltungsgericht hiess die Beschwerde teilweise gut, indem es - aufgrund der Anwendung eines anderen Tarifs und entsprechend dem Antrag des Steueramtes - die Nachsteuer samt Zins auf Fr. 20'832.55 herabsetzte.
D. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 5. April 2012 beantragt X._ vor Bundesgericht, für die Steuerperioden 2001 bis 2003 keine Nachbesteuerung vorzunehmen.
Das Verwaltungsgericht des Kantons Zürich beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Steueramt und die Eidgenössische Steuerverwaltung schliessen auf Abweisung der Beschwerde.

Erwägungen:
1. 1.1 Beim angefochtenen Entscheid handelt es sich um einen kantonal letztinstanzlichen, verfahrensabschliessenden Entscheid über die direkte Bundessteuer. Dagegen steht gemäss Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Art. 90 BGG in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer (DBG; SR 642.11) die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht offen. Der Beschwerdeführer ist gemäss <ref-law> zur Beschwerde legitimiert. Auf die form- und fristgerecht eingereichte Beschwerde ist daher einzutreten.
1.2 Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dabei prüft es, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 2.2.1 S. 389). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht prüft es hingegen nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>).
1.3 Der Beurteilung von Beschwerden in öffentlich-rechtlichen Angelegenheiten (<ref-law>) liegt der Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Diesen kann das Bundesgericht von Amtes wegen berichtigen oder ergänzen, wenn er offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von <ref-law> beruht (<ref-law>). Zu den Rechtsverletzungen im Sinn von <ref-law> gehört auch die unvollständige Feststellung der rechtserheblichen Tatsachen (Urteile 9C_53/2008 vom 18. Februar 2009 E. 1.3; 9C_40/2007 vom 31. Juli 2007 E. 1; ULRICH MEYER/JOHANNA DORMANN, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 25, 36 und 59 zu Art. 105; SEILER/VON WERDT/GÜNGERICH, Bundesgerichtsgesetz [BGG], 2007, N. 24 zu <ref-law>) und die Verletzung des Untersuchungsgrundsatzes als einer wesentlichen Verfahrensvorschrift (MEYER/DORMANN, a.a.O., N. 60 zu <ref-law>; Urteile 9C_53/2008 vom 18. Februar 2009 E. 1.3; 8C_364/2007 vom 19. November 2007 E. 3.3). Die Rüge, der Sachverhalt sei offensichtlich unrichtig bzw. unvollständig festgestellt worden (vgl. <ref-law>), ist gleichzusetzen mit der Willkürrüge (<ref-ruling> E. 7.1 S. 51; <ref-ruling> E. 4.1.2 S. 62; <ref-ruling> E. 1.2.2 S. 252).
2. 2.1 Nach <ref-law> wird die nicht erhobene Steuer samt Zins als Nachsteuer eingefordert, falls sich aufgrund von Tatsachen oder Beweismitteln, die der Steuerbehörde nicht bekannt waren, ergibt, dass eine Veranlagung zu Unrecht unterblieben oder eine rechtskräftige Veranlagung unvollständig ist oder eine unterbliebene oder unvollständige Veranlagung auf ein Verbrechen oder ein Vergehen gegen die Steuerbehörde zurückzuführen ist (Abs. 1). Hat der Steuerpflichtige Einkommen, Vermögen und Reingewinn in seiner Steuererklärung vollständig und genau angegeben und das Eigenkapital zutreffend ausgewiesen und haben die Steuerbehörden die Bewertung anerkannt, so kann keine Nachsteuer erhoben werden, selbst wenn die Bewertung ungenügend war (Abs. 2).
2.2 Der Beschwerdeführer macht geltend, es fehle an der Voraussetzung für die Vornahme einer Nachsteuerveranlagung, weil keine neuen Tatsachen im Sinn von <ref-law> vorgelegen hätten. Die Steuerbehörden hätten lediglich eine neue rechtliche Beurteilung betreffend den Zuflusszeitpunkt der Boni vorgenommen.
Dieser Auffassung kann nicht gefolgt werden. Zwar stellt die Festlegung des Zuflusszeitpunktes von Boni effektiv eine Rechtsfrage dar. Die Beurteilung dieser Rechtsfrage setzt jedoch ein Tatsachenfundament voraus, hier konkret welche Boni wann und in welcher Weise gutgesprochen wurden bzw. wie der Anspruch auf die fraglichen Boni entstanden war. Vorliegend ist diesbezüglich die Feststellung der Vorinstanz relevant, dass die jeweiligen Boni von der Arbeitgeberin in den Lohnausweis integriert (bzw. nicht separat ausgewiesen) wurden. Daraus ergibt sich, dass für das Steueramt weder ersichtlich war, dass Boni deklariert wurden, noch um welche Boni es sich handelte und wie der Anspruch darauf entstanden war. Die Vorinstanz hat daher im Ergebnis zu Recht festgehalten, dass die diesbezüglichen Informationen neue Tatsachen im Sinn von <ref-law> darstellten. Das Steueramt durfte somit ein Nachsteuerverfahren einleiten, um zu prüfen, ob eine Nachsteuer aufzuerlegen war.
2.3 Der Beschwerdeführer bringt im Weiteren vor, er habe die zur Diskussion stehenden Boni zum richtigen Zeitpunkt deklariert und versteuert. Die Vorinstanz und die Beschwerdegegnerin würden zur Beantwortung dieser Rechtsfrage zu Unrecht nur auf den Zeitpunkt der Auszahlung bzw. der Bestätigung der Bonusabrechnung im Verwaltungsratsbeschluss abstellen. Er stellt damit den Realisationszeitpunkt der fraglichen Einkünfte zur Diskussion.
2.3.1 Nach <ref-law> sind steuerbar alle Einkünfte aus privatrechtlichem oder öffentlich-rechtlichem Arbeitsverhältnis mit Einschluss der Nebeneinkünfte wie Entschädigungen für Sonderleistungen, Provisionen, Zulagen, Dienstalters- und Jubiläumsgeschenke, Gratifikationen, Trinkgelder, Tantiemen und andere geldwerte Vorteile. Grundsätzlich ist für die Einkommensbesteuerung der Zeitpunkt entscheidend, in welchem die steuerpflichtige Person eine Leistung vereinnahmt oder einen festen Rechtsanspruch darauf erwirbt, über den sie tatsächlich verfügen kann. Voraussetzung des steuerauslösenden Zuflusses ist demnach ein abgeschlossener Erwerbsvorgang, welcher Forderungs- oder Eigentumserwerb sein kann (MARKUS REICH, Steuerrecht, 2. Aufl. 2012, S. 222 f. Rz. 51). Nicht massgebend ist der Forderungserwerb, wenn die Befriedigung des Anspruchs unsicher ist; diesfalls ist mit der Besteuerung bis zur tatsächlichen Erfüllung zuzuwarten (<ref-ruling> E. 4a S. 242 mit Hinweisen). Abzustellen ist demnach auf den Zeitpunkt, in dem der Steuerpflichtige eine rechtlich und tatsächlich durchsetzbare Forderung auf die einkommensbildende Leistung erworben hat. Es muss dabei sowohl hinsichtlich des Bestands als auch hinsichtlich des Umfangs der Forderung Gewissheit bestehen, wobei es genügt, wenn die Höhe der Forderung nach objektiven Kriterien bestimmbar ist (vgl. REICH, a.a.O., S. 223 f. Rz. 53).
2.3.2 Vorliegend hat die Vorinstanz sachverhaltsmässig - und damit für das Bundesgericht verbindlich - festgestellt, die zur Diskussion stehenden Boni seien Mitte Dezember des jeweiligen Geschäftsjahres grundsätzlich bestimmbar gewesen. Im Sinn der vorstehenden Ausführungen (vgl. E. 2.3.1) bestand demnach in diesem Zeitpunkt hinsichtlich des Umfangs der Forderung die notwendige Gewissheit.
2.3.3 Was die Gewissheit über den Bestand der Forderungen anbelangt, stellte die Vorinstanz sodann fest, in allen streitbetroffenen Kalenderjahren habe der hierfür zuständige Verwaltungsrat erst im Folgejahr, anlässlich seiner ersten Sitzung (Ende Januar oder Anfang Februar), Beschluss über die Höhe der Bonuszahlungen an die Geschäftsleitung gefasst. Sie schliesst daraus, dass dem Beschwerdeführer die fraglichen Boni erst mit diesem Beschluss, somit jeweils im auf das entsprechende Geschäftsjahr folgenden Kalenderjahr, zugeflossen seien.
Der Beschwerdeführer bringt dagegen vor, er habe bereits aufgrund des Arbeitsvertrags für seine Leistungen in jedem Geschäftsjahr Anspruch auf Bonus, und verweist auf den Arbeitsvertrag zwischen ihm und der Y._ AG, vom 4. November 1986. Vertraglich sei genau festgelegt worden, wie sich der Bonus des Steuerpflichtigen berechne. Damit bestehe für jedes Jahr ein Rechtsanspruch, der privatrechtlich durchsetzbar sei. Ferner legt der Beschwerdeführer dar, für das Vorliegen einer den Zufluss aufschiebenden Unsicherheit der Bonusforderung gebe es keinerlei Anhaltspunkte. Der Bonus sei stets in der beantragten Höhe genehmigt und zeitnah ausbezahlt worden. Weiter sei der Bonus jeweils im Lohnausweis für das fragliche Kalenderjahr bestätigt worden. Ergänzend führt er aus, selbst wenn es keine vertragliche Bonusregelung gäbe, wäre festzustellen, dass er über viele Jahre hinweg stets einen Bonus erhalten habe und dass sich dieser nach konstanten Grundsätzen bestimmte. Nach herrschender Lehre und Rechtsprechung im Arbeitsrecht genüge die ununterbrochene, über mehrere Jahre erfolgende Ausrichtung eines freiwilligen Bonus zur Annahme, dass ein Bonus vertraglich geschuldet sei; ein Rechtsanspruch auf Zahlung von Boni bestehe bereits nach dreimaliger Auszahlung in den Vorjahren. Hinsichtlich der Höhe des so erworbenen Bonusanspruchs stehe nach Lehre und Rechtsprechung fest, dass der Arbeitnehmer die Ausrichtung nach denselben Kriterien verlangen könne, wenn sich der ausbezahlte Bonus über die Jahre hinweg einigermassen proportional nach dem Geschäftsergebnis richte.
Das angefochtene Urteil enthält bezüglich dieser Ausführungen des Beschwerdeführers keine sachverhaltlichen Feststellungen, weil sich die Vorinstanz lediglich auf den Beschluss des Verwaltungsrates konzentriert und daraus ihre Schlussfolgerungen gezogen hat. Der Beschwerdeführer hat jedoch bereits vor der Vorinstanz geltend gemacht, er habe seit dem Jahr 1987 die für die Festlegung der jährlichen Bonuszahlungen massgebenden Berechnungen jeweils Mitte Dezember eines jeden Jahres erstellt. Eine jährliche Bonuszahlung an eine seit Jahren unverändert gebliebene Anzahl Funktionsträger sei von der Arbeitgeberin schon seit Jahren vor Eintritt des Beschwerdeführers in die Firma ausbezahlt worden. Dabei seien die Berechnungsparameter seit Jahren unverändert geblieben und dann vom Beschwerdeführer ab dem Jahr 1987 auch in gleicher Art und Weise übernommen und jährlich gemäss Zwischenstand per Mitte Dezember anhand des vorbestehenden Berechnungsschemas (Vereinbarung für die Bonusregelung vom 10. Juni 1998) aktualisiert worden. Anlässlich der ersten Verwaltungsratssitzung eines jeden Geschäftsjahres im Januar oder Anfang Februar sei dann die Höhe der vom Beschwerdeführer Mitte Dezember errechneten Bonuszahlungen vom Verwaltungsrat abgesegnet worden. Wie schon bei den Bonusberechnungen durch seinen Vorgänger in den Vorjahren sei es auch bei denjenigen durch den Beschwerdeführer nie vorgekommen, dass die Mitte Dezember errechnete Höhe der Bonuszahlungen vom Verwaltungsrat abgeändert worden sei.
Die vom Beschwerdeführer dem Bundesgericht in diesem Zusammenhang vorgelegten Dokumente (Arbeitsvertrag zwischen ihm und der Y._ AG, vom 4. November 1986; Vereinbarung für die Bonusregelung zwischen ihm und einem anderen Verwaltungsratsmitglied vom 10. Juni 1998) stellen neue Beweismittel dar. Diese dürfen gemäss <ref-law> vor Bundesgericht nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt. Im vorliegenden Fall hätten die genannten Dokumente bereits der Vorinstanz vorgelegt werden können, weshalb sie als Beweismittel im bundesgerichtlichen Verfahren grundsätzlich unzulässig sind (vgl. Urteil 5A_115/2012 vom 20. April 2012 E. 4.2.2; <ref-ruling> E. 4.4.3 S. 128 f.).
Es ergibt sich jedoch auch ohne Berücksichtigung dieser Beweismittel, dass über den Bestand der Bonusforderung bereits bei deren Berechnung Mitte Dezember grundsätzlich Gewissheit bestand. Aufgrund des langjährigen Arbeitsverhältnisses und der regelmässigen Ausrichtung der Boni verfügte der Beschwerdeführer über einen Rechtsanspruch auf Ausrichtung von Boni als Arbeitsentgelt. Indem die Gesellschaft diese in den Lohnausweis für das entsprechende Kalenderjahr integrierte, dokumentierte sie ihren Willen, dass der entsprechende Anspruch per Ende Geschäftsjahr zu anerkennen sei. Dass der formelle Beschluss durch den Verwaltungsrat jeweils erst im darauf folgenden Kalenderjahr im Januar oder Anfang Februar erfolgte, ist daher, entgegen der Auffassung der Vorinstanz, bei der vorliegenden Sachlage nicht entscheidend.
2.3.4 Damit steht fest, dass bezüglich der fraglichen Boni am Ende des jeweiligen Kalenderjahres, für welches sie ausbezahlt wurden, sowohl hinsichtlich ihres Bestands als auch hinsichtlich ihres Umfangs Gewissheit bestand. Dementsprechend ist von einem festen Rechtsanspruch des Beschwerdeführers zu diesem Zeitpunkt auszugehen, und die Boni wurden jeweils im Kalenderjahr realisiert, für welches sie ausgerichtet wurden.
2.4 Zusammengefasst ist die vom Beschwerdeführer vorgenommene Deklaration der Boni für die vorliegend relevanten Steuerperioden 2001 bis 2003 nicht zu beanstanden und die Steuerbehörden haben zu Unrecht eine Nachbesteuerung vorgenommen. Dementsprechend entfällt auch die Basis für die Busse wegen Steuerhinterziehung.
Bei diesem Ergebnis erübrigt es sich, auf die weiteren Rügen des Beschwerdeführers einzugehen.
3. 3.1 Die Beschwerde ist demnach gutzuheissen und das Urteil des Verwaltungsgerichts des Kantons Zürich vom 1. Februar 2012 ist aufzuheben.
3.2 Dem Verfahrensausgang entsprechend sind keine Kosten zu erheben (Art. 66 Abs. 1 e contrario und <ref-law>). Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (<ref-law>). Das Verwaltungsgericht des Kantons Zürich wird über die Kostenverteilung für das kantonale Verfahren neu zu befinden haben.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und das Urteil des Verwaltungsgerichts des Kantons Zürich vom 1. Februar 2012 wird aufgehoben.
2. Es werden keine Kosten erhoben.
3. Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Zürich zurückgewiesen.
5. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 2. Kammer, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 17. Oktober 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Genner