Erwägungen:
1. 1.1 Das kantonale Steueramt Zürich veranlagte X._ für die Steuerperiode 2004 mit Veranlagungsverfügung vom 27. März 2008 und Einspracheentscheid vom 26. Mai 2009 sowohl für die direkte Bundessteuer als auch für die Staats- und Gemeindesteuern mit einem steuerbaren Einkommen von Fr. 200'200.--. Es verweigerte dabei einen Abzug für die als Weiterbildungskosten geltend gemachten Aufwendungen eines MBA-Lehrganges an der Universität St. Gallen von Fr. 70'271.-- und liess nur die Pauschale von Fr. 400.-- zum Abzug zu.
1.2 Dagegen erhob X._ Beschwerde und Rekurs bei der Steuerrekurskommission des Kantons Zürich. Diese vereinigte am 6. November 2009 die beiden Rechtsmittelverfahren und wies sie ab. Der Entscheid wurde dem Rechtsvertreter von X._ am 27. November 2009 zugestellt mit der Rechtsmittelbelehrung, es könne dagegen innert 30 Tagen Beschwerde beim Verwaltungsgericht des Kantons Zürich eingereicht werden.
1.3 Am 18. Januar 2010 erhob X._ Beschwerde beim Verwaltungsgericht, wobei er dem Fristenstillstand nach kantonalem Recht vom 20. Dezember 2009 bis und mit 8. Januar 2010 Rechnung trug. Das Verwaltungsgericht eröffnete zwei Verfahren. Mit Entscheid vom 31. März 2010 hiess es die Beschwerde betreffend der Staats- und Gemeindesteuern teilweise gut und wies die Sache zwecks Gewährung und Berechnung des Weiterbildungskostenabzugs an die Steuerrekurskommission zurück. Gleichentags trat es auf die Beschwerde betreffend die direkte Bundessteuer wegen Verspätung nicht ein, da bei der direkten Bundessteuer die kantonalen Bestimmungen über den Fristenstillstand keine Anwendung fänden.
1.4 Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 7. Juni 2010 an das Bundesgericht beantragt X._, der Nichteintretensentscheid des Verwaltungsgerichts im Zusammenhang mit der direkten Bundessteuer sei aufzuheben und die Sache an das Verwaltungsgericht zur materiellen Beurteilung zurückzuweisen. Das kantonale Steueramt und die Eidgenössische Steuerverwaltung schliessen auf Abweisung der Beschwerde. Das Verwaltungsgericht stellt den Antrag, die Beschwerde abzuweisen, soweit darauf einzutreten sei.
2. 2.1 Nach Art. 140 Abs. 1 in Verbindung mit Art. 145 DBG kann der Steuerpflichtige gegen den Entscheid der kantonalen Rekurskommission innert 30 Tagen nach Zustellung Beschwerde beim Verwaltungsgericht erheben. Für die Fristberechnung wird der Tag der Mitteilung des Entscheids nicht mitgezählt. Ist der letzte Tag der Frist ein Samstag oder ein öffentlicher Ruhetag, endet sie am nächsten Werktag (Art. 133 Abs. 1 und 2 in Verbindung mit Art. 140 Abs. 4 und Art. 145 DBG). Andere Regeln über den Fristenlauf kennt das Bundesgesetz nicht. Gemäss der bundesgerichtlichen Rechtsprechung sind fristhemmende Bestimmungen nach dem kantonalen Recht für die direkte Bundessteuer nicht beachtlich (vgl. die Urteile 2A.474/2003 vom 18. Dezember 2003 in StR 59/2004 S. 140 und 2A.70/2006 vom 15. Februar 2006). Das Bundesgericht hielt dazu ergänzend fest, ein gewissenhafter Prozessvertreter müsse davon ausgehen und jedenfalls damit rechnen, dass kein Raum für kantonale Bestimmungen über den Fristenstillstand bestehe, wenn das Bundesrecht wie hier eine detaillierte, umfassend erscheinende Regelung enthalte (2A.474/2003 vom 18. Dezember 2003 in StR 59/2004 S. 140 E. 3.2).
2.2 Der Beschwerdeführer beruft sich auf § 13 der zürcherischen Verordnung zum Steuergesetz vom 1. April 1998 (LS 631.11), worin der Stillstand der Rechtsmittelfristen, unter anderem in der hier fraglichen Zeitspanne vom 20. Dezember bis zum 8. Januar, vorgesehen ist. Diese Bestimmung betrifft aber nur die im kantonalen Steuergesetz geregelten Staats- und Gemeindesteuern, was sich aus der Systematik der Verordnung, deren Titel und auch dem Wortlaut von § 13 ergibt, wonach sie für "die im Steuergesetz genannten Rechtsmittelfristen" gilt. Hätte der kantonale Verordnungsgeber auch für die direkte Bundessteuer einen Fristenstillstand vorsehen wollen, hätte er dies in der zürcherischen Verordnung über die Durchführung des Bundesgesetzes über die direkte Bundessteuer vom 4. November 1998 (LS 634.1) getan, worin sich aber keine entsprechende Bestimmung findet.
2.3 Der Beschwerdeführer macht weiter geltend, eine einheitliche Fristenregelung bei den Staats- und Gemeindesteuern einerseits sowie bei der direkten Bundessteuer andererseits sei aus Gründen der Steuerharmonisierung unerlässlich.
2.3.1 Das Bundesgericht hat dazu entschieden, nach dem Grundsatz der Parallelität der Verfahren für die direkte Bundessteuer und die kantonale Steuer, der erstmals auf Steuern für das Steuerjahr ab dem 1. Januar 2001 Anwendung fand, müssten die Kantone einen einheitlichen Instanzenzug vorsehen (BGE 130 II 65). Sodann stünden unterschiedliche Fristbestimmungen für die kantonalen Steuern und die direkte Bundessteuer dem Anliegen zur Verfahrensharmonisierung (gemäss Art. 129 Abs. 1 BV und Art. 1 StHG) entgegen. Das Bundesgericht konnte allerdings bisher offen lassen, wie die Kantone die Harmonisierung bei der Regelung der Fristen umzusetzen haben, da es, soweit ersichtlich, noch nie in einem Fall angerufen wurde, in dem eine vom Harmonisierungsgebot betroffene Steuerperiode zur Diskussion stand (vgl. das Urteil 2A.70/2006 vom 15. Februar 2006 E. 3). Analoges trifft auch im vorliegenden Fall zu, wenn auch nicht aus Gründen der zeitlichen Anwendbarkeit des Harmonisierungsgebots, sondern aus solchen der systematischen Kongruenz der Verfahrensordnung. Soweit nämlich eine einheitliche Fristenregelung bei den Staats- und Gemeindesteuern sowie bei der direkten Bundessteuer harmonisierungsrechtlich erforderlich wäre, so hätten die Kantone ihre Bestimmungen denjenigen der Bundessteuer anzupassen, bestünde doch im umgekehrten Fall die Möglichkeit von bis zu 26 unterschiedlichen Lösungen. Das Bundesgericht hat denn auch mit Grund bisher lediglich ein Harmonisierungsgebot in Betracht gezogen, das eine Anpassung der kantonalen Fristenregelungen an diejenige des Bundes mit sich brächte (vgl. erneut das bereits erwähnte Urteil 2A.70/2006 vom 15. Februar 2006 E. 3). Die vom Beschwerdeführer verlangte umgekehrte Anwendung der kantonalen Regeln über den Fristenstillstand auf die direkte Bundessteuer trüge aber genau die Gefahr einer unerwünschten grösseren Uneinheitlichkeit der Verfahrensordnung in sich und entspricht daher nicht dem Bundesrecht.
2.4 Der Beschwerdeführer ist anwaltlich vertreten. Der angefochtene Entscheid ist seinem Vertreter am 27. November 2009 rechtsgültig zugestellt worden. Damit begann die Beschwerdefrist nach den anwendbaren Bestimmungen des Bundesrechts am 28. November 2009 zu laufen und endete am 28. Dezember 2009. Die Beschwerde wurde aber erst am 18. Januar 2010 eingereicht. Die Vorinstanz verstiess mithin nicht gegen Bundesrecht, indem sie die Beschwerde bei der direkten Bundessteuer als verspätet beurteilte. Weder der Umstand, dass die Verfahren vor den unteren Instanzen vereinigt waren und erst vor dem Verwaltungsgericht aufgespalten wurden, noch derjenige, dass die Rechtsmittelbelehrung der Steuerrekurskommission nicht auf die unterschiedlichen Regelungen des Fristenlaufs im Kanton und im Bund hinwies, vermögen daran etwas zu ändern.
3. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich demgemäss als offensichtlich unbegründet und ist im vereinfachten Verfahren nach Art. 109 BGG abzuweisen.
Bei diesem Verfahrensausgang wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1, Art. 65 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Kantonalen Steueramt Zürich, dem Verwaltungsgericht des Kantons Zürich, 2. Kammer, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 11. November 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Uebersax