Sachverhalt: A. In der von Kanton und Stadt Zürich für Steuerforderungen gegen die X._ AG eingeleiteten Betreibung Nr. 139384 des Betreibungsamtes Zürich 6 erteilte das Bezirksgericht Zürich mit Urteil vom 10. Januar 2012 für Fr. 37'154.-- nebst 4,5 % seit 27. September 2011, für Fr. 1'257.05 und für Fr. 357.60 definitive Rechtsöffnung. B. Am 30. Januar 2012 erhob die X._ AG dagegen eine Beschwerde, auf welche das Obergericht des Kantons Zürich mit Beschluss vom 27. Februar 2012 nicht eintrat mit der Begründung, diese sei verspätet. C. Gegen den obergerichtlichen Beschluss erhob die X._ AG am 30. März 2012 eine Beschwerde in Zivilsachen mit den Begehren um dessen Aufhebung und Rückweisung der Sache an das Obergericht, eventualiter um Entscheid in der Sache selbst und Abweisung des Rechtsöffnungsbegehrens. Mit undatiertem Stempel hat das Obergericht auf Vernehmlassung verzichtet. Das Steueramt liess nicht von sich hören.