Sachverhalt: A. Das Bezirksgericht Hinwil (Einzelgericht im summarischen Verfahren) erteilte der Stadt A._, vertreten durch Alimentenhilfe Region Ost, in der gegen X._ eingeleiteten Betreibung (Nr. ..., Betreibungsamt A._) am 13. September 2012 definitive Rechtsöffnung für den Betrag von Fr. 5'850.-- (nebst näher bestimmten Zinsen und Kosten); im Mehrbetrag wurde das Rechtsöffnungsbegehren abgewiesen. B. Gegen den Rechtsöffnungsentscheid gelangte X._ am 31. Dezember 2012 an das Obergericht des Kantons Zürich, welches auf die Beschwerde am 13. März 2013 infolge verspäteter Leistung des Kostenvorschusses von Fr. 300.-- nicht eintrat. C. Mit Eingabe vom 21. April 2013 führt X._ Beschwerde in Zivilsachen. Der Beschwerdeführer verlangt im Wesentlichen die Aufhebung des Nichteintretensbeschlusses des Obergerichts und das Eintreten auf das Rechtsmittel. Das Obergericht auf eine Stellungnahme verzichtet. Die Stadt A._, vertreten durch die Alimentenhilfe Region Ost, als Beschwerdegegnerin hat sich nicht vernehmen lassen.