Sachverhalt: A. A.a Mit Urteil vom 7. März 2011 bewilligte das Bezirksgericht Horgen (Einzelgericht im summarischen Verfahren) in der vom Staat Zürich, der Gemeinde A._ und der Römisch-Katholischen Kirchgemeinde gegen X._ erhobenen Betreibung (Nr. ..., Betreibungsamt A._) die definitive Rechtsöffnung. Das Obergericht des Kantons Zürich wies am 15. Juni 2011 die gegen den Rechtsöffnungsentscheid erhobene Beschwerde des Schuldners ab. Dieses Urteil hob das Bundesgericht in Gutheissung der Beschwerde in Zivilsachen mit Urteil 5D_130/2011 vom 22. September 2011 auf und wies die Sache an das Bezirksgericht zurück, damit dieses dem Schuldner Frist ansetze, um zum Rechtsöffnungsbegehren Stellung zu nehmen. A.b Mit Verfügung vom 7. März 2012 schrieb das Bezirksgericht (Einzelgericht im summarischen Verfahren) das Rechtsöffnungsverfahren als durch Rückzug der Betreibung (Nr. ..., Betreibungsamt A._) als gegenstandslos ab. Die Spruchgebühr (Fr. 150.--) wurde den Gesuchstellern bzw. Gläubigern auferlegt; dem (nicht anwaltlich vertretenen) Schuldner wurde keine Parteientschädigung zugesprochen. B. Gegen die Verfügung des Rechtsöffnungsrichters vom 7. März 2012 erhob X._ erneut Beschwerde und verlangte, es sei "der bundesgerichtlichen Anordnung Folge zu leisten und ihn ordentlich zu einem neuen Prozess in der Sache [vor der Erstinstanz] vorzuladen". Mit Beschluss vom 10. April 2012 trat das Obergericht auf die Beschwerde nicht ein. C. Mit Eingabe vom 3. Mai 2012 ist X._ mit Beschwerde an das Bundesgericht gelangt. Der Beschwerdeführer beantragt die Aufhebung des vorinstanzlichen Urteils vom 10. April 2012 und (wie im kantonalen Verfahren) die Durchführung des erstinstanzlichen Verfahrens bzw. die Gewährung des rechtlichen Gehörs. Es sind keine Vernehmlassungen eingeholt worden.