Sachverhalt:
A. In der auf Ersuchen der Bank Z._ AG gegen Y._ laufenden Betreibung auf Grundpfandverwertung Nr. 1 stellte das Betreibungsamt A._ am 27. April 2012 X._ in seiner Eigenschaft als Drittpfandsteller die Mitteilung des Lastenverzeichnisses zu. Mit Schreiben vom 14. Mai 2012 bestritt X._ die Forderungen Nr. 2-22 des betreibungsamtlichen Lastenverzeichnisses und ersuchte um Durchführung des Lastenbereinigungsverfahrens. Das Betreibungsamt setzte ihm mit Verfügung vom 16. Mai 2012 eine Frist von 20 Tagen an, um gegen die Bank Z._ AG Klage auf Aberkennung des Anspruchs im Lastenverzeichnis einzureichen.
B. Gegen die Ansetzung der Klagefrist gelangte X._ an das Bezirksgericht Horgen als untere Aufsichtsbehörde in SchKG-Sachen und verlangte sinngemäss die Nichtigerklärung der Verfügung vom 16. Mai 2012 sowie die Sistierung der auf den 14. Juni 2012 angesetzten Versteigerung. Die Beschwerde wurde am 8. Juni 2012 vom Bezirksgericht und alsdann am 6. Juli 2012 vom Obergericht des Kantons Zürich als oberer kantonaler Aufsichtsbehörde über Schuldbetreibung und Konkurs abgewiesen.
C. X._ ist am 24. August 2012 mit einer als "Beschwerde (subsidiäre Verfassungsbeschwerde)" bezeichneten Eingabe an das Bundesgericht gelangt. Er verlangt sinngemäss die Aufhebung des Urteils der oberen kantonalen Aufsichtsbehörde vom 6. Juli 2012 und die Rückweisung der Sache an die Vorinstanz zur neuen Beurteilung.
Es sind keine Vernehmlassungen in der Sache eingeholt worden.
Erwägungen:
1. 1.1 Entscheide kantonaler Aufsichtsbehörden über Verfügungen der Vollstreckungsorgane gemäss Art. 17 SchKG unterliegen der Beschwerde in Zivilsachen (Art. 72 Abs. 2 lit. a BGG i.V.m. Art. 19 SchKG). Sie ist unabhängig von einer gesetzlichen Streitwertgrenze gegeben (Art. 74 Abs. 2 lit. c BGG). Die Eingabe vom 24. August 2012 ist daher als Beschwerde in Zivilsachen entgegen zu nehmen und auf ihre Zulässigkeit hin zu prüfen. Die Verfassungsbeschwerde erübrigt sich damit (Art. 113 BGG).
1.2 Mit der vorliegenden Beschwerde kann die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Es ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Die Anrufung verfassungsmässiger Rechte ist ebenfalls zu begründen (Art. 106 Abs. 2 BGG), wobei hier das Rügeprinzip gilt (BGE 133 III 589 E. 2 S. 591). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG).
2. Anlass zum vorliegenden Verfahren bildet die Zuweisung der Klägerrolle im Lastenbereinigungsprozess.
2.1 Das Lastenverzeichnis gibt Auskunft über die auf dem Grundstück lastenden dinglichen und realobligatorischen Rechte. Der Erwerber soll erfahren, mit welchen Belastungen er das Grundstück übernimmt und die beteiligten Pfandgläubiger sollen im Hinblick auf die Verteilung wissen, in welchem Verhältnis ihr Anspruch zu andern Rechten steht. Die Wirkungen des Lastenverzeichnisses beschränken sich allerdings auf das jeweilige Betreibungsverfahren (BGE 129 III 246 E. 3.1 S. 249). Das Betreibungsamt ermittelt die auf dem Grundstück ruhenden Lasten anhand der Eingaben der Berechtigten und eines Auszugs aus dem Grundbuch (Art. 140 Abs. 1 SchKG). Die im Grundbuch eingetragenen Lasten werden von Amtes wegen aufgenommen (Art. 34 Abs. 1 lit. b VZG). Die Mitteilung des Lastenverzeichnisses erfolgt mit der Anzeige, dass derjenige, der einen Anspruch nach Bestand, Umfang, Rang oder Fälligkeit bestreiten will, dies innert zehn Tagen beim Betreibungsamt zu erklären habe (Art. 37 Abs. 2 VZG, Art. 140 Abs. 2 SchKG). Ist dies der Fall, so erfolgt die Bereinigung nach den Grundsätzen des Widerspruchsverfahrens gemäss Art. 106-109 SchKG (Art. 140 Absatz 2 zweiter Satz SchKG, vgl. Art. 39 VZG). Die Lastenbereinigungsklage dient einzig der gerichtlichen Klärung des strittigen Rechts (BGE 112 III 26 E. 4 S. 30). Im Fall von formellen Mängeln des Lastenverzeichnisses ist dieses mit Beschwerde an die Aufsichtsbehörde anzufechten (BERNHEIM/KÄNZIG, in: Kurzkommentar SchKG, 2009, N. 10 zu Art. 140; GILLIÉRON, Poursuite pour dettes, faillite et concordat, 4. Aufl. 2005, S. 251 Rz. 1310).
2.2 Nach Ansicht der oberen Aufsichtsbehörde besteht für die strittigen Verzugszinsen, Hypothekarzinsen und Kosten ein gesetzliches Pfand (Art. 818 ZGB). Damit obliege es einzig dem (bestreitenden) Beschwerdeführer, gegen den (betreibenden) Beschwerdegegner Klage zu erheben. Eine Aufteilung der Parteirollen zwischen den beiden Seiten komme nicht in Frage.
2.3 Dem erstinstanzlichen Entscheid lässt sich entnehmen, dass die Grundpfandverwertung für einen Inhaberschuldbrief im ersten Rang mit einen eingetragenen Zinssatz von 10 % verlangt wurde, welcher der Beschwerdegegnerin am 9. Mai 2000 zur Sicherung übereignet worden war. Die im Lastenverzeichnis unter Nr. 02-17 aufgeführten Positionen betreffen gemäss den Ausführungen der Erstinstanz verfallene Kapitalzinsen zwischen 3,67 % und 6,32 %, welche unter die dreijährige Pfandhaft gemäss Art. 818 ZGB fallen und den eingetragenen Zinssatz nicht erreichen. Diese Feststellung erweist sich mit Blick auf das Lastenverzeichnis als ungenau. Einzig die Positionen Nr. 02-06 betreffen verfallene Kapitalzinsen. In den Positionen Nr. 07-17 werden Verzugszinsen aufgeführt. Die Positionen Nr. 18 und Nr. 19 betreffen vertragliche Ansprüche aus der Sicherungsübereignung und in den Positionen Nr. 19-22 geht es um Verwertungskosten. Die Vorinstanz hält - unter generellem Hinweis auf die Lehre - fest, dass den strittigen Positionen im Lastenverzeichnis "zweifelsfrei" eine gesetzliches Pfandrecht zukomme. Ob sich die Pfandhaft gemäss Art. 818 ZGB auf alle Positionen des Lastenverzeichnisses erstreckt, ist für die konkret zu beantwortende Frage nach der Zuteilung der Klägerrolle nicht entscheidend. Vorliegend ist einzig ausschlaggebend, dass der Beschwerdeführer das Lastenverzeichnis in Bezug auf pfandgesicherte Forderungen anficht. Damit ist ihm die Klägerrolle entsprechend Art. 39 VZG zu Recht zugeteilt worden. Seine Behauptung, dass sich die Höhe und der Zeitraum der Zinsen nicht aus dem Grundbucheintrag ergeben, geht insoweit an der Sache vorbei, als es sich bei den strittigen Forderungen um solche handelt, deren Pfandhaft in Art. 818 ZGB festgelegt ist.
2.4 Der Beschwerdeführer bestreitet die Zuteilung der Klägerrolle denn auch nicht mehr grundsätzlich. Er begnügt sich vielmehr mit der Behauptung, es sei kein Lastenbereinigungsverfahren durchgeführt worden. Dies trifft insofern nicht zu, als er bestimmte Positionen des Lastenverzeichnisses bestritten und innert angesetzter Frist die Klage gegen die Beschwerdegegnerin beim Bezirksgericht eingereicht hat. Das Begehren, die inzwischen durchgeführte Versteigerung vom 14. Juni 2012 nichtig zu erklären, gründet allenfalls in der Auffassung, die Verwertung sei nicht vor Abschluss der Lastenbereinigung durchzuführen. Weshalb Streitigkeiten über fällige grundpfandgesicherte Forderungen keinen Einfluss auf den Zuschlagspreis haben, hat die Vorinstanz dem Beschwerdeführer bereits erläutert. Statt sich zu den Voraussetzungen von Art. 141 SchKG zu äussern, lässt sich der Beschwerdeführer wiederholt zum Bestand der angefochtenen Positionen im Lastenverzeichnis und zu anderen Betreibungen vernehmen, was im Rahmen einer Beschwerde gegen das Lastenverzeichnis nicht zulässig ist. Nicht einzugehen ist ferner auf den allgemein gehaltenen Vorwurf der ungenügenden Begründung des angefochtenen Urteils sowie der Verletzung des Diskriminierungsgebotes. Hier genügt der Beschwerdeführer seiner Begründungspflicht in keiner Weise (vgl. E. 1.2).
3. Nach dem Dargelegten ist der Beschwerde kein Erfolg beschieden. Ausgangsgemäss trägt der Beschwerdeführer die Verfahrenskosten (Art. 66 Abs. 1 BGG). Eine Parteientschädigung entfällt, da eine Vernehmlassung nicht eingeholt worden ist und der Beschwerdegegnerin keine ersatzpflichtigen Kosten entstanden sind.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten und dem Obergericht des Kantons Zürich, II. Zivilkammer, als oberer kantonaler Aufsichtsbehörde über Schuldbetreibung und Konkurs schriftlich mitgeteilt.
Lausanne, 8. Oktober 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Levante