Sachverhalt: A. In der gegen X._ laufenden Betreibung auf Grundpfandverwertung Nr. 1 teilte das Betreibungsamt Thalwil-Rüschlikon-Kilchberg dem Schuldner und Pfandeigentümer am 20. März 2012 das Datum für die Grundstücksteigerung (xxxx 2012) mit und legte das rechtskräftige Lastenverzeichnis bzw. die Steigerungsbedingungen bei. Hiergegen gelangte X._ mit Eingaben vom 5. April 2012 an das Obergericht des Kantons Zürich als obere kantonale Aufsichtsbehörde und vom 20. und 23. April 2012 (Poststempel) an das Bezirksgericht Horgen als untere Aufsichtsbehörde über Schuldbetreibung und Konkurs. B. Die untere Aufsichtsbehörde trat mit Urteil vom 27. April 2012 auf die betreibungsrechtliche Beschwerde wegen Verspätung nicht ein. Hiergegen erhob X._ Beschwerde beim Obergericht des Kantons Zürich als oberer kantonaler Aufsichtsbehörde über Schuldbetreibung und Konkurs, welche mit Urteil vom 22. Mai 2012 abgewiesen wurde. C. Mit Eingabe vom 4. Juni 2012 hat X._ Beschwerde in Zivilsachen erhoben. Der Beschwerdeführer verlangt die Aufhebung des Entscheides der oberen kantonalen Aufsichtsbehörde vom 22. Mai 2012 und die Anweisung, auf seine betreibungsrechtliche Beschwerde einzutreten und entsprechend den Anträgen zu entscheiden. Weiter verlangt er aufschiebende Wirkung. Mit Präsidialverfügung vom 26. Juni 2012 wurde dem Betreibungsamt der Vollzug des Steigerungszuschlages untersagt. In der Sache sind keine Vernehmlassungen eingeholt worden.