Erwägungen:
1. Am 19. Januar 2012 ersuchte der Beschwerdeführer bei der Vormundschaftsbehörde A._ um Aufhebung der am 17. Dezember 2001 errichteten Beistandschaft gemäss Art. 392 Ziff. 1 und Art. 393 Ziff. 2 ZGB. Diesen Antrag wies die angerufene Behörde mit Beschluss vom 30. April 2012 ab. Dieser Beschluss wurde dem Beschwerdeführer am 4. Mai 2012 zugestellt. Am 16. Mai 2012 (Poststempel: 17. Mai 2012) beschwerte er sich dagegen beim Bezirksrat Zürich, der mit Beschluss vom 28. Juni 2012 auf die Beschwerde wegen verspäteter Eingabe nicht eintrat. Das Obergericht des Kantons Zürich trat auf die gegen den bezirksrätlichen Beschluss erhobene Berufung mit Beschluss vom 16. Juli 2012 nicht ein.
Der Beschwerdeführer hat mit Eingabe vom 15. August 2012 gegen den obergerichtlichen Beschluss beim Bundesgericht Beschwerde in Zivilsachen erhoben. Er beantragt sinngemäss die Aufhebung der Beistandschaft. Es sind keine Vernehmlassungen eingeholt worden.
2. In der Beschwerde ist in Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Rechte der beschwerdeführenden Partei durch das kantonale Gericht verletzt worden sind (<ref-law>; <ref-ruling> E. 2.1 S. 245), wobei eine allfällige Verletzung verfassungsmässiger Rechte vom Bundesgericht nicht von Amtes wegen geprüft wird, sondern nur dann, wenn solche Rügen in der Beschwerdeschrift ausdrücklich erhoben und begründet werden (<ref-law>; <ref-ruling> E. 1.2 S. 234).
3. 3.1 Das Obergericht hat im Wesentlichen erwogen, nach § 187 GOG/ZH richte sich das Rechtsmittelverfahren gegen Entscheide der Bezirksräte in familienrechtlichen Angelegenheiten (Art. 90-456 ZGB) grundsätzlich nach <ref-law>. <ref-law> verlange unter anderem eine Begründung der Rechtsmitteleingabe. In seinen Ausführungen nehme der Beschwerdeführer nicht ansatzweise Bezug auf die Begründung des angefochtenen bezirksrätlichen Beschlusses, wonach die Beschwerde an den Bezirksrat gegen den Beschluss der Vormundschaftsbehörde verspätet erhoben worden sei.
3.2 In seiner Eingabe an das Bundesgericht geht der Beschwerdeführer überhaupt nicht den vorgenannten Begründungsanforderungen entsprechend (E. 2) auf die Erwägungen des angefochtenen Beschlusses ein und zeigt auch nicht auf, inwiefern das Obergericht Bundesrecht verletzt bzw. kantonales Recht willkürlich angewendet hat.
3.3 Auf die nicht rechtsgenüglich begründete und damit offensichtlich unzulässige Beschwerde ist somit im vereinfachten Verfahren (<ref-law>) durch die Präsidentin der Abteilung unter Kostenfolge für den Beschwerdeführer (<ref-law>) nicht einzutreten.

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Vormundschaftsbehörde der Stadt A._ und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 31. August 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden