Sachverhalt: A. Am 25. Oktober 2008 gegen 23.30 Uhr wurde X._ von zwei Polizeibeamten der Stadtpolizei Zürich angehalten, auf die Polizeiwache gebracht und einem Atemlufttest (Ergebnis 1,87 Promille) sowie einer körperlichen Durchsuchung unterzogen. Zwecks Ausnüchterung wurde er über Nacht auf der Wache behalten und schliesslich am nächstfolgenden Morgen entlassen. B. Mit Schreiben vom 28. Oktober 2008 erstattete X._ Strafanzeige gegen die beiden Polizeibeamten wegen Amtsmissbrauchs. Mit Beschluss vom 29. Dezember 2008 trat die Anklagekammer des Obergerichts des Kantons Zürich auf die Strafanzeige nicht ein und eröffnete demgemäss keine Strafuntersuchung gegen die beiden Angezeigten. Einen von X._ gegen diesen Beschluss erhobenen Rekurs wies die II. Zivilkammer des Obergerichts des Kantons Zürich mit Beschluss vom 18. Mai 2009 ab. C. X._ führt Beschwerde in Strafsachen mit den Anträgen, der Beschluss des Obergerichts des Kantons Zürich vom 18. Mai 2009 sei aufzuheben, und die Sache sei zur Anordnung einer Strafuntersuchung an die Vorinstanz zurückzuweisen. Das Obergericht und die Oberstaatsanwaltschaft des Kantons Zürich haben auf Vernehmlassungen zur Beschwerde verzichtet.