(Entsiegelung), hat sich ergeben: A.- Im Rahmen einer Strafuntersuchung wegen Geldwäscherei stellte die Bezirksanwaltschaft III für den Kanton Zürich im September 1997 bei den Angeschuldigten B._, C._ und D._ umfangreiches Akten- und EDV-Material sicher. A._ machte in Bezug auf vier Dossiers, die im Entree der Anwaltskanzlei C._ A._ & Partner beschlagnahmt wurden, geltend, diese beträfen seine eigenen Kundenbeziehungen und nicht diejenigen seines Büropartners C._. Sämtliche Betroffenen verlangten die Versiegelung der sichergestellten Unterlagen. Auf Antrag der Bezirksanwaltschaft bewilligte das Bezirksgericht Zürich am 30. April 1998 die Entsiegelung der Unterlagen. Die gegen diesen Beschluss erhobenen Rekurse wurden von der III. Strafkammer des Obergerichts des Kantons Zürich am 22. Juli 1998 abgewiesen. C._ wehrte sich dagegen mit staatsrechtlicher Beschwerde beim Bundesgericht, das die Beschwerde mit Urteil vom 19. November 1998 abwies, soweit es darauf eintrat. A._ focht den obergerichtlichen Entscheid beim Kassationsgericht des Kantons Zürich an. Bei der Sichtung der bei B._ sichergestellten Akten fand die Bezirksanwaltschaft ein an diesen adressiertes, von A._ verfasstes "Steuerkonzept E._-Holding AG" mit Datum vom 25. September 1992 vor, das bei ihr den Verdacht auf Steuerbetrug weckte. Sie eröffnete deshalb im Dezember 1998 gegen A._ sowie weitere Verdächtige, darunter auch B._ und D._, eine Strafuntersuchung wegen Steuerbetrug. Am 11. Mai 1999 teilte die Bezirksanwaltschaft A._ mit, die vier im September 1997 im Entree der Anwaltskanzlei sichergestellten Dossiers seien höchstwahrscheinlich auch für das Steuerstrafverfahren von Bedeutung, weshalb sich die Frage der Aufrechterhaltung der Siegelung auch in diesem Zusammenhang stelle. A._ teilte mit, dass er auch diesbezüglich an der Siegelung festhalte. Am 20. Mai 1999 führten die Untersuchungsbehörden in der Anwaltskanzlei C._ A._ & Partner eine weitere Hausdurchsuchung durch und beschlagnahmten zusätzliches Aktenmaterial, das A._ ebenfalls siegeln liess. Die Bezirksanwaltschaft ersuchte das Bezirksgericht Zürich um Entsiegelung sämtlicher bei A._ sichergestellten Unterlagen. Das Kassationsgericht hiess am 1. August 1999 die von A._ gegen den Entsiegelungsentscheid vom 22. Juli 1998 erhobene kantonale Nichtigkeitsbeschwerde gut und wies das Obergericht an, das Entsiegelungsbegehren abzuweisen, soweit es A._ betreffe. Mit Urteil vom 20. August 1999 kam das Obergericht dieser Anweisung nach. Am 21. September 1999 wies das Bezirksgericht Zürich das - nun für die Strafuntersuchung wegen Betrugsverdacht gestellte - Entsiegelungsgesuch der Bezirksanwaltschaft ab. Die Staatsanwaltschaft beschwerte sich beim Obergericht gegen diesen Beschluss und beantragte, dieser sei aufzuheben und das Entsiegelungsgesuch der Bezirksanwaltschaft zu bewilligen. A._ verlangte während des Verfahrens vollumfängliche Akteneinsicht und stellte ein Ausstandsbegehren gegen den in der Sache zuständigen Gerichtssekretär. Das Obergericht wies das Ausstandsbegehren mit Beschluss vom 25. Februar 2000 ab und nahm gleichzeitig zum Akteneinsichtsgesuch Stellung. Am 12. Mai 2000 hiess das Obergericht den Rekurs der Staatsanwaltschaft gut und genehmigte die Durchsuchung der bei A._ sichergestellten Unterlagen. B.- A._ hat gegen das Urteil des Obergerichts staatsrechtliche Beschwerde erhoben. Er macht im Wesentlichen eine Verletzung des rechtlichen Gehörs (Art. 6 Ziff. 1 EMRK, Art. 29 Abs. 2 BV) sowie seiner verfassungsmässig garantierten Privatsphäre (Art. 8 EMRK, Art. 13 BV) geltend und ersucht um Aufhebung des angefochtenen Urteils. Gleichzeitig beantragt er, seiner Beschwerde sei die aufschiebende Wirkung beizugeben. Der Präsident der I. öffentlichrechtlichen Abteilung hat dem Gesuch um Gewährung der aufschiebenden Wirkung mit Verfügung vom 4. Juli 2000 entsprochen. Die Staatsanwaltschaft beantragt die Abweisung der Beschwerde. Das Obergericht hat auf eine Stellungnahme ausdrücklich verzichtet.