Entsiegelung im Rechtshilfeverfahren; Art. 29 Abs. 1 und 30 Abs. 1 BV (Ablehnung; Nichteintreten), hat sich ergeben:
A.- Die Staatsanwaltschaft II bei dem Landgericht Berlin führt gegen verschiedene Personen ein Ermittlungsverfahren wegen Betrugsverdachtes. Nach den bisherigen Erkenntnissen habe die Täterschaft im Zuge der deutschen Wiedervereinigung über verschiedene Firmen Lieferungen nach Ungarn vorgetäuscht und dafür zu Unrecht die Konvertierung transferabler Rubel in Deutsche Mark erreicht. Dadurch sei der Bundesrepublik Deutschland ein Schaden von rund 115 Mio.
DM entstanden. Am Schluss einer längeren Kette von Zahlun- gen sei es zu Überweisungen der "F._ AG" an die "U._ AG" gekommen, deren wirtschaftliche Eigentümer die Nutzniesser der Scheingeschäfte gewesen seien. Repräsentant der "U._ AG" sei Rechtsanwalt Dr. Y._ gewesen, dessen Aufgaben aber inzwischen von seinem Sohn X._ wahrgenommen würden.
Die deutsche Staatsanwaltschaft war in diesem Zusammenhang mit einem ersten Rechtshilfeersuchen an die schweizerischen Behörden gelangt. Bei dessen Vollzug beschlagnahmte die Bezirksanwaltschaft IV für den Kanton Zürich unter anderem bei X._ eine Hängemappe, die auf dessen Begehren versiegelt wurde. Am 7. April 1998 gab die III. Strafkammer des Obergerichts des Kantons Zürich, zusammengesetzt aus den Oberrichtern Schmid, Mathys, Brunner und Obergerichtssekretär Stricker, einem Entsiegelungsbegehren statt. Auf eine dagegen gerichtete Verwaltungsgerichtsbeschwerde von X._ trat das Bundesgericht mit Urteil vom 15. Juli 1998 nicht ein, weil eine solche gegen Zwischenentscheide in Rechtshilfesachen unzulässig sei, wenn diese keinen unmittelbaren und nicht wieder gutzumachenden Nachteil bewirken würden (Verfahren 1A.98/1998). Das Kassationsgericht des Kantons Zürich hiess jedoch eine Nichtigkeitsbeschwerde von X._ gegen den Entsiegelungsbeschluss gut, weil nach Zürcher Strafprozessrecht das Bezirksgericht für solche Beschlüsse zuständig sei und dies auch in Rechtshilfeverfahren gelte.
B.- Am 31. März 1998 ersuchten die deutschen Behörden im Zusammenhang mit derselben Strafuntersuchung um die Sicherstellung von Unterlagen über die "U._" bei X._. In dessen Anwaltspraxis führte die Bezirksanwaltschaft daraufhin eine Hausdurchsuchung durch, beschlagnahmte in der Folge ein Datenband ("Streamerband") samt dazugehörigem Inhaltsinventar und versiegelte dieses sogleich. Im Entsiegelungsverfahren forderte die 2. Abteilung des Bezirksgerichts Zürich X._ am 19. März 1999 auf, das EDV-System zu bezeichnen, das die gespeicherten Daten sichtbar machen könne. Da X._ dieser Aufforderung nicht nachkam, verhängte das Bezirksgericht gegen ihn eine Ordnungsbusse. Auf Rekurs des Gebüssten hin hob die III. Strafkammer des Obergerichts, zusammengesetzt aus den Oberrichtern Schmid und Schätzle, Oberrichterin Kneubühler Dienst sowie Obergerichtssekretär Weibel, diese Ordnungsbusse am 25. Juni 1999 auf. X._ reichte daraufhin ein Ablehnungsbegehren gegen die 2. Abteilung des Bezirksgerichts Zürich ein, welches die Verwaltungskommission des Obergerichts am 24. August 1999 abwies, soweit darauf einzutreten war. Eine dagegen gerichtete staatsrechtliche Beschwerde von X._ hiess das Bundesgericht am 25. November 1999 gut, soweit darauf eingetreten werden konnte (Verfahren 1P.581/1999). Es erwog, die 2. Abteilung des Bezirksgerichts habe mit ihrer Aufforderung um Bekanntgabe der technischen Gegebenheiten sinngemäss zum Ausdruck gebracht, dass sie die Entsiegelung vornehmen und den Inhalt - hinsichtlich des Amtsgeheimnisses - selber prüfen werde.
Davon gehe auch die III. Strafkammer des Obergerichts im Beschluss vom 25. Juni 1999 aus. Damit könne im Hinblick auf den noch ausstehenden Entsiegelungsentscheid in objektiver Weise befürchtet werden, dass sich die 2. Abteilung des Bezirksgerichts in Anbetracht ihres Beschlusses vom 19. März 1999 festgelegt habe und ihr Entscheid daher nicht mehr offen sei.
Auf Anweisung der Verwaltungskommission wurde daraufhin das Entsiegelungsverfahren der 3. Abteilung des Bezirksgerichts zugeteilt. Diese erachtete die Sache ohne weitere prozessuale Schritte als spruchreif und ordnete am 11. Januar 2000 die Entsiegelung sowie die Durchsuchung der Unterlagen durch die Bezirksanwaltschaft an. Hiergegen erhob X._ am 14. Februar 2000 Rekurs an das Obergericht des Kantons Zürich. Er beantragte eine Rückweisung der Sache an das Bezirksgericht (jedoch weder dessen 2. noch dessen
3. Abteilung) zur Durchführung eines ordnungsgemässen Verfahrens.
Eventuell sei das Entsiegelungsbegehren abzuweisen, subeventuell die Entsiegelung einem anderen Bezirksgericht anzuvertrauen und die Bezirksanwaltschaft IV davon auszuschliessen.
Ausserdem stellte X._ ein Ablehnungsbegehren gegen die III. Strafkammer des Obergerichts. Er verlangte eine Beurteilung durch eine andere Kammer, "wobei keine Mitglieder der III. Strafkammer, insbesondere nicht die Herren Oberrichter Dr. Schmid, Dr. Schätzle, Frau Dr.
Kneubühler Dienst sowie ganz besonders nicht Herr Obergerichtssekretär Dr. Weibel an der Beurteilung" teilnehmen dürften.
Das Ablehnungsbegehren wurde, da es gegen eine ganze Kammer gerichtet war, an das Gesamtobergericht überwiesen.
Dieses trat mit Beschluss vom 12. April 2000 darauf nicht ein. X._ habe weder konkret behauptet noch belegt, dass die Kammer in anderer Besetzung als derjenigen vom 25. Juni 1999 (mit den namentlich abgelehnten Justizpersonen) irgendwelche Entscheide in der zu beurteilenden Sache gefällt habe. Das Ablehnungsbegehren gegen die namentlich genannten Justizpersonen schrieb das Gesamtobergericht ab, da diese erklärt hatten, den Ausstand beachten zu wollen.
Der Entscheid des Gesamtobergerichts wurde am 18. April 2000 irrtümlicherweise X._, nicht aber seinem Rechtsvertreter zugestellt.
Mit Beschluss vom 16. Juni 2000 trat die III. Strafkammer des Obergerichts, zusammengesetzt aus den Oberrichtern Keller und Brunner, Ersatzrichter Bussmann und Obergerichtssekretär Stricker, nicht auf den Rekurs von X._ vom 14. Februar 2000 ein. Sie erwog, der angefochtene Entsiegelungsentscheid sei ein Zwischenentscheid im Rechtshilfeverfahren, gegen welchen das Bundesrecht kantonale Rechtsmittel ausschliesse. Eventualiter begründete die III. Strafkammer, warum der Rekurs hätte abgewiesen werden müssen, wenn auf ihn hätte eingetreten werden können.
C.- Am 3. Juli 2000 führt X._ gegen den Beschluss der III. Strafkammer Verwaltungsgerichtsbeschwerde ans Bundesgericht. Er beantragt die Aufhebung des Entscheids und eine Rückweisung der Sache an das Obergericht zur materiellen Beurteilung. Eventuell beantragt er eine Abweisung des Entsiegelungsbegehrens. Er macht in erster Linie geltend, der angefochtene Entscheid sei kein Zwischenentscheid in einem Rechtshilfeverfahren, sondern ein Entscheid in einem selbstständigen kantonalen Verfahren, gegen den im kantonalen Recht vorgesehene Rechtsmittel zur Verfügung stünden. Eventualiter bringt er vor, nach Bundesrecht hätte auf seinen kantonalen Rekurs eingetreten werden müssen, da ihm ein nicht wieder gutzumachender Nachteil gedroht habe.
In diesem Rahmen nimmt er zu den Ausführungen des angefochtenen Entscheids zur materiellen Berechtigung der Entsiegelung Stellung.
Das Bezirksgericht, die Bezirksanwaltschaft sowie die Staatsanwaltschaft und die III. Strafkammer des Obergerichts des Kantons Zürich verzichten auf eine Stellungnahme zur Verwaltungsgerichtsbeschwerde. Das Bundesamt für Justiz beantragt, auf die Beschwerde nicht einzutreten.
D.- Am 14. Juli 2000 führt X._ gegen den Beschluss des Gesamtobergerichts und denjenigen der III. Strafkammer staatsrechtliche Beschwerde im Zusammenhang mit seinem Ablehnungsbegehren. Er beantragt eine Aufhebung der beiden Entscheide und die Feststellung, dass das Verhalten und die Entscheidungen der Mitglieder der III. Strafkammer im Entsiegelungsverfahren gegen <ref-law> und Art. 6 Ziff. 1 EMRK verstossen würden und dass sämtliche Mitglieder der Kammer im Entsiegelungsverfahren befangen seien.
Die Bezirksanwaltschaft sowie die Staatsanwaltschaft und das Obergericht des Kantons Zürich verzichten auf eine Stellungnahme zur staatsrechtlichen Beschwerde.
E.- Mit Verfügungen vom 28. Juli und vom 28. August 2000 hat der Präsident der I. öffentlichrechtlichen Abteilung des Bundesgerichts der staatsrechtlichen Beschwerde bzw. der Verwaltungsgerichtsbeschwerde aufschiebende Wirkung zuerkannt.
Mit Verfügung vom 30. September 2000 hat der Präsident des Kassationsgerichts des Kantons Zürich das Verfahren zur Beurteilung einer bei ihm hängigen Nichtigkeitsbeschwerde von X._ gegen den Entscheid der III. Strafkammer vom 16. Juni 2000 bis zu einem Entscheid des Bundesgerichts über die eidgenössischen Rechtsmittel sistiert.

Das Bundesgericht zieht in Erwägung:
1.- a) Der Beschwerdeführer ficht den Entscheid der III. Strafkammer des Obergerichts sowohl mit Verwaltungsgerichtsbeschwerde als auch mit staatsrechtlicher Beschwerde an. Die staatsrechtliche Beschwerde ist zulässig, soweit die behauptete Rechtsverletzung nicht mit Verwaltungsgerichtsbeschwerde beim Bundesgericht geltend gemacht werden kann (Art. 84 Abs. 2 OG). Andernfalls könnte sie als Verwaltungsgerichtsbeschwerde behandelt werden (<ref-ruling> E. 1 S. 381 f. mit Hinweisen). Umgekehrt kann die Verwaltungsgerichtsbeschwerde als staatsrechtliche Beschwerde entgegengenommen werden, wenn und soweit erstere nicht zulässig ist, die betreffende Eingabe aber die formellen Anforderungen der letzteren erfüllt (<ref-ruling> E. 1c S. 333). Somit rechtfertigt es sich, die beiden Verfahren zu vereinigen und die gegen das gleiche Urteil gerichteten Beschwerden und die einzelnen Rügen zusammen zu behandeln (<ref-ruling> E. 1c S. 11). Im Zusammenhang mit der Rüge, das Urteil der III. Strafkammer verstosse gegen <ref-law>, weil befangene Richter daran teilgenommen hätten, ist auch die Beschwerde zu behandeln, welche gegen den Beschluss des Gesamtobergerichts gerichtet ist, auf ein entsprechendes Ablehnungsbegehren nicht einzutreten.
Welches Rechtsmittel zulässig ist und in welchem Umfang darauf einzutreten ist, prüft das Bundesgericht von Amtes wegen und mit freier Kognition. Entsprechend der subsidiären Natur der staatsrechtlichen Beschwerde ist zunächst zu prüfen, inwiefern die Verwaltungsgerichtsbeschwerde offen steht (vgl. zum Ganzen <ref-ruling> E. 2a S. 16 mit Hinweis).
b) aa) Angefochten ist ein Entscheid der III. Strafkammer, die gestützt auf Bundesrecht (<ref-law>) nicht auf einen Rekurs eintrat. Die Rüge, dies sei eine Rechtsverweigerung, genügt für die Annahme, dass die Beschwerde jedenfalls insoweit zulässig ist (vgl. <ref-ruling> E. 2a S. 266). Ebenso ist unabhängig von <ref-law> auf die Beschwerde einzutreten, soweit der Beschwerdeführer als Eventualstandpunkt geltend macht, die III. Strafkammer hätte nach <ref-law> auf den Rekurs gegen einen Zwischenentscheid eintreten müssen.
bb) Nach Art. 97 Abs. 1 OG in Verbindung mit <ref-law> ist die Verwaltungsgerichtsbeschwerde zulässig, wenn sich der angefochtene Entscheid auf Bundesrecht stützt. Ob dies zu Recht oder zu Unrecht geschah, ist Gegenstand des Sachurteils (vgl. Fritz Gygi, Zur sachlichen Zuständigkeit in der Bundesverwaltungsrechtspflege, recht 1987, S. 86 f.; Pierre Moor, Droit administratif, Band II, Bern 1991, S. 381; vgl. auch <ref-ruling> E. 1 und 2 S. 12 f.; <ref-ruling> E. 1 S. 171 und 116 V 265 E. 2b S. 266 f.).
In der Verwaltungsgerichtsbeschwerde kann unter anderem eine Verletzung von Bundesrecht gerügt werden (Art. 104 lit. a OG). Dazu gehört sowohl der Hauptstandpunkt des Beschwerdeführers, wonach zu Unrecht Bundesrecht angewandt worden sei (<ref-ruling> E. 1; Entscheid des Bundesgerichts vom 17. Dezember 1992 E. 1b in ZBl 94/1993 S. 522), als auch sein Eventualstandpunkt, wonach gemäss <ref-law> auf seinen kantonalen Rekurs hätte eingetreten werden sollen.
cc) Da die Verwaltungsgerichtsbeschwerde in der Hauptsache zulässig ist, kann mit ihr auch die Gegenstand der staatsrechtlichen Beschwerde bildende Rüge vorgebracht werden, der angefochtene Entscheid der Strafkammer verletze den Anspruch auf einen unparteiischen Richter, also Bundesverfassungsrecht (vgl. allgemein <ref-ruling> E. 3a S. 509; <ref-ruling> E. 2a S. 137 mit Hinweisen und spezi- fisch zu Zwischenentscheiden über die Unabhängigkeit von Richtern <ref-ruling> und 114 V 292).
dd) Der Entscheid des Gesamtobergerichts vom 12. April 2000 ist zwar ein auf kantonales Recht gestützter Nichteintretensentscheid auf ein Ablehnungsbegehren, welches sich seinerseits auf kantonales Recht stützt. Dabei handelt es sich jedoch sachlich um einen Zwischenentscheid derselben kantonalen Behörde, des Obergerichts, die schliesslich auch den Entscheid getroffen hat, welcher der Verwaltungsgerichtsbeschwerde unterliegt. Der Beschwerdeführer konnte diesen Zwischenentscheid wegen eines Zustellungsfehlers nicht selbstständig mit staatsrechtlicher Beschwerde anfechten.
Daher sind seine dagegen gerichteten Rügen einer Verletzung der BV heute, da ein Entscheid in der Hauptsache vorliegt, in der gegen diesen zulässigen Verwaltungsgerichtsbeschwerde zu behandeln. Auch auf kantonales Recht gestützte letztinstanzliche kantonale Nichteintretensentscheide unterliegen der Verwaltungsgerichtsbeschwerde, wenn sie in einer Angelegenheit ergangen sind, die grundsätzlich der eidgenössischen Verwaltungsgerichtsbarkeit untersteht (<ref-ruling> E. 2a S. 13 mit Hinweisen).
c) Alle vorgebrachten Rügen können somit in der Verwaltungsgerichtsbeschwerde geprüft werden. Daher ist einerseits die staatsrechtliche Beschwerde als Verwaltungsgerichtsbeschwerde zu behandeln. Andererseits ist der angefochtene Entscheid, wie von Art. 97 Abs. 1 und 98 lit. g OG gefordert, kantonal letztinstanzlich. Denn gegen Entscheide des Obergerichts ist die Nichtigkeitsbeschwerde an das Zürcher Kassationsgericht nur zulässig, soweit die Verwaltungsgerichtsbeschwerde ans Bundesgericht unzulässig ist (vgl. Urteil des Zürcher Kassationsgerichts vom 7. Juni 1993, ZR 93 (1994) Nr. 16 S. 76 ff.; Niklaus Schmid, in:
Donatsch/Schmid, Kommentar zur Strafprozessordnung des Kantons Zürich, Zürich 1996/98, § 430b N. 8).
2.- Der Beschwerdeführer macht geltend, die III. Strafkammer habe den angefochtenen Entscheid getroffen, obwohl sie nicht unparteiisch sei. Wenn diese Rüge berechtigt wäre, müsste der angefochtene Entscheid unabhängig davon, ob er sachlich gerechtfertigt ist, aufgehoben werden. Daher ist diese Rüge vorab zu behandeln.
a) Da das Gesamtobergericht auf das Ablehnungsbegehren nicht eingetreten ist, kann der Beschwerdeführer dagegen nur vorbringen, dies sei verfassungswidrig, insbesondere willkürlich. Ob das Ablehnungsbegehren gerechtfertigt war, kann hingegen auf die Beschwerde gegen den Entscheid der III. Strafkammer hin überprüft werden, soweit der Beschwerdeführer Ablehnungsgründe gegen einzelne an diesem Entscheid mitwirkende Gerichtspersonen vorbringt. Es fragt sich jedoch, ob solche individualisierte Befangenheitsgründe nicht schon im Rekurs an das Obergericht vom 14. Februar 2000 hätten vorgebracht werden müssen und daher verspätet sind (<ref-ruling> E. 3 S. 229 mit Hinweisen). Dafür spricht, dass die Namen der 12 Mitglieder der Kammer öffentlich bekannt sind. Dagegen könnte eingewandt werden, dass die im kantonalen Rekurs geltend gemachte Ablehnung aller Mitglieder der III. Strafkammer auch ein rechtzeitiges Ablehnungsbegehren gegen deren schliesslich urteilende Mitglieder umfasst. Freilich würde sich dann die Frage stellen, ob das Ablehnungsbegehren gegen gewisse unter ihnen genügend individualisiert war, weil es Bezug nimmt auf frühere Urteile, an denen bestimmte am angefochtenen Entscheid mitwirkende Justizpersonen schon beteiligt waren. Diese Frage kann jedoch offen bleiben. Auch wenn die Rüge, dass einzelne am angefochtenen Entscheid mitwirkende Gerichtspersonen befangen gewesen seien, rechtzeitig sein sollte, dringt sie, wie im Folgenden zu zeigen ist, nicht durch (vgl. hinten E. 2c/ bb).
b) aa) Unabhängig vom kantonalen Recht anerkennt das Bundesgericht einen aus <ref-law> abgeleiteten Anspruch des Einzelnen darauf, dass seine Sache von einem unvoreingenommenen, unparteiischen und unbefangenen Richter geprüft wird (<ref-ruling> E. 3d S. 285 f.). Es ist aber Sache des kantonalen Verfahrensrechts, die Art und Weise, wie prozessuale Rechte geltend zu machen sind, zu umschreiben.
Das gilt auch für den Anspruch nach <ref-law> (<ref-ruling> E. 5a S. 227 f.; <ref-ruling> E. 5a S. 289).
Das kantonale Verfahrensrecht kann insbesondere verlangen, dass bestimmte Anträge frist- und formgerecht gestellt werden und die Folgen einer allfälligen Verletzung solcher Verfahrensbestimmungen regeln (<ref-ruling> E. 5a S. 227 f.
mit Hinweisen). Der Nichteintretensentscheid des Gesamtobergerichts ist in diesem Lichte zu beurteilen.
bb) <ref-law> ist verletzt, wenn bei objektiver Betrachtungsweise Gegebenheiten vorliegen, die den Anschein der Befangenheit und die Gefahr der Voreingenommenheit einer Gerichtsperson zu begründen vermögen (<ref-ruling> E. 3 S. 73 mit Hinweisen). Solche Gegebenheiten können entweder in einem bestimmten persönlichen Verhalten der betreffenden Person oder in gewissen funktionellen und organisatorischen Gegebenheiten (so genannte Vorbefassung) begründet sein. Wegen persönlichen Verhaltens ist der Richter nicht erst dann von der Mitwirkung ausgeschlossen, wenn er tatsächlich befangen ist. Es genügt, wenn Umstände vorliegen, die den Anschein der Befangenheit zu begründen vermögen.
Eine gewisse Besorgnis der Voreingenommenheit wegen Vorbefassung kann bei den Parteien immer dann entstehen, wenn einzelne Gerichtspersonen in einem früheren Verfahren mit der konkreten Streitsache schon einmal befasst waren.
In einem solchen Fall stellt sich die Frage, ob sich ein Richter durch seine Mitwirkung an früheren Entscheidungen in einzelnen Punkten bereits in einem Mass festgelegt hat, das ihn nicht mehr als unvoreingenommen und dementsprechend das Verfahren als nicht mehr offen erscheinen lässt. Ob dies der Fall ist, kann nicht generell gesagt werden; es ist nach der Rechtsprechung vielmehr in jedem Einzelfall zu untersuchen, ob die konkret zu entscheidende Frage trotz Vorbefassung als offen erscheint (<ref-ruling> E. 3 S. 73 mit Hinweisen).
Dabei sind die tatsächlichen und verfahrensrechtlichen Umstände sowie die konkreten Fragen, die sich in den einzelnen Verfahrensstadien stellen können, zu berücksichtigen (<ref-ruling> E. 3 S. 226 mit Hinweisen). Allgemein hat das Bundesgericht festgehalten, der Umstand, dass ein Richter mit einem Verfahrensbeteiligten in einem anderen Verfahren schon zu tun hatte und zu dessen Ungunsten entschied, stelle keinen Anlass für die Annahme von Befangenheit dar (<ref-ruling> E. 2c S. 374 mit Hinweisen).
Im Rahmen einer Verwaltungsgerichtsbeschwerde beurteilt das Bundesgericht die Rüge einer Verletzung von <ref-law> mit gleicher Kognition wie auf eine staatsrechtliche Beschwerde hin, und der Beschwerdeführer hat seine Rüge gleich wie in einer solchen zu substanziieren (<ref-ruling> E. 1b S. 382 mit Hinweisen). Das Bundesgericht überprüft somit die Auslegung und Anwendung des kantonalen Verfahrensrechts nur unter dem Gesichtswinkel der Willkür. Mit freier Kognition prüft es dagegen, ob die als vertretbar erkannte Auslegung des kantonalen Prozessrechts mit der verfassungsmässigen Garantie vereinbar ist (<ref-ruling> E. 3 S. 73 mit Hinweisen).
cc) Der Beschwerdeführer rügt ebenfalls eine Verletzung von Art. 6 Ziff. 1 EMRK. Unabhängig davon, dass diese Bestimmung im Rechtshilfeverfahren grundsätzlich nicht anwendbar ist (vgl. <ref-ruling> E. 4 S. 119 mit Hinweisen), geht sie jedenfalls, was den Inhalt richterlicher Unabhängigkeit betrifft, nicht über <ref-law> hinaus (<ref-ruling> E. 2b/bb S. 24; <ref-ruling> E. 2f S. 189 mit Hinweisen).
c) aa) In seinem Rekurs vom 14. Februar 2000 lehnte der Beschwerdeführer neben einigen namentlich genannten auch alle anderen Mitglieder der III. Strafkammer ab. Zur Begründung berief er sich auf den Entscheid der III. Strafkammer vom 25. Juni 1999 und erwähnte daneben einen Entscheid der Verwaltungskommission des Obergerichtes vom 24. August 1999.
Die an ersterem Entscheid mitwirkenden Justizpersonen sind jedoch die vom Beschwerdeführer namentlich abgelehnten, die in den Ausstand traten und deren Ablehnung daher gegenstandslos wurde. Am Entscheid der Verwaltungskommission nahmen keine Justizpersonen teil, die dann am angefochtenen Entscheid mitwirkten.
Zur Begründung einer Ablehnung aller Mitglieder der III. Strafkammer genügte die blosse Behauptung, dass einige davon wegen ihres Entscheids vom 25. Juni 1999 befangen seien, auch dann nicht, wenn sie zutreffend gewesen wäre.
Aus den Akten ergab sich zwar, dass die III. Strafkammer noch weitere Entscheide in Sachen des Beschwerdeführers getroffen hatte. Diese Entscheide hat der Beschwerdeführer in seinem Rekurs vom 14. Februar 2000 jedoch mit keinem Wort kritisiert, womit er seiner Begründungspflicht nicht nachgekommen ist. § 100 des Zürcher Gerichtsverfassungsgesetzes vom 13. Juni 1976 (GVG/ZH; LS 211. 1) schreibt vor, dass ein Ablehnungsbegehren zu begründen und gleichzeitig durch Urkunden oder schriftliche Auskünfte von Amtsstellen zu belegen ist. Fehlen solche Beweismittel, wird grundsätzlich auf Grund einer gewissenhaften Erklärung des Abgelehnten entschieden. Letztere Möglichkeit besteht naturgemäss nur, wenn eine individuelle Gerichtsperson abgelehnt wird. Das Gesamtobergericht legt somit das kantonale Verfahrensrecht nicht willkürlich aus, wenn es zum Schluss kommt, der Beschwerdeführer habe eine Ablehnung der Mitglieder der III. Strafkammer, die nicht am Entscheid vom 25. Juni 1999 teilgenommen hätten, nicht genügend begründet.
bb) Die am angefochtenen Kammerentscheid tatsächlich mitwirkenden Oberrichter sind nicht schon deshalb befangen, weil ihre Kollegen früher schon in Sachen des Beschwerdeführers entschieden haben. Dies müsste selbst dann gelten, wenn letztere zu Recht hätten abgelehnt werden können. Andernfalls müsste eine erfolgreiche Ablehnung eines Mitglieds eines Kollegialgerichts immer zum Ausstand des ganzen Gerichts führen, was die verfassungsmässige Gerichtsorganisation aus den Angeln heben würde.
Der Beschwerdeführer rügt jedoch spezifisch, Oberrichter Brunner und Gerichtssekretär Stricker hätten am angefochtenen Entscheid mitgewirkt, obwohl sie schon am Entsiegelungsbeschluss vom 7. April 1998 teilgenommen hätten.
Darin hätten sie eine Entsiegelung anderer Unterlagen zu Gunsten desselben ausländischen Strafverfahrens bewilligt, unter anderem mit der Begründung, es gelte einen bedeutenden Fall von Wirtschaftskriminalität abzuklären. Damals sei es um die "F._" gegangen, jetzt betreffe das Ersuchen die "U._". Im angefochtenen Entscheid werde ausgeführt, dass von einer engen wirtschaftlichen Verflechtung, wenn nicht gar von einer Identität dieser beiden Firmen auszugehen sei. Angesichts dieser behaupteten Identität und der Erwägungen im Entscheid vom 7. April 1998 sei nicht mehr offen gewesen, ob Oberrichter Brunner und Gerichtssekretär Stricker die Interessen der Strafverfolgung im ersuchenden Staat höher einstufen würden als das Anwaltsgeheimnis.
Der Entscheid vom 7. April 1998 wurde vom Zürcher Kassationsgericht wegen Unzuständigkeit des Obergerichts aufgehoben. Dies führt entgegen der Auffassung des Beschwerdeführers nicht dazu, dass die Richter, die am aufgehobenen Urteil mitgewirkt hatten, nicht mehr unparteiisch wären (<ref-ruling> E. 3b/bb S. 158 ff. mit Hinweisen). Es ist auch nicht zu beanstanden, dass im Entscheid vom 7. April 1998 ausgeführt wird, "nach dem Rechtshilfeersuchen" gehe es um einen bedeutenden Fall von Wirtschaftskriminalität.
In Rechtshilfesachen muss auf die Sachverhaltsdarstellung im Ersuchen abgestellt werden, wenn diese vom Betroffenen nicht sofort entkräftet werden kann (<ref-ruling> E. 5b S. 121 f.; <ref-ruling> E. 3b/bb S. 78 mit Hinweisen). Ein Richter ist im Weiteren nicht befangen, weil er eine Rechtsfrage in einem ähnlich gelagerten Fall schon einmal entschieden hat, selbst wenn das frühere Urteil dieselben Parteien betraf. Tatsächlich stellten sich im zweiten Entscheid auch andere Fragen als im ersten. Die III. Strafkammer qualifiziert in der Eventualbegründung des angefochtenen Entscheids die Beziehung des Beschwerdeführers zur "U._" auf Grund des Rechtshilfeersuchens und der Einwendungen des Beschwerdeführers als überwiegend kommerzielle und nicht anwaltliche. Die früher beurteilten Beziehungen des Beschwerdeführers zur "F._" spielten dabei keine Rolle. Die Kammer durfte aber auf die aktenkundige Tatsache abstellen, dass früher beim Beschwerdeführer auch eine Hängemappe "F._" beschlagnahmt worden war, was für eine Verbindung zwischen den beiden Firmen sprach. Im interessierenden Verfahren war ausserdem ein "Streamerband" zu entsiegeln, auf dem nach Angaben des Beschwerdeführers auch andere Klienten betreffende Korrespondenz aufgezeichnet ist. Dies wirft andere Fragen auf (vgl. insb. hinten E. 5e/aa) als im früheren Verfahren die Entsiegelung einer Mappe, welche nur Akten über die Firma enthielt, deren Geschäfte im ausländischen Strafverfahren untersucht werden.
Schliesslich gilt es zu bedenken, dass ein Gericht, ohne <ref-law> zu verletzen, auch mehrmals über genau dieselben Tatsachen- und Rechtsfragen urteilen darf, wenn eine Rechtsmittelinstanz das frühere Urteil aufgehoben hat. In diesem Falle gilt ein Richter im Hinblick auf die Neubeurteilung der Sache grundsätzlich nicht als befangen oder voreingenommen (<ref-ruling> E. 2a S. 30 mit Hinweis).
Daher ist er auch nicht befangen, wenn er auf Grund mehrerer Rechtshilfeersuchen für dasselbe Strafverfahren wiederholt weitgehend dieselben Fragen beurteilen muss.
3.- Die III. Strafkammer stützt ihr Nichteintreten darauf, dass <ref-law> kantonale Rechtsmittel gegen Zwischenentscheide im Rechtshilfeverfahren nur zulasse, sofern diese aus den in dieser Bestimmung genannten Gründen einen unmittelbaren und nicht wieder gutzumachenden Nachteil bewirken würden.
Der Beschwerdeführer macht als Hauptstandpunkt geltend, ein Entsiegelungsentscheid sei kein Zwischenentscheid im Rechtshilfeverfahren, sondern ein Entscheid in einem selbstständigen kantonalen Verfahren, auch wenn die Entsiegelung zwecks Gewährung von Rechtshilfe erfolge. Er beruft sich dabei auf <ref-ruling> E. 4d/aa S. 247, wonach die Bezeichnung der zuständigen Behörden für Fragen im Zusammenhang mit Siegelungen dem kantonalen Recht obliege. Dies schliesst jedoch nicht aus, dass auf das Entsiegelungsverfahren selbst auch bundesrechtliche Regeln anwendbar sind.
So schreibt <ref-law> vor, dass für die Versiegelung von Papieren die Grundsätze von Art. 69 BStP gelten. Das Bundesgericht hat entschieden, dass die vom IRSG vorgesehene Rechtsmittelordnung auch in einem kantonalen Verfahren betreffend kantonaler Zwangsmassnahmen gilt, sobald es direkt ein nach dem IRSG abzuwickelndes Rechtshilfeverfahren und damit den Umfang der allenfalls zu leistenden Rechtshilfe betrifft (<ref-ruling> E. 3 S. 116 ff.). Es ist offensichtlich, dass das kantonale Entsiegelungsverfahren im vorliegenden Fall den Umfang der möglicherweise zu leistenden Rechtshilfe bestimmt. Wäre das Begehren, die Entsiegelung zu verweigern, gutgeheissen worden, so hätten die versiegelten Informationen dem ersuchenden Staat auch nach einer das Ersuchen gutheissenden Schlussverfügung nicht übermittelt werden können. Das vorliegende Entsiegelungsverfahren bildet somit Teil des Rechtshilfeverfahrens. Die umstrittene Anordnung dient der Ausführung des Rechtshilfeersuchens und gilt als Verfügung der mit der Ausführung betrauten kantonalen Rechtshilfebehörden.
Am 1. Februar 1997 ist das IRSG revidiert worden und insbesondere <ref-law> in Kraft getreten.
Dabei wurden die Möglichkeit, Verwaltungsgerichtsbeschwerde an das Bundesgericht zu führen, und auch die auf kantonaler Ebene zulässigen Rechtsmittel eingeschränkt (vgl. Urteil des Bundesgerichts i.S. des Beschwerdeführers vom 15. Juli 1998 E. 2a und 2b, und hinten E. 5a-c). Anders war das Ziel einer Beschleunigung der Verfahren (vgl. <ref-law>) nicht zu erreichen und waren Missbrauchsmöglichkeiten nicht zu vermeiden.
<ref-law> sieht gegen Verfügungen in Rechtshilfesachen ein kantonales Rechtsmittelverfahren vor, das einer bundesrechtlichen Sonderregelung unterworfen ist, die dem kantonalen Verfahrensrecht vorgeht (vgl. Michel Féraud, Die neue Rechtsmittelordnung in der Rechtshilfe zur Unterstützung eines Strafverfahrens im Ausland, in: Solothurner Festgabe zum Schweizerischen Juristentag 1998, 1998, S. 659).
Wie die III. Strafkammer zu Recht festgehalten hat, bedeutet der in <ref-law> enthaltene Verweis auf Art. 69 BStP nicht, dass das Entsiegelungsverfahren von der Rechtsmittelordnung der Art. 80e f. IRSG ausgenommen wäre. Diese gilt abschliessend für alle Anordnungen der ausführenden Behörden. Darunter fallen - wie gesagt - auch Entscheide des Entsiegelungsrichters.
Die III. Strafkammer hat somit zu Recht <ref-law> auf die Frage angewandt, ob der kantonale Rekurs des Beschwerdeführers zulässig sei.
4.- Eventualiter macht der Beschwerdeführer geltend, nach <ref-law> hätte die III. Strafkammer auf seinen Rekurs eintreten müssen, weil der Entsiegelungsentscheid des Bezirksgerichts einen unmittelbaren und nicht wieder gutzumachenden Nachteil bewirkt habe. Die III. Strafkammer führt aus, der bezirksgerichtliche Entscheid bewirke weder eine Beschlagnahme von Vermögenswerten oder Wertgegenständen noch eine Anwesenheit von Personen, die am ausländischen Prozess beteiligt seien. Es sei somit keiner der beiden in <ref-law> genannten Fälle, die einen unmittelbaren und nicht wieder gutzumachenden Nachteil bewirken könnten, gegeben.
Der Beschwerdeführer behauptet nicht, das zu entsiegelnde "Streamerband" sei ein Wertgegenstand oder Vermögenswert.
Hingegen macht er geltend, bei einer von der Bezirksanwaltschaft ausgeführten Durchsicht werde diese mittelbar oder unmittelbar die deutschen Behörden von seinen sämtlichen Mandatsbeziehungen informieren, bevor eine Schlussverfügung ergehe. Wie die III. Strafkammer zu Recht festgehalten hat, ist die Anwesenheit von ausländischen Beamten oder Prozessbeteiligten im bisherigen Verfahren nicht bewilligt worden. Die Gefahr einer vorzeitigen Kenntnisnahme durch Untersuchungsorgane des ersuchenden Staates besteht somit nicht. Soweit der Beschwerdeführer geltend macht, auch sonstwie könnte der ersuchende Staat vorzeitig zu Informationen kommen, ist festzuhalten, dass entsiegelte Akten und Informationen daraus dem ersuchenden Staat erst zugehen dürfen, wenn die Schlussverfügung vorliegt und der Betroffene Gelegenheit hatte, sich gegen eine Beschlagnahme und Übermittlung in einem Rechtshilfeverfahren zur Wehr zu setzen. Die mit der Durchsuchung betraute kantonale Behörde wird sich strikte daran halten, zumal die Erwägungen des Bezirksgerichts und der III. Strafkammer einen entsprechenden Hinweis enthalten. Es handelt sich daher um keinen Fall, in dem ein unmittelbarer und nicht wieder gutzumachender Nachteil durch die Anwesenheit von ausländischen Beamten oder Prozessbeteiligten drohen würde. Die III. Strafkammer hat somit zu Recht verneint, dass einer der beiden in Art. 80e lit. b Ziff. 1 und 2 IRSG aufgezählten Fälle vorliegen würde.
5.- Die III. Strafkammer geht sinngemäss davon aus, die in Art. 80e lit. b Ziff. 1 und 2 IRSG enthaltene Aufzählung von Fällen, in denen eine Zwischenverfügung selbstständig anfechtbar ist, sei abschliessend. Das Bundesgericht konnte bisher die Frage offen lassen, ob - mit Blick auf den Schutz der Berufsgeheimnisse - im Einzelfall weitere Ausnahmen von der restriktiven gesetzlichen Regelung zulässig sein könnten (vgl. unveröffentlichte Entscheide des Bundesgerichts vom 24. August 2000 i.S. E. E. 2d und vom 15. Juli 1998 i.S. des Beschwerdeführers E. 2d sowie unveröffentlichte E. 1a von <ref-ruling>). Im vorliegenden Fall ist diese Frage zu entscheiden, da der Beschwerdeführer sein Anwaltsgeheimnis anruft (vgl. hinten E. 5e).
a) <ref-law> erlaubt die selbstständige Anfechtung von "Zwischenverfügungen, die einen unmittelbaren und nicht wieder gutzumachenden Nachteil bewirken:
1. durch die Beschlagnahme von Vermögenswerten und
Wertgegenständen; oder
2. durch die Anwesenheit von Personen, die am ausländischen
Prozess beteiligt sind.. "
Dieser Wortlaut spricht gegen die Möglichkeit, andere als die beiden ausdrücklich erwähnten Nachteile zu berücksichtigen, selbst wenn sie unmittelbar und nicht wieder gutzumachen sind. Vor der Aufzählung der Ziff. 1 und 2 steht ein Doppelpunkt, es fehlt ein vorangehendes Wort wie "insbesondere" und die beiden aufgezählten Fälle werden durch die Konjunktion "oder" getrennt.
b) Der Bundesrat hatte eine Formulierung vorgeschlagen, nach der jeder unmittelbare und nicht wieder gutzumachende Nachteil Zwischenverfügungen selbstständig anfechtbar gemacht hätte (vgl. BBl 1995 III 54). Wie ein roter Faden zog sich durch die Beratungen der Räte das Anliegen, das Verfahren zu beschleunigen und die Anzahl möglicher Rechtsmittel einzuschränken (vgl. AB 1995 II N 2620 [Votum Engler], 2621 f. [de Dardel], 2624 [Rechsteiner], 2625 [David], 2636 [Dormann], 2648 [Bundesrat Koller]; AB 1996 S 223 [Küchler], 224 [Marty, Danioth], 225 f. [Bundesrat Koller], 237 f. [Marty] und 243 [Küchler]; AB 1996 I N 743 [Engler]). Daher schlug die ständerätliche Kommission eine Formulierung vor, von der sie berichtete, es sei ihr gelungen, mit Hilfe der Expertenkommission die Fälle eines unmittelbaren und nicht wieder gutzumachenden Nachteils abschliessend aufzuzählen. Sie habe befürchtet, die Formulierung in der bundesrätlichen Botschaft könne trölerische Rekurse auslösen (AB 1996 S 243 [Votum Küchler]). Nachdem im Nationalrat auch der Vertreter des Bundesrats eine solche abschliessende Aufzählung befürwortet hatte (AB 1996 I N 746), wurde sie Gesetz.
c) Eine Beschränkung auf die beiden in <ref-law> aufgezählten Fälle entspricht auch dem von Bundesrat und Räten erklärten Zweck der IRSG-Revision. Dieser bestand darin, Doppelspurigkeiten und Missbrauchsmöglichkeiten auszuschliessen. Daher sollten Zwischenverfügungen nur noch in sehr seltenen Ausnahmefällen selbstständig anfechtbar sein (vgl. BBl 1995 III 11, 13 und 30; AB 1995 II N 2625 [Votum David]).
d) Auch in der Literatur wird davon ausgegangen, dass die Aufzählung des <ref-law> abschliessend sei (vgl. Marc Forster, Straffung des Verfahrens, eingeschränkter Rechtsschutz: Die Praxis nach der Revision des Bundesgesetzes über die internationale Rechtshilfe in Strafsachen, Anwalts-Revue 1999, Heft 6-7, S. 13; Pierre-Dominique Schupp, La révision de la loi fédérale sur l'entraide internationale en matière pénale [EIMP], ZStrR 115/1997 S. 186; Rudolf Wyss, Die Revision der Gesetzgebung über die internationale Rechtshilfe in Strafsachen, SJZ 93/1997 S. 36), wobei dies vereinzelt gerade für Entsiegelungen von Unterlagen kritisiert wird, die dem Anwaltsgeheimnis unterliegen (Forster, a.a.O.).
e) Der Beschwerdeführer ruft sein Anwaltsgeheimnis an, das durch die Entsiegelung des "Streamerbands" und insbesondere durch dessen Durchsuchung durch die Bezirksanwaltschaft verletzt werde. Er macht geltend, wenn eine Zwischenverfügung in einem Rechtshilfeverfahren einen Eingriff in das Anwaltsgeheimnis bewirke, müsse sie sofort selbstständig anfechtbar sein, um einen unmittelbaren und nicht wieder gutzumachenden Nachteil zu verhindern. In diesem Zusammenhang ist zunächst zu prüfen, ob der bezirksgerichtliche Entscheid entgegen der Eventualbegründung der III. Strafkammer überhaupt einen Eingriff in das Anwaltsgeheimnis bewirkt.
Falls dies zutrifft, stellt sich die Frage, ob aus diesem Grunde derartige Anordnungen selbstständig anfechtbar sein müssen.
aa) In Rechtshilfesachen ist zwar grundsätzlich auf den Sachverhalt abzustellen, wie er im Rechtshilfegesuch geschildert wird (<ref-ruling> E. 5b S. 121 f.; <ref-ruling> E. 3b/bb S. 78 mit Hinweisen). Im Weiteren gilt das Anwaltsgeheimnis nicht für Informationen im Zusammenhang mit einer Tätigkeit, bei der das kaufmännische Element überwiegt (<ref-ruling> E. 4 S. 119 mit Hinweisen), oder wenn der Anwalt selbst beschuldigt ist (<ref-ruling> E. 7c S. 424; vgl. auch <ref-ruling> E. 6 S. 50 mit Hinweisen). Auch unter Berücksichtigung dieser Einschränkungen greift jedoch der bezirksgerichtliche Entscheid in das Anwaltsgeheimnis ein, soweit er eine Durchsuchung des "Streamerbands" durch die Bezirksanwaltschaft anordnet, obwohl sich auf diesem unbestrittenermassen auch Daten befinden, die vom Anwaltsgeheimnis geschützt sind.
Das Anwaltsgeheimnis schützt Informationen, die einem Anwalt im Rahmen seiner anwaltlichen Tätigkeit zugekommen sind, - einschliesslich seiner Aufzeichnungen und Korrespondenz in diesem Zusammenhang - gegen eine Einsichtnahme durch die Untersuchungsbehörden (vgl. <ref-law> und §§ 103 und 130 des Zürcher Gesetzes betreffend den Strafprozess vom 4. Mai 1919 [StPO/ZH, LS 321]).
Im vorliegenden Verfahren geht es um ein "Streamerband", von dem der Beschwerdeführer behauptet, darauf sei seine gesamte anwaltliche Korrespondenz während einer bestimmten Periode aufgezeichnet. Die kantonalen Behörden stellen nichts Gegenteiliges fest. Der Beschwerdeführer ist auch als Anwalt tätig und er ist nicht Beschuldigter.
Entgegen der Auffassung des Beschwerdeführers darf das "Streamerband" gleichwohl nach nicht dem Anwaltsgeheimnis unterstehenden Daten durchsucht werden, die Gegenstand des Rechtshilfeersuchens sind und ebenfalls darauf aufgezeichnet sind. Hingegen rechtfertigt die Situation besondere Massnahmen um zu verhindern, dass die Bezirksanwaltschaft bei der Durchsuchung dem Anwaltsgeheimnis unterstehende Daten zur Kenntnis nehmen kann.
In <ref-ruling> ging es um eine Entsiegelung gegenüber einem mitbeschuldigten Anwalt. Gewisse zu entsiegelnde Informationen fielen unbestrittenermassen unter dessen Anwaltsgeheimnis, andere unter demselben Siegel aufbewahrte interessierten jedoch legitimerweise die Untersuchungsbehörden.
Das Bundesgericht hat entschieden, dass erstere selbst in einem solchen Falle nicht zur Kenntnis der Untersuchungsbehörden gelangen dürfen, und hat daher die Untersuchung selbst vorgenommen (a.a.O. E. 6 S. 216 f.).
Ebenso hat es in einem Rechtshilfefall ein Testament behandelt, das bei einem Anwalt versiegelt worden war (unveröffentlichter Entscheid vom 2. März 1998 i.S. Bundesanwaltschaft c. X. E. 3b/bb). Eine Durchsuchung und Ausscheidung durch den Richter selbst hat im vorliegenden Verfahren auch die III. Strafkammer in ihrem Entscheid vom 25. Juni 1999 angeregt. Die Lehre empfiehlt ebenfalls ein solches Vorgehen, wenn dem Anwaltsgeheimnis unterliegende Unterlagen durchsucht werden müssen (vgl. Gérard Piquerez, Procédure pénale suisse Zürich, 2000 S. 543; Robert Hauser/Erhard Schweri, Schweizerisches Strafprozessrecht, 4. Auflage, 1999, S. 302; Lorenz Erni, Anwaltsgeheimnis und Strafverfahren, in: Das Anwaltsgeheimnis Zürich, 1997, S. 32). Im vorliegenden Falle wurden auch keine technischen Massnahmen angeordnet, um eine Einsicht der Bezirksanwaltschaft in Informationen über Mandanten, die nichts mit dem Ersuchen zu tun haben, zu verunmöglichen (vgl. dazu Entscheid des Bundesgerichts vom 10. Februar 1995 i. S. J. E. 3b in RDAT 1995 II Nr. 21 S. 63).
Danach hätte die Untersuchung des Bandes, auf dem sich unbestrittenermassen auch dem Anwaltsgeheimnis unterstehende Informationen befinden, nicht den das Rechtshilfeersuchen ausführenden Untersuchungsbehörden überlassen werden dürfen. Das Gericht hätte die Ausscheidung derjenigen Daten, die dem Anwaltsgeheimnis unterliegen, wenn nötig unter Beizug eines Sachverständigen, richtigerweise selbst vornehmen müssen. Der Bezirksanwaltschaft hätten nur die für das Rechtshilfeverfahren gemäss dem Rechtshilfeersuchen relevanten Unterlagen übermittelt werden sollen, von denen das Bezirksgericht festgestellt hätte, dass sie nicht durch das Anwaltsgeheimnis geschützt sind.
bb) Da die von der III. Strafkammer in der Eventualbegründung des angefochtenen Entscheids geschützte bezirksgerichtliche Anordnung einer Durchsuchung durch die Bezirksanwaltschaft in das Anwaltsgeheimnis eingreift, fragt sich, ob dies dazu führen muss, dass die entspre- chende Zwischenverfügung selbstständig und sofort anfecht- bar ist.
Die Auslegung von <ref-law> hat ergeben, dass die Aufzählung der selbstständig anfechtbaren Zwischenverfügungen in dessen Ziff. 1 und 2 grundsätzlich abschliessend ist. Eine Ausnahme könnte nur angenommen werden, wenn eine sachlich richtige Entscheidung, ausgerichtet auf ein angesichts der Wertungen der Rechtsordnung befriedigendes Ergebnis aus der ratio legis, in derartigen Fällen eine selbstständige Anfechtbarkeit des Zwischentscheids verlangt (vgl. zu diesem traditionell als "unechte Lücke" bezeichneten Fall und zur Frage, wieweit diese von einem Gericht "geschlossen" werden dürfte, <ref-ruling> E. 1d/aa S. 224 ff. mit Hinweisen auf Rechtsprechung und Lehre sowie seither David Dürr, Zürcher Kommentar, N. 322-335, 384-394 und 410- 416 zu <ref-law>).
cc) Für eine selbstständige Anfechtbarkeit in Fällen wie dem vorliegenden spricht, dass der Gesetzgeber mit <ref-law> und dem dortigen Verweis auf Art. 69 BStP bundesrechtlich sicherstellen wollte, dass Berufsgeheimnisse auch im innerstaatlichen Rechtshilfeverfahren gewahrt bleiben.
Wenn die das Rechtshilfebegehren ausführenden Untersuchungsbehörden Akten durchsuchen, die dem Anwaltsgeheimnis unterliegen, so ist der daraus entstehende Nachteil angesichts der Bedeutung des Anwaltsgeheimnisses für den Rechtsstaat nicht geringer als die Nachteile für das Vermögen und die Geheimsphäre, welche in Art. 80e lit. b Ziff. 1 und 2 IRSG ausdrücklich aufgezählt werden.
dd) Überwiegende Gründe sprechen jedoch auch in Fällen einer in das Anwaltsgeheimnis eingreifenden Zwischenverfügung gegen eine selbstständige Anfechtbarkeit.
Zunächst liegt es in der Natur des mit der IRSG-Revision gewählten "Genfer Modells", welches das Rechtsmittelverfahren auf die Schlussverfügung verschiebt, dass zunächst eine Untersuchung mit Zwangsmassnahmen stattfindet und erst später über deren Zulässigkeit entschieden wird.
Wenn das Anwaltsgeheimnis (oder ein anderes Berufsgeheimnis) zum Ergreifen von Rechtsmitteln gegen Zwischenverfügungen berechtigen würde, könnten die Geheimnisträger Zwangsmassnahmen mit Leichtigkeit selbstständig anfechten.
Sie müssten nur behaupten, unter den zu entsiegelnden Daten befänden sich auch solche, von denen sie glaubhaft machen würden, dass sie dem Anwaltsgeheimnis unterstünden. Müssten kantonale Rechtsmittelinstanzen und das Bundesgericht bereits auf Beschwerden gegen Entsiegelungen eintreten, hiesse dies, dass ihnen im gleichen Rechtshilfefall zwei Mal hintereinander analoge Fragen zur Beurteilung vorgelegt werden könnten. Zuerst müssten sie auf Beschwerde gegen den Zwischenentscheid hin beurteilen, ob das Anwaltsgeheimnis einer Entsiegelung entgegensteht. Sodann müssten sie auf Beschwerde gegen die Schlussverfügung hin prüfen, ob das Anwaltsgeheimnis der Übermittlung der entsiegelten Informationen an den ersuchenden Staat entgegensteht. In diesem Zusammenhang ist auch der Gefahr des Rechtsmissbrauchs Rechnung zu tragen. Ein Abweichen von der restriktiven gesetzlichen Regelung könnte von Anwälten in den praktisch häufigen Fällen, in denen sie auch kommerziell tätig sind, geradezu als Einladung missverstanden werden, das Verfahren zu verlängern und zu komplizieren. Damit wäre aber die vom Gesetzgeber gewollte und für die internationale Verbrechensbekämpfung unerlässliche Verfahrensbeschleunigung für eine praktisch wichtige Fallgruppe hinfällig. Der vorliegende Fall zeigt, dass es mit verschiedenen Rechtsmitteln möglich war, eine Entsiegelung von Akten, die am 22. Oktober 1998 versiegelt worden waren, bis heute zu verhindern und das Rechtshilfeverfahren so lahm zu legen.
Weiterhin gilt es zu berücksichtigen, dass der Eingriff in das Anwaltsgeheimnis, den die vom Bezirksgericht angeordnete Vorgehensweise bei der Entsiegelung bewirkt, aus verschiedenen Gründen eng eingegrenzt ist (vgl. auch <ref-ruling> E. 3 S. 178). Schon anlässlich der Versiegelung kann der Anwalt in der Regel Akten über andere als die vom Rechtshilfeersuchen betroffenen Klienten aussondern (vgl.
auch <ref-ruling> E. 3b S. 52 und 102 Ia 516 E. 5c S. 527 mit Hinweis). Im Übrigen untersteht die durchsuchende Bezirksanwaltschaft dem Amtsgeheimnis. Wie das Bezirksgericht in seinem Entscheid in Erinnerung gerufen hat, darf sie die gewonnenen Informationen vor Ergehen einer anfechtbaren Schlussverfügung nicht an die ausländischen Behörden weitergeben (vgl. <ref-law>). Die Entsiegelung selbst ist von einem Gericht beschlossen worden, vor dem der Betroffene sein Anwaltsgeheimnis geltend machen konnte. Die Durchsuchung muss nach Art. 69 BStP in einer Weise durchgeführt werden, die Berufsgeheimnisse wahrt. Der Betroffene kann daran teilnehmen. Auch bei elektronisch gespeicherten Dateien kann die Bezirksanwaltschaft eine Durchsuchungsmethode wählen, die eine Kenntnisnahme von Daten, die unbestrittenermassen dem Anwaltsgeheimnis unterstehen, verunmöglicht (vgl. Entscheid des Bundesgerichts vom 10. Februar 1995 i. S. J. E. 3b in RDAT 1995 II Nr. 21 S. 63). Der Grundsatz der Verhältnismässigkeit bestimmt, wieweit Angaben des Anwalts über den Inhalt seiner Unterlagen überprüft werden müssen (Bernard Corboz, Le secret professionnel de l'avocat selon l'art. 321 CP, SJ 1993 S. 101). Jedenfalls muss auf die Einsicht in bestimmte Daten verzichtet werden, sobald feststeht, dass diese dem Anwaltsgeheimnis unterstehen.
Informationen, welche dem Anwaltsgeheimnis unterstehen und welche die Bezirksanwaltschaft trotz aller Vorsichtsmassnahmen bei der Durchsuchung erfahren würde, dürften grundsätzlich nicht verwendet werden. "Zufallsfunde" dürfen für Strafverfolgungen oder Rechtshilfemassnahmen nur verwendet werden, wenn die Voraussetzungen für deren rechtmässiges Erlangen auf Grund einer nachträglichen Prüfung gegeben wären (vgl. zu Informationen, die bei einer Telephonüberwachung erlangt wurden, <ref-ruling> E. 5 S. 49 mit Hinweisen). Unterlagen und Daten, die dem Anwaltsgeheimnis unterstehen und nicht einen beschuldigten Anwalt betreffen, könnten die Behörden jedoch gar nicht rechtmässig beschlagnahmen.
Daher dürften sie diese auch nicht verwerten (<ref-ruling> E. 9b S. 217; <ref-ruling> E. 3b S. 440 f. mit Hinweisen).
Schliesslich kann der Entsiegelungsentscheid zusammen mit der Schlussverfügung an kantonale Rechtsmittelbehörden und an das Bundesgericht weitergezogen werden (vgl. Art. 80e lit. a und 80f Abs. 1 IRSG). Diese können somit das Aufkommen einer das Anwaltsgeheimnis verletzenden Praxis allgemein verhindern und im konkreten Einzelfall zumindest die Übermittlung derart erlangter Unterlagen an den ersuchenden Staat untersagen.
f) Zusammenfassend sind Zwischenverfügungen im Rechtshilfeverfahren in anderen als den beiden in Art. 80e lit. b Ziff. 1 und 2 aufgezählten Fällen grundsätzlich nicht selbstständig anfechtbar. Eine Durchsuchung von teilweise unbestrittenermassen dem Anwaltsgeheimnis unterstehenden Unterlagen durch die das Rechtshilfeersuchen ausführenden Untersuchungsbehörden, wie sie das Bezirksgericht angeordnet hat, greift zwar in das Anwaltsgeheimnis ein und sollte daher künftig in gleich gelagerten Fällen vermieden werden.
Trotzdem ist eine Zwischenverfügung nicht deshalb selbstständig anfechtbar, weil sie eine derartige Anordnung enthält.
Die III. Strafkammer ist somit entsprechend der Hauptbegründung des angefochtenen Entscheids zu Recht auf den kantonalen Rekurs des Beschwerdeführers nicht eingetreten.
6.- Aus dem Gesagten ergibt sich, dass sämtliche Rügen des Beschwerdeführers gegen das angefochtene Urteil im Verwaltungsgerichtsbeschwerdeverfahren zu beurteilen sind.
Die Zusammensetzung der III. Strafkammer des Obergerichts und der Entscheid des Gesamtobergerichts vom 12. April 2000 haben die angerufenen Verfassungsbestimmungen nicht verletzt.
Die III. Strafkammer hat mit der Hauptbegründung ihres Entscheids kein Bundesrecht verletzt. Gemäss <ref-law> durfte sie auf den Rekurs gegen den bezirksgerichtlichen Beschluss nicht eintreten. Damit können die Rügen des Beschwerdeführers gegen diesen Beschluss und die ihn schützende Eventualbegründung der III. Strafkammer hier nicht behandelt werden; dies obwohl gegenüber der Anordnung einer Durchsuchung der teilweise unbestrittenermassen dem Anwaltsgeheimnis unterstehenden Unterlagen durch die Bezirksanwaltschaft Vorbehalte bestehen (vgl. vorne E. 5e/aa).
Die Verwaltungsgerichtsbeschwerden erweisen sich somit als unbegründet und sind abzuweisen, soweit auf sie eingetreten werden kann.
Bei diesem Ausgang des Verfahrens sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 156 Abs. 1 in Verbindung mit Art. 153 und Art. 153a OG). Parteientschädigungen sind keine zuzusprechen (Art. 159 Abs. 1 und 2 OG). Angesichts der Sistierungsverfügung des Kassationsgericht des Kantons Zürich vom 30. September 2000 ist diesem das vorliegende Urteil mitzuteilen.

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde (1P. 461/2000) wird als Verwaltungsgerichtsbeschwerde entgegengenommen und mit der Verwaltungsgerichtsbeschwerde 1A.207/2000 vereinigt.
2.- Die Verwaltungsgerichtsbeschwerden werden abgewiesen, soweit auf sie einzutreten ist.
3.- Die Gerichtsgebühr von insgesamt Fr. 5'000.-- wird dem Beschwerdeführer auferlegt.
4.- Dieses Urteil wird dem Beschwerdeführer, dem Bezirksgericht Zürich (3. Abteilung), der Bezirksanwaltschaft IV für den Kanton Zürich (Büro 2), der Staatsanwaltschaft, dem Obergericht (III. Strafkammer), dem Gesamtobergericht und dem Kassationsgericht des Kantons Zürich sowie dem Bundesamt für Justiz schriftlich mitgeteilt.
_
Lausanne, 17. November 2000
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: