für die Niederlande B 101343 Jas, hat sich ergeben:
A.- Die niederländischen Strafbehörden führen ein Strafverfahren gegen S._ und weitere Personen u.a.
wegen Teilnahme an einer kriminellen Vereinigung, Urkundenfälschung, Betrugs, qualifizierter Unterschlagung, Privatbestechung und Ausnützens der Kenntnis vertraulicher Tatsachen im Zusammenhang mit der Abwicklung von Börsentransaktionen.
Gegen S._, B._ und weitere Personen wurde auch im Kanton Zürich ein Untersuchungsverfahren wegen ungetreuer Geschäftsbesorgung eröffnet. Die Schweizer Behörden wurden in dieser Sache mehrfach um Rechtshilfe angegangen und es wurden mehrere Eintretens- und Schlussverfügungen erlassen.
B.- Am 9. April 1999 erliess die Bezirksanwaltschaft IV für den Kanton Zürich (im Folgenden: Bezirksanwaltschaft) die "Eintretensverfügung Nr. 1 - Req Schweiz I". Darin wurde u.a. eine Hausdurchsuchung in der Wohnung B._s und dessen Einvernahme als Angeschuldigter angeordnet; ferner wurde die Bank X._ in Zürich aufgefordert, Kopien eines Dossiers - inklusive allfälliger Tonbandaufnahmen von Gesprächen zwischen S._ und dem ehemaligen Mitarbeiter der Bank X._ N._ - einzureichen, welches anlässlich einer internen Untersuchung über mögliche Veruntreuungen bei Effektentransaktionen zwischen S._ und N._ erstellt worden sei.
C.- Am 14. September 1999 erliess die Bezirksanwaltschaft mit Bezug auf B._ die Schlussverfügung und ordnete in Entsprechung des Rechtshilfeersuchens die Herausgabe der bei der Hausdurchsuchung sichergestellten Akten und des Einvernahmeprotokolls an die ersuchende Behörde an.
Nachdem das Obergericht des Kantons Zürich den Rekurs B._s gegen die Schlussverfügung abgewiesen hatte, gelangte dieser mit Verwaltungsgerichtsbeschwerde ans Bundesgericht.
Dabei beantragte er u.a., vor einer Weiterleitung der bei der Bank X._ erhobenen Unterlagen an die Niederlande sei ihm eine diesbezügliche Schlussverfügung zuzustellen. Zur Begründung führte B._ aus, er habe erst im Rahmen des bundesgerichtlichen Verfahrens Akteneinsicht nehmen können und erfahren, dass seine frühere Arbeitgeberin, die Bank X._, eine Reihe von Unterlagen eingereicht habe, darunter auch Tonbänder mit abgehörten Telefongesprächen zwischen ihm und S._. Eine Weiterleitung dieser Tonbänder oder Abschriften davon an die Niederlande sei ein massiver Eingriff in seine Persönlichkeitsrechte, weshalb ihm diesbezüglich eine anfechtbare Schlussverfügung zugestellt werden müsse.
D.-Am 18. Juli 2000 wies das Bundesgericht die Verwaltungsgerichtsbeschwerde im Wesentlichen ab; auf den Antrag auf Erlass einer Schlussverfügung trat es nicht ein: Unmittelbar betroffen von der Anordnung an die Bank X._ und damit beschwerdeberechtigt sei an sich nur die Bank X._ als Inhaberin der Unterlagen. Etwas anderes könne allenfalls hinsichtlich allfälliger Aufzeichnungen von Telefongesprächen zwischen dem Beschwerdeführer und S._ gelten: Hätte die Bezirksanwaltschaft selbst eine Telefonüberwachung veranlasst, wäre der Beschwerdeführer hiervon unmittelbar betroffen; es erscheine deshalb fragwürdig, dessen Betroffenheit zu verneinen, wenn seine Arbeitgeberin Telefongespräche am Arbeitsplatz aufnehme und sie den Ermittlungsbehörden zur Verfügung stelle. Das Bundesgericht liess die Frage allerdings im Ergebnis offen, weil Gegenstand des Rekurs- und Beschwerdeverfahrens nur die Schlussverfügung vom 14. September 1999 sei und der Beschwerdeführer keinen Rekurs wegen Rechtsverweigerung erhoben habe.
E.- Mit Schreiben vom 8. August 2000 verlangte B._ bei der Bezirksanwaltschaft die Zustellung einer Schlussverfügung hinsichtlich der Tonbänder bzw. der Abschriften der Telefongespräche. Die Bezirksanwaltschaft teilte ihm am 9. August 2000 mit, die Tonbandkassetten befänden sich mittlerweile bei den Untersuchungsakten der Bezirksanwaltschaft III; die aufgrund einer Auswertung der Gespräche gewonnenen Erkenntnisse seien mit Zustimmung der Bank X._ am 15. September 1999 an die niederländischen Behörden weitergeleitet worden. Eine Schlussverfügung sei B._ nicht zuzustellen, da er nicht Inhaber der Unterlagen der im Jahr 1997 bankintern durchgeführten Untersuchung sei und damit von der Herausgabe nicht direkt und persönlich betroffen werde.
F.- Hiergegen reichte B._ am 25. August 2000 Rekurs wegen Rechtsverweigerung beim Obergericht ein. Das Obergericht wies den Rekurs ab, weil B._ von der Rechtshilfemassnahme nicht persönlich und direkt betroffen worden sei. Dies gelte auch hinsichtlich der Tonbandaufzeichnungen:
Die Bank X._ habe nicht auf Anweisung oder auf Anregung der Bezirksanwaltschaft, sondern aus eigener Initiative eine bankinterne Untersuchung eingeleitet, nachdem sie Auffälligkeiten im Effektenhandel zwischen B._ (bzw. dessen Vorgänger N._) und S._ (bzw. dessen Firma F._) festgestellt hatte. Hierzu seien auch die Telefongespräche mit S._ überprüft und aufgezeichnet worden. Es liege somit kein staatlicher Eingriff in das Post- und Fernmeldegeheimnis vor. Keinen Einfluss auf die Berechtigung, im Rechtshilfeverfahren Beschwerde zu erheben bzw. eine Schlussverfügung zu verlangen, habe die Zulässigkeit der privaten Aufzeichnungen von Telefongesprächen im Hinblick auf Art. 179bis und 179ter StGB: Diese Frage könne allenfalls Gegenstand einer Strafuntersuchung gegen die Verantwortlichen der Bank X._ bilden. Es sei Aufgabe des niederländischen Strafrichters, beim Entscheid über die Verwertbarkeit der rechtshilfeweise erhobenen Beweise die Stichhaltigkeit der Vorwürfe B._s zu prüfen.
G.- Hiergegen erhob B._ am 27. November 2000 Verwaltungsgerichtsbeschwerde ans Bundesgericht. Er beantragt, der angefochtene Beschluss sei mitsamt der Schlussverfügung der Bezirksanwaltschaft vom 8. August 2000 aufzuheben.
Es sei festzustellen, dass der Beschwerdeführer im Rechtshilfeverfahren 99/R0104 bezüglich einer allfälligen Weiterleitung von Abschriften oder Tonbändern von Telefongesprächen zwischen ihm und S._ an die Niederlande Berechtigter gemäss Art. 80b IRSG und im Sinne von Art. 80h lit. b IRSG beschwerdelegitimiert sei. Die Vorinstanz sei anzuweisen, vorgängig einer Weiterleitung von act. 5/26 an die Niederlande - auch hinsichtlich der Unterlagen der Bank X._ - die Zustimmung des Beschwerdeführers i.S.v.
Art. 80c IRSG einzuholen bzw. ihm eine Schlussverfügung zuzustellen.
H.- Die Bezirksanwaltschaft beantragt, die Verwaltungsgerichtsbeschwerde sei abzuweisen, soweit darauf eingetreten werden könne. Sie weist auf Unterlagen in den Rechtshilfeakten, aus denen hervorgehe, dass B._ von der Überwachung seines Arbeitsplatzes durch Tonbandaufzeichnungsgeräte gewusst und seine Zustimmung hierzu gegeben habe. Das Verwaltungsgericht und die Staatsanwaltschaft des Kantons Zürich haben auf eine Vernehmlassung verzichtet. Das Bundesamt für Justiz verweist auf die Vernehmlassung des Bundesamts für Polizei vom 26. April 2000 im bundesgerichtlichen Verfahren 1A.105/2000, in der es die Auffassung vertreten hatte, allein die Bank X._ sei als Inhaberin der Unterlagen beschwerdelegitimiert.

Das Bundesgericht zieht in Erwägung:
1.- Angefochten ist der Entscheid einer letztinstanzlichen kantonalen Behörde, mit dem der Erlass einer Schlussverfügung gegenüber dem Beschwerdeführer abgelehnt wird.
Dieser Entscheid schliesst das Rechtshilfeverfahren für den Beschwerdeführer ab und unterliegt somit der Verwaltungsgerichtsbeschwerde an das Bundesgericht (Art. 80f Abs. 1 des Bundesgesetzes vom 20. März 1981 über internationale Rechtshilfe in Strafsachen [IRSG; SR 351. 1]). Der Beschwerdeführer ist als Gesuchsteller zur Rüge legitimiert, das Obergericht habe seine Legitimation in der Sache zu Unrecht verneint und damit eine formelle Rechtsverweigerung begangen. Auf die rechtzeitig erhobene Verwaltungsgerichtsbeschwerde ist daher einzutreten.
2.- Art. 80b Abs. 1 IRSG gewährt den "Berechtigten" das Recht auf Teilnahme am Rechtshilfeverfahren, das gemäss Art. 80d IRSG durch Erlass einer Schlussverfügung abgeschlossen wird. Wer "Berechtigter" ist, ergibt sich aus Art. 80h IRSG:
Wer zur Beschwerdeführung berechtigt ist, hat auch Anspruch auf Akteneinsicht und auf Erlass einer Schlussverfügung, sofern er nicht seine Zustimmung zur vereinfachten Ausführung i.S.v. Art. 80c IRSG gegeben hat.
a) Zur Beschwerdeführung berechtigt ist, wer persönlich und direkt von einer Rechtshilfemassnahme betroffen ist und ein schutzwürdiges Interesse an deren Aufhebung oder Änderung hat (Art. 80h lit. b IRSG). Wie das Bundesgericht bereits in seinem Entscheid vom 18. Juli 2000 (E. 5a) dargelegt hat, ist die Bank X._ Inhaberin der sichergestellten Unterlagen und wird als solche von den Rechtshilfemassnahmen unmittelbar und persönlich betroffen. Der Beschwerdeführer ist grundsätzlich nur mittelbar Betroffener, weil die Unterlagen Informationen über ihn enthalten.
b) Allerdings hat das Bundesgericht im genannten Urteil (E. 5b) angedeutet, dass die Beschwerdelegitimation möglicherweise hinsichtlich der Aufzeichnungen von Telefongesprächen zwischen dem Beschwerdeführer und S._ bejaht werden könnte.
Gemäss Art. 179bis StGB macht sich strafbar, wer fremde nichtöffentliche Gespräche ohne die Einwilligung aller daran Beteiligter auf einen Tonträger aufnimmt, eine derartige Aufnahme aufbewahrt oder einem Dritten zugänglich macht; Art. 179ter StGB stellt die Aufnahme nichtöffentlicher Gespräche durch einen Gesprächsteilnehmer und deren Aufbewahrung und Verwertung unter Strafe. Deliktisch erstellte private Tonbandaufnahmen unterliegen grundsätzlich einem Beweisverwertungsverbot (Roberto Fornito, Beweisverbote im schweizerischem Strafprozess, Diss. St. Gallen 2000, S. 295 f.; Entscheid des Zürcher Kassationsgerichts vom 5. Juli 1974, SJZ 71/1975 S. 600 ff. E. 3); ihre Verwendung im Strafverfahren wird ausnahmsweise zugelassen, wenn die Aufnahme auch auf rechtmässige Weise hätte beschafft werden können und das Interesse des Staates an der Wahrheitsfindung das Interesse des Betroffenen an der Wahrung seiner Persönlichkeitsrechte überwiegt (so <ref-ruling> E. 2b S. 246 ff.; <ref-ruling> E. 2c S. 320; Entscheid des Bundesgerichts vom 9. November 1987, publ. in SJZ 77/1981 S. 131 f.
E. 4b; Entscheid der Genfer Cour de justice vom 20. Dezember 1985, SJ 1986 636 ff.; Robert Hauser/Erhard Schweri, Schweizerisches Strafprozessrecht, 4. Auflage, § 60 Rz 6 S. 243 f.; Niklaus Schmid, Strafprozessrecht. 3. Auflage, Rz 612 S. 175; Jörg Paul Müller, Grundrechte in der Schweiz, 3. Auflage, S. 567 f.). Da die Rechtshilfebehörden bei der Ausführung von Rechtshilfegesuchen ihr eigenes Recht anwenden (vgl.
Art. 12 Abs. 1, Art. 64 Abs. 1 Satz 2 IRSG; zur ausnahmsweisen Anwendung ausländischen Rechts Art. 65 IRSG, insbes.
Abs. 2) sind sie an derartige Beweiserhebungs- und -verwertungsverbote des innerstaatlichen Rechts gebunden.
Dieses Beweisverwertungsverbot beruht auf der Überlegung, das rechtswidrige Vorgehen des Privaten sei dem Staat zuzurechnen, sobald er sich des rechtswidrig erlangten Beweises bediene (Fornito, a.a.O. S. 295), und will vermeiden, dass die bereits erfolgte Verletzung des Persönlichkeitsrechts der Gesprächsteilnehmer durch das Abspielen der widerrechtlich erlangten Tonbandaufzeichnung im Strafprozess erweitert und vertieft wird (Zürcher Kassationsgericht, SJZ 71/1975 S. 61). Dann aber berührt die Sicherstellung derartiger Aufzeichnungen durch die Rechtshilfebehörden und ihre Weiterleitung an die ausländischen Strafbehörden unmittelbar auch das Persönlichkeitsrecht der aufgezeichneten Gesprächsteilnehmer, auch wenn diese nicht Inhaber der Tonbandaufzeichnungen sind.
Es erscheint daher gerechtfertigt, demjenigen, dessen Telefongespräche von einem Privaten heimlich aufgezeichnet worden sind, die Beschwerdelegitimation zuzugestehen, damit er sich schon im Rechtshilfeverfahren gegen die Beschlagnahme und die Weiterleitung derartiger Aufzeichnungen an die ersuchende Behörde wehren kann. Dies gilt jedenfalls, wenn er gleichzeitig Beschuldigter des ausländischen Strafverfahrens ist und die Aufzeichnungen gegen ihn verwendet werden sollen, gelten doch Beweisverwertungsverbote immer nur zu Gunsten des Angeklagten und nie zu seinen Ungunsten (Hauser/Schweri, a.a.O. § 60 N 13 S. 246; Schmid, a.a.O.
N 609 S. 174; Fornito, a.a.O., S. 255 f.).
c) Voraussetzung ist allerdings, dass es sich überhaupt um eine rechtswidrige Aufnahme handelt (oder dies zumindest glaubhaft erscheint). Bis zum 1. Januar 1998 schloss Art. 179quinquies StGB die Strafbarkeit für Aufzeichnungen von Telefongesprächen aus, die mittels einer von den PTT-Betrieben bewilligten Aufnahmeeinrichtung erfolgten; derartige Aufnahmen sind daher rechtmässig und dürfen im Strafprozess ohne Weiteres verwendet werden (vgl. <ref-ruling> ff., insbes. E. 1b S. 23 a.E.). Gleiches gilt, wenn die Gesprächsteilnehmer in die Aufnahme eingewilligt haben oder diese aus anderen Gründen gerechtfertigt war (einschränkend bei Rechtfertigung durch Notwehr oder Notstand Martin Schubarth, Kommentar zum Schweizerischen Strafrecht,
3. Band, Bern 1984, Art. 179bis Rn 50).
Im vorliegenden Fall wusste der Beschwerdeführer von der Überwachung seines Arbeitsplatzes durch Telefonaufzeichnungsgeräte:
Am 23. Mai 1995 unterschrieb er die Empfangsbestätigung "GTRM Procedures Manual" der Bank X._ und verpflichtete sich, die darin festgelegten Verhaltensregeln sorgfältig und vollumfänglich zu beachten.
Das "GTRM Procedures Manual" enthält "Minimumstandards" für die Transaktionsabwicklung sämtlicher Handelseinheiten, wobei auch das "Recording" ausdrücklich als Teil der Transaktionsabwicklung definiert wird. Unter Abschnitt 3 "Handelsumgebung" wird ausdrücklich festgehalten, dass sämtliche Arbeitsplätze durch Telefonaufzeichnungsgeräte überwacht und die Bänder mindestens 6 Monate aufbewahrt werden müssen. In ihrem Schreiben vom 3. Oktober 2000 hat die Bank X._ überdies mitgeteilt, dass die Aufzeichnung von Telefongesprächen in einer Handelsumgebung zum Marktstandard gehöre und jedem Händler der Bank X._ zweifelsfrei bekannt sei, dass seine Telefongespräche aufgezeichnet werden, um bei allfälligen Unstimmigkeiten bei der schriftlichen Transaktionsbestätigung als Beweismittel dienen zu können. Laut Aussagen von Mitarbeitern habe auch der Beschwerdeführer zu diesem Zweck verschiedentlich die Tonbandaufzeichnungen konsultiert.
d) Wusste der Beschwerdeführer somit von der Telefonüberwachung, wurden die Aufzeichnungen mit seiner Zustimmung vorgenommen und verletzten sein Persönlichkeitsrecht nicht. Entgegen der Auffassung des Beschwerdeführers spielt es keine Rolle, dass er der Weitergabe dieser internen Aufzeichnungen an externe staatliche Behörden nicht zugestimmt hat. Entscheidend ist vielmehr, dass die (private) Beweiserhebung rechtmässig war und das Beweismittel deshalb keinem Verwertungsverbot unterliegt (Fornito, a.a.O. S. 295/296).
Dann aber berührte die Sicherstellung der Tonbandaufzeichnungen der Bank X._ den Beschwerdeführer nicht persönlich und direkt i.S.v. Art. 80h lit. b IRSG, sondern - wie diejenige der übrigen Bank X._-Unterlagen - nur mittelbar. Die Bezirksanwaltschaft war deshalb nicht verpflichtet, ihn um Zustimmung zur Weiterleitung der Tonbandaufzeichnungen an die ersuchende Behörde zu bitten oder ihm gegenüber eine Schlussverfügung zu erlassen.
3.- Nach dem Gesagten ist die Beschwerde abzuweisen.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten.

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 3'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, der Bezirksanwaltschaft IV für den Kanton Zürich (Rechtshilfe in Strafsachen, Büro 6), der Staatsanwaltschaft und dem Obergericht (III. Strafkammer) des Kantons Zürich sowie dem Bundesamt für Justiz (Abteilung internationale Rechtshilfe) schriftlich mitgeteilt.
_
Lausanne, 5. März 2001
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Die Gerichtsschreiberin: