für die Niederlande - B 101343 FB/Jas, hat sich ergeben: A.- die niederländischen Behörden ermitteln gegen S._ und P._ wegen Urkundenfälschung, Betrugs, Ausnützens der Kenntnis vertraulicher Tatsachen und weiterer Delikte. Auch im Kanton Zürich wurde ein Untersuchungsverfahren gegen S._ und weitere Personen u.a. wegen ungetreuer Geschäftsbesorgung eröffnet. Die Schweizer Behörden wurden in dieser Sache mehrfach um Rechtshilfe angegangen und es wurden mehrere Eintretens- und Schlussverfügungen erlassen. B.- Am 9. April 1999 erliess die Bezirksanwaltschaft IV für den Kanton Zürich die "Eintretensverfügung Nr. 1 - Req Schweiz I". Darin wurde u.a. die Einvernahme von S._ als Angeschuldigter und die Edition diverser Bankunterlagen der Bank X._ in Zürich angeordnet. Die Bank X._ wurde ferner aufgefordert, ein Dossier einzureichen, das bei einer internen Untersuchung im Jahre 1988 über mögliche Veruntreuungen im Zusammenhang mit Effektentransaktionen zwischen S._ und dem damaligen Bankangestellten N._ erstellt worden war. Dieses Dossier enthält auch Tonbandaufnahmen von Gesprächen zwischen S._ und N._. C.- Am 5. Februar 1999 gelangte ein weiteres Rechtshilfeersuchen der Niederlande an die schweizerischen Behörden ("Schweiz III"), in dem um Ermittlungen bei der Bank Y._ in Genf und der Bank Z._ in Zürich gebeten wurde. Die Bezirksanwaltschaft IV erliess daraufhin am 9. April 1999 die Eintretensverfügung Nr. 4. Diese wurde S._ nicht mitgeteilt. D.- Am 3. Juni 1999 wurde S._ polizeilich einvernommen. Auf die ursprünglich beabsichtigte untersuchungsrichterliche Einvernahme in Anwesenheit von niederländischen Beamten wurde verzichtet, nachdem der Rechtsvertreter S._s angekündigt hatte, dieser werde Rekurs erheben und vorderhand keine Aussage machen. E.- Am 13. Juli 1999 stellte S._ ein erstes Akteneinsichtsgesuch bei der Bezirksanwaltschaft IV, das am 14. Juli teilweise gutgeheissen und teilweise abgewiesen wurde: S._ wurde Einsicht in das Rechtshilfeersuchen vom 8. Dezember 1998 und dessen Beilagen, die Eintretensverfügung Nr. 1 sowie die Dokumente betreffend seine Einvernahme und seine Vertretung gewährt. Eine weitergehende Akteneinsicht wurde abgelehnt, weil er hinsichtlich der Aktenedition durch die Bank X._ nicht direkt betroffen sei und ihm diesbezüglich auch die Beschwerdelegitimation fehle. F.- Nachdem die Bezirksanwaltschaft Schlussverfügungen gegenüber dem Mitbeschuldigten P._und weiteren betroffenen Personen, nicht jedoch gegenüber S._, erlassen hatte, ersuchte dieser am 22. September 1999 erneut um Einsicht in die gesamten Akten des Rechtshilfeverfahrens. Die Bezirksanwaltschaft IV lehnte am 23. September 1999 eine weitergehende Akteneinsicht ab und verwies S._ darauf, seine Mitwirkungsrechte in den Strafverfahren vor der Bezirksanwaltschaft III und in den Niederlanden geltend zu machen. G.- Hiergegen erhob S._ Rekurs ans Obergericht des Kantons Zürich. Dieses wies den Rekurs am 10. Februar 2000 ab, soweit es darauf eintrat. Das Obergericht nahm an, S._ sei vom Rechtshilfeverfahren nur insoweit persönlich und direkt betroffen, als er rechtshilfeweise als Angeschuldigter einvernommen worden sei; in alle Akten, die mit dieser Massnahme in Zusammenhang stehen, sei ihm bereits Akteneinsicht gewährt worden. H.- Gegen den Entscheid des Obergerichts erhob S._ am 2. März 2000 Verwaltungsgerichtsbeschwerde ans Bundesgericht. Darin beantragte er u.a., die Untersuchungsbehörde sei anzuweisen, nach Beendigung der Rechtshilfemassnahmen gegen den Beschwerdeführer eine Schlussverfügung gemäss Art. 80d IRSG zu erlassen. Das Bundesgericht trat am 27. April 2000 auf die Beschwerde nicht ein, weil die Versagung der Akteneinsicht eine Zwischenverfügung sei, die zusammen mit der Schlussverfügung angefochten werden müsse; auf den Antrag auf Erlass einer Schlussverfügung könne nicht eingetreten werden, weil der Beschwerdeführer insoweit den kantonalen Instanzenweg nicht erschöpft habe. I.- Am 29. Mai 2000 erhob S._ Rechtsverweigerungsrekurs beim Obergericht mit dem Antrag, die Bezirksanwaltschaft sei zu verpflichten, ihm gegenüber eine Schlussverfügung zu erlassen, und zwar sowohl hinsichtlich des Rechtshilfeverfahrens Schweiz I vom 8. Dezember 1998 mit der Eintretensverfügung Nr. 1 - Req. Schweiz I vom 9. April 1999, als auch hinsichtlich des Rechtshilfeverfahrens Schweiz III, übermittelt am 5. Februar 1999, mit der Eintretensverfügung Nr. 4 - Req. Schweiz III. Das Obergericht trat am 3. November 2000 auf den Rekurs wegen Fristversäumnis nicht ein. Im Sinne einer Eventualbegründung hielt es fest, dass der Rekurs auch in der Sache abzuweisen wäre. J.- Hiergegen erhob S._ am 7. Dezember 2000 Verwaltungsgerichtsbeschwerde ans Bundesgericht. Er beantragt: 1. Die Beschlüsse der III. Strafkammer des Obergerichts des Kantons Zürich vom 3. November 2000 und vom 10. Februar 2000 seien aufzuheben. 2. Mit der Aufhebung der vorgenannten Obergerichtsbeschlüsse seien auch die Eintretensverfügungen im Rechtshilfeverfahren REC 99/RO104 (Verfügung Nr. 1 - Req Schweiz I vom 9. April 1999 und Verfügung Nr. 4 - Req Schweiz III vom 9. April 1999) aufzuheben und die gegen den Beschwerdeführer beantragte Rechtshilfe sei zu verweigern. 3. Eventualiter sei anzuordnen, dass in dem gegen den Beschwerdeführer gerichteten Rechtshilfeverfahren, welches mit Eintretensverfügung Nr. 1 - Req Schweiz I vom 9. April 1999 eröffnet wurde, eine Schlussverfügung im Sinne von Art. 80d IRSG zu erlassen ist unter gleichzeitiger Gewährung vollumfänglicher Akteneinsicht für den Beschwerdeführer in die Akten des Rechtshilfeverfahrens REC 99/RO104. 4. Subeventualiter sei das Verfahren an die Vorinstanz und die verfügende Behörde zurückzuweisen mit der Anordnung, eine vollständige und begründete Schlussverfügung gemäss Art. 80d IRSG zu erlassen, mit einer Art. 22 IRSG entsprechenden Rechtsmittelbelehrung. 5. Eventualiter sei Akteneinsicht zu gewähren in ein vollständiges Aktenverzeichnis des Rechtshilfeverfahrens REC 99/RO104 sowie in sämtliche Akten, welche den Beschwerdeführer persönlich betreffen, inklusive aller diesbezüglichen Aktennotizen über Gespräche, Anordnungen oder Massnahmen bezüglich Zusammenarbeit mit der ersuchenden holländischen Behörde sowie Auskunftspersonen, Zeugen und sonstigen Dritten sowie all jener Akten, die für die Beurteilung der Zulässigkeit der Rechtshilfe von Bedeutung sind. 6. Soweit den Beschwerdeführer persönlich betreffende Auskünfte und Aktenstücke bereits vor Erlass einer Schlussverfügung an die ersuchende holländische Behörde weitergeleitet worden sind, ist die aufschiebende Wirkung gemäss Art. 80l IRSG wieder herzustellen, indem die geeigneten Anordnungen getroffen werden, so einerseits die Feststellung, dass die Weiterleitung derartiger Unterlagen vor Erlass einer Schlussverfügung rechtswidrig war und andererseits die Anordnung, dass die verfügende Behörde gegenüber den ersuchenden holländischen Behörden die Unverwertbarkeit solcher Nachrichten oder Aktenstücke im holländischen Verfahren gegen den Beschwerdeführer geltend zu machen haben. Alle beteiligten Behörden haben auf eine Vernehmlassung verzichtet.