Strafausscheidung (Art. 38 Ziff. 4 Abs. 1 StGB)(eidgenössische Nichtigkeitsbeschwerde gegen den Beschluss des Obergerichts des Kantons Zürich [III. Strafkammer] vom 4. April 2000 [S3/U/O/UG990076/gk]), hat sich ergeben: A.- Das Obergericht des Kantons Zürich fand im Berufungsverfahren am 7. Mai 1998 B._ der teilweise bandenmässigen Widerhandlung gegen das Betäubungsmittelgesetz schuldig. Das Kassationsgericht des Kantons Zürich wies eine Nichtigkeitsbeschwerde von B._ am 9. August 1999 ab, soweit es darauf eintrat. Das Bundesgericht wies am 14. Oktober 1999 eine eidgenössische Nichtigkeitsbeschwerde von B._ gegen das Urteil des Obergerichts ab (BGE 6S.614/1998). B.- Die vom Obergericht am 7. Mai 1998 beurteilten Straftaten fielen teilweise in die zweijährige Probezeit nach bedingter Entlassung aus dem Strafvollzug, die das damalige Amt für Straf- und Massnahmenvollzug (ASMV) und heutige Amt für Justizvollzug (AJV) mit Verfügung vom 1. November 1995 angeordnet hatte. Auf Grund des Urteils vom 7. Mai 1998 hatte das AJV den Widerruf und die Rückversetzung zu prüfen und stellte im Sinne von Art. 38 Ziff. 4 Abs. 1 StGB das Gesuch um Strafausscheidung. Das Obergericht des Kantons Zürich stellte mit Beschluss vom 4. April 2000 fest, "dass für die in die vom Amt für Straf- und Massnahmenvollzug mit Verfügung vom 1. November 1995 angesetzte Probezeit von 2 Jahren fallenden, vom Obergericht des Kantons Zürich, I. Strafkammer, am 7. Mai 1998 beurteilten Delikte eine drei Monate übersteigende Strafe ausgefällt worden wäre und deren Vollzug nicht hätte bedingt aufgeschoben werden können". Das Kassationsgericht des Kantons Zürich wies eine Nichtigkeitsbeschwerde von B._ am 17. Mai 2001 ab, soweit es darauf eintrat. C.- B._ erhebt eidgenössische Nichtigkeitsbeschwerde mit dem Antrag, den Beschluss des Obergerichts vom 4. April 2000 aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. D.- Das Obergericht des Kantons Zürich verzichtet auf eine Stellungnahme.