hat sich ergeben:
A.-Am 21. November 1990 verurteilte das Obergericht des Kantons Zürich A._ wegen Vermögens- und Urkundendelikten zu einer Zuchthausstrafe von zwölf Monaten. Nach der Verbüssung von zwei Dritteln dieser Strafe wurde A._ am 13. Mai 1992 unter Auferlegung einer Probezeit von drei Jahren bedingt aus dem Strafvollzug entlassen.
B.-Am 19. April 1999 verurteilte das Kantonsgericht St. Gallen A._ erneut wegen Vermögens- und Urkundendelikten zu einer Gefängnisstrafe von neun Monaten.
C.- Mit Schreiben vom 14. Juni 1999 stellte das Amt für Justizvollzug des Kantons Zürich beim Kantonsgericht St. Gallen den Antrag auf Strafausscheidung. Darauf teilte das Kantonsgericht St. Gallen mit, die gewünschte Strafausscheidung könne noch nicht vorgenommen werden, weil eine staatsrechtliche Beschwerde gegen das Urteil vom 19. April 1999 eingereicht worden sei.
Am 25. April 2000 informierte das Kantonsgericht St. Gallen das Amt für Justizvollzug des Kantons Zürich über die Abweisung der staatsrechtlichen Beschwerde.
Gleichzeitig teilte es mit, dass eine Strafausscheidung nicht vorgenommen werden müsse, weil alle Delikte, für welche A._ schuldig gesprochen worden sei, in die Probezeit der bedingten Entlassung fallen würden.
D.- Weil die beurteilten Delikte alle innerhalb der Probezeit der bedingten Entlassung lagen, ordnete das Justizvollzugsamt des Kantons Zürich am 10. Mai 2000 den Vollzug des nicht verbüssten Strafrestes von 123 Tagen der Strafe vom 21. November 1990 an. Unter explizitem Hinweis auf die "gegebene Eile" verfügte das Justizvollzugsamt den Vollzug des Strafrestes ohne A._ vorher das rechtliche Gehör zu gewähren: Die Verjährungsfrist von fünf Jahren für den Rückversetzungsentscheid gemäss <ref-law> wäre bereits am 12. Mai 2000 abgelaufen.
E.- A._ erhob gegen diesen Entscheid unter anderem wegen Verletzung seines Anspruchs auf rechtliches Gehör rechtzeitig Rekurs. Er stellte ausserdem das Gesuch um Akteneinsicht und er beantragte Frist, um die Rekursschrift nach Einsicht in die Akten gegebenenfalls zu ergänzen. Die Justizdirektion des Kantons Zürich wies den Rekurs mit Verfügung vom 27. Juli 2000 ab. Die Akten stellte es dem Rekurrenten erst nachträglich zur Verfügung.
F.- Auf Beschwerde von A._ hin hob das Verwaltungsgericht des Kantons Zürich am 6. Oktober 2000 diesen Entscheid wegen Verletzung des rechtlichen Gehörs durch die Rekursinstanz auf und wies die Sache an die Rekursinstanz zurück.
G.- Nachdem der Beschwerdeführer Einsicht in die Akten genommen und die Rekursschrift ergänzt hatte, wies die Justizdirektion den Rekurs mit Verfügung vom 31. Januar 2001 erneut ab.
H.- Die dagegen von A._ erhobene Beschwerde wies das Verwaltungsgericht des Kantons Zürich am 18. Mai 2001 ab.
I.- Ohne anwaltliche Vertretung führt A._ Verwaltungsgerichtsbeschwerde vor Bundesgericht mit den Anträgen, der Entscheid des Verwaltungsgerichts sei aufzuheben und der Beschwerde sei aufschiebende Wirkung zuzuerkennen.
Sinngemäss beantragt er den Verzicht auf den Vollzug des Strafrestes von 123 Tagen. Ebenfalls sinngemäss stellt er das Gesuch um unentgeltliche Rechtspflege.
K.- Das Verwaltungsgericht beantragt die Abweisung der Beschwerde.

Das Bundesgericht zieht in Erwägung:
1.- a) Letztinstanzliche kantonale Entscheide über Fragen des nachträglichen Strafvollzugs unterliegen gemäss Art. 98 lit. g OG der Verwaltungsgerichtsbeschwerde an das Bundesgericht. Der Beschwerdeführer hat als unmittelbar Betroffener ein schutzwürdiges Interesse an der Aufhebung des angefochtenen Entscheids, weshalb er zur Beschwerde legitimiert ist (Art. 103 lit. a OG). Die Beschwerde ist rechtzeitig erhoben worden. Auf die Beschwerde ist daher einzutreten.
b) Mit der Verwaltungsgerichtsbeschwerde kann die Verletzung von Bundesrecht aller Stufen, also auch von Bundesverfassungsrecht, sowie Überschreitung oder Missbrauch des Ermessens, nicht aber Unangemessenheit gerügt werden (Art. 104 OG). Nachdem als Vorinstanz eine richterliche Behörde entschieden hat, ist das Bundesgericht an die Feststellung des Sachverhaltes gebunden, soweit dieser nicht offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensvorschriften ermittelt worden ist (Art. 105 Abs. 2 OG).
2.- a) Soweit der Beschwerdeführer rügt, die kantonalen Instanzen hätten vor dem Hintergrund seiner gelungenen Resozialisierung und der langen Zeitdauer seit den der Strafe zu Grunde liegenden Delikten vom Vollzug der Reststrafe absehen sollen, ist die Beschwerde abzuweisen.
Er unterstellt damit den kantonalen Behörden einen Ermessensspielraum, welche diese im Rahmen von <ref-law> sowohl nach dem Wortlaut der Vorschrift wie auch nach dem Willen des Gesetzgebers nicht haben. Sofern die gesetzlichen Voraussetzungen erfüllt sind, ist der Vollzug einer Reststrafe zwingend und ohne Rücksicht auf die persönlichen Verhältnisse des Betroffenen anzuordnen. Es steht fest, dass die Voraussetzungen für den Vollzug der Reststrafe am 10. Mai 1999 erfüllt waren. Insoweit ist der vorinstanzliche Entscheid nicht zu beanstanden. Vorliegend rügt der Beschwerdeführer jedoch in erster Linie, er sei in seinem in <ref-law> kodifizierten Anspruch auf rechtliches Gehör verletzt worden, weil er sich vor dem Rückversetzungsentscheid nicht habe äussern können.
b) Einleitend stellt die Vorinstanz fest, dass sich die Verjährungsfrist von fünf Jahren nach einhelliger Auffassung von Lehre und Rechtsprechung auf den Anordnungszeitpunkt des Rückversetzungsentscheides beziehe, nicht auf dessen Rechtskraft. Weiter stellt die Vorinstanz fest, dass die verfügende Behörde den Beschwerdeführer in seinem Anspruch auf rechtliches Gehör verletzt habe, indem sie seine Rückversetzung in den Strafvollzug anordnete, ohne ihn vorher anzuhören. Das Verwaltungsgericht geht jedoch unter Hinweis auf die bundesgerichtliche Rechtsprechung davon aus, dass dieser Verfahrensmangel, welcher die Anfechtbarkeit der fraglichen Verfügung, nicht aber deren Nichtigkeit zur Folge habe, ausnahmsweise und unter bestimmten Umständen heilbar sei: Wenn die Rekursinstanz die Sache mit derselben Kognition beurteile wie die verfügende Behörde und wenn der Gehörsanspruch in einem Punkt verletzt sei, der auf den Ausgang des Verfahrens keinen Einfluss habe. Diese Bedingungen seien in casu erfüllt. Ausserdem habe der verfügenden Behörde für den Rückversetzungsentscheid kein Ermessen zugestanden, und der Beschwerdeführer habe weder in der ergänzten Rekursschrift noch in der Beschwerde an das Verwaltungsgericht relevante und zu berücksichtigende Gründe vorgebracht, welche gegen den Vollzug der Reststrafe sprechen würden.
c) Dagegen wendet der Beschwerdeführer ein, dass der Vollzug des Strafrestes ausdrücklich ohne Gewährung des rechtlichen Gehörs verfügt worden sei; dieser Mangel sei nachträglich nicht heilbar, weil bei rechtskonformem Vorgehen die Rückversetzung wegen Verjährung nicht mehr hätte angeordnet werden können. Die nachträgliche Gewährung des rechtlichen Gehörs sei eine Alibiübung, die allein den Zweck habe, die offensichtliche Rechtsbeugung durch das Justizvollzugsamt nachträglich zu legalisieren.
3.- a) Der in <ref-law> statuierte Anspruch auf rechtliches Gehör berechtigt eine Partei unter anderem, sich vor Erlass eines in ihre Rechtsstellung eingreifenden Entscheids zu äussern.
Grundsätzlich gilt der Gehörsanspruch nach bundesgerichtlicher Rechtsprechung als unbedingter formeller Anspruch, dessen Verletzung die Aufhebung eines diesbezüglich mangelhaften Entscheides zur Folge hat. In bestimmten Konstellationen und unter bestimmten Bedingungen ist es jedoch möglich, dass eine Verletzung des rechtlichen Gehörs im Verfahren vor einer oberen Instanz geheilt werden kann (vgl. <ref-ruling> E. 2d; <ref-ruling> E. 4b; <ref-ruling> E. 4, mit Hinweisen). Diese Praxis wird in der Wissenschaft teilweise kritisiert (vgl.
Georg Müller, Rechtsgleichheit, Kommentar zu <ref-law>, Überarbeitung 1995, Rz. 103; Imboden/Rhinow/Krähenmann, Schweizerische Verwaltungsrechtsprechung, Nr. 87 B III; zusammenfassende Darstellung bei Lorenz Kneubühler, Gehörsverletzung und Heilung, ZBl 99/1998 S. 97-120).
Die Heilung des Verfahrensmangels kommt jedoch nur dann in Betracht, wenn dem Betroffenen durch die erst nachträgliche Gewährung des rechtlichen Gehörs kein Rechtsnachteil erwachsen ist. Eine Behörde darf nicht unter gezielter Verletzung des rechtlichen Gehörs ein Resultat erreichen, zu dem sie bei korrektem Vorgehen nicht gelangen könnte. Genau dies macht der Beschwerdeführer geltend, indem er ausführt, dass die Behörde bei korrektem Vorgehen ab dem 10. Mai 2000 und vor Eintritt der Verjährung die Rückversetzung in den Strafvollzug gar nicht mehr hätte anordnen können. Es ist deshalb vorfrageweise zu prüfen, ob das Amt für Justizvollzug die Rückversetzung des Beschwerdeführers in den Strafvollzug am 10. Mai 2001 überhaupt noch rechtlich einwandfrei hätte anordnen können. Nur wenn dies zu bejahen wäre, müsste geprüft werden, ob in casu der Verfahrensmangel der Gehörsverletzung nachträglich geheilt worden ist. Für den Fall, dass vor Eintritt der Verjährung am 12. Mai 2000 die rechtlich korrekte Anordnung der Rückversetzung gar nicht mehr möglich gewesen wäre, hätte der Beschwerdeführer durch das unkorrekte Vorgehen der Behörde einen schwerwiegenden Rechtsnachteil erlitten; die Heilbarkeit der Gehörsverletzung fiele dann zum vornherein ausser Betracht.
b) Stehen erhebliche Interessen auf dem Spiel und ist Gefahr im Verzug, so kann die zuständige Behörde eine superprovisorische Verfügung erlassen, das heisst ohne dem Betroffenen vorgängig das rechtliche Gehör zu gewähren (vgl. Kölz/Bosshart/Röhl, Kommentar zum Verwaltungsrechtspflegegesetz des Kantons Zürich, 2. Auflage 1999, § 6 Rz. 23, § 8 Rz. 45). Diesfalls genügt die nachträgliche Gewährung des Gehörs den verfassungsrechtlichen Erfordernissen.
Ob die für den Rückversetzungsentscheid drohende Verjährung ein erhebliches Interesse ist, welches den Erlass einer superprovisorischen Verfügung rechtfertigen würde, muss in casu nicht entschieden werden.
Zwar war die zeitliche Dringlichkeit am 10. Mai 2001 offensichtlich gegeben, doch haben es allein die beteiligten Behörden zu vertreten, dass über die Rückversetzung des Beschwerdeführers in den Strafvollzug erst an diesem Tag entschieden wurde und deshalb nur noch unter Aufschub des Gehörsanspruchs des Betroffenen überhaupt entschieden werden konnte: Der Vollzug der Reststrafe hätte im ordentlichen Verfahren und mit vorgängiger Gewährung des rechtlichen Gehörs bereits unmittelbar im Anschluss an das Urteil des Kantonsgerichts St. Gallen, auf jeden Fall aber im Laufe des Jahres 1999 angeordnet werden können. Die Einreichung einer staatsrechtlichen Beschwerde hindert die Rechtskraft eines kantonal letztinstanzlichen Strafurteils nicht. Auch wäre die vom Amt für Justizvollzug im Juni 1999 beantragte Strafausscheidung - die sich im Nachhinein überdies als gegenstandslos herausstellte, weil alle Delikte während der Probezeit begangen worden waren - bereits im Juni 1999 möglich gewesen. Unter diesen Umständen rechtfertigt es sich nicht, auf das Institut der superprovisorischen Verfügung zurückzugreifen, um die drohende Verjährung abzuwenden. Wenn die Rückversetzung in den Strafvollzug am 10. Mai 2000 in einem rechtlich korrekten Verfahren gar nicht mehr möglich war, kann eine nachträgliche Heilung der Gehörsverletzung nicht angenommen werden. Es kann offen bleiben, wie zu entscheiden wäre, wenn die Behörden den Eintritt der verjährungsrechtlich dringlichen Situation nicht zu vertreten hätten.
Anzumerken bleibt, dass eine Behörde, welche eine superprovisorische Verfügung erlässt, das rechtliche Gehör nachträglich so schnell wie möglich selbst gewähren muss und nicht auf die Heilung in einem Rechtsmittelverfahren vertrauen darf.
Die Beschwerde ist demnach gutzuheissen. Der nachträgliche Vollzug der Reststrafe des Urteils vom 21. November 1990 ist wegen Eintritts der Verjährung nicht mehr möglich.
4.- Mit dem Entscheid in der Sache ist das Gesuch um aufschiebende Wirkung für die Beschwerde hinfällig.
Bei diesem Verfahrensausgang ist auch das Gesuch um unentgeltliche Rechtspflege als gegenstandslos abzuschreiben.
Es sind keine Kosten zu erheben und keine Entschädigungen auszurichten.

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird gutgeheissen und der Entscheid des Verwaltungsgerichts des Kantons Zürich vom 18. Mai 2001 aufgehoben. Der nachträgliche Vollzug des Strafrestes des Urteils vom 21. November 1990 wird wegen Eintritts der Verjährung nicht mehr angeordnet.
2.- Es werden keine Kosten erhoben.
3.- Dieses Urteil wird den Parteien, dem Verwaltungsgericht (4. Abteilung) des Kantons Zürich sowie dem Eidgenössischen Justiz- und Polizeidepartement schriftlich mitgeteilt.
_
Lausanne, 13. November 2001
Im Namen des Kassationshofes
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: