zieht das Bundesgericht in Erwägung:
1.- Mit Schreiben vom 7. Dezember 2000 ersuchte das Bundesministerium der Justiz in Bonn die Schweiz um Übernahme der Vollstreckung einer Reststrafe von 815 Tagen aus dem gegen den schweizerischen Staatsangehörigen X._ ausgesprochenen rechtskräftigen und gemäss den Angaben der deutschen Behörden vollstreckbaren Urteil des Landgerichts Augsburg vom 4. August 1994 wegen vorsätzlicher Verletzung der Buchführungspflicht, vorsätzlichen Bankrotts und Kreditbetrugs.
Das angegangene Bundesamt für Justiz übermittelte das Ersuchen mit Schreiben vom 14. Dezember 2000 dem Departement für Justiz und Sicherheit des Kantons Thurgau und lud dieses gemäss <ref-law> zu einer Stellungnahme ein.
Am 19. Dezember 2000 erklärte sich das Departement zur Übernahme der Angelegenheit bereit.
Am 8. Februar 2001 entschied das Bundesamt in Anwendung von <ref-law>, das deutsche Ersuchen vom 7. Dezember 2000 anzunehmen, indem es die massgebenden Voraussetzungen im Sinne von Art. 94 ff. und 103 IRSG als erfüllt erachtete. Es beantragte dem erwähnten Departement, das Exequaturverfahren gegen X._ im Sinne von <ref-law> durch den dafür zuständigen Richter in die Wege zu leiten und die Vollstreckung des deutschen Urteils vollumfänglich zu übernehmen. Das Bundesamt hat seinem Entscheid die Rechtsmittelbelehrung beigefügt, es stehe dagegen die Verwaltungsgerichtsbeschwerde an das Bundesgericht offen.
Dieser Rechtsmittelbelehrung entsprechend führt X._ mit Eingabe vom 21. März 2001 Verwaltungsgerichtsbeschwerde mit dem Antrag, der Entscheid vom 8. Februar 2001 sei aufzuheben; das deutsche Ersuchen sei abzuweisen.
Sodann ersucht er, das vorliegende Verfahren sei zu sistieren, bis über ein in Augsburg eingeleitetes Wiederaufnahme- bzw. Revisionsverfahren rechtskräftig entschieden worden sei.
Das Bundesamt schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, soweit darauf einzutreten sei.
Ebenso ersucht es um Ablehnung des Sistierungsgesuchs.
2.- a) Das Bundesgericht prüft die Zulässigkeit der bei ihm eingereichten Beschwerden von Amtes wegen und mit freier Kognition (<ref-ruling> E. 2a, 126 I 257 E. 1a, 126 II 506 E. 1, mit Hinweisen).
b) Der angefochtene Entscheid betrifft nicht eine Auslieferungssache, sondern die durch das Bundesamt im Vorprüfungsverfahren verfügte Annahme eines deutschen Strafvollstreckungsbegehrens.
Es geht um die Frage, ob die Voraussetzungen erfüllt sind, dass die ersuchten schweizerischen Behörden die Vollstreckung der den Beschwerdeführer betreffenden (Rest-)Strafe gemäss dem erwähnten Urteil des Landgerichts Augsburg übernehmen können. In diesem Zusammenhang massgebend sind somit zunächst die Bestimmungen von <ref-law> in Bezug auf die Vollstreckungsvoraussetzungen und die Regeln von <ref-law> in Bezug auf das Verfahren in Fällen von Vollstreckungsersuchen, wie das Bundesamt an sich zutreffend erwogen und auch der Beschwerdeführer festgestellt hat.
In Berücksichtigung von <ref-law> hat das Bundesamt nach Rücksprache mit der zuständigen Vollzugsbehörde des Kantons Thurgau über die Annahme des deutschen Ersuchens entschieden. Es hat die gesetzlichen Voraussetzungen der Annahme, wie ausgeführt, aus seiner Sicht bejaht und entsprechend zuhanden der kantonalen Behörde beantragt, diese möge das Exequaturverfahren gegen den Verfolgten im Sinne von <ref-law> durch den dafür nach <ref-law> zuständigen Richter in die Wege leiten und die Vollstreckung des fraglichen deutschen Urteils vollumfänglich übernehmen.
Beim Entscheid des Bundesamtes handelt es sich aber somit erst um eine Vorprüfung des ausländischen Ersuchens, dessen endgültige Beurteilung nach dem Gesagten dem für das eigentliche Exequaturverfahren selber zuständigen Richter obliegt.
Bildet indes erst ein solcher Vorprüfungsentscheid des Bundesamtes Verfahrensgegenstand, so ist die Annahme oder die Weiterleitung eines ausländischen Ersuchens an die ausführende Behörde nicht selbständig anfechtbar (s. die zusammenfassende Bestimmung von <ref-law> namentlich mit Hinweis auf Art. 78 Abs. 2 und Art. 104 IRSG, zudem auch Robert Zimmermann, La coopération judiciaire internationale en matière pénale, Bern 1999, S. 405). Daran vermag die dem angefochtenen Entscheid des Bundesamtes somit fälschlicherweise beigefügte Rechtsmittelbelehrung nichts zu ändern.
Gemäss einem aus dem Prinzip von Treu und Glauben (<ref-law> bzw. Art. 4 aBV) fliessenden und in Art. 107 Abs. 3 OG ausdrücklich verankerten Grundsatz des öffentlichen Prozessrechts darf allerdings einer Partei aus einer fehlerhaften behördlichen Rechtsmittelbelehrung kein Nachteil erwachsen (<ref-ruling> E. 1a S. 257 ff.). Im vorliegenden Fall ist ein Nachteil indes nicht ersichtlich, da der für das Exequaturverfahren zuständige Richter die Voraussetzungen der Vollstreckbarkeit des ausländischen Urteils von Amtes wegen und unter Würdigung der vom Verfolgten geltend gemachten Einwände zu prüfen haben wird (Art. 105 und 106 IRSG). Zudem ist der Fehlerhaftigkeit der behördlichen Auskunft auch bei den Kostenfolgen angemessen Rechnung zu tragen (nachf. E. 3).
c) Somit ergibt sich, dass auf die vorliegende Verwaltungsgerichtsbeschwerde nicht einzutreten ist. Es wird, wie erwähnt, Sache des nach <ref-law> in Verbindung mit <ref-law> zuständigen Richters sein, den Beschwerdeführer anzuhören bzw. dessen Einwände gegen eine Vollstreckung des ihn betreffenden deutschen Urteils zu würdigen (<ref-law>).
Unter den gegebenen Umständen besteht kein Anlass, das bundesgerichtliche Verfahren im Sinne des Antrags des Beschwerdeführers zu sistieren, zumal derzeit nichts darauf hinweist, das Bundesministerium der Justiz in Bonn ziehe sein Übernahmebegehren zurück.
3.- In Anbetracht der dem Beschwerdeführer erteilten fehlerhaften Rechtsmittelbelehrung rechtfertigt es sich, für das bundesgerichtliche Verfahren keine Gerichtsgebühr zu erheben.
Sodann hat ihm das Bundesamt eine angemessene Parteientschädigung zu bezahlen.

Demnach erkennt das Bundesgericht
im Verfahren nach Art. 36a OG:
1.- Das Sistierungsbegehren wird abgewiesen.
2.- Auf die Verwaltungsgerichtsbeschwerde wird nicht eingetreten.
3.- Es wird keine Gerichtsgebühr erhoben.
4.- Das Bundesamt für Justiz hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'000.-- zu bezahlen.
5.- Dieses Urteil wird dem Beschwerdeführer, dem Departement für Justiz und Sicherheit des Kantons Thurgau sowie dem Bundesamt für Justiz, Abteilung Internationale Rechtshilfe, Sektion Auslieferung, schriftlich mitgeteilt.
_
Lausanne, 26. April 2001
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: