mehrfache Urkundenfälschung (Art. 251 Ziff. 1 Abs. 1 und 2 aStGB), mehrfacher Betrugsversuch (Art. 148 Abs. 1 aStGB i.V.m. <ref-law>); Begehungsort, anwendbares Recht (Art. 3, 6 und 7 StGB); Beschleunigungsgebot (Art. 6 EMRK), hat sich ergeben:
A.- X._ versuchte im Oktober 1993 mit drei andern Personen vier türkische Banken in Istanbul und Izmir zur Zahlung von Geldbeträgen in der Höhe von insgesamt rund 132 Millionen Franken auf teils kurz zuvor bei diesen Banken errichtete Kundenkonti zu veranlassen. Dabei wurden angeblich von der A._ (Suisse) stammende, inhaltlich unwahre Telex-Zahlungsanweisungen verwendet, welche mit korrekten Testschlüsseln (so genannte "Key Tested Telex"-Übermittlungscodes) versehen waren, von welchen sich einer der Beteiligten, der bei der fraglichen Bank (A._) tätig war, durch Einsichtnahme in die vertraulichen Testschlüsselvereinbarungen unbefugt Kenntnis verschafft hatte. Da die türkischen Banken nach Erhalt der Telex-Zahlungsanweisungen Rückfragen an die A._ richteten und die Zahlungsanweisungen sich dabei als Fälschungen erwiesen, unterblieben die entsprechenden Gutschriften.
B.- Das Obergericht des Kantons Zürich verurteilte X._ am 12. Januar 2001 in Bestätigung des Entscheids des Bezirksgerichts Zürich vom 10. Juni 1998 wegen mehrfacher Urkundenfälschung (Art. 251 Ziff. 1 Abs. 1 aStGB) und wegen mehrfachen vollendeten Betrugsversuchs (Art. 148 Abs. 1 aStGB i.V.m. <ref-law>) zu einer (unbedingt vollziehbaren) Zuchthausstrafe von 18 Monaten (unter Anrechnung von 275 Tagen Untersuchungshaft) als Zusatzstrafe zu einem Urteil des Obergerichts des Kantons Basel-Landschaft vom 21. Oktober 1997.
C.- X._ führt eidgenössische Nichtigkeitsbeschwerde mit dem Antrag, das Urteil des Obergerichts sei aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
D.- Das Kassationsgericht des Kantons Zürich wies am 8. August 2001 die von X._ erhobene kantonale Nichtigkeitsbeschwerde ab, soweit es darauf eintrat.

Das Bundesgericht zieht in Erwägung:
1.- Gemäss <ref-law> ist diesem Gesetz unterworfen, wer in der Schweiz ein Verbrechen oder ein Vergehen verübt (so genanntes Territorialitätsprinzip).
Nach <ref-law> gilt ein Verbrechen oder ein Vergehen als da verübt, wo der Täter es ausführt, und da, wo der Erfolg eingetreten ist. Der Versuch gilt als da begangen, wo der Täter ihn ausführt, und da, wo nach seiner Absicht der Erfolg hätte eintreten sollen (so genanntes Ubiquitätsprinzip). Der Schweizer, der im Ausland ein Verbrechen oder ein Vergehen verübt, für welches das schweizerische Recht die Auslieferung zulässt, ist, sofern die Tat auch am Begehungsort strafbar ist, diesem Gesetz unterworfen, wenn er sich in der Schweiz befindet oder der Eidgenossenschaft wegen dieser Tat ausgeliefert wird. Ist das Gesetz des Begehungsortes für den Täter das mildere, so ist dieses anzuwenden (<ref-law>; so genanntes aktives Personalitätsprinzip).
a) Der Beschwerdeführer leistete in der Schweiz erhebliche Tatbeiträge zu den inkriminierten Taten. Er beauftragte den einen Mitangeklagten mit der Beschaffung der "Key Tested Telex"-Überweisungscodes bei der A._. Er beauftragte einen andern Mitangeklagten mit der Eröffnung von Konten bei den türkischen Banken, welchen die zur Zahlung angewiesenen Geldbeträge gutgeschrieben werden sollten. Er formulierte den Wortlaut der Zahlungsanweisungen, welche per Telex an die türkischen Banken übermittelt werden sollten, bzw. gab diesbezügliche detaillierte schriftliche Instruktionen. Es steht jedoch nicht fest, wer schliesslich die Zahlungsanweisungen per Telex an die vier türkischen Banken übermittelte. Insbesondere steht auch nicht fest, wo dies geschah, ob die Telexe von einer Telexstation in der Schweiz oder von Telexstationen im Ausland an die türkischen Banken versandt wurden. Die kantonalen Instanzen gingen - "in dubio pro reo" - davon aus, dass die Telexe von Telexstationen im Ausland aus versandt wurden (siehe zum Ganzen im Einzelnen die Anklageschrift sowie angefochtenes Urteil S. 7 ff.).
b) aa) Nach der Auffassung der ersten Instanz sind der Anklageschrift keine relevanten Anknüpfungspunkte für eine Tatbegehung in der Schweiz zu entnehmen (erstinstanzliches Urteil S. 103). Die erste Instanz verweist zur Begründung im Einzelnen auf ihren Beschluss vom 14. Oktober 1997, worin sie auf die Anklage gegen die beiden ausländischen Mitangeklagten mangels räumlichen Geltungsbereichs des schweizerischen Strafrechts nicht eintrat (kant. Akten act. 157). In diesem Beschluss wird unter anderem erwogen, der Schritt von straflosen Vorbereitungshandlungen in das Verbrechen bzw. in den strafbaren Versuch sei erst mit dem - nach aussen auch manifest werdenden - Versand der Telexe geschehen. Diese entscheidende Handlung könne, entgegen der Ansicht der Anklagebehörde, nicht als quasi konsequente Folgehandlung des Abgesprochenen, als bloss mechanisches Eintippen des abgemachten Telex-Textes, bezeichnet werden. Auch sei der "point of no return", ab welchem Zeitpunkt es für die Angeklagten kein Zurück mehr gegeben hätte, nicht bereits in der Weitergabe des Telex-Inhaltes an den unbekannten Versender zu sehen.
Dem Versender wäre es auch dannzumal noch offen gestanden, den Telex nicht abzusenden, und es hätten sich damit auch die übrigen Beteiligten, nach aussen erkennbar, von ihrem Verhalten distanziert (kant. Akten act. 157 S. 17). In der Schweiz sei auch nicht, etwa zum Nachteil der A._, ein - zumindest vorübergehender - Schaden eingetreten, noch hätte nach den Absichten der Angeklagten ein solcher Schaden in der Schweiz eintreten sollen (kant. Akten act.
157 S. 17 ff.). Die inkriminierten Taten seien somit im Ausland verübt worden.
Die erste Instanz hat den Beschwerdeführer, der Schweizer ist, gestützt auf <ref-law> (Verbrechen oder Vergehen von Schweizern im Ausland) nach dem schweizerischen Recht beurteilt, weil das türkische Recht, wie sich aus einem Gutachten ergebe, in Bezug auf die inkriminierten Taten insgesamt nicht milder sei (erstinstanzliches Urteil S. 103 ff.).
bb) Die Vorinstanz ist demgegenüber der Auffassung, die inkriminierten Taten seien auch in der Schweiz ausgeführt worden. Der Beschwerdeführer sei daher gemäss Art. 3 Ziff. 1 Abs. 1 und <ref-law> (Territorialitäts- und Ubiquitätsprinzip) dem schweizerischen Recht unterworfen; die Frage, ob das türkische Recht allenfalls milder sei, stelle sich deshalb nicht. Zur Begründung führt die Vorinstanz aus, dass die Tathandlungen der Angeklagten in der Schweiz das Stadium der strafbaren Vorbereitungshandlungen bereits überschritten hätten. Mit der unmittelbar vor der geplanten Versendung vorgenommenen Übergabe der abgesprochenen und detaillierten Telex-Inhalte an den unbekannten Versender sei der letzte entscheidende Schritt nach dem Plan, den die Täter sich gemacht hätten, von dem es in der Regel kein Zurück mehr gebe, bereits getan worden.
Es sei davon auszugehen, dass lediglich äussere Umstände oder ein unerwarteter Gesinnungswandel eine Weiterverfolgung der Absicht in Form des planmässigen Telex-Versandes noch hätten erschweren oder verunmöglichen können.
Für eine gegenteilige Folgerung lägen keine Anhaltspunkte vor (angefochtenes Urteil S. 16 f.). Die Vorinstanz verweist in diesem Zusammenhang auf den Beschluss der III. Strafkammer des Obergerichts des Kantons Zürich vom 22. Dezember 1998, mit welchem der Rekurs der Staatsanwaltschaft gegen den Beschluss der ersten Instanz vom 14. Oktober 1997 betreffend Nichteintreten auf die Anklage gegen die ausländischen Mitangeklagten gutgeheissen wurde.
Der Rekursentscheid setzt sich eingehend mit der Abgrenzung zwischen strafloser Vorbereitungshandlung und strafbarem Versuch in Rechtsprechung und Lehre auseinander und legt ausführlich dar, weshalb die im vorliegenden Fall in der Schweiz begangenen Handlungen die Schwelle zum strafbaren Versuch überschritten hätten und somit gemäss Art. 3 Ziff. 1 Abs. 1 und <ref-law> schweizerisches Recht anwendbar sei (Berufungsakten act. 48 S. 12 ff.). Im Beschluss wird festgehalten, dass die Angeklagten mit der unmittelbar vor der geplanten Versendung vorgenommenen Übergabe der abgesprochenen und detaillierten Telex-Inhalte an den unbekannten Versender den "point of no return" überschritten hätten (Berufungsakten act. 48 S. 21).
cc) Der Beschwerdeführer macht geltend, zwar seien die inkriminierten Taten zum Teil in der Schweiz geplant und die Testschlüssel ("Key Tested Telex") in der Schweiz beschafft worden. Die Testschlüssel seien aber nur die Werkzeuge für die Urkundenfälschungen. An irgendeinem Telexapparat - nicht in der Schweiz - seien dann diese Testschlüssel verwendet worden, und die Banken in der Türkei hätten die Telexe mit den Anweisungen der Gutschriften auf die entsprechenden Konti in der Türkei erhalten.
Mit der Ausführung der Tat - der Urkundenfälschung - sei nicht in der Schweiz begonnen worden. Der sichtbar gemachte Telex sei mit dessen Ausdruck in der Türkei erschienen.
Die Lesbarkeit des falschen Telexes habe nur in der Türkei bestanden. Erst das Erzeugnis des Telex-Apparates in der Türkei sei die falsche Urkunde gewesen. Da der "Erfolg" in der Türkei auf- oder eingetreten sei, müsse das türkische Recht bzw. für die schweizerischen Staatsangehörigen das mildere Recht angewendet werden. Das Beschaffen der Informationen über das Funktionieren des internationalen bankmässigen Zahlungsverkehrs auf Grund des Systems der so genannten "Key Tested Telex" (KTT) könne nur eine straflose Vorbereitungshandlung sein. Der Beschwerdeführer könne somit nur auf Grund von <ref-law> allenfalls nach schweizerischem Recht verfolgt werden, falls das türkische Recht nicht das mildere sei. Das türkische Recht sei indessen milder als das schweizerische; denn das türkische Recht sehe für den inkriminierten Betrugsversuch eine Verjährungsfrist von lediglich fünf Jahren vor. Somit sei im Herbst 1998, mithin nach der Ausfällung des erstinstanzlichen Urteils, nach dem türkischen Recht die Verjährung eingetreten und falle aus diesem Grunde eine Verurteilung ausser Betracht (Nichtigkeitsbeschwerde S. 2 f.).
c) aa) Das schweizerische Strafgesetzbuch stellt sowohl bei der Regelung seines räumlichen Geltungsbereichs (<ref-law>) wie auch bei der Regelung des interkantonalen Gerichtsstandes (<ref-law>) unter anderem auf den Ort ab, an welchem der Täter die strafbare Handlung ausgeführt hat. Ausführung der Tat ist jedes einzelne tatbestandsmässige Verhalten. Der Entschluss zur Tat und die nicht strafbare Vorbereitung der Tat sind keine Ausführung im Sinne von <ref-law>. Hingegen ist ein Verhalten, das für sich betrachtet als strafbarer Versuch der inkriminierten Tat zu werten ist, Ausführung im Sinne der genannten Bestimmung (siehe <ref-ruling> E. 3a S. 180 f.).
Ob die im vorliegenden Fall in der Schweiz vorgenommenen Handlungen als Versuche der Urkundenfälschung und des Betrugs oder aber noch als (straflose) Vorbereitungshandlungen zu werten seien, kann dahingestellt bleiben.
Vorliegend stehen nicht Taten eines Einzeltäters zur Diskussion, sondern Taten, die von mehreren in der Schweiz handelnden Personen in Mittäterschaft begangen wurden.
bb) Wer als Mittäter einen massgeblichen Tatbeitrag leistet, führt die inkriminierte Tat aus. Werden die eine Mittäterschaft begründenden Handlungen in der Schweiz vorgenommen, so wird die Tat im Sinne von <ref-law> in der Schweiz ausgeführt. Bei Mittäterschaft begründen alle Täter mit ihrem Beitrag einen Ausführungsort (Trechsel, Schweizerisches Strafgesetzbuch, Kurzkommentar, 2. Aufl.
1997, Art. 7 N. 7; Schultz, Der Begehungsort, SJK 1210 S. 6; siehe auch <ref-ruling> E. 1b S. 124 f. sowie das nicht publizierte Urteil des Kassationshofes vom 4. März 1999 i.S. S. gegen VD, 6S.849/1998, E. 2b; vgl. zum deutschen Recht Schönke/Schröder/Eser, Strafgesetzbuch, Kommentar, 26. Aufl. 2001, § 9 N. 4). Allerdings begründet nach der bundesgerichtlichen Rechtsprechung ein Verhalten, welches als Anstiftung (<ref-law>) oder als Gehilfenschaft (<ref-law>) zu qualifizieren ist, keinen eigenen Ausführungsort und gilt somit die Teilnahme mit Rücksicht auf den Grundsatz der Akzessorietät als dort verübt, wo der Haupttäter gehandelt hat (<ref-ruling> E. 5 S. 304; <ref-ruling> E. 7b S. 86; siehe auch <ref-law> betreffend den Gerichtsstand der Teilnehmer). Die Mittäterschaft unterscheidet sich indessen wesentlich von der Teilnahme. Der Mittäter ist Täter und somit auch "Täter" im Sinne von Art. 3 und 7 StGB. Demgegenüber werden der Anstifter und der Gehilfe, d.h. der Teilnehmer, in diesen Bestimmungen nicht genannt.
Der Beschwerdeführer nahm in der Schweiz eine ganze Reihe von Handlungen vor, die jedenfalls in ihrer Gesamtheit seine Mittäterschaft an den inkriminierten Straftaten begründen. Er hat somit als Mittäter die inkriminierten Taten im Sinne von Art. 3 Ziff. 1 Abs. 1 und <ref-law> in der Schweiz ausgeführt.
Die Vorinstanz hat deshalb im Ergebnis zu Recht die inkriminierten Handlungen gestützt auf Art. 3 Ziff. 1 Abs. 1 und <ref-law> in Anwendung des schweizerischen Rechts beurteilt.
Die eidgenössische Nichtigkeitsbeschwerde ist daher in diesem Punkt abzuweisen.
2.- Der Beschwerdeführer macht geltend, seine Verurteilung wegen vollendeten Versuchs des Betrugs (Art. 148 Abs. 1 aStGB i.V.m. <ref-law>) verstosse gegen Bundesrecht; das Tatbestandsmerkmal der Arglist sei entgegen der Auffassung der Vorinstanz nicht erfüllt.
a) Im internationalen Zahlungsverkehr der Banken werden telexierte Zahlungsaufträge zum Zwecke einer zweifelsfreien Identifikation und Authentifikation mit Testschlüsseln, so genannten "Key Tested Telex"-Übermittlungscodes ("KTT-Codes"), versehen. Dieser "KTT-Code" wird für jeden Zahlungsauftrag auf Grund eines speziellen, mit jeder einzelnen Korrespondenzbank individuell vereinbarten Rechenverfahrens berechnet. Dieses System erlaubt es dem Empfänger einer Telex-Mitteilung, deren Entschlüsselung und Echtheitsprüfung vorzunehmen. Es dient der Vereinfachung des internationalen bankmässigen Zahlungsverkehrs.
Die Testschlüssel-Vereinbarungen sind vertraulich und nur einem beschränkten Personenkreis in den Banken zugänglich.
Die Testschlüssel-Zahlen sind Ersatz für die fehlende Unterschrift.
b) Der Beschwerdeführer verwendete zur Täuschung der Banken gefälschte Telexe, die er mit korrekten, auf Grund der Testschlüssel-Vereinbarungen mit den beteiligten Banken individuell errechneten Schlüsselzahlen versah. Der Beschwerdeführer bestreitet nicht, dass die bei den Empfängerbanken eingegangenen, unrechtmässig mit korrekten Testschlüsseln versehenen Zahlungsanweisungen - bei Anwendung des schweizerischen Rechts - Urkunden im strafrechtlichen Sinne sind und er den Tatbestand der Urkundenfälschung im Sinne von <ref-law> erfüllt hat. Er macht aber geltend, es fehle an der Arglist im Sinne des Tatbestands des Betrugs. Die unrechtmässige Verwendung eines korrekten Testschlüssels zur Täuschung der zur Zahlung angewiesenen Banken ist indessen arglistig, so wie etwa der Gebrauch der echten Unterschrift oder des echten Handzeichens eines Andern zur Täuschung arglistig ist. Dass es für den mitangeklagten Angestellten der A._ allenfalls relativ einfach war, sich unrechtmässig Kenntnis von den Testschlüssel-Vereinbarungen und damit von den "KTT-Codes" zu verschaffen, ist unerheblich. Im geschäftlichen Verkehr darf grundsätzlich darauf vertraut werden, dass Unterschriften und ihre Surrogate nicht gefälscht und Urkunden somit echt sind.
c) Allerdings haben alle vier angewiesenen türkischen Banken nach Erhalt der Telex-Zahlungsanweisungen Rückfragen an die A._ gerichtet, wobei sich die Zahlungsanweisungen als Fälschungen erwiesen, weshalb die Zahlungen unterblieben. Die Rückfragen erfolgten wegen gewisser Fehler, die darin bestanden, dass ein ungewöhnliches Textformat verwendet und bei drei Zahlungsaufträgen die Korrespondenzbanken nicht aufgeführt worden waren (siehe dazu angefochtenes Urteil S. 22 unten). Daraus folgt indessen nicht, dass die unbefugte Verwendung eines korrekten Testschlüssels nicht arglistig sei. Vielmehr war die Täuschung wegen der gewissen Formfehler objektiv und aus der Sicht der Banken quasi nicht "perfekt" und daher nicht erfolgreich. Nach den Vorstellungen des Beschwerdeführers, welchem die fraglichen Mängel nicht bewusst waren, erschien die Täuschung aber in Anbetracht der Verwendung der korrekten "KTT-Codes" als für die Banken unbezwingbar.
3.- Der Beschwerdeführer macht eine Verletzung des Beschleunigungsgebots (Art. 6 EMRK) und damit zusammenhängend eine Verletzung von Art. 63 f. StGB betreffend Strafzumessung geltend.
a) Ob und gegebenenfalls in welchem Masse das Beschleunigungsgebot verletzt worden sei, sind Fragen des Verfassungsrechts, die im Verfahren der eidgenössischen Nichtigkeitsbeschwerde nicht zur Entscheidung gestellt werden können. Eine Frage des eidgenössischen Rechts ist allein, wie einer festgestellten Verletzung des Beschleunigungsgebots in einem bestimmten Mass Rechnung zu tragen, in welchem Umfang beispielsweise die Strafe herabzusetzen sei (<ref-ruling> E. 2a, mit Hinweisen).
Was in der eidgenössischen Nichtigkeitsbeschwerde vorgebracht wird, betrifft das Ausmass der Verletzung des Beschleunigungsgebots und somit eine Frage des Verfassungsrechts.
Damit hat sich das Kassationsgericht des Kantons Zürich in seinem Entscheid vom 5. August 2001 im Verfahren der kantonalen Nichtigkeitsbeschwerde ausführlich auseinander gesetzt. Gemäss diesem Entscheid ist es in Würdigung aller Aspekte nicht zu beanstanden, dass die Vorinstanz vom Fehlen eigentlicher Verfahrensverzögerungen und insgesamt angesichts der zirka siebenjährigen Prozessdauer von einer geringfügigen Verletzung des Beschleunigungsgebots ausging (siehe zum Ganzen den Entscheid des Kassationsgerichts vom 8. August 2001 S. 11 - 29).
b) aa) Die Vorinstanz hat diese geringfügige Verletzung des Beschleunigungsgebots strafmindernd berücksichtigt (angefochtenes Urteil S. 33). Inwiefern sie damit eidgenössisches Recht verletzt habe, ist nicht ersichtlich.
bb) Dass die Vorinstanz trotz strafmindernder Berücksichtigung der geringfügigen Verletzung des Beschleunigungsgebots, welche vor der ersten Instanz noch nicht zur Diskussion gestanden hatte, die erstinstanzlich ausgefällte Zusatzstrafe vom 18 Monaten Zuchthaus bestätigte, ist nicht zu beanstanden. Die Vorinstanz war von Bundesrechts wegen nicht verpflichtet, die von der ersten Instanz ausgefällte Strafe wegen dieses neu hinzugekommenen, ohnehin nur geringfügig ins Gewicht fallenden Strafminderungsgrundes herabzusetzen. Die Vorinstanz hält ausdrücklich fest, dass die erstinstanzlich ausgefällte Strafe als ausgesprochen milde erscheine, aber mangels Berufung seitens der Staatsanwaltschaft bestätigt werden müsse (angefochtenes Urteil S. 33).
4.- Da die eidgenössische Nichtigkeitsbeschwerde somit abzuweisen ist, soweit darauf eingetreten werden kann, hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen.

Demnach erkennt das Bundesgericht:
1.- Die eidgenössische Nichtigkeitsbeschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2.- Die Gerichtsgebühr von Fr. 2'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft und dem Obergericht (II. Strafkammer) des Kantons Zürich schriftlich mitgeteilt.
_
Lausanne, 16. Oktober 2001
Im Namen des Kassationshofes
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: