(Art. 23 Abs. 1 al. 5 und Abs. 2 ANAG), hat sich ergeben:
A.- Das Obergericht des Kantons Zürich verurteilte X._ am 9. Juni 1998 in Bestätigung des Entscheids des Bezirksgerichts Zürich vom 6. Oktober 1997 wegen mehrfacher Widerhandlung gegen das Bundesgesetz über Aufenthalt und Niederlassung der Ausländer im Sinne von Art. 23 Abs. 1 al. 5 ANAG, teilweise i.V.m. Art. 23 Abs. 2 ANAG, zu einer bedingt vollziehbaren Gefängnisstrafe von 8 Monaten und zu einer Busse von 80'000 Franken. X._ wird im Wesentlichen vorgeworfen, er habe in den Jahren 1994 bis 1996 mehrere ihm gehörende bzw. von ihm verwaltete Wohnungen in Zürich an illegal in der Schweiz weilende Ausländer vorwiegend albanischer Herkunft vermietet bzw. durch seinen Angestellten A._ vermieten lassen, wobei er gewusst bzw. in Kauf genommen habe, dass sich die Mieter illegal in der Schweiz aufhielten, und er habe auch geduldet, dass die Mieter die Wohnungen anderen Ausländern, die sich illegal in der Schweiz aufhielten, überliessen. Die Wohnungen wären andernfalls leer gestanden.
Eine Verurteilung erfolgte in insgesamt acht Anklagepunkten (Anklagepunkte b/cc-gg, c, e/ff-ii, g-j und l). Anlässlich von mehreren Razzien wurden im Jahre 1996 in acht verschiedenen Wohnungen des Beschwerdeführers insgesamt ca. 24 illegal in der Schweiz weilende Ausländer vorwiegend albanischer Herkunft verhaftet. Auch in anderen Wohnungen des Beschwerdeführers wurden illegal in der Schweiz lebende Ausländer festgenommen, doch wurde X._ in diesen Anklagepunkten bereits erstinstanzlich freigesprochen, da die näheren Umstände der Unterbringung dieser Ausländer bzw. das Wissen von X._ darum nicht erstellt werden konnten.
B.- Das Kassationsgericht des Kantons Zürich wies die von X._ erhobene kantonale Nichtigkeitsbeschwerde am 17. März 2000 ab, soweit es darauf eintrat.
C.- X._ führt eidgenössische Nichtigkeitsbeschwerde mit dem Antrag, das Urteil des Obergerichts sei aufzuheben und die Sache zu seiner Freisprechung bzw. zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
Die Staatsanwaltschaft des Kantons Zürich und die Bundesanwaltschaft haben auf Vernehmlassung verzichtet.

Das Bundesgericht zieht in Erwägung:
1.- Der Beschwerdeführer macht unter Hinweis auf einen Handelsregisterauszug betreffend die Firma B._ AG vom 19. August 1998 geltend, dass er im fraglichen Zeitraum bei dieser Gesellschaft keine Organ- oder Geschäftsführerstellung innegehabt habe. Ob dieser in der eidgenössischen Nichtigkeitsbeschwerde offenbar erstmals erhobene Einwand zulässig ist, kann dahingestellt bleiben, da er ohnehin an der Sache vorbeigeht. Der Beschwerdeführer sagte in seiner Einvernahme durch die Bezirksanwaltschaft vom 6. September 1996 aus, dass er der Inhaber und der Chef der B._ AG sei und dass die Liegenschaften nicht dieser Aktiengesellschaft, sondern ihm privat gehörten (kant. Akt. act. 23 S. 1 f.).
2.- Gemäss Art. 23 Abs. 1 al. 5 ANAG wird mit Gefängnis bis zu sechs Monaten u.a. bestraft, wer im Inland das rechtswidrige Verweilen im Lande erleichtert. Mit dieser Strafe kann Busse bis zu 10'000 Franken verbunden werden. In leichten Fällen kann auch nur auf Busse erkannt werden.
a) Diesen Tatbestand kann u.a. derjenige erfüllen, welcher einen illegal in der Schweiz weilenden Ausländer beherbergt (s. <ref-ruling> E. 3a; <ref-ruling> E. 1; nicht publizierte Urteile des Kassationshofes vom 16. September 1982; dazu Valentin Roschacher, Die Strafbestimmungen des Bundesgesetzes über Aufenthalt und Niederlassung der Ausländer, Diss. Zürich 1991, S. 87 ff.). Gemäss Art. 83 Ziff. 1 Abs. 4 des bundesrätlichen Entwurfs zu einem Ausländergesetz von 1978, welches in der Folge vom Volk abgelehnt worden ist, sollte bestraft werden, "wer die rechtswidrige Einreise oder den rechtswidrigen Aufenthalt unterstützt, namentlich indem er den Ausländer beherbergt" (BBl 1978 II 169 ff., 262). Laut Botschaft bestimmte Art. 83 des Entwurfs klarer als Art. 23 Abs. 1 ANAG, "wann ein strafbares Verhalten vorliegt" (BBl 1978 II 169 ff., 233). Bei der Erleichterung des rechtswidrigen Verweilens im Sinne von Art. 23 Abs. 1 al. 5 ANAG kommt als tatbestandsmässiges Verhalten indessen nicht nur das "Beherbergen" (etwa durch den Gastwirt) bzw. die "Gewährung von Unterkunft" (etwa durch den Arbeitgeber) in Betracht, sondern ganz allgemein die Überlassung von Wohnraum. Das Beherbergen bzw. die Überlassung von Wohnraum an einen illegal in der Schweiz weilenden Ausländer erfüllt den Tatbestand des Erleichterns des rechtswidrigen Verweilens im Sinne von Art. 23 Abs. 1 al. 5 ANAG nach dessen ratio legis aber nur dann, wenn dadurch der behördliche Zugriff auf den Ausländer erschwert wird (nicht publiziertes Urteil des Kassationshofes vom 27. Juli 1990 i.S. Staatsanwaltschaft des Kantons Zürich c. B.). Diese Voraussetzung ist nicht erfüllt, wenn der Ausländer polizeilich gemeldet ist, die Behörde daher dessen Identität und Adresse kennt und somit jederzeit auf ihn Zugriff hat. Das war vorliegend indessen nicht der Fall. Der Beschwerdeführer hat somit nach den zutreffenden Ausführungen im erstinstanzlichen Urteil (kant. Akt. act. 56 S. 39), auf welches im angefochtenen Entscheid (S. 29) verwiesen wird, den objektiven Tatbestand von Art. 23 Abs. 1 al. 5 ANAG erfüllt, indem er den rechtswidrig in der Schweiz weilenden Ausländern vorwiegend albanischer Herkunft für die Dauer von einigen Tagen bis zu mehreren Monaten Wohnraum überliess und sie so der Verfügungsgewalt der Behörden entzog. In der Nichtigkeitsbeschwerde wird denn auch nicht bestritten, dass in einem Fall der vorliegenden Art die Anwendung von Art. 23 Abs. 1 al. 5 ANAG grundsätzlich in Betracht kommt.
b) Der Beschwerdeführer macht geltend, nur in zwei Anklagepunkten habe eine Übergabe des Mietobjekts an illegal in der Schweiz weilende Personen stattgefunden, nämlich im Anklagepunkt c (durch ihn selbst) und im Anklagepunkt l (ohne sein Wissen durch A._). In allen übrigen Anklagepunkten, in denen er verurteilt worden sei, sei nicht nachgewiesen, dass die ursprünglichen, seitens der Liegenschaftsverwaltung einquartierten Mieter bei der Übergabe der Wohnungen und während der nur ihnen gewährten Nutzungsdauer sich tatsächlich illegal in der Schweiz aufgehalten hätten. Diese Anklagepunkte beträfen illegal in der Schweiz weilende Ausländer, welche ohne jede Beteiligung und ohne Kenntnis des Beschwerdeführers gleichsam als nachträglich eingezogene, vertragslose Nutzer in den Wohnungen gehaust hätten (Nichtigkeitsbeschwerde S. 3/4).
Der Einwand ist zum einen unzulässig und zum andern unbegründet.
Dem Beschwerdeführer war gemäss den für den Kassationshof im Verfahren der eidgenössischen Nichtigkeitsbeschwerde verbindlichen tatsächlichen Feststellungen der Vorinstanz aufgrund früherer Vorfälle bekannt, dass in seinen Wohnungen illegal in der Schweiz weilende Personen als Untermieter bzw. als "vertragslose Nutzer" lebten (angefochtenes Urteil S. 16 unten). Er hat durch sein von Gleichgültigkeit gekennzeichnetes Geschäftsgebaren diese Situation akzeptiert und gefördert. Die Identität und die Anwesenheitsberechtigung der Mieter wurde nicht überprüft, es wurden oft keine schriftlichen Mietverträge abgeschlossen, die Mieter wurden nicht gemeldet und Kontrollen unterblieben, obschon dazu gerade auch deshalb Anlass bestanden hätte, weil einerseits die Mieter entgegen den Abmachungen nicht zur Vertragsunterzeichnung erschienen, andererseits aber die Mietzinse bezahlt wurden (angefochtenes Urteil S. 16/17). Der Beschwerdeführer hat damit nach der zutreffenden Auffassung der Vorinstanz einen Zustand geschaffen, der zur Beherbergung von illegal in der Schweiz weilenden Ausländern in grosser Zahl in seinen Wohnungen führte (angefochtenes Urteil S. 17 oben).
c) Die Feststellungen der Vorinstanz, der Beschwerdeführer habe in den Anklagepunkten, die zu seiner Verurteilung führten, gewusst bzw. in Kauf genommen, dass die in seinen Wohnungen lebenden Ausländer illegal im Land weilten, ist tatsächlicher Natur und daher für den Kassationshof im Verfahren der eidgenössischen Nichtigkeitsbeschwerde verbindlich. Die diesbezüglichen Feststellungen der Vorinstanz beruhen entgegen einer Bemerkung in der Beschwerde (S. 4/5) nicht auf allgemeinen Erfahrungssätzen, deren Anwendung im Verfahren der eidgenössischen Nichtigkeitsbeschwerde überprüfbar ist. Sie stützen sich vielmehr auf die Aussagen des Beschwerdeführers selbst (s. etwa angefochtenes Urteil S. 15/16), auf die Aussagen von dessen Mitarbeiter und Vertrauensmann A._ (angefochtenes Urteil S. 11 ff.) und der Zeugin C._ (angefochtenes Urteil S. 13 f.) sowie auf verschiedene Indizien (angefochtenes Urteil S. 14/15). Sie sind das Ergebnis von Beweiswürdigung, die im Verfahren der eidgenössischen Nichtigkeitsbeschwerde nicht zu überprüfen ist. Die Vorinstanz hat sich zudem in allen Anklagepunkten, in denen sie das erstinstanzliche Urteil bestätigte, eingehend mit der Tatfrage befasst, was der Beschwerdeführer betreffend den Status der in seinen Wohnungen lebenden Ausländer gewusst bzw. in Kauf genommen habe (angefochtenes Urteil S. 18 ff.).
Die Verurteilung des Beschwerdeführers wegen Erleichterns des rechtswidrigen Verweilens gemäss Art. 23 Abs. 1 al. 5 ANAG verstösst demnach nicht gegen Bundesrecht.
3.- Wer in der Absicht, sich oder einen anderen unrechtmässig zu bereichern, einem Ausländer die rechtswidrige Einreise oder das rechtswidrige Verweilen im Lande erleichtert oder vorbereiten hilft, wird gemäss Art. 23 Abs. 2 Satz 1 ANAG mit Gefängnis und mit Busse bis zu 100'000 Franken bestraft. Die gleiche Strafdrohung gilt gemäss Art. 23 Abs. 2 Satz 2 ANAG, wenn der Täter ohne Bereicherungsabsicht für eine Vereinigung oder Gruppe von Personen handelt, die sich zur fortgesetzten Begehung dieser Tat zusammengefunden hat.
a) Der Beschwerdeführer wurde mit Ausnahme eines Anklagepunktes, in dem die Zahlung von Mietzinsen nicht erstellt ist (s. erstinstanzlichen Entscheid S. 42 oben, S. 21 oben), in Anwendung von Art. 23 Abs. 2 (Satz 1) ANAG verurteilt. Gemäss den Ausführungen der ersten Instanz, auf die im angefochtenen Urteil (S. 29) verwiesen wird, hat sich der Beschwerdeführer bereichert, indem er von den sich rechtswidrig in der Schweiz aufhaltenden Ausländern Mietzinse und Depots entgegengenommen habe. Der Beschwerdeführer habe die Wohnungen an illegal in der Schweiz weilende Ausländer vermietet, um den Leerbestand der Wohnungen zu reduzieren. Dies wäre ihm, hätte er auf die Vermietung an illegale Aufenthalter verzichtet, nicht oder nur in erheblich eingeschränktem Umfang möglich gewesen. Dass der Beschwerdeführer die Wohnungen zu marktkonformen Preisen vermietet habe, sei unerheblich, da die unrechtmässige Bereicherung bereits in den bezahlten Mietzinsen bzw. Depots bestehe, die ansonsten nicht erzielt worden wären. Art. 23 Abs. 2 Satz 1 ANAG wolle gerade verhindern, dass mit illegalen Aufenthaltern diesbezügliche Geschäfte gemacht werden (erstinstanzliches Urteil S. 41 f.).
b) Der Beschwerdeführer macht geltend, Art. 23 Abs. 2 ANAG bezwecke nach dem klar bekundeten Willen des Gesetzgebers die härtere Verfolgung der Schleppertätigkeit. Der Vermieter, der Ausländer zu marktüblichen Konditionen beherberge, gehöre nicht zu der vom Gesetzgeber anvisierten Zielgruppe und habe denn auch in den detaillierten parlamentarischen Verhandlungen zu Art. 23 Abs. 2 ANAG keine Erwähnung gefunden. Der Beschwerdeführer macht sodann geltend, er habe nicht in der Absicht unrechtmässiger Bereicherung im Sinne von Art. 23 Abs. 2 ANAG gehandelt, da er die Wohnungen unstreitig zu marktüblichen Preisen vermietet habe. Wer einem illegal in der Schweiz anwesenden Ausländer gegen Zahlung des marktüblichen Mietzinses Wohnraum vermiete, erlange dadurch kein Entgelt für die strafrechtlich geahndete Erleichterung rechtswidrigen Verweilens, bewirke also keine vom Recht missbilligte Vermögensverschiebung. Erlangt werde damit einzig die mietrechtlich dem Vermieter legal zustehende Gegenleistung für die Gebrauchsüberlassung der Mietsache, was keine rechtswidrige Bereicherung sei. Nur wenn durch einen Zuschlag zum marktüblichen Mietzins eine besondere (indirekte) Bezahlung für die strafbare Begünstigung des rechtswidrigen Verweilens erlangt würde, läge bezüglich dieser Vermögensverschiebung Rechtswidrigkeit im Sinne von Art. 23 Abs. 2 ANAG vor. Der Beschwerdeführer macht schliesslich geltend, der ihm zur Last gelegte Sachverhalt wiege nicht schwerer als der in BGE <ref-ruling> beurteilte Fall eines gastgewerblichen Arbeitgebers, der einen illegalen Aufenthalter anderthalb Jahre lang zu marktüblichen Konditionen beschäftigt und zusätzlich noch beherbergt habe. In jenem Entscheid sei die Anwendung des Schleppertatbestands im Sinne von Art. 23 Abs. 2 ANAG gar nicht in Betracht gezogen, sondern das eingeklagte Verhalten im Gegenteil als leichter Fall im Sinne von Art. 23 Abs. 1 al. 5 in fine ANAG qualifiziert worden.
c) Art. 23 Abs. 2 ANAG geht zurück auf eine Motion, mit welcher eine Ergänzung und Verschärfung der Strafbestimmungen des ANAG verlangt wurde, um der Schwarzarbeit vermehrt entgegenzuwirken. Daher betraf der "Schlepper-Tatbestand" des bundesrätlichen Entwurfs nur Ausländer, die in der Schweiz eine Erwerbstätigkeit ausüben wollen. Gemäss dem bundesrätlichen Entwurf sollte mit Gefängnis und mit Busse bis zu 100'000 Franken bestraft werden, "wer einem Ausländer, der in der Schweiz eine Erwerbstätigkeit ausüben will, die rechtswidrige Einreise oder das rechtswidrige Verweilen im Lande erleichtert oder vorbereiten hilft" (Botschaft des Bundesrates, BBl 1986 III 249 ff., 258, 261). Entsprechendes hatte bereits der bundesrätliche Entwurf eines Ausländergesetzes von 1978, welches in der Folge vom Volk abgelehnt wurde, in Art. 84 Abs. 1 lit. a vorgesehen (BBl 1978 II 169 ff., 262). Der Ständerat als Erstrat beschloss auf Antrag seiner Kommission stattdessen eine Tatbestandsvariante, welcher Art. 23 Abs. 2 ANAG entspricht (AB 1987 S 32 ff., 35). Nicht mehr im Besonderen die Erleichterung der rechtswidrigen Einreise und des rechtswidrigen Verweilens von Ausländern, die in der Schweiz eine Erwerbstätigkeit ausüben wollen, sollte mit schärferer Strafe geahndet werden, sondern ganz allgemein das Erleichtern der rechtswidrigen Einreise oder des rechtswidrigen Verweilens entweder in der Absicht unrechtmässiger Bereicherung oder als Mitglied einer Organisation. Im Nationalrat schlug die Kommissionsmehrheit Zustimmung zum Beschluss des Ständerats vor. Eine Kommissionsminderheit machte dagegen den Vorschlag, dass derjenige schärfer bestraft werde, der zu Gewinnzwecken und in organisierter Form Ausländern die rechtswidrige Einreise oder das rechtswidrige Verweilen im Lande erleichtert oder vorbereiten hilft. Eine zweite Kommissionsminderheit wollte dem bundesrätlichen Entwurf zustimmen. Nach ausführlichen Beratungen stimmte der Nationalrat dem Beschluss des Ständerats zu (AB 1987 N 1240 ff., 1255). Der Anwendungsbereich von Art. 23 Abs. 2 ANAG geht damit nicht nur nach dem Wortlaut der Bestimmung, sondern auch nach dem Willen des Gesetzgebers über das "Schleppen" von "Schwarzarbeitern" hinaus. Die Bestimmung bezieht sich zum einen entgegen dem bundesrätlichen Entwurf nicht nur auf Ausländer, die in der Schweiz eine Erwerbstätigkeit ausüben wollen, sondern auf Ausländer allgemein (s. auch Valentin Roschacher, op.cit. , S. 95 f.). Sie erfasst zum andern nicht nur den "Schlepper" im engeren Sinn, d.h. denjenigen, welcher die rechtswidrige Einreise erleichtert oder vorbereiten hilft, sondern auch denjenigen, welcher dem Ausländer das illegale Verweilen in der Schweiz erleichtert. Dies kann nach der Praxis, die auch dem Gesetzgeber bekannt war (s. <ref-ruling> E. 3), etwa durch Gewährung von Unterkunft geschehen.
d) Soweit die Überlassung von Wohnraum an einen rechtswidrig in der Schweiz weilenden Ausländer den Tatbestand von Art. 23 Abs. 1 al. 5 ANAG erfüllt, ist sie bei Fehlen von Rechtfertigungsgründen auch rechtswidrig. Ob daher ein für die Überlassung des Wohnraums geforderter und erlangter Mietzins in jedem Fall, auch wenn er marktkonform ist oder gar unter dem üblichen Preis liegt, ohne weiteres eine unrechtmässige Bereicherung im Sinne von Art. 23 Abs. 2 ANAG darstellt, kann hier dahingestellt bleiben. Das Entgelt für die vorsätzliche Überlassung von Wohnraum an illegal in der Schweiz weilende Ausländer ist nach der zutreffenden Auffassung der kantonalen Instanzen jedenfalls dann als unrechtmässige Bereicherung im strafrechtlichen Sinne von Art. 23 Abs. 2 ANAG zu qualifizieren, wenn die Wohnungen deshalb an solche Ausländer vermietet werden, weil sie sonst, mangels anderer Interessenten, leer stünden. Jedenfalls zumindest in dieser Konstellation, die hier gegeben ist, besteht zwischen dem tatbestandsmässigen Verhalten im Sinne von Art. 23 Abs. 1 al. 5 ANAG und dem geforderten Mietzins ein hinreichend enger Zusammenhang und ist daher der Mietzins, auch wenn er marktkonform ist, eine gerade durch die Straftat erlangte und daher unrechtmässige Bereicherung im Sinne von Art. 23 Abs. 2 ANAG. In dieser Konstellation profitiert der Vermieter von der tatbestandsmässigen Erleichterung des rechtswidrigen Verweilens durch Überlassung von Wohnraum nicht weniger als ein Vermieter, der eine problemlos auch anderweitig vermietbare Wohnung zu einem übersetzten Preis einem illegal in der Schweiz weilenden Ausländer überlässt.
e) Allerdings wurde in BGE <ref-ruling> betreffend einen Arbeitgeber im Gastgewerbe, der einen portugiesischen
Staatsangehörigen ohne Bewilligung während rund anderthalb Jahren als Küchenburschen beschäftigte und zudem beherbergte, ein leichter Fall im Sinne von Art. 23 Abs. 1 in fine ANAG angenommen u.a. mit der Begründung, dass der Beschuldigte, der sich demnächst aus dem Geschäft zurückziehen wollte, kurzfristig einen Küchenburschen ersetzen musste und sich daher, da im Gastgewerbe allgemein ein Mangel herrsche, in einer gewissen Notlage befunden habe (S. 124). Aus diesem Entscheid kann der Beschwerdeführer indessen nichts zu seinen Gunsten ableiten. Eine Anwendung von Art. 23 Abs. 2 ANAG in der heute geltenden Fassung konnte in BGE <ref-ruling> schon deshalb nicht erwogen werden, weil diese Bestimmung damals noch gar nicht bestand. Der in BGE <ref-ruling> beurteilte Fall lässt sich sodann ohnehin in keinerlei Hinsicht, auch nicht unter dem Gesichtspunkt der Absicht unrechtmässiger Bereicherung, mit dem vorliegenden Fall vergleichen, in dem der Beschwerdeführer ca. acht Wohnungen, die andernfalls leer gestanden wären, an illegal in der Schweiz weilende Ausländer vorwiegend albanischer Herkunft vermietete bzw. vermieten liess. Im Übrigen erfolgte im BGE <ref-ruling> zugrunde liegenden Fall die - allein unter Art. 23 Abs. 1 ANAG fallende - Beherbergung unentgeltlich (s. S. 124) und ist die Beschäftigung sowohl von legal in der Schweiz anwesenden Ausländern ohne Arbeitsberechtigung als auch von illegal in der Schweiz weilenden Ausländern ohnehin nicht unter Art. 23 Abs. 1 und allenfalls Abs. 2 ANAG, sondern einzig unter Art. 23 Abs. 4 ANAG und im Rückfall unter Art. 23 Abs. 5 ANAG zu subsumieren (s. dazu <ref-ruling>).
4.- a) Die Vorinstanz hat den Beschwerdeführer in Bestätigung des erstinstanzlichen Urteils unter Hinweis auf die erstinstanzlichen Strafzumessungserwägungen zu einer bedingt vollziehbaren Gefängnisstrafe von 8 Monaten und zu einer Busse von 80'000 Franken verurteilt. Ergänzend wird im angefochtenen Entscheid (S. 29/30) ausgeführt, dass der (1925 geborene) Beschwerdeführer angesichts seines fortgeschrittenen Alters und seiner deutlich angeschlagenen Gesundheit besonders strafempfindlich sei. Dies sei strafmindernd zu berücksichtigen, sodass die - ohne diese Umstände milde - Gefängnisstrafe von 8 Monaten zu bestätigen sei. Die erste Instanz hat nach Darstellung der persönlichen und finanziellen Verhältnisse des Beschwerdeführers (erstinstanzliches Urteil S. 43) ausgeführt, dass dessen Verschulden schwer wiege. Dabei falle insbesondere ins Gewicht, dass er vorwiegend aus finanziellen Motiven, d.h. um den Leerbestand seiner Wohnungen zu reduzieren, über längere Zeit hinweg regelmässig einer erheblichen Anzahl illegal anwesender Ausländer Wohnungen zur Verfügung gestellt habe. Dadurch habe er bedenkenlos allgemein bekannte Rechtsnormen missachtet, wobei keineswegs achtenswerte Beweggründe erkennbar seien und sich der Beschwerdeführer mitnichten in einer finanziellen Notlage befunden habe. Immerhin sei zu beachten, dass er dabei keine überhöhten Mietzinse gefordert habe. Die mehrfache Tatbegehung wirke sich strafschärfend aus. Strafmilderungs- und Strafminderungsgründe seien nicht ersichtlich (erstinstanzliches Urteil S. 44).
b) Die ausgefällte Strafe und ihre Begründung verstossen nicht gegen Bundesrecht. Was der Beschwerdeführer dagegen vorbringt, ist zum einen unbegründet und zum andern unzulässig. Dass die Medien über das gegen ihn hängige Strafverfahren berichteten und er nach seiner Darstellung dadurch sowohl in seiner Persönlichkeit als auch in seinem wirtschaftlichen Fortkommen beeinträchtigt wurde, musste nicht strafmindernd berücksichtigt werden. Die für die Bemessung der Busse u.a. relevanten finanziellen Verhältnisse des Beschwerdeführers werden im erstinstanzlichen Urteil (S. 43 unten) dargestellt. Die Behauptung des Beschwerdeführers, im Vordergrund hätten nicht gewinnsüchtige finanzielle Motive gestanden, sondern vielmehr Kontrollverlust und Unvermögen eines gesundheitlich angeschlagenen und von seinen vielen Geschäften überforderten 73-jährigen Senioren, steht im Widerspruch zu den tatsächlichen Feststellungen der kantonalen Instanzen.
5.- Da die eidgenössische Nichtigkeitsbeschwerde somit abzuweisen ist, soweit darauf eingetreten werden kann, hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen.

Demnach erkennt das Bundesgericht:
1.- Die eidgenössische Nichtigkeitsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Die Gerichtsgebühr von Fr. 4'000. -- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft und dem Obergericht (II. Strafkammer) des Kantons Zürich sowie der Bundesanwaltschaft schriftlich mitgeteilt.
---------
Lausanne, 18. August 2000
Im Namen des Kassationshofes
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: