(<ref-law>); (eidgenössische Nichtigkeitsbeschwerde gegen das Urteil der II. Strafkammer des Obergerichts des Kantons Zürich vom 20. Oktober 1998), hat sich ergeben:
A.- M._ wird der Missbrauch des Telefons in zwei Fällen vorgeworfen. Kurz nach seiner Rückkehr aus dem Urlaub wählte er am 23. Mai 1997 um 01.20 Uhr den Telefonanschluss seiner ehemaligen Freundin J.D._ (heute: H.-D._) an. Deren neuer Freund, H._, nahm das Telefonat entgegen. M._ fragte ihn, ob er (H._) ihn (M._) schon vergessen habe, was H._ verneinte. Dies sei auch besser so, gab M._ zur Antwort, denn jetzt habe er Zeit für ihn. Er werde ihn sicher nicht vergessen.
Zwei Tage später, am 25. Mai 1997, um 23.05 Uhr rief M._ wiederum bei J.D._ und H._ an. Den Anruf nahm auch dieses Mal H._ entgegen, der den Hörer sogleich J.D._ weiterreichte. M._ erkundigte sich bei ihr, weshalb sie ihn versetzt habe. Sie entgegnete, nichts von einer Vereinbarung zu wissen, und was der Anruf überhaupt solle. Darauf legte sie den Hörer wieder auf.
B.- Mit Urteil vom 18. März 1998 sprach das Bezirksgericht Zürich M._ deswegen sowie wegen weiteren, hier nicht näher interessierenden Vorfällen des Missbrauchs des Telefons im Sinne von <ref-law> sowie der mehrfachen versuchten Nötigung gemäss Art. 181 i.V.m. <ref-law> schuldig und bestrafte ihn mit 2 Monaten Gefängnis bedingt. Auf die angeklagten Sachverhalte des Telefonmissbrauchs in der Zeit von Oktober bis Mitte Dezember 1996 trat das Gericht mangels gültigen Strafantrags nicht ein.
Auf Berufung von M._ hin verurteilte ihn das Obergericht des Kantons Zürich am 20. Oktober 1998 wegen versuchter Nötigung sowie mehrfachen Missbrauchs des Telefons zu 2 Monaten Gefängnis bedingt; hingegen sprach es ihn frei vom Vorwurf der Nötigung sowie der mehrfachen versuchten Nötigung in 9 Fällen sowie vom Vorwurf des Missbrauchs des Telefons hinsichtlich eines Vorfalls vom 22. Juni 1997.
Eine von M._ dagegen erhobene kantonale Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich am 6. Juni 2000 ab, soweit es darauf eintrat.
C.- M._ erhebt eidgenössische Nichtigkeitsbeschwerde mit dem Antrag, das Urteil des Obergerichts aufzuheben und die Sache an die Vorinstanz zu neuer Beurteilung zurückzuweisen.
D.- Das Obergericht und die Staatsanwaltschaft des Kantons Zürich haben auf die Einreichung einer Stellungnahme zur Beschwerde verzichtet. H._ und H.-D._ (vormals J.D._) haben sich innert gesetzter Frist nicht vernehmen lassen.

Das Bundesgericht zieht in Erwägung:
1.- a) Nach Auffassung des Bezirksgerichts, auf welche die Vorinstanz vollumfänglich verweist, hat der Beschwerdeführer mit seinen beiden nächtlichen Telefonanrufen den objektiven Tatbestand des Telefonmissbrauchs erfüllt. Denn er habe beim ersten Anruf gegenüber H._ eine "verklausulierte" Drohung ausgesprochen, indem er ihm sagte, er hätte nun viel Zeit für ihn. Obschon nicht erstellt sei, was beim zweiten Anruf genau gesprochen wurde, sei auch dieser unzweifelhaft zur Belästigung erfolgt. Anders lasse sich die völlig unglaubhafte Begründung des Beschwerdeführers für den Anruf nicht erklären. Die Geschädigten hätten ihm zuvor mehrmals klar gemacht, dass seine Anrufe unerwünscht seien. Unter diesen Umständen habe auch der zweite Anruf einzig den Zweck verfolgt, die Geschädigten zu belästigen. Der Beschwerdeführer habe dabei vorsätzlich und aus Bosheit gehandelt, wobei ihm die Belästigung der Geschädigten eine besondere Befriedigung oder gar Freude bereitet habe.
b) Der Beschwerdeführer bringt vor, der objektive Tatbestand des Missbrauchs des Telefons sei durch die zwei Anrufe nicht erfüllt. Es fehle bereits an der in der Doktrin geforderten minimalen Intensität der Belästigung. Ein Telefonat um 23.00 Uhr in einer Grossstadt wie Zürich könne nicht als Telefonieren zur Unzeit eingestuft werden. Zudem sei das subjektive Tatbestandselement der Bosheit oder des Mutwillens nicht erstellt; der subjektive Tatbestand werde von den Vorinstanzen nur vermutet oder aus nicht verwertbaren Umständen abgeleitet.
2.- a) Nach <ref-law> wird auf Antrag mit Haft oder Busse bestraft, wer aus Bosheit oder Mutwillen eine dem Telefonregal unterstehende Telefonanlage zur Beunruhigung oder Belästigung eines anderen missbraucht. Die Bestimmung schützt das Persönlichkeitsrecht der betroffenen Person vor bestimmten Beeinträchtigungen durch das Telefon (Martin Schubarth, Kommentar Strafrecht, Besonderer Teil, 3. Bd., Bern 1983, Art. 179septies N. 2; Hubert Andreas Metzger, Der strafrechtliche Schutz des persönlichen Geheimbereichs gegen Verletzungen durch Ton- und Bildaufnahmen sowie Abhörgeräte, Diss. Bern 1972, S. 123). Der Gesetzgeber wollte vor allem schikanöse Anrufe zur Nachtzeit und telefonische unzüchtige Reden bekämpfen (StenB N 1968, S. 345).
Die Tathandlung des Missbrauchs zur Beunruhigung oder Belästigung umreisst die Verbotsmaterie nicht genügend klar. Wann ein strafbarer Missbrauch des Telefons vorliegt, ist daher durch den Richter zu konkretisieren (vgl. <ref-ruling> E. 5b S. 137 mit Hinweis).
In der Literatur wird versucht, den Anwendungsbereich der Strafnorm auf Handlungen zu begrenzen, die eine gewisse minimale Schwere aufweisen. Aufgrund der Entstehungsgeschichte der Norm nimmt Martin Schubarth (a.a.O., N. 5 mit Hinweisen) an, dass vor allem schikanöse Anrufe zur Nachtzeit und telefonische Belästigungen mit obszönen Äusserungen erfasst werden sollten. Auch wenn solche Anrufe oft anonym erfolgten, sei die Anonymität nicht Tatbestandsmerkmal. Zahlreiche Anrufe ohne jeden Grund könnten den Tatbestand ebenfalls erfüllen. Für Günter Stratenwerth (Schweizerisches Strafrecht, Besonderer Teil I, 5. Aufl. Bern 1995, § 12 N. 70) will die Vorschrift in erster Linie schikanöse Anrufe zur Nachtzeit und telefonische Belästigungen mit obszönen Äusserungen erfassen. Stefan Trechsel (Kurzkommentar StGB, 2. Aufl. Zürich 1997, Art. 179septies N. 1) nennt in diesem Zusammenhang ganz ähnlich Telefonate zur Unzeit, in grosser Häufigkeit, obszönen Inhalts und mit Schweigen des Anrufers. Für Jörg Rehberg/Niklaus Schmid (Strafrecht III, 7. Aufl. Zürich 1997, S. 334) schränkt das Missbrauchsmerkmal den
Anwendungsbereich der Norm namentlich auf ständige oder nächtliche Anrufe, anonyme Anrufe und unzüchtige Äusserungen ein. Einzig Metzger (a.a.O., S. 126) hält dafür, dass auch nur ein einziger Anruf den Tatbestand erfüllen könne.
b) aa) Angesichts der Unbestimmtheit des Missbrauchsmerkmals und des im Gesetz nicht näher umschriebenen Grades der vom Täter angestrebten Beunruhigung oder Belästigung der betroffenen Person ist die Verbotsmaterie der Strafnorm durch den Richter auf eindeutig strafwürdige Verhaltensweisen zu begrenzen. <ref-law> schützt das Persönlichkeitsrecht des Opfers nicht vor jeder Beeinträchtigung durch das Telefon. Vielmehr müssen lästige und beunruhigende Telefonate eine gewisse minimale quantitative Intensität und/oder qualitative Schwere erreichen, damit sie als strafbare Einwirkung in die Persönlichkeitssphäre des Opfers zu qualifizieren sind. Bei leichten bis mittelschweren Persönlichkeitsverletzungen durch das Telefon ist strafbarkeitsbegrenzend eine gewisse Häufung von Einzelhandlungen zu fordern. Ab welcher Anzahl Anrufe ein strafbarer Telefonmissbrauch gegeben ist, hängt von den konkreten Umständen ab und lässt sich abstrakt nicht beantworten. Ein einziger missbräuchlicher Anruf kann nur dann allenfalls den objektiven Tatbestand des <ref-law> erfüllen, wenn er geeignet ist, beim Betroffenen eine schwere Beunruhigung auszulösen.
bb) Im hier zu beurteilenden Fall hatten sich die Betroffenen nach zahlreichen Belästigungen und Drohungen seitens des Beschwerdeführers wiederholt telefonische Kontaktaufnahmen durch diesen verbeten. Gleichwohl rief der Beschwerdeführer am 23. Mai 1997 zu sehr früher Morgenstunde H.-D._ und H._ an. Das Telefonat erfolgte zweifellos zur Unzeit. Die Bemerkung des Beschwerdeführers gegenüber H._ konnte bei abstrakter Betrachtung als versteckte "Drohung" verstanden werden, ihn und seine Freundin in Zukunft nicht in Ruhe zu lassen. Diese Drohung wog jedoch vor dem Hintergrund der zahlreichen und erheblichen früheren Belästigungen durch den Beschwerdeführer, namentlich der zuvor gegenüber H._ ausgesprochenen Morddrohung, weitaus schwerer. Am 10. Oktober 1996 hatte der Beschwerdeführer H._ angerufen und ihm gedroht, er werde ihn von hinten erschiessen, falls er nicht von H.-D._ ablasse. Für diese Äusserung wurde der Beschwerdeführer von der Vorinstanz wegen versuchter Nötigung verurteilt. Auch wenn weitere, ähnliche Vorfälle aus materiell-rechtlichen Gründen zu Freisprüchen durch die Vorinstanz führten, erhielt die telefonische Drohung vom 23. Mai 1997 auch dadurch besonderes Gewicht. Unter diesen Umständen ist die vom Anruf und von der Drohung ausgehende Beunruhigungs- und Belästigungswirkung objektiv als schwer zu werten.
Der vom Beschwerdeführer zwei Tage später am 25. Mai 1997 um 23.00 Uhr getätigte Anruf erscheint selbst in einer Stadt wie Zürich als vergleichsweise spät. Wenngleich von einem Anruf zur Unzeit wohl noch nicht gesprochen werden kann, ist er unter Missbrauchsgesichtspunkten im Zusammenhang mit dem früheren Anruf und der gegen H._ ausgestossenen Morddrohung zu würdigen. Wie die Vorinstanz für das Bundesgericht verbindlich feststellt (Art. 277bis Abs. 1 BStP), war der vom Beschwerdeführer angegebene Grund für den Anruf nur vorgeschoben. Es ging ihm wie schon beim ersten Anruf allein darum, H.-D._ und ihren neuen Freund zu belästigen. Die neuerliche Störung war geeignet, die durch den ersten Anruf ausgelöste Beunruhigung der Betroffenen wieder wachzurufen und zu verstärken. Sie wog damit nicht mehr leicht.
Die beiden Anrufe des Beschwerdeführers erreichten zwar nicht quantitativ, jedoch qualitativ eine dem Wesen des (objektiven) Tatbestandes des Telefonmissbrauchs entsprechende Intensität. Sie waren vor dem Hintergrund der früheren Morddrohung des Beschwerdeführers gegen H._ und weiterer, vergleichbarer Vorfälle geeignet, die angerufenen Personen erheblich zu beunruhigen und zu belästigen. Nachdem die Vorinstanz in subjektiver Hinsicht verbindlich feststellt, dass dem Beschwerdeführer die Belästigung der Betroffenen eine besondere Befriedigung oder gar Freude bereitete, verletzt seine Verurteilung wegen Missbrauchs des Telefons kein Bundesrecht.
3.- Aus diesen Gründen ist die Beschwerde abzuweisen.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Kosten (Art. 278 Abs. 1 BStP).

Demnach erkennt das Bundesgericht:
1.- Die Nichtigkeitsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 2'000. -- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird den Parteien, der Staatsanwaltschaft und dem Obergericht (II. Strafkammer) des Kantons Zürich schriftlich mitgeteilt.
---------
Lausanne, 22. November 2000
Im Namen des Kassationshofes
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: