Verletzung von Verkehrsregeln, hat sich ergeben:
A.- X._ parkierte am 29. Januar 1999, von ca. 21.30 bis 21.45 Uhr, seinen Wagen in der Lindenhofstrasse in Zürich. An der Strasse ist das Signal "Verbot für Motorwagen, Motorräder und Motorfahrräder" (Signal Nr. 2.14 des Anhangs 2 zur Strassensignalisationsverordnung, Art. 19 Abs. 2 SSV) angebracht. Dem Signal ist eine Zusatztafel folgenden Inhalts beigefügt:
"Ausgenommen Güterumschlag oder Ein- und Aussteigenlassen
05.00 - 20.00.
Für Taxis sowie mit schriftlicher Ausnahmebewilligung
jederzeit gestattet.. "
B.- Der Einzelrichter in Strafsachen am Bezirksgericht Zürich bestrafte X._ am 21. Oktober 1999 in Bestätigung der Strafverfügung des Polizeirichteramtes der Stadt Zürich vom 28. April 1999 wegen Verletzung von Verkehrsregeln i.S. von Art. 90 Ziff. 1 SVG i.V.m. Art. 27 Abs. 1 SVG, Art. 19 Abs. 2 lit. a VRV, Art. 30 Abs. 1 SSV und Art. 19 Abs. 1 lit. a SSV mit einer Busse von 220 Franken.
Die von X._ dagegen erhobene kantonale Nichtigkeitsbeschwerde wies das Obergericht des Kantons Zürich am 14. März 2000 ab.
C.- X._ führt eidgenössische Nichtigkeitsbeschwerde mit dem Antrag, der Beschluss des Obergerichts sei vollumfänglich aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen.

Das Bundesgericht zieht in Erwägung:
1.- Der Beschwerdeführer befuhr mit seinem Wagen die mit dem Signal "Verbot für Motorwagen, Motorräder und Motorfahrräder" (Signal Nr. 2.14) versehene Lindenhofstrasse in Zürich und parkierte dort sein Fahrzeug während ca. 15 Minuten. Keiner der in der Zusatztafel zum Fahrverbotssignal genannten Ausnahmegründe - "Ausgenommen Güterumschlag oder Ein- und Aussteigenlassen 05.00 - 20.00" und "Für Taxis sowie mit schriftlicher Ausnahmebewilligung jederzeit gestattet" - war erfüllt.
Der Beschwerdeführer hat daher durch das Befahren der Strasse das Signal "Verbot für Motorwagen, Motorräder und Motorfahrräder" (Signal Nr. 2.14) missachtet. Dadurch hat er sich der Verletzung von Verkehrsregeln i.S.
von Art. 90 Ziff. 1 SVG i.V.m. Art. 27 SVG und Art. 19 Abs. 1 lit. a SSV schuldig gemacht. Dies hat der Beschwerdeführer bereits im kantonalen Verfahren stets anerkannt.
Die Missachtung des Vorschriftssignals "Verbot für Motorwagen" wird gemäss Ziff. 304. 3 der im Anhang 1 zur Ordnungsbussenverordnung enthaltenen Bussenliste mit einer Ordnungsbusse von 100 Franken geahndet, falls das Ordnungsbussenverfahren nicht aus bestimmten Gründen ausgeschlossen ist (siehe dazu Art. 2 OBG).
2.- Der Beschwerdeführer wurde von den kantonalen Instanzen darüber hinaus in Anwendung von Art. 90 Ziff. 1 SVG i.V.m. Art. 27 Abs. 1 SVG sowie Art. 19 Abs. 2 lit. a VRV und Art. 30 Abs. 1 SSV bestraft, weil er seinen Wagen auf der mit dem Fahrverbotssignal mit Erlaubnisvorbehalt gemäss Zusatztafel versehenen Strasse zudem parkierte. Der Beschwerdeführer macht wie bereits im kantonalen Verfahren geltend, seine Bestrafung auch wegen dieses Parkierens verstosse gegen Bundesrecht, insbesondere auch gegen den in Art. 1 StGB festgelegten Grundsatz "nulla poena sine lege".
a) Gemäss den Ausführungen der Vorinstanz wird durch die Bestrafung des Beschwerdeführers wegen Missachtung des signalisierten Fahrverbots lediglich das unbefugte Befahren der Lindenhofstrasse geahndet. Der Beschwerdeführer habe aber die Strasse nicht nur verbotenerweise befahren, sondern seinen Wagen dort auch parkiert. Die unter dem Fahrverbotssignal angebrachte Zusatztafel zeige mit hinreichender Klarheit an, dass der zum freiwilligen Halten und damit zum Parkieren (siehe dazu Art. 19 Abs. 2 lit. a VRV) an der Lindenhofstrasse berechtigte Personenkreis beschränkt sei. Aus dem signalisierten Fahrverbot mit Erlaubnisvorbehalt ergebe sich ohne weiteres, dass das Anhalten und umso mehr auch das Parkieren für den Beschwerdeführer, der sich auf keinen der signalisierten Erlaubnisvorbehalte berufen könne, verboten gewesen sei. Auch nach der Rechtsprechung des Bundesgerichts (<ref-ruling> ff.) dürfe auf einer Strasse, die gemäss der Signalisation nur zum Zwecke des Güterumschlags befahren werden dürfe, allein zu diesem Zwecke freiwillig angehalten werden und sei das Parkieren für jedermann ohne weiteres erkennbar verboten, auch wenn an der fraglichen Stelle kein Signal "Halten verboten" bzw. "Parkieren verboten" (Art. 30 Abs. 1 SSV) angebracht sei. Nicht anders verhalte es sich im vorliegenden Fall. Der Beschwerdeführer habe somit zusätzlich zum ausdrücklich signalisierten Fahrverbot ein sich aus diesem Signal in Verbindung mit der Zusatztafel ergebendes - und damit eine ausreichende gesetzliche Grundlage für eine Bestrafung bildendes - Parkverbot missachtet, indem er seinen Wagen in der Lindenhofstrasse parkierte.
Dieses Parkieren haben die kantonalen Instanzen gestützt auf Ziff. 230. 1 der im Anhang 1 zur Ordnungsbussenverordnung enthaltenen Bussenliste - "Parkieren innerhalb des signalisierten Halteverbots (Art. 30 SSV und Art. 19 Abs. 2 lit. a VRV) bis 60 Minuten" - mit einer Ordnungsbusse von 120 Franken geahndet. Diese Ordnungsbusse und die Ordnungsbusse von 100 Franken für das verbotene Befahren der Lindenhofstrasse wurden von den kantonalen Instanzen gestützt auf Art. 3a Abs. 1 OBG zusammengezählt, woraus sich die ausgefällte Gesamtbusse von 220 Franken ergab.
b) Der Beschwerdeführer macht geltend, er dürfe nicht auch wegen des Parkierens bestraft werden. Seines Erachtens ist zwar klar, dass dort, wo ein Fahrverbot bestehe, ein Halte- und ein Parkverbot gelte, ohne dass dies besonders signalisiert sein müsse. Dies bedeute jedoch keineswegs, dass das Parkieren, welches, wie vorliegend, einzig deshalb nicht erlaubt sei, weil ein Fahrverbot bestehe, als selbständiger Tatbestand geahndet werden dürfe. Das Parkverbot ergebe sich vorliegend allein aus dem Fahrverbot. Damit liege aber ein Fall unechter Konkurrenz vor, wobei das verbotene Parkieren im verbotenen Fahren aufgehe. Das ihm zur Last gelegte Befahren der Lindenhofstrasse sei gerade deshalb gemäss dem Fahrverbotssignal untersagt gewesen, weil es keinem der nach der Zusatztafel erlaubten Zwecke gedient habe.
Damit er die Strasse habe unerlaubt befahren können, habe neben dem schlichten Hinein- und Hinausfahren (was für sich allein genommen auch schon verboten gewesen wäre) ein weiteres Element erfüllt sein müssen, eben ein durch keinen erlaubten Zweck gedecktes freiwilliges Halten. Wenn aber gerade erst infolge eines solchen Haltens bzw. Parkierens das Befahren der Strasse tatbestandsmässig sei, gehe es nicht an, das Parkieren als zweiten, selbständigen Tatbestand zu erfassen und auch hiefür eine Busse auszusprechen. Der Beschwerdeführer weist sodann auf Art. 17 Abs. 2 SSV hin, wonach Zusatztafeln, die signalisierte Vorschriften verschärfen, nur zulässig sind, wenn die Regelung nicht anders signalisiert werden kann. Wenn aus der Zusatztafel zum Fahrverbotssignal ein separat zu bestrafendes Halte- und damit ein Parkverbot abgeleitet werde, dann liege darin eine Verschärfung der Verbotssituation. Dies sei aber in Anbetracht von Art. 17 Abs. 2 SSV unzulässig. Ein Halte- und damit ein Parkverbot hätten nämlich vorliegend ohne weiteres durch Anbringen des Signals "Halten verboten" (Signal Nr. 2.49, Art. 30 Abs. 1 SSV) zusätzlich zum Fahrverbotssignal mit Erlaubnisvorbehalt gemäss Zusatztafel erlassen werden können. Eine solche Signalisation sei denn auch etwa einige Meter von der Stelle entfernt, an welcher er seinen Wagen parkiert habe, an der Verzweigung Lindenhofstrasse/Oetenbachgasse angebracht gewesen.
Aus jener Signalisation (Fahrverbotssignal mit Erlaubnisvorbehalt gemäss Zusatztafel plus Halteverbotssignal) ergebe sich klar, dass derjenige, welcher die Strasse zu andern als den in der Zusatztafel vorbehaltenen Zwecken befahre und zudem an der Strasse parkiere, sowohl wegen Missachtung eines Fahrverbotssignals als auch wegen Missachtung eines Halteverbotssignals zu bestrafen sei. Wo aber, wie an der Lindenhofstrasse, ein zusätzliches Halteverbotssignal (oder Parkverbotssignal) fehle, falle eine zusätzliche Bestrafung wegen verbotenen Parkierens ausser Betracht. Nach ständiger Praxis verpflichteten Verbotssignale im Strassenverkehr nur dann, wenn sie klar und ohne weiteres in ihrer Bedeutung erkennbar seien. Im vorliegenden Fall sei das Teilfahrverbot klar gewesen und habe er dagegen verstossen, indem er das von ihm gelenkte Fahrzeug in der Lindenhofstrasse parkiert habe. Dass er darüber hinaus noch gegen ein separat zu büssendes Halteverbot verstossen würde, sei demgegenüber in Anbetracht der gesamten an der Verzweigung Lindenhofstrasse/Oetenbachgasse herrschenden Verbotssituation weder klar noch in seiner Bedeutung erkennbar gewesen.
3.- a) Der Kassationshof hatte sich in <ref-ruling> ff. mit dem Fall eines Motorfahrzeuglenkers zu befassen, der in eine mit einem Fahrverbotssignal und mit der Zusatztafel "Güterumschlag gestattet" gekennzeichnete Strasse fuhr und seinen Wagen nach getätigtem Güterumschlag noch einige Zeit stehen liess. Die kantonalen Instanzen bestraften den Fahrzeuglenker wegen Missachtung des signalisierten Fahrverbots, begangen dadurch, dass er die Strasse verbotenerweise befahren habe. Sie begründeten dies im Wesentlichen damit, dass er nicht allein zum Zweck des Güterumschlags in die Strasse gefahren sei, sondern vielmehr bereits bei der Einfahrt in die Strasse entschlossen gewesen sei, den Wagen nach getätigtem Güterumschlag noch einige Zeit stehen zu lassen. Die kantonalen Instanzen gingen davon aus, dass damit die in der Zusatztafel genannte Voraussetzung, unter welcher das durch das Signal verbotene Befahren der Strasse ausnahmsweise erlaubt war, nicht erfüllt sei; denn das Befahren der Strasse habe nicht einzig und allein dem Güterumschlag gedient. Der Fahrzeuglenker stellte in seiner eidgenössischen Nichtigkeitsbeschwerde den Antrag, er sei statt wegen Missachtung des Fahrverbotssignals bloss wegen verbotenen Parkierens zu bestrafen.
Der Kassationshof teilte diese Auffassung. Gemäss den Erwägungen in <ref-ruling> ff. war und blieb die Fahrt angesichts des beabsichtigten und tatsächlich getätigten Güterumschlags erlaubt, auch wenn der Fahrzeuglenker bereits im Moment der Einfahrt in die Strasse die Absicht gehabt haben sollte, den Wagen nach getätigtem Güterumschlag noch einige Zeit stehen zu lassen. Diese Absicht sei unerheblich, was schon daraus erhelle, dass sich der Fahrzeuglenker nicht strafbar gemacht hätte, wenn er seine Absicht nicht verwirklicht hätte, sondern unmittelbar nach dem Güterumschlag weitergefahren wäre.
Da tatsächlich ein Güterumschlag getätigt worden und das Befahren der Strasse daher erlaubt gewesen sei, komme, ungeachtet der Absichten des Fahrzeuglenkers, einzig das Stehenlassen des Fahrzeugs nach dem Güterumschlag (Parkieren) als Tathandlung in Betracht. Der Fahrzeuglenker habe dadurch, wie er selber anerkenne, ein Parkverbot missachtet. Auf einer Strasse, die gemäss der Signalisation nur zum Zwecke des Güterumschlags befahren werden dürfe, dürfe auch nur zu diesem Zwecke freiwillig angehalten werden und sei das Parkieren für jedermann ohne weiteres erkennbar verboten. Der Fahrzeuglenker habe somit ein aus dem Fahrverbotssignal und der Zusatztafel "Güterumschlag gestattet" sich ergebendes Parkverbot missachtet. Eine solche Tat sei allerdings in der Ordnungsbussenliste nicht geregelt. Dennoch dränge sich aus Gründen der Verfahrensökonomie und der Rechtsgleichheit für diese Tat die Zulassung des Ordnungsbussenverfahrens an Stelle des ordentlichen Verfahrens auf (<ref-ruling> E. 2 S. 52 f.).
b) Der vorliegend angefochtene Entscheid entspricht den in <ref-ruling> entwickelten Grundsätzen.
Indem der Beschwerdeführer sein Fahrzeug in der Lindenhofstrasse parkierte, missachtete er im Sinne der Ausführungen in <ref-ruling> ein aus dem Fahrverbotssignal und der Zusatztafel - "Ausgenommen Güterumschlag oder Ein- und Aussteigenlassen ..." - sich ergebendes Parkverbot.
Daran ändert nichts, dass der Beschwerdeführer sich zudem, im Unterschied zum Fahrzeuglenker im <ref-ruling> ff. zugrunde liegenden Fall, durch das Befahren der Strasse der Missachtung des signalisierten Fahrverbots schuldig machte. Das Befahren der Strasse und das Parkieren auf der Strasse sind zwei verschiedene Tathandlungen.
Während im <ref-ruling> zugrunde liegenden Fall das Befahren der Strasse erlaubt war, da der Fahrzeuglenker tatsächlich einen Güterumschlag tätigte, war im vorliegenden Fall das Befahren der Strasse gemäss dem Signal verboten, da unstreitig keine der in der Zusatztafel vorbehaltenen Ausnahmen gegeben war. Aus diesem Grunde war das Befahren der Lindenhofstrasse verboten, mithin nicht deshalb, weil der Beschwerdeführer auf dieser Strasse parkierte. Der Beschwerdeführer hätte sich (wovon er selber ebenfalls auszugehen scheint) auch dann der Missachtung des Fahrverbotssignals schuldig gemacht, wenn er die Lindenhofstrasse aus Freude am Fahren, ohne freiwillig anzuhalten, benützt hätte. Das Parkieren in der Lindenhofstrasse ist eine andere, zusätzliche Handlung. Durch dieses Parkieren missachtete der Beschwerdeführer, wie der Fahrzeuglenker im <ref-ruling> zugrunde liegenden Fall, ein aus dem Fahrverbotssignal und der Zusatztafel sich ergebendes Parkverbot.
Der Einwand des Beschwerdeführers, es liege unechte Konkurrenz vor, ist somit unbegründet.
c) Unbehelflich ist auch der Hinweis des Beschwerdeführers auf Art. 17 Abs. 2 SSV, wonach Zusatztafeln, die signalisierte Vorschriften verschärfen, nur zulässig sind, wenn die Regelung nicht anders signalisiert werden kann. In <ref-ruling> wurde das Parkverbot nicht allein aus der Zusatztafel "Güterumschlag gestattet" abgeleitet, sondern aus dieser Zusatztafel in Verbindung mit dem Fahrverbotssignal.
aa) Das Fahrverbotssignal ohne Zusatztafel verbietet den Fahrzeugführern allgemein (Signal Nr. 2.01, Art. 18 SSV) beziehungsweise den Lenkern der im Signal genannten Fahrzeugkategorien (z.B. Signale Nr. 2.03 und 2.14, Art. 19 SSV) das Befahren der Strasse.
Das Fahrverbotssignal ohne Zusatztafel untersagt damit implizit, quasi stillschweigend, auch das freiwillige Halten und das Parkieren. Aus dem Fahrverbotssignal ohne Zusatztafel ergibt sich ohne weiteres erkennbar und einleuchtend auch ein Halte- und Parkverbot. Dessen Missachtung ist, als zusätzliches Unrecht, entgegen der Meinung des Beschwerdeführers auch strafbar. Das Fahrverbotssignal bildet hiefür eine ausreichende Grundlage.
Es kann nicht gefordert werden, dass zusätzlich zum Fahrverbotssignal noch ein Signal "Halten verboten" (Signal Nr. 2.49, Art. 30 SSV) angebracht wird. Wer auf einer mit einem Fahrverbotssignal versehenen Strasse fährt, missachtet dadurch das signalisierte Fahrverbot.
Wer zudem parkiert, missachtet dadurch zusätzlich das aus dem Fahrverbotssignal sich ohne weiteres erkennbar ergebende Parkverbot und ist auch hiefür zu bestrafen.
bb) Das Fahrverbotssignal mit Zusatztafel erlaubt das Befahren der Strasse im Sinne einer Ausnahme vom signalisierten Fahrverbot unter den in der Zusatztafel genannten Voraussetzungen. Das Fahrverbotssignal mit Zusatztafel gestattet im Sinne einer Ausnahme von dem sich aus dem Fahrverbotssignal ergebenden Halte- und Parkverbot ein freiwilliges Halten, allenfalls ein Parkieren, unter den in der Zusatztafel genannten Voraussetzungen (etwa "Güterumschlag gestattet", "Anwohner frei"). Durch die Zusatztafel wird mithin nicht das signalisierte Teilfahrverbot durch Begründung eines Halte- bzw. Parkverbots in unzulässiger Weise im Sinne von Art. 17 Abs. 2 SSV verschärft, sondern es wird das aus dem Fahrverbotssignal sich ergebende Halte- und Parkverbot beschränkt.
d) Der Beschwerdeführer weist wie bereits im kantonalen Verfahren darauf hin, dass in unmittelbarer Nähe von der Stelle, an welcher er sein Fahrzeug parkierte, nämlich an der Verzweigung Lindenhofstrasse/Oetenbachgasse, zusätzlich zum Fahrverbotssignal mit Zusatztafel ein Signal "Halten verboten" (Signal Nr. 2.49) angebracht sei (siehe Akten des Polizeirichteramtes, act. 4/2/6, ebenso Beschwerdebeilage 2). Damit sei klar, dass dort nicht nur das Fahren, sondern auch das freiwillige Halten und das Parkieren unter Strafandrohung untersagt seien. Gerade auch in Anbetracht jener Signalisation an der Verzweigung Lindenhofstrasse/Oetenbachgasse habe er den Schluss ziehen müssen, dass an der Lindenhofstrasse, wo ein zusätzliches Signal "Halten verboten" fehlte, das Parkieren nicht strafbar sei. Der Einwand ist unbegründet.
Das Signal "Halten verboten" (Signal Nr. 2.49) untersagt das freiwillige Halten, das Signal "Parkieren verboten" (Signal Nr. 2.50) das Parkieren von Fahrzeugen auf der signalisierten Fahrbahnseite (Art. 30 Abs. 1 Satz 1 SSV). Das Halteverbotssignal an der Verzweigung Lindenhofstrasse/Oetenbachgasse zeigt an, dass die Fahrzeugführer, welche jene Strasse erlaubterweise befahren, etwa weil sie einen Güterumschlag zu tätigen haben oder über eine schriftliche Ausnahmebewilligung verfügen, nicht auf der Fahrbahnseite, an welcher das Signal "Halten verboten" angebracht ist, halten dürfen, sondern auf der gegenüberliegenden Fahrbahnseite halten müssen (siehe ebenso erstinstanzliches Urteil S. 5). Das fragliche Halteverbotssignal richtet sich mithin an die Fahrzeugführer, welche die Strasse gemäss der Zusatztafel zum Fahrverbotssignal befahren dürfen. Den übrigen Fahrzeuglenkern ist das Halten und das Parkieren - und zwar auf beiden Fahrbahnseiten - auch ohne Halteverbotssignal aufgrund des Fahrverbotssignals und des sich daraus ergebenden Halte- und Parkverbots bei Strafe untersagt.
e) Der Beschwerdeführer macht schliesslich geltend, bei der Betrachtungsweise der Vorinstanz hätte auch der Beschuldigte im <ref-ruling> zugrunde liegenden Fall sowohl wegen verbotenen Parkierens als auch wegen verbotenen Fahrens bestraft werden müssen. Zwar sei der Fahrzeuglenker in jenem Fall berechtigt gewesen, in die Strasse hineinzufahren, da er tatsächlich einen Güterumschlag getätigt habe und somit die in der Zusatztafel genannte Voraussetzung erfüllt gewesen sei. Das an den Güterumschlag anschliessende Parkieren habe aber bewirkt, dass auch das zwangsläufig notwendige spätere Weiterfahren unzulässig gewesen sei, da es keinem erlaubten Zweck mehr habe dienen können. Gleichwohl sei der Fahrzeuglenker in jenem Verfahren - zu Recht - nicht "doppelt" bestraft worden. Der Einwand ist unbegründet.
Im <ref-ruling> zugrunde liegenden Fall war das Befahren der Strasse angesichts des tatsächlich getätigten Güterumschlags, trotz des unmittelbar daran anschliessenden Parkierens, erlaubt. Zulässig war dabei nicht nur die Fahrt vor dem Güterumschlag, sondern auch die Weiterfahrt nach dem Parkieren, sofern diese überhaupt Gegenstand jenes Verfahrens gewesen sein sollte.
Denn die Weiterfahrt war in jedem Fall notwendig, mithin unabhängig davon, ob der Fahrzeuglenker nach dem erlaubten Güterumschlag noch verbotenerweise den Wagen stehen liess (parkierte) oder aber sofort weiterfuhr. Nicht zu entscheiden war in jenem Fall, wie es sich verhält, wenn der Fahrzeuglenker nach dem erlaubten Güterumschlag zunächst weiterfährt und sein Fahrzeug später innerhalb der mit dem Fahrverbot unter Erlaubnisvorbehalt belegten Strasse verbotenerweise parkiert, ob er also in einem solchen Fall nicht nur wegen Missachtung des sich aus dem Fahrverbotssignal ergebenden Parkverbots, sondern auch wegen Missachtung des signalisierten Fahrverbots zu bestrafen sei.
4.-Da die eidgenössische Nichtigkeitsbeschwerde somit abzuweisen ist, hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen.

Demnach erkennt des Bundesgericht:
1.- Die eidgenössische Nichtigkeitsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 2'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, dem Polizeirichteramt der Stadt Zürich und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
--------- Lausanne, 18. August 2000
Im Namen des Kassationshofes
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: