Sachverhalt:
A.
Am 12. Dezember 2011 verurteilte das Obergericht des Kantons Zürich A._ wegen verschiedener Straftaten, worunter sexueller Handlungen mit einem Kind, mehrfacher Pornographie und Betäubungsmitteldelikten, im Wesentlichen zu einer Freiheitsstrafe von vier Jahren als Gesamtstrafe. Überdies ordnete es eine stationäre therapeutische Massnahme zwecks Behandlung psychischer Störungen im Sinne von <ref-law> an und schob zu diesem Zweck den Vollzug der Freiheitsstrafe auf.
Am 10. September 2018 hob das Amt für Justizvollzug (heute: Justizvollzug und Wiedereingliederung; nachfolgend: Justizvollzug) die stationäre Massnahme wegen Aussichtslosigkeit auf und beantragte beim Bezirksgericht Zürich die Prüfung einer Verwahrung nach <ref-law> wegen der ernsthaften Erwartung weiterer Straftaten. Mit Blick auf den Ablauf der stationären Massnahme ordnete das Zwangsmassnahmengericht des Bezirks Zürich am 11. Dezember 2018 auf Antrag des Justizvollzugs an, A._ bis zum 11. Juni 2019 in Sicherheitshaft zu versetzen. Mit weiterer Verfügung vom 21. Juni 2019 wurde eine solche erneut angeordnet und später bis zum erstinstanzlichen Entscheid im Nachverfahren verlängert. Am 18. Dezember 2019 beschloss das Bezirksgericht die Verwahrung von A._ und verfügte mit separatem Entscheid die Fortdauer der Sicherheitshaft bis zum Antritt der Massnahme, längstens aber bis zum 18. Juni 2020. Mit Beschluss vom 18. Juni 2020 verlängerte das Bezirksgericht die Sicherheitshaft bis zum Massnahmeantritt, längstens bis zum 18. Dezember 2020.
B.
Dagegen erhob A._ Beschwerde beim Obergericht des Kantons Zürich mit den Rechtsbegehren, den Beschluss über die Verlängerung der Sicherheitshaft aufzuheben, festzustellen, dass die bisherige Sicherheitshaft ab Aufhebung der stationären Massnahme rechtswidrig sei, und ihn für die rechtswidrige Haft angemessen zu entschädigen. Zur Begründung führte er im Wesentlichen aus, der Haft fehle es in Anwendung einer entsprechenden Rechtsprechung des Europäischen Gerichtshofes für Menschenrechte an einer genügenden gesetzlichen Grundlage. Am 9. Juli 2020 wies das Obergericht die Beschwerde ab, soweit es darauf eintrat. Es berief sich zum Wesentlichen auf die Rechtsprechung des Bundesgerichts, wonach sich die Haft in ausreichendem Masse auf eine langjährige und konstante Rechtspraxis stützen könne, sowie auf eine ausdrückliche Grundlage im kantonalen Straf- und Justizvollzugsgesetz.
C.
Mit Beschwerde in Strafsachen vom 12. August 2020 beantragt A._, den Beschluss des Obergerichts aufzuheben, festzustellen, dass die bisherige Sicherheitshaft ab Aufhebung der stationären Massnahme rechtswidrig sei, und ihn für die rechtswidrige Haft angemessen zu entschädigen. In prozessualer Hinsicht wird um Erteilung der unentgeltlichen Rechtspflege und Verbeiständung ersucht.
Der Justizvollzug schliesst ohne weitere Ausführungen auf Abweisung der Beschwerde. Die Staatsanwaltschaft und das Obergericht verzichteten auf eine Stellungnahme.

Erwägungen:
1.
1.1. Angefochten ist ein kantonal letztinstanzlicher Beschwerdeentscheid über die Anordnung von strafprozessualer Sicherheitshaft bei vorbestandenem stationärem Massnahmenvollzug nach rechtskräftiger Verurteilung im selbstständigen gerichtlichen Nachverfahren über die Anordnung einer Verwahrung (Art. 222 und Art. 229 StPO i.V.m. Art. 363 f. StPO und Art. 62c Abs. 4 und Art. 64 Abs. 1 StGB). Dagegen steht grundsätzlich die Beschwerde in Strafsachen nach <ref-law> an das Bundesgericht offen (vgl. die Urteile des Bundesgerichts 1B_111/2020 vom 31. März 2020 E. 1 sowie 1B_24/2020 vom 3. Februar 2020 E. 1). Der Beschwerdeführer war am vorinstanzlichen Verfahren beteiligt und ist als Häftling beschwerdelegitimiert (vgl. <ref-law>).
1.2. Der Beschwerdeführer stellt keinen ausdrücklichen Antrag auf Haftentlassung. Ob ein solcher in seinem Rechtsbegehren auf Aufhebung des angefochtenen Entscheids stillschweigend enthalten ist, erscheint fraglich, kann aber offenbleiben. Der Beschwerdeführer beantragt in erster Linie, wohl mit Blick auf die geltend gemachte Haftentschädigung, die Feststellung, die Sicherheitshaft sei seit deren Anordnung rechtswidrig. Mit Blick auf Art. 13 in Verbindung mit Art. 5 und 6 EMRK ist ihm zumindest ein entsprechendes Feststellungsinteresse zuzuerkennen (vgl. <ref-ruling> E. 1 S. 276 ff.).
1.3. Auf das akzessorische Haftentschädigungsbegehren des Beschwerdeführers ist hingegen, ungeachtet des Ausgangs des Haftbeschwerdeverfahrens in der Sache, nicht einzutreten. Über solche Begehren ist nicht im Haftprüfungsverfahren zu entscheiden, sondern im gesetzlich vorgesehenen separaten Haftentschädigungsverfahren (vgl. Art. 222 und Art. 429-431 StPO; <ref-ruling> E. 2.5.1 S. 250; s.a. Urteil des Bundesgerichts 1B_111/2020 vom 31. März 2020 E. 1, mit weiteren Hinweisen). Im Übrigen bezeichnet der Beschwerdeführer in einem gewissen Widerspruch zu seinem Entschädigungsbegehren die Frage der hinreichenden gesetzlichen Grundlage für die Anordnung der Sicherheitshaft im gerichtlichen Nachverfahren als alleinigen Streitgegenstand (Beschwerdeschrift S. 3 Ziff. 1.4).
1.4. Mit der Beschwerde in Strafsachen an das Bundesgericht kann insbesondere die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), prüft die bei ihm angefochtenen Entscheide aber grundsätzlich nur auf Rechtsverletzungen hin, die von den Beschwerdeführern geltend gemacht und begründet werden (vgl. <ref-law>). Erhöhte Anforderungen an die Begründung gelten, soweit die Verletzung von Grundrechten gerügt wird (<ref-law>; <ref-ruling> E. 1.4.2 S. 254 mit Hinweisen). Die vom Beschwerdeführer erhobenen Rügen erweisen sich als rudimentär. Insbesondere setzt sich der Beschwerdeführer nur marginal mit der Frage der ausreichenden gesetzlichen Grundlage im kantonalen Recht auseinander. Überdies führt er überhaupt nicht aus, weshalb die Vorinstanz nicht auf eine Heilung der Gehörsverletzung durch die erste Instanz hätte entscheiden dürfen sowie weshalb sie auf das Haftentschädigungsgesuch hätte eintreten müssen. Auf die Beschwerde kann daher nur im nachfolgenden Umfang eingetreten werden. Im Übrigen erweist sie sich als unzulässig.
2.
2.1. Der Beschwerdeführer beruft sich auf das Urteil des Europäischen Gerichtshofs für Menschenrechte Nr. 72939/16 I.L. gegen die Schweiz vom 3. Dezember 2019. Gemäss diesem Entscheid fehle es in der schweizerischen Strafprozessordnung an einer ausreichenden gesetzlichen Grundlage für strafprozessuale Sicherheitshaft nach rechtskräftiger Verurteilung im selbstständigen gerichtlichen Nachverfahren. Mit diesem Urteil hat sich das Bundesgericht indessen schon wiederholt auseinandergesetzt. Danach beruht die Anordnung von Sicherheitshaft im fraglichen Zusammenhang inzwischen auf einer lang andauernden und konstanten Rechtsprechung. Diese geht zurück auf ein in <ref-ruling> publiziertes Urteil vom 15. August 2011 und wurde seither unzählige Male bestätigt (vgl. das Urteil des Bundesgerichts 1B_24/2020 vom 3. Februar 2020 sowie die dort in E. 3.3 zitierten weiteren Urteile). Die entsprechende bundesgerichtliche Rechtsprechung vermag die allenfalls fehlende ausdrückliche Gesetzesgrundlage nach der Rechtsprechung des Europäischen Gerichtshofes für Menschenrechte zu ersetzen (vgl. etwa die Urteile des Bundesgerichts 1B_111/2020 vom 31. März 2020, zur Publ. vorgesehen; 1B_290/2020 und 1B_311/2020 vom 4. August 2020; 1B_207/2020 vom 26. Mai 2020; 1B_160/2020 vom 28. April 2020; 1B_121/2020 vom 24. März 2020). Die Vorinstanz stützte sich ebenfalls auf diese Rechtsprechung, die im Übrigen spätestens seit dem angefochtenen Entscheid auch dem Beschwerdeführer bekannt ist, deren Kenntnis von seinem Rechtsvertreter erwartet werden kann und die er gemäss seiner Beschwerdeschrift auch kennt und im Übrigen als unzulässig kritisiert. Der Beschwerdeführer bringt keine nachvollziehbaren Gründe dafür vor, im vorliegenden Fall davon abzuweichen, und dafür besteht auch kein Anlass. Die entsprechende Rüge des Beschwerdeführers stösst demnach ins Leere.
2.2. Die Vorinstanz stützte die Haftanordnung bzw. -verlängerung ergänzend auf § 22 Abs. 1 des Straf- und Justizvollzugsgesetzes des Kantons Zürich vom 19. Juni 2006 (StJVG; LS 331). Danach kann die für den Vollzug zuständige Amtsstelle eine Person vor oder mit der Einleitung eines Verfahrens auf Erlass eines nachträglichen richterlichen Entscheides gemäss <ref-law> unter bestimmten, im Gesetz ausgeführten Voraussetzungen in Sicherheitshaft setzen. Das Obergericht hielt dazu im Wesentlichen fest, die darin genannten Haftvoraussetzungen deckten sich mit den materiellen Haftgründen nach <ref-law> und der dazu ergangenen bundesgerichtlichen Rechtsprechung. Überdies habe das Bundesgericht in zwei jüngeren Entscheiden eine analoge Gesetzesregelung des Kantons Bern als hinreichende gesetzliche Grundlage für die Haftanordnung vor oder nach der Einleitung des nachträglichen gerichtlichen Verfahrens beurteilt (Urteile 1B_201/2018 vom 15. Mai 2018 E. 3 und 1B_121/2020 vom 24. März 2020 E. 5; offen gelassen in den beiden Urteilen 1B_160/2020 vom 28. April 2020 E. 2.6 sowie 1B_207/2020 vom 26. Mai 2020 E. 3.5). Der Beschwerdeführer macht dazu nur rudimentär geltend, die kantonale vollzugsrechtliche Sicherheitshaft könne lediglich analog gestützt auf die Vorgaben der Strafprozessordnung legitimiert werden, womit eine für Art. 5 Ziff. 1 EMRK ausreichende gesetzliche Grundlage ausscheide. Weshalb dies so sein sollte, führt er jedoch nicht aus und ist weder nachvollziehbar noch ersichtlich. Weiter ist darauf daher nicht einzugehen.
3.
Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Verfahrensausgang wird der unterliegende Beschwerdeführer kostenpflichtig (<ref-law>). Er stellt ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung. Dieses hat jedoch angesichts der dargelegten Rechtsprechung sowie des Umstands, dass diese inzwischen hinlänglich öffentlich bekannt ist und in den Medien sowie Fachzeitschriften beschrieben und diskutiert wurde, als aussichtslos zu gelten (vgl. das Urteil des Bundesgerichts 1B_207/2020 vom 26. Mai 2020 E. 4). Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege und Verbeiständung ist folglich abzuweisen (vgl. <ref-law>). Auf die Erhebung von Gerichtskosten kann hier immerhin ausnahmsweise verzichtet werden (<ref-law>). Eine Entschädigung ist hingegen nicht zuzusprechen.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3.
Es werden keine Gerichtskosten erhoben.
4.
Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft II des Kantons Zürich, dem Justizvollzug und Wiedereingliederung, Bewährungs- und Vollzugsdienste, und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 31. August 2020
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Chaix
Der Gerichtsschreiber: Uebersax