Sachverhalt:
Sachverhalt:
A. Das Bezirksgericht Meilen verurteilte X._ am 3. Juni 1999 wegen Diebstahls, mehrfacher Sachbeschädigung, mehrfachen Hausfriedensbruchs, Drohung sowie Verletzung des Strassenverkehrsgesetzes zu vier Monaten Gefängnis unter Anrechnung von vier Tagen Untersuchungshaft. Weil beim Angeklagten im Rahmen der psychiatrischen Untersuchung eine Schizophrenie diagnostiziert und vom Gutachter eine stationäre Behandlung empfohlen worden war, schob das Gericht die Freiheitsstrafe im Sinne von <ref-law> auf und wies den Angeklagten gemäss <ref-law> in eine psychiatrische Heilanstalt ein. Mit Verfügung vom 17. September 2003 lehnte das Amt für Justizvollzug des Kantons Zürich im Rahmen der jährlichen Prüfung nach <ref-law> die probeweise Entlassung von X._ aus der stationären Massnahme ab. Gegen diesen Entscheid ergriff X._ kein Rechtsmittel.
Mit Eingabe vom 11. Dezember 2003 stellte er beim Bezirksgericht Meilen ein Gesuch um unverzügliche Entlassung aus dem Massnahmenvollzug. Das Bezirksgericht trat mit Zirkulationsbeschluss vom 2. März 2004 auf das Entlassungsgesuch nicht ein. Den von X._ dagegen erhobenen Rekurs wies das Obergericht des Kantons Zürich am 5. Mai 2004 ab.
Mit Eingabe vom 11. Dezember 2003 stellte er beim Bezirksgericht Meilen ein Gesuch um unverzügliche Entlassung aus dem Massnahmenvollzug. Das Bezirksgericht trat mit Zirkulationsbeschluss vom 2. März 2004 auf das Entlassungsgesuch nicht ein. Den von X._ dagegen erhobenen Rekurs wies das Obergericht des Kantons Zürich am 5. Mai 2004 ab.
B. X._ reichte gegen diesen Entscheid am 8. Juli 2004 beim Bundesgericht staatsrechtliche Beschwerde ein. Er beantragt, der Rekursentscheid des Zürcher Obergerichts sei aufzuheben und die Sache sei zur materiellen Beurteilung durch das Bezirksgericht Meilen an die Vorinstanz zurückzuweisen. Ausserdem ersucht er um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren.
B. X._ reichte gegen diesen Entscheid am 8. Juli 2004 beim Bundesgericht staatsrechtliche Beschwerde ein. Er beantragt, der Rekursentscheid des Zürcher Obergerichts sei aufzuheben und die Sache sei zur materiellen Beurteilung durch das Bezirksgericht Meilen an die Vorinstanz zurückzuweisen. Ausserdem ersucht er um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren.
C. Die Staatsanwaltschaft und das Obergericht des Kantons Zürich verzichteten auf eine Vernehmlassung.

Das Bundesgericht zieht in Erwägung:
Das Bundesgericht zieht in Erwägung:
1. Das Bezirksgericht trat wegen fehlender Zuständigkeit auf das Entlassungsgesuch des Beschwerdeführers nicht ein. Es führte aus, im Bereich des Massnahmerechts (Art. 42 - 45 StGB) unterscheide das Gesetz hinsichtlich der funktionellen Zuständigkeit zwischen "Richter" und "zuständiger Behörde". Mit der letztgenannten Behörde sei grundsätzlich die Vollzugsbehörde gemeint. In deren Kompetenz falle der Entscheid über eine probeweise Entlassung, über flankierende Massnahmen dazu sowie über die Rückversetzung im Falle eines Misserfolges. Im Kanton Zürich sei der "Justizvollzug des Kantons Zürich" die zuständige Behörde im Sinne des StGB. Deren Entscheide könnten nach § 27 Abs. 2 des Kantonalen Straf- und Vollzugsgesetzes (StVG) an die vorgesetzte Behörde weitergezogen werden, hier mit Rekurs an die kantonale Justizdirektion (§ 22 des zürcherischen Verwaltungsrechtspflegegesetzes, VRG). Der Rekursentscheid könne mit Beschwerde beim Verwaltungsgericht des Kantons Zürich angefochten werden (§ 41 VRG). Gegen dessen Entscheid stehe die Verwaltungsgerichtsbeschwerde an das Bundesgericht offen (Art. 98 lit. g OG). Das Bezirksgericht hielt sodann fest, im vorliegenden Fall gehe es nicht um die Frage einer Entlassung aus einer strafprozessualen Haft, sondern aus dem Massnahmenvollzug. Dafür seien die Vollzugsbehörden zuständig. Auch wenn der Beschwerdeführer seine vorbehaltlose unverzügliche Entlassung beantrage, werde zu prüfen sein, ob eine probeweise Entlassung möglich sei, ob eine Schutzaufsicht anzuordnen sei und ob dem zu Entlassenden Weisungen zu erteilen seien. Dies seien reine Vollzugsfragen, die nicht der Sachrichter zu regeln habe.
Das Obergericht gelangte im angefochtenen Entscheid zum Schluss, das Bezirksgericht sei zu Recht auf das Entlassungsgesuch des Beschwerdeführers nicht eingetreten.
Das Obergericht gelangte im angefochtenen Entscheid zum Schluss, das Bezirksgericht sei zu Recht auf das Entlassungsgesuch des Beschwerdeführers nicht eingetreten.
2. In der staatsrechtlichen Beschwerde wird geltend gemacht, der Entscheid des Obergerichts verletze Art. 5 Ziff. 4 EMRK und <ref-law>.
2.1 Gemäss Art. 5 Ziff. 4 EMRK hat jede Person, die festgenommen oder der die Freiheit entzogen ist, das Recht, zu beantragen, dass ein Gericht innerhalb kurzer Frist über die Rechtmässigkeit des Freiheitsentzugs entscheidet und ihre Entlassung anordnet, wenn der Freiheitsentzug nicht rechtmässig ist. Nach <ref-law> hat jede Person, der die Freiheit nicht von einem Gericht entzogen wird, das Recht, jederzeit ein Gericht anzurufen. Dieses entscheidet so rasch als möglich über die Rechtmässigkeit des Freiheitsentzugs.
2.2 Das Obergericht führte im angefochtenen Entscheid aus, eine gerichtlich angeordnete Massnahme nach <ref-law> erfolge für unbestimmte Dauer und werde erst aufgehoben, wenn ihr Grund weggefallen sei (<ref-law>). Ob der Grund weiter bestehe, sei in vernünftigen Abständen zu prüfen, die im Falle der Unterbringung von Geisteskranken länger sein dürften als beispielsweise bei Untersuchungshaft. Zudem dürfe die Aufhebung einer Massnahme erst nach einer umfassenden Abklärung und Prüfung aller erforderlichen Entscheidgrundlagen erfolgen; psychiatrische Einweisungen würden oftmals wesentlich schwierigere Fragen aufwerfen als Fälle der Untersuchungshaft, deren Abklärung nach der Praxis der Strassburger Organe auch einige Monate in Anspruch nehmen dürfe, wenn die Gerichte keine Zeit unnütz verstreichen liessen. Sodann verwies das Obergericht auf die Rechtsprechung des Bundesgerichts zu Art. 5 Ziff. 4 EMRK und zitierte aus den Erwägungen der bundesgerichtlichen Urteile vom 6. August 2001 (6A.63/2001) und 7. Juli 2003 (1P.352/2003). Das Obergericht erklärte, nach der Rechtsprechung des Bundesgerichts halte die im Kanton Zürich getroffene Regelung (bezüglich zuständiger Behörde und Rechtsmittelweg) im Zusammenhang mit der Entlassung aus dem Massnahmenvollzug von geistig Abnormen vor Art. 5 Ziff. 4 EMRK stand. Dies gelte auch dann, wenn der Betroffene bereits seit langer Zeit stationär untergebracht sei und das Entlassungsverfahren eine relativ lange Zeit in Anspruch nehme. Entgegen der Auffassung des Beschwerdeführers sei Art. 5 Ziff. 4 EMRK nicht so auszulegen, dass das Entlassungsgesuch eines stationär untergebrachten Massnahmepatienten innerhalb von wenigen Wochen von einer Gerichtsbehörde beurteilt werden müsse. Es sei grundsätzlich mit Art. 5 Ziff. 4 EMRK und <ref-law> vereinbar, wenn die Vollzugsbehörde im Rahmen von <ref-law> eine jährliche Überprüfung der Massnahme vornehme und dieser Entscheid mit Rechtsmitteln an eine Gerichtsbehörde weitergezogen werden könne. Aus der in Art. 5 Ziff. 4 EMRK enthaltenen Formulierung "innerhalb kurzer Frist" könne nicht hergeleitet werden, im Rahmen einer Entlassung aus einer stationären Massnahme müsse der Entscheid innerhalb weniger Wochen erfolgen. Zum heutigen Zeitpunkt, rund vier Monate nach der Stellung des Entlassungsgesuchs, liege keine Verletzung von Art. 5 Ziff. 4 EMRK und <ref-law> vor.
"Nur ergänzend sei" - wie das Obergericht im Weiteren festhielt - darauf hinzuweisen, dass aus dem vom Beschwerdeführer in dessen Eingabe vom 31. März 2004 erwähnten Beschluss des Obergerichts vom 27. August 1998 nichts Sachdienliches über die Zuständigkeiten der Instanzen hergeleitet werden könne, da jenem Entscheid ein vom vorliegenden Fall abweichender Sachverhalt zugrunde gelegen habe. Die Vorinstanz habe damals im Rahmen eines ordentlichen Nachverfahrens eine stationäre Massnahme aufgehoben und vom Vollzug einer Freiheitsstrafe abgesehen. Die Zuständigkeit der Gerichtsbehörde habe sich daher ohne weiteres aus <ref-law> ergeben.
Abschliessend erklärte das Obergericht, unter den erwähnten Umständen habe das Bezirksgericht mit Recht festgehalten, im vorliegenden Fall sei die Zuständigkeit des Strafrichters nicht gegeben. Der Beschwerdeführer werde seine Argumente im Rahmen des Entlassungsverfahrens im Sinne von <ref-law> vorbringen müssen.
2.3 Der Beschwerdeführer wendet ein, die Begründung des angefochtenen Entscheids erweise sich in mehreren Punkten als verfassungs- bzw. konventionswidrig.
2.3.1 Er macht geltend, entgegen den Ausführungen im angefochtenen Entscheid habe dem Beschluss des Obergerichts vom 27. August 1998, in welchem die Eintretensfrage ohne weiteres bejaht worden sei, kein abweichender Sachverhalt zugrunde gelegen.
Diese Kritik, welche sich gegen die nur ergänzend angebrachten Bemerkungen des Obergerichts richtet, ist unzutreffend. Das Obergericht ging mit Grund davon aus, im Entscheid vom 27. August 1998 sei es um einen vom hier in Frage stehenden Fall abweichenden Sachverhalt gegangen, weshalb der Beschwerdeführer aus diesem Entscheid nichts zu seinen Gunsten ableiten könne.
2.3.2 Was in der staatsrechtlichen Beschwerde gegen die oben (E. 2.2) angeführte Begründung des Obergerichts vorgebracht wird, ist nicht geeignet, die betreffenden Überlegungen als verfassungs- oder konventionswidrig erscheinen zu lassen.
Das Bezirksgericht Meilen schob mit Urteil vom 3. Juni 1999 den Vollzug der gegen den Beschwerdeführer ausgefällten Freiheitsstrafe auf und wies ihn gemäss <ref-law> in eine psychiatrische Heilanstalt ein. Nachdem dieses Urteil (nach unbenütztem Ablauf der Berufungsfrist) in Rechtskraft erwachsen war, befand sich der Beschwerdeführer im stationären Massnahmenvollzug. Er ist zu Unrecht der Ansicht, ein "Entlassungsgesuch" könne gemäss <ref-law> "jederzeit" gestellt werden. Der Freiheitsentzug des Beschwerdeführers (stationärer Massnahmenvollzug) beruht auf einem richterlichen Urteil. Ein strafprozessualer Anspruch, "jederzeit" den Haftrichter anzurufen (<ref-law>), ist - wie das Bundesgericht im Urteil 1P.321/2001 vom 28. Mai 2001, E. 1e, erklärte - im Massnahmenvollzug nach rechtskräftiger Verurteilung nicht mehr gegeben. Der Anspruch auf regelmässige Haftkontrolle in vernünftigen Abständen (Art. 5 Ziff. 4 EMRK) ist durch die von Amtes wegen zu erfolgende Prüfung der bedingten bzw. probeweisen Entlassung aus dem Massnahmenvollzug (<ref-law>) gewährleistet. Das Obergericht verwies im angefochtenen Entscheid zu Recht auf das Urteil des Bundesgerichts 1P.352/2003 vom 7. Juli 2003. In jenem Entscheid wurde ausgeführt, gemäss <ref-law> habe in Bezug auf die probeweise Entlassung aus einer Anstalt nach <ref-law> die zuständige Behörde mindestens einmal jährlich Beschluss zu fassen. Der Entscheid der zuständigen Behörde könne im Kanton Zürich beim Regierungsrat angefochten werden; gegen dessen Entscheid sei die Beschwerde an das kantonale Verwaltungsgericht gegeben; hernach stehe die Verwaltungsgerichtsbeschwerde an das Bundesgericht zur Verfügung. Mit <ref-law> sei dem Erfordernis der regelmässigen Überprüfung des Freiheitsentzuges Rechnung getragen (Urteil 1P.352/2003 vom 7. Juli 2003, E. 2.2). Im vorliegenden Fall hatte das Amt für Justizvollzug im Rahmen dieser Überprüfung mit Verfügung vom 17. September 2003 die probeweise Entlassung des Beschwerdeführers aus der stationären Massnahme abgewiesen. Gegen diesen Entscheid hätte der Beschwerdeführer die erwähnten Rechtsmittel (Rekurs an die Justizdirektion; Beschwerde an das kantonale Verwaltungsgericht, Verwaltungsgerichtsbeschwerde an das Bundesgericht) ergreifen können. Er hat dies jedoch unterlassen. Stattdessen reichte er am 11. Dezember 2003 ein Gesuch um Entlassung aus dem Massnahmenvollzug beim Bezirksgericht Meilen ein. Das Obergericht ist aus den oben angeführten, zutreffenden Überlegungen zum Schluss gelangt, das Bezirksgericht habe Art. 5 Ziff. 4 EMRK und <ref-law> nicht verletzt, wenn es mangels Zuständigkeit auf das Gesuch des Beschwerdeführers nicht eingetreten sei. Der angefochtene Rekursentscheid hält somit vor der Verfassung und der EMRK stand.
Nach dem Gesagten erweist sich die staatsrechtliche Beschwerde als unbegründet. Sie ist deshalb abzuweisen.
Nach dem Gesagten erweist sich die staatsrechtliche Beschwerde als unbegründet. Sie ist deshalb abzuweisen.
3. Der Beschwerdeführer ersucht um Gewährung der unentgeltlichen Rechtspflege im Sinne von Art. 152 Abs. 1 und 2 OG. Da die staatsrechtliche Beschwerde aussichtslos war, kann dem Gesuch nicht entsprochen werden. Der Beschwerdeführer wäre somit an sich kostenpflichtig (Art. 156 Abs. 1 OG). Es rechtfertigt sich indessen, von der Erhebung von Kosten abzusehen.

Demnach erkennt das Bundesgericht:
Demnach erkennt das Bundesgericht:
1. Die staatsrechtliche Beschwerde wird abgewiesen.
1. Die staatsrechtliche Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Es werden keine Kosten erhoben.
3. Es werden keine Kosten erhoben.
4. Dieses Urteil wird dem Beschwerdeführer sowie der Staatsanwaltschaft und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 28. Juli 2004
Im Namen der I. öffentlichrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin: