Das Bundesgericht zieht in Erwägung:
1. Das Obergericht des Kantons Zürich bestrafte X._ am 20. November 2009 unter anderem wegen versuchter vorsätzlicher Körperverletzung mit 31⁄2 Jahren Freiheitsstrafe, abzüglich 416 Tage erstandener Haft, und einer Busse von Fr. 2'000.--. Das Gericht ordnete eine stationäre Massnahme im Sinne von Art. 59 Abs. 1 und 3 StGB an. Das Urteil ist seit dem 10. Februar 2010 rechtskräftig. Am 1. Juli 2010 wurde X._ per 30. Juni 2010 zum Vollzug der stationären Massnahme in die Justizvollzugsanstalt Pöschwies eingewiesen, wo er sich zurzeit befindet. Einen gegen die Vollzugsanordnung erhobenen Rekurs wies die Direktion der Justiz und des Innern des Kantons Zürich am 26. August 2010 ab, soweit sie darauf eintrat. Ein von X._ am 7. August 2011 gestelltes Gesuch um bedingte Entlassung aus der Massnahme wurde durch das Amt für Justizvollzug des Kantons Zürich am 12. September 2011 abgewiesen. Das Verwaltungsgericht des Kantons Zürich wies eine dagegen gerichtete Beschwerde in Anwendung von <ref-law> am 22. März 2012 ab.
Mit Eingabe vom 29. April 2012 beantragte X._ beim Obergericht unter Bezugnahme auf <ref-law>, er sei unverzüglich aus der Massnahme und der Haft zu entlassen. Sofern sich das Obergericht nicht für zuständig erachte, sei die Angelegenheit dem zuständigen Richter zu überweisen (vgl. Eingabe vom 29. April 2012 S. 2/3).
Der Präsident der II. Strafkammer des Obergerichts verfügte am 7. Mai 2012, die Eingabe vom 29. April 2012 werde zuständigkeitshalber dem Amt für Justizvollzug des Kantons Zürich überwiesen. Er stellte fest, da keine Sicherheitshaft im Sinne von <ref-law> angeordnet worden sei, habe das Gericht auch nicht zu entscheiden, "ob die verurteilte Person bis zum Antritt der Strafe oder Massnahme in Haft bleibt" (<ref-law>). Weil das Obergericht demzufolge keine Kompetenz habe, über eine Entlassung aus der Massnahme zu entscheiden, sondern das nach kantonalem Recht zuständige Amt für Justizvollzug, sei das Gesuch praxisgemäss dorthin zu überweisen.
X._ wendet sich ans Bundesgericht und beantragt, die Verfügung vom 7. Mai 2012 sei aufzuheben. Er sei aus der Massnahme und der Haft zu entlassen. Eventualiter sei das Obergericht anzuweisen, das Haftentlassungsgesuch zu behandeln. Subeventualiter sei das Obergericht anzuweisen, das Haftentlassungsgesuch dem zuständigen Gericht zu überweisen. Es sei festzustellen, dass sich das Obergericht zu Unrecht weigere, das Haftentlassungsgesuch zu behandeln, und es sei der Kanton Zürich anzuweisen, das Haftentlassungsgesuch zu behandeln. Es sei festzustellen, dass das Obergericht bzw. der Kanton Zürich Art. 5 Abs. 4 EMRK durch Nichtbeurteilung innert angemessener Frist verletzt hätten.
2. Die Vorinstanz hat die Eingabe des Beschwerdeführers dem ihrer Ansicht nach zuständigen Amt für Justizvollzug überwiesen und das Gesuch um Entlassung aus der Massnahme und der Haft mangels Kompetenz nicht behandelt. Damit ist das bei ihr hängig gewesene Verfahren im Sinne von <ref-law> abgeschlossen, und auf die Beschwerde, mit der geltend gemacht wird, dass die Vorinstanz das Gesuch hätte behandeln müssen, ist einzutreten.
Es stellt sich die Frage, ob gegen die angefochtene Verfügung des Präsidenten der II. Strafkammer des Obergerichts, jedenfalls soweit er das Gesuch um Entlassung aus der Massnahme und Haft mangels Kompetenz nicht behandelte, ein kantonaler Rechtsbehelf möglich gewesen wäre. Da sich die Beschwerde indessen als offensichtlich unbegründet erweist, kann die Frage, ob der angefochtene Entscheid letztinstanzlich im Sinne von <ref-law> ist, offen bleiben.
3. Der Beschwerdeführer macht eine Verletzung von <ref-law> geltend, weil in Missachtung von § 39 des zürcherischen Gesetzes über die Gerichts- und Behördenorganisation im Zivil- und Strafprozess (GOG) keine Dreierbesetzung des Obergerichts entschieden habe (Beschwerde S. 8). Im vorliegenden Fall hat die Vorinstanz indessen die Angelegenheit nicht entschieden, sondern an die zuständige Stelle überwiesen, weil sie für die aufgeworfene Frage nicht kompetent sei. Dass auch eine solche Überweisung an eine andere Stelle durch eine Dreierbesetzung vorgenommen werden müsste, ergibt sich aus der Beschwerde nicht. Jedenfalls wird eine willkürliche Anwendung von § 39 GOG/ZH nicht dargetan. Insoweit ist auf die Beschwerde nicht einzutreten. Unter diesen Umständen ist auch die Rüge der Verletzung von <ref-law> unbegründet.
4. Der Beschwerdeführer macht zur Hauptsache geltend, es sei umstritten bzw. durch die Vorinstanz gar nicht richtig geprüft worden, ob er sich im Massnahmevollzug befinde oder nicht. Er beharrt denn auch darauf, dass <ref-law> anzuwenden gewesen wäre. Durch die Weigerung, das Gesuch zu behandeln, habe die Vorinstanz den Sachverhalt unrichtig bzw. lückenhaft festgestellt und gegen Art. 5 und 6 EMRK sowie Art. 29, 30 und 31 BV verstossen (vgl. Beschwerde S. 5 ff.).
Von einem lückenhaften Entscheid bzw. einer Verletzung der Begründungspflicht kann nicht die Rede sein. Denn die Vorinstanz verweist ausdrücklich auf das oben in E. 1 erwähnte Urteil des Verwaltungsgerichts des Kantons Zürich vom 22. März 2012. Inwieweit dieses widersprüchlich sein soll (Beschwerde S. 10), führt der Beschwerdeführer nicht aus. Daraus ergibt sich klar, dass er sich im Vollzug der von der Vorinstanz 2009 angeordneten stationären Massnahme befindet. Dann aber steht auch fest, dass er nicht in Haft im Sinne von <ref-law> sein kann, weil diese Sicherheitshaft nur "bis zum Antritt der Strafe oder Massnahme" angeordnet wird. Da jemand aus einer nicht existierenden Haft nicht entlassen werden kann, war es der Vorinstanz nicht möglich, das ausdrücklich auf <ref-law> gestützte Gesuch des Beschwerdeführers zu behandeln.
Wer sich im Vollzug einer Massnahme befindet, kann nur die bedingte Entlassung gemäss <ref-law> oder die Aufhebung der Massnahme gemäss <ref-law> verlangen. Beides ist durch die zuständige kantonale Vollzugsbehörde zu prüfen (<ref-law>). Dass zunächst die Vollzugsbehörde entscheidet und erst deren Entscheid durch ein Gericht überprüft wird, verletzt weder die BV noch die EMRK. Auch verlangen weder die BV noch die EMRK, dass der Betroffene jederzeit ein "Haftentlassungsgesuch" bei dem Gericht, welches die Massnahme angeordnet hat, stellen kann. Dies gilt auch, wenn er geltend macht, der Massnahmevollzug sei mangelhaft. Davon, dass wegen der angeblichen Mängel wieder <ref-law> zum Zuge käme (Beschwerde S. 11), kann nicht die Rede sein. Unter den gegebenen Umständen war es richtig (und entsprach denn auch dem Eventualantrag des Beschwerdeführers), dass die Vorinstanz das Gesuch um Entlassung aus der Massnahme dem zuständigen Amt für Justizvollzug überwies. Zu Recht stellt sie zudem fest, dass das Verwaltungsgericht zwar gerade am 22. März 2012 unter Hinweis auf die "nach wie vor ungünstige Legalprognose aufgrund bestehender Rückfallgefahr" die Entlassung des Beschwerdeführers aus dem Vollzug der Massnahme abgelehnt habe, es diesem indessen offen stehe, erneut ein Gesuch gemäss <ref-law> zu stellen.
Inwieweit schliesslich der Umstand, dass der Beschwerdeführer gestützt auf einen Entscheid des Regierungsrates und eine Verfügung des Migrationsamtes des Kantons Zürich die Schweiz per 2. August 2012 zu verlassen hat (vgl. act. 12), am Ausgang der Sache etwas zu ändern vermag, ergibt sich aus der neuen Eingabe vom 17. Juli 2012 nicht und ist auch nicht ersichtlich.
Die Beschwerde ist im Verfahren nach <ref-law> abzuweisen, soweit darauf einzutreten ist.
5. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (<ref-law>). Das Gesuch um unentgeltliche Rechtspflege ist in Anwendung von <ref-law> abzuweisen, weil die Rechtsbegehren aussichtslos erschienen. Der finanziellen Lage des Beschwerdeführers ist bei der Bemessung der Gerichtskosten Rechnung zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 13. August 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: C. Monn