Sachverhalt:
A.
Das Obergericht des Kantons Zürich sprach X._ am 27. April 2011 der Vergewaltigung, der sexuellen Nötigung und des Hausfriedensbruchs schuldig. Es verurteilte ihn zu einer Freiheitsstrafe von 3 Jahren, unter Anrechnung der erstandenen Haft, und widerrief die mit Urteil des Bezirksgerichts Zürich am 10. Februar 2005 bedingt ausgefällte Freiheitsstrafe von 11 Monaten. Es schob den Vollzug der Freiheitsstrafe auf und wies X._ in eine Einrichtung für junge Erwachsene ein.
Am 9. Mai 2014 wurde X._ bedingt aus der Massnahme für junge Erwachsene entlassen.
Am 20. August 2014 stellte das Amt für Justizvollzug des Kantons Zürich (JUV) beim Bezirksgericht Zürich den Antrag auf Rückversetzung von X._ in den Massnahmevollzug mit zeitgleicher Anordnung einer stationären Massnahme im Sinne von <ref-law> sowie einen Antrag auf Überprüfung der Anordnung von Sicherheitshaft für die Dauer des Nachverfahrens.
Mit Beschluss des Bezirksgerichts Zürich vom 9. März 2015 wurde X._ in den Massnahmevollzug zurückversetzt, die Massnahme für junge Erwachsene aufgehoben und eine stationäre therapeutische Massnahme angeordnet. Gleichentags wurde die Fortdauer der Sicherheitshaft bis zum Antritt der stationären Massnahme verfügt.
B.
Gegen den Beschluss des Bezirksgerichts Zürich vom 9. März 2015 erhob X._ Beschwerde und beantragte die Durchführung einer mündlichen Verhandlung. Diesen Antrag wies das Obergericht des Kantons Zürich zusammen mit der Beschwerde am 27. November 2015 ab.
C.
Das Bundesgericht hiess am 30. August 2016 die Beschwerde von X._ gut, hob den Beschluss vom 27. November 2015 auf und wies die Sache zu neuer Entscheidung nach Durchführung einer mündlichen Verhandlung an das Obergericht zurück (Verfahren 6B_85/2016).
D.
Mit Beschluss vom 5. Dezember 2016 wies das Obergericht die Beschwerde von X._ ab.
E.
X._ führt Beschwerde in Strafsachen mit den Anträgen, der Beschluss des Obergerichts vom 5. Dezember 2016 sei aufzuheben. Der Antrag des Amts für Justizvollzug des Kantons Zürich vom 20. August 2014 auf Rückversetzung in die Massnahme für junge Erwachsene und auf zeitgleiche Anordnung einer stationären Massnahme sei abzuweisen. Es sei eine ambulante psychiatrisch-psychotherapeutische Behandlung anzuordnen. Zur Einleitung der ambulanten Behandlung sei eine maximal zweimonatige stationäre Behandlung anzuordnen. Eventualiter sei die Sache zur erneuten Beurteilung an die Vorinstanz zurückzuweisen. X._ ersucht für das bundesgerichtliche Verfahren um unentgeltliche Prozessführung und Verbeiständung.

Erwägungen:
1.
1.1. Der Beschwerdeführer stellt die Unabhängigkeit des Sachverständigen Dr. med. A._ in Frage. Er macht geltend, dieser habe einerseits die Begutachtung vorgenommen. Andererseits sei er Chefarzt und stellvertretender Klinikdirektor der Psychiatrischen Klinik Rheinau (KFP Rheinau), wo der Beschwerdeführer therapiert werde. Zudem habe der Sachverständige anlässlich der vorinstanzlichen Verhandlung als Therapeut Angaben zum Therapieverlauf gemacht und den aktuellen Therapiebericht selber unterzeichnet. Er habe mehrfach auf die Doppelrolle des Sachverständigen und dessen fehlende Unabhängigkeit hingewiesen. Die Vorinstanz habe sein Begehren um Einholung eines Zweitgutachtens allerdings abgelehnt. Zudem sei sie in Verletzung seines Anspruchs auf rechtliches Gehör auf verschiedene seiner Einwände nicht eingegangen.
1.2. Die Vorinstanz wies das Gesuch um Einholung eines Zweitgutachtens ab. Sie erwägt, Dr. med. A._ sei am 4. September 2014 mit der Erstellung eines Gutachtens beauftragt worden. Das Gutachten sei am 24. Februar 2015 erstattet worden. Der Beschwerdeführer habe sich ab Mitte Dezember 2014 in der KFP Rheinau aufgehalten, wo der Sachverständige als Chefarzt und stellvertretender Klinikleiter tätig sei. Die Begutachtung habe somit zwar teilweise während des stationären Aufenthalts des Beschwerdeführers in der KFP Rheinau stattgefunden. Erst nach Erstattung des Gutachtens und auch nach dessen Erläuterung durch den Sachverständigen vor der ersten Instanz am 9. März 2015 habe der Beschwerdeführer allerdings in die geschlossene Massnahmestation übertreten können. Die Therapie habe erst dann eingesetzt. Bereits deshalb erscheine das am 25. Februar 2015 erstattete Gutachten nicht als problematisch. Der Sachverständige habe weiter angegeben, den Beschwerdeführer nicht zu therapieren, jeweils absichtlich nicht anwesend zu sein, wenn im Team über den Fall des Beschwerdeführers gesprochen werde und das Dossier seinem Stellvertreter übertragen zu haben. Die Vorinstanz hält weiter fest, es sei zwar zutreffend, dass der Sachverständige Vollzugslockerungen genehmigt habe, dies jedoch lediglich in seiner Funktion als Anstaltsleiter. Weder habe er sich in die Therapie eingemischt noch Weisungen erteilt. Dass er den Therapiebericht mitunterzeichnet und sich anlässlich der Verhandlung zum Therapieverlauf geäussert habe, stehe dem nicht entgegen. Es bestünden keine Anhaltspunkte, wonach dem Sachverständigen die notwendige Unabhängigkeit abzusprechen wäre.
1.3. Gemäss <ref-law> und Art. 6 Ziff. 1 EMRK hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter entschieden wird (<ref-ruling> E. 3.1). Nach der Rechtsprechung des Bundesgerichts wird diese Verfahrensgarantie sinngemäss auch auf das Erfordernis der Unabhängigkeit und Unparteilichkeit von Sachverständigen übertragen (<ref-ruling> E. 7.1; <ref-ruling> E. 4a; je mit Hinweisen; ausführlich auch das Urteil 6B_299/2007 vom 11. Oktober 2007 E. 5.1 und 5.1.1). Da sie nicht Mitglied des Gerichts sind, richten sich die Anforderungen zwar nicht nach <ref-law>, sondern nach <ref-law>. Hinsichtlich der Unparteilichkeit und Unbefangenheit kommt <ref-law> indessen ein mit <ref-law> weitgehend übereinstimmender Gehalt zu (Urteil 9C_19/2017 vom 30. März 2017 E. 3.2 mit Hinweisen). Im Massnahmerecht ergibt sich das Erfordernis der Unabhängigkeit und Unparteilichkeit des Sachverständigen ferner aus <ref-law>, wonach die Begutachtung, sofern der Täter eine Tat im Sinne von <ref-law> begangen hat, durch einen Sachverständigen vorzunehmen ist, der den Täter weder behandelt noch in anderer Weise betreut hat. Schliesslich gelten für Sachverständige die Ausstandsgründe nach <ref-law> (<ref-law>).
Voreingenommenheit und Befangenheit werden nach der Rechtsprechung angenommen, wenn Umstände vorliegen, die bei objektiver Betrachtung geeignet sind, Misstrauen in die Unparteilichkeit des Richters bzw. des Sachverständigen zu erwecken. Solche Umstände können in einem bestimmten Verhalten des betreffenden Richters bzw. Sachverständigen oder in gewissen äusseren Gegebenheiten funktioneller und organisatorischer Natur begründet sein. Bei ihrer Beurteilung ist nicht auf das subjektive Empfinden einer Partei abzustellen (<ref-ruling> E. 3.2.1; <ref-ruling> E. 3.1; je mit Hinweisen).
1.4. Vorab macht der Beschwerdeführer unter Verweis auf das Protokoll geltend, er sei im vorinstanzlichen Verfahren vor der Befragung des Sachverständigen nicht zu Wort gekommen. Das Gericht hätte den Sachverständigen zunächst zu seinen Funktionen in Zusammenhang mit der Therapie des Beschwerdeführers befragen müssen. Dieser Einwand ist unbegründet. Der Rechtsvertreter des Beschwerdeführers erhielt nach der Befragung des Sachverständigen durch das Gericht die Gelegenheit, diesem Ergänzungsfragen zu stellen. Von dieser Möglichkeit machte er Gebrauch. Der Beschwerdeführer legt nicht dar, welche bundesrechtlichen Bestimmungen aufgrund des von der Verfahrensleitung festgelegten Verhandlungsablaufs verletzt sein sollen. Inwiefern ihm dieser zum Nachteil gereicht haben soll, ist ebenfalls nicht ersichtlich.
1.5. Bezüglich der Rüge der fehlenden Unabhängigkeit des Sachverständigen kann grundsätzlich auf die zutreffenden Erwägungen der Vorinstanz verwiesen werden. Demnach war der Sachverständige nicht in die Therapie des Beschwerdeführer involviert. Der Beschwerdeführer befand sich im Zeitpunkt der Erstattung des Gutachtens erst kurze Zeit auf der Sicherheitsabteilung der KFP Rheinau und die Therapie auf der geschlossenen Massnahmestation hatte noch nicht begonnen. Entgegen der Behauptung des Beschwerdeführers geht die Vorinstanz auf seine Vorbringen ein. Sie blendet beispielsweise nicht aus, dass der Sachverständige in seiner Funktion als Leiter der Abteilung mit dem Fall des Beschwerdeführers in Kontakt kam. Allein aus der Tatsache, dass er Leiter der Anstalt ist, in welcher der Beschwerdeführer therapiert wird, kann allerdings nicht abgeleitet werden, dem Sachverständigen sei z.B. aufgrund eines Interessenkonflikts die Unabhängigkeit abzusprechen. Daran ändert nichts, dass der Sachverständige in seiner Funktion als Anstaltsleiter einzelne Akte wie etwa Vollzugslockerungen genehmigt oder den Therapiebericht - nebst drei weiteren Ärzten - unterzeichnet hat. Die Prüfung des Therapieberichts war gemäss Angaben des Sachverständigen ohnehin auf die Frage beschränkt, ob die Rahmenbedingungen des Massnahmevollzugs eingehalten werden und keine groben Fehler enthalten sind. Die Funktion als Anstaltsleiter und die in diesem Zusammenhang wahrgenommenen Aufgaben führen nicht dazu, dass der Sachverständige in die Behandlung oder Betreuung des Beschwerdeführers involviert im Sinne des Gesetzes ist. Gegenteiliges vermag der Beschwerdeführer mit seinen Einwänden nicht darzutun.
1.6. Zusammenfassend ist in Zusammenhang mit der Abweisung des Antrags auf ein Zweitgutachten weder das Gebot der Unabhängigkeit noch das rechtliche Gehör des Beschwerdeführers verletzt. Die Beschwerde erweist sich in diesen Punkten als unbegründet. Damit kann auch offenbleiben, ob der Beschwerdeführer die Rüge rechtzeitig erhob.
2.
2.1. Der Beschwerdeführer beantragte die Befragung von B._, C._ und D._. Deren Beobachtungen u.a. zu seiner Person hätten den Entscheid betreffend die Frage der Anordnung einer ambulanten Massnahme massgeblich beeinflussen können. Bis heute seien seine Biografie, sein Umfeld und seine Entwicklung fremdanamnestisch nicht erfasst worden. Indem die Vorinstanz seine Vorbringen nicht berücksichtigt habe, verletze sie seinen Anspruch auf rechtliches Gehör und stelle den Sachverhalt auf willkürliche Weise fest.
2.2. Inwieweit die Abweisung des Beweisantrags gegen Bundes- oder Verfassungsrecht verstossen soll, ist nicht ersichtlich. Die Vorinstanz führt zu Recht aus, dass das vorliegende Verfahren die Rückversetzung beziehungsweise Anordnung einer anderen Massnahme zum Gegenstand hat und der Beschwerdeführer keine konkrete strittige Tatsache vorgebracht hat, welche eine Befragung der angerufenen Personen als notwendig erscheinen liesse. Angesichts der Fragestellung des Gutachtens (Legalprognose und Vollzugsverlauf) ist überdies nicht ohne weiteres ersichtlich, inwiefern die Befragung des Umfelds des Beschwerdeführers durch den Sachverständigen unverzichtbar sein sollte. Der Beschwerdeführer zeigt jedenfalls nicht auf, inwieweit das Gutachten aufgrund der fehlenden Fremdanamnese unvollständig oder mangelhaft beziehungsweise die Würdigung der Vorinstanz willkürlich (vgl. <ref-ruling> E. 6.6.1; zum Begriff der Willkür: <ref-ruling> E. 6.3 mit Hinweisen) sein sollte.
3.
3.1. Der Beschwerdeführer ist der Ansicht, es fehle an einer Nichtbewährung.
3.2. Nach <ref-law> wird der Täter bedingt aus dem stationären Vollzug der Massnahme entlassen, sobald sein Zustand es rechtfertigt, dass ihm Gelegenheit gegeben wird, sich in der Freiheit zu bewähren. Bei der bedingten Entlassung aus einer Massnahme nach den Art. 60 und Art. 61 StGB beträgt die Probezeit wie auch deren Verlängerung ein bis drei Jahre (vgl. Art. 62 Abs. 2, Art. 62 Abs. 4 lit. b und Art. 62 Abs. 5 StGB). Hat der Täter eine Straftat im Sinne von <ref-law> begangen, so kann die Probezeit so oft verlängert werden, als dies notwendig erscheint, um weitere Straftaten dieser Art zu verhindern (<ref-law>). Hat sich der bedingt Entlassene bis zum Ablauf der Probezeit bewährt, ist er nach <ref-law> endgültig zu entlassen (Abs. 1). Ebenso wird der Täter endgültig entlassen, wenn die Höchstdauer einer Massnahme nach den Art. 60 und Art. 61 StGB erreicht wurde und die Voraussetzungen für die bedingte Entlassung eingetreten sind (Abs. 2).
Die Bewährung ergibt sich aus einer Negativabgrenzung zur Nichtbewährung (Urteil 6B_724/2016 vom 12. Oktober 2016 E. 1.1 mit Hinweisen). Von einer solchen ist in erster Linie auszugehen, wenn der bedingt Entlassene während der Probezeit eine Straftat begeht und damit zeigt, dass die Gefahr, der die Massnahme begegnen soll, fortbesteht (<ref-law>). Weiter gilt als Nichtbewährung die ernsthafte Erwartung, dass der bedingt Entlassene während der Probezeit ein Verwahrungsdelikt begehen könnte (<ref-law>). Als Nichtbewährung während der Probezeit wird schliesslich auch die mangelnde Kooperation des bedingt Entlassenen mit der Bewährungshilfe oder die Missachtung von Weisungen bewertet (<ref-law>).
Bei einer neuen Straftat sieht das Gesetz drei Folgen der Nichtbewährung vor (vgl. <ref-law>). Für die Folgen der Nichtbewährung gemäss <ref-law> verweist das Gesetz auf Art. 95 Abs. 3-5 StGB. Gemäss <ref-law> erstattet die zuständige Behörde dem Gericht oder den Strafvollzugsbehörden unter anderem Bericht, wenn sich der bedingt Entlassene der Bewährungshilfe entzieht oder die Weisungen missachtet. Das Gericht oder die Strafvollzugsbehörde kann in diesem Fall die Probezeit um die Hälfte verlängern, die Bewährungshilfe aufheben oder neu anordnen oder die Weisungen ändern, aufheben oder neu erteilen (<ref-law>). Ist ernsthaft zu erwarten, dass der Verurteilte neue Straftaten begeht, kann das Gericht in den Fällen nach Abs. 3 die bedingte Strafe widerrufen oder die Rückversetzung in den Straf- oder Massnahmenvollzug anordnen (<ref-law>). Der Widerruf der bedingten Strafe und die Rückversetzung in den Vollzug sind die eingriffsstärksten Anordnungen im Spektrum von Art. 95 Abs. 4 und 5 StGB. Sie kommen nur in Betracht, wo das Sich-Entziehen oder Missachten von Weisungen besonders deutlich an eine ungünstige Legalprognose anknüpft (Urteil 6B_881/2013 vom 19. Juni 2014 E. 2). Ausschlaggebend ist die Kriminalprognose. Der Widerruf darf nicht allein deshalb ausgesprochen werden, um die Missachtung einer Weisung zu ahnden (<ref-ruling> E. 3d).
3.3. Die Vorinstanz hält fest, der Beschwerdeführer habe die ihm mit Verfügung des JUV vom 9. Mai 2014 auferlegten Weisungen "24-Stunden betreutes Wohnsetting", "Einhaltung der vorgegebenen Tagesstrukturen im Rahmen der Beschäftigung an einem geschützten Arbeitsplatz" sowie "Alkoholkonsumverbot" über längere Zeit und bis zu seiner erneuten Verhaftung nicht eingehalten. Es könne nicht von einmaligen Entgleisungen oder relativ unbedeutenden Oppositionen gesprochen werden. Gemäss verschiedener Meldungen und Berichte der den Beschwerdeführer betreuenden Fachpersonen habe sich sein Zustand nach dessen bedingter Entlassung zusehends verschlechtert. Die Vorinstanz verweist dazu auf diverse Aktenstücke. Daraus ergibt sich unter anderem auch, dass es zu Unregelmässigkeiten bei Urinproben kam. Weiter habe der Beschwerdeführer Therapietermine nicht mehr wahrgenommen. In einer E-Mail vom 27. November 2014 teilte das JUV der Vorinstanz sowie dem amtlichen Verteidiger mit, der Therapeut habe sich zunehmend besorgt gezeigt, denn der Beschwerdeführer sei für ihn nur noch schwer zu erreichen gewesen und unregelmässig zu den Terminen erschienen.
3.4. Gestützt auf die soeben gemachten Ausführungen steht zweifelsohne fest, dass sich der Beschwerdeführer mit seinen mehrfachen, über einen längeren Zeitraum anhaltenden Verstössen gegen Weisungen nicht bewährt hat. Der Beschwerdeführer bestreitet die Weisungsverstösse nicht. Nicht erforderlich für die Bejahung der Nichtbewährung ist, dass der Beschwerdeführer zusätzlich zu den Weisungsverstössen straffällig wurde. Die Vorinstanz stellt zu Recht fest, die Verstösse gegen die Weisungen würden die Nichtbewährung belegen. Inwiefern dabei entscheidend sein soll, aus welchem Grund der Beschwerdeführer gegen die Weisungen verstiess, legt dieser nicht dar und ist auch nicht ersichtlich. Unzutreffend ist ferner die Kritik des Beschwerdeführers, die Vorinstanz gehe auf seine diesbezüglichen Einwände nicht ein (vgl. dazu Beschluss, S. 16). Daneben nimmt die Vorinstanz auch ein Nichtbewähren im Sinne von <ref-law> an. Darauf wird im Folgenden eingegangen.
4.
4.1. Die Rückversetzung in den Straf- oder Massnahmenvollzug im Sinne von <ref-law> kann angeordnet werden, wenn ernsthaft mit neuen Straftaten zu rechnen ist.
4.2. Die Vorinstanz übernimmt in Bezug auf die Legalprognose die Einschätzung des Gutachters. Demnach leidet der Beschwerdeführer an einer Psychose aus dem schizophrenen Formenkreis, welche sich in den letzten Monaten wiederum verschlimmert habe. Im Rahmen akuter psychopathologischer Veränderungen bestehe beim Beschwerdeführer eine erhöhte Wahrscheinlichkeit, dass er erneut eine Verwahrungstat begehe. Im Vorfeld der jetzigen Inhaftierung sei es einmalig zu einer recht typischen Konstellation mit der Fallverantwortlichen im JUV gekommen, wodurch sich gezeigt habe, wie auch in Zukunft die Delinquenz des Beschwerdeführers gestaltet sein würde. Er sei aktiv und antriebsgesteigert, suche den Kontakt zu Personen, im Rahmen dessen es auch zu spontanem Ausdruck von Zuneigung komme, der beim Gegenüber aber eventuell als Grenzüberschreitung wahrgenommen werde. Die damit verbundene Ablehnung kränke den Beschwerdeführer, und er reagiere mit Ärger, der wiederum sein Handeln bestimme, indem er zum Ausdruck gebracht und bei beeinträchtigten Hemmungsmechanismen auch ausgelebt werde. Die darin sichtbare instabile Emotionalität könne in einer solchen Situation erneut den Boden bilden für weitere impulsiv entstehende Handlungsanstösse, die wiederum grenzüberschreitend und nötigend umgesetzt würden. Der Beschwerdeführer werde zurzeit aus eigener Kraft und aus eigenem Antrieb heraus nicht aktiv ein rückfallpräventives Setting aufbauen und aufrechterhalten können. Für die Zukunft gelte es, beim Beschwerdeführer ein ausreichend "rezidiv-prophylaktisches" Setting zu etablieren, bei dem der medikamentöse Schutz eine wesentliche Rolle spiele.
Nebst dem Gutachten des Sachverständigen vom 24. Februar 2015 liegt auch ein aktueller Therapiebericht der KFP Rheinau vom 19. September 2016 vor. Demgemäss hätten im Massnahmevollzug bereits einige Lockerungen gewährt werden können. Der Beschwerdeführer zeige sich zuverlässig und absprachefähig. Unter der derzeitigen medikamentösen Behandlung sei es in den letzten Monaten zu einer weiteren Verbesserung des psychopathologischen Zustandsbildes gekommen. Der Beschwerdeführer werde als gedanklich geordneter und zugänglicher, geduldiger und besser strukturierbar wahrgenommen. Der psychotherapeutische Schwerpunkt im zurückliegenden Behandlungsabschnitt liege weiterhin in der Aufrechterhaltung der psychischen Stabilität und im Umgang mit Belastungen. Weiter sei am Aufschub der Bedürfnisbefriedigung gearbeitet worden, wobei diesbezüglich bisher nur wenige Fortschritte hätten erzielt werden können. Bei Verweigerung der Bedürfnisbefriedigung reagiere der Beschwerdeführer weiterhin zum Teil gereizt und verlasse ohne Klärung die Situation. Eine Problem- und Krankheitseinsicht habe nur in marginalen Ansätzen etabliert werden können.
Die Vorinstanz gelangt zum Schluss, das Gutachten sei nachvollziehbar und einlässlich begründet. Es gebe keine Gründe, um von der sachverständigen Einschätzung abzuweichen. Aufgrund der psychotischen Dekompensation bzw. der schubweise auftretenden chronischen Erkrankung des Beschwerdeführers und den damit verbundenen Antriebssteigerungen, spontanen Zuneigungs- bzw. Kränkungsausdrücken, wenn die Zuneigung nicht erwidert werde und entsprechender Enthemmung, sei auch heute noch von einer relevanten Rückfallgefahr und damit von einer negativen Legalprognose auszugehen.
4.3. Hinsichtlich der Legalprognose bemängelt der Beschwerdeführer im Wesentlichen, das Gutachten werde dem Erfordernis einer gesamtheitlichen Betrachtung nicht gerecht und sei unvollständig. So würden prognoserelevante Aspekte und neuere Entwicklungen weder im Gutachten noch in den vorinstanzlichen Erwägungen Berücksichtigung finden. Konkret berücksichtige die Vorinstanz beispielsweise nicht, dass lediglich in einer akut psychotischen Phase eine Rückfallgefahr bestehe. Er sei jedoch medikamentös gut eingestellt. Die Rückfallgefahr werde daher zu hoch eingeschätzt.
4.4. Die Kritik des Beschwerdeführers richtet sich in erster Linie nicht gegen das Gutachten an sich. Vielmehr macht er geltend, die Vorinstanz gewichte die aktuellen Entwicklungen zu wenig stark oder überhaupt nicht. Ihm kann nicht gefolgt werden. Die Vorinstanz berücksichtigt beispielsweise den aktuellen Therapiebericht und die Aussagen des Sachverständigen an der vorinstanzlichen Verhandlung, wonach es unter der derzeitigen medikamentösen Behandlung zu einer Verbesserung des psychopathologischen Zustandsbildes gekommen sei. Die Vorinstanz legt schlüssig dar, weshalb aufgrund der (schubweisen) Natur der Krankheit des Beschwerdeführers die Rückfallgefahr nach wie vor besteht, insbesondere in Stresssituationen, und dass er Mühe hat, die Grenzen seiner Partnerinnen zu erkennen und zu respektieren. Die Vorinstanz gibt ein vom Sachverständigen erwähntes Ereignis wieder, welches sich bereits vor einiger Zeit zwischen dem Beschwerdeführer und einer Mitarbeiterin des JUV abgespielt hat. Daraus kann allerdings nicht geschlossen werden, es werde nicht auf die aktuellen Gegebenheiten abgestellt. Vielmehr dient das erwähnte Ereignis lediglich der Untermauerung der gutachterlichen Einschätzung hinsichtlich des künftigen Verhaltens des Beschwerdeführers.
Weiter ist der Beschwerdeführer der Meinung, dass auch sein Verhalten in der Vergangenheit, insbesondere seine positive Entwicklung während des Vollzugs der therapeutischen Massnahme für junge Erwachsene stärker berücksichtigt werden müsse. Ihm kann nicht gefolgt werden. Es ist nicht ersichtlich, inwiefern das Verhalten des Beschwerdeführers vor der bedingten Entlassung im Mai 2014 für die Legalprognose und sein künftiges Wohlverhalten von ausschlaggebender Bedeutung sein soll. Auch die übrigen vom Beschwerdeführer vorgebrachten Umstände wie etwa seine dank der Therapie erlangte Zuverlässigkeit und Absprachefähigkeit werden im vorinstanzlichen Beschluss erwähnt und in Bezug auf die Legalprognose in angemessener Weise berücksichtigt. Ebenfalls nichts zu seinen Gunsten kann der Beschwerdeführer aus der Verfügung des JUV vom 30. Juni 2015 ableiten. Zwar wird auch an jener Stelle erwähnt, dass sich der Zustand des Beschwerdeführers aufgrund der Medikamente verbessert hat. Mittels genannter Verfügung wurde allerdings über die Verlegung des Beschwerdeführers von der Sicherheitsabteilung auf die geschlossene Abteilung entschieden. Eine fehlende Rückfallgefahr für den Fall der Entlassung aus der stationären Massnahme lässt sich daraus nicht ableiten.
4.5. Die Kritik des Beschwerdeführers vermag somit die vorinstanzlichen Erwägungen zur Legalprognose nicht zu erschüttern. Die Voraussetzungen einer Rückversetzung in den Massnahmevollzug gestützt auf <ref-law> sind grundsätzlich erfüllt.
5.
5.1. Der Beschwerdeführer wurde am 9. Mai 2014 unter Ansetzung einer Probezeit bedingt aus der Massnahme für junge Erwachsene entlassen. Am 9. März 2015 wurde er in die Massnahme zurückversetzt, die Massnahme für junge Erwachsene aufgehoben und eine stationäre therapeutische Massnahme angeordnet. Am 6. November 2015 vollendete er das 30. Lebensjahr. Mit dem Erreichen der Altersgrenze ist die Beendigung der Massnahme zwingend vorgesehen (Art. 61 Abs. 4, Art. 62b Abs. 2 und Art. 62c Abs. 1 lit. b StGB). Nach Ablauf der Höchstdauer gelten die Massnahmen als gescheitert.
5.2. Die stationäre Massnahme für junge Erwachsene muss zudem als aussichtslos im Sinne von <ref-law> bezeichnet werden.
5.2.1. Die Nichtbewährung des bedingt Entlassenen während der Probezeit nach <ref-law> kann Ausdruck der Erfolglosigkeit einer Massnahme im Sinne von <ref-law> sein (Urteil 6B_881/2013 vom 19. Juni 2014 E. 4.2 mit Hinweis). Allerdings darf das Scheitern einer Massnahme nicht leichthin angenommen werden. Erforderlich ist, dass sich eine Massnahme als definitiv undurchführbar erweist. Eine vorübergehende Krise des Betroffenen allein genügt nicht. Selbst eine neue Straftat führt nicht zwingend zur Annahme der definitiven Aussichtslosigkeit der Massnahme und damit zu deren Aufhebung (Urteil 6B_460/2011 vom 16. September 2011 E. 2.6 mit Hinweisen). Das muss umso mehr gelten, wenn die Nichtbewährung des bedingt Entlassenen ausschliesslich in Verstössen gegen Weisungen während der Probezeit besteht. Es ist insoweit nach der Schwere des Fehlverhaltens und dessen Ursachen zu fragen. Mit Blick auf den Grundsatz der Verhältnismässigkeit ist die Erfolglosigkeit einer Massnahme wegen Fehlverhaltens während der Probezeit daher nur zurückhaltend anzunehmen (Urteil 6B_881/2013 vom 19. Juni 2014 E. 4.2 mit Hinweis).
5.2.2. Der Vollzugsverlauf wird im Gutachten vom 24. Februar 2015 eingehend beleuchtet. Darin wird sowohl auf die Entwicklungen während der therapeutischen Massnahme für junge Erwachsene eingegangen als auch auf diejenigen nach der bedingten Entlassung. Der mehrfache und wiederholte Verstoss gegen Weisungen während der Probezeit, die grenzüberschreitenden Handlungen respektive Äusserungen gegenüber der Mitarbeiterin des JUV und die generelle Unzuverlässigkeit und Instabilität führten dazu, dass die Rückversetzung des Beschwerdeführers in den Massnahmevollzug unter Anordnung einer stationären Therapie beantragt wurde. Alsdann finden sich im Gutachten detaillierte Angaben zum Vollzugsverlauf seit dem Eintritt in die KFP Rheinau. Aus dem aktuellen Therapiebericht ergeben sich schliesslich die erwähnten, positiven Entwicklungen. Die Erfolglosigkeit der Massnahme zeigt sich vorliegend nicht nur aufgrund der Tatsache, dass der Beschwerdeführer gegen die Weisungen verstiess. Vielmehr ergibt sich aus den zur Verfügung stehenden Unterlagen, dass er nach der bedingten Entlassung nicht in der Lage war und es auch nach wie vor nicht ist, aktiv ein rückfallpräventives Setting aufzubauen und aufrechterhalten zu können. Ein wichtiger Aspekt in Bezug auf den Erfolg der Massnahme bildet zwar die richtige Medikation. Dass die Medikamente zeitweise abgesetzt wurden, wirkte sich nachteilig auf den Therapieverlauf aus. Die Medikamente stellen jedoch lediglich einen Aspekt der Therapie dar. Nach wie vor besteht gemäss dem aktuellen Therapiebericht, trotz Medikamenten, eine relevante Rückfallgefahr. Dass der Beschwerdeführer die mittels Therapie erlangte Stabilität auch ausserhalb der Klinik aufrecht erhalten könnte, ist momentan zu verneinen. Kritisch zu würdigen ist nach wie vor die nicht vorhandene Problem- und Krankheitseinsicht. Dass sich die Grunderkrankung und sein problematischer Umgang mit Frauen in einem Masse verändert hätte, dass er auch ausserhalb des stationären Settings therapiert werden könnte, ist nicht ersichtlich. Mit Blick auf die Gesamtentwicklung des Beschwerdeführers und die negative Legalprognose drängt sich der Schluss auf, dass die Nichtbewährung Ausdruck der Erfolglosigkeit der therapeutischen Massnahme für junge Erwachsene ist.
6.
6.1. Der Beschwerdeführer anerkennt, dass er massnahmebedürftig ist. Er ist jedoch der Ansicht, die Behandlung könne ambulant erfolgen. Die ambulante Massnahme sei allenfalls durch eine stationäre Behandlung einzuleiten. Diesbezüglich beanstandet er, das Gutachten äussere sich in bundesrechtswidriger Weise nicht zu einem ambulanten Setting. Es stehe nicht fest, dass damit problematische Entwicklungen nicht erkannt werden könnten. Ferner sei vorliegend der Verhältnismässigkeitsgrundsatz nicht gewahrt, und es fehle an einer Güterabwägung.
6.2. Eine Rückversetzung in die gescheiterte stationäre Massnahme für junge Erwachsene entfällt. An ihrer Stelle kann das Gericht eine andere Massnahme anordnen, wenn sich der Beschwerdeführer immer noch als massnahmebedürftig und massnahmefähig erweist (Urteil 6B_58/2014 vom 20. Februar 2014 E. 1.7 mit Hinweisen). Massnahmen im Sinne von <ref-law> werden ohne Rücksicht auf Art und Dauer der ausgesprochenen Strafe angeordnet. Massgebend sind der Geisteszustand des Täters und die Auswirkungen der Massnahme auf die Gefahr weiterer Straftaten (<ref-ruling> E. 2.3 mit Hinweis).
Die Anordnung einer neuen Massnahme stützt sich auf Art. 62c Abs. 3 und 6 StGB. Wird die Massnahme aufgehoben, kann das Gericht anstelle des Strafvollzugs eine andere Massnahme anordnen, wenn zu erwarten ist, dadurch lasse sich der Gefahr weiterer mit dem Zustand des Täters in Zusammenhang stehender Verbrechen und Vergehen begegnen (Abs. 3). Das Gericht kann ferner eine stationäre therapeutische Massnahme vor oder während ihres Vollzugs aufheben und an deren Stelle eine andere stationäre therapeutische Massnahme anordnen, wenn zu erwarten ist, mit der neuen Massnahme lasse sich der Gefahr weiterer mit dem Zustand des Täters in Zusammenhang stehender Verbrechen und Vergehen offensichtlich besser begegnen (Abs. 6). Die verschiedenen Massnahmen nach <ref-law> stehen in einem systematischen Zusammenhang und sind wechselseitig austauschbar. Damit wird dem Bedürfnis nach Flexibilität im Massnahmenrecht Rechnung getragen (Urteil 6B_58/2014 vom 20. Februar 2014 E. 1.3 mit Hinweisen). Die Anordnung einer geeigneteren stationären therapeutischen Massnahme nach <ref-law> ist nicht an die Aufhebungsgründe von <ref-law> gebunden. Das Verhältnis der Regelungen in Art. 62c Abs. 3 und 6 StGB ist so zu verstehen, dass nicht nur eine aussichtslose durch eine voraussichtlich geeignete, sondern auch eine weniger geeignete durch eine besser geeignete Massnahme ersetzt werden kann. Die zweitgenannte Bestimmung schliesst mithin nicht an einen Misserfolg der ersten Massnahme an. Gelangt die Vorinstanz zutreffend zur Überzeugung, dass die ursprüngliche Massnahme gescheitert ist, so stützt sich die Anordnung einer neuen Massnahme auf <ref-law> (Urteil 6B_473/2014 vom 20. November 2014 E. 1.6.1 mit Hinweisen).
6.3. Das Verhältnismässigkeitsprinzip umfasst drei Teilaspekte. Eine Massnahme muss geeignet sein, beim Betroffenen die Legalprognose zu verbessern. Weiter muss sie notwendig sein. Sie hat zu unterbleiben, wenn eine gleich geeignete, aber mildere Massnahme für den angestrebten Erfolg ausreichen würde. Dieses Kriterium trägt dem Aspekt des Verhältnisses zwischen Strafe und Massnahme bzw. der Subsidiarität von Massnahmen Rechnung. Schliesslich muss zwischen dem Eingriff und dem angestrebten Zweck eine vernünftige Relation bestehen (Verhältnismässigkeit i.e.S.). Das bedeutet, dass die betroffenen Interessen gegeneinander abgewogen werden müssen. Bei einer Prüfung des Zweck-Mittel-Verhältnisses fallen im Rahmen der Gesamtwürdigung auf der einen Seite insbesondere die Schwere des Eingriffs in die Freiheitsrechte des Betroffenen in Betracht. Auf der anderen Seite sind das Behandlungsbedürfnis sowie die Schwere und die Wahrscheinlichkeit künftiger Straftaten relevant (vgl. <ref-ruling> E. 2.6.1 mit Hinweisen; <ref-ruling> E. 2c/bb und cc mit Hinweisen, im Zusammenhang mit Art. 42 aStGB; Urteil 6B_473/2014 vom 20. November 2014 E. 1.6.2 mit Hinweisen). Den Gefahren, die von einem Täter ausgehen, muss bei einer Interessenabwägung grössere Bedeutung zukommen als der Schwere des mit einer Massnahme verbundenen Eingriffs (vgl. BGE <ref-ruling> E. 2c/bb und cc mit Hinweisen; <ref-ruling> E. 1c zu Art. 42 Ziff. 1 Abs. 1 aStGB; Urteil 6B_473/2014 vom 20. November 2014 E. 1.6.2 mit Hinweisen).
6.4. Die Vorinstanz erwägt, der Beschwerdeführer leide an einer schweren psychischen Störung im Sinne von <ref-law>. Es bestehe ein enger Zusammenhang zwischen der Erkrankung und der Begehung von grenzüberschreitenden, nötigenden Delikten. Die Vorinstanz bejaht ferner die Behandlungsbedürftigkeit des Beschwerdeführers und die Eignung der stationären Massnahme. Hinsichtlich der Erforderlichkeit hält sie fest, gemäss Gutachten erscheine aufgrund des komplexen Bedingungsgefüges der die Erkrankung des Beschwerdeführers beeinflussenden Faktoren zurzeit lediglich eine stationäre Behandlung geeignet, das notwendige therapeutische Setting in ausreichender Intensität anzubieten. Eine ambulante Behandlung sei nicht geeignet und ausreichend, das beim Beschwerdeführer bestehende Risiko für eine erneute Verschlechterung der psychotischen Erkrankung mit damit einhergehendem Risiko für die Begehung von Straftaten günstig zu beeinflussen. Das Gutachten sei hinsichtlich der Frage der ambulanten Therapie nicht lückenhaft. Die Beurteilung des Gutachters erscheine stringent und nachvollziehbar. Anhaltspunkte, weshalb davon abzuweichen wäre, seien nicht ersichtlich. Die vom Beschwerdeführer erwähnten Begleitmassnahmen für eine ambulante Behandlung sowie seine vorgebrachte "Medikamentencompliance" vermöchten an diesem Ergebnis nichts zu ändern.
In der mündlichen Verhandlung habe der Sachverständige erläutert, es bestehe ein Zeithorizont von ungefähr zwei Jahren für eine bedingte Entlassung. Weiter habe der Sachverständige detailliert ausgeführt, dass in einem ambulanten Setting die Überwachung des Beschwerdeführers zurzeit noch nicht genügend gewährleistet werden könne. Der Schritt in einen ambulanten Rahmen könne noch nicht vollzogen werden. Die Vorinstanz nimmt auch Bezug auf den aktuellen Therapiebericht und führt aus, gearbeitet werden müsse weiterhin an der Krankheits- und Behandlungseinsicht sowie der Akzeptanz der Medikation. Dem Beschwerdeführer könne somit durchaus attestiert werden, dass die Massnahme einen positiven Verlauf nehme. Hingegen reiche im gegenwärtigen Zeitpunkt eine ambulante Massnahme nicht aus, um den angestrebten Therapieerfolg zu erreichen.
Schliesslich prüft die Vorinstanz auch, ob die ursprüngliche Verurteilung und der Freiheitsentzug in hinreichendem Zusammenhang stehen (vgl. Urteil 6B_68/2016 vom 28. November 2016 E. 2.6, nicht publiziert in: <ref-ruling>) und gelangt hinsichtlich der Verhältnismässigkeit zum Schluss, die vom Beschwerdeführer ausgehende Gefährdung für hochwertige Rechtsgüter erreiche eine Intensität, welche die Anordnung einer stationären Massnahme als verhältnismässig erscheinen lasse.
6.5. Auch in Zusammenhang mit der Frage, welche Massnahme anzuordnen ist, wendet sich der Beschwerdeführer zunächst gegen das Gutachten. Soweit seine Einwände den Begründungsanforderungen von <ref-law> überhaupt zu genügen vermögen, dringen sie nicht durch. Beispielsweise machte der Beschwerdeführer bereits vor Vorinstanz geltend, das Gutachten basiere auf der Vermutung, dass bei den Übergriffen eine Enthemmung vorgelegen habe. Eine Vermutung reiche nicht aus, um zwischen der Erkrankung und der Anlasstat einen Zusammenhang herzustellen. Die Vorinstanz setzt sich eingehend mit diesem Vorbringen auseinander. Sie hält fest, im Bereich Psychiatrie gehe es nicht darum, eine strikte Beweisführung im Sinne absoluter Sicherheit zu verlangen. Dies sei nicht möglich. Inwiefern diese Ausführungen bundesrechtswidrig sein sollen, legt der Beschwerdeführer nicht dar. Die Vorinstanz durfte gestützt auf das Gutachten vom 24. Februar 2015 den Zusammenhang zwischen der psychischen Krankheit und dem Delikt bejahen.
Dass der Beschwerdeführer behandlungsbedürftig ist und sich eine stationäre Massnahme grundsätzlich eignet, ist unbestritten. Die Behauptung des Beschwerdeführers, der Sachverständige äussere sich nicht zur Möglichkeit einer ambulanten Behandlung, ist unzutreffend. Im Gutachten vom 24. Februar 2015 wird unter anderem festgehalten, zurzeit erscheine eine ambulante Behandlung als nicht geeignet und ausreichend, das beim Beschwerdeführer bestehende Risiko für erneute zukünftige Exazerbationen der psychotischen Erkrankung mit damit einhergehendem Risiko für die Begehung von Straftaten günstig zu beeinflussen. Der Beschwerdeführer sei von sich aus nicht in der Lage, ein rückfallpräventives Setting zu etablieren. Die bisherigen Hilfebemühungen seien aus unterschiedlichen Gründen gescheitert, so dass ein ambulantes Setting zurzeit als nicht realisierbar erscheine. Der Gutachter erachtet eine stationäre Massnahme als notwendig, geeignet und zweckmässig. Ebenfalls nicht zu beanstanden sind die Ausführungen der Vorinstanz zur Verhältnismässigkeit der Massnahme. Unzutreffend ist in diesem Zusammenhang die Behauptung des Beschwerdeführers, weder die erste noch die zweite Instanz habe eine Güterabwägung vorgenommen. Die Vorinstanz verweist in diesem Punkt teilweise auf den erstinstanzlichen Entscheid, welcher ausführliche Erwägungen zur Verhältnismässigkeit inklusive Güterabwägung enthält. Sie zeigt auf, dass der Beschwerdeführer mit der Vergewaltigung und sexuellen Nötigung relativ schwere Delikte begangen hat. Er anerkenne diese bis heute nicht. Zusätzlich weise er vier Vorstrafen auf. Die vom Beschwerdeführer ausgehende Gefährdung für hochwertige Rechtsgüter erreiche eine Intensität, welche die Anordnung einer stationären Massnahme als verhältnismässig erscheinen lasse. Diese Erwägungen sind nicht zu beanstanden. Unter Berücksichtigung der gesamten Umstände erscheint die Rückversetzung in den Massnahmevollzug unter Anordnung einer stationären therapeutischen Massnahme nicht unverhältnismässig. Vielmehr erscheinen schrittweise Vollzugslockerungen als sinnvoll, wobei, wie vom Sachverständigen anlässlich der vorinstanzlichen Verhandlung ausgeführt, der erste Schritt voraussichtlich in der Verlegung des Beschwerdeführers auf die offene Abteilung bestehen wird. Der angefochtene Entscheid hält auch unter dem Gesichtspunkt der Verhältnismässigkeit der angeordneten stationären therapeutischen Massnahme vor Bundesrecht stand. Soweit der Beschwerdeführer beantragt, zur Einleitung der ambulanten Behandlung sei eine maximal zweimonatige stationäre Behandlung anzuordnen, kann der Antrag nach dem Gesagten ebenfalls nicht gutgeheissen werden.
7.
Somit ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Der Beschwerdeführer wird grundsätzlich kostenpflichtig (<ref-law>). Sein Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist gutzuheissen, da von seiner Bedürftigkeit auszugehen ist und seine Rechtsbegehren nicht von vornherein aussichtslos waren. Es sind keine Kosten zu erheben. Seinem Rechtsvertreter ist eine Entschädigung aus der Bundesgerichtskasse auszurichten (Art. 64 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird gutgeheissen.
3.
Es werden keine Kosten erhoben.
4.
Dem Rechtsvertreter des Beschwerdeführers, Rechtsanwalt Vijay Singh, wird eine Entschädigung von Fr. 3'000.-- aus der Bundesgerichtskasse ausgerichtet.
5.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 19. Juli 2017
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Die Gerichtsschreiberin: Schär