Sachverhalt: A. A.a Das Obergericht des Kantons Zürich verurteilte X._ am 19. Januar 2009 wegen Vergewaltigung, Drohung und mehrfacher Tätlichkeiten zu einer Freiheitsstrafe von 20 Monaten sowie zu einer Busse von Fr. 1'500.--. Der Vollzug der Freiheitsstrafe wurde im Umfang von zehn Monaten aufgeschoben und die Probezeit auf drei Jahre festgesetzt. Im Übrigen wurde die Freiheitsstrafe für vollziehbar erklärt. Der Vollzug des unbedingten Teils der Freiheitsstrafe wurde zum Zweck einer ambulanten Therapie aufgeschoben. A.b Die Bewährungs- und Vollzugsdienste des Amts für Justizvollzug des Kantons Zürich (nachfolgend: Amt für Justizvollzug) hoben die ambulante Massnahme am 26. November 2009 auf und stellten beim Obergericht des Kantons Zürich den Antrag, es sei die Anordnung einer stationären Massnahme nach Art. 59 StGB zu prüfen. Das Obergericht versetzte X._ am 11. Dezember 2009 in Sicherheitshaft. Am 16. März 2010 ordnete es eine stationäre Massnahme im Sinne von Art. 59 Abs. 1 StGB an. X._ focht diese nicht an. Das Amt für Justizvollzug versetzte X._ am 4. Juni 2010 rückwirkend per 16. März 2010 in Sicherheitshaft. Am 17. November 2010 wurde er per 15. November 2010 unter gleichzeitiger Entlassung aus der Sicherheitshaft zum Vollzug der stationären Massnahme in die Justizvollzugsanstalt Pöschwies (nachfolgend: JVA Pöschwies) eingewiesen. A.c Am 19. Januar 2011 stellte X._ beim Amt für Justizvollzug ein Gesuch um Aufhebung der stationären therapeutischen Massnahme und um Entlassung aus dem Freiheitsentzug. Eventualiter sei er bedingt aus dem stationären Massnahmevollzug zu entlassen. Subeventualiter sei er in eine geeignete Anstalt einzuweisen. Subsubeventualiter sei ein psychiatrisches Gutachten einzuholen. In verfahrensrechtlicher Hinsicht verlangte er die unentgeltliche Rechtspflege und Verbeiständung. Am 18. April 2011 wiederholte X._ seine Anträge. A.d Das Amt für Justizvollzug stellte im Rahmen der jährlichen Prüfung mit Entscheid vom 9. Mai 2011 fest, die Voraussetzungen für eine bedingte Entlassung aus der stationären Massnahme seien nicht gegeben. Die Massnahme werde weitergeführt und das Gesuch von X._ abgewiesen. Ein Rekurs an die Direktion des Innern und der Justiz blieb ebenso ohne Erfolg wie die gegen diesen Entscheid eingereichte Beschwerde an das Verwaltungsgericht des Kantons Zürich, welches das Rechtsmittel und das Gesuch X._s um unentgeltliche Rechtspflege am 28. Dezember 2011 abwies. B. Mit Beschwerde in Strafsachen beantragt X._ die Aufhebung des verwaltungsgerichtlichen Entscheids vom 28. Dezember 2011. Im Einzelnen verlangt er, die stationäre Massnahme sei aufzuheben, und er sei aus dem Freiheitsentzug zu entlassen. Eventualiter sei er bedingt aus dem Vollzug der stationären Massnahme zu entlassen. Subeventualiter sei ein psychiatrisches Gutachten einzuholen. Sowohl für das Verfahren vor Bundesgericht als auch für die Verfahren vor der Vorinstanz und der Justizdirektion seien ihm die unentgeltliche Rechtspflege zu gewähren und der unterzeichnende Anwalt als unentgeltlichen Rechtsbeistand beizuordnen. C. Das Verwaltungsgericht des Kantons Zürich beantragt, die Beschwerde sei abzuweisen. Das Amt für Justizvollzug schliesst ebenfalls auf Abweisung der Beschwerde. Eventualiter verlangt es die Sistierung des bundesgerichtlichen Verfahrens unter Hinweis darauf, dass am 21. März 2012 ein psychiatrisches Gutachten in Auftrag gegeben worden sei. Es führt aus, aufgrund der negativen Aufnahmebescheide des Massnahmezentrums A._, des Therapiezentrums im B._ und der Strafanstalt C._ sei entschieden worden, ein neues Gutachten einzuholen, welches Aufschluss über die Möglichkeiten und Grenzen der weiteren Behandlung geben sollte. Zur Beurteilung der Fragen der Entlassung bzw. der Aufhebung der Massnahme gemäss Art. 62d Abs. 2 StGB müsse man sich auf ein aktuelles Gutachten eines unabhängigen Sachverständigen stützen können.