Sachverhalt:
A. Das Bezirksgericht Zürich sprach X._ am 22. April 2004 des mehrfachen bandenmässigen Diebstahls und weiterer Delikte schuldig und wies ihn gestützt auf Art. 100bis aStGB in eine Arbeitserziehungsanstalt ein. Nach seiner bedingten Entlassung aus dem Massnahmenvollzug wurde er während der Probezeit erneut straffällig. Das Bezirksgericht Zürich verurteilte ihn am 24. Januar 2008 wegen gewerbsmässigen Betrugs und weiterer Delikte zu 18 Monaten Freiheitsstrafe und versetzte ihn in den Vollzug der Massnahme nach Art. 61 StGB zurück.
Das Amt für Justizvollzug des Kantons Zürich versetzte X._ am 18. März 2008 aus der Massnahme in Sicherheitshaft. Am 14. Mai 2008 hob es die Massnahme auf und beantragte dem Bezirksgericht Zürich, betreffend die Verurteilung vom 22. April 2004 eine Strafe auszufällen und zu prüfen, ob diverse Freiheitsstrafen zu vollziehen seien bzw. ob in Bezug auf die Reststrafe die Voraussetzungen der bedingten Entlassung oder der bedingten Freiheitsstrafe vorlägen.
Das Bezirksgericht Zürich hob am 10. Juli 2008 die vom Bezirksgericht Zürich am 22. April 2004 gegen X._ angeordnete stationäre Massnahme auf, in welche er mit Urteil des Bezirksgerichts Zürich vom 24. Januar 2008 zurückversetzt worden war. Anstelle der aufgehobenen Massnahme verhängte es eine Freiheitsstrafe von drei Jahren, als Zusatzstrafe zur Freiheitsstrafe von 18 Monaten, zu welcher er am 24. Januar 2008 verurteilt worden war. Es ordnete an, diese beiden Strafen, sowie 6 weitere Haft- und Gefängnisstrafen von insgesamt 73 Tagen Dauer, seien zu vollziehen und rechnete daran 1378 Tage erstandenen Freiheitsentzug an. Es ordnete den Vollzug der Reststrafe an und verweigerte eine bedingte Entlassung. Es auferlegte X._ die Verfahrenskosten, inklusive der Kosten für die amtliche Verteidigung, nahm sie jedoch einstweilen auf die Gerichtskasse.
Mit bezirksgerichtlicher Präsidialverfügung vom 18. August 2008 wurde X._ der vorzeitige Strafantritt bewilligt, unter Aufrechterhaltung der Sicherheitshaft.
Mit Verfügung vom 23. September 2008 entliess der Präsident der III. Strafkammer des Obergerichts X._ wegen drohender Überhaft aus der Sicherheitshaft. Die Entlassung erfolgte am 25. September 2008.
Am 19. Februar 2009 hiess das Obergericht des Kantons Zürich den Rekurs von X._ gegen den Beschluss des Bezirksgerichts vom 10. Juli 2008 teilweise gut. Es nahm davon Vormerk, dass vier Haftstrafen von insgesamt 51 Tagen Dauer verjährt waren und änderte die Kostenregelung. Es auferlegte ihm die Kosten der amtlichen Verteidigung mit der Bestimmung, dass er sie erst bezahlen müsse, wenn er dazu in der Lage sein werde. Im Übrigen wies es den Rekurs ab. Die Kosten des Rekursverfahrens (ohne amtliche Verteidigung) auferlegte es X._ zu 7/8, die Kosten für die amtliche Verteidigung im Rekursverfahren ebenfalls zu 7/8, mit der Bestimmung, er müsse sie erst begleichen, wenn er dazu in der Lage sei.
B. Mit Beschwerde in Strafsachen beantragt X._, diesen Beschluss des Obergerichts aufzuheben und die Sache zur Beurteilung der Frage der bedingten Entlassung aus dem Strafvollzug an die Vorinstanz zurückzuweisen. Ausserdem ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
C. Das Obergericht und die Oberstaatsanwaltschaft verzichten auf Vernehmlassung.

Erwägungen:
1. Der Beschwerdeführer wirft dem Obergericht eine Verletzung seines rechtlichen Gehörs vor, da es seinen Antrag, bedingt entlassen zu werden, nicht behandelt und sich damit nicht auseinandergesetzt habe.
1.1 Aus dem aus Art. 29 Abs. 2 BV abgeleiteten Anspruch auf rechtliches Gehör ergibt sich für den Richter die Pflicht, seinen Entscheid zu begründen. Er muss wenigstens kurz die wesentlichen Gründe darlegen, von denen er sich dabei hat leiten lassen, sodass der Betroffene den Entscheid in voller Kenntnis der Sache anfechten kann. Dabei muss sich der Richter nicht mit allen tatsächlichen Behauptungen und rechtlichen Einwänden auseinandersetzen. Er kann sich vielmehr auf die für seinen Entscheid erheblichen Gesichtspunkte beschränken (<ref-ruling> E. 2b; <ref-ruling> E. 2c; <ref-ruling> E. 2c; <ref-ruling> E. 2c je mit Hinweisen).
Eine Verweigerung des rechtlichen Gehörs führt zwar in der Regel ohne weiteres zur Aufhebung des angefochtenen Entscheids. Der Verfahrensmangel kann indessen geheilt werden, wenn die Kognition des Bundesgerichts gegenüber derjenigen der letzten kantonalen Instanz nicht eingeschränkt ist und dem Beschwerdeführer kein Nachteil erwächst (<ref-ruling> E. 9; <ref-ruling> E. 1). Die Heilung des Verfahrensmangels ist ausgeschlossen, wenn es sich um eine besonders schwerwiegende Verletzung der Parteirechte handelt, und sie soll die Ausnahme bleiben (<ref-ruling> E. 2; <ref-ruling> E. 4a).
1.2 Die Frage, ob der Beschwerdeführer aus der zu vollziehenden Reststrafe nach Art. 62 c Abs. 2 StGB bedingt entlassen werden könne, war Thema des beim Obergericht angefochtenen bezirksgerichtlichen Beschlusses. Für das Bezirksgericht kam eine bedingte Entlassung "aufgrund der ungünstigen Prognose und des schon einlässlich geschilderten Verhaltens des Antragsstellers im Massnahmenvollzug nicht in Frage (vgl. Art. 86 Abs. 1 StGB)" (Beschluss vom 10. Juli 2008 E. 7.2 S. 19), und es hat dies in Dispositiv-Ziffer 6 festgehalten: "Der Vollzug der Reststrafe wird nicht aufgeschoben, und es erfolgt keine bedingte Entlassung".
1.3 Der Rekurs gegen diesen bezirksgerichtlichen Beschluss erfolgte in verschiedenen eigenhändigen Eingaben des Beschwerdeführers (drei vom 26. August und eine vom 8. September 2008) und einer seines amtlichen Verteidigers vom 9. September 2008. Das Obergericht hat alle diese Eingaben entgegengenommen. Sowohl der Beschwerdeführer selber als auch sein Anwalt verlangen unmissverständlich die bedingte Entlassung aus dem Vollzug der Reststrafe. Beide rügen, dass das Bezirksgericht bei seinem Entscheid allein auf den Massnahmenschlussbericht abgestellt und keinen aktuellen Führungsbericht des Gefängnisses Meilen eingeholt habe. Diesem sei zu entnehmen, dass er sich wohl verhalten habe. Zusammen mit dem vom Beschwerdeführer aus dem Strafvollzug für eine allfällige Entlassung getroffenen Vorbereitungen (Tagesstruktur, Team 72, Sozialhilfe von der Gemeinde etc.) könne ihm ohne weiteres eine günstige Prognose im Sinne von Art. 86 Abs. 1 StGB gestellt werden.
1.4 Das Obergericht erwog im angefochtenen Entscheid (II. Vorbemerkungen S. 5), nachdem der Beschwerdeführer aus der Sicherheitshaft entlassen worden sei und er sein Gesuch um Wechsel des amtlichen Verteidigers zurückgezogen habe, sei auf Ausführungen zu diesen Punkten nicht weiter einzugehen. Dementsprechend behandelte es das Gesuch um bedingte Entlassung weder in der Begründung noch im Dispositiv.
2. 2.1 Das Bezirksgericht verurteilte den Beschwerdeführer im Beschluss vom 10. Juli 2008 zu einer Freiheitsstrafe von drei Jahren als Zusatzstrafe zu einer 18-monatigen Freiheitsstrafe und widerrief bedingte Haft- und Gefängnisstrafen von insgesamt 73 Tagen. Nach seiner unangefochten gebliebenen Berechnung hatte der Beschwerdeführer bis zum Ergehen dieses Entscheids 1378 Tage Strafe erstanden. Bei einer gesamten Strafdauer von gut 4 Jahren und 8 Monaten hatte der Beschwerdeführer in diesem Zeitpunkt somit etwas über 3 Jahre und 9 Monate verbüsst. Bei seiner Entlassung am 25. September 2008 hatte er nicht die ganze Strafe abgesessen, auch nicht, wenn man in Betracht zieht, dass das Obergericht vier vom Bezirksgericht widerrufene Strafen als verjährt beurteilte und die dem Beschwerdeführer darin auferlegten Strafen von insgesamt 51 Tagen nicht widerrief.
2.2 Das Bezirksgericht hat entschieden, dass die Reststrafe zu vollziehen sei und eine bedingte Entlassung des Beschwerdeführers nicht in Frage komme, da die Voraussetzungen von Art. 86 Abs. 1 StGB nicht erfüllt seien. Der Beschwerdeführer bestritt dies im Rekurs ans Obergericht und legte dar, weshalb er seiner Ansicht nach bedingt entlassen werden müsste. Das Obergericht hat diesen Antrag nicht behandelt und den Rekurs in diesem Punkt im Ergebnis abgewiesen. Damit bliebe es beim bezirksgerichtlichen Entscheid, mit welchem das Begehren des Beschwerdeführers um bedingte Entlassung abgewiesen und damit der Vollzug der Reststrafe angeordnet wurde. Dass er zwischenzeitlich wegen drohender Überhaft aus der Sicherheitshaft entlassen wurde, ändert nichts daran, dass ihm bei diesem Ausgang des Verfahrens der bedingte Aufschub des Vollzugs des Strafrests verweigert bleibt. Das Obergericht hat damit klarerweise eine Gehörsverweigerung bzw. eine formelle Rechtsverweigerung begangen, in dem es diesen zulässigen Rekursantrag nicht prüfte. Die Rüge ist begründet.
2.3 Entscheidend für die Gewährung des bedingten Vollzugs der Reststrafe ist, ob die tatsächlichen Voraussetzungen für eine günstige Prognose im Sinne von Art. 86 Abs. 1 StGB gegeben sind. Sachverhaltsfeststellungen prüft das Bundesgericht nur auf Willkür (Art. 97 Abs. 1, Art. 105 Abs. 1 und 2 BGG) und damit mit engerer Kognition, als sie dem Obergericht im Rekursverfahren zusteht. Eine Heilung der obergerichtlichen Gehörsverletzung im bundesgerichtlichen Verfahren fällt ausser Betracht (oben E. 1.1 2. Absatz).
3. Die Beschwerde ist gutzuheissen, der angefochtene Entscheid aufzuheben und die Sache an die Vorinstanz zu neuem Entscheid zurückzuweisen.
Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 66 Abs. 4 BGG), und der Kanton Zürich hat dem Beschwerdeführer eine angemessene Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG). Damit wird das Gesuch um unentgeltliche Rechtspflege und Verbeiständung gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der angefochtene Beschluss des Obergerichts des Kantons Zürich vom 19. Februar 2009 aufgehoben und die Sache zu neuem Entscheid an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Der Kanton Zürich hat dem Beschwerdeführer für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 2'000.-- zu bezahlen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 23. Juni 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Störi