Sachverhalt:
A. Das Geschworenengericht des Kantons Zürich verurteilte X._ am 3. November 2006 wegen Mordes im Sinne von <ref-law> zu 17 Jahren Zuchthaus. Ausserdem ordnete es eine ambulante Massnahme im Sinne von <ref-law> während des Strafvollzugs an. Es hielt für erwiesen, dass er am 22. Juli 2003 aus nichtigem Anlass die Drogenprostituierte A._in seinem Heuschober C._ bei Sihlbrugg erdrosselt hatte.
Das Kassationsgericht des Kantons Zürich wies die von X._ gegen dieses Urteil erhobene Nichtigkeitsbeschwerde am 13. Februar 2009 ab, soweit es darauf eintrat.
B. Mit Beschwerde in Strafsachen beantragt X._, diesen Entscheid des Kassationsgerichts aufzuheben. Ausserdem ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
C. Das Kassationsgericht und die Oberstaatsanwaltschaft des Kantons Zürich verzichten auf Vernehmlassung. Y._ beantragen, die vom Geschworenengericht vorgenommene Regelung ihrer zivilrechtlichen Ansprüche vollumfänglich zu bestätigen. Zudem ersuchen sie um unentgeltliche Rechtspflege und Verbeiständung.

Erwägungen:
1. Der Beschwerdeführer macht im Wesentlichen geltend, das Geschworenengericht habe das Anklageprinzip verletzt, indem es ihn auf Grund von Tatvorwürfen verurteilt habe, die in der Anklage nicht enthalten seien. Er habe sich aus diesem Grund nicht effektiv verteidigen können. Das Kassationsgericht habe dies verkannt und das geschworenengerichtliche Urteil aktenwidrig und willkürlich geschützt.
1.1 Der Anklagegrundsatz verteilt nach der bundesgerichtlichen Rechtsprechung die Aufgaben zwischen den Untersuchungs- bzw. Anklagebehörden einerseits und den Gerichten andererseits. Er bestimmt den Gegenstand des Gerichtsverfahrens. Die Anklage hat die dem Angeklagten zur Last gelegten Delikte in ihrem Sachverhalt so präzise zu umschreiben, dass die Vorwürfe genügend konkretisiert sind. Das Anklageprinzip bezweckt zugleich den Schutz der Verteidigungsrechte des Angeschuldigten und dient dem Anspruch auf rechtliches Gehör (<ref-ruling> E. 2b S. 353 f. mit Hinweisen). Nach Art. 6 Ziff. 3 lit. a EMRK hat der Angeschuldigte Anspruch darauf, in möglichst kurzer Frist über die Art und den Grund der gegen ihn erhobenen Beschuldigung in Kenntnis gesetzt zu werden. Das Gericht ist an den in der Anklage wiedergegebenen Sachverhalt gebunden, nicht aber an dessen rechtliche Würdigung durch die Anklagebehörde (<ref-ruling> E. 2a).
1.2 Ergibt das gerichtliche Beweisverfahren, dass sich das Tatgeschehen in einzelnen Punkten anders abgespielt hat, als im Anklagesachverhalt dargestellt, so hindert der Anklagegrundsatz das Gericht nicht, den Angeklagten aufgrund des abgeänderten Sachverhaltes zu verurteilen. Voraussetzung ist, dass die Änderungen untergeordnete, für die rechtliche Qualifikation des Sachverhalts nicht ausschlaggebende Punkte betreffen, und dass der Angeklagte Gelegenheit hatte, dazu Stellung zu nehmen (Urteile des Bundesgerichts 6B_654/2008 vom 2. Dezember 2008 E. 1.3; 6P.99/2006 vom 18. Juli 2006 E. 3.2; 1P.494/2002 vom 11. November 2002 E. 3).
2. 2.1 Laut Anklageschrift der Staatsanwaltschaft vom 24. April 2006 war der Beschwerdeführer bereits längere Zeit vor dem hier zu beurteilenden Vorfall auf dem Drogenstrich am Sihlquai in Zürich als Freier aktiv. Nachdem ihn die drogenabhängige Prostituierte B._ der Vergewaltigung bezichtigt hatte, war am 10. Juli 2001 ein Strafverfahren gegen ihn eröffnet worden, welches am 14. November 2002 mit einem Freispruch endete.
Das dem Beschwerdeführer vorliegend angelastete Tatgeschehen hat sich nach der Anklage wie folgt abgespielt:
"Am späten Abend des 21.07.2003 sprach der Angeklagte auf dem Drogenstrich am Sihlquai in 8005 Zürich die ihm von früher her bekannte Drogenprostituierte A._an und verabredete mit ihr einen entgeltlichen sexuellen Kontakt, der in der Folge in seinem Fahrzeug abgewickelt wurde. Anschliessend besorgte sich A._auf der Gasse eine Portion Heroin, die sie konsumierte.
Am 22.07.2003, zwischen ca. 01:00 und ca. 14:00 Uhr, tötete er A._an einem unbekannt gebliebenen Ort in der Umgebung von Zürich, eventuell im Heuschober C._ bei Sihlbrugg (Gemeindegebiet 8816 Hirzel) durch Strangulation mittels zweier um den Hals gelegte Drahtschlingen oder Druck von Hand oder durch einen Messerstich in die Brust. Danach verbrachte er die Leiche der Getöteten in den erwähnten Heugaden bzw. liess sie dort liegen und bedeckte sie mit Heu. Nach etwa zwei Tagen holte er sie unter dem Heu hervor, um sie alsdann vermutlich in der Nacht vom 24. auf den 25.07.2003 im angrenzenden Waldstück ca. 120 m von der Scheune entfernt in einer eigens ausgehobenen Grube von ca. 1.8 m Tiefe zu begraben, nachdem er sie zuvor ganz entkleidet hatte.
X._ handelte insbesondere deshalb besonders skrupellos, weil
- er die Handlung an einer wehrlosen, zu keinem Widerstand bereiten, ihm körperlich weit unterlegenen Frau verübte, von der er wusste, dass sie durch eine kurz zuvor konsumierte Portion Heroin zusätzlich geschwächt war und
- er die Tötung von A._aus einem nichtigen Anlass, ohne vorherige emotionale Auseinandersetzung und jedenfalls nicht aus einem differenzierten, lang andauernden Konflikt heraus beging und
- es ihm mit der Tötung von A._darum ging, sich einer ihm als lästig empfundenen Person zu entledigen, und er aus krass egoistischen Motiven heraus agierte, um nicht von zwei unvermittelt aufgetauchten, jedoch bislang unbekannt gebliebenen Radfahrern in der Gesellschaft einer Drogenprostituierten, die ihn wieder - wie er annahm - zu Unrecht der Vergewaltigung bezichtigen könnte, in der Scheune angetroffen zu werden."
2.2 Die Anklage beruht im Wesentlichen auf den Angaben des Beschwerdeführers, der geständig ist, A._getötet zu haben, sich an das eigentliche Tatgeschehen indessen nicht erinnern kann oder will, der Auswertung der Ortung des Handys des Opfers, den sichergestellten Tatwaffen sowie den rechtsmedizinischen und psychiatrischen Gutachten. Das Tatgeschehen hat sich nach der Überzeugung der Staatsanwaltschaft wie folgt abgespielt:
Der Beschwerdeführer brachte A._in der Nacht des 21. auf den 22. Juli 2003 in seinem Personenwagen vom Sihlquai in die von ihm als "Liebesnest" eingerichtete Scheune C._. Dort schlief A._, während der Beschwerdeführer nach Hause ging, um zu schlafen und am Vormittag seinen Verpflichtungen nachzugehen. Gegen 13 Uhr kehrte er mit Verpflegung in die Scheune C._ zurück. Er bot A._an, sie am Abend nach Zürich zurückzubringen. Sie wollte nicht solange warten und stieg (oder stürzte) vom Zwischenboden, auf dem sie geschlafen hatte, auf den Heuboden hinunter. Auf dem nahe gelegenen Feldweg tauchten unvermittelt zwei Radfahrer auf. Der Beschwerdeführer wollte nicht in Gegenwart einer Drogenprostituierten angetroffen werden und befürchtete, A._könnte um Hilfe rufen und ihn (erneut, wie zuvor B._) zu Unrecht der Vergewaltigung beschuldigen, weshalb er sie erdrosselte oder erstach, um dies zu verhindern.
Von diesem Tatablauf geht die Staatsanwaltschaft bereits in der Anklage aus, indem sie dem Beschwerdeführer vorwirft, A._getötet zu haben, um einer unliebsamen Begegnung mit zwei Radfahrern auszuweichen. In ihrem Plädoyer vor dem Geschworenengericht macht sie dann deutlich, dass sich das Tatgeschehen ihrer Überzeugung nach so und nicht anders abspielte.
2.3 Für das Geschworenengericht (S. 149 ff.) ist dieser Tatverlauf nicht nachvollziehbar. Nach seiner Überzeugung ist der Beschwerdeführer um ca. 04:00 Uhr mit A._in der Scheune C._ eingetroffen, wobei sie zu diesem Zeitpunkt noch am Leben war. Getötet hat er sie in den folgenden vier Stunden in der Scheune C._, und zwar durch Strangulation, entweder mittels zweier Drahtschlingen oder von Hand. Die beiden Messerstiche in die Brust, von denen einer tödlich gewesen wäre, fügte er ihr nach dem Todeseintritt zu. Anschliessend deckte der Beschwerdeführer die Leiche auf dem Heuboden mit Heu zu und vergrub sie zwei Tage später beim nahe gelegenen Waldrand.
Entgegen der Auffassung der Staatsanwaltschaft ist für das Geschworenengericht nicht erstellt, dass A._im Tatzeitpunkt aufgrund ihres Drogenkonsums wehrlos war. Als offensichtlich gegeben sieht es hingegen die körperliche Überlegenheit des Beschwerdeführers an. Unklar bleibt für das Geschworenengericht das Motiv. Es geht davon aus, dass es zwischen den Beiden zu einem Streit kam, möglicherweise über Sexualpraktiken und/oder deren Preis oder den Zeitpunkt der Rückkehr von A._nach Zürich oder durch eine kränkende Bemerkung der Geschädigten. Jedenfalls aber sei der Tötung nicht ein ernsthafter, lang andauernder Konflikt vorangegangen, sondern sie sei aus nichtigem Anlass erfolgt. Der Beschwerdeführer habe krass egoistisch gehandelt, indem er das Leben der Geschädigten der Verfolgung geringfügiger eigener Interessen untergeordnet habe (S. 186). Es hat weiter erwogen, der Beschwerdeführer habe mit direktem Tötungsvorsatz gehandelt. Er habe mehr getan, als für die Tötung des Opfers nötig gewesen wäre und sei sich der todbringenden Wirkung seines Vorgehens bewusst gewesen.
3. 3.1 Der Beschwerdeführer rügt, die Staatsanwaltschaft habe ihm in der Anklageschrift vorgeworfen, am Nachmittag des 22. Juli 2003 sein Opfer getötet zu haben, um zu verhindern, dass sie zwei unvermittelt aufgetauchte Radfahrer auf sich aufmerksam mache. Es werde ihm somit vorgeworfen, A._im Sinne eines Eliminationsmordes zum Schweigen gebracht zu haben, weil ihm diese lästig wurde bzw. lästig zu werden drohte. Das Geschworenengericht habe dieses der Anklage zugrunde liegende Tatgeschehen zur Überraschung aller Prozessbeteiligter und -beobachter als abwegig verworfen und ihn quasi als Lustmörder oder Triebtäter verurteilt, da er sein Opfer nach einem emotionalen Streit über sexuelle Praktiken getötet habe. Bei einem solchen Tatvorwurf hätten sowohl die Staatsanwaltschaft als auch die Verteidigung völlig anders plädieren müssen.
3.2 Die Staatsanwaltschaft hat sich zwar in ihrem Plädoyer an der geschworenengerichtlichen Hauptverhandlung auf die von ihr bereits in der Anklageschrift angenommene Tatversion - der Beschwerdeführer habe die Geschädigte am frühen Nachmittag beim Auftauchen der beiden Radfahrer getötet - festgelegt. Die Anklageschrift ist indessen wesentlich offener. Sie nimmt für die Tötung ein Zeitfenster von 01:00 bis 14:00 Uhr an und als Tatort "Zürich und Umgebung, eventuell den Heuschober C._". Schon aus dieser Formulierung ergibt sich, dass sich die Anklage nicht auf die ihrer Ansicht nach zwar plausibelste Variante - die Tötung erfolgte beim Auftauchen der beiden Radfahrer - beschränkte, sondern nicht ausschliessen wollte, dass der Beschwerdeführer sein Opfer schon in den frühen Morgenstunden und möglicherweise sogar vor der gemeinsamen Ankunft in der Scheune C._ tötete. Daraus ergibt sich auch, dass sich die Anklage in Bezug auf das Tatmotiv nicht darauf festlegte, der Beschwerdeführer habe ihre Entdeckung durch zwei Radfahrer verhindern wollen, da diese am Nachmittag auftauchten, nicht in den frühen Morgenstunden. Das vom Geschworenengericht angenommene Motiv, der Beschwerdeführer habe A._aus nichtigem, letztlich unbekanntem Anlass getötet, etwa nach einem Streit um Sexualpraktiken und/oder deren Preis, um den Zeitpunkt ihrer Rückkehr nach Zürich oder nach einer kränkenden Bemerkung, aber nicht nach einem ernsthaften, lang andauernden, differenzierten Konflikt, wird vom Anklagevorwurf abgedeckt.
Darin nicht enthalten wäre der Vorwurf, die Tat zur Befriedigung sexueller Gelüste oder aus sadistischen Motiven ausgeführt zu haben. Das Geschworenengericht (S. 51 ff.) hat sich zwar im Zusammenhang mit der Beurteilung des Aussageverhaltens des Beschwerdeführers eingehend mit seinem Verhältnis zu Frauen und speziell zu Prostituierten und in diesem Zusammenhang auch mit dem psychiatrischen D._Gutachten befasst, das dem Beschwerdeführer ein eigentliches Doppelleben - als sozial gut integrierter, hilfsbereiter, konfliktscheuer, im Umgang mit Frauen gehemmter Mensch einerseits und jedenfalls als teilweise rücksichtsloser Freier auf dem Drogenstrich anderseits - zuschreibt. Das Geschworenengericht geht indessen nicht von einer sexuell motivierten Tat aus (S. 185 ff.), und der Staatsanwalt hat in seinem Plädoyer (S. 11) gestützt auf das psychiatrische Gutachten (S. 142) sexuelle bzw. sadistische Beweggründe sogar explizit ausgeschlossen. Der Einwand des Beschwerdeführers, er sei vom Geschworenengericht entgegen der Anklage quasi als Lustmörder oder Triebtäter verurteilt worden, ist unzutreffend.
3.3 Zusammenfassend ist festzuhalten, dass die Staatsanwaltschaft in der Anklageschrift und noch stärker in ihrem Plädoyer vor Geschworenengericht von einer bestimmten Tatversion - der Beschwerdeführer habe die Geschädigte am frühen Nachmittag beim Auftauchen der Radfahrer getötet, um ein für ihn peinliches Zusammentreffen mit diesen zu vermeiden - ausgeht. Dies ändert indessen nichts daran, dass das vom Geschworenengericht als erwiesen angenommene Tatgeschehen - der Beschwerdeführer habe A._in den frühen Morgenstunden des 22. Juli 2003 aus unbekanntem, jedenfalls aber nichtigem Anlass stranguliert - von der Anklageschrift ebenfalls gedeckt ist.
Die Tatvorwürfe unterscheiden sich bei den beiden Versionen nur unwesentlich, und die rechtliche Würdigung der Tat als Mord bleibt sich gleich. Unter diesen Umständen ist der Vorwurf unbegründet, das Geschworenengericht habe den Anklagegrundsatz verletzt. Das Kassationsgericht konnte diese Rüge im angefochtenen Entscheid ohne Bundesrechtsverletzung abweisen. Es trifft auch nicht zu, dass es sich unter Verletzung seiner verfassungsrechtlichen Begründungspflicht bzw. des Anspruchs auf rechtliches Gehör nicht mit den in der Nichtigkeitsbeschwerde des Beschwerdeführers vorgebrachten Argumenten auseinandergesetzt hätte. Es ist vielmehr der Beschwerdeführer, der sich über das zentrale und zutreffende Argument des Kassationsgerichts - aus der Anklageschrift ergebe sich, dass die Staatsanwaltschaft dem Beschwerdeführer nicht ausschliesslich die von ihr favorisierte Tatversion vorgeworfen habe, weil als mögliche Tatzeit nicht nur der frühe Nachmittag genannt werde, an dem die beiden Radfahrer auftauchten, und als möglicher Tatort nicht nur der Heuschober des Beschwerdeführers, sondern "Zürich und Umgebung" - hinwegsetzt.
4. Die Beschwerde ist somit abzuweisen. Damit wird der Beschwerdeführer grundsätzlich kostenpflichtig (<ref-law>). Er hat indessen ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt, welches gutzuheissen ist, da die Beschwerde nicht von vornherein aussichtslos war und die Bedürftigkeit des Beschwerdeführers ausgewiesen ist (Art. 64 Abs. 1 und 2 BGG). Ebenfalls gutzuheissen ist das Gesuch um unentgeltliche Rechtspflege und Verbeiständung der Beschwerdegegner, deren Bedürftigkeit ausgewiesen ist und die im vorliegenden Verfahren auf rechtskundige Vertretung angewiesen sind. Sie sind dementsprechend aus der Gerichtskasse angemessen zu entschädigen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege und Verbeiständung wird gutgeheissen:
2.1 Es werden keine Kosten erhoben.
2.2 Rechtsanwalt Bruno Steiner, Zürich, wird für das bundesgerichtliche Verfahren als amtlicher Verteidiger eingesetzt und aus der Bundesgerichtskasse mit Fr. 3'000.-- entschädigt.
3. Das Gesuch der Beschwerdegegner um unentgeltliche Rechtspflege und Verbeiständung wird gutgeheissen. Rechtsanwältin Barbara Umbricht Lukas, Zürich, wird für das bundesgerichtliche Verfahren als amtliche Anwältin eingesetzt und aus der Bundesgerichtskasse mit Fr. 500.-- entschädigt.
4. Dieses Urteil wird den Parteien und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 16. Oktober 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Störi