Sachverhalt:
A. Mit Eingabe vom 27. Januar 2008 ans Bezirksgericht Bülach verlangte X._, Y._ wegen übler Nachrede, eventualiter wegen Verleumdung, zu bestrafen. Zur Begründung führte er an, es sei am 20. September 2007 in Dietlikon zwischen ihm und Y._ zu einem Unfall gekommen. Er sei dabei verletzt worden und habe gegen sie Strafanzeige wegen fahrlässiger Körperverletzung erhoben. In diesem Zusammenhang sei Y._ am 15. Oktober 2007 polizeilich befragt worden. Dabei habe sie Folgendes zu Protokoll gegeben:
"Mir wurde durch einen Gast telefonisch mitgeteilt, dass es sich bei X._ um einen Betrüger handelt, ich solle vorsichtig sein. X._ schulde einem weiteren Kollegen Geld. Ich könne ihn gerne als Zeugen nehmen, falls X._ mich unter Druck setzen möchte, damit er von mir Schmerzensgeld erwirken kann. (..) Es passt jedoch zum Umstand, dass X._ nun gegen mich Strafantrag stellt."
Am 6. Februar 2009 sprach das Bezirksgericht Bülach die von X._ angeklagte Y._ vollumfänglich frei. Es auferlegte die Verfahrenskosten dem Ankläger und verpflichtete ihn zudem, der Freigesprochenen eine Parteientschädigung zu bezahlen.
B. X._ erhob gegen dieses Urteil Berufung beim Obergericht des Kantons Zürich. Dieses erwog, als Ankläger im Ehrverletzungsprozess sei X._ grundsätzlich zur Sicherstellung der Kosten des Rechtsmittelverfahrens und der Prozessentschädigung verpflichtet, da er zahlungsunfähig sei. Er habe zwar ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt, welches indessen abzuweisen sei, da die Berufung aussichtslos sei. Es setzte X._ mit Beschluss vom 11. Juni 2009 eine Frist von 20 Tagen zur Leistung einer Prozesskaution, mit der Androhung, dass bei Säumnis auf die Berufung nicht eingetreten werde.
C. Mit Beschwerde in Strafsachen beantragt X._, diesen Beschluss aufzuheben und seiner Beschwerde aufschiebende Wirkung zuzuerkennen. Ausserdem ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
D. Am 22. Juli 2009 erkannte das präsidierende Mitglied der I. öffentlich-rechtlichen Abteilung der Beschwerde aufschiebende Wirkung zu.
E. Das Obergericht verzichtet auf Vernehmlassung.
Erwägungen:
1. Der angefochtene Entscheid schliesst das vom Beschwerdeführer angestrengte Strafverfahren nicht ab, es handelt sich somit um einen Zwischenentscheid in Strafsachen. Dagegen ist die Beschwerde in Strafsachen zulässig sofern er einen nicht wieder gutzumachenden Nachteil rechtlicher Natur bewirken kann (Art. 78 Abs. 1, Art. 93 Abs. 1 lit. a BGG). Das ist hier ohne Weiteres gegeben, droht doch dem bedürftigen Beschwerdeführer der Prozessverlust, wenn das Eintreten auf seine Berufung von einer Prozesskaution abhängig gemacht wird, die er nicht aufbringen kann. Der Beschwerdeführer hat im kantonalen Verfahren die Anklage alleine vertreten und ist damit zur Beschwerde befugt (Art. 81 Abs. 1 Ziff. 4 BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist.
2. Das Obergericht hat erwogen, es gebe in der Zürcher Strafprozessordnung keine Bestimmungen über die Gewährung der unentgeltlichen Prozessführung und der unentgeltlichen Rechtsvertretung. Hingegen habe der bedürftige Ankläger, dessen Rechtsbegehren nicht aussichtslos sei, gestützt auf Art. 29 Abs. 3 BV Anspruch auf unentgeltliche Rechtspflege, soweit es für die Wahrung seiner Rechte notwendig sei. Vorliegend sei die Mittellosigkeit des Beschwerdeführers erstellt. Hingegen sei die von ihm erhobene Berufung aussichtslos.
2.1 Der Anspruch auf unentgeltliche Rechtspflege ergibt sich, soweit das kantonale Recht keine weitergehenden Ansprüche gewährt, als Minimalgarantie aus Art. 29 Abs. 3 BV. Nach dieser Verfassungsbestimmung hat jede Person, die nicht über die erforderlichen Mittel verfügt, Anspruch auf unentgeltliche Rechtspflege, wenn ihr Rechtsbegehren nicht aussichtslos erscheint. Soweit es zur Wahrung ihrer Rechte notwendig ist, hat sie ausserdem Anspruch auf unentgeltlichen Rechtsbeistand (vgl. BGE 127 I 202 E. 3 S. 204 f.). Mit dem verfassungsrechtlichen Anspruch auf unentgeltliche Rechtspflege soll verhindert werden, dass dem bedürftigen Rechtsuchenden der Zugang zu Gerichts- und Verwaltungsinstanzen in nicht zum Vornherein aussichtslosen Verfahren wegen seiner wirtschaftlichen Verhältnisse verwehrt oder erschwert wird (vgl. BGE 110 Ia 87 E. 4 S. 90). Dieses Recht gewährleistet der bedürftigen Person, dass die entsprechende Gerichts- oder Verwaltungsinstanz ohne vorherige Hinterlegung oder Sicherstellung von Kosten tätig wird. Indessen garantiert der Anspruch auf unentgeltliche Rechtspflege keine definitive Übernahme der Kosten durch den Staat. Gelangt die bedürftige Person im Laufe des Verfahrens oder aufgrund des Prozessausgangs in den Besitz ausreichender Mittel, kann ihr die unentgeltliche Rechtspflege verweigert oder wieder entzogen werden. Aufgrund der Rechtswohltat ausbezahlte Beträge können ferner selbst nach Erledigung des Prozesses zurückverlangt werden, wenn sich die wirtschaftliche Situation des Begünstigten ausreichend verbessert hat (BGE 122 I 322 E. 2c S. 324; 110 Ia 87 E. 4 S. 90; 99 Ia 437 E. 2 S. 439; je mit Hinweisen).
2.2 Als aussichtslos sind nach der bundesgerichtlichen Rechtsprechung Begehren anzusehen, bei denen die Gewinnaussichten beträchtlich geringer sind als die Verlustgefahren und die deshalb kaum als ernsthaft bezeichnet werden können. Dagegen gilt ein Begehren nicht als aussichtslos, wenn sich Gewinnaussichten und Verlustgefahren ungefähr die Waage halten oder die Gewinnaussichten nur wenig geringer sind als die Verlustgefahren. Massgebend ist, ob eine Partei, die über die nötigen Mittel verfügt, sich bei vernünftiger Überlegung zu einem Prozess entschliessen würde. Eine Partei soll einen Prozess, den sie auf eigene Rechnung und Gefahr nicht führen würde, nicht auf Kosten des Gemeinwesens anstrengen können. Die Prozesschancen sind in vorläufiger und summarischer Prüfung des Prozessstoffes abzuschätzen. Ob ein Begehren aussichtslos erscheint, beurteilt sich aufgrund der Verhältnisse im Zeitpunkt des Gesuchs (BGE 133 III 614 E. 5 S. 616; 129 I 129 E. 2.3.1 S. 135 f.; je mit Hinweisen).
3. 3.1 Das Obergericht hat im angefochtenen Entscheid ohne nähere Begründung angenommen, das Bezirksgericht habe das rechtliche Gehör des Beschwerdeführers verletzt, indem es die ihm am 4. Februar 2009 zugestellten Eingaben der Angeklagten - ein Sistierungsgesuch für den Fall, dass das Ehrverletzungsverfahren gegen sie nicht ohnehin eingestellt werde und eine Kopie der von ihr gegen den Beschwerdeführer wegen Betrugs, Irreführung der Rechtspflege und falscher Anschuldigung eingereichten Strafanzeige - dem Beschwerdeführer nicht zur Stellungnahme zugestellt habe. Das würde indessen nicht zur Aufhebung des bezirksgerichtlichen Urteils führen.
3.2 Der Beschwerdeführer macht geltend, die Berufung müsste schon aus prozessualen Gründen gutgeheissen werden, da das Bezirksgericht seinen Anspruch auf rechtliches Gehör verletzt habe, indem es ihm eine Eingabe der Angeklagten welche es zwischen der Hauptverhandlung und der Urteilsfällung erhalten habe, nicht zur Stellungnahme zugestellt habe. Das Obergericht habe anerkannt, dass darin eine Verletzung des rechtlichen Gehörs liege. Eine Verletzung des Gehörsanspruchs führe nach der Rechtsprechung des Bundesgerichts in der Regel zur Aufhebung des mit diesem Mangel behafteten Entscheids. Dennoch sei das Obergericht auch in diesem Punkt zum überraschenden Schluss gekommen, die Erfolgsaussichten seiner Berufung wären schlecht.
3.3 Die Verletzung des Anspruchs auf rechtliches Gehör durch ein Gericht führt wegen dessen formeller Natur in der Regel zur Aufhebung des mit diesem Mangel behafteten Entscheids; eine Heilung ist nur ausnahmsweise zulässig (BGE 126 I 68 E. 2 mit Hinweisen; zur Veröffentlichung bestimmter Entscheid des Bundesgerichts 8C_321/2009 9. September 2009, E. 2.3). Das Obergericht hätte somit wenigstens kurz begründen müssen, weshalb die Berufung des Beschwerdeführers trotz der von ihm festgestellten Gehörsverletzung aussichtslos war.
Von einer Gehörsverletzung kann indessen keine Rede sein. Das Bezirksgericht hat das Beweisverfahren mit dem Abschluss der Hauptverhandlung vom 13. Januar 2009 beendet. Sein Urteil vom 6. Februar 2009 stützt sich ausschliesslich auf die an der Hauptverhandlung gewonnene Überzeugung, die Berücksichtigung neuer, nach Abschluss der Hauptverhandlung eingegangener Beweismittel ist ausgeschlossen (Gérard Piquerez, Précis de procédure pénale suisse, Lausanne 1994, N. 2081 S. 393). Die dem Bezirksgericht nach der Hauptverhandlung zugestellten Eingaben waren daher von vornherein nicht geeignet, das bezirksgerichtliche Urteil zu beeinflussen. Dieses war daher verfassungsmässig nicht verpflichtet, sie vor der Urteilsfällung der Gegenpartei zur Kenntnis- oder Stellungnahme zuzustellen. Die Gehörsverweigerungsrüge war somit, entgegen der Auffassung des Obergerichts, unbegründet. Seine Folgerung, die Rüge sei aussichtslos, ist demgegenüber im Ergebnis zutreffend.
4. 4.1 Wer gegenüber einem Dritten zum Ausdruck bringt oder den Verdacht äussert, jemand habe eine strafbare Handlung begangen, macht sich im Prinzip der üblen Nachrede im Sinn von Art. 173 Ziff. 1 StGB schuldig. Ob eine Aussage ehrenrührig ist, beurteilt sich nach dem Sinn, den ihr ein unbefangener Adressat unter den gegebenen Umständen bei einer objektiven Auslegung beimessen würde; die Aussagen sind im Zusammenhang zu würdigen, in dem sie gemacht wurden (BGE 128 IV 53 E. 1a mit Hinweisen). Bei Aussagen von Angeschuldigten gegenüber Untersuchungs- und Gerichtsbehörden darf eine strafbare Ehrverletzung nur mit grosser Zurückhaltung angenommen werden. Diese richten sich von vornherein nur an die zuständigen Untersuchungs- und Gerichtsbehörden sowie die Gegenparteien und damit an Personen, denen bewusst sein muss, dass sie dazu dienen, den Vorwurf einer strafbaren Handlung abzuwehren und nicht die Ehre des Anklägers oder Belastungszeugen zu verletzen. Der Angeschuldigte darf im Strafverfahren zu seiner Verteidigung ihm vom Hörensagen bekannte, unsichere und unüberprüfte Umstände nennen, die geeignet sind, die Glaubwürdigkeit eines Anklägers oder Belastungszeugen in Frage zu stellen und damit die Beweiskraft ihrer Aussagen zu schmälern. Es wäre mit seinen verfassungsmässigen Verteidigungsrechten unvereinbar, wenn er befürchten müsste, wegen derartiger, möglicherweise ehrenrühriger Aussagen strafrechtlich verfolgt zu werden. Wer in einem Strafverfahren eine belastende Aussage macht, ist nicht in seiner Ehre verletzt, wenn sie der Angeschuldigte bestreitet, sondern hat dies als zulässige Verteidigungsmassnahme zu akzeptieren, auch wenn er im Ergebnis als (unehrenhafter) Lügner dastehen mag (BGE 118 IV 248 E. 2b).
Selbst wenn man indessen in einem solchen Fall eine Ehrverletzung bejahen wollte, so könnte sie unter dem Gesichtspunkt von Art. 14 StGB erlaubt sein durch die Verpflichtung, am Strafverfahren teilzunehmen. Die ehrverletzende Aussage wäre jedenfalls dann rechtmässig, wenn sie in einem sachlichen Zusammenhang mit dem Streitgegenstand steht, notwendig ist und nicht wider besseres Wissen erfolgt sowie Vermutungen als solche bezeichnet werden (BGE 118 IV 248 E. 2c; 116 IV 211 E. 4b/aa zu Art. 32 aStGB; siehe auch den Entscheid des Bundesgerichts 6S.490/2002 vom 9. Januar 2004, E. 3.2.2 in Bezug auf einen Parteivertreter).
4.2 Y._ durfte sich als Angeschuldigte gegen die Vorwürfe des Beschwerdeführers zur Wehr setzen und dabei auch seine generelle Glaubwürdigkeit in Frage stellen. Eine Vorstrafe wegen Betrugs wäre dieser zweifellos abträglich und bei der Würdigung seiner belastenden Aussagen entsprechend zu werten. Ein sachlicher Zusammenhang zwischen dem Betrugsvorwurf und der Wahrnehmung der Verteidigungsrechte durch Y._ ist damit zu bejahen. Sie hat auch klargemacht, dass sie den Vorwurf von einem ihr nicht näher bekanntem Dritten erfahren hat und seinen Wahrheitsgehalt selber nicht beurteilen kann. Auf dem Hintergrund der in E. 4.1 angeführten Rechtsprechung ist jedenfalls im Ergebnis nicht zu beanstanden, dass das Obergericht bei seiner summarischen Beurteilung der Prozessaussichten zum Schluss gekommen ist, die Verlustgefahren der Berufung seien erheblich höher als die Gewinnaussichten.
5. Damit ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer grundsätzlich kostenpflichtig (Art. 66 Abs. 1 BGG). Er hat zwar ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt, welches indessen abzuweisen ist, da die Beschwerde aussichtslos war (Art. 64 Abs. 1 BGG). Es rechtfertigt sich hingegen, von einer Kostenauflage abzusehen.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. 2.1 Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
2.2 Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird dem Beschwerdeführer und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 8. Dezember 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Störi