Sachverhalt:
A. Die X._ SA (Beschwerdeführerin) akquirierte seit 1999 für die AAY._ (vorerst für die AAY._ Frankreich, später für die neu gegründete AAY._ Schweiz) Unternehmen für Kinoreklame. Die Beschwerdeführerin war selbst für das Inkasso zuständig und hatte der AAY._ SA die eingezogenen Gelder abzüglich ihrer Provision innert 90 Tagen nach der Fakturierung weiterzuleiten. Per 1. Januar 2004 wurde die AAY._ Schweiz von der AY._ AG (heute Y._ AG; Beschwerdegegnerin) übernommen. In diesem Zusammenhang wurde das Abrechnungssystem umgestellt. Die Beschwerdegegnerin übernahm das Inkasso und verpflichtete sich zur Bezahlung von Provisionen an die Beschwerdeführerin. Zudem wurden neue Verträge abgeschlossen und die Beschwerdeführerin zusätzlich mit der Vermarktung von TV T._-Werbung betraut. Im Zeitpunkt der Übernahme schuldete die Beschwerdeführerin erhebliche Beträge zur Ablieferung. Infolge Verrechnung von Provisionsansprüchen, welche die Beschwerdegegnerin seit der Umstellung der Abrechnungsmodalitäten der Beschwerdeführerin auszurichten hatte, verringerte sich dieser Saldo. Im Herbst 2004 beendete die Beschwerdegegnerin die Zusammenarbeit mit der Beschwerdeführerin im Bereich der TV T._-Werbung fristlos. Im Frühling 2005 kündigte die Beschwerdeführerin ihrerseits die übrigen Verträge per 30. Juni 2005.
B. Im Dezember 2005 erhob die Beschwerdeführerin beim Handelsgericht des Kantons Zürich Klage. Mit dem Hauptklagebegehren 1 forderte sie Provisionsansprüche von Fr. 228'267.-- nebst Zins, da ihre Provisionsforderungen die Ablieferungsschuld überstiegen. Mit dem Hauptklagebegehren 2 verlangte sie Schadenersatz infolge ungerechtfertigter Beendigung der Zusammenarbeit im Bereich der TV T._-Werbung. Die Beschwerdegegnerin ihrerseits machte widerklageweise einen Saldo zu ihren Gunsten von Fr. 177'702.47 nebst Zins sowie einen Schadenersatzanspruch für die Auflösung der übrigen Verträge durch die Beschwerdeführerin geltend. Mit Urteil vom 16. Oktober 2008 hiess das Handelsgericht das Hauptklagebegehren 1 teilweise gut und verpflichtete die Beschwerdegegnerin zur Bezahlung von Fr. 97'531.50 nebst Zins an die Beschwerdeführerin. Im Übrigen wies es die Klage und die Widerklage ab. Die von der Beschwerdeführerin erhobene Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich am 13. November 2009 ab.
C. Mit Beschwerde in Zivilsachen beantragt die Beschwerdeführerin dem Bundesgericht, das Urteil des Handelsgerichts aufzuheben und die Beschwerdegegnerin zu verpflichten, zusätzlich zu den bereits zugesprochenen Fr. 97'531.40 (recte Fr. 97'531.50) insgesamt noch Fr. 237'302.60 nebst Zins zu bezahlen. Eventualiter sei das Urteil aufzuheben und das Verfahren zur Neubeurteilung an das Handelsgericht zurückzuweisen. Den Beschluss des Kassationsgerichts ficht die Beschwerdeführerin nicht an.
Die Beschwerdegegnerin beantragt, auf die Beschwerde nicht einzutreten bzw. sie abzuweisen, soweit darauf einzutreten sei. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Nach Art. 100 Abs. 6 BGG beginnt die Beschwerdefrist, wenn der Entscheid eines oberen kantonalen Gerichts mit einem Rechtsmittel, das nicht alle Rügen nach den Artikeln 95-98 BGG zulässt, bei einer zusätzlichen kantonalen Gerichtsinstanz angefochten worden ist, erst mit der Eröffnung des Entscheids dieser Instanz. Mit der Beschwerde in Zivilsachen kann unter dieser Voraussetzung auch das Urteil der oberen kantonalen Instanz angefochten werden, soweit im Rahmen der Beschwerde in Zivilsachen zulässige Rügen dem höchsten kantonalen Gericht nicht unterbreitet werden konnten (BGE 134 III 92 E. 1.1 S. 93 f. mit Hinweis). Der Anhandnahme der Beschwerde steht mithin kein Fristablauf entgegen. Nicht einzutreten ist hingegen auf die bezüglich des Entscheids des Obergerichts erhobenen Aktenwidrigkeitsrügen und auf die Rügen der Verletzung des Anspruchs auf rechtliches Gehör bzw. auf genügende Begründung. Gemäss Art. 75 Abs. 1 BGG ist die Beschwerde zulässig gegen Entscheide letzter kantonaler Instanzen und des Bundesverwaltungsgerichts. Letztinstanzlichkeit gemäss Art. 75 Abs. 1 BGG bedeutet, dass der kantonale Instanzenzug für die Rügen, die dem Bundesgericht vorgetragen werden, ausgeschöpft sein muss (BGE 134 III 524 E. 1.3 S. 527 mit Hinweisen). Da Aktenwidrigkeit bzw. unrichtige Sachverhaltsfeststellung sowie die Verletzung des Gehörsanspruchs unter Vorbehalt von Art. 8 ZGB mit kantonaler Nichtigkeitsbeschwerde geltend gemacht werden können (§ 281 des Gesetzes vom 13. Juni 1976 über den Zivilprozess [ZPO; LS 271]), sind entsprechende gegen das obergerichtliche Urteil vorgetragene Rügen nicht zu hören.
2. Das Handelsgericht stellte fest, die Beschwerdeführerin habe der Beschwerdegegnerin bis zur Übernahme der AAY._ SA durch diese unbestrittenermassen die bei den Kunden einkassierten Gelder abzüglich der ihr zustehenden Provisionen jeweils 90 Tage nach der Fakturierung weiterleiten müssen. Dadurch sei gemäss Aufstellung der Beschwerdeführerin per 1. Januar 2004 eine Schuld von Fr. 1'348'988.52 aufgelaufen. Zwischen März und August 2004 habe die Beschwerdegegnerin die Beschwerdeführerin mehrmals gemahnt, diese Gelder abzuliefern. Die Beschwerdeführerin habe nicht bestritten, im Herbst 2004 der Beschwerdegegnerin noch mindestens Fr. 300'000.-- bis Fr. 400'000.-- geschuldet zu haben. Die Beschwerdegegnerin habe mit Schreiben vom 6. September 2004 gedroht, unter anderem das Vertragsverhältnis betreffend TV T._ vorzeitig aufzulösen, wenn die Beschwerdeführerin nicht innert 20 Tagen wenigstens Fr. 400'000.-- zahle. Am 17. September 2004 habe sie der Beschwerdeführerin angeboten, diese dürfe den Betrag auf ein Sperrkonto überweisen. Die Beschwerdeführerin sei aber ihrer Ablieferungspflicht weiterhin nicht nachgekommen. Das Handelsgericht hielt fest, die Beschwerdeführerin habe mit ihrer Bank Kreditverhandlungen führen müssen, damit sie in der Lage gewesen wäre, die von ihr eingezogenen Gelder an die Beschwerdegegnerin weiterzuleiten; mithin sei die Beschwerdeführerin nicht ablieferungsfähig gewesen. Vor diesem Hintergrund sei die Beschwerdegegnerin zur am 12. Oktober 2004 ausgesprochenen Kündigung des Agenturvertrags betreffend TV T._-Werbung aus wichtigem Grund berechtigt gewesen. Das Handelsgericht liess die Frage offen, ob die Beschwerdegegnerin auch die weiteren Verträge gekündigt habe. Die Parteien seien sich einig gewesen, diese weiterzuführen, und hätten dies auch getan. Es habe der Beschwerdegegnerin frei gestanden, alle Verträge aus wichtigem Grund aufzulösen oder nur den sich im Aufbau befindenden Geschäftsbereich der TV T._-Werbung zurückzunehmen und die offensichtlich nicht ablieferungsfähige Beschwerdeführerin in dem von ihr seit Jahren bearbeiteten Bereich der nationalen und lokalen Werbung ihre Schulden durch Verrechnung mit ihren Provisionsansprüchen zur beidseitigen Schadensminderung abarbeiten zu lassen.
2.1 Nach Art. 418r OR kann sowohl der Auftraggeber als auch der Agent bei Vorliegen wichtiger Gründe den Vertrag jederzeit sofort auflösen (Abs. 1). Was als wichtiger Grund anzusehen ist, beurteilt sich kraft Verweisung von Art. 418r Abs. 2 OR auf die "Bestimmungen über den Dienstvertrag" nach Art. 337 f. OR (BGE 125 III 14 E. 2a S. 16 mit Hinweisen), insbesondere nach Art. 337 Abs. 2 OR. Somit ist ein wichtiger Grund gegeben, wenn sich der Gekündigte auf eine Weise verhalten hat, welche geeignet ist, das Vertrauensverhältnis zwischen den Parteien derart zu zerstören oder zumindest so tief greifend zu erschüttern, dass dem Auftraggeber die Fortsetzung des Vertrags nach Treu und Glauben nicht mehr zuzumuten ist (vgl. BGE 129 III 380 E. 2 S. 381 f.; 127 III 153 E. 1a S. 154; je mit Hinweisen). Ob das Fehlverhalten die erforderliche Schwere erreicht, lässt sich nicht allgemein sagen, sondern hängt von den konkreten Umständen des Einzelfalls ab, worüber das Gericht nach seinem Ermessen entscheidet (vgl. Art. 337 Abs. 3 OR). Derartige Ermessensentscheide überprüft das Bundesgericht an sich frei. Es übt dabei aber Zurückhaltung und schreitet nur ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgewichen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die zwingend hätten beachtet werden müssen. Ausserdem greift das Bundesgericht in Ermessensentscheide ein, falls sich diese als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (BGE 135 III 121 E. 2 S. 123 f.; 125 III 226 E. 4b S. 223; je mit Hinweisen). Allgemein bilden Treueverletzung, Untätigkeit, Tätlichkeiten, Ehrverletzungen, ungerechtfertigte Vorenthaltung oder unkorrekte Abrechnung der Provisionen wichtige Gründe im Sinne von Art. 418r OR (THEODOR BÜHLER, Zürcher Kommentar, 2000, N. 5 zu Art. 418r OR).
2.2 Die Beschwerdeführerin ist der Auffassung, es habe kein wichtiger Grund für eine fristlose Vertragsauflösung bestanden. Es sei unbestritten geblieben, dass sie alle Verträge tadellos erfüllt habe und das Handelsgericht habe auch nichts Gegenteiliges festgestellt. Ihre Kreditunfähigkeit sei nicht dadurch erwiesen, dass sie im Herbst 2004 mit der Bank Kreditverhandlungen geführt habe. Vielmehr sei die fehlende Einigung über die definitiven Provisionsansprüche der Grund dafür gewesen, dass die Bank ihr im Herbst 2004 keinen Kredit gewährt habe. Daran treffe die Beschwerdegegnerin das Alleinverschulden, da sie mit immer wieder neuen und haltlosen Interpretationen des Vertrags nach Wegen gesucht habe, die berechtigten Provisionsansprüche der Beschwerdeführerin zu kürzen.
Die Beschwerdeführerin anerkennt, dass sie der Beschwerdegegnerin im Herbst 2004 Fr. 300'000.-- bis Fr. 400'000.-- schuldete. Obwohl sie unter dem alten Abrechnungssystem die von ihr eingezogenen Gelder abzüglich der Provision innert 90 Tagen nach der Fakturierung der Beschwerdegegnerin weiterzuleiten hatte, war sie dazu nicht in der Lage. Vielmehr hätte sie gemäss den Feststellungen des Handelsgerichts hierfür einen Bankkredit benötigt. Somit kann keine Rede davon sein, dass sie "alle Verträge tadellos erfüllt" hätte. Aus welchem Grund die Beschwerdeführerin keinen Kredit erhielt, ist unerheblich. Selbst wenn die Kreditunfähigkeit nicht festgestellt ist, bleibt es dabei, dass die Beschwerdeführerin nicht in der Lage war, die für die Beschwerdegegnerin eingezogenen und dieser zustehenden Gelder an diese weiterzuleiten. Die Beschwerdeführerin muss die - ihr nicht zustehenden - Gelder demnach anderweitig verwendet haben. Es trifft mithin nicht zu, dass die Beschwerdeführerin bloss mit einer Schuld im Verzug war. Dass die Vorinstanz derartige Geschäftspraktiken als wichtigen Grund für die fristlose Auflösung eines Agenturvertragsverhältnisses genügen liess, ist bundesrechtlich nicht zu beanstanden.
2.3 Die Beschwerdeführerin wendet allerdings ein, die Beschwerdegegnerin habe sie in allen anderen Geschäftsbereichen weiterarbeiten lassen. Dies zeige, dass das für die Geschäftsbeziehung vorausgesetzte Vertrauensverhältnis nicht zerstört gewesen sei. Die Beschwerdegegnerin habe sich im Gegenteil mit Schreiben vom 3. Januar 2005 für das Vertrauen bedankt und sich auf eine weiterhin angenehme Zusammenarbeit gefreut. Die Beschwerdegegnerin habe den TV T._-Vertrag nur gekündigt, weil dieser Geschäftszweig sehr erfolgsversprechend gewesen sei.
Die Beschwerdeführerin weist zwar an sich zutreffend darauf hin, dass wer in Kenntnis von einem wichtigen Grund zur Vertragsauflösung bereit ist, mit der Gegenpartei weiterzuarbeiten, den Vertrag nicht nachträglich unter Anrufung dieses Grundes beenden kann (BGE 99 II 308 E. 5a S. 310). Auch trifft zu, dass betreffend die TV T._-Werbegelder keine Ausstände bestanden, da die Beschwerdegegnerin das Inkasso besorgte und die Provisionen abrechnete. Die Abrechnungsmodalitäten wurden indessen ab 2004 hinsichtlich aller Verträge umgestellt. Es ist nachvollziehbar, wenn die Beschwerdegegnerin angesichts der Geschäftsgebaren der Beschwerdeführerin und des damit einhergehenden Vertrauensverlusts die Zusammenarbeit mit dieser nicht ausweiten wollte und daher den Vertrag betreffend den sich im Aufbau befindlichen Geschäftsbereich auflöste. Ob dieser Bereich sehr erfolgsversprechend war, ist unerheblich. Daraus, dass die Beschwerdegegnerin die anderen Verträge weiterführte und sich positiv hinsichtlich der künftigen Zusammenarbeit äusserte, kann die Beschwerdeführerin nichts ableiten, da es lediglich darum ging, so einen Teil der aufgelaufenen Schulden durch Verrechnung zurückzuerhalten. Wenn die Beschwerdegegnerin aufgrund des Verhaltens der Beschwerdeführerin berechtigterweise die Geschäftsbeziehungen einzuschränken wünscht, kann von ihr nicht gefordert werden, deswegen ihre ausstehenden Forderungen zu gefährden, indem verlangt wird, sie müsse sämtliche Verträge auflösen oder keinen. Der Tatsache, dass das Handelsgericht die Bestreitung der Provisionsansprüche durch die Beschwerdegegnerin und deren Abrechnung teilweise nicht schützte, kommt keine Bedeutung zu, da dies nichts am Umstand ändert, dass die Beschwerdeführerin der Beschwerdegegnerin noch mindestens Fr. 300'000.-- bis Fr. 400'000.-- schuldete, welche sie ohne Kredit nicht zu zahlen vermochte. Dies ist das Fehlverhalten, das der Beschwerdeführerin vorgeworfen wird.
2.4 Anstatt im Einzelnen aufzuzeigen, inwiefern die Vorinstanz ihr Ermessen überschritten hat, weicht die Beschwerdeführerin vom Sachverhalt ab, den die Vorinstanz festgestellt hat, was nicht zulässig ist, da sie damit an das Kassationsgericht hätte gelangen können (vgl. E. 1). Ihre Rüge erweist sich als unbegründet, soweit überhaupt darauf eingetreten werden kann. Die fristlose Kündigung des TV T._-Vertrags durch die Beschwerdegegnerin war somit gerechtfertigt, weshalb der Beschwerdeführerin weder ein Anspruch auf Schadenersatz noch auf Kundschaftsentschädigung zusteht.
3. Mit Bezug auf die Provisionsabrechnung reduzierte die Beschwerdegegnerin den provisionspflichtigen Umsatz der Publicité Locale vom 1. März bis 31. Dezember 2004 aufgrund von Debitorenverlusten um Fr. 23'454.25, da die Beschwerdeführerin keine Provision erhalte, wenn ein Kunde nicht zahle. Das Handelsgericht gelangte zum selben Schluss und hielt fest, die Parteien hätten unmissverständlich Folgendes vereinbart: "AY._ assume le risque du ducroire, et X._ ne recevra pas de commission en cas de non-paiement d'un client." Die Folgen der Nichtzahlung eines Kunden seien somit klar geregelt. Für Art. 418h OR bleibe kein Raum. Die Beschwerdegegnerin habe den (weitaus grösseren Anteil) des Zahlungsausfalls zu tragen, während die Beschwerdeführerin ihres Anspruchs auf Provision verlustig gehe.
3.1 Die Beschwerdeführerin macht geltend, vertraglich sei festgehalten, dass sie sämtliche Inkassomassnahmen in Absprache mit der Beschwerdegegnerin zu treffen habe. Dies bedeute, dass Letztere als Rechnungsstellerin die Beschwerdeführerin über Zahlungsausstände habe informieren und zu Inkassoschritten bevollmächtigen müssen. Die Wiedergabe des Handelsgerichts, die Beschwerdeführerin habe eine Verletzung der Verpflichtung zur rechtzeitigen Information nur hinsichtlich der eigentlichen Zahlungsausfälle von Fr. 5'982.60 geltend gemacht, sei unvollständig bzw. aktenwidrig. Die Rüge der Aktenwidrigkeit hätte die Beschwerdeführerin dem Kassationsgericht unterbreiten können, weshalb darauf nicht einzutreten ist (vgl. E. 1). Abgesehen davon ist in Ziffer 2 Abs. 2 letzter Satz und Abs. 6 der vertraglichen Vereinbarung festgehalten, dass die Beschwerdegegnerin die Zahlungen einzieht ("Les Annonceurs X._ seront facturés au nom d'AY._ et leurs paiements seront encaissés par AY._") und die Beschwerdeführerin ihr dabei auf deren Verlangen hilft ("X._ aidera à l'encaissement des factures auprès des annonceurs selon demande d'AY._."). Da die Beschwerdeführerin der Beschwerdegegnerin nur auf deren Verlangen beim Inkasso der Forderungen zu helfen hatte, ergibt sich aus dem Vertrag keine Informationspflicht oder eine Pflicht, die Beschwerdeführerin zu Inkassomassnahmen zu bevollmächtigen. Soweit sich die Beschwerdeführerin auf solche Pflichten stützt und eine Verletzung von Art. 82 OR, von der allgemein geltenden Schadenminderungspflicht und von Art. 2 ZGB behauptet, gehen ihre Vorbringen somit an der Sache vorbei.
3.2 Die Beschwerdeführerin bringt unter Hinweis auf ihre Replik vor, das Handelsgericht habe ihren Einwand unberücksichtigt gelassen, die Beschwerdegegnerin habe einen Umsatzverlust von Fr. 17'471.65 verschuldet, indem diese gegenüber Kunden gar keine oder keine gehörige Leistungen erbracht habe. Sie rügt eine Gehörsverweigerung sowie eine Verletzung der Begründungspflicht. Beide Rügen sind der kantonalen Nichtigkeitsbeschwerde zugänglich, weshalb darauf nicht einzutreten ist (vgl. E. 1). Damit ist der Rüge, bei Nichterfüllung bestehe keine "Verbindlichkeit des Kunden", weshalb der Ausfall im Sinne von Art. 418h OR von der Beschwerdegegnerin zu vertreten sei, die Grundlage entzogen.
3.3 Die Beschwerdeführerin macht schliesslich geltend, die Vorinstanz habe ausser Acht gelassen, dass das Gesetz bei einer Delkredere-Vereinbarung zwingend ein Entgelt zugunsten des Agenten verlange.
3.3.1 Nach Art. 418c Abs. 3 OR erhält ein Agent, der die Pflicht übernimmt, für die Zahlung oder anderweitige Erfüllung der Verbindlichkeiten des Kunden einzustehen oder die Kosten der Erbringung von Forderungen ganz oder teilweise zu tragen, einen unabdingbaren Anspruch auf ein angemessenes besonderes Entgelt. Auch eine bloss teilweise Kostenübernahme durch den Agenten begründet diesen Anspruch. Das Entgelt ist selbst dann fällig, wenn sich die versicherte Gefahr nicht verwirklicht hat (THEODOR BÜHLER, a.a.O., N. 40 f. zu Art. 418c OR).
3.3.2 Ziffer 3 Abs. 6 der zwischen den Parteien getroffenen Regelung sieht vor: "En cas de non-paiement d'un client, X._ effectue toutes les démarches de recouvrement nécessaires en accord avec AY._. AY._ assume le risque du ducroire, et X._ ne recevra pas de commission en cas de non-paiement d'un client." In Ziffer 2 Abs. 2 letzter Satz und Abs. 6 der vertraglichen Vereinbarung wird hingegen festgehalten, dass AY._ die Zahlungen einziehe und dass X._ ihr dabei auf Verlangen helfe. Das eigentliche Delkredere-Risiko lag somit bei der Beschwerdegegnerin. Die Beschwerdeführerin riskierte einzig das Dahinfallen ihrer Provision. Da sie jedoch für Inkassomassnahmen von der Beschwerdegegnerin in Anspruch genommen werden konnte, trug die Beschwerdeführerin das Risiko einer teilweisen Kostenübernahme. Eine solche Vereinbarung wäre nur gültig, wenn hierfür ein besonderes Entgelt nach Art. 418c Abs. 3 OR vorgesehen wäre. Das ist nicht der Fall, weshalb die getroffene Vereinbarung Art. 418c Abs. 3 OR nicht genügt. Die Beschwerdegegnerin hat die Beschwerdeführerin indessen nicht in Anspruch genommen, obwohl sich das entsprechende Risiko verwirklicht hat. Es erscheint nicht gerechtfertigt, der Beschwerdeführerin ein besonderes Entgelt nach Art. 418c Abs. 3 OR zuzuerkennen, wenn sie tatsächlich kein Kostenrisiko bezüglich der Eintreibung der Forderungen getragen hat.
4. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Dem Ausgang des Verfahrens entsprechend wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 6'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 7'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 17. März 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Die Gerichtsschreiberin:
Klett Feldmann