Sachverhalt:
A. A.a Der Vorsitzende der 9. Abteilung des Bezirksgerichtes Zürich sprach Rechtsanwalt X._ am 30. Oktober 2008 für seine Tätigkeit als amtlicher Verteidiger von A._ eine Entschädigung von insgesamt Fr. 66'123.86 zu (Fr. 58'730.-- Honorar, Fr. 2'723.40 Auslagen, Fr. 4'670.46 Mehrwertsteuer).
Auf Einsprache von X._ hin bestätigte die 9. Abteilung des Bezirksgerichtes am 26. November 2008 diese Verfügung ihre Vorsitzenden.
A.b Mit Beschwerde an die Verwaltungskommission des Obergerichts des Kantons Zürich beantragte X._, diesen bezirksgerichtlichen Beschluss aufzuheben und seine Entschädigung auf Fr. 76'394.55 (inklusive Spesen in Höhe von Fr. 4'214.75 und 7.6 % Mehrwertsteuer) festzusetzen.
Die Verwaltungskommission hiess die Beschwerde am 7. April 2009 teilweise gut und sprach X._ eine zusätzliche Entschädigung von Fr. 3'531.40 zu (Dispositiv-Ziffer 1). Es auferlegte ihm die Staatsgebühr von Fr. 900.-- zu zwei Dritteln (Dispositiv-Ziffer 2) und sprach ihm für das Beschwerdeverfahren eine reduzierte Prozessentschädigung von Fr. 200.-- zu (Dispositiv-Ziffer 3).
A.c Mit Wiedererwägungsgesuch vom 20. April 2009 beantragte X._ der Verwaltungskommission, es sei ihm eine zusätzliche Entschädigung von Fr. 10'270.70 zuzusprechen, unter Neuregelung der Kosten- und Entschädigungsfolgen.
In ihrem Entscheid vom 8. Mai 2009 erwog die Verwaltungskommission, ihr Beschluss vom 7. April 2009 gehöre zur Rechtsprechung in Justizverwaltungssachen und sei damit einer Wiedererwägung nicht zugänglich. Zutreffend sei allerdings, dass ihr ein offenkundiges Versehen im Sinne von § 166 des Gerichtsverfassungsgesetzes vom 13. Juni 1976 (GVG) unterlaufen sei, indem sie dem Beschwerdeführer in der Begründung für Gefängnisbesuche Fr. 3'908.-- zugesprochen, diesen Betrag indessen bei der Gesamtentschädigung im Dispositiv nicht berücksichtigt habe. Dies sei zu berichtigen. Beim Entscheid über die Kosten- und Entschädigungsfolgen stehe ihr indessen ein grosser Ermessensspielraum zu, weshalb es nicht zulässig sei, diesen Punkt unter Hinweis auf § 166 GVG zu korrigieren. Gestützt auf diese Erwägungen trat sie auf das Wiedererwägungsgesuch nicht ein und berichtigte Dispositiv-Ziffer 1 des Beschlusses vom 7. April 2009 dahingehend, dass dem Beschwerdeführer eine zusätzliche Entschädigung von Fr. 7'439.40 zugesprochen wurde.
B. Mit subsidiärer Verfassungsbeschwerde vom 18. Mai 2009 beantragt X._, diese beiden Beschlüsse der Verwaltungskommission aufzuheben und die Sache zu neuem Entscheid an diese zurückzuweisen.
C. Das Bezirksgericht Zürich beantragt in seiner Vernehmlassung, die Beschwerde abzuweisen. Der Beschwerdeführer hält in seiner unaufgefordert eingereichten Replik an der Beschwerde fest.
Erwägungen:
1. 1.1 Angefochten sind zwei kantonal letztinstanzliche Entscheide über die Entschädigung des Beschwerdeführers für eine amtliche Verteidigung. Das Hauptverfahren, in welchem der Beschwerdeführer als Verteidiger tätig war, ist eine Strafsache im Sinne von Art. 78 Abs. 1 BGG. Die Parteikosten - im Wesentlichen die Kosten für die private und/ oder amtliche Vertretung - sind untrennbar mit dem Strafverfahren verbunden und werden in der Regel wie die Verfahrenskosten vom Strafrichter mit der Hauptsache oder mit separatem Entscheid beurteilt. Rügen gegen ihre Festsetzung durch die kantonale letzte Instanz sind dementsprechend - entgegen der obergerichtlichen Rechtsmittelbelehrung - mit Beschwerde in Strafsachen zu erheben (Entscheid des Bundesgerichts 6B_493/2007 vom 22. November 2007, in: Pra 2008 Nr. 46 S. 316). Diese kennt keine Streitwertgrenze, womit für die subsidiäre Verfassungsbeschwerde kein Raum bleibt. Die vom Beschwerdeführer eingereichte Verfassungsbeschwerde ist dementsprechend als Beschwerde in Strafsachen entgegenzunehmen.
1.2 Mit ihrem zweiten Entscheid hat die Verwaltungskommission ihren ersten teilweise berichtigt. Der Beschwerdeführer hat beide rechtzeitig angefochten, weshalb beide zu prüfen sind.
2. 2.1 Der amtliche Anwalt erfüllt eine staatliche Aufgabe, welche vom einschlägigen Verfahrensrecht geregelt wird. Mit seiner Einsetzung entsteht zwischen ihm und dem Staat ein besonderes Rechtsverhältnis. Gestützt darauf hat der Anwalt eine öffentlich-rechtliche Forderung gegen den Staat auf Entschädigung im Rahmen der anwendbaren Bestimmungen (BGE 131 I 217 E. 2.4; 122 I 1 E. 3a).
2.2 Das Bundesgericht prüft die Bemessung der Entschädigung des amtlichen Anwalts nur mit Zurückhaltung. Das kantonale Sachgericht ist am besten in der Lage, die Angemessenheit der anwaltlichen Bemühungen zu beurteilen, weshalb ihm ein erheblicher Ermessensspielraum zusteht. In Fällen, in denen es den vom Anwalt in Rechnung gestellten Arbeitsaufwand als übersetzt bezeichnet und entsprechend kürzt, schreitet das Bundesgericht nur ein, wenn es Bemühungen nicht honoriert hat, die zu den Obliegenheiten eines amtlichen Verteidigers gehören und die Entschädigung nicht in einem vernünftigen Verhältnis zu den vom Anwalt geleisteten Diensten steht (vgl. BGE 122 I 1 E. 3a; 118 Ia 133 E. 2b, d). Bei der Beurteilung der konkreten Honorarfestsetzung ist auf die Umstände des Einzelfalles abzustellen. Obwohl die Entschädigung des amtlichen Anwalts gesamthaft gesehen angemessen sein muss, darf sie tiefer angesetzt werden als bei einem privaten Rechtsanwalt (BGE 132 I 201 E. 7.3.4 S. 209; 122 I 1 E. 3a). Sie ist allerdings so zu bemessen, dass es den Rechtsanwälten möglich ist, einen bescheidenen - nicht bloss symbolischen - Verdienst zu erzielen (BGE 132 I 201 E. 8.5 ff.).
3. 3.1 Der Beschwerdeführer beantragte der Verwaltungskommission des Obergerichts, er sei gemäss seiner Honorarnote vom 10. Oktober 2008 mit insgesamt Fr. 76'394,55 (Fr. 66'373,80 Honorar, Fr. 4'214,75 Spesen und Fr. 5'806.-- Mehrwertsteuer) zu entschädigen. Er erhielt mit berichtigtem Entscheid vom 8. Mai 2009 kantonal letztinstanzlich eine solche von Fr. 73'563,26, rund 2'830 Franken bzw. 3,7 % weniger als gefordert.
3.2 Eine derart geringfügige Herabsetzung der geforderten Entschädigung verletzt, jedenfalls bei einem umfangreichen amtlichen Mandat, im Ergebnis den den kantonalen Gerichten zustehenden Ermessensspielraum im Ergebnis kaum je. Vorliegend ist u.a. strittig, ob der vom Beschwerdeführer für die Bearbeitung der Zivilforderungen geltend gemachte Aufwand von 16 Stunden (zusätzlich) zu entschädigen sei oder ob dieser mit der für die Ausarbeitung des Plädoyers nach der Anklageerhebung zugesprochenen Entschädigung von 10'000 Franken (50 Anwaltsstunden à 200 Franken) bereits abgegolten wurde. Dies ist eine typische Ermessensfrage, welche vom Sachrichter besser beurteilt werden kann als vom Bundesgericht.
Nach § 10 Abs. 1 lit. b der Verordnung des Obergerichts vom 21. Juni 2006 über die Anwaltsgebühren (AnwGebV) beträgt die Grundgebühr zwischen 1'000 und 16'000 Franken, wobei u.a. für besonderen Aufwand in "Rechnungsprozessen" Zuschläge gewährt werden können (§ 10 Abs. 2 lit. a i.V.m. § 6 Abs. 1 lit. d AnwGebV). Es fällt in Betracht, dass der amtliche Verteidiger zwar einerseits wegen der grossen Anzahl Geschädigten (200, von denen allerdings nur 77 substanziierte Forderungen stellten) einen gewissen Mehraufwand hatte, dem anderseits aber wegen des bereits in der Untersuchung abgelegten umfangreichen Geständnisses seines Mandanten eine erhebliche Arbeitserleichterung gegenübersteht. Mit der Zusprechung einer Entschädigung von knapp zwei Dritteln der maximalen Grundgebühr und dem Verzicht auf einen Zuschlag haben die kantonalen Gerichte diesen Verhältnissen angemessen Rechnung getragen, und zwar unabhängig davon, ob darin auch gewisse Aufwendungen für die Haftprüfung enthalten sind und ob der Beschwerdeführer die Geschädigtenliste selber erstellte oder sie von seinem Mandanten erhielt. Es ist nicht ersichtlich und wird nicht plausibel dargetan, dass die kantonalen Gerichte dabei ihr Ermessen überschritten haben.
3.3 Die Verwaltungskommission anerkannte in ihrem Entscheid vom 7. April 2009, dass der Beschwerdeführer im Verfahren zur Überprüfung der Sicherheitshaft einen angemessenen Aufwand von 15 Stunden betrieb, welcher nicht von der Grundgebühr von § 10 AnwGebV gedeckt sei. Dafür habe er an sich Anspruch auf eine Entschädigung von 3'000 Franken, wie er sie in seiner Honorarrechnung vom 10. Oktober 2008 in Rechnung gestellt habe. Für diese Aufwendungen seien ihm indessen bereits vom Bundesgericht im Entscheid 1B.295/2007 insgesamt 2'000 Franken zugesprochen worden, welche von diesem Betrag in Abzug zu bringen seien, da er sich seinen Aufwand nicht doppelt entschädigen lassen könne (E. 1.4).
Wie der Beschwerdeführer zutreffend darlegt, hat ihn das Bundesgericht nur für das bundesgerichtliche Verfahren entschädigt. In der Honorarrechnung vom 10. Oktober 2008 werden keine Aufwendungen des bundesgerichtlichen Verfahrens 1B.295/2007 in Rechnung gestellt. Die Verwaltungskommission hat damit versehentlich die Entschädigung des von ihr als gerechtfertigt anerkannten Aufwands von 15 Stunden bzw. 3'000 Franken um 2'000 Franken gekürzt. Das ist willkürlich und dementsprechend zu korrigieren.
4. Die Verwaltungskommission erwog in ihrem ersten Entscheid vom 7. April 2008 (E. 2 S. 16), der Beschwerdeführer habe zu 34 % obsiegt und hat ihm dementsprechend die Gerichtsgebühr zu zwei Dritteln auferlegt und ihm eine entsprechend reduzierte Parteientschädigung zugesprochen. In ihrem zweiten Entscheid sah sich die Verwaltungskommission aus prozessualen Gründen ausserstande, diese Kosten- und Entschädigungsregelung dem neuen, berichtigten Ausgang des Verfahrens anzupassen. Vor Bundesgericht beanstandet der Beschwerdeführer diese unangemessen gewordene Kosten- und Entschädigungsregelung nicht mehr, weshalb sie bestehen bleibt.
5. Die Beschwerde ist somit teilweise gutzuheissen und dem Beschwerdeführer eine zusätzliche Entschädigung von 2'000 Franken zu Lasten des Kantons Zürich zuzusprechen.
Der Beschwerdeführer hat zu rund 2/3 obsiegt. Ausgangsgemäss sind ihm reduzierte Gerichtskosten aufzuerlegen, und der Kanton Zürich hat ihm eine reduzierte Parteientschädigung zu bezahlen (Art. 66 Abs 1 und Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen. Der Kanton Zürich hat dem Beschwerdeführer eine zusätzliche Entschädigung von Fr. 2'000.-- zu bezahlen.
2. Die Gerichtskosten von Fr. 600.-- werden dem Beschwerdeführer auferlegt.
3. Der Kanton Zürich hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'200.-- zu bezahlen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, Verwaltungskommission, schriftlich mitgeteilt.
Lausanne, 9. September 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Schneider Störi