Sachverhalt: A. A.a Der Vorsitzende der 9. Abteilung des Bezirksgerichtes Zürich sprach Rechtsanwalt X._ am 30. Oktober 2008 für seine Tätigkeit als amtlicher Verteidiger von A._ eine Entschädigung von insgesamt Fr. 66'123.86 zu (Fr. 58'730.-- Honorar, Fr. 2'723.40 Auslagen, Fr. 4'670.46 Mehrwertsteuer). Auf Einsprache von X._ hin bestätigte die 9. Abteilung des Bezirksgerichtes am 26. November 2008 diese Verfügung ihre Vorsitzenden. A.b Mit Beschwerde an die Verwaltungskommission des Obergerichts des Kantons Zürich beantragte X._, diesen bezirksgerichtlichen Beschluss aufzuheben und seine Entschädigung auf Fr. 76'394.55 (inklusive Spesen in Höhe von Fr. 4'214.75 und 7.6 % Mehrwertsteuer) festzusetzen. Die Verwaltungskommission hiess die Beschwerde am 7. April 2009 teilweise gut und sprach X._ eine zusätzliche Entschädigung von Fr. 3'531.40 zu (Dispositiv-Ziffer 1). Es auferlegte ihm die Staatsgebühr von Fr. 900.-- zu zwei Dritteln (Dispositiv-Ziffer 2) und sprach ihm für das Beschwerdeverfahren eine reduzierte Prozessentschädigung von Fr. 200.-- zu (Dispositiv-Ziffer 3). A.c Mit Wiedererwägungsgesuch vom 20. April 2009 beantragte X._ der Verwaltungskommission, es sei ihm eine zusätzliche Entschädigung von Fr. 10'270.70 zuzusprechen, unter Neuregelung der Kosten- und Entschädigungsfolgen. In ihrem Entscheid vom 8. Mai 2009 erwog die Verwaltungskommission, ihr Beschluss vom 7. April 2009 gehöre zur Rechtsprechung in Justizverwaltungssachen und sei damit einer Wiedererwägung nicht zugänglich. Zutreffend sei allerdings, dass ihr ein offenkundiges Versehen im Sinne von § 166 des Gerichtsverfassungsgesetzes vom 13. Juni 1976 (GVG) unterlaufen sei, indem sie dem Beschwerdeführer in der Begründung für Gefängnisbesuche Fr. 3'908.-- zugesprochen, diesen Betrag indessen bei der Gesamtentschädigung im Dispositiv nicht berücksichtigt habe. Dies sei zu berichtigen. Beim Entscheid über die Kosten- und Entschädigungsfolgen stehe ihr indessen ein grosser Ermessensspielraum zu, weshalb es nicht zulässig sei, diesen Punkt unter Hinweis auf § 166 GVG zu korrigieren. Gestützt auf diese Erwägungen trat sie auf das Wiedererwägungsgesuch nicht ein und berichtigte Dispositiv-Ziffer 1 des Beschlusses vom 7. April 2009 dahingehend, dass dem Beschwerdeführer eine zusätzliche Entschädigung von Fr. 7'439.40 zugesprochen wurde. B. Mit subsidiärer Verfassungsbeschwerde vom 18. Mai 2009 beantragt X._, diese beiden Beschlüsse der Verwaltungskommission aufzuheben und die Sache zu neuem Entscheid an diese zurückzuweisen. C. Das Bezirksgericht Zürich beantragt in seiner Vernehmlassung, die Beschwerde abzuweisen. Der Beschwerdeführer hält in seiner unaufgefordert eingereichten Replik an der Beschwerde fest.