Sachverhalt: A. X._ hat am 3. Januar 2005 beim Bezirksgericht Zürich eine Klage gegen seine geschiedene Frau Y._ auf Abänderung des Scheidungsurteils vom 6. Juli 1989 eingereicht. In diesem Verfahren sind beide Parteien anwaltlich vertreten. Mit Eingabe vom 24. November 2005 lehnte X._ die für den Zivilprozess zuständige Einzelrichterin am Bezirksgericht ab. Er begründete das Ausstandsbegehren damit, der Rechtsvertreter der Beklagten sei gleichzeitig Vizepräsident des Kassationsgerichts des Kantons Zürich; daher erwecke die Richterin den Anschein der Befangenheit. Gleichzeitig verlangte er, das Gericht habe die Beklagte aufzufordern, dass sie einen anderen Rechtsvertreter bezeichne, der nicht dem Kassationsgericht angehöre. B. Das Obergericht des Kantons Zürich, Verwaltungskommission, wies das Ausstandsbegehren am 6. Januar 2006 ab. Wie sich aus den Erwägungen dieses Entscheids ergibt, trat es auf den Antrag betreffend Auswechslung des Rechtsvertreters der Gegenpartei nicht ein. Gegen den Entscheid des Obergerichts gelangte X._ mit staatsrechtlicher Beschwerde an das Bundesgericht. Dieses überwies die Beschwerde mit Urteil vom 27. März 2006 an das Kassationsgericht des Kantons Zürich zur Behandlung (BGE 132 I 92). Das Kassationsgericht wies die Beschwerde in der Folge mit Entscheid vom 23. Juni 2006 ab. C. Gegen den Entscheid des Kassationsgerichts erhebt X._ erneut staatsrechtliche Beschwerde. Er verlangt die Aufhebung des angefochtenen Entscheids. Gerügt wird eine Verletzung von Art. 8, 9, 29 und 30 BV bzw. von Art. 6 EMRK. Das Kassationsgericht nimmt zur Beschwerde in ablehnendem Sinne Stellung, stellt jedoch keinen Antrag. Y._ und das Obergericht verzichten auf eine Stellungnahme. Richterin A._ gibt die Erklärung ab, nicht befangen zu sein, und verzichtet im Übrigen ebenfalls auf eine Vernehmlassung.