Sachverhalt:
A. X._ und Z._ haben vor Bezirksgericht Uster ein Scheidungsverfahren angehoben. In diesem Verfahren, in dem namentlich die Zuteilung der beiden ehelichen Kinder strittig ist, ordnete Ersatzrichterin Y._ ein Gutachten zur strittigen Frage an, welches dem Scheidungsgericht am 30. September 2009 vorgelegt wurde. In der Folge hörte Ersatzrichterin Y._ die Parteien am 18. November 2009 erstmals an. Weitere Verhandlungen folgten am 19. März, 9. April sowie am 18. Mai 2010. Anlässlich dieser Verhandlung erörterte Ersatzrichterin Y._ im Rahmen von Vergleichsgesprächen unpräjudiziell ihre Sicht der Rechtslage, wonach die gemeinsamen Kinder Z._ zuzuteilen seien. X._ verliess in der Folge den Gerichtssaal.
B. Am 9. Juni 2010 stellte die anwaltlich verbeiständete X._ ein Ablehnungsbegehren gegen Ersatzrichterin Y._. Mit Beschluss vom 22. Juli 2010 wies die Verwaltungskommission des Obergerichts des Kantons Zürich das Begehren ab. Die von X._ gegen diesen Beschluss erhobene kantonale Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich seinerseits mit Zirkulationsbeschluss vom 16. November 2010 ab, soweit darauf einzutreten war.
C. X._ hat dagegen mit einer am 15. Dezember 2010 der Post aufgegebenen Eingabe beim Bundesgericht Beschwerde in Zivilsachen erhoben. Sie beantragt, den Zirkulationsbeschluss des Kassationsgerichts aufzuheben und das Ablehnungsbegehren gutzuheissen. Eventuell sei die Sache in Anwendung von Art. 107 Abs. 2 BGG an die Vorinstanz, subeventuell an die Verwaltungskommission des Obergerichts des Kantons Zürich als erste Instanz zurückzuweisen.
In der Sache ist keine Vernehmlassung eingeholt worden.
Mit Verfügung vom 27. Dezember 2010 wurde der Beschwerde entgegen dem Antrag der Einzelrichterin aufschiebende Wirkung zuerkannt.
Erwägungen:
1. Angefochten ist ein letztinstanzlicher kantonaler Zirkulationsbeschluss über den Ausstand einer Gerichtsperson. Dabei handelt es sich um einen selbstständig eröffneten Zwischenentscheid im Sinn von Art. 92 Abs. 1 BGG, welcher ohne weiteres der Beschwerde unterliegt. Der Rechtsweg des Zwischenentscheides folgt jenem der Hauptsache. Diese beschlägt ein Scheidungsverfahren und damit eine Zivilsache im Sinn von Art. 72 Abs. 1 BGG. Ist die Beschwerde in Zivilsachen in der Hauptsache zulässig, unterliegt ihr auch der vorliegende Zwischenentscheid.
2. 2.1 Das Kassationsgericht hält dafür, die Einzelrichterin habe infolge der bereits längeren Prozessdauer und der damit verbundenen vertieften Befassung mit dem Rechtsstreit über eine gefestigte Rechtsauffassung verfügt, als sie diese den Parteien präsentierte. Die Parteien hätten indes die Möglichkeit gehabt, vor der Urteilsfällung auf die Rechtsansicht der Einzelrichterin zu reagieren, weshalb von einer vorläufigen Sicht der Rechtslage gesprochen werden könne. Selbst wenn sich die Einzelrichterin in diesem Verfahrensstadium wohl nur schwer von einer anderen Auffassung habe überzeugen lassen, gelte sie nicht als befangen. Keine Voreingenommenheit werde aber dadurch begründet, dass sie im Hinblick auf Vergleichsgespräche ihre von der Auffassung der Beschwerdeführerin abweichende Rechtsansicht vorgetragen habe. Die Beschwerdeführerin sei mit der Durchführung von Vergleichsgesprächen einverstanden gewesen und verhalte sich nunmehr treuwidrig, indem sie die Einzelrichterin nach Mitteilung einer ihr nicht genehmen Rechtsansicht als befangen bezeichne.
2.2 Die Beschwerdeführerin rügt eine Verletzung von Art. 30 Abs. 1 BV und Art. 6 Ziff. 1 EMRK und macht zur Begründung im Wesentlichen geltend, die Einzelrichterin habe ihre Rechtsansicht in einem sehr fortgeschrittenen Stadium des Prozesses vorgetragen, wobei es sich bei dieser Auffassung um ein Urteilsergebnis gehandelt habe, mit dem an Sicherheit grenzender Wahrscheinlichkeit zu rechnen sei. Als unbegründet erweise sich ferner der Vorwurf des treuwidrigen Verhaltens. Die Einzelrichterin habe zur Fortsetzung der Hauptverhandlung über die strittigen Nebenfolgen vorgeladen, womit die Parteien nicht auf Vergleichsverhandlungen vorbereitet gewesen seien und daher auch keine Veranlassung bestanden habe, gegen die Durchführung solcher Gespräche zu remonstrieren. Die Beschwerdeführerin habe überdies im Rahmen dieser Vergleichsgespräche einen neuen, nicht publizierten Entscheid des Bundesgerichts zur Frage der Kinderzuteilung vorgelegt (5A_798/2009), auf den die Einzelrichterin aber ebenso wenig wie auf ihre übrigen Vorbringen eingegangen sei. All dies lege objektiv betrachtet nahe, dass die Einzelrichterin ihre Meinung zur Kinderzuteilung bereits definitiv gebildet habe und damit als befangen gelte.
3. 3.1 Nach Art. 30 Abs. 1 BV und Art. 6 Ziff. 1 EMRK hat jede Person Anspruch darauf, dass ihre Sache von einem unbefangenen, unvoreingenommenen und unparteiischen Richter beurteilt wird. Es soll garantiert werden, dass keine sachfremden Umstände, welche ausserhalb des Prozesses liegen, in sachwidriger Weise zugunsten oder zulasten einer Partei auf das gerichtliche Urteil einwirken. Die Garantie des verfassungsmässigen Richters wird verletzt, wenn bei objektiver Betrachtung Gegebenheiten vorliegen, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen (BGE 114 Ia 50 E. 3b und 3c S. 53 ff.; BGE 134 I 20 E. 4.2 S. 21; BGE 131 I 24 E. 1.1 S. 25, BGE 131 I 113 E. 3.4 S. 116, mit Hinweisen). Voreingenommenheit und Befangenheit in diesem Sinne werden nach der Rechtsprechung angenommen, wenn sich im Einzelfall anhand aller tatsächlichen und verfahrensrechtlichen Umstände Gegebenheiten ergeben, die geeignet sind, Misstrauen in die Unparteilichkeit des Richters zu erwecken. Diese können namentlich in einem bestimmten Verhalten des betreffenden Richters begründet sein. Bei dessen Beurteilung ist nicht auf das subjektive Empfinden einer Partei abzustellen. Das Misstrauen in die Unvoreingenommenheit muss vielmehr in objektiver Weise begründet erscheinen. Es genügt, wenn Umstände vorliegen, die bei objektiver Betrachtung den Anschein der Befangenheit und Voreingenommenheit erwecken. Für die Ablehnung wird nicht verlangt, dass der Richter tatsächlich befangen ist (BGE 128 V 82 E. 2a S. 84; BGE 127 I 196 E. 2b S. 198; BGE 126 I 68 E. 3a S. 73; BGE 125 I 119 E. 3a S. 122; BGE 124 I 255 E. 4a S. 261, mit Hinweisen). Der Anschein der Befangenheit kann durch unterschiedlichste Umstände und Gegebenheiten erweckt werden. Dazu können nach der Rechtsprechung insbesondere vor oder während eines Prozesses abgegebene Äusserungen eines Richters zählen, die den Schluss zulassen, dass sich dieser bereits eine feste Meinung über den Ausgang des Verfahrens gebildet hat (BGE 125 I 119 E. 3a S. 122; Urteil 1P.687/2005 vom 9. Januar 2006, E. 7; zum Ganzen BGE 134 I 238 E. 2.1 S. 240).
3.2 In einem Scheidungsverfahren gehört auch zu den Aufgaben des Richters, auf eine gütliche Einigung der Parteien bezüglich der Nebenfolgen der Scheidung hinzuwirken, werden doch durch eine Einigung eher die Voraussetzungen dafür geschaffen, dass die Regelungen über die Nebenfolgen seitens der Parteien akzeptiert werden und ohne nennenswerte Schwierigkeiten vollstreckt werden können. Im Lichte der Garantie gemäss Art. 30 Abs. 1 BV und Art. 6 Ziff. 1 EMRK darf die Gerichtsperson Vergleichsgespräche aufgrund provisorischer Einschätzung der Sach- und Rechtslage führen und eine vorläufige Auffassung mit Zurückhaltung und unter dem Vorbehalt der förmlichen Streitentscheidung auch zum Ausdruck bringen (vgl. BGE 134 I 238 E. 2.4 S. 244; 131 I 113 E. 3.6 S. 119 f. mit zahlreichen Hinweisen). Dass die Richterin mit fortgeschrittenem Stadium aufgrund des durchgeführten Beweisverfahrens oder - wie hier - nach Einholung eines psychologischen Gutachtens zur Frage der Kinderzuteilung über eine gefestigtere Rechtsauffassung verfügt als zu Beginn des Verfahrens, ist nachvollziehbar und ist dem Abschluss eines Vergleichs in der Regel förderlich. Auch in einem solchen Fall erscheint die Richterin bei objektiver Betrachtung nicht allein deswegen befangen, weil sie ihre Auffassung im Rahmen von Vergleichsgesprächen gegenüber den Parteien äussert. Soweit die Beschwerdeführerin Entsprechendes annimmt, vermag sie damit keine Verletzung von Art. 30 Abs. 1 BV bzw. 6 Ziff. 1 EMRK zu begründen. Auch in einem Fall wie dem vorliegenden kann das Mitglied des Gerichts nur abgelehnt werden, wenn die vorhergehende Vermittlertätigkeit oder ein Vermittlungsvorschlag den objektiv begründeten Anschein der Befangenheit hervorruft. Dies trifft etwa zu, wenn die Richterin eine durch den Prozess erst noch abzuklärende Tatsache als schon erwiesen ansieht, sich bereits in einer Art festgelegt hat, dass Zweifel darüber bestehen, ob sie einer anderen Bewertung der Sach- und Rechtslage aufgrund weiterer Abklärungen noch zugänglich ist (BGE 131 I 113 E. 3.6; vgl. auch BGE 119 Ia 81 E. 4b S. 87) oder wenn die Gerichtsperson auf die Parteien Druck ausgeübt hat (Entscheid der EKMR i.S. Jensen gegen Dänemark vom 7. Januar 1991, in: DR 68 S. 177).
3.3 Im vorliegenden Fall hat die Einzelrichterin die den Parteien während der Vergleichsgespräche bekannt gegebene Rechtsauffassung ausdrücklich als "unpräjudiziell" bezeichnet und es gibt abgesehen davon keine Anhaltspunkte dafür, dass sie ihre Auffassung für definitiv gehalten und sich insbesondere gegenüber weiteren Sachverhaltsabklärungen bezüglich der Kinderzuteilung und entsprechenden Beweisanträgen der Parteien kategorisch verschlossen hätte. Die Sachrichterin darf jederzeit auch ohne entsprechende Erwähnung auf der Vorladung Vergleichsverhandlungen führen. Im Übrigen hat die Beschwerdeführerin diese Rüge vor Kassationsgericht nicht ersichtlich erhoben bzw. beruht diese Rüge auf einer vom Kassationsgericht nicht festgestellten Tatsache, weshalb darauf nicht einzutreten ist. Sodann lässt auch die Tatsache, dass die Einzelrichterin nicht auf den ihr vorgelegten neueren Bundesgerichtsentscheid 5A_798/2009 eingegangen ist, die Magistratin bei objektiver Betrachtung nicht als befangen erscheinen. Im Gegenteil. Berechtigte Zweifel an der Offenheit der Einzelrichterin gegenüber weiteren Abklärungen hätten vielmehr bestanden, wenn sie sich im Verlauf des Vermittlungsgesprächs unvorbereitet und apodiktisch zu dieser Rechtsprechung geäussert und sich ausdrücklich gegen deren Anwendung auf den konkreten Fall ausgesprochen hätte. Sollte diese Rechtsprechung im Endurteil nicht berücksichtigt werden, stellte dies allenfalls einen Mangel des Sachurteils selbst, nicht des Vergleichsgesprächs dar. Nichts spricht schliesslich dafür, dass seitens der Einzelrichterin auf die Parteien Druck ausgeübt worden wäre.
3.4 Die Beschwerdeführerin hat somit nichts vorgebracht, was die Einzelrichterin bei objektiver Betrachtung als befangen erscheinen liesse.
4. Damit ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 21. Februar 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Zbinden