Sachverhalt: A. X._ (geb. xxxx 1952) und Z._ (geb. xxxx 1972) ehelichten sich am xxxx 1999. Die Ehe der Parteien wurde mit Urteil des Einzelrichters am Bezirksgericht Bülach vom 23. April 2010 geschieden. Der Einzelrichter teilte die Austrittsleistung der beruflichen Vorsorge im Verhältnis zu je 1/2 auf die Parteien (Ziff. 4a) und verfügte die Überweisung der Akten nach Eintritt der Rechtskraft von Dispositiv-Ziff. 4 des Urteils an das Sozialversicherungsgericht des Kantons Zürich zur Durchführung der Teilung der Austrittsleistung (Ziff. 4b). B. X._ gelangte gegen Ziff. 4 des erstinstanzlichen Urteils an das Obergericht des Kantons Zürich, das seine Berufung mit Urteil vom 3. Dezember 2010 abwies und das erstinstanzliche Urteil im angefochtenen Punkt bestätigte. Dieses Urteil wurde X._ am 17. Dezember 2010 zugestellt, worauf er es am 31. Januar 2011 mit kantonaler Nichtigkeitsbeschwerde anfocht. Mit Zirkularerledigungsbeschluss vom 7. April 2011 trat das Kassationsgericht des Kantons Zürich auf die Nichtigkeitsbeschwerde nicht ein. C. X._ hat am 26. und 27. Mai 2011 (Postaufgabe) beim Bundesgericht gegen das Urteil des Obergerichts und den ihm am 19. April 2011 zugestellten Zirkularerledigungsbeschluss des Kassationsgerichts Beschwerde in Zivilsachen erhoben. Er verlangt sinngemäss die Aufhebung der angefochtenen kantonalen Entscheide; in materieller Hinsicht stellt er sinngemäss den Antrag, auf Teilung der Austrittsleistung und auf Ausrichtung einer Entschädigung nach Art. 124 ZGB zu verzichten. Obergericht und Kassationsgericht haben auf Vernehmlassung verzichtet. Z._ schliesst in ihrer Eingabe vom 30. September 2011 dahin, auf die Beschwerde sei nicht einzutreten, eventuell sei sie abzuweisen. D. Die Beschwerde wurde an der Sitzung der II. zivilrechtlichen Abteilung des Bundesgerichts vom 26. Januar 2012 öffentlich beraten und das Urteil anschliessend mündlich eröffnet.