Sachverhalt:
A. X._ (geb. xxxx 1952) und Z._ (geb. xxxx 1972) ehelichten sich am xxxx 1999. Die Ehe der Parteien wurde mit Urteil des Einzelrichters am Bezirksgericht Bülach vom 23. April 2010 geschieden. Der Einzelrichter teilte die Austrittsleistung der beruflichen Vorsorge im Verhältnis zu je 1/2 auf die Parteien (Ziff. 4a) und verfügte die Überweisung der Akten nach Eintritt der Rechtskraft von Dispositiv-Ziff. 4 des Urteils an das Sozialversicherungsgericht des Kantons Zürich zur Durchführung der Teilung der Austrittsleistung (Ziff. 4b).
B. X._ gelangte gegen Ziff. 4 des erstinstanzlichen Urteils an das Obergericht des Kantons Zürich, das seine Berufung mit Urteil vom 3. Dezember 2010 abwies und das erstinstanzliche Urteil im angefochtenen Punkt bestätigte. Dieses Urteil wurde X._ am 17. Dezember 2010 zugestellt, worauf er es am 31. Januar 2011 mit kantonaler Nichtigkeitsbeschwerde anfocht. Mit Zirkularerledigungsbeschluss vom 7. April 2011 trat das Kassationsgericht des Kantons Zürich auf die Nichtigkeitsbeschwerde nicht ein.
C. X._ hat am 26. und 27. Mai 2011 (Postaufgabe) beim Bundesgericht gegen das Urteil des Obergerichts und den ihm am 19. April 2011 zugestellten Zirkularerledigungsbeschluss des Kassationsgerichts Beschwerde in Zivilsachen erhoben. Er verlangt sinngemäss die Aufhebung der angefochtenen kantonalen Entscheide; in materieller Hinsicht stellt er sinngemäss den Antrag, auf Teilung der Austrittsleistung und auf Ausrichtung einer Entschädigung nach Art. 124 ZGB zu verzichten.
Obergericht und Kassationsgericht haben auf Vernehmlassung verzichtet. Z._ schliesst in ihrer Eingabe vom 30. September 2011 dahin, auf die Beschwerde sei nicht einzutreten, eventuell sei sie abzuweisen.
D. Die Beschwerde wurde an der Sitzung der II. zivilrechtlichen Abteilung des Bundesgerichts vom 26. Januar 2012 öffentlich beraten und das Urteil anschliessend mündlich eröffnet.

Erwägungen:
1. 1.1 Angefochten sind zwei kantonale Endentscheide (Art. 90 BGG) in einer vermögensrechtlichen Zivilsache (Art. 72 Abs. 1 BGG), deren Streitwert den Betrag gemäss Art. 74 Abs. 1 lit. b BGG bei Weitem übersteigt. Das Urteil des Obergerichts des Kantons Zürich ist im Dezember 2010 und damit zu einem Zeitpunkt versendet worden, in dem die eidgenössische Zivilprozessordnung noch nicht in Kraft getreten war (zur Bedeutung des Versanddatums: <ref-ruling> E. 2). Es konnte folglich aufgrund des anwendbaren kantonalen Prozessrechts (ZPO/ZH) mit kantonaler Nichtigkeitsbeschwerde beim Kassationsgericht des Kantons Zürich angefochten werden (vgl. Zirkularerledigungsbeschluss des Kassationsgerichts des Kantons Zürich vom 7. April 2011 E. I.). Bei dieser Konstellation galt mit Bezug auf den Beginn der Frist für die Anfechtung des obergerichtlichen Urteils beim Bundesgericht das BGG in seiner Fassung vom 17. Juni 2005 (<ref-ruling> E. 1 S. 129). Aufgrund von Art. 100 Abs. 6 BGG dieser Fassung begann die Frist für die Beschwerde in Zivilsachen gegen beide kantonalen Entscheide mit der Eröffnung des Beschlusses des Kassationsgerichts, d.h. am 19. April 2011. Die am 26. und 27. Mai 2011 gegen beide kantonalen Entscheide erhobene Beschwerde in Zivilsachen ist angesichts der Ostergerichtsferien (Art. 46 Abs. 1 BGG) rechtzeitig erfolgt.
1.2 Letztinstanzlichkeit gemäss Art. 75 Abs. 1 BGG bedeutet, dass der kantonale Instanzenzug für die Rügen ausgeschöpft sein muss, die dem Bundesgericht vorgetragen werden (<ref-ruling> E. 1.3 S. 527). Mit Bezug auf Gehörs- und Sachverhaltsrügen ist der Beschluss des Kassationsgerichts letztinstanzlich, kann doch mit der kantonalen Nichtigkeitsbeschwerde geltend gemacht werden, der Entscheid beruhe auf einer Verletzung eines wesentlichen Verfahrensgrundsatzes (§ 281 Ziff. 1 ZPO/ZH) bzw. auf einer aktenwidrigen oder willkürlichen tatsächlichen Annahme (§ 281 Ziff. 2 ZPO/ZH; <ref-ruling> E. 3.2 S. 587). In diesem Bereich entspricht die Kognition des Kassationsgerichts derjenigen des Bundesgerichts. Das Bundesgericht tritt auf Gehörs- und Sachverhaltsrügen nur ein, wenn der Beschwerdeführer diese bereits dem Kassationsgericht vorgetragen hat.
1.3 In der Beschwerde ist in Auseinandersetzung mit den Erwägungen des angefochtenen Entscheides darzulegen, welche Rechte der beschwerdeführenden Partei durch das kantonale Gericht verletzt worden sind (Art. 42 Abs. 2 BGG; <ref-ruling> E. 2.1 S. 245), wobei eine allfällige Verletzung verfassungsmässiger Rechte vom Bundesgericht nicht von Amtes wegen geprüft wird, sondern nur, wenn solche Rügen in der Beschwerdeschrift ausdrücklich erhoben und begründet werden (Art. 106 Abs. 2 BGG; <ref-ruling> E. 1.2 S. 234). Wird eine Sachverhaltsfeststellung beanstandet, muss in der Beschwerdeschrift dargelegt werden, inwiefern diese Feststellung willkürlich oder durch eine andere Rechtsverletzung im Sinn von Art. 95 BGG (z.B. Art. 29 Abs. 2 BV oder Art. 8 ZGB) zustande gekommen ist (vgl. <ref-ruling> E. 1.2.2 und 1.4.3 S. 255) und inwiefern die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 in fine BGG; <ref-ruling> E. 2.2.2 S. 22). Auf rein appellatorische Kritik am Sachverhalt tritt das Bundesgericht nicht ein. Soweit sich der Beschwerdeführer in allgemeiner, nicht auf die Erwägungen der angefochtenen Entscheide bezogener Weise zur Sache äussert, ist auf die Beschwerde von vornherein nicht einzutreten.
2. 2.1 Das Kassationsgericht hielt dafür, der Beschwerdeführer nenne keinen Nichtigkeitsgrund, insbesondere mache er nicht geltend, der angefochtene Entscheid des Obergerichts beruhe auf einer Verletzung eines wesentlichen Verfahrensgrundsatzes (§ 281 Ziff. 1 ZPO/ZH) bzw. auf einer aktenwidrigen oder willkürlichen tatsächlichen Annahme (§ 281 Ziff. 2 ZPO/ZH). Er berufe sich vielmehr auf eine Verletzung von Bundesrecht, für welche die Beschwerde nicht offen stehe, wenn - wie hier - gegen das obergerichtliche Urteil auch die Beschwerde in Zivilsachen ergriffen werden könne (§ 285 Abs. 1 und 2 ZPO/ZH). Soweit der Beschwerdeführer schliesslich dem Bezirksgericht Bülach vorwerfe, ihn nicht korrekt behandelt zu haben, richte er sich in unzulässiger Weise gegen den erstinstanzlichen Entscheid. Mit der Rüge von Fehlern im erstinstanzlichen Verfahren könne nicht dargetan werden, dass der Entscheid des Obergerichts auf einem Nichtigkeitsgrund beruhe. Im Übrigen habe der Beschwerdeführer vor Obergericht auch bestätigt, die Begründung seiner Anträge sei vollständig erfolgt, und er habe sämtliche ihm wesentlichen Dokumente vorlegen können. Damit sei ein allfälliger Verfahrensfehler des Bezirksgerichts geheilt worden.
2.2 Der Beschwerdeführer setzt sich entgegen der Vorschrift von Art. 42 Abs. 2 BGG (vgl. E. 1.3 hiervor) grösstenteils mit den Erwägungen des angefochtenen Entscheids nicht auseinander, sondern behauptet im Wesentlichen lediglich, das Kassationsgericht habe erkennen müssen, dass sein Vorsorgeguthaben nicht teilbar sei. Damit wird er den Begründungsanforderungen nicht gerecht. Soweit er aber auf die Erwägungen des kassationsgerichtlichen Urteils eingeht, tut er nicht rechtsgenüglich dar, inwiefern das Kassationsgericht kantonales Recht willkürlich angewendet (Art. 9 BV) bzw. willkürliche tatsächliche Annahmen getroffen oder wesentliche Verfahrensgrundsätze verletzt haben könnte. Auf die Beschwerde ist somit nicht einzutreten, soweit sie sich gegen den Zirkularerledigungsbeschluss des Kassationsgerichts richtet. Das hat zur Folge, dass gegen das Urteil des Obergerichts Rügen im Zusammenhang mit der Feststellung des Sachverhalts (inkl. die Rüge der Verletzung des rechtlichen Gehörs) nicht mehr vorgebracht werden können (E. 1.2).
3. Strittig ist vorliegend die Teilung des Freizügigkeitsguthabens des Beschwerdeführers. Dieser ist der Ansicht, die hälftige Teilung gemäss Art. 122 ZGB sei nicht möglich und die Ausrichtung einer Entschädigung gemäss Art. 124 ZGB für den Fall des Eintritts des Vorsorgefalles sei wegen Rechtsmissbrauchs der Beschwerdegegnerin (Art. 2 Abs. 2 ZGB) zu verweigern.
3. Strittig ist vorliegend die Teilung des Freizügigkeitsguthabens des Beschwerdeführers. Dieser ist der Ansicht, die hälftige Teilung gemäss Art. 122 ZGB sei nicht möglich und die Ausrichtung einer Entschädigung gemäss Art. 124 ZGB für den Fall des Eintritts des Vorsorgefalles sei wegen Rechtsmissbrauchs der Beschwerdegegnerin (Art. 2 Abs. 2 ZGB) zu verweigern.
3.1 3.1.1 Der Beschwerdeführer macht geltend, er habe im kantonalen Verfahren eine ganze Reihe von Ereignissen geschildert, aus denen sich ergebe, dass die Beschwerdegegnerin die Ehe nie gewollt habe. Da die Beschwerdegegnerin diese Behauptung lediglich bestreite und kein einziges stichhaltiges Argument für ihre Bestreitung vorbringe, solle das Bundesgericht die Haltlosigkeit dieser Position feststellen.
3.1.2 Mit seinen Ausführungen verlangt der Beschwerdeführer, dass das Bundesgericht den vorgetragenen Sachverhalt würdigt und in tatsächlicher Hinsicht zum Schluss gelangt, die Beschwerdeführerin habe die Ehe nie gewollt. Soweit der Beschwerdeführer damit die Feststellung des Sachverhalts durch das Obergericht als willkürlich oder in Verletzung des Gehörsanspruchs (Art. 29 Abs. 2 BV) zustande gekommen rügen will, hätte er diese Rüge dem Kassationsgericht unterbreiten müssen, was er nach den Ausführungen in E. 2.2 nicht getan hat. Darauf ist nicht einzutreten.
4. Der Beschwerdeführer macht des Weiteren geltend, die Überlegungen beider Gerichte beruhten auf der irrtümlichen Annahme, dass sein Vorsorgeguthaben teilbar sei. Er habe dem Bezirksgericht an der Verhandlung vom 15. April 2010 mitgeteilt, dass er ab 1. August 2010 in Teilpension gehe. Bezirks- und Obergericht hätten die Teilpensionierung ab 1. August 2010 auch festgestellt, weshalb die kantonalen Gerichte verpflichtet gewesen seien, die Teilbarkeit der Vorsorgeleistung bei der Vorsorgeeinrichtung abzuklären. Es könne nicht angehen, dass das Bezirksgericht wichtige Einwendungen im Verhandlungsprotokoll nicht vermerke.
4.1 Das Rechtsmittelverfahren vor Obergericht ist mit Urteil vom 3. Dezember 2010 abgeschlossen worden. Anwendbar war somit einmal das kantonale Prozessrecht, zumal die Schweizerische Zivilprozessordnung erst am 1. Januar 2011 in Kraft getreten ist (AS 2010 1739; Art. 404 ZPO). Dieses Urteil wurde den Parteien im Laufe des Monats Dezember 2010 zugestellt (<ref-ruling> E. 2 betreffend Art. 405 ZPO). Was das Verfahren der Teilung anbelangt, waren die aArt. 141 ZGB bzw. aArt. 142 ZGB und nicht die Art. 280 und 281 ZPO massgebend.
4.2 Der Beschwerdeführer wirft der Vorinstanz im Ergebnis vor, nicht von Amtes wegen abgeklärt zu haben, ob der Vorsorgefall vor der Rechtskraft des Urteils im Scheidungspunkt eingetreten ist. Nach der bundesgerichtlichen Praxis hat der Scheidungsrichter im Bereich der Art. 122 ff. ZGB die erforderlichen Angaben betreffend den Eintritt des Vorsorgefalles von Amtes wegen einzuholen und ist diesbezüglich an übereinstimmende Parteierklärungen nicht gebunden (<ref-ruling> E. 3 S. 487). Damit wurde indes nicht gesagt, dass mit Bezug auf den Eintritt des Vorsorgefalles überhaupt nicht auf Parteiaussagen abgestellt werden darf. Wie in anderen Bereichen des Familienrechts (vgl. etwa <ref-ruling> E. 3.2; <ref-ruling> E. 5.4 S. 511) ergibt sich auch aus den Art. 122 ff. ZGB keine uneingeschränkte Untersuchungsmaxime. Auch hier obliegt den Parteien im Rahmen ihrer Mitwirkungspflicht, dem Gericht die notwendigen Tatsachen und Beweismittel zu unterbreiten. Der Beschwerdeführer machte vor den kantonalen Instanzen geltend, wegen des Verbots des Rechtsmissbrauchs sei vom Grundsatz der hälftigen Teilung gemäss Art. 122 ZGB abzuweichen. Ihm oblag somit, bei der Feststellung des Eintritts des Vorsorgefalles und der Erhebung der erforderlichen Beweise mitzuwirken. Im Lichte der zitierten Rechtsprechung bestand keine weitergehende Pflicht des Gerichts, den Sachverhalt zu erforschen.
4.3 Diesem Ergebnis steht auch der auf den vorliegenden Fall anwendbare aArt. 142 ZGB nicht entgegen: Nach Abs. 1 dieser Bestimmung entscheidet das Scheidungsgericht über das Verhältnis der Teilung der Austrittsleistungen (Abs. 1). Die Durchführung der Teilung - und damit die betragsmässige Festsetzung der Austrittsleistung - bleibt dem zuständigen Sozialversicherungsgericht (Art. 25a FZG; SR 831.42 in der Fassung vom 26. Juni 1998; AS 1999 1118) vorbehalten (Abs. 2). Eine Ausnahme sieht das Gesetz lediglich für den Fall vor, in dem sich die Parteien über die Teilung der Austrittsleistung und die Art ihrer Durchführung geeinigt haben. Diesfalls haben sie dem Scheidungsgericht eine Bestätigung der beteiligten Vorsorgeeinrichtungen über die Durchführbarkeit der getroffenen Regelung und die Höhe der Guthaben vorzulegen, die für die Berechnung der Austrittsleistung durch das Scheidungsgericht massgebend sind (aArt. 141 Abs. 1 ZGB).
4.4 Vor Obergericht hat der Beschwerdeführer auf Befragen hin ausgesagt, er habe sein Arbeitspensum per Ende Juli 2010 auf 50% reduziert; er erhalte erst ab 1. Januar 2011 eine Rente; jetzt erhalte er noch nichts; der Vorsorgefall sei nicht eingetreten. Der Beschwerdeführer legt nicht dar, dass seine Aussagen vor Obergericht falsch protokolliert worden seien und er eine Protokollberichtigung beantragt habe. Zudem wird auch nicht rechtsgenüglich behauptet, er habe diese Sachverhaltsfeststellungen bzw. die obergerichtliche Beweiswürdigung mit Bezug auf den Eintritt des Vorsorgefalles beim Kassationsgericht als willkürlich beanstandet. Im Lichte der Aussagen des Beschwerdeführers an der Verhandlung und des Eintritts der Rechtskraft des Scheidungsurteils, des für den Eintritt des Vorsorgefalles massgebenden Zeitpunktes (<ref-ruling> E. 2), sowie unter Berücksichtigung der beschriebenen Mitwirkungspflicht war das Obergericht trotz der Untersuchungsmaxime (<ref-ruling> E. 3.3 S. 487) nicht gehalten, weitere Abklärungen vorzunehmen. Soweit der Beschwerdeführer nunmehr eine unrichtige bzw. unvollständige Protokollführung des Bezirksgerichts beanstandet, richtet er sich nicht gegen das obergerichtliche Urteil bzw. gegen das obergerichtliche Verfahren. Darauf ist nicht einzutreten. Im Rahmen des formell Zulässigen erweist sich die Beschwerde als unbegründet.
4.4 Vor Obergericht hat der Beschwerdeführer auf Befragen hin ausgesagt, er habe sein Arbeitspensum per Ende Juli 2010 auf 50% reduziert; er erhalte erst ab 1. Januar 2011 eine Rente; jetzt erhalte er noch nichts; der Vorsorgefall sei nicht eingetreten. Der Beschwerdeführer legt nicht dar, dass seine Aussagen vor Obergericht falsch protokolliert worden seien und er eine Protokollberichtigung beantragt habe. Zudem wird auch nicht rechtsgenüglich behauptet, er habe diese Sachverhaltsfeststellungen bzw. die obergerichtliche Beweiswürdigung mit Bezug auf den Eintritt des Vorsorgefalles beim Kassationsgericht als willkürlich beanstandet. Im Lichte der Aussagen des Beschwerdeführers an der Verhandlung und des Eintritts der Rechtskraft des Scheidungsurteils, des für den Eintritt des Vorsorgefalles massgebenden Zeitpunktes (<ref-ruling> E. 2), sowie unter Berücksichtigung der beschriebenen Mitwirkungspflicht war das Obergericht trotz der Untersuchungsmaxime (<ref-ruling> E. 3.3 S. 487) nicht gehalten, weitere Abklärungen vorzunehmen. Soweit der Beschwerdeführer nunmehr eine unrichtige bzw. unvollständige Protokollführung des Bezirksgerichts beanstandet, richtet er sich nicht gegen das obergerichtliche Urteil bzw. gegen das obergerichtliche Verfahren. Darauf ist nicht einzutreten. Im Rahmen des formell Zulässigen erweist sich die Beschwerde als unbegründet.
4.5 Durch das Vorgehen des Obergerichts erwächst dem Beschwerdeführer abgesehen davon auch kein Nachteil: Stellt nämlich das Sozialversicherungsgericht fest, dass eine Teilung des Vorsorgeguthabens wegen Eintritts des Vorsorgefalles nicht mehr möglich ist, hat es die Angelegenheit an das Scheidungsgericht zurückzuweisen (<ref-ruling>).
5. Damit ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG). Er hat die Beschwerdeführerin für das bundesgerichtliche Verfahren zu entschädigen (Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Kassationsgericht des Kantons Zürich und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 26. Januar 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden