Sachverhalt:
A. A.a X._, geboren am xxxx 1946, (nachfolgend: Beschwerdeführer) und Z._, geboren am xxxx 1947, (nachfolgend: Beschwerdegegnerin) heirateten am xxxx 1969 in A._. Anfang 1988 trennten sich die Parteien, wobei die Beschwerdegegnerin in der ehelichen Liegenschaft in B._ verblieb. Gemäss Vereinbarung der Parteien vom 31. Januar 1988 überliess der Beschwerdeführer der Beschwerdegegnerin das Haus frei von hypothekarischen Belastungen mit der gesamten Einrichtung für die Dauer des Getrenntlebens zu unbeschwerter Benützung. Die Beschwerdegegnerin übernahm die mit der Liegenschaft zusammenhängenden Gebühren und Abgaben sowie die Kosten des gewöhnlichen Unterhalts der Liegenschaft. Zudem verpflichtete sich der Beschwerdeführer, der Beschwerdegegnerin vom Zeitpunkt seines Auszugs an während der Dauer des Getrenntlebens einen monatlichen Unterhaltsbeitrag von Fr. 5'000.-- zu bezahlen und sämtliche bei ihr anfallenden Staats- und Gemeindesteuern zu tragen. Für den Fall des Getrenntlebens von mehr als einem Jahr wurde der Unterhaltsbeitrag an den Landesindex der Konsumentenpreise gekoppelt.
A.b Am 4. Mai 1995 leitete der Beschwerdeführer am Bezirksgericht Zürich erstmals ein Scheidungsverfahren ein und ersuchte um Reduktion der Unterhaltsbeiträge während der Dauer des Scheidungsverfahrens. Am 9. Mai 1996 zog er die Scheidungsklage zurück. Aufgrund des schlechten Geschäftsgangs seiner Firmen stellte der Beschwerdeführer die Unterhaltszahlungen ein. Die letzte Zahlung über einen Betrag von noch Fr. 1'500.-- leistete er am 29. Januar 1997.
A.c Am 11. September 1996 leitete die Beschwerdegegnerin beim Bezirksgericht Horgen ein Eheschutzverfahren ein, zog dieses jedoch am 12. April 1999 zurück.
A.d Nachdem über die Firmen des Beschwerdeführers der Konkurs eröffnet worden war, meldete sich dieser am 11. April 1997 nach Italien ab und nahm eine Anstellung bei der S._ AG in Italien an, wo er heute noch im Sommerhalbjahr tätig ist. Vom Jahresende bis Ostern arbeitet er als Skilehrer in C._. Die Zeit zwischen dem Saisonschluss in Italien im Oktober und dem Jahresende verbringt er in der Schweiz.
A.e Aufgrund von seitens des Beschwerdeführers anerkannten Steuerforderungen legte das Steueramt der Stadt D._ durch das Betreibungsamt B._ Arrest auf seinen Miteigentumsanteil an der ehelichen Liegenschaft. Am 4. Juni 1998 stellte das Kantonale Steueramt Zürich für den Betrag von Fr. 266'000.-- (ohne Zins und Kosten) das Verwertungsbegehren betreffend den Miteigentumsanteil, worauf das Betreibungsamt B._ am 28. August 1998 die Grundpfandverwertung einleitete. Hierauf löste die Beschwerdegegnerin die Steuerschulden des Beschwerdeführers gegen Überschreibung seines Miteigentumsanteils auf sie ab. Dafür benötigte sie gemäss ihren Angaben Fr. 270'000.--, die sie mittels Fr. 250'000.-- Hypothek und Fr. 20'000.-- Eigenkapital aufbrachte.
B. Nachdem der Beschwerdeführer die Scheidung beantragt und die Beschwerdegegnerin ihr Einverständnis mit der Scheidungsklage erklärt hatte, wurde die Ehe der Parteien mit Urteil vom 30. Juni 2008 der Einzelrichterin des Bezirksgerichts Horgen geschieden. Das Gericht erachtete die Forderungen des Beschwerdeführers aus Güterrecht als rechtsmissbräuchlich und liess die Frage der von der Beschwerdegegnerin eventualiter zur Verrechnung gestellten Forderungen aus Unterhalt offen. Es entschied, es seien keine güterrechtlichen Ausgleichszahlungen geschuldet und jede Partei behalte zu Eigentum, was sie derzeit besitze oder auf ihren Namen laute (Dispositiv Ziff. 3).
C. Mit Beschluss und Urteil vom 10. September 2009 hob das Obergericht des Kantons Zürich auf Berufung des Beschwerdeführers hin Dispositiv Ziff. 3 des erstinstanzlichen Urteils auf und wies den Prozess zur Ergänzung des Hauptverfahrens sowie zur Durchführung eines Beweisverfahrens im Sinne der Erwägungen und der güterrechtlichen Auseinandersetzung an die Vorinstanz zurück.
Es erwog, entgegen dem erstinstanzlichen Entscheid sei die güterrechtliche Beteiligungsforderung des Beschwerdeführers nicht rechtsmissbräuchlich. Andererseits habe die Beschwerdegegnerin nicht auf ehelichen Unterhalt verzichtet (E. 4.2), und die Vereinbarung zwischen den Parteien vom 31. Januar 1988 mit der darin enthaltenen Verpflichtung zur Leistung eines monatlichen Unterhaltsbeitrags von Fr. 5'000.-- sei nach dem Klagerückzug des Beschwerdeführers wieder aufgelebt (E. 4.3), sodass die Ansprüche des Beschwerdeführers aus Güterrecht mit den Ansprüchen der Beschwerdegegnerin auf Unterhaltsbeiträge verrechnet werden könnten (E. 4.5).
D. Mit Eingabe vom 14. Oktober 2009 beantragt der Beschwerdeführer dem Bundesgericht die Aufhebung der Erwägungen 4.2 bis 4.5.4 zu Dispositiv Ziff. 1 des obergerichtlichen Beschlusses und an deren Stelle die Feststellung, dass der Beschwerdegegnerin keine rückwirkende Forderung aus ehelichem Unterhalt zustehe, eventualiter, dass der Beschwerdegegnerin ab Februar 1997 eine Forderung aus ehelichem Unterhalt im Betrag von monatlich Fr. 4'000.-- zustehe.
Nachdem die Beschwerdegegnerin gegen den obergerichtlichen Entscheid Nichtigkeitsbeschwerde beim Kassationsgericht des Kantons Zürich erhoben hatte, wurde das Beschwerdeverfahren vor Bundesgericht mit Präsidialverfügung vom 3. November 2009 bis zum Urteil des Kassationsgerichts sistiert. Mit Zirkulationsbeschluss vom 13. November 2009 wies das Kassationsgericht die Nichtigkeitsbeschwerde der Beschwerdegegnerin ab, soweit es darauf eintrat.
Es sind keine Vernehmlassungen eingeholt worden.
Erwägungen:
1. 1.1 Angefochten sind Fr. 30'000.-- übersteigende vermögensrechtliche Folgen eines kantonal letztinstanzlichen Ehescheidungsurteils; die Voraussetzungen nach Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b und Art. 75 Abs. 1 BGG sind gegeben. Indes hat das Obergericht keinen Endentscheid gefällt, sondern die Sache an das Bezirksgericht zur Durchführung eines Beweisverfahrens und der güterrechtlichen Auseinandersetzung zurückgewiesen. Rückweisungsentscheide gelten als Zwischenentscheide, es sei denn, der unteren Instanz, an welche die Sache zurückgewiesen wird, verbleibe kein Entscheidungsspielraum mehr und die Rückweisung diene nur noch der Umsetzung des oberinstanzlich Angeordneten (BGE 134 II 124 E. 1.3 S. 127; Urteil 9C_684/2007 vom 27. Dezember 2007 E. 1.1 mit Hinweisen).
Im vorliegenden Fall hat das Obergericht die Sache an das Bezirksgericht zur Ergänzung des Hauptverfahrens sowie zur Durchführung eines Beweisverfahrens und zu neuer Entscheidung zurückgewiesen. Entgegen der Auffassung des Beschwerdeführers hat sich die erste Instanz nicht ausschliesslich mit Fragen zu befassen, zu deren Beantwortung kein Beurteilungsspielraum verbliebe. Wie er selbst ausführt, dient die Rückweisung vielmehr der Durchführung eines Beweisverfahrens betreffend die Bewertung der Vermögenswerte und der güterrechtlichen Auseinandersetzung. Ausserdem ordnete das Obergericht an, die erste Instanz habe die Höhe der Verrechnungsforderung der Beschwerdegegnerin zu bestimmen.
Damit beschränkt sich die Tätigkeit, zu welcher die erste Instanz angewiesen wird, nicht auf eine blosse (etwa rechnerische) Umsetzung des seitens des Obergerichts Angeordneten. Das angefochtene Urteil ist daher als Zwischenentscheid zu behandeln.
1.2 Gegen selbständig eröffnete Vor- und Zwischenentscheide, welche nicht die Zuständigkeit oder den Ausstand betreffen, ist die Beschwerde zulässig, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können (Art. 93 Abs. 1 lit. a BGG) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (Art. 93 Abs. 1 lit. b BGG). Dabei obliegt es dem Beschwerdeführer, darzutun, dass die Eintretensvoraussetzungen von Art. 93 BGG erfüllt sind, soweit deren Vorliegen nicht offensichtlich in die Augen springt (BGE 134 III 426 E. 1.2 in fine S. 429; 133 III 629 E. 2.3.1 S. 632, E. 2.4.2 S. 633).
Die Beschwerde enthält keine diesbezüglichen Ausführungen. Das Vorliegen der Voraussetzungen für die Anfechtbarkeit des obergerichtlichen Zwischenentscheids liegt auch nicht auf der Hand. Praxisgemäss droht bei einer Rückweisung der Sache zu neuer Abklärung und Entscheidung in der Regel kein nicht wieder gutzumachender Nachteil i.S.v. Art. 93 Abs. 1 lit. a BGG (BGE 133 V 477 E. 5.2.2 S. 483, 645 E. 2.1 S. 647). Auch fehlt es an einem Beschwerdeantrag, der dem Bundesgericht erlauben würde, einen Endentscheid zu fällen (Art. 93 Abs. 1 lit. b BGG).
Daher ist auf die Beschwerde nicht einzutreten.
2. Bei diesem Verfahrensergebnis sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Der Beschwerdegegnerin ist kein entschädigungspflichtiger Aufwand entstanden.
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 21. Januar 2010
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Rapp