Sachverhalt:
A. A.a Im 2004 verstarb die verwitwete F._. Ihr Ehemann, G._, war bereits im 1974 verstorben. Weder G._ noch die Erblasserin F._ hinterliessen Nachkommen.
A._ (geb. 1957), B._ (geb. 1961) und C._ (geb. 1962) sind die Nichten von G._. D._ (geb. 1968) und E._ (geb. 1954) sind demgegenüber die Nichte bzw. der Neffe der Erblasserin.
A.b Am 3. Juli 1967 hatten die Eheleute F._/G._ nach Beratung durch Rechtsanwalt Dr. H._ einen Ehe- und Erbvertrag öffentlich beurkunden lassen. Darin setzten sie sich gegenseitig als Universalerben ein. Weiter legten beide unter Vorbehalt anderweitiger letztwilliger Verfügung fest, dass der ganze dereinstige Nachlass des überlebenden Ehegatten zu gleichen Teilen an die vier Nichten und Neffen E._, A._, B._ und C._ fallen solle.
Nach dem Tod von G._ am 26. März 1974 wurde der Ehe- und Erbvertrag der Eheleute F._/G._ ein erstes Mal amtlich eröffnet.
Seit 2003 wirkte E._ als Beistand von F._. Nach ihrem Tod am 20. März 2004 reichte das Notariat I._ dem Einzelrichter des Bezirks K._ den Erbvertrag zur nochmaligen Eröffnung ein. Am 17. Mai 2004 schrieb E._ dem Einzelrichter, er habe zufällig in den alten Steuersachen seiner Tante eine "Originalkopie" eines Erbvertrages (sic!) vom 26. Juni 1974 gefunden. Dieses Schriftstück in Form eines Briefes weist im Wesentlichen folgenden Inhalt auf: Ganz oben auf dem Blatt findet sich die Zeile "(Kopie) Original liegt bei Dr. H._". Nach den Adressen der Erblasserin, von Dr. H._, sowie der Angabe von Ort und Datum steht ein Hinweis auf die Erbfolgeregelung gemäss Erbvertrag vom 3. Juli 1967 mit namentlicher Nennung der drei Nichten und des Neffen. Es folgt die Verfügung, dass die Nichte D._ im gleichen Masse wie die vorbezeichneten vier Erben als Miterbin gelte. Das Schriftstück schliesst mit der Unterschrift von F._.
Der Einzelrichter des Bezirks K._ behandelte dieses Schreiben als letztwillige Verfügung und eröffnete es zusammen mit dem Ehe- und Erbvertrag am 14. Juli 2004. Mit Eingaben vom 16. August 2004 bestritten A._, B._ und C._ die Erbberechtigung von D._.
B. Am 28. Oktober 2005 verlangten A._, B._ und C._ beim Bezirksgericht K._ die Feststellung, dass die von E._ eingereichte Kopie einer letztwilligen Verfügung vom 26. Juni 1974 bezüglich der Anordnung zugunsten von D._ nicht wirksam und der Nachlass gemäss Ehe- und Erbvertrag vom 3. Juli 1967 aufzuteilen sei. Mit Urteil vom 23. August 2007 wies das Bezirksgericht die Klage ab. Dagegen legten A._, B._ und C._ Berufung an das Obergericht des Kantons Zürich ein, welches die Klage mit Urteil vom 17. Juni 2008 ebenfalls abwies.
Eine gegen dieses Urteil erhobene Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich mit Beschluss vom 22. Juni 2009 ab, soweit es darauf eintrat.
C. Am 2. September 2009 haben A._, B._ und C._ (nachfolgend: Beschwerdeführerinnen), alle vertreten durch ihre Mutter, Beschwerde in Zivilsachen an das Bundesgericht erhoben. Nach Hinweis auf <ref-law> reichten sie fristgerecht eigenhändig unterzeichnete Beschwerdeschriften ein. Sie beantragen die Aufhebung des Urteils des Obergerichts vom 17. Juni 2008 und die Feststellung, dass das Schreiben vom 26. Juni 1974 kein gültiges Testament sei.
Es sind keine Vernehmlassungen eingeholt worden.

Erwägungen:
1. Das angefochtene Urteil betrifft eine erbrechtliche Auseinandersetzung. Somit liegt eine Zivilsache mit Vermögenswert vor. Der Streitwert gemäss <ref-law> ist erreicht.
Die Beschwerdeführerinnen haben den Beschluss des Kassationsgerichts abgewartet, innert Frist (<ref-law>) dann aber nur das Urteil des Obergerichts angefochten. Das obergerichtliche Urteil gilt nur insoweit als letztinstanzlich (<ref-law>), als nicht die Nichtigkeitsbeschwerde an das Kassationsgericht zulässig war (vgl. §§ 281 und 285 der Zivilprozessordnung des Kantons Zürich; ZPO; LS 271). Die Anfechtung des obergerichtlichen Urteils vor Bundesgericht ist somit zulässig, soweit die Beschwerdeführerinnen Rügen vorbringen, die das Kassationsgericht nicht hat prüfen können oder mit engerer Kognition geprüft hat, als sie dem Bundesgericht im vorliegenden Verfahren zusteht (vgl. <ref-ruling> E. 1.1 S. 128; Urteil 5A_316/2009 vom 2. Juli 2009 E. 1). Sachverhaltsrügen können in beschränktem Umfang, insbesondere im Hinblick auf eine willkürliche Feststellung der Tatsachen, mit der Nichtigkeitsbeschwerde dem Kassationsgericht vorgelegt werden (<ref-law>), ebenso wie dies auch vor Bundesgericht möglich ist (<ref-law>; <ref-ruling> E. 1.2.2 S. 252). Wird einzig das obergerichtliche Urteil vor Bundesgericht angefochten, liegt in Bezug auf die Frage der willkürlichen Sachverhaltsfeststellung kein letztinstanzliches Urteil zur Überprüfung vor, weshalb auf entsprechende Rügen nicht eingetreten werden könnte. Dies gilt auch dann, wenn das Kassationsgericht auf eine solche Rüge mangels genügender Begründung nicht eingetreten ist (Urteil 5A_440/2009 vom 19. März 2009 E. 2.2.1). Hingegen kann die Verletzung von Bundesrecht durch das Bundesgericht frei überprüft werden (<ref-law>). In diesem Bereich ist das obergerichtliche Urteil letztinstanzlich. Vorausgesetzt ist freilich, dass die Beschwerde rechtsgenüglich begründet wurde (<ref-law>).
2. Für das Obergericht steht fest, dass das Schreiben vom 26. Juni 1974 von der Erblasserin von Anfang bis Ende selber verfasst und unterschrieben wurde. Die Behauptung der Beschwerdeführerinnen, das Schriftstück sei nicht von der Erblasserin selber geschrieben worden, sei prozessual verspätet erfolgt, weshalb auch das eingeholte Gutachten zu Recht nicht auf diese Frage eingegangen sei, sondern einzig darauf, ob es von Hand verfasst worden sei. Ein bei Dr. H._ liegendes Exemplar der letztwilligen Verfügung - wie es gemäss Vermerk auf dem Schreiben existieren müsste - sei bis heute nicht zum Vorschein gekommen und werde wohl auch nicht mehr auftauchen, da dieser seine Praxistätigkeit vor längerem aufgegeben habe und inzwischen verstorben sei.
Das Obergericht hat des Weiteren ausgeführt, das Schreiben vom 26. Juni 1974 erfülle die Formvorschriften von <ref-law>. Ausserdem hat es die rechtliche Bedeutung des Vermerks "(Kopie) Original liegt bei Dr. H._" untersucht. Es hat zwei Varianten unterschieden, nämlich einerseits, dass dieser Vermerk anlässlich der Niederschrift, aber vor der Unterzeichnung, andererseits, dass er erst nach der Unterzeichnung angebracht wurde. In Bezug auf die erste Variante hat es ausgeführt, im Rechtsleben bestehe ein starkes Bedürfnis, zu Sicherungszwecken Urkunden über wichtige Rechtsgeschäfte in mehreren Ausfertigungen zu erstellen. Die Wahrscheinlichkeit, dass eine der beiden Ausfertigungen gefunden würde, werde so erhöht. Bezwecke ein Erblasser solches, könne er durchaus eine Ausfertigung als "Original" und die andere als "Kopie" bezeichnen. Der animus testandi komme beiden Ausfertigungen zu. Zudem würde ein Erblasser, der einer "Kopie" keine bindende Wirkung beimessen möchte, diese kaum unterschreiben. Zur zweiten Variante hat das Obergericht erwogen, dass der Vermerk sprachlich keinen Hinweis auf eine Widerrufsabsicht enthalte und dass er graphisch nur einen ganz kleinen Teil der Urkunde erfasse, indem er gleichsam am oberen Blattrand klebe. Somit liege keine Widerrufshandlung gemäss <ref-law> vor. Ein Widerruf gemäss <ref-law> scheide aus, weil die entsprechenden Formvorschriften nicht beachtet worden wären. Das Obergericht ist folglich zum Schluss gekommen, das Schreiben der Erblasserin vom 26. Juni 1974 stelle ein gültiges Testament dar.
3. 3.1 Die Beschwerdeführerinnen bringen vor, nach dem natürlichen Lauf der Dinge und der allgemeinen Lebenserfahrung müsse davon ausgegangen werden, dass die Erblasserin das Original vernichtet habe, da sie es nicht bei ihrem Rechtsanwalt hinterlegt habe und es nicht mehr in ihrem Lebensbereich aufzufinden sei. Sie bezweifeln auch die Echtheit der Unterschrift der Erblasserin auf dem Schreiben vom 26. Juni 1974. Im Übrigen beklagen sich die Beschwerdeführerinnen in allgemeiner Weise über das Verhalten der Beschwerdegegner vor dem Tod der Erblasserin und im Rahmen der Abwicklung des Erbganges.
3.2 Dass das Original der letztwilligen Verfügung vernichtet worden sei, ist eine Sachverhaltsbehauptung der Beschwerdeführerinnen. Die Vorinstanz hat nicht festgestellt, dass das Original vernichtet worden ist, sondern bloss, dass ein bei Dr. H._ liegendes Exemplar bis heute nicht zum Vorschein gekommen ist und wohl auch nicht mehr auftauchen dürfte. Die Beschwerdeführerinnen behaupten diesbezüglich nicht im Ansatz eine willkürliche Tatsachenfeststellung der Vorinstanz. Eine Willkürrüge wäre nach dem eingangs Gesagten (E. 1) ohnehin nicht zulässig, da das diesbezügliche letztinstanzliche kantonale Urteil - dasjenige des Kassationsgerichts - nicht angefochten wurde. Für das Bundesgericht bleibt es somit bei dem von der Vorinstanz festgestellten Sachverhalt (<ref-law>). Daran ändert auch nichts, dass die Beschwerdeführerinnen ihre Sachverhaltsdarstellung auf die "allgemeine Lebenserfahrung" und den "natürlichen Lauf der Dinge" abstützen wollen. Auf die Sachverhaltsrüge ist nicht einzutreten.
Hinsichtlich der Echtheit der Unterschrift setzen sich die Beschwerdeführerinnen nicht mit den Ausführungen der Vorinstanz auseinander, welche die entsprechende Bestreitung prozessual als verspätet beurteilt hat. Auf diese Rüge ist schon aus diesem Grunde nicht einzutreten, so dass offen gelassen werden kann, ob es diesbezüglich auch an der Letztinstanzlichkeit des angefochtenen Urteils fehlt (vgl. <ref-law>).
Auf die Sachverhaltsvorbringen betreffend Verhalten der Beschwerdegegner, die im Übrigen neu und damit grundsätzlich unzulässig sind (<ref-law>), ist schon deswegen nicht einzugehen, weil nicht ersichtlich ist, inwiefern sie vorliegend rechtserheblich sein könnten.
3.3 Die Beschwerdeführerinnen sind der Ansicht, der wahre Wille der Erblasserin sei gewesen, die Abschrift als Kopie zu qualifizieren und nicht als Original. Die Kopie habe sie von Hand erstellt, weil sie keinen Kopierapparat gehabt habe. Sie halten für irrelevant, ob der Vermerk "(Kopie) Original liegt bei Dr. H._" vor oder nach der Unterschrift von der Erblasserin angebracht wurde, da es die Qualifikation als Kopie nicht verändere.
3.4 Nach ständiger Rechtsprechung prüft das Bundesgericht die Auslegung einer letztwilligen Verfügung frei. Gebunden ist es indessen an die tatsächlichen Feststellungen, aus denen sich der innere Wille des Erblassers ergibt (<ref-ruling> E. 2 S. 109 mit Hinweisen). Soweit die Ausführungen der Beschwerdeführerinnen als Kritik am Sachverhalt zu verstehen sein sollten, könnte darauf aus den schon dargelegten Gründen nicht eingetreten werden. Hingegen kann das Bundesgericht die Auslegung, welche die Vorinstanz dem Schreiben vom 26. Juni 1974 gegeben hat, frei überprüfen, sofern eine rechtsgenügliche Begründung vorliegt (<ref-law>). In der Beschwerdebegründung ist in gedrängter Form durch Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Vorschriften und warum sie vom Obergericht verletzt worden sein sollen. Allgemein gehaltene Einwände, die ohne aufgezeigten oder erkennbaren Zusammenhang mit bestimmten Entscheidungsgründen vorgebracht werden, genügen nicht. Die Beschwerdeführerinnen sollen in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen haben, erneut bekräftigen, sondern sind gehalten, mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz anzusetzen (vgl. <ref-ruling> E. 3 S. 749; Urteil 4A_22/2008 vom 10. April 2008 E. 1).
3.5 Die Beschwerde genügt den dargelegten Anforderungen nicht. Die Beschwerdeführerinnen beschränken sich darauf, ihren schon in der Berufung an das Obergericht vertretenen Standpunkt zu wiederholen, das umstrittene Schreiben sei nach dem Willen der Erblasserin kein Testament. Inwiefern die Vorinstanz dadurch Bundesrecht verletzt haben soll, dass sie das Schreiben vom 26. Juni 1974 als gültige und wirksame letztwillige Verfügung qualifiziert hat, legen sie nicht dar. Insbesondere gehen sie nicht auf die vorinstanzlichen Überlegungen zur Bedeutung des Vermerks "(Kopie) Original liegt bei Dr. H._" ein. Auf die Rüge, der Wille der Erblasserin sei unberücksichtigt geblieben, kann deshalb nicht eingetreten werden.
4. Somit ist auf die Beschwerde insgesamt nicht einzutreten. Bei diesem Ausgang des Verfahrens haben die Beschwerdeführerinnen die Kosten des bundesgerichtlichen Verfahrens unter solidarischer Haftbarkeit zu tragen (Art. 66 Abs. 1 i.V.m. Abs. 5 BGG). Parteientschädigungen werden mangels Einholung von Vernehmlassungen keine gesprochen.

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 8'000.-- werden den Beschwerdeführerinnen unter solidarischer Haftbarkeit auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 4. Dezember 2009
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Zingg