Sachverhalt: A. A.B._, die am 11. Mai 1979 im Alter von knapp 59 Jahren starb, war die jüngere Tochter des im Jahre 1976 verstorbenen C.D._ und die Schwester von E.F._, der Mutter von G.F._. Als gesetzliche Erben hinterliess sie ihren Ehemann H.B._, ihre Mutter I.D._ und ihre Schwester E.F._. Nachkommen hatte sie nicht. Kurz vor ihrem Tod, nämlich am 1. März 1979, hatte A.B._ (nachstehend auch: Erblasserin) eine eigenhändige letztwillige Verfügung mit dem folgenden Wortlaut verfasst: "Ich, die Unterzeichnete, A.B._, geboren am 20. Juni 1920, von Z._, bestimme hiermit bezüglich meines Nachlasses, was folgt: 1. Ich setze meinen Ehegatten, H.B._ als meinen Universalerben ein. 2. Mein Ehegatte ist als Vorerbe von jeglicher Sicherstellungspflicht befreit. 3. Als meinen Testamentsvollstrecker ernenne ich lic. jur. K.L._.. 4. Wer dieses Testament und Entscheidungen des Testamentsvollstreckers anficht, wird auf den Pflichtteil gesetzt, soweit ein solcher besteht, sonst ganz von der Erbschaft ausgeschlossen. Zürich, den 1. März 1979 A.B._" In dem vom Notariat X._ errichteten Nacherbschaftsinventar vom 8. Oktober 1979 wurde als Hauptaktivum der (Erb-)Anteil von 13/32 an der aus dem väterlichen Nachlass stammenden Liegenschaft an der Strasse Z._ in Y._ aufgeführt. Am 3. Februar 1982 starb die Mutter der Erblasserin, I.D._. Deren einzige Erbin war ihre ältere Tochter, E.F._. In der Folge wurden im Grundbuch bezüglich der Liegenschaft an der Strasse Z._ in Y._ E.F._ und H.B._ als "Gesamteigentümer infolge Erbengemeinschaft" eingetragen. Am 14. Oktober 1997 starb E.F._, die als einzigen Erben ihren Sohn G.F._ hinterliess. Einen Tag danach, am 15. Oktober 1997, starb auch H.B._. Er hinterliess zahlreiche gesetzliche Erben. Eine letztwillige Verfügung von ihm ist nicht vorhanden. Im Zeitpunkt des Ablebens von H.B._ war aus dem Nachlass seiner vorverstorbenen Ehefrau, A.B._ (Erblasserin), einzig noch deren Anteil an der Liegenschaft an der Strasse Z._ vorhanden. B. Mit Eingabe vom 22. Februar 1999 erhob G.F._ beim Bezirksgericht Zürich Klage gegen die (im Rubrum dieses Urteils einzeln aufgeführten) Erben von H.B._. Er verlangte (gemäss Replik vom 14. Februar 2000), es sei festzustellen, dass er Nacherbe und damit Alleinerbe im Nachlass von A.B._ sei, und das Grundbuchamt X._ sei anzuweisen, ihn als Eigentümer der Liegenschaft Z._ in Y._ einzutragen. Die Beklagten schlossen auf Abweisung der Klage. Mit Urteil vom 29. August 2000 wies das Bezirksgericht (4. Abteilung) die Klage ab. Der Kläger erhob Berufung, worauf das Obergericht (II. Zivilkammer) des Kantons Zürich am 25. Juni 2001 unter anderem beschloss, die Sache zur Ergänzung und zu neuem Entscheid an die erste Instanz zurückzuweisen. In seinem neuen Urteil vom 1. November 2002 erkannte das Bezirksgericht (4. Abteilung), dass das Grundbuchamt X._ in Gutheissung der Klage angewiesen werde, H.B._ als Gesamteigentümer der Parzelle an der Strasse Z._ in Y._ zu löschen und den Kläger an dessen Stelle als Gesamteigentümer einzutragen. Das Obergericht (II. Zivilkammer) hiess am 18. November 2003 eine von den Beklagten erhobene Berufung gut und wies die Klage ab. C. Gegen das Urteil des Obergerichts hat der Kläger sowohl kantonale Nichtigkeitsbeschwerde als auch Berufung erhoben. C.a Das Kassationsgericht des Kantons Zürich wies die Nichtigkeitsbeschwerde am 20. Juli 2004 ab, soweit darauf einzutreten war. C.b Mit der eidgenössischen Berufung beantragt der Kläger, das Urteil des Obergerichts vom 18. November 2003 aufzuheben und das Urteil des Bezirksgerichts Zürich vom 1. November 2002 in Gutheissung der Klage zu bestätigen. Eine Berufungsantwort ist nicht eingeholt worden.