Sachverhalt:
A. A.a X._ ist Eigentümer des Grundstückes Kat. Nr. 5713 (vormals Nr. 5586). Die Liegenschaft umfasst ein Mehrfamilienhaus und ist an der A._strasse Nr. 177 in B._ gelegen; die benachbarten Grundstücke Kat. Nr. 5584 an der A._strasse Nr. 173 und Kat. Nr. 5585 an der A._strasse Nr. 175 sind im Eigentum von Y._. Die drei Häuser sind zusammengebaut. Die gemeinsame Heiz- und Warmwasseranlage befindet sich im Haus Kat. Nr. 5585 (A._strasse Nr. 175). Im Grundbuch Blatt 2560 (Kataster Nr. 5713, vormals 5586) betreffend die Liegenschaft an der A._strasse Nr. 177 ist die Fernheizungsanlage als Dienstbarkeit, datiert vom 23. März 1963, zugunsten und zulasten der Liegenschaften Nr. 173 und 177 eingetragen, wobei auf das Servitutenprotokoll (SP) verwiesen wird, dessen massgebender Eintrag wie folgt lautet:
"Der Eigentümer von Kat. Nr. 5585, in welchem Grundstück die Fernheizungsanlage sich befindet, verpflichtet sich gegenüber den jeweiligen Eigentümern von Kat. Nr. 5584 und 5586 den Bestand und Betrieb der Anlage, sowie die Vornahme von Reparaturen und Erneuerungen an dieser Fernheizungsanlage zu dulden. Die Eigentümer der Liegenschaften sind ferner verpflichtet, die durch ihre Grundstücke führenden Heizungsröhren in gleicher Weise stetsfort zu dulden."
A.b Y._ stellte X._ während mehr als 20 Jahren einen Drittel der Heizungs- und Warmwasserkosten in Rechnung. 2007/2008 renovierte X._ seine Liegenschaft, weshalb sie seiner Ansicht nach nun weniger Energie verbraucht.
A.c Anlässlich eines Forderungsprozesses zwischen den vorgenannten Parteien verpflichtete sich X._ in der Vereinbarung vom 28. August 2008, bis Ende Dezember 2008 einen Experten zu beauftragen, der den Energieverbrauch für Heizung und Warmwasser der drei Liegenschaften an der A._strasse Nr. 173 (Kat. Nr. 5584), Nr. 175 (Kat. Nr. 5585) und Nr. 177 (Kat. Nr. 5713) feststellt bzw. untersucht. Y._ wurde das Recht zu Ergänzungsfragen an den Experten eingeräumt, nach deren Beantwortung sich die Parteien verpflichteten, gestützt auf die Expertise ernsthaft zu versuchen, einen gerechten Verteilschlüssel für die Energiekosten festzulegen. Der beauftragte Experte schlug den Einbau von drei Wärmezählern vor, wozu Y._ indes nicht Hand bietet.
B. B.a X._ gelangte in der Folge an das Bezirksgericht Zürich mit den Begehren, Y._ sei zu verpflichten, an der gemeinsamen Heizungsanlage im Haus Nr. 175 (Kat. Nr. 5585) drei Wärmezähler zur Ermittlung des Wärmeverbrauchs im Haus Nr. 177 (Kat. Nr. 5713) installieren und durch die beauftragte Firma in Betrieb nehmen und einen separaten Zähler zur Ermittlung des Umwälzpumpen- und Brennerstroms einbauen zu lassen. Y._ sei dazu zu verhalten, zwei Drittel der Installationskosten zu übernehmen. Mit Urteil vom 10. November 2010 verpflichtete das Bezirksgericht Y._ in teilweiser Gutheissung der Klage, X._ bzw. der von ihm beauftragten Person den Zugang zur Heizungsanlage im Haus Nr. 175 (Kat. Nr. 5585) zu gewähren, um diesem bzw. der beauftragten Person die Installation von drei Wärmezählern zur Ermittlung des Wärmeverbrauchs im Haus Nr. 177 (Kat. Nr. 5713) und eines separaten Zählers zur Feststellung des Umwälzpumpen- und Brennerstroms zu ermöglichen, und alle diesbezüglichen Arbeiten zu dulden. Im Übrigen wies das Bezirksgericht die Klage ab.
B.b Gegen dieses Urteil gelangten beide Parteien je mit Berufung vom 2. Dezember 2010 bzw. 8. Dezember 2010 an das Obergericht des Kantons Zürich. X._ beantragte, Y._ sei in Abänderung von Ziff. 1 des erstinstanzlichen Urteils zu verpflichten, 2/3 der Kosten für die Installation der Wärmezähler und des Stromzählers zu tragen. Y._ schloss demgegenüber wie schon vor Bezirksgericht auf vollumfängliche Abweisung der Klage. Mit Urteil vom 24. November 2011 entsprach das Obergericht dem Berufungsantrag von Y._.
C. X._ (Beschwerdeführer) gelangt mit Beschwerde in Zivilsachen vom 14. Dezember 2011 (Postaufgabe) an das Bundesgericht. Er beantragt, das obergerichtliche Urteil vom 24. November 2011 sei aufzuheben und Y._ (Beschwerdegegner) sei zu verpflichten, ihm bzw. der von ihm beauftragten Person den Zugang zur Heizungsanlage im Mehrfamilienhaus Nr. 175 (Kat. Nr. 5585) zu gewähren, damit er bzw. die von ihm beauftragte Person drei Wärmezähler zur Ermittlung des Wärmeverbrauchs im Haus Nr. 177 (Kat. Nr. 5713) und einen separaten Zähler zur Feststellung des Umwälzpumpen- und Brennstroms installieren könne. Der Beschwerdegegner sei zu verpflichten, alle diesbezüglichen Arbeiten zu dulden (Begehren 1). Im weiteren sei die Sache zur Neuverlegung der Kosten und zur Entscheidung über die Erstberufung des Beschwerdeführers an die Vorinstanz zurückzuweisen (Begehren 2).
Es sind keine Vernehmlassungen eingeholt worden.
Erwägungen:
1. 1.1 Der Beschwerdeführer ist der Ansicht, das Obergericht habe seinen Berufungsantrag bezüglich der Verteilung der Installationskosten nicht behandelt, sodass insoweit kein Endentscheid vorliege. Das Obergericht hat indes den mit dem Servitutenprotokoll begründeten Anspruch auf Duldung der Installation der beschriebenen Zähler und überhaupt jegliche rechtliche Grundlage für den behaupteten Duldungsanspruch verneint und hat gestützt auf diese Überlegungen die Klage des Beschwerdeführers vollumfänglich abgewiesen. Damit wurde selbstredend auch dem Antrag des Beschwerdeführers hinsichtlich der Aufteilung der Installationskosten nicht stattgegeben. Entgegen der Auffassung des Beschwerdeführers liegt damit insgesamt ein kantonal letztinstanzlicher Endentscheid vor (Art. 90 BGG; Art. 75 Abs. 1 BGG). Im Weiteren handelt es sich um eine Zivilsache (Art. 72 Abs. 1 BGG) vermögensrechtlicher Natur, deren Streitwert gemäss den unbestrittenen Ausführungen des Obergerichts den Betrag von Fr. 30'000.-- (Art. 74 Abs. 1 lit. b BGG) erreicht. Auf die fristgerecht (Art. 100 Abs. 1 BGG) eingereichte Beschwerde ist damit grundsätzlich einzutreten.
1.2 Der Beschwerdeführer beantragt einerseits die Bestätigung des erstinstanzlichen Urteils, soweit es den Beschwerdegegner dazu verpflichtet, die Installation besagter Zähler auf seinem Grundstück zu dulden (Begehren 1). Hinsichtlich der Installationskosten stellt er hingegen keinen materiellen Antrag, da seiner Ansicht nach das Obergericht seine Berufung nicht behandelt hat. Auf dieser Überlegung beruht sein Rückweisungsantrag bezüglich der erwähnten Kosten. Dass sich das Obergericht des die Kosten betreffenden Antrages entgegen der Auffassung des Beschwerdeführers angenommen hat, ist bereits dargelegt worden (E. 1.1).
Die Beschwerde in Zivilsachen ist ein reformatorisches Rechtsmittel (Art. 107 Abs. 2 BGG); der Beschwerdeführer darf sich grundsätzlich nicht darauf beschränken, die Aufhebung des angefochtenen Entscheids zu beantragen, sondern muss einen materiellen Antrag in der Sache stellen. Ein blosser Rückweisungsantrag genügt ausnahmsweise, wenn das Bundesgericht im Falle der Gutheissung in der Sache mangels erforderlicher Sachverhaltsfeststellungen der Vorinstanz nicht selbst entscheiden kann (BGE 136 V 132 E. 1.2 S. 135 f.; 134 III 379 E. 1.3 S. 383). Mit Bezug auf die Kosten hat die erste Instanz erwogen, der Einbau der Wärmezähler diene nur den Interessen des Beschwerdeführers, der sich erhoffe, damit Kosten einzusparen; das Bezirksgericht hat daher in Anwendung von Art. 741 Abs. 2 ZGB (analog e contrario) angenommen, er habe deshalb diese Erweiterung der Heizanlage selbst zu finanzieren. Bei der strittigen Kostenfrage geht es vorliegend nur um den Grundsatz und den Verteilschlüssel, nicht um die Festsetzung deren Betrages. Der Beschwerdeführer macht in diesem Zusammenhang nicht geltend, das Bundesgericht sei aufgrund mangelnder tatsächlicher Feststellungen nicht in der Lage, selbst über die vorgenannten Punkte zu entscheiden, und solches ist auch nicht ersichtlich, zumal es letztlich nur um die Beantwortung von Rechtsfragen geht und das Bundesgericht das Recht von Amtes anzuwenden hat (Art. 106 Abs. 1 BGG). Liegt somit bezüglich der Kosten kein genügender Antrag vor, ist insoweit auf die Beschwerde nicht einzutreten. Zu behandeln ist sie hingegen bezüglich der Hauptfrage, ob der Beschwerdegegner grundsätzlich verpflichtet ist, den Einbau der Zähler zu dulden.
2. Gemäss dem Grundbucheintrag, dem Dienstbarkeitsvertrag vom 23. März 1963 und dem Servitutenprotokoll SP 1073, ist der Beschwerdegegner als Eigentümer der Liegenschaft Nr. 175 (Kat. Nr. 5585) gegenüber den Eigentümern der Grundstücke Nr. 173 und Nr. 177 (Kat. Nrn. 5584 und 5586 (heute Kat. Nr. 5713) verpflichtet, namentlich die Erneuerungen der Fernheizungsanlage zu dulden. Wie im kantonalen Verfahren ist auch vor Bundesgericht strittig, ob der Beschwerdeführer aufgrund dieser Dienstbarkeit vom Beschwerdegegner die Duldung des Einbaus von drei Wärmezählern bzw. von einem Stromzähler verlangen kann.
2.1 Das Obergericht hat dies im Wesentlichen mit der Begründung verneint, Wärmezähler fielen begrifflich nicht unter "Erneuerungen an dieser Fernheizungsanlage". Es hat im weiteren erwogen, zwar dienten Wärmezähler der Abrechnung von Heizkosten und übten daher Einfluss auf das Verbrauchsverhalten aus. Ein diesbezügliches Bedürfnis des Grundstücks des Beschwerdeführers sei indes nicht ersichtlich, solange nicht feststehe, dass der Wärmeverbrauch als massgebender Verteilschlüssel für die Heizkosten diene. Artikel 257b OR verlange keine Abrechnung gestützt auf den effektiven Wärmeverbrauch pro Liegenschaft. Diese Bestimmung stehe daher der Abrechnungspraxis der Parteien nicht entgegen, welche darauf beruhe, dass die drei Liegenschaften praktisch gleich gross seien. Unter Hinweis auf das Novenverbot (§ 267 Abs. 1 ZPO) trat es auf die Behauptung des Beschwerdeführers nicht ein, wonach die beheizten Flächen und Volumina bei den Liegenschaften des Beschwerdegegners erheblich grösser seien als beim Haus des Beschwerdeführers. Mit Bezug auf den Stromzähler hat das Obergericht auf seine Ausführungen im Zusammenhang mit den Wärmezählern verwiesen.
2.2 Der Beschwerdeführer rügt eine Verletzung von Art. 738 ZGB und macht zur Begründung im Wesentlichen geltend, die Argumentation der Vorinstanz finde im Erwerbsgrund keine Stütze, fehle doch darin die Einschränkung auf die zum Betrieb der Anlage notwendigen Erneuerungen. Bei der Auslegung sei vielmehr zu berücksichtigen, dass eine Heizungsanlage infolge zunehmenden Umweltschutzdenkens wegen des technischen Fortschritts immer rascher erneuert werden müsse. Nach der Auslegung der Vorinstanz sei der Einbau einer Niedertemperaturheizung nicht möglich, da diese Technik für den Betrieb der Anlage nicht unbedingt nötig sei. Auch der Bundesgesetzgeber verwende in Art. 260 und Art. 260a OR die Begriffe "Änderungen" und Erneuerungen", wobei nach der herrschenden Lehre eine Abgrenzung der beiden Begriffe kaum möglich und auch nicht erforderlich sei, da der Gesetzgeber keine unterschiedlichen Rechtsfolgen an sie knüpfe. Beiden Begriffen sei aber nach herrschender Lehre gemeinsam, dass sie regelmässig mit einem Eingriff in die Substanz des Gebäudes verbunden seien. Angesichts der zitierten Verwendung des Begriffs der Erneuerungen im OR und der Lehrmeinungen zu dieser Frage sei die einschränkende Auslegung der Vorinstanz mit Art. 738 ZGB nicht zu vereinbaren.
Nicht nachvollziehbar sei der Einwand der Vorinstanz, das Bedürfnis am Einbau von Wärmezählern sei nicht ausgewiesen, da nicht feststehe, dass der Wärmeverbrauch für den Verteilschlüssel der Kosten massgebend sei: Die Parteien hätten sich in einem am 28. August 2008 abgeschlossenen Vergleich gestützt auf eine vom Beschwerdegegner einzuholende Expertise verpflichtet, ernsthaft zu versuchen, einen gerechten Verteilschlüssel für die Energiekosten festzulegen. Aus diesem Vergleich sei ersichtlich, dass die Parteien den bisher praktizierten, aber nie vereinbarten Verteilschlüssel als ungerecht betrachteten.
Offensichtlich falsch sei die Feststellung der Vorinstanz, der Einwand des Beschwerdeführers zum erheblich grösseren Umfang der Liegenschaft des Beschwerdegegners sei neu und unzulässig. Er habe bereits in seiner Replik vor dem Bezirksgericht (Akten des Bezirksgerichts 16 S. 6) darauf hingewiesen, dass beim Beschwerdegegner zwölf Wohnungen, eine Werkstatt und zwei bis vier Garagen, beim Beschwerdeführer hingegen lediglich sechs Wohnungen beheizt würden. Schliesslich sei auch in der Replik vor Obergericht (act. 56 S. 2) ausdrücklich darauf hingewiesen worden, dass die beheizten Flächen und Volumen bei den Liegenschaften des Beschwerdegegners erheblich grösser seien als bei seinem Haus. Er habe somit ein berechtigtes Interesse am Einbau der Zähler.
3. 3.1 Für die Ermittlung von Inhalt und Umfang einer Dienstbarkeit gibt Art. 738 ZGB eine Stufenordnung vor. Ausgangspunkt ist der Grundbucheintrag. Soweit sich Rechte und Pflichten aus dem Eintrag deutlich ergeben, ist dieser für den Inhalt der Dienstbarkeit massgebend (Art. 738 Abs. 1 ZGB). Nur wenn sein Wortlaut unklar ist, darf im Rahmen des Eintrags auf den Erwerbsgrund, das heisst den Begründungsakt, zurückgegriffen werden. Ist auch der Erwerbsgrund nicht schlüssig, kann sich der Inhalt der Dienstbarkeit - im Rahmen des Eintrags - aus der Art ergeben, wie sie während längerer Zeit unangefochten und in gutem Glauben ausgeübt worden ist (Art. 738 Abs. 2 ZGB; BGE 132 III 651 E. 8 S. 655 f.; 131 III 345 E. 1.1 S. 347; 130 III 554 E. 3.1 S. 556 f.).
Die Auslegung des Begründungsakts (zweite Stufe der Auslegungsordnung gemäss Art. 738 ZGB) erfolgt in gleicher Weise wie bei sonstigen Willenserklärungen. Gemäss Art. 18 Abs. 1 OR bestimmt sich der Inhalt des Vertrags nach dem übereinstimmenden wirklichen Willen der Parteien. Nur wenn eine tatsächliche Willensübereinstimmung unbewiesen bleibt, ist der Vertrag nach dem Vertrauensgrundsatz auszulegen. Die empirische oder subjektive hat gegenüber der normativen oder objektivierten Vertragsauslegung den Vorrang (BGE 130 III 554 E. 3.1 S. 557).
Stehen sich jedoch im Streit um den Inhalt und Umfang einer Dienstbarkeit nicht mehr die ursprünglichen Vertragsparteien, sondern Dritterwerber gegenüber (oder eine ursprüngliche Vertragspartei und ein Dritterwerber), werden die allgemeinen Grundsätze der Vertragsauslegung durch den öffentlichen Glauben des Grundbuchs (Art. 973 Abs. 1 ZGB) begrenzt (zum Ganzen: BGE 137 III 145 E. 3.2).
3.2 Die erste Instanz hat erwogen, der Eintrag im Hauptblatt des Grundbuches "Fernheizungsanlage" lasse nur erahnen, dass der Dienstbarkeitsbelastete zumindest den Betrieb der Heizung auf seinem Grundstück zu dulden habe. Die genaue Ausgestaltung der Rechte und Pflichten der Beteiligten lasse er hingegen offen. Der Eintrag verweise indes auf den Beleg SP (Servitutenprotokoll) 1073, welcher die nähere vertragliche Ausgestaltung der Dienstbarkeit enthalte. Das Obergericht hat sich diesen Überlegungen angeschlossen. Für die Auslegung der strittigen Dienstbarkeit war somit vor den kantonalen Instanzen einzig der besagte Beleg SP (Servitutenprotokoll) 1073 massgebend.
Im vorliegenden Fall ist weder erstellt, dass es sich bei den Verfahrensbeteiligten um die ursprünglichen Vertragsparteien handelt, noch hat das Obergericht den wirklichen Willen unter den Vertragsparteien festgestellt. Die Auslegung des Servitutenprotokolls (SP 1073) erfolgte vielmehr ausschliesslich nach dem Vertrauensprinzip. In diesem Zusammenhang ist vor Bundesgericht nicht mehr bestritten, dass die Erneuerung der Anlage den Ersatz der Anlage oder von Anlageteilen betrifft, mit der eine Modernisierung bzw. eine technische Verbesserung der Anlage in der Regel, wenn auch nicht zwingend, verbunden ist. Nach dem allgemeinen Sprachverständnis umfasst die Heizungsanlage als Komponenten etwa den Heizkessel, das Leitungssystem, Heizflächen bzw. Heizkörper. Es handelt sich allgemein um Bestandteile, ohne die eine dem Zweck der Anlage entsprechende Nutzung nicht möglich ist. Unter diese Begriffsbestimmung der Anlage bzw. des Anlageteils sind nach richtiger Auffassung des Obergerichts Wärme- und Stromzähler nicht zu subsumieren, zumal sie der Ermittlung des Wärme- bzw. Stromverbrauchs dienen und keinen Einfluss auf die Funktion der Anlage als solchen, deren Heizleistung oder auf die Energiebilanz der Liegenschaft haben. Dieses Ergebnis der Auslegung ist aber auch damit zu vereinbaren, dass es vorliegend gemäss Dienstbarkeitsvertrag nur um die Erneuerung (Modernisierung) der im Haus Nr. 175 (Kat. Nr. 5585) befindlichen Anlage bzw. der Anlageteile geht. Kein anderer Schluss drängt sich auch aufgrund des Verweises des Beschwerdeführers auf Art. 260 bzw. 260a OR auf, zumal einerseits mit dem Einbau der Wärme- und Stromzähler kein bedeutender Eingriff in die Substanz des Gebäudes verbunden ist und anderseits bei diesem Verweis das Servitutenprotokoll unberücksichtigt bleibt. Im Lichte dieser Ausführungen und unter Berücksichtigung des Grundsatzes, wonach Dienstbarkeiten im Allgemeinen restriktiv auszulegen sind (BGE 113 II 506 E. 8b S. 512; 109 II 414 E. 4; 99 II 158), erweist sich das obergerichtliche Auslegungsergebnis als bundesrechtskonform. Fällt aber der Einbau von Wärme- und Stromzählern nicht unter die Dienstbarkeit, kann offenbleiben, ob der Wärmeverbrauch für den Verteilschlüssel der Kosten massgebend ist oder nicht. Auf die entsprechenden Ausführungen ist nicht weiter einzugehen.
4. 4.1 Für den Fall, dass sich der Einbau der Wärme- und Stromzähler nicht durch die objektivierte Auslegung des Servitutenprotokolls rechtfertigen lässt, erachtet der Beschwerdeführer den Eintrag als ergänzungsbedürftig. Im Folgenden ist somit zu prüfen, ob in diesem Punkt eine eigentliche Lücke vorliegt. Denn ein lückenhafter Erwerbsgrund darf - im Gegensatz zur lückenhaften Eintragung im Grundbuch - gerichtlich ergänzt werden. Dabei gilt es danach zu fragen, wie die Parteien ihren Vertrag vernünftigerweise ergänzt hätten, wenn sie damals den heute vorliegenden Tatbestand ins Auge gefasst hätten (hypothetischer Parteiwille; zum Ganzen: BGE 131 III 345 E. 2.2.1 S. 351 mit zahlreichen weiteren Hinweisen).
4.2 Das Obergericht geht in tatsächlicher Hinsicht von drei ungefähr gleich grossen Liegenschaften aus. Dabei hat es insbesondere einen Hinweis des Beschwerdeführers, wonach die beheizten Flächen und Volumina der Liegenschaften des Beschwerdegegners erheblich grösser seien als die entsprechenden Parameter seiner Liegenschaft, als unzulässiges Novum im Sinn von § 267 Abs. 1 ZPO/ZH bezeichnet. Der Beschwerdeführer rügt zwar in diesem Zusammenhang eine offensichtlich unrichtige Tatsachenfeststellung (Art. 97 Abs. 1 BGG) und behauptet, er habe bereits in der Replik vor erster Instanz und in der Replik vor Obergericht auf die unterschiedlich grossen beheizten Flächen und Volumina der drei Liegenschaften hingewiesen. Damit legt er indes nicht rechtsgenüglich dar, inwiefern die obergerichtliche Auslegung von § 267 Abs. 1 ZPO/ZH Art. 9 BV verletzt. Insbesondere zeigt er nicht auf, dass die strittige Tatsachenergänzung auch im Lichte von § 267 Abs. 1 ZPO/ZH im Rahmen der Replik vor Bezirksgericht und auch später vor Obergericht noch möglich gewesen ist. Auf die insoweit ungenügend begründete Beschwerde (Art. 42 Abs. 2 BGG) ist nicht einzutreten. Sind aber alle drei Liegenschaften der obergerichtlichen Feststellung entsprechend als ungefähr gleich gross zu betrachten, so ist nicht anzunehmen, die Vertragsparteien hätten eine Ergänzung des Vertrages mit Bezug auf den Einbau besagter Zähler überhaupt ins Auge gefasst und den Vertrag durch eine entsprechende Klausel ergänzt.
5. Damit hat das Obergericht die Klage zu Recht abgewiesen. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG). Er hat die Gegenpartei jedoch für das bundesgerichtliche Verfahren nicht zu entschädigen, da keine Vernehmlassung eingeholt worden ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 13. Februar 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden