Sachverhalt:
A. A.a In der gegen Y._ eingeleiteten Betreibung auf Grundpfandverwertung (Nr. 1) erstellte das Betreibungsamt Kilchberg-Rüschlikon am 23. Februar 2007 das Lastenverzeichnis für die zu verwertenden Grundstücke (Grundbuchblatt 2/Stockwerkeigentum und 3/Stockwerkeigentum, A._weg, B._). Die Betreibung erfolgte auf Begehren der X._ AG als Pfandgläubigerin. Zu ihren Gunsten wurde im Lastenverzeichnis eine mit Inhaberschuldbrief (nominal Fr. 1'115'000.--, Maximalzinsfuss 8%) an erster Pfandstelle grundpfandgesicherte, per 31. März 1992 gekündigte Darlehensforderung wie folgt eingetragen:
A. A.a In der gegen Y._ eingeleiteten Betreibung auf Grundpfandverwertung (Nr. 1) erstellte das Betreibungsamt Kilchberg-Rüschlikon am 23. Februar 2007 das Lastenverzeichnis für die zu verwertenden Grundstücke (Grundbuchblatt 2/Stockwerkeigentum und 3/Stockwerkeigentum, A._weg, B._). Die Betreibung erfolgte auf Begehren der X._ AG als Pfandgläubigerin. Zu ihren Gunsten wurde im Lastenverzeichnis eine mit Inhaberschuldbrief (nominal Fr. 1'115'000.--, Maximalzinsfuss 8%) an erster Pfandstelle grundpfandgesicherte, per 31. März 1992 gekündigte Darlehensforderung wie folgt eingetragen:
1.1 Kapital
1`115`000.- -
1`115`000.- -
1.2 verfallener Kapitalzins zu 6% vom 1.4.2001 bis 31.3.2002
10`668.35
10`668.35
1.3 Laufender Kapitalzins zu 6% vom 1.4.2002 bis 18.4.2007/Steigerungstag
337`845.- -
337`845.- -
1.4 Kosten Zahlungsbefehl
156.- -
156.- -
1.5 Kosten Zahlungsbefehl (Ausfertigung an Ehefrau)
116.- -
116.- -
1.6 Rechtsöffnungskosten (...)
1`100.- -
1`100.- -
1.7 Prozessentschädigung (...)
5`283.15
Gesamte Pfandbelastung
1`470`168.50
A.b Das Betreibungsamt setzte Y._ auf dessen Bestreitung hin Frist zur Klage an. Am 2. April 2007 erhob Y._ (nachfolgend: der Kläger) beim Bezirksgericht Horgen Lastenbereinigungsklage gegen die X._ AG (nachfolgend: die Beklagte) und verlangte im Wesentlichen die Reduktion der Kapitalforderung (Pos. 1.1) auf Fr. 770'000.-- und die Streichung der Forderungen für Kapitalzinsen (Pos. 1.2 und 1.3) sowie Prozessentschädigung (Pos. 1.7). Das Bezirksgericht Horgen hiess die Klage mit Urteil vom September 2009 teilweise gut und reduzierte im Lastenverzeichnis die Kapitalforderung auf Fr. 770'000.-- (Pos. 1.1) und den laufenden Kapitalzins auf Fr. 233'404.95 (Pos. 1.3).
B. Gegen das Urteil des Bezirksgerichts erhoben die Parteien Berufung. Das Obergericht des Kantons Zürich, II. Zivilkammer, bestätigte mit Urteil vom 20. Dezember 2010 die Kapitalforderung im Lastenverzeichnis von Fr. 770'000.-- (Pos. 1.1) und änderte die verfallenen Kapitalzinsen von 6% vom 1. Oktober 2002 bis 30. September 2005 auf Fr. 138'600.-- (Pos. 1.2) und den laufenden Kapitalzins von 6% vom 1. Oktober 2005 bis 18. April 2007 (ursprünglicher Steigerungstag) auf Fr. 71'388.50 (Pos. 1.3) ab.
C. Mit Eingabe vom 4. Februar 2011 führt die X._ AG Beschwerde in Zivilsachen (Verfahren 5A_109/2011). Sie beantragt dem Bundesgericht, die Urteile des Obergerichts und des Bezirksgerichts aufzuheben. In der Sache seien die Positionen im Lastenverzeichnis so zu bestätigen, wie sie vom Obergericht angeordnet worden sind. Es sei einzig das Folgende (unter neuer Pos. 1.2.2) einzufügen (und die Gesamtbelastung entsprechend zu ändern):
Verzugszins zu 5% vom 14.4.1992 bis 30.9.2002
402`753.- -
Das Obergericht hat auf eine Stellungnahme verzichtet. Y._ hat sich mit Eingabe vom 18. Mai 2011 vernehmen lassen.
D. Mit Eingabe vom 7. Februar 2011 führt auch Y._ Beschwerde in Zivilsachen (Verfahren 5A_110/2011). Er beantragt dem Bundesgericht, das Urteil des Obergerichts aufzuheben und die Sache an die Vorinstanz zu neuer Entscheidung zurückzuweisen. Weiter ersucht er um aufschiebende Wirkung und unentgeltliche Rechtspflege.
Mit Präsidialverfügung vom 10. März 2011 wurde der Beschwerde aufschiebende Wirkung zuerkannt.
In der Sache hat das Obergericht auf eine Stellungnahme verzichtet. Die X._ AG beantragt die Abweisung der Beschwerde. Hierzu hat Y._ unaufgefordert Gegenbemerkungen angebracht.

Erwägungen:
1. Die beschwerdeführenden Parteien fechten denselben kantonalen Entscheid an, der zwischen ihnen als Gegenparteien ergangen ist. Es rechtfertigt sich die Vereinigung der Beschwerden und die Erledigung im gleichen Urteil (vgl. Art. 71 BGG i.V.m. Art. 24 BZP).
2. 2.1 Angefochten ist ein Entscheid, der im Prozess der Lastenbereinigung (Art. 140 Abs. 2 SchKG) ergangen ist und der Beschwerde in Zivilsachen unterliegt (Art. 72 ff. BGG). Die Streitwertgrenze ist offensichtlich erreicht (Art. 74 Abs. 1 lit. b BGG) und das Obergericht hat als letzte kantonale Instanz entschieden (Art. 75 Abs. 1 BGG). Die Parteien sind vom angefochtenen Entscheid betroffen und haben grundsätzlich ein schutzwürdiges Interesse an der Aufhebung bzw. Änderung des angefochtenen Entscheides (Art. 76 Abs. 1 lit. b BGG). Die Beschwerden gegen die verfahrensabschliessende Entscheidung sind fristgemäss erhoben worden (Art. 100 Abs. 1 BGG) und grundsätzlich zulässig (Art. 90 BGG). Hingegen ist die Ergänzung der Beschwerdeschrift (wie durch die Eingaben des Klägers vom 20. Februar 2011 und 22. März 2011) nach Ablauf der Beschwerdefrist unzulässig.
2.2 Der Beschwerdeantrag (Art. 42 Abs. 1 BGG) des Klägers geht auf blosse Aufhebung des angefochtenen Urteils. In der Beschwerdebegründung werden u.a. verschiedene Sachverhaltsrügen erhoben, so dass der Rückweisungsantrag (vgl. <ref-ruling> E. 1.3 S. 383) zulässig ist.
2.3 Der Beschwerdeantrag der Beklagten auf Aufhebung des Urteils des Bezirksgerichts ist unzulässig, da Anfechtungsobjekt das obergerichtliche Urteil ist. Ihr Antrag auf Eintragung im Lastenverzeichnis von "Verzugszins zu 5% vom 14.4.1992 bis 30.9.2002" im Umfang von "Fr. 402`753.--" (Pos. 1.2.2) erscheint nicht als Antrag in der Berufungsschrift. Die Beklagte macht (unter Hinweis auf S. 16 der Berufungsschrift) geltend, das Begehren bereits vor Obergericht vorgebracht zu haben, "für den Fall, dass man die Regelung gemäss Darlehensvertrag nicht als Sicherungsübereignung, sondern als direktes Pfandrecht betrachte". Der Beschwerdeantrag der Beklagten ist daher nicht neu (vgl. Art. 99 Abs. 2 BGG) und zulässig.
2.4 Mit vorliegender Beschwerde kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Die Verletzung von verfassungsmässigen Rechten ist in der Beschwerdeschrift vorzubringen und zu begründen (Art. 106 Abs. 2 BGG).
2.5 Das Bundesgericht ist an den vorinstanzlich festgestellten Sachverhalt gebunden (Art. 105 Abs. 1 BGG). Zulässig ist einzig die Rüge, dass eine Tatsachenfeststellung auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhe oder eine Tatsache offensichtlich unrichtig festgestellt worden sei (Art. 97 Abs. 1 BGG; <ref-ruling> E. 7.1).
3. Das Obergericht hat vorab festgehalten, dass die Betreibungsforderungen im Rahmen des Lastenbereinigungsverfahrens vom Schuldner nicht mehr bestritten werden könnten. Der Kläger könne im Lastenbereinigungsprozess nur in Frage stellen, was nicht bereits Gegenstand der Beurteilung im Einleitungsverfahren gewesen sei. Zum Umfang der Grundpfandsicherung im Lastenverzeichnis hat die Vorinstanz das Folgende erwogen.
3.1 Nach Würdigung der konkreten Umstände und Dokumente liege keine Sicherungsübereignung (ebenso wenig eine Faustpfandverpfändung) des Schuldbriefes vor, sondern stehe der Beklagten für ihre Forderung ein als Schuldbrief bestelltes (direktes) Grundpfand zu. Dies habe bereits das Bezirksgericht zu Recht angenommen. Grundpfandgesichert seien auch die Vertragszinsen nach Art. 818 Abs. 1 Ziff. 3 ZGB (drei verfallene Jahreszinsen und der laufende Jahreszins). Die Verzugszinsen seien jedoch - entgegen dem Wortlaut von Art. 818 Abs. 1 Ziff. 2 ZGB - nicht zeitlich unbeschränkt grundpfandgesichert, ansonsten Art. 818 Abs. 1 Ziff. 3 ZGB "vollständig seines Sinnes entleert würde".
3.2 Gestützt auf die Forderungsanmeldung ins Lastenverzeichnis betrage die grundpfandgesicherte Kapitalforderung Fr. 770'000.--. Weiter seien angemeldete vertragliche Kapitalzinsen im Umfang von Art. 818 Abs. 1 Ziff. 3 ZGB (nach detaillierter Berechnung) grundpfandgesichert. Die angemeldeten Kosten (für Zahlungsbefehle, Rechtsöffnungskosten, etc.) seien als "Betreibungskosten" im Sinne von Art. 818 Abs. 1 Ziff. 2 ZGB grundpfandgesichert. Andere, nicht angemeldete Beträge könne die Beklagte nicht geltend machen.
3.3 Gegen die im Lastenverzeichnis geltend gemachten Ansprüche habe der Kläger eine Reihe von Einwendungen vorgebracht, welchen kein Erfolg beschieden sei.
I. Beschwerde der Beklagten (5A_109/2011)
4. Das Lastenverzeichnis bildet die Grundlage der Verwertung (AMONN/ WALTHER, Grundriss des Schuldbetreibungs- und Konkursrechts, 8. Aufl. 2008, § 28 Rz. 22 f., 42-44; STOFFEL/CHABLOZ, Voies d'exécution, 2. Aufl. 2010, § 5 Rz. 173). Anlass zur vorliegenden Beschwerde gibt das obergerichtliche Urteil im Prozess der Bereinigung des Lastenverzeichnisses von Grundstücken, welche im Eigentum des Betriebenen bzw. Klägers stehen.
4.1 Zu Recht ist unbestritten, dass die auf dem Grundstück ruhenden Lasten vom Betreibungsbeamten anhand des Grundbuches und der Eingaben der Berechtigen ermittelt werden (Art. 140 Abs. 1 SchKG). Der Betreibungsbeamte stellt das Verzeichnis zur allfälligen Bestreitung von Bestand, Umfang, Rang oder Fälligkeit von aufgeführten Ansprüchen zu, und im Lastenbereinigungsprozess wird im gerichtlichen Verfahren über in das Lastenverzeichnis aufgenommene und bestrittene Lasten entschieden (Art. 140 Abs. 2 SchKG; Art. 37 Abs. 2 VZG; BRUNNER/REUTTER, Kollokations- und Widerspruchsklagen nach SchKG, 2. Aufl. 2002, S. 143).
4.2 Die Beklagte stellt die vom Obergericht vorgenommene Beurteilung der Lasten nicht in Frage. Es ist unbestritten, das mit dem Schuldbrief ein Grundpfand nach Art. 793 ff. ZGB bestellt wurde ("direktes Grundpfand"). Sie wendet sich einzig gegen die Auffassung des Obergerichts, wonach die Pfandsicherung des Verzugszinses zeitlich limitiert sei. Dies sei mit Art. 818 Abs. 1 Ziff. 2 ZGB nicht vereinbar.
4.2.1 Bei der Maximalhypothek (Art. 794 Abs. 2 ZGB) gilt der Pfandsummeneintrag als Höchstbetrag, für welche das Grundstück umfangmässig Sicherheit für den Gläubiger bietet. Nur die Kapitalhypothek (Art. 794 Abs. 1 ZGB) - welche hier unbestrittenermassen vorliegt - gibt über die Kapitalsumme hinaus Sicherheit für gewisse Nebenforderungen. Der Umfang dieser Sicherung ist in Art. 818 ZGB geregelt. Zur Kapitalforderung, welche im Grundbuch eingetragen ist, kommen gemäss Art. 818 Abs. 1 Ziff. 2 ZGB (neben den Betreibungskosten) die Verzugszinsen dazu (STEINAUER, Les droits réels, Bd. III, 2. Aufl. 1996, Rz. 2794d; FASEL, in: Handkommentar zum Schweizer Privatrecht, 2007, N. 1, 3, 7 zu Art. 818 ZGB). Eine zeitliche Schranke für die Pfandsicherung der Verzugszinsen lässt sich (im Gegensatz zum Vertragszins; Art. 818 Abs. 1 Ziff. 3 ZGB) weder dem Wortlaut noch der Entstehungsgeschichte der Bestimmung entnehmen (vgl. E. HUBER, Erläuterungen zu dem Teilentwurf über das Grundpfand [1898], Berner Kommentar, Materialien zum ZGB, Bd. I, 2009, Rz. 1111). Dasselbe hat das Bundesgericht entschieden (<ref-ruling> E. 5a S. 447). Die gleiche Auffassung herrscht in der Lehre (FASEL, a.a.O., N. 7 zu Art. 811 ZGB; SCHMID/HÜRLIMANN-KAUP, Sachenrecht, 3. Aufl. 2009, Rz. 1566; TRAUFFER, in: Basler Kommentar, Zivilgesetzbuch II, 3. Aufl. 2007, N. 8 zu Art. 818 ZGB; a.M. SIMONIUS/SUTTER, Schweizerisches Immobiliarsachenrecht, Bd. II, 1990, S. 181 Rz. 75) und in der kantonalen Praxis vor (Urteil des Handelsgerichts des Kantons Zürich vom 2. Juli 2010, ZR 2010 Nr. 66 S. 291). Das Obergericht hat indessen ausgeführt, dass für Verzugszinsen eine zeitliche Schranke zu setzen sei. Diese Auffassung ist vorliegend - wie sich aus dem Folgenden ergibt - nicht weiter zu erörtern.
4.2.2 Gegenstand des Lastenbereinigungsprozesses kann nur ein Recht an einem Grundstück sein, welches in das Lastenverzeichnis aufgenommen und über welches vom Betreibungsamt ein Lastenbereinigungsverfahren durchgeführt wurde (BRUNNER/REUTTER, a.a.O., S. 145). Zu Recht ist unbestritten, dass grundpfandgesicherte Verzugszinsen unter Art. 818 Abs. 1 Ziff. 2, und nicht Ziff. 3 ZGB fallen (<ref-ruling> E. 5a S. 447). Die Beklagte stellt weiter zu Recht nicht in Frage, dass u.a. die Verzugszinsen bei der Erstellung des Lastenverzeichnisses angemeldet werden müssen (AMONN/WALTHER, a.a.O., § 28 Rz. 18; STOFFEL/CHABLOZ, a.a.O., § 5 Rz. 170).
4.2.3 Im Lastenverzeichnis vom 23. Februar 2007 sind wohl die vertraglichen (Kapital-)Zinsen aufgeführt und vom Obergericht bestätigt bzw. korrigiert worden. Hingegen ist im Lastenverzeichnis kein Verzugszins aufgenommen. Darauf hat bereits das Bezirksgericht hingewiesen, und das Obergericht hat keine andere Feststellung getroffen. Die Beklagte übergeht, dass der Lastenbereinigungsprozess allein der Abklärung von in das Lastenverzeichnis aufgenommenen Lasten dient. Daran ändert ihr Vorbringen nichts, wonach "für den Fall, dass man die Regelung als (...) direktes Grundpfand betrachte, ein Verzugszins (...) geschuldet sei". Wurde keine Anmeldung (für die Erstellung des Lastenverzeichnisses) vorgenommen, kann die Aufnahme einer Last im Lastenbereinigungsprozess nicht mehr verlangt werden (BRUNNER/ REUTTER, a.a.O., S. 162, vgl. <ref-ruling> E. 3.3 a.E. S. 293). Es besteht keine gesetzliche Grundlage, um den Urteilsspruch im angefochtenen Entscheid abzuändern und Verzugszinsen wie beantragt in das Lastenverzeichnis aufzunehmen. Insoweit ist die Beschwerde in Zivilsachen unbegründet.
4.3 Weiter bestätigt die Beklagte die vorinstanzliche Erwägung, wonach die laufenden Zinsen bis zur Verwertung pfandgesichert und vom Betreibungsamt zu berechnen seien. Ihrer Auffassung nach müsse diese Erwägung im Dispositiv "ihren Niederschlag finden". Das Obergericht hat ausgeführt, dass die Höhe der laufenden pfandgesicherten Zinsen bis zum Zeitpunkt der letzten Verwertung nicht vom Richter im Lastenbereinigungsprozess, sondern vom Betreibungsamt im Rahmen der Verteilung festzustellen sei (vgl. Art. 157 Abs. 2 SchKG). Die Beklagte legt nicht dar, inwiefern sie in diesem Punkt durch den angefochtenen Entscheid beschwert sei und welches Interesse sie insoweit an der Abänderung des angefochtenen Urteils habe (Art. 76 Abs. 1 lit. b BGG).
4.4 Nach dem Dargelegten ist die Beschwerde der Beklagten abzuweisen, soweit darauf eingetreten werden kann.
II. Beschwerde des Klägers (5A_110/2011)
5. Der Kläger wendet sich gegen das Ergebnis des Obergerichts, wonach seinen Einwendungen gegen die im Lastenverzeichnis geltend gemachten Ansprüche kein Erfolg beschieden sein könne.
5.1 Mit Bezug auf die Mietzinseinnahmen aus der Liegenschaftenverwaltung erneuert der Kläger seine Kritik am Vorgehen des Betreibungsamtes. Das Obergericht hat dazu festgehalten, dass die Beurteilung der Vorbringen betreffend Mietzinseinnahmen sowie Unterhaltszahlungen an den Schuldner (Art. 103 Abs. 2 SchKG) aus der Zwangsverwaltung der Grundstücke in die Kompetenz der Aufsichtsbehörden (nach Art. 17 SchKG) falle, und das Betreibungsamt nach Durchführung der Verwertung die Einnahmen aus der Zwangsverwaltung nach Art. 157 SchKG abzurechnen habe. Darauf geht der Kläger nicht ein. Er legt nicht dar, inwiefern das Obergericht mit dieser Abgrenzung der Kompetenzen zwischen Lastenbereinigungsgericht und Betreibungsamt gegen Bundesrecht verstossen habe.
5.2 Weiter bemängelt der Kläger (insbesondere am Urteil des Bezirksgerichts Horgen vom 4. Juni 1998), dass Fr. 100'000.-- vom Kapitalbetrag von Fr. 770'000.-- nicht abgezogen und die Fremdwährungsguthaben nicht berücksichtigt worden seien. Er betont, dass die betriebene Summe von Fr. 770'000.-- "von den Banken nie substantiiert, von ihm aber stets bestritten wurde". Das Obergericht ist auf entsprechende Vorbringen nicht eingegangen. Es hat erwogen, dass die Beklagte als betreibende Gläubigerin auch andere und weitergehende Rechte für das Lastenverzeichnis anmelden könne (vgl. BGE 26 I 516 E. 2 S. 519), und der Kläger als Schuldner nur diese bestreiten, hingegen im Lastenbereinigungsprozess nicht mehr den Bestand und die Höhe der Betreibungsforderung in Frage stellen könne (vgl. <ref-ruling> E. 2a S. 23). Gemäss dem Urteil des Bezirksgerichts Horgen vom 4. Juni 1998 wurde die Rechtsöffnung für die in Betreibung gesetzte Forderung von Fr. 770'000.-- definitiv erteilt. Darauf hat die Vorinstanz hingewiesen und festgehalten, der Kläger könne den Kapitalbetrag wegen des abgeschlossen Einleitungsverfahrens bzw. der rechtskräftig erledigten Aberkennungsklage nicht mehr überprüfen lassen. Inwiefern dieser Schluss gegen Bundesrecht verstosse (E. 2.4) oder der rechtserhebliche Sachverhalt unrichtig festgestellt worden sei (E. 2.5), setzt der Kläger nicht auseinander. Seine Beschwerde genügt insgesamt den Begründungsanforderungen nicht.
5.3 Auf die Beschwerde des Klägers kann nicht eingetreten werden.
6. Nach dem Dargelegten ist den Beschwerden beider Parteien kein Erfolg beschieden. Bei diesem Ausgang des Verfahrens werden die Parteien für das bundesgerichtliche Verfahren getrennt (ohne Solidarhaftung) kostenpflichtig (Art. 66 Abs. 1 BGG). Das Gesuch des Klägers um Gewährung der unentgeltlichen Rechtspflege ist wegen Aussichtslosigkeit seines Begehrens abzuweisen (Art. 64 Abs. 1 BGG). Die Beklagte hat an den Kläger als Beschwerdegegner im Verfahren 5A_109/2011 keine Parteientschädigung zu leisten, da ihm als anwaltlich nicht vertretene Partei keine ersatzpflichtigen Parteikosten entstanden sind (<ref-ruling> E. 4 S. 446). Der Kläger hat die Beklagte als Beschwerdegegnerin im Verfahren 5A_110/2011 für das bundesgerichtliche Verfahren zu entschädigen (Art. 68 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Verfahren 5A_109/2011 und 5A_110/2011 werden vereinigt.
2. Die Beschwerde in Zivilsachen (5A_109/2011) der Beklagten wird abgewiesen, soweit darauf einzutreten ist. Auf die Beschwerde in Zivilsachen (5A_110/2011) des Klägers wird nicht eingetreten.
3. Das Gesuch des Klägers um unentgeltliche Rechtspflege (Verfahren 5A_110/2011) wird abgewiesen.
4. Die Gerichtskosten von insgesamt Fr. 10'000.-- werden zu Fr. 5'000.-- der Beklagten und zu Fr. 5'000.-- dem Kläger getrennt auferlegt.
5. Dem Kläger wird im Verfahren 5A_109/2011 keine Parteientschädigung zugesprochen. Der Kläger hat die Beklagte im Verfahren 5A_110/2011 mit Fr. 1'000.-- zu entschädigen.
6. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, sowie dem Betreibungsamt Kilchberg-Rüschlikon schriftlich mitgeteilt.
Lausanne, 24. Juni 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Levante