Mietzinsforderung, hat sich ergeben:
A.- A._ und dessen Ehefrau B._ benutzten seit 1949 das dritte Stockwerk des Hauses X._ als gemeinsame Wohnung. B._ war damals zusammen mit ihrer Tochter C._ und ihrem Schwager D._ Eigentümerin des Hauses. Vorher hatte das Haus diesem und dessen Bruder E._, dem am 1. April 1946 verstorbenen ersten Ehemann von B._ gehört. Nachdem D._ in Konkurs gefallen war, ersteigerten Mutter und Tochter am 18. Februar 1980 seinen Eigentumsanteil. Danach waren B._ und ihre Tochter C._ als Gesamteigentümerinnen im Grundbuch eingetragen. Am 14. Juli 1980 erteilte die im Ausland lebende C._ ihrer Mutter und deren Ehemann eine Generalvollmacht.
Die Verwaltung der Liegenschaft wurde in der Folge von A._ besorgt. Dieser setzte in den Abrechnungen über die Liegenschaft jeweils einen Mietzins auch für die von ihm und seiner Ehefrau benutzte Wohnung ein, in den Jahren 1990 bis 1992 waren es jährlich Fr. 18'000.--, 1993 und 1994 Fr. 25'000.--.
Im Februar 1992 widerrief C._ die Generalvollmacht.
Mit Schreiben vom 15. Juli 1992 an A._ beanstandete ihr Rechtsvertreter die bisherigen Abrechnungen namentlich bezüglich der Aufteilung des Ertrags und der Höhe des verrechneten Mietzinses. Auf Begehren von C._ vom 10. November 1992 bestellte das Obergericht des Kantons Zürich mit Beschluss vom 14. März 1996 den Notar des Kreises Enge-Zürich zum Erbenvertreter (<ref-law>) mit dem Auftrag, die Verwaltung der Liegenschaft X._ zu besorgen sowie Ansprüche der Erbengemeinschaft gegenüber A._ zu prüfen und allenfalls zu verfolgen. Mit Datum vom 19./22. Juli 1996 schloss das Ehepaar A._ und B._ als Mieter mit den Eigentümerinnen der Liegenschaft einen Mietvertrag über die 5-Zimmer-Wohnung im 3.
Obergeschoss ab Oktober 1996 zu einem monatlichen Mietzins von Fr. 3'000.--. Am 15. April 1998 verstarb B._.
B.- Mit Eingabe vom 3. Dezember 1998 gelangte der Notar des Kreises Enge-Zürich als Vertreter der Erbengemeinschaft des E._ wegen Mietzinsforderungen für die Jahre 1990 bis 1996 gegenüber A._ an die Schlichtungsbehörde.
Nachdem keine Einigung erzielt worden war, reichte er am 30. April 1999 beim Mietgericht Zürich Klage ein mit dem Rechtsbegehren, den Beklagten zur Zahlung von Fr. 192'067. 73 nebst Zins zu verpflichten. Mit Urteil vom 31. Januar 2000 hiess das Mietgericht die Klage teilweise gut und verpflichtete den Beklagten, dem Kläger zuhanden der Erbengemeinschaft E._ Fr. 15'625.-- nebst 5 % Zins seit 8. Dezember 1998 zu zahlen.
Auf Berufung des Klägers und Anschlussberufung des Beklagten wies das Obergericht des Kantons Zürich die Klage mit Beschluss vom 22. August 2000 ab. Der Kläger reichte dagegen kantonale Nichtigkeitsbeschwerde ein, die vom Kassationsgericht des Kantons Zürich mit Beschluss vom 20. August 2001 abgewiesen wurde, soweit darauf eingetreten werden konnte.
C.- Mit Berufung beantragt der Kläger dem Bundesgericht, den Beschluss des Obergerichts vom 22. August 2000 aufzuheben und die Sache an die Vorinstanz zurückzuweisen zur neuen Beurteilung im Sinne der bundesgerichtlichen Erwägungen, eventuell die Klage gutzuheissen.
Der Beklagte schliesst auf Abweisung der Berufung, soweit auf sie einzutreten sei.

Das Bundesgericht zieht in Erwägung:
1.- Das Obergericht hat die Klage mit einer Doppelbegründung abgewiesen. Der ersten Begründung liegt die Überlegung zugrunde, dass der Kläger einen Anspruch gegen den Beklagten nur erheben kann, falls der Erbengemeinschaft ein solcher zusteht. Nach dem angefochtenen Urteil leitet der Kläger den eingeklagten Anspruch nicht aus ausdrücklichen Absprachen mit dem Beklagten, sondern aus dem Umstand ab, dass der Beklagte während des massgebenden Zeitraums die Wohnung im 3. Stock des Hauses X._ zusammen mit seiner Ehefrau benutzt hat. Gemäss dem Obergericht stand diese Liegenschaft indessen seit 1980 nicht mehr im Eigentum der Gemeinschaft der Erben von E._, sondern im Eigentum einer einfachen Gesellschaft, die von B._ und ihrer Tochter gebildet wurde. Partner des behaupteten Mietverhältnisses sei somit die einfache Gesellschaft, deren Ansprüche der Kläger als Erbenvertreter nicht einklagen könne, was zur Abweisung der Klage - mangels Aktivlegitimation des Klägers - führe. Ob diese Begründung im Lichte der mit der Berufung dagegen erhobenen Rügen einer Überprüfung durch das Bundesgericht standzuhalten vermag, braucht nicht entschieden zu werden, da die zweite - nachfolgend wiedergegebene - Begründung den angefochtenen Entscheid auch allein zu tragen vermag und die vom Kläger dagegen erhobenen Rügen sich als unbegründet erweisen werden.
2.-Nach Auffassung des Obergerichts kann aus den gegebenen Umständen nicht abgeleitet werden, dass seit 1990 bis Ende September 1996 ein mietvertragliches Verhältnis zwischen der Erbengemeinschaft von E._ und dem Beklagten bestanden hat. Massgebliche Grundlage für den Aufenthalt des Ehepaars A._ und B._ in der Wohnung sei vielmehr der Umstand gewesen, dass die Ehefrau zusammen mit ihrer Tochter Gesamteigentümerin der Liegenschaft war. Es rechtfertige sich auch nicht, ein sogenanntes "faktisches Mietverhältnis" mit dem Beklagten als Mieter anzunehmen.
Schliesslich weist die Vorinstanz darauf hin, dass die seit April 1998 bestehende Erbengemeinschaft des Beklagten nichts an der Rechtslage ändere. Zum einen mache der Kläger keinen Anspruch der Erbengemeinschaft gegenüber der verstorbenen Frau des Beklagten bzw. gegen diesen als deren Erben geltend.
Zum andern habe der Erbenvertreter nur die Interessen der Erbengemeinschaft nach aussen und diejenigen eines einzelnen Erben im Verhältnis zu seinen Miterben zu wahren; in die interne Auseinandersetzung zwischen den Erben habe er sich nicht einzumischen.
a) Der Kläger beruft sich auf <ref-ruling> ff., wo entschieden worden sei, dass ein Miterbe, der die Zuweisung einer Liegenschaft erst auf den Zeitpunkt der Erbteilung verlangen kann, diese Liegenschaft aber schon früher benutzt, vom Erbanfall bis zum Zeitpunkt der Erbteilung der Erbengemeinschaft einen Pachtzins zu entrichten habe. Indessen ist fraglich, ob in jenem Entscheid wirklich das Bestehen eines Vertragsverhältnisses angenommen wurde. Obschon von einem "Pachtzins" gesprochen wird, ergibt sich aus dem Zusammenhang der Urteilsbegründung, dass damit eher ein erb- bzw. sachenrechtlicher denn ein vertragsrechtlicher Begriff verwendet werden sollte. So wird im Urteil festgehalten, dass der Pachtzins die Entschädigung der übrigen Erben für die entgangene Nutzung der Liegenschaft darstelle. Sodann soll bei der Bemessung des Pachtzinses weder auf den Verkehrswert der Liegenschaft noch auf den erzielten Umsatz, sondern auf den erbrechtlichen Anrechnungswert abgestellt werden, der tiefer als der Verkehrswert war (S. 39 unten).
Die Urteilsbegründung deutet somit darauf hin, dass das Bundesgericht ein erbrechtliches Verhältnis annahm, wobei es die Entschädigung der Miterben aber analog den Grundsätzen bemessen wollte, die für die Festsetzung des Pachtzinses in einem Pachtverhältnis gelten. Wie es sich damit verhält, kann indessen letztlich offen bleiben, da im vorliegenden Fall so oder anders kein Mietverhältnis zwischen den Gesamteigentümerinnen der Liegenschaft und dem Beklagten bestanden hat (vgl. nachfolgende Erwägungen).
b) Der Kläger beharrt darauf, dass sich aus den vom Obergericht festgehaltenen Umständen ergebe, dass der Beklagte selbst der Auffassung war, es habe bereits vor Oktober 1996 ein Mietverhältnis zwischen ihm und den Gesamteigentümerinnen der Liegenschaft bestanden. Soweit es sich bei den in diesem Zusammenhang vorgebrachten Rügen um Kritik an den tatsächlichen Feststellungen oder der Beweiswürdigung der Vorinstanz handelt, ist darauf nicht einzugehen (Art. 55 Abs. 1 lit. c OG; <ref-ruling> E. 2a mit Hinweisen). Soweit der Kläger damit die von der Vorinstanz vorgenommene Auslegung nach dem Vertrauensprinzip (dazu <ref-ruling> E. 5a mit Hinweisen) angreift, kann auf deren zutreffende Erwägungen verwiesen werden (E. 3b S. 15 f.). In diesem Punkt erweist sich die Berufung mithin als unbegründet, soweit auf sie eingetreten werden kann.
c) aa) Der Kläger will schliesslich die Zahlungspflicht des Beklagten aus einem faktischen Mietverhältnis herleiten, das zwischen diesem und den Gesamteigentümerinnen des Hauses bestanden haben soll.
Der Kläger nimmt auch in diesem Zusammenhang Bezug auf die Rechtsprechung des Bundesgerichts (<ref-ruling> f.), mit welcher bekräftigt worden sei, dass in besonderen Situtationen auch im Mietrecht auf den Begriff des faktischen Vertragsverhältnisses zurückzugreifen sei, namentlich dann, wenn ein ungültiger Vertrag während einer bestimmten Dauer von den Parteien erfüllt werde. Ein faktisches Mietverhältnis liege aber auch dann vor, wenn eine Partei ohne Bezahlung eine Leistung erhalte, von der sie wisse, dass sie nur gegen Entgelt erfüllt werde.
Es trifft zu, dass in mehreren Entscheiden des Bundesgerichts von einem faktischen Vertragsverhältnis ("contrat de fait" oder "rapport contractuel de fait") die Rede ist (vgl. neben <ref-ruling> E. 3b/bb auch <ref-ruling> E. 2d S. 249 sowie Urteil 4C.25/1992 vom 8. Oktober 1997 E. 2c, abgedruckt in SJ 120/1998 S. 109 ff. und <ref-ruling> E. 4: "faktisches Rechtsverhältnis"). Diese Urteile betrafen indessen durchwegs Sachverhalte, die von der Lehre in die Fallgruppe der "Dauerschuldverhältnisse auf Grund unwirksamer Verträge" eingereiht werden (Gauch/Schluep/Schmid, Schweiz. Obligationenrecht Allg. Teil, Bd. I, 7. Aufl. , Zürich 1998, Rz. 1189; Bucher, Basler Kommentar, 2. Aufl. , N. 75 zu <ref-law>; Carole Barbara Syz, Faktisches Vertragsverhältnis, Diss. Zürich 1991, S. 38 ff.). Ein solcher Sachverhalt liegt hier nicht vor, weshalb insoweit die Annahme eines faktischen Vertragsverhältnisses von vornherein ausser Betracht fällt.
Der Kläger beruft sich auch auf die Fallgruppe der "vertragslosen Inanspruchnahme einer entgeltlichen Leistung".
Diesen Fällen liegt der wertende Gedanke zugrunde, dass derjenige, der eine fremde, gegen Entgelt angebotene Leistung auf eigene Initiative in Anspruch nimmt, unabhängig vom Abschluss oder Fortbestand eines Vertrages zur Gegenleistung verpflichtet ist (Gauch/Schluep/Schmid, a.a.O., Rz.
1190). Ob diesbezüglich auf die Rechtsfigur des faktischen Vertragsverhältnisses gegriffen werden soll, ist in der Lehre umstritten (vgl. Carole Barbara Syz, a.a.O., S. 45 ff.).
Das Bundesgericht hat sich, soweit ersichtlich, noch nie ausdrücklich zu dieser Frage geäussert. In <ref-ruling> E. 2d hat es sich zwar auf den erwähnten Grundsatz berufen, diesen aber rechtstheoretisch als Ausfluss des Vertrauensprinzips beim Vertragsschluss verstanden und nicht in den Zusammenhang des "faktischen Vertragsverhältnisses" gestellt (vgl. E. 2d S. 45). Im vorliegenden Fall besteht kein Anlass zu weiteren rechtstheoretischen Erörterungen oder Stellungnahmen, da so oder anders die Grundlagen für eine mietvertragliche Bindung zwischen den Eigentümerinnen des Hauses und dem Beklagten fehlt. Einerseits ist bereits festgehalten worden, dass der Vertrauensgrundsatz dafür untauglich ist (oben E. 2b); andererseits wird sich zeigen, dass die vom Beklagten empfangene Leistung unter den gegebenen Umständen als unentgeltlich zu betrachten ist (unten E. 2c/bb).
bb) Das faktische Vertragsverhältnis im erwähnten Sinne setzt voraus, dass die in Anspruch genommene Leistung unter den gegebenen Umständen und nach den bestehenden gesellschaftlichen Anschauungen nur gegen Entgelt abgegeben wird. In diesem Zusammenhang wird - mit Bezug auf die Seite des Leistungsempfängers - auch der Begriff des sozialtypischen Verhaltens verwendet: Wer sich sozialtypisch verhält, muss sich beim Sinngehalt dieses Verhaltens behaften lassen (vgl. Urteil des Obergerichts des Kantons Solothurn vom 21. April 1986, auszugsweise abgedruckt in SJZ 84/1988 S. 251 f.; dazu Würsch/Dallafior, Können Fakten Verträge begründen? - Zum sog. faktischen Vertragsverhältnis. Bemerkungen zu einem Urteil des Obergerichts des Kantons Solothurn, SJZ 84 (1988) 251 f., in SJZ 85/1989, S. 273 ff., insbes.
S. 274 und 276).
Diese Voraussetzung ist im vorliegenden Fall nicht gegeben. Wer gemeinsam mit seiner Ehefrau eine Wohnung in einem Haus benutzt, das der Ehefrau zusammen mit einer anderen Erbin gehört, schuldet der Erbengemeinschaft nach allgemeiner Anschauung nicht notwendigerweise ein Benutzungsentgelt.
Beim Fehlen ausdrücklicher Absprachen zwischen den Beteiligten ist vielmehr davon auszugehen, dass einzig die Ehefrau als Mitglied der Erbengemeinschaft in einem erb- und sachenrechtlichen, allenfalls mietvertragsähnlichen (vgl.
oben E. 2a) Verhältnis zur Miterbin steht, aus dem sich Entschädigungspflichten ergeben können. Der Ehemann ist grundsätzlich nicht daran beteiligt. Ausgleichungspflichtig ist er eventuell gegenüber der Ehefrau gemäss den Regeln des Eherechts (vgl. Art. 163 und 165 ZGB). Der Sachverhalt ist vergleichbar mit jenem, in welchem ein Ehegatte nach der Heirat in die Mietwohnung des andern einzieht. Dieser Umstand ändert nichts daran, dass der Mietvertrag mit dem einen Ehegatten weiter bestehe und führt nicht zur Vertragsübernahme durch den andern (Higi, Zürcher Kommentar, N. 136 Vorbemerkungen zu Art. 253-279g OR). Im Übrigen bilden die Ehegatten diesbezüglich im Innenverhältnis auch keine einfache Gesellschaft, weshalb eine Haftung des am Mietvertrag nicht beteiligten Ehegatten gestützt auf das Recht der einfachen Gesellschaft ausser Betracht fällt. Eine Zahlungspflicht des Beklagten lässt sich somit, wie die Vorinstanz zutreffend erkannt hat, auch nicht über ein "faktisches Mietverhältnis" begründen.
3.- Aus diesen Gründen ist die Berufung abzuweisen und der angefochtene Entscheid zu bestätigen.
Dem Ausgang des Verfahrens entsprechend ist die Gerichtsgebühr dem Kläger aufzuerlegen (Art. 156 Abs. 1 OG).
Dieser hat den Beklagten für das bundesgerichtliche Verfahren zu entschädigen (Art. 159 Abs. 1 und 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen und der Beschluss des Obergerichts des Kantons Zürich (II. Zivilkammer) vom 22. August 2000 bestätigt.
2.- Die Gerichtsgebühr von Fr. 4'000.-- wird dem Kläger auferlegt.
3.- Der Kläger hat den Beklagten für das bundesgerichtliche Verfahren mit Fr. 5'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich (II. Zivilkammer) schriftlich mitgeteilt.
_
Lausanne, 23. Januar 2002
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: