Mietzinserhöhung, hat sich ergeben:
A.- Am 3. September 1997 mieteten B._ und C._ per 1. November 1997 von A._ eine 4-Zimmer-Wohnung in X._, nachdem sie zuvor im gleichen Haus Mieter einer 3-Zimmer-Wohnung gewesen waren.
Der monatliche Mietzins wurde im Vertrag auf Fr. 1'207.-- netto festgesetzt. Mit amtlichem Formular vom 10. Dezember 1997 kündigte der Vermieter den Mietern auf den 1. April 1998 eine Mietzinserhöhung auf Fr. 1'683.-- netto pro Monat an. Zur Begründung verwies er auf das Begleitschreiben "Umfassende Sanierung", in welchem die Investitionssumme und die Aufteilung auf die einzelnen Wohnungen angegeben waren.
Die Mieter fochten die Mietzinserhöhung bei der Schlichtungsbehörde an. Da keine Einigung erzielt werden konnte, klagte der Vermieter mit Eingabe vom 20. Juli 1998 beim Mietgericht des Bezirks Zürich auf Feststellung, dass ein Nettomietzins von Fr. 1'593.-- per 1. April 1998 nicht missbräuchlich sei. In der Klagebegründung änderte er das Rechtsbegehren und beantragte, es sei festzustellen, dass ein Nettomietzins von Fr. 1'632.--, eventualiter Fr. 1'584.-- per 1. April 1998 nicht missbräuchlich sei.
B.- Mit Urteil vom 21. Dezember 1999 hiess das Mietgericht die Klage teilweise gut und erklärte die Mietzinserhöhung im Umfang von Fr. 1'336.-- netto pro Monat als zulässig und im darüber hinausgehenden Betrag als missbräuchlich.
Eine Berufung des Klägers wies das Obergericht des Kantons Zürich mit Beschluss vom 21. August 2000 ab. Die Anschlussberufung der Beklagten hiess das Obergericht dagegen gut, hob den Entscheid des Mietgerichts mit Ausnahme des Kostenspruchs auf und stellte fest, dass die Mietzinserhöhung im Betrag von Fr. 1'320. 10 netto pro Monat nicht missbräuchlich sei.
C.- Mit Berufung beantragt der Kläger dem Bundesgericht, den Beschluss des Obergerichts aufzuheben und festzustellen, dass per 1. April 1998 ein Nettomietzins von Fr. 1'556.-- pro Monat nicht missbräuchlich sei, eventualiter festzustellen, dass ein Nettomietzins per 1. April 1998 von Fr. 1'465.-- nicht missbräuchlich sei.
Die Beklagten schliessen auf Abweisung der Berufung.

Das Bundesgericht zieht in Erwägung:
1.- Nach Art. 269 OR sind Mietzinse insbesondere missbräuchlich, wenn damit ein übersetzter Ertrag der Mietsache erzielt wird. Massgebend ist der - im Rahmen der absoluten Methode errechnete - Nettoertrag. Dieser entspricht der Verzinsung des in die Mietliegenschaft investierten Eigenkapitals und ist bis zur Missbrauchsgrenze von einem halben Prozent über dem Zinssatz für erste Hypotheken der schweizerischen Grossbanken zulässig (<ref-ruling> E. 6a S. 174; <ref-ruling> E. 3a). Die Nettorendite ergibt sich aus dem Verhältnis zwischen den in die Mietliegenschaft investierten Eigenmitteln und dem Mietzins nach Abzug der Fremdkapitalkosten sowie der Verwaltungs-, Betriebs- und Unterhaltskosten (<ref-ruling> E. 2b S. 423). Die Nettoertragsrechnung beruht auf den tatsächlichen Aufwendungen sowohl bei der Ermittlung der Anlagekosten - soweit diese nicht übersetzt sind - wie bei den Finanzierungs-, Verwaltungs-, Unterhalts- und Betriebskosten. Da die tatsächlichen Kosten für Fremdkapital, Unterhalt und Betrieb veränderlich sind, vermag die Nettoertragsrechnung keine längerfristige Aussage abzugeben, sondern sie bildet eine blosse "Momentaufnahme" (Lachat, le bail à loyer, Lausanne 1997, S. 281 Rz. 1.4; Higi, Zürcher Kommentar, N. 64 zu Art. 269 OR).
a) Zu den Anlagekosten gehören die tatsächlichen Aufwendungen für die Erstellung oder den Erwerb des Mietobjekts mit Einschluss der Kosten, die beim Erwerb der Liegenschaft anfallen, wie Handänderungssteuern und Notariats- sowie Grundbuchgebühren. Die Frage, ob auch Mäklerprovisionen im Zusammenhang mit dem Erwerb der Liegenschaft dazu gehören, wird in der Lehre unterschiedlich beantwortet (dafür: Higi, a.a.O., N. 178 zu Art. 269 OR; SVIT-Kommentar Mietrecht II, N. 8 zu Art. 269 OR; dagegen: Lachat/Stoll/Brunner, Mietrecht, 4. Auflage, S. 287 Fn. 22; Beat Gut, Angemessener Ertrag, in Mietrechtspraxis 1996, S. 188 Fn. 41).
Diese Frage braucht hier indessen weder erörtert noch entschieden zu werden. Die Vorinstanz hat die dem Kläger von der Projekta AG in Rechnung gestellte Mäklerprovision von Fr. 30'000.-- nicht als echten Aufwand qualifiziert, weil der Kläger mit der Mäklerin identisch sei. Nach ihren Feststellungen ist der Kläger Präsident und Geschäftsführer der Projekta AG sowie deren Hauptaktionär; in der Projekta AG arbeite einzig noch die Tochter des Klägers. Dem liegt die rechtlich zutreffende Auffassung zugrunde, dass kein echter Aufwand im Zusammenhang mit dem Erwerb des Mietobjekts vorliegt, wenn der Erwerber selbst die Geschäfte besorgt, die gemäss Art. 412 OR Gegenstand des Mäklervertrages bilden. So verhielt es sich hier aber nach den für das Bundesgericht gemäss Art. 63 Abs. 2 OG verbindlichen tatsächlichen Feststellungen der Vorinstanz. Die Behauptung des Klägers, nicht er als Geschäftsführer der Projekta AG, sondern seine Tochter habe die Mäklertätigkeit ausgeübt, ist nicht erheblich und im Übrigen neu und daher unzulässig (Art. 55 Abs. 1 lit. c OG). Die Vorinstanz hat somit kein Bundesrecht verletzt, wenn sie die Mäklerprovision bei der Berechnung der Anlagekosten nicht berücksichtigt hat.
b) Als Unterhaltskosten sind die Aufwendungen in Abzug zu bringen, welche dem Vermieter für die Instandhaltung des Mietobjekts zum vorausgesetzten Gebrauch entstehen (Higi, a.a.O., N. 81 zu Art. 269 OR; Lachat/Stoll/Brunner, a.a.O., S. 299 N. 6.2). Sie können berücksichtigt werden, sobald die Arbeiten ausgeführt und vom Vermieter bezahlt sind, wie das Bundesgericht schon für das insoweit dem geltenden entsprechende alte Recht entschieden hat (<ref-ruling> E. 3c/aa, S. 84; kritisch Higi, a.a.O., N. 90 zu Art. 269 OR). Um die Zufälligkeiten anfallender Unterhaltsarbeiten auszugleichen, ist auf die durchschnittlichen Aufwendungen der letzten fünf - eventuell mindestens drei - Jahre abzustellen (<ref-ruling> E. 3c/bb S. 85; Higi, a.a.O., N. 88 zu Art. 269 OR; SVIT-Kommentar, N. 27 zu Art. 269 OR; Lachat/Stoll/Brunner, a.a.O., S. 302 N. 6.5). Ausserordentlich hohe Unterhaltskosten sind auf die Lebensdauer der damit finanzierten Einrichtungen zu verteilen. Die entsprechenden Teilbeträge können jährlich bis zur vollständigen Amortisation in die Unterhaltsrechnung eingestellt werden und sind mit 5 % auf dem jeweils noch nicht amortisierten Restbetrag zu verzinsen (vgl. BGE vom 26. Juli 1995 E. 4 abgedruckt in mietrechtspraxis 1996 S. 140 ff.; Lachat, a.a.O., S. 293 f Rz. 6.5; zum alten Recht: Corboz, Le loyer abusif au sens de l'AMSL, in Baurecht 1982 S. 32).
Auf der Grundlage dieser Rechtsprechung ist der Entscheid der Vorinstanz jedenfalls im Ergebnis bundesrechtskonform.
Deren Ansicht, dass Unterhaltskosten, die im Rahmen von umfassenden Renovationen anfallen, überhaupt nicht in Rechnung gestellt werden können, wird allerdings mit der Berufung zu Recht kritisiert. Das lässt sich nicht mit der Praxis vereinbaren, wonach Pauschalen für die Amortisation des Gebäudes und Rückstellungen für künftigen Unterhalt nicht zulässig sind (<ref-ruling> E. 3c/aa). Da aber allein tatsächlich bereits angefallene Unterhaltskosten in Rechnung gestellt werden dürfen, ist anderseits daran festzuhalten, dass auch ausserordentliche Unterhaltsaufwendungen im Rahmen umfassender Renovationen erst dann berücksichtigt werden können, wenn sie bezahlt sind. Damit steht der Hauptantrag des Klägers im Widerspruch, nach welchem die erste Jahresamortisation schon für eine Zeitspanne vor der tatsächlichen Ausführung des Unterhalts und der Bezahlung der entsprechenden Arbeiten in Abzug zu bringen oder ausserordentliche Unterhaltskosten separat - und damit nicht eigentlich als Unterhaltskosten - zu berücksichtigen sind.
Schliesslich beruht die dem Eventualantrag zu Grunde gelegte Berechnung auf einer Vermengung von Anlagekosten einerseits und Unterhaltskosten anderseits, welche mit dem geltenden Modell der Berechnung des Nettoertrags nicht vereinbar ist.
Aufgeschobener Unterhalt, der im Rahmen einer umfassenden Sanierung nachgeholt wird, bleibt Unterhalt und ist als solcher in die Rechnung zu stellen. Dabei ist erforderlich, aber auch hinreichend, dass den entsprechenden Besonderheiten durch Schätzung des Unterhaltsanteils einerseits und durch die Amortisation und Verzinsung von ausserordentlich hohen Unterhaltskosten anderseits Rechnung getragen wird.
2.- Aus diesen Gründen ist die Berufung abzuweisen und der angefochtene Entscheid zu bestätigen.
Dem Ausgang des Verfahrens entsprechend ist die Gerichtsgebühr dem Kläger aufzuerlegen (Art. 156 Abs. 1 OG).
Er hat die Beklagten für das bundesgerichtliche Verfahren zu entschädigen (Art. 159 Abs. 1 und 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen und der Beschluss des Obergerichts des Kantons Zürich (II. Zivilkammer) vom 21. August 2000 bestätigt.
2.- Die Gerichtsgebühr von Fr. 2'000.-- wird dem Kläger auferlegt.
3.- Der Kläger hat die Beklagten für das bundesgerichtliche Verfahren mit insgesamt Fr. 2'500.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich (II. Zivilkammer) schriftlich mitgeteilt.
_
Lausanne, 24. Januar 2001
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: