Sachverhalt:
A.
A.a. Mit Mietvertrag vom 11. August 2000 vermietete Familie A._ eine 3,5 Zimmerwohnung in U._ an die Eheleute B._ (Mieter 1, Beschwerdegegner 1) und C._ (Mieterin 2, Beschwerdegegnerin 2). Im Rahmen einer Erbteilung wurde A._ (Vermieter, Beschwerdeführer) Alleineigentümer der vermieteten Liegenschaft und trat als solcher in das Mietverhältnis ein.
A.b. Mit Schreiben und amtlich genehmigtem Formular vom 5. November 2018 kündigte der Vermieter den Mietern per 31. März 2019 "wegen fortgesetzten Nachtruhestörungen, trotz mehrfache r mündliche r u. schriftliche r Abmahnungen ". Die Mieterin 2 zog am 3. April 2019 aus der gemieteten Wohnung aus, während der Mieter 1 darin verblieb und bis heute dort wohnt.
A.c. Nachdem der Vermieter beim Einzelgericht des Bezirksgerichts Dietikon ein erstes Ausweisungsbegehren im summarischen Verfahren anhängig gemacht hatte und dieses erstinstanzlich gutgeheissen worden war, hob das Obergericht des Kantons Zürich den entsprechenden Entscheid mit Urteil vom 14. August 2019 auf und trat auf das Gesuch nicht ein. Es erwog im Wesentlichen, das Kündigungsdatum sei nicht im amtlichen Formular selbst, sondern nur in einem Begleitschreiben genannt worden.
A.d. In der Folge wiederholte der Vermieter seine Kündigung mit Schreiben und amtlich genehmigtem Formular vom 26. August 2019, in dem er explizit - namentlich in Bezug auf den Kündigungsgrund - auf sein Begleitschreiben und seine Kündigung vom 5. November 2018 verwies. Die Kündigung sprach er auf den 31. März 2020 aus. Diese Kündigung wurde der Mieterin 2 am 27. August 2019 und dem Mieter 1 am 14. September 2019 zugestellt.
A.e. Am 14. Oktober 2019 sprach der Vermieter zudem eine Zahlungsverzugskündigung per 30. November 2019 aus. Diese focht der Mieter 1 bei der zuständigen Schlichtungsbehörde an. Anlässlich der Schlichtungsverhandlung vom 9. Januar 2020 schlossen der Mieter 1 und der Vermieter einen Vergleich mit Widerrufsvorbehalt. Darin hielten sie fest, dass sowohl die per 31. März 2020 ausgesprochene Kündigung als auch die Zahlungsverzugskündigung per 30. November 2019 gültig seien. Sie vereinbarten, dass der Vermieter dem Mieter 1 das Mietverhältnis bis zum 31. März 2020 erstrecke, dieser sich demgegenüber verpflichte, das Mietobjekt auf diesen Zeitpunkt hin ordnungsgemäss zurückzugeben. Dieser Vergleich widerrief der Mieter 1 innert Frist, worauf ihm die Klagebewilligung erteilt wurde. Er erhob daraufhin eine entsprechende Klage zur Anfechtung der Zahlungsverzugskündigung.
B.
Mit Eingabe vom 3. April 2020 machte der Vermieter ein zweites Ausweisungsbegehren im summarischen Verfahren gemäss <ref-law> beim Einzelgericht des Bezirksgerichts Dietikon anhängig. Sowohl der Mieter 1 als auch die Mieterin 2 widersetzten sich dem Ausweisungsbegehren. Mit Urteil vom 6. Juli 2020 hiess das Einzelgericht das Ausweisungsgesuch gut und verpflichtete den Mieter 1 und die Mieterin 2, die gemietete Wohnung unverzüglich zu räumen und dem Vermieter ordnungsgemäss zu übergeben, unter Androhung der Zwangsvollstreckung im Unterlassungsfall.
Dagegen erhoben der Mieter 1 und die Mieterin 2, je separat und rechtzeitig, Berufung beim Obergericht des Kantons Zürich. Mit Verfügung vom 20. August 2020 wurden die beiden Berufungsverfahren vereinigt. Mit Urteil und Beschluss vom 16. Oktober 2020 hiess das Obergericht die Berufungen gut, hob das Urteil des Einzelgerichts auf, und trat auf das Ausweisungsbegehren des Vermieters nicht ein.
C.
Mit Beschwerde in Zivilsachen vom 20. November 2020 beantragt der Vermieter dem Bundesgericht, das angefochtene Urteil des Obergerichts sei kostenfällig aufzuheben und der Entscheid der Erstinstanz sei zu bestätigen. Eventualiter sei die Angelegenheit zu neuer Entscheidung an das Obergericht zurückzuweisen. Der Beschwerdegegner 1 beantragt (als Anwalt in eigener Sache), auf die Beschwerde sei nicht einzutreten und das vorinstanzliche Urteil und der Beschluss des Obergerichts seien zu bestätigen. Die Beschwerdegegnerin 2 beantragt, auf die Beschwerde sei nicht einzutreten (Ziff. 1). Eventualiter sei sie abzuweisen und das Urteil des Obergerichts zu bestätigen (Ziff. 2). Die Vorinstanz hat auf Vernehmlassung verzichtet.

Erwägungen:
1.
1.1. Die Beschwerde hat ein Rechtsbegehren zu enthalten (<ref-law>). Da die Beschwerde an das Bundesgericht ein reformatorisches Rechtsmittel ist (<ref-law>), darf sich der Beschwerdeführer grundsätzlich nicht darauf beschränken, die Aufhebung des angefochtenen Entscheids zu beantragen, sondern er muss einen Antrag in der Sache stellen (<ref-ruling> E. 1.3 S. 383; <ref-ruling> E. 3.1 S. 489 f.).
Die Beschwerdegegnerin 2 macht geltend, der Beschwerdeführer fordere die Bestätigung des erstinstanzlichen Urteils, bestätigen könne das Bundesgericht aber nur das vorinstanzliche Urteil, weshalb formal nur ein Antrag auf Aufhebung des vorinstanzlichen Urteils, ohne weitere Anträge in der Sache, vorliege.
Der Beschwerdeführer fordert in seinem Hauptantrag, "der Entscheid der Erstinstanz (Bezirksgericht Dietikon) [sei] zu bestätigen". Aus diesem Rechtsbegehren zusammen mit der Begründung lässt sich mit hinreichender Klarheit entnehmen, was gewollt ist: Er fordert die Ausweisung der Beschwerdegegner aus der streitgegenständlichen Wohnung, wie sie ihm in den Dispositivziffern 1 und 2 des erstinstanzlichen Entscheids gewährt worden ist. Die Beschwerdegegnerin 2 führt denn auch selbst aus, mittelbar könne geschlossen werden, dass er die Bestätigung der erstinstanzlich gestellten Gesuchsbegehren fordere, soweit die Erstinstanz diesen entsprochen habe. Das Hauptbegehren des Beschwerdeführers ist somit hinreichend klar.
1.2. Die übrigen Sachurteilsvoraussetzungen der Beschwerde in Zivilsachen sind erfüllt und geben zu keinen Bemerkungen Anlass. Unter Vorbehalt einer rechtsgenüglichen Begründung (Art. 42 Abs. 2 und <ref-law>) ist daher auf die Beschwerde einzutreten.
2.
Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es prüft aber unter Berücksichtigung der allgemeinen Begründungsanforderungen (Art. 42 Abs. 1 und 2 BGG) grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 2 S. 88 f., 115 E. 2 S. 116).
3.
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 S. 17 f. mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117, 264 E. 2.3 S. 266). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein können (<ref-law>).
Für eine Kritik am festgestellten Sachverhalt gilt das strenge Rügeprinzip von <ref-law> (<ref-ruling> E. 2.3 S. 266 mit Hinweisen). Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern die genannten Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (<ref-ruling> E. 2 S. 90). Genügt die Kritik diesen Anforderungen nicht, können Vorbringen mit Bezug auf einen Sachverhalt, der vom angefochtenen Entscheid abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18).
4.
Das Gericht gewährt nach <ref-law> Rechtsschutz im summarischen Verfahren, wenn der Sachverhalt unbestritten oder sofort beweisbar ist (lit. a) und die Rechtslage klar ist (lit. b). Mit Blick darauf, dass ein Urteil, mit dem nach <ref-law> Rechtsschutz gewährt wird, der materiellen Rechtskraft fähig ist, wird von der gesuchstellenden Partei verlangt, dass sie sofort den vollen Beweis für die anspruchsbegründenden Tatsachen erbringt, so dass klare Verhältnisse herrschen (<ref-ruling> E. 3.2 S. 26; <ref-ruling> E. 5.1.1 S. 622 f.). Eine klare Rechtslage ist gegeben, wenn sich die Rechtsfolge bei der Anwendung des Gesetzes unter Berücksichtigung der Lehre und Rechtsprechung ohne Weiteres ergibt und damit die Rechtsanwendung zu einem eindeutigen Ergebnis führt. Dagegen ist die Rechtslage in der Regel nicht klar, wenn die Anwendung einer Norm einen Ermessens- oder Billigkeitsentscheid des Gerichts mit wertender Berücksichtigung der gesamten Umstände erfordert (<ref-ruling> E. 3.2 S. 26; <ref-ruling> E. 2.1.2 S. 126 mit Hinweisen).
Soweit die Gültigkeit der Kündigung des Mietvertrags im Ausweisungsverfahren als Vorfrage zu beurteilen ist, beziehen sich die Voraussetzungen von <ref-law> auch darauf. Sind sie nicht erfüllt, ist kein Rechtsschutz in klaren Fällen zu gewähren; auf das Gesuch ist diesfalls nach <ref-law> nicht einzutreten (<ref-ruling> E. 3.2 S. 265). Damit das vom Gesetzgeber mit Art. 243 Abs. 2 lit. c i.V.m. <ref-law> für den mietrechtlichen Kündigungsschutz verfolgte Ziel nicht über den Rechtsschutz in klaren Fällen unterlaufen werden kann, ist dieser nur zu gewähren, wenn keine Zweifel an der Vollständigkeit der Sachverhaltsdarstellung bestehen und die Kündigung gestützt darauf als klar berechtigt erscheint (<ref-ruling> E. 2.2.4 S. 518 mit Hinweis).
5.
Umstritten ist (vorfrageweise) die Gültigkeit der Kündigung vom 26. August 2019 und damit zusammenhängend, ob diese als ordentliche oder ausserordentliche Kündigung zu qualifizieren ist.
5.1.
5.1.1. Die Vorinstanz erwog, es könne letztlich offenbleiben, ob die Kündigung vom 26. August 2019 als ordentliche oder aber als ausserordentliche Kündigung im Sinne von <ref-law> habe verstanden werden müssen. Das diesbezügliche Auslegungsergebnis (vgl. hiernach E. 5.1.2) könne jedenfalls nicht als klar im Sinne von <ref-law> betrachtet werden. Liege eine ausserordentliche Kündigung vor, was bei einer summarischen Betrachtung ohne Weiteres als möglich erscheine, so wäre es am Beschwerdeführer gewesen, die geltend gemachten Pflichtverletzungen substanziiert zu behaupten und - soweit bestritten - durch sofort liquide Beweismittel gemäss <ref-law> zu beweisen; dies habe er offenkundig nicht getan. Sei die Kündigung aber als ausserordentliche Kündigung zu qualifizieren und sei ein entsprechender ausserordentlicher Kündigungsgrund nicht dargetan, so sei sie nichtig und könne insbesondere nicht in eine ordentliche Kündigung umgedeutet werden. Dass das Mietverhältnis gestützt auf die Zahlungsverzugskündigung vom 14. Oktober 2019 beendigt worden wäre, mache er nicht (hinreichend) geltend. Der Ausweisungsanspruch sei nicht ausgewiesen.
5.1.2. Hinsichtlich der Auslegung der Kündigungserklärung erwog die Vorinstanz, die Beschwerdegegner hätten nicht (hinreichend) behauptet, dass der Beschwerdeführer tatsächlich den Willen gehabt habe, das Mietverhältnis ausserordentlich zu kündigen. Ebenso wenig habe dieser (hinreichend) behauptet, die Beschwerdegegner hätten die Kündigung tatsächlich als ordentliche Kündigung verstanden. Abzustellen sei damit auf eine objektive Auslegung der Kündigungserklärung nach dem Vertrauensprinzip.
Dem Wortlaut der Kündigung vom 26. August 2019 lasse sich nicht unmittelbar entnehmen, ob der Beschwerdeführer ordentlich oder ausserordentlich (gemäss <ref-law>) habe kündigen wollen. Er verweise jedoch explizit auf seine (nichtige) Kündigung vom 5. November 2018, wobei er klargestellt habe, dass sich am Kündigungsgrund nichts ändere. In seinem Begleitschreiben zur Kündigung vom 5. November 2018 habe er diese als eine "Kündigung wegen fortgesetzten Nachtruhestörungen trotz mündlicher und schriftlicher Abmahnung" bezeichnet. Dabei habe er verschiedene Pflichtverletzungen geltend gemacht und diesbezüglich auf sein Schreiben vom 25. September 2018 verwiesen. Darin habe er zahlreiche Ruhestörungen bemängelt und sinngemäss im Wiederholungsfall die Kündigung angedroht. Dieses Schreiben habe aus Sicht der Beschwerdegegner nach Treu und Glauben nur dahingehend verstanden werden können, dass er sie im Hinblick auf <ref-law> schriftlich habe abmahnen wollen. Insbesondere sein Hinweis, wonach der Brief reine Formsache sei, damit die mietrechtlichen Formen eingehalten würden, könne vernünftigerweise nur so verstanden werden. Wenn er kurze Zeit später und unter explizitem Verweis auf dieses Schreiben mit der Begründung der mehrfachen Nachtruhestörung kündige, so hätten sie davon ausgehen müssen, er stütze seine (nichtige) Kündigung vom 5. November 2018 auf den ausserordentlichen Beendigungsgrund. Daran ändere nichts, dass er letztlich trotzdem auf den ordentlichen Kündigungstermin vom 31. März 2019 zu kündigen beabsichtigt habe. Zum einen handle es sich bei der ausserordentlichen Kündigungsfrist gemäss <ref-law> nur um eine Mindestfrist, die freiwillig verlängert werden könne, zum anderen begründe er die längere Kündigungsfrist damit, dass die Beschwerdegegner lange im Mietobjekt gewohnt hätten.
Nach Treu und Glauben habe deshalb auch die vorliegend strittige Kündigung vom 26. August 2019 grundsätzlich als ausserordentliche Kündigung verstanden werden müssen. Damit stehe freilich die Erklärung des Beschwerdeführers im Widerspruch, dass ihm, "da der mit der nichtigen Kündigung vom 5. November 2018 gewählte Beendigungstermin des Mietverhältnisses vom 31. März 2019 inzwischen längstens verstrichen [sei]", "nichts anderes übrig [bleibe], als die Kündigung heute in Nachachtung der vereinbarten Fristen und Termine auf den 31. März 2020 auszusprechen". Wenn er aber unmittelbar nach diesen Ausführungen klarstelle, dass sich abgesehen vom Kündigungstermin "gegenüber der am 5. November 2018 ausgesprochenen Kündigung [nichts ändere] insbesondere nicht am Kündigungsgrund" und umfassend auf das damalige Begleitschreiben verweise, hätten die Beschwerdegegner nicht ohne Weiteres davon ausgehen müssen, es handle sich bei der zweiten Kündigung nunmehr um eine ordentliche Kündigung.
5.2. Der Beschwerdeführer beanstandet das vorinstanzliche Auslegungsergebnis. Es sei klar, dass es sich bei der Kündigung vom 26. August 2019 per 31. März 2020 um eine ordentliche Kündigung gehandelt habe. Dem Wortlaut dieser Kündigung lasse sich ohne Weiteres - aufgrund des klaren Hinweises, dass sie unter Einhaltung der vertraglichen Termine und Fristen erfolge - entnehmen, dass eine ordentliche Kündigung ausgesprochen worden sei. Die Kündigung sei rund 7 Monate im Voraus auf den ordentlichen Beendigungstermin ausgesprochen worden und habe von den Beschwerdegegnern nach Treu und Glauben nur als ordentliche Kündigung aufgefasst werden dürfen. Entgegen der Vorinstanz sei unzweifelhaft, dass er bereits mit der (nichtigen) Kündigung vom 5. November 2018 eine ordentliche Kündigung habe aussprechen wollen. Es sei lebensfremd, davon auszugehen, er habe am 5. November 2018 eine ausserordentliche Kündigung per 31. März 2019 aussprechen wollen, zumal für eine ausserordentliche Kündigung gerade die Unzumutbarkeit der Fortführung des Mietverhältnisses vorausgesetzt sei. Aus diesem Grund sei auch der vorinstanzliche Hinweis nicht einschlägig, bei der ausserordentlichen Kündigungsfrist gemäss <ref-law> handle es sich um eine Mindestfrist, die verlängert werden könne. Würde die Mindestfrist um Monate verlängert, erschiene die Unzumutbarkeit fraglich. Eine Kündigung sei als ordentliche zu behandeln, sofern sich nicht aus der Kündigungserklärung klarerweise eine ausserordentliche Beendigung ableiten lasse.
5.2.1. Für die Auslegung einseitig empfangsbedürftiger Willenserklärungen ist <ref-law> analog anwendbar (<ref-ruling> E. 2b S. 329; <ref-ruling> E. 3c S. 10; Urteile 4A_633/2017 vom 23. Mai 2018 E. 2.3; 4A_321/2017 vom 16. Oktober 2017 E. 4.3). Entsprechend bestimmt sich der Inhalt der Erklärung in erster Linie nach dem wirklichen Willen des Erklärenden, wenn ihn der Empfänger tatsächlich erkannt hat (zit. Urteile 4A_633/2017 E. 2.3 und 4A_321/2017 E. 4.3). Kann dies nicht festgestellt werden, ist die Erklärung nach dem Vertrauensprinzip so auszulegen, wie sie vom Empfänger nach ihrem Wortlaut und Zusammenhang sowie den gesamten Umständen verstanden werden durfte und musste. Das Bundesgericht überprüft diese objektivierte Auslegung von Willenserklärungen als Rechtsfrage, wobei es an Feststellungen des kantonalen Richters über die äusseren Umstände sowie das Wissen und Wollen der Beteiligten grundsätzlich gebunden ist (vgl. <ref-ruling> E. 5.2.3 S. 99; <ref-ruling> E. 2.2.1 S. 67).
5.2.2. Soweit der Beschwerdeführer geltend macht, die Vorinstanz hätte einen tatsächlichen Willen dahingehend feststellen müssen, dass die Beschwerdegegner die Kündigung als ordentliche Kündigung verstanden hätten, genügt er den Anforderungen an eine Willkürrüge (vgl. hiervor E. 3) nicht. Er zeigt namentlich nicht auf, dass er die von ihm geltend gemachten Behauptungen prozesskonform ins Verfahren eingebracht hat. Zu prüfen ist somit die vorinstanzliche Auslegung der Kündigungserklärung nach dem Vertrauensprinzip.
5.2.3. Die Beschwerdegegnerin 2 geht davon aus, dass im Falle eines Auslegungsstreits die Voraussetzungen von <ref-law> nicht erfüllt seien. Sie macht insbesondere geltend, es dürfe vermutet werden, dass der Beschwerdeführer gar kein Interesse daran gehabt habe, in seinem Ausweisungsgesuch den Auslegungsstreit über die Qualifikation der Kündigung offenzulegen, da er sonst selbst die Voraussetzungen für das Summarverfahren hätte verneinen müssen.
Gemäss der bundesgerichtlichen Rechtsprechung ist die Rechtslage in der Regel nicht klar, wenn die Anwendung einer Norm einen Ermessens- oder Billigkeitsentscheid des Gerichts mit wertender Berücksichtigung der gesamten Umstände erfordert (<ref-ruling> E. 3.2 S. 26; vgl. hiervor E. 4). Als Beispiel wurde dabei die Beurteilung von Treu und Glauben angeführt (vgl. BGE <ref-ruling> E. 2.1.2 S. 126; Urteil 4A_273/2012 vom 30. Oktober 2012 E. 5.1.2, nicht. publ. in: BGE <ref-ruling>).
Für die auf den Grundsatz von Treu und Glauben abgestützte Auslegung von Verträgen nach dem Vertrauensprinzip ist die beispielhafte Erwähnung der Beurteilung von Treu und Glauben in der genannten Rechtsprechung aber nicht so zu verstehen, dass ein klarer Fall in rechtlicher Hinsicht stets verneint werden muss, sobald ein Vertrag nach dem Vertrauensprinzip auszulegen ist. Ergibt sich in Anwendung des Vertrauensprinzips der Inhalt einer vertraglichen Regelung eindeutig und klar, ist es dem Gericht nicht verwehrt, klares Recht zu bejahen. Insoweit ist es nicht ausgeschlossen, im Verfahren nach <ref-law> Verträge nach dem Vertrauensprinzip auszulegen (Urteil 4A_185/2017 vom 15. Juni 2017 E. 5.4 mit Literaturhinweisen). Das Gesagte gilt auch für die Auslegung von einseitig empfangsbedürftigen Willenserklärungen.
Es ist somit zu prüfen, ob sich vorliegend - entgegen der Vorinstanz - der Inhalt bzw. die Qualifikation der strittigen Kündigungserklärung vom 26. August 2019 aufgrund einer Auslegung nach dem Vertrauensprinzip eindeutig und klar ergibt.
5.2.4. Die Vorinstanz stützt sich in ihrer Auslegung betreffend die strittige Kündigung vom 26. August 2019 massgeblich auf die Qualifikation der ersten (nichtigen) Kündigung vom 5. November 2018 als ausserordentliche Kündigung. Es ist somit vorab auf die vorinstanzliche Argumentation hinsichtlich dieser Kündigung einzugehen.
Die Vorinstanz führt zwar aus, es sei nicht zu übersehen, dass der Umstand, ob die Kündigung auf den ordentlichen oder auf einen früheren Kündigungstermin erklärt werde, bei der Auslegung der Kündigungserklärung von Bedeutung sein könne, sie misst diesem Umstand aber angesichts der Kündigungsbegründung keine entscheidende Bedeutung zu. Der Beschwerdeführer macht aber zu Recht geltend, es sei nicht davon auszugehen, dass er am 5. November 2018 eine ausserordentliche Kündigung per 31. März 2019 habe aussprechen wollen. Auch wenn es sich bei der Frist von <ref-law> um eine Mindestfrist handelt, ist eine derart massive Verlängerung der Frist nicht - jedenfalls nicht ohne Weiteres - plausibel. Denn der Beschwerdeführer würde sich bei einem solchen Vorgehen dem Vorwurf aussetzen, die Fortführung des Mietverhältnisses sei ihm ohne Weiteres zumutbar (vgl. Urteil 4A_347/2016 vom 10. November 2016 E. 3.1.2). Daran ändert auch die Begründung der Kündigung nichts. Wie die Vorinstanz selbst ausführt, nimmt die Begründung denn auch nicht explizit Bezug auf <ref-law>. Wenn der Beschwerdeführer in seiner Kündigungsbegründung angibt, er kündige wegen fortgesetzter Nachtruhestörungen trotz mehrfacher Abmahnung, und sich dabei namentlich auf das letzte Abmahnschreiben bezieht, lässt sich allein daraus nicht ableiten, er hätte eine ausserordentliche Kündigung gemäss <ref-law> aussprechen wollen. Statt einer ausserordentlichen Kündigung konnte er selbstverständlich auch eine ordentliche Kündigung aussprechen (vgl. zit. Urteil 4A_347/2016 E. 3.1.2). Es stand ihm sodann auch im Falle einer ordentlichen Kündigung frei, diese von sich aus zu begründen. Aus dem Umstand, dass der Beschwerdeführer in der Kündigungsbegründung auf die Abmahnschreiben Bezug genommen hat, lässt sich nicht ableiten, dass er eine ausserordentliche Kündigung hätte aussprechen wollen. Die Beschwerdegegner durften - aufgrund der langen Frist und dem ordentlichen Kündigungstermin - nach Treu und Glauben bereits hinsichtlich der ersten (nichtigen) Kündigung nicht auf eine ausserordentliche Kündigung schliessen.
Dies gilt erst recht für die vorliegend strittige Kündigung vom 26. August 2019 per 31. März 2020. Der Beschwerdeführer liess explizit ausführen, dass ihm "nichts anderes übrig [bleibe], als die Kündigung heute in Nachachtung der vereinbarten Fristen und Termine auf den 31. März 2020 auszusprechen". Diese Formulierung konnte offenkundig nur als Hinweis auf eine ordentliche Kündigung verstanden werden. Daher ist auch nicht ersichtlich, inwiefern eine Auslegung nach dem Vertrauensprinzip nur durch Parteibefragung möglich scheint, wie die Beschwerdegegnerin 2 geltend macht. Es verletzt daher Bundesrecht, wenn die Vorinstanz das Auslegungsergebnis betreffend die Qualifikation der strittigen Kündigung als nicht klar im Sinne von <ref-law> betrachtete. Bei der strittigen Kündigung vom 26. August 2019 handelt es sich klarerweise um eine ordentliche Kündigung.
6.
Umstritten ist weiter, ob auf das Ausweisungsbegehren auch betreffend die Beschwerdegegnerin 2 einzutreten ist.
6.1. Die Vorinstanz erwog, der Beschwerdeführer stütze sein Ausweisungsbegehren einerseits auf einen dinglichen Vindikationsanspruch (<ref-law>) und andererseits auf einen obligatorischen Rückgabeanspruch (<ref-law>).
Passivlegitimiert im Rahmen der Vindikationsklage sei jeder unrechtmässige Besitzer. Es sei unbestritten, dass die Beschwerdegegnerin 2 am 3. April 2019 aus der Mietwohnung ausgezogen sei und sie dem Beschwerdegegner 1 sämtliche Schlüssel überreicht habe. Entgegen der Erstinstanz fehle es ihr (auch) an mittelbarem Besitz. Es sei nicht ersichtlich (und werde vom Beschwerdeführer auch nicht behauptet), gestützt auf welches besondere Rechtsverhältnis der Beschwerdegegner 1 die Mietwohnung (auch) für sie besitzen solle. Vielmehr sei anzunehmen, dass er seinen unmittelbaren Besitz ausschliesslich für sich allein ausübe. Zudem fehle es ihr am Willen, (mittelbaren) Besitz an der Mietwohnung auszuüben. Eine bloss abstrakte Möglichkeit der Besitzergreifung in Zukunft genüge nicht. Soweit sich das Ausweisungsbegehren auf <ref-law> stütze und gegen die Beschwerdegegnerin 2 richte, sei es mangels Passivlegitimation unbegründet.
Hinsichtlich des obligatorischen Rückgabeanspruchs gemäss <ref-law> erwog die Vorinstanz, die Beschwerdegegner hätten den Mietvertrag gemeinsam unterzeichnet und zudem die solidarische Haftung vereinbart. Daher sei die Passivlegitimation der Beschwerdegegnerin 2 ohne Weiteres zu bejahen. Diese weise aber zu Recht (sinngemäss) darauf hin, dass sie aufgrund der Schlüsselübergabe an den Beschwerdegegner 1 und infolge des damit verbundenen definitiven Besitzverlustes letztlich gar nicht mehr in der Lage sei, den Rückgabeanspruch zu erfüllen. Damit liege eine nachträgliche subjektive (verschuldete) Unmöglichkeit vor, die einer Klage auf Realerfüllung des Primäranspruchs (vorliegend des Ausweisungsanspruchs) entgegenstehe. Der Beschwerdeführer lasse zwar ausführen, es sei nicht auszuschliessen, dass die Beschwerdegegner wieder zusammenfänden und das Zusammenleben wiederaufnehmen würden, zumal der Beschwerdegegner 1 dies selbst angedeutet habe. Diese abstrakte Möglichkeit erweise sich indessen nach der allgemeinen Lebenserfahrung als zu entfernt, um davon ausgehen zu können, es sei ihr innert absehbarer Zeit möglich, die Rückgabeschuld zu erfüllen. Ihre Mitwirkung sei für die Wohnungsübergabe nicht erforderlich und sie könne die Erfüllung des eingeklagten Primäranspruchs auch nicht bewirken. Wegen dieser zumindest auf absehbare Zeit bestehenden (tatsächlichen) Unmöglichkeit fehle es an einem unbestrittenen bzw. sofort beweisbaren Sachverhalt gemäss <ref-law>. Damit könne letztlich offenbleiben, ob das erst im Berufungsverfahren eingebrachte Novum einer eheschutzrichterlichen Bewilligung des Getrenntlebens der Beschwerdegegner bzw. einer Zuweisung der Mietwohnung an den Beschwerdegegner 1 zur alleinigen Benutzung beachtet werden könne. In diesem Fall wäre gar von rechtlicher Unmöglichkeit auszugehen.
Anzumerken bleibe schliesslich, dass die materielle Rechtskraft eines Ausweisungsentscheids in subjektiver Hinsicht grundsätzlich nur diejenigen Personen binde, die durch das entsprechende Leistungsurteil zur Wohnungsrückgabe verpflichtet würden (mit Verweis auf das Urteil 5P. 25/2007 vom 19. März 2007 E. 5.1). Insofern würden zwar die vom Beschwerdeführer geäusserten Bedenken zutreffen, dass sich eine Zwangsvollstreckung nur gegen den Beschwerdegegner 1 nicht aber gegen die Beschwerdegegnerin 2 richten könne, wenn nur das gegen Ersteren gerichtete Ausweisungsbegehren gutgeheissen würde. Wenn Letztere aber - entgegen ihren eigenen Beteuerungen - bei Gutheissung eines gegen den Beschwerdegegner 1 gerichteten Ausweisungsbegehrens vor einer Zwangsräumung in die Mietwohnung zurückkehren würde, so wäre es rechtsmissbräuchlich, wenn sie sich anschliessend darauf berufen würde, ein Ausweisungsurteil könne ihr nicht entgegenhalten werden. In diesem Falle könnte ein entsprechender Ausweisungsentscheid auch ihr gegenüber vollstreckt werden.
6.2. Der Beschwerdeführer rügt, die Vorinstanz führe zutreffend aus, dass sein obligatorischer Rückgabeanspruch gegenüber der Beschwerdegegnerin 2 trotz ihres Auszugs aus der Mietwohnung bestehen bleibe. In der Folge komme sie allerdings aus nicht nachvollziehbaren Gründen zum Schluss, es liege in Bezug auf die Beschwerdegegnerin 2 eine subjektive (verschuldete) Unmöglichkeit vor, die dem Ausweisungsanspruch entgegenstehe. Die Beschwerdegegnerin 2 habe die Möglichkeit auf die Rückgabe des Mietobjekts hinzuwirken, da sie im Rahmen des gemeinschaftlichen Mietverhältnisses noch immer am Mietvertrag berechtigt sei. Auch die vorinstanzliche Auffassung betreffend Rechtsmissbrauch im Falle eines Wiedereinzugs der Beschwerdegegnerin 2 in die streitgegenständliche Wohnung sei nicht nachvollziehbar. Das Stadtammannamt würde nicht einen Ausweisungsentscheid gegen einen Ehegatten durchsetzen, der nicht im Ausweisungsentscheid genannt sei. Damit trage er das Risiko, dass die Beschwerdegegnerin 2 wieder in die streitgegenständliche Wohnung einziehe und nicht ausgewiesen werden könne.
Die Rüge des Beschwerdeführers ist berechtigt. Auch wenn die Möglichkeit der Wiederaufnahme des Zusammenlebens vorliegend nicht als naheliegend erscheinen mag, ist es jedenfalls nicht ausgeschlossen. Zu Recht weist der Beschwerdeführer diesbezüglich darauf hin, dass das Stadtammannamt nicht einen Ausweisungsentscheid gegen einen Ehegatten durchsetzen werde, der nicht im Ausweisungsentscheid genannt ist. Würde somit das Ausweisungsbegehren nur betreffend den Beschwerdegegner 1 gutgeheissen, besteht grundsätzlich das Risiko, dass die Beschwerdegegnerin 2 wieder in die streitgegenständliche Wohnung einzieht und dann nicht ausgewiesen werden kann. Daran ändert auch das Eheschutzurteil des Bezirksgerichts Meilen vom 15. Januar 2020 nichts. Auch ist nicht ohne Weiteres ersichtlich, dass die Beschwerdegegnerin 2 zur Räumung und ordnungsgemässen Übergabe der Wohnung nichts beitragen kann. Denkbar ist etwa, dass sie ihre Schlüssel vom Beschwerdegegner 1 zurückfordert, um sie dem Beschwerdeführer zurückzugeben. Auf das Ausweisungsgesuch ist daher auch betreffend die Beschwerdegegnerin 2 einzutreten. Entgegen dem Beschwerdegegner 1 ändert daran auch der Umstand nichts, dass der Beschwerdeführer im Vergleich vom 9. Januar 2020 die Beschwerdegegnerin 2 nicht als relevant für die Ausweisung betrachtet habe, zumal es der Beschwerdegegner 1 war, der diesen Vergleich widerrufen hat. Auch kann daraus nicht auf ein widersprüchliches Verhalten des Beschwerdeführers geschlossen werden.
7.
Die Vorinstanz hat somit zu Unrecht das erstinstanzliche Urteil aufgehoben und beschlossen, auf das Ausweisungsgesuch des Beschwerdeführers nicht einzutreten. Dieses ist in Gutheissung des erstinstanzlichen Entscheids zu schützen.
8.
Nach dem Gesagten ist die Beschwerde gutzuheissen und der angefochtene Entscheid aufzuheben. Dem Verfahrensausgang entsprechend werden die Beschwerdegegner - unter solidarischer Haftbarkeit - kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Abs. 5 sowie Art. 68 Abs. 2 und 4 BGG). Die Vorinstanz wird die Kosten- und Entschädigungsfolgen des kantonalen Verfahrens neu zu regeln haben (Art. 67 und Art. 68 Abs. 5 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen und das Urteil und der Beschluss des Obergerichts des Kantons Zürich vom 16. Oktober 2020 werden aufgehoben.
Den Beschwerdegegnern wird befohlen, die 3,5 Zimmerwohnung, V._strasse xxx, U._, unverzüglich zu räumen und dem Beschwerdeführer ordnungsgemäss zu übergeben, unter Androhung der Zwangsvollstreckung im Unterlassungsfall.
Das Betreibungs- und Gemeindeammannamt U._ wird angewiesen, auf Verlangen des Beschwerdeführers diesen Befehl zu vollstrecken. Die Kosten für die Vollstreckung sind vom Beschwerdeführer vorzuschiessen. Sie sind ihm aber von den Beschwerdegegnern zu ersetzen. Die Beschwerdegegner haften solidarisch.
2.
Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdegegnern unter solidarischer Haftbarkeit auferlegt.
3.
Die Beschwerdegegner haben den Beschwerdeführer für das bundesgerichtliche Verfahren unter solidarischer Haftbarkeit mit Fr. 3'500.-- zu entschädigen.
4.
Die Sache wird zu neuer Entscheidung über die Kosten- und Entschädigungsfolgen des kantonalen Verfahrens an das Obergericht des Kantons Zürich zurückgewiesen.
5.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 26. März 2021
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Gross