Sachverhalt:
A. Mit schriftlichem Vertrag vom 4./7. März 1997 vermietete A._ (Beschwerdeführer) B. und C. X._ (Beschwerdegegner) per 1. April 1997 eine 4-Zimmerwohnung mit Keller- und Estrichabteil in der Liegenschaft Y._strasse in Z._. Mit amtlichen Formularen vom 5. Juni 2007 kündigte der Beschwerdeführer den Mietvertrag fristgerecht auf den 30. September 2007 mit der Begründung "umfassende Renovation der Wohnung".
B. Die von den Beschwerdegegnern am 3. Juli 2007 angerufene zuständige paritätische Schlichtungsbehörde in Mietsachen erklärte die Kündigung am 23. Oktober 2007 für ungültig. Das hierauf mit der Sache befasste Mietgericht des Bezirks Zürich erachtete jedoch die Kündigung vom 5. Juni 2007 mit Urteil vom 18. Februar 2009 für gültig und erstreckte das Mietverhältnis definitiv um drei Jahre bis zum 30. September 2010. Auf Berufung der Beschwerdegegner stellte indessen die II. Zivilkammer des Obergerichts des Kantons Zürich am 13. August 2009 fest, dass die Kündigung des Mietverhältnisses per 30. September 2007 ungültig sei. Gegen diesen Beschluss hat der Beschwerdeführer kantonale Nichtigkeitsbeschwerde erhoben, welche das Kassationsgericht des Kantons Zürich mit Zirkulationsbeschluss vom 13. August 2010 abwies, soweit es darauf eintrat.
C. Der Beschwerdeführer beantragt dem Bundesgericht mit Beschwerde in Zivilsachen, es sei der Beschluss des Obergerichts des Kantons Zürich, II. Zivilkammer, vom 13. August 2009 vollumfänglich aufzuheben, und es sei die Gültigkeit der Kündigung vom 5. Juni 2007 auf den 30. September 2007 zu erkennen. Dementsprechend sei der Entscheid des Mietgerichts Zürich vom 18. Februar 2009 zu bestätigen.
Die Beschwerdegegner schliessen auf vollumfängliche Abweisung der Beschwerde, eventuell auf Rückweisung der Sache zur Neubeurteilung an die Vorinstanz. Subeventuell sei den Beschwerdegegnern eine Auszugsfrist von einem Jahr ab Zustellung des bundesgerichtlichen Entscheids einzuräumen. Die Vorinstanz hat auf Vernehmlassung verzichtet.

Erwägungen:
1. 1.1 Nach <ref-law> beginnt die Beschwerdefrist, wenn der Entscheid eines oberen kantonalen Gerichts mit einem Rechtsmittel, das nicht alle Rügen nach den Artikeln 95-98 zulässt, bei einer zusätzlichen kantonalen Gerichtsinstanz angefochten worden ist, erst mit der Eröffnung des Entscheids dieser Instanz. Die innert 30 Tagen seit Eröffnung des Kassationsgerichtsentscheids eingereichte Beschwerde gegen das Urteil des Obergerichts ist somit als rechtzeitig zu qualifizierten (<ref-ruling> E. 1.1 S. 93 f.).
1.2 Aus dem Erfordernis der Letztinstanzlichkeit gemäss <ref-law> ergibt sich, dass der kantonale Instanzenzug für die Rügen, die dem Bundesgericht vorgetragen werden, ausgeschöpft sein muss (<ref-ruling> E. 1.3 S. 527 mit Hinweisen). Der angefochtene Beschluss des Obergerichts ist daher nur soweit letztinstanzlich, als die vor Bundesgericht erhobenen Rügen dem Zürcher Kassationsgericht als höchster kantonaler Instanz nicht unterbreitet werden konnten (<ref-ruling> E. 1.1 S. 93 f.). Dies trifft bezüglich der Rüge der Verletzung von materiellem Bundeszivilrecht zu (Urteil 4A_398/2008 vom 18. Dezember 2008, E. 1.2.2).
1.3 Die Vorinstanz kam nach einlässlicher Beweiswürdigung zum Schluss, der behauptete Kündigungsgrund der umfassenden Sanierung der Wohnung sei nicht glaubhaft gemacht. Der Beschwerdeführer kritisiert vor Bundesgericht diese Beweiswürdigung, die er für unhaltbar hält. Diese Rügen konnte der Beschwerdeführer dem Kassationsgericht unterbreiten (<ref-law>/ZH). Dies hat er denn auch getan. Mit Bezug auf die vom Beschwerdeführer gegen die Beweiswürdigung der Vorinstanz erhobenen Rügen erweist sich der angefochtene Entscheid des Obergerichts daher nicht als letztinstanzlich im Sinne von <ref-law>, weshalb die Beschwerde in Zivilsachen insoweit nicht zulässig ist. Den Entscheid des Kassationsgerichts lässt der Beschwerdeführer unangefochten. Dessen Erwägungen können daher nicht überprüft werden.
2. 2.1 Als Verstoss gegen <ref-law> rügt der Beschwerdeführer, es sei ihm das Recht auf Beweis verweigert worden, indem auf die Zeugenaussagen von D._ und E._ verzichtet worden sei. Damit sei ihm verunmöglicht worden, zu beweisen, dass der Umbaubeschrieb vor dem darauf erscheinenden Datum geschaffen worden sei und dass die Kenntnisse von D._ aus früherer Bautätigkeit in der Mietliegenschaft für den Umbaubeschrieb ausgereicht hätten.
2.2 Auch diese Rüge läuft auf eine unzulässige Kritik an der (vorweggenommenen) Beweiswürdigung des Obergerichts hinaus. Das Obergericht ging sinngemäss davon aus, auch bei einer allfälligen Bestätigung des geltend gemachten frühen Planungsbeginns und des Vorliegens einer mündlichen Kostenschätzung durch die vom Beschwerdeführer angebotenen Zeugen würde sich nichts daran ändern, dass mit Blick auf die übrigen vorhandenen Indizien das behauptete Renovationsvorhaben als nicht glaubhaft erscheine. Einer derartigen antizipierten Beweiswürdigung steht <ref-law> nicht entgegen (<ref-ruling> E. 5.4 S. 601 f. mit Hinweisen).
3. Insgesamt erweist sich die Beschwerde aus den dargelegten Gründen als unbegründet und ist abzuweisen, soweit überhaupt darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird der Beschwerdeführer für das bundesgerichtliche Verfahren kosten- und entschädigungspflichtig.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegner für das bundesgerichtliche Verfahren mit insgesamt Fr. 5'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 23. November 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Gelzer